带有经度和纬度列的大型 pyspark 数据框,如何根据 lon 和 lat 列快速获取带有 State 名称的新列?

问题描述

我有一个带有经度和纬度列的 pyspark 数据框,如何根据经度和纬度列获取带有州名称的新列,我使用 UDF 和 reverse_geocoder 来做到这一点,下面是我在做什么,但这是一个大数据,它似乎会永远运行。

import reverse_geocoder as rg
def getAddress(x,y):
    address = rg.search((x,y))
    state = address[0].get('admin1')
    return address
udfGetAddress = udf(getAddress,StringType())
df = df.withColumn('state',udfGetAddress(df.lat,df.lon))

我想要一种快速获得结果的方法,有人可以帮助我吗?谢谢

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

依赖报错 idea导入项目后依赖报错,解决方案:https://blog....
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下...
错误1:gradle项目控制台输出为乱码 # 解决方案:https://bl...
错误还原:在查询的过程中,传入的workType为0时,该条件不起...
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct...