问题描述
我在pyspark中有一个数据帧(我是通过在大约160万行的分区中读取而得到的,但通常是在多个分区中读取)。
对于每个星期的数据,大约有200,000个不同的时间戳,并且每个时间戳最多具有8个不同的位置ID(x,y坐标非纬度)。在大多数情况下,会有8个位置,但是在极少数情况下,可能会有7个或6个位置。 列为Week_NUM,TS,X_COORD和Y_COORD(还有其他列,但与该问题相关的那些列)。我想查找每个时间分组中位置IDS(多边形的面积)所占用的总面积。我当时想我将使用熊猫分组地图和TS分组,然后我将拥有一个熊猫UDF,它将以某种方式为每个分组中的N行计算多边形的面积,其中每行具有X坐标和Y坐标,但是我不确定这种方法是否正确,或者不确定该函数将如何工作并产生三角形区域。另外,我不确定这是否有效。
df.groupby('WEEK_NUM','TS').applyInPandas(some_function_that_calcs_area_polygon)
some_function_that_calcs_area_polygon
将收到多达8行的每个分组,然后也许使用numpy来获取面积?
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)