问题描述
要删除前导和尾随空格,我知道您可以对数据帧使用修剪。使用RDD时是否有类似的功能?如果没有,你会怎么做?
nonNullRDD = marchRDD.filter(lambda row: row.title).filter(lambda row: row.authors)
titleRDD = nonNullRDD.map(lambda field: (field.title,field.authors))
splitRDD = titleRDD.flatMap(lambda field: [(field[0],z) for z in field[1].split(";")])
authorRDD = splitRDD.map(lambda field: [field[1],1])
test = authorRDD.flatMap(lambda word: word.strip())
解决方法
RDD 没有字符串函数
我相信您正在寻找 Python str.strip()
trimmed_words = words.map(lambda word: word.strip())