问题描述
我使用pdfminer翻译了一个pdf文件,并且意识到在几种情况下,我发现一个奇怪的非ascii 'fi'
代替了'fi'。
解决这个问题的简单方法似乎是
content=re.sub('fi','fi',content)
但是,我只能纠正问题,因为我注意到了它,值得一提的是,很难注意到它。我只注意,因为我正在用乳胶编写报告,关于由于Spacy向“强化”(带有此字符)提供的错误分类,我的代码正在执行的错误。在这一刻,我意识到dvi文件(乳胶语言的输出)失败了。当我检查它时,我意识到这两个字符“ fi”已被其他东西代替。
这似乎是一种pdf字体问题。
是否有这样的问题列表,我可以在任何nlp活动之前进行预测并自动解决?或者,也许是一种使用Spacy来检查给定单词是否未知的方法(我相信这个单词被强化后加上奇怪的替换对于空格来说是未知的)?还是要在翻译后的文本中查找非ASCII字符?
其中哪些解决方案有效?
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)