在 Azure 内容审查器中获得可疑结果 - 可解释的 AI

问题描述

我正在试验 Azure 的内容审查器,尤其是分类参数。有 3 个类别。

类别与可能不受欢迎的文本内容有关。

  • 类别 1 - 内容可能与色情或成人有关

  • Category 2 - 语言可能被视为性暗示或成熟 在某些情况下

  • 第 3 类 - 可能具有攻击性的语言

分数在 0 到 1 之间。分数越高,模型预测类别可能适用的程度就越高。

因此,出于不关心政治和好奇,我使用了唐纳德·J·特朗普 (Donald J. Trump) 和现任国家元首乔·拜登 (Joe Biden) 关于国会大厦最近发生的事件的 Facebook 帖子。

然而,我发现结果非常可疑,并且似乎无法理解为什么一个没有负面词的帖子被标记为高度(可能)令人反感,而另一个 - 带有更多带有负面含义的词 - 没有被标记为这样。

唐纳德·J·特朗普的: Post-Trump-Content-Moderator

还有乔拜登的: Post-Biden-Content-Moderator

如果有人能帮助我理解这是从哪里来的,我将不胜感激。也许这是非常简单和显而易见的事情,我只是不明白。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)