假新闻和嘲笑逝者——微软的人工智能新闻聚合出了什么问题？

站长之家(ChinaZ.com) 11 月 6 日消息:最新的一篇 CNN 报道通过一些例子展示了 MSN AI 模型在新闻聚合方面的问题，如突出显示一则声称美国总统乔·拜登在为毛伊岛野火受害者默哀时打瞌睡的新闻（实际上并没有），或是一则错误地将一名 NBA 球员描述为「无用」的讣告。

如果有人类编辑参与，这些问题很可能会被发现和纠正。然而，微软的系统在几年前放弃人类的努力转而依赖算法后，更多地像是一个社会实验而不是一个有用的工具。

这些由 MSN 的 AI 选出的故事和微软声称由其算法创建并由人类审核的旅游指南一样，该指南建议渥太华的游客在当地的食品银行用餐，或是一个由 AI 创建的投票，让读者投票选择一个年轻女性为什么会去世。

当然，不仅仅是微软。AI 正在逐渐渗透到新闻业，就像它渗透到其他领域一样。BBC 正在进行 AI 实验，像 Macworld 这样的网站使用聊天机器人来查询其档案库，美联社已经使用 AI 进行其「自动洞察」超过八年。

过去一年中，由于聊天机器人发布了错误百出的《星球大战》故事和糟糕的财务建议，这些严重的例子表明了为什么 AI 聊天机器人不应成为记者，尽管这些故事通常只是为了搜索引擎优化。

Microsoft Start 和 MSN 被展示为查找实际新闻的资源。但其自动化系统持续推送或生成包含不必要令人不安的语言和彻头彻尾的虚假信息的内容，而且几乎没有迹象表明参与该过程的任何人在乎这些问题。

没有粗心的记者可以责怪，也没有名字和面孔的编辑来承担（甚至逃避）责任。这只是软件在做它被制作出来的事情，而微软发言人在事情出错时耸耸肩，说他们会尽力确保将来不会再出现这样的问题。