谷歌AI聊天机器人巴德在首次演示中出错

作者：James Vincent

周一，谷歌宣布了其人工智能聊天机器人巴德（Bard），也就是最近大火的ChatGPT的首席竞争对手，将在 "未来几周内向更多公众开放使用"。但是，谷歌的AI并没有一个好的开始，专家们指出，Bard在其第一个演示中就犯了一个事实性错误。

谷歌在社交媒体分享的一个GIF显示巴德回答的这个问题。"我可以把詹姆斯-韦伯太空望远镜的哪些新发现告诉我9岁的孩子？" 巴德提供了三个要点作为回报，其中一个指出，该望远镜 "首次拍摄了我们太阳系以外的行星的照片"。

然而，Twitter上的一些天文学家指出，这是不正确的，第一张系外行星的照片是在2004年拍摄的，正如NASA网站上所说的那样。

加州大学圣克鲁兹分校的加州大学天文台主任Bruce Macintosh指出了这个错误。"他在推特上说："作为一个在JWST发射前14年就对一颗系外行星进行成像的人来说，感觉你应该找到一个更好的例子？

在一条后续的推文中，特伦布莱补充说："我确实喜欢和欣赏地球上最强大的公司之一使用JWST搜索来宣传他们的LLM。真棒！"。但是，ChatGPT等虽然给人留下了诡异的印象，但往往是非常自信的错误。看到LLMs自我检错的未来将是有趣的。"

正如Bruce所指出的，像ChatGPT和Bard这样的人工智能聊天机器人的一个主要问题是他们倾向于自信地将不正确的信息作为事实来陈述。这些系统经常出现 "幻觉"，也就是编造信息，因为它们基本上是自动完成系统。

它们不是通过查询已证实的事实数据库来回答问题，而是在巨大的文本语料库中进行训练，并分析模式以确定在任何给定的句子中哪个词紧随其后。换句话说，它们是概率性的，而不是决定性的，这一特点导致一位著名的人工智能教授给它们贴上了 "废话生成器 "的标签。

当然，互联网已经充满了虚假和误导性的信息，但由于微软和谷歌希望将这些工具用作搜索引擎，这个问题变得更加复杂。在那里，聊天机器人的回答具有可能是无所不知的机器的权威。

微软昨天演示了其新的人工智能驱动的必应搜索引擎，并试图通过将责任放在用户身上来预先解决这些问题。"该公司的免责声明说："必应是由人工智能驱动的，所以意外和错误是可能的。"请确保检查事实，并分享反馈，以便我们能够学习和改进！"

谷歌的一位发言人指出，“这突出了严格的测试过程的重要性，我们本周将通过我们的 "信任测试 "来启动这一过程”。

数字感化生活，欢迎关注上海白日梦科技，留下您的评论和点赞吧~