分析师和技术专家据透露,在微软搜索引擎的聊天机器人系统刚刚开始这种聊天机器人系统使用讽刺甚至威胁性的言论,这很可能是模仿人工智能聊天从在线对话中学到的东西。根据法新社的报告
关于人工智能聊天机器人互动的新闻,以及威胁和谈论核密码盗窃的需求。它创造了一个危险的病毒,等等,这已成为一个广为流传的故事。
卡内基梅隆大学的语言技术研究所教授格拉姆·努比克说:“我认为这是模仿在线上遇到的对话。
人工智能聊天机器人旨在提供一组预期作为对话对策的文本。不考虑这些文本集的含义或上下文。但是,参与改进程序的人往往研究查特博特想要传达的情感和目的。
程序员西蒙·威利森他的博客上写着“语言模式没有”真理“的概念,他们只知道如何根据训练有素的文本集的数据以统计概率的形式完成句子”,并说“聊天机器人系统自己创建了一组消息,并用它自信地回复。”
劳伦·杜德特法国人工智能公司LightOn的联合创始人表示,查特博特似乎很愤怒,他受过交流对话的训练,表现出攻击性,不一定能。
微软方面在博客上说,“不同时期的模式是回应或回应对方被对方问到的情绪,这可能会导致我们没想到的回答模式”,这是一个需要进一步发展的过程,周五指出,已经限制了与这个聊天机器人交谈的人数,因为“长时间的对话可能会影响系统的对话模式”。
宾的查特博特它由微软和OpenAI公司(OpenAI)设计,这是去年11月推出的人工智能聊天机(ChatGPT)的一个热门话题,它可以很容易地在几秒钟内创建一个写作,这既令人兴奋又令人担忧。
领取专属 10元无门槛券
私享最新 技术干货