外媒批智能语音AI存在欺骗行为有道德疑虑 Google回应了

要分辨Siri、Alexa以及Google助理等人工智能的语调并不困难，它们讲话中规中矩、有条理，且缺乏人类的习惯与腔调。然而，上周Google于I/O开发者大会中展示的语音机器人技术Duplex获得全场观众热烈掌声。Google Duplex震惊科技业的同时，许多媒体开始担忧技术的道德与风险。未来，我们会不会被机器人所欺骗？

Duplex是Google结合自然语言、深度学习以及语音合成各领域研究，所综合诞生的作品。在开发者大会的开幕演讲中，执行长Sundar Pichai展示Duplex实际运作的情况，虽然并非现场测试，而是事前录制的影片，但仍获得全场观众的惊呼。Google助理透过Duplex技术打电话给发廊、餐厅预约服务，并且在整段过程中，没有被发现是机器人，能够流畅与店员进行问答，还会加入“嗯”、“嗯哼”等人类常有的说话习惯。

这项技术除了有机会解救对于拨打电话感到厌烦的大忙人，同时对于机器人更贴近人类也迈出一大步，但当AI与人类越来越像，任何技术总是存在相对的隐忧，例如《华盛顿邮报》就以“是否需要告诉对方，这是一台机器人拨打的电话”为题，质疑Duplex技术所存在的道德与安全隐忧。科技网站《TechCrunch》更直言“Google Duplex在AI设计的道德与创造性上都是失败”。

Duplex之所以引发外媒担忧，最大的症结点在于，展示技术的过程中，Google是以“欺骗”为前提进行，这项技术的目标是要让人类无法区分机器人与真人。牛津网络学院数位道德研究室的Thomas King教授表示，“在我所任教的大学，如果你要进行涉及欺骗相关的行为，必须证明这是有科学价值的。”

“Google的实验看起来，确实是为了欺骗所进行。”King教授认为，若要得出相同的结论，实验不见得需要进行欺骗，但技术本身可能不具有欺骗性，只是没办法说出Google的意图，“我不能说，这绝对是骗人的，只是应该要有一项机制，让人们知道他们在与谁对话。”

Google上周四也发表声明，表示会在Duplex的系统中，安装公开自我身分的功能，透过某种形式让接听电话的人，明白自己正在与机器人对话。Google表示该项技术主要是帮助听力受损以及非使用当地语言的使用者，能够运用助理完成某些需要对话的工作，不会运行在广泛的日常对话，包含行销电话。Google工程师在官方Blog中写道，“系统创造如同人类一样的对话体验，让人们自然地对话，不必适应机器人。”

事实上，多数人若接听录音电话或是明显的语音留言，当下反应都会直接挂断电话，将机器人对话变得更加拟人，可以有效改善这些问题，有效让人类适应机器人的声音，不过当技术广泛运用，我们是否会对于每一通电话都抱有迟疑，“对方不会是机器人吧？”

“如果机器人的声音不明显，人们会开始预期每一通电话都是假的。”King教授点出技术所带来的风险，并说明许多实验已经证明，若长期与机器人对话，部分使用者说话会越来越粗鲁，讲话不再像是平常一样彬彬有礼，“就算对方是真实的人类来电，但你无法辨别真伪，或者即使你相信对方是真人，但人与人间的互动模式也已经产生变化。”

麻省理工学院教授Erik Brynjolfsson认同，需要有辨识的机器人方式，同时也抛出一个疑问，有必要让所有机器人都像人类一样讲话吗？“如果人类问它是否为机器人，AI应该要如实回答，或者回到最开始，应该让机器人有足以辨识的声音、风格甚至用词与外观，我不认为这会降低机器人的工作效率，相反的，还可能获得改善。”

除了道德层面的问题，Duplex在法律上也遭遇困难，美国许多州规定，除非获得对方同意，否则就算是1、2秒的录音都是违法禁止的。尽管Google不会让系统录下对话过程，但Duplex系统必须录下内容进行语意分析，接着才会销毁档案，这段过程已经违反相关法律。Google发言人回应，该项技术还在早期测试阶段，最终版本会以某种形式告知使用者录音的问题，且不见得会在全美上市。