谷歌新发明AI语音助理存在欺骗行为，有道德疑虑，谷歌回应了

要分辨 Siri、Alexa 以及 Google 助理等人工智能的语调并不困难，它们讲话中规中矩、有条理，且缺乏人类的习惯与腔调。然而，上周 Google 于 I/O 开发者大会中展示的语音机器人技术 Duplex 获得全场观众热烈掌声。Google Duplex 震惊科技业的同时，许多媒体开始担忧技术的道德与风险。未来，我们会不会被机器人所欺骗？

Duplex 是 Google 结合自然语言、深度学习以及语音合成各领域研究，所综合诞生的作品。在开发者大会的开幕演讲中，执行长 Sundar Pichai 展示 Duplex 实际运作的情况，虽然并非现场测试，而是事前录制的影片，但仍获得全场观众的惊呼。Google 助理透过 Duplex 技术打电话给发廊、餐厅预约服务，并且在整段过程中，没有被发现是机器人，能够流畅与店员进行问答，还会加入「嗯」、「嗯哼」等人类常有的说话习惯。

这项技术除了有机会解救对于拨打电话感到厌烦的大忙人，同时对于机器人更贴近人类也迈出一大步，但当 AI 与人类越来越像，任何技术总是存在相对的隐忧，例如《华盛顿邮报》就以「是否需要告诉对方，这是一台机器人拨打的电话」为题，质疑 Duplex 技术所存在的道德与安全隐忧。科技网站《TechCrunch》更直言「Google Duplex 在 AI 设计的道德与创造性上都是失败」。

Duplex 之所以引发外媒担忧，最大的症结点在于，展示技术的过程中，Google 是以「欺骗」为前提进行，这项技术的目标是要让人类无法区分机器人与真人。牛津网路学院数位道德研究室的 Thomas King 教授表示，「在我所任教的大学，如果你要进行涉及欺骗相关的行为，必须证明这是有科学价值的。」

「Google 的实验看起来，确实是为了欺骗所进行。」King 教授认为，若要得出相同的结论，实验不见得需要进行欺骗，但技术本身可能不具有欺骗性，只是没办法说出 Google 的意图，「我不能说，这绝对是骗人的，只是应该要有一项机制，让人们知道他们在与谁对话。」

Google 上周四也发表声明，表示会在 Duplex 的系统中，安装公开自我身分的功能，透过某种形式让接听电话的人，明白自己正在与机器人对话。Google 表示该项技术主要是帮助听力受损以及非使用当地语言的使用者，能够运用助理完成某些需要对话的工作，不会运行在广泛的日常对话，包含行销电话。Google 工程师在官方 Blog 中写道，「系统创造如同人类一样的对话体验，让人们自然地对话，不必适应机器人。」

事实上，多数人若接听录音电话或是明显的语音留言，当下反应都会直接挂断电话，将机器人对话变得更加拟人，可以有效改善这些问题，有效让人类适应机器人的声音，不过当技术广泛运用，我们是否会对于每一通电话都抱有迟疑，「对方不会是机器人吧？」

「如果机器人的声音不明显，人们会开始预期每一通电话都是假的。」King 教授点出技术所带来的风险，并说明许多实验已经证明，若长期与机器人对话，部分使用者说话会越来越粗鲁，讲话不再像是平常一样彬彬有礼，「就算对方是真实的人类来电，但你无法辨别真伪，或者即使你相信对方是真人，但人与人间的互动模式也已经产生变化。」

麻省理工学院教授 Erik Brynjolfsson 认同，需要有辨识的机器人方式，同时也抛出一个疑问，有必要让所有机器人都像人类一样讲话吗？「如果人类问它是否为机器人，AI 应该要如实回答，或者回到最开始，应该让机器人有足以辨识的声音、风格甚至用词与外观，我不认为这会降低机器人的工作效率，相反的，还可能获得改善。」

除了道德层面的问题，Duplex 在法律上也遭遇困难，美国许多州规定，除非获得对方同意，否则就算是1、2秒的录音都是违法禁止的。尽管 Google 不会让系统录下对话过程，但 Duplex 系统必须录下内容进行语意分析，接着才会销毁档案，这段过程已经违反相关法律。Google 发言人回应，该项技术还在早期测试阶段，最终版本会以某种形式告知使用者录音的问题，且不见得会在全美上市。