OpenAI推出的GPTs商店，正在影响人类婚恋和美国大选？

【元宇宙导读】专家担心充满GPTs商店的AI恋人会导致人类不婚或者离婚，或被利用误导性的“深度造假”或聊天机器人冒充候选人等滥用行为，将对选举结果产生干扰。

GPTs商店是OpenAI探索大语言模型应用场景的一个重要媒介，自本月10号上线以来，商店里已经上架了超一万个应用。

然而，让OpenAI颇为矛盾的是，越来越多的“机器人女友”和“机器人男友”涌入该平台，而这违反了OpenAI商店的规则，其禁止培养模拟伴侣或其他受监管活动的GPT。但另一方面，OpenAI很难严格监管应用的内容，且聊天机器人本身就带有“伴侣”属性。

在该商店的聊天机器人趋势榜单上，前五名分别为电影助手、ChatGPT、男朋友Chris、女朋友Scarlett和聊天GPT4-女朋友版。

01元宇宙简史

AI恋人扩散的担忧

不难发现，男朋友Chris和女朋友Scarlett在应用的简介中十分直白地将自己定位于模拟恋人，Scarlett甚至打出“用一切可能取悦你”的宣传。这让聊天机器人充满了刺激但危险的味道，尤其是在OpenAI明令禁止的情况下。

毫无疑问，这类机器人将为人类带来更多对话的渠道，帮助纾解压力与负面情绪。但另一方面，其也可能导致人类对机器的畸形依赖或是出现机器唆使人类进行某些奇怪行为的情形。

去年，微软基于ChatGPT的Bing就在和一名记者的聊天中宣布爱上了他，并要求他离开自己的妻子。

美国圣路易斯华盛顿大学数据科学教授Liberty Vittert表示，能够在情感和生理方面满足人类的AI机器人将在不到十年内成为现实，但她担忧这可能会导致离婚率上升。

02元宇宙简史

AI或将影响美国大选

周一，OpenAI在其博客上发表了题为“OpenAI如何应对2024年全球大选”的文章，阐述如何通过提升准确的投票信息、执行谨慎的政策和提高透明度等方法，进一步确保平台安全。

人们担忧，利用AI技术实现的诸如误导性的“深度造假”（deepfakes）或聊天机器人冒充候选人等滥用行为，将对选举结果产生干扰。

OpenAI表示，为预测和防止此类事件发生，在发布新系统之前，会进行红队演练，向用户和外部合作伙伴征求反馈，并制定安全缓冲以减少潜在危害。该公司称，将通过技术迭代来提高准确性，减少偏见并拒绝某些请求。例如，图像生成AI DALL·E设有防护措施，可以拒绝要求生成真人（包括候选人）图像的请求，并为所生成的图像添加加密水印。

OpenAI表示，将致力于确保人工智能的构建、部署和使用都是安全的。“ 与任何新技术一样，这些工具既有好处也有挑战。”

OpenAI希望通过这些既有和全新的措施，避免通过技术来干扰关键选举的事件再次发生。

2018年，一家名为“剑桥分析”的咨询公司被媒体曝光以不正当方式获取了超过5000万脸书用户的数据，并将这些数据用于美国选举活动。

此后，脸书为此事致歉，公司首席执行官马克·扎克伯格赴美国国会接受质询。次年，脸书因侵犯隐私行为被美国联邦贸易委员会罚款50亿美元。

奥尔特曼认为，与社交媒体和新闻出版等分发平台扮演的角色不同，OpenAI更大程度上在内容生成方面发挥作用。因此，两者之间“需要保持良好的沟通”。