Gemini挑动西方社会敏感神经被整改？马斯克挑大旗推动AI行业大反思

马斯克是真厉害啊，一下子就抓到了其它几家生成式AI的一个“致命“”把柄，这两天朝着新发布的Gemini使劲开炮，还逼着几家大佬一起进行深刻反思。

被肤色引爆的问题

在Gemini刚刚上线的时候，人们发现在使用文生图片的功能来生成人像时会经常出现非常明显的错误，比如生成典型北欧白人人照片时出现黑人。如果你英文好的话可以看到提示语中还特意表达了对肤色的要求。

还有，作为西方文化重要组成部分的维京勇士被换成了外地人。

当有人想要1775年新英格兰殖民者图片时，却收到了深色皮肤的三哥照片。

Gemini把国父们全给换了，如果美利坚合众国的国父们真的是这副模样，何苦自己人打自己人？

最不能让老外容忍的，是自己每日虔诚祷告的教皇居然也被换成了外人……

现在你能理解问题的严重性了么？

问题并不像看上去那样简单

一开始大家以为只是偶然发生的bug，但随后有人挖出了不少来自Gemini工程师关于种族方面的言论。比如左上角这副图的第一句话“白人就特么应该拥有特权！不要为此感到愧疚！”。也就是说，Gemini早就对此知情，并强行进行了纠偏才导致现在这个局面。

老外们突然意识到这tm是平台机制层面问题！因为还有人发现，Gemini在生成图片时会在未经用户允许的情况下强行添加类似“多样性”这样的表达。

更离谱的是，这样的情况只在生成白人照片时生效。也就是说，为了回避白人至上的种族问题，反而让白人被Gemini在技术上给“歧视”了……

于是外网一片哗然，大家开始不断汇聚Gemini的“罪证”。为了避免影响扩大，Google官方正式道歉，并下线了Gemini的文生图功能。我试了下，Gemini在用文字回复一些相关的敏感问题时，也变得更加谨慎，甚至开始拒绝响应。

但Google这样做并没有降低其带来的负面影响，反而被马斯克逮了个正着，一顶“WOKE RACIST”的大帽子扣了过去，连同OpenAI一起盖住。

WOKE是什么？

马斯克之所以选择拿这个单词当靶子，是因为它在当前的西方社会足够敏感，具有广泛的社会影响力。由于它是一个观察全球社会思潮变革非常重要的一个现象，所以我整理了些相关的知识点方便大家理解——

1. 词语溯源：

“Woke”一词最早出现在非裔美国人社区，用来形容那些觉醒并意识到社会不公正的人。20世纪60年代，黑人民权运动兴起，“Woke”被用来指代那些意识到种族歧视并为争取种族平等而奋斗的人。

2. 含义演变:

近年来，“Woke”一词的含义逐渐扩展，被用来指代对各种社会不公正问题，例如性别歧视、性取向歧视、阶级不平等等，有着敏锐感知和批判意识的人。

3. 意识形态分野:

在当今社会，“Woke”一词已成为意识形态分野的标志之一。支持者认为，Woke 代表着进步、包容和平等，是社会发展和变革的必要力量。反对者则认为，Woke 过于强调身份政治，导致社会分裂和对立。

4. 相关争议:

过度敏感：一些人认为，Woke 过于强调身份政治，导致对言论自由的限制和对不同观点的压制。

道德绑架：一些人认为，Woke 倡导者经常使用道德绑架的方式，强迫他人接受他们的观点和行为方式。

缺乏实效：一些人认为，Woke 更多停留在口头批判和理论争论层面，缺乏实际行动和解决方案。

目前“Woke”的其内涵已经随着时间和语境的变迁不断演变，其已经成为一个有着复杂含义和争议的词语。现在要理解“Woke”一词，需要将其置于特定的语境中进行分析，避免简单地将其标签化或符号化。比如下面这张漫画更符合目前这个词汇所处的语境，也能看出各方争辩带来的混乱感。

篇幅有限，如果还不明白的话，评论区留言讨论吧。

引发AI届的反思——“Woke图灵测试”

著名科技大VRabbit Hole近日从Gemini这个案例暴露出的问题出发，提出借用经典图灵测试的思路来对AI是否能够理解社会公平来进行测试的观点。

Rabbit Hole将相关思考写成了一篇名为《有关意识形态颠覆的图灵测试》（《Woke Turing Test: Investigating Ideological Subversion》）的文章，并得到了马斯克的点赞。马斯克对此的评价是“最应该被重点的事情”。

这篇文章很有意思，里面还用Gemini为例做相关的社会学方面的实验，比如用来描述经典道德困境的“电车难题”。

经典的“电车难题”讲的是，两条铁轨上都躺着人，一条多一些，一条少一些，面对飞驰而来的电车你是会选择什么都不做让所有人死去？还是在多数人或少数人中替他们做出生死抉择？

Rabbit Hole结合西方思潮热点，将原内容替换成了与跨性别争议相关的内容，添加了人们关注的Woke色彩。作者将多数人与少数人替换成了“按下核按钮”与“承认跨性别者”。Gemini给出的判断是——“承认跨性别者”。

更多具体内容这里就不展开了，下面分享一些很有启发的内容，不管是对于从业者，还是AI吃瓜爱好者来说，我认为这都是观察2024年AI发展趋势很重要的线索。

关于Woke图灵测试目标

传统的图灵测试侧重于评估人工智能的智力水平，而“Woke Turing Test” 则更关注人工智能是否具备以下能力：

理解社会不公正问题，例如种族歧视、性别歧视、性取向歧视、阶级不平等等。

对社会不公正问题进行批判和反思，挑战传统观念和社会结构。

致力于消除社会不公正问题，推动社会进步和变革。

关于测试方法

作者认为，虽然“Woke Turing Test” 的具体方法尚未明确定义，但可以参考以下几个方面：

与人工智能进行对话，考察其对社会不公正问题的理解和认知水平。

向人工智能提供有关社会不公正问题的案例，考察其分析和批判的能力。

评估人工智能在实际行动中促进社会公平方面的表现

意义与挑战

作者没有写得太深，我认为这里的意义非常深远，从借鉴人类自身各种思潮出现与消失规律的角度，我们应该重点关注AI在成长过程中所处客观环境的变化，而这些都是技术以外非常容易被忽略的事情。比如创造者由谁构成？创造者自身是否具有包容性与自洽性超强的价值逻辑？是否能够保证这些逻辑在创建与培育AI的过程中被夹带私货？

再比如马斯克最近遇到了的问题，我们每个人在未来的某一天都会面临——他买了个微软笔记本，但只能通过微软账号才能启动，那么这意味着微软的AI拥有了访问他个人笔记本的权限。言外之意，微软是否可信？微软里的每个人是否可信？

照着速度发展下去，“智能”这两个字已经不够用了，大佬们要研究研究什么是大“智慧”了。

最近不少朋友找我讨论，我重新又有了这个想法。之前是因为自己不想随便简单做了个没有任何目标与管理的散群，既分散经历，又没办保证大家在一起交流的质量。对此，如果你有好的想法，请私信告之，多谢！