AI专家谈AI对孩童技能影响

AIhub咖啡角：AI、孩子与未来——“AI一代”

AIhub咖啡角记录了AI专家在简短对话中的思考。本月我们讨论年轻人的话题，以及AI工具对他们的未来意味着什么。参与本次对话的有：Sanmay Das（某机构）、Tom Dietterich（某机构）、Sabine Hauert（某机构）、Michael Littman（某机构）和Ella Scallan（AIhub）。

随着AI工具无处不在，人们越来越担心在成长阶段使用此类工具可能对儿童产生影响。你认为会有什么影响？年轻人需要哪些技能来应对这个AI世界？

Sabine Hauert：我上次在某地时见了一群高中朋友，他们都在想自己的孩子应该学什么。他们想知道是否该学社会科学，因为AI工具已经能胜任编程、写作、艺术等许多任务。我认为我们需要社会科学，但也需要懂技术并能继续开发技术的人。我说他们应该继续做自己感兴趣的事，那些工作会演变、会变得不同，但仍然会有大量不同类型的工作。

Ella Scallan：前几天我和朋友也有类似对话，回忆我们当初为大学做选择时收到的职业建议，那些建议常常缺乏远见，因为没人能预测当前的就业市场。甚至在AI之前，社交媒体的兴起就改变了整个经济格局。我们现在所处的世界与我们所受训练的世界截然不同。所以我想，AI是否也会同样难以预测？人们是否应该像你所说的，只追随自己喜爱的事？这类选择很难让人后悔。

Tom Dietterich：我认为在一个高度不确定的未来，你应该把基础知识学得非常扎实。比如数学，以及理解不同建模世界的方法——无论是物理学、经济学还是心理学。我觉得你必须掌握这些基本技能，以及写作和思考的能力。这比学会使用最新的LLM系统或最新的GitHub工具更有用，因为后者肯定会变。但作为计算机科学家，我要说学习抽象化以及抽象化在过去如何帮助解决问题非常重要。某机构的Omar Khattab正在做很有趣的事情，试图提高将LLM作为组件的系统编程的抽象层次。这些通常被称为智能体系统，但某种意义上它们只是把LLM当作子程序。他为LLM赋予类型签名，然后构建一个编译器来自动优化提示词等。这正是在尝试提高软件工程的水平。我认为在计算机科学中，每一次变革我们都需要找出正确的抽象层次。LLM时代也是如此。编程仍然存在，只是抽象层次与过去不同，但仍然是在编程、在构建系统、在进行维护。

Sabine：那是否意味着学校不应该改变？因为基础知识正是学校教育的核心。

Tom：我认为是的，尽管教学法显然必须改变，因为LLM正在削弱我们很多传统方法——那些过去奏效的方法现在已经不行了。实际上，在我看来它们过去也并没有多么奏效。

Sanmay Das：我基本同意Tom。最近有人跟我讲一个一直存在的现象：我们总是高估一项技术的短期影响，而低估其长期影响。所以我认为人们现在非常被动，只想着未来几年需要做什么。我会和一些即将上大学的高中生聊天，他们担心四年后没有工作，因为LLM会接管一切。我认为这很不幸，我们让人们以这种方式担忧。原因是复杂的。我上大学时，老师们反复强调你学哪种编程语言并不重要。我至今仍坚信这一点。你需要学习的是如何思考。我感觉我们现在对行业需求变得过于被动。比如“我们需要受过这方面训练的人”，我认为这不是好事，因为那不是高等教育的目的。

关于最初的问题，我们几年来一直在思考AI对技能和知识意味着什么。对此我确实感到担忧。十年前人们大张旗鼓地不信任维基百科。孩子们被告知不能引用或信任维基百科。我有两个孩子，一个上初中，一个上小学，但人们并没有用同样的方式向他们灌输AI使用规范。他们说“哦，你可以问ChatGPT”。这太疯狂了，因为维基百科至少有人类机制，能相当好地确保大部分内容——尤其是高流量条目——相当准确。而LLM完全没有类似的可验证知识机制。所以我现在自己几乎有点原教旨主义。我尽量不使用LLM，除非是那些需要大量精力但很常规的任务，比如按特定格式生成内容。我真正尝试不为我工作中更具创造性的部分使用LLM。我个人担心我的技能会以我不希望的方式退化。所以，我真正担心的是孩子们使用这些工具的方式可能会极大地影响他们未来的能力。它们是很好的工具，别误会，我认为这些工具能做这么多事真的很酷。但我认为我们需要非常小心它们的使用方式，尤其是孩子们，因为那将真正影响他们的成长。

Michael Littman：我想指出一点，至少在大学层面，这个话题是我日常非常关注的，因为我目前担任人工智能副教务长。这个“我们教什么以及我们怎么教错了”的话题可能是最广泛的。AI正以各种不同方式触及一切，但这个问题影响着教育中的每一个人，因此占据了我很多注意力。我们在校园里看到的一个现象——我相信其他地方也在发生——就是我称之为“AI纯素者”的兴起。我猜Sanmay是“AI弹性素食者”，但AI纯素者是那些完全不参与这场游戏的人。我能理解。我更喜欢弹性素食者的立场，即使用AI有特定的时间和场合，你必须非常深思熟虑。我认为这在大学层面很有道理。但在中小学层面就没那么容易了。孩子们无法即时做出这类判断。在某种程度上，他们不能为自己的教育负责。这要棘手得多。

我非常同意Tom的观点：基础知识仍然是基础知识，教人们思考仍然很重要。很多方面——不是要贬低我自己的行业——我们教的东西其实并不是真正重要的。我们教某些东西是因为我们必须教点什么，因为我们真正教的是如何学习，如何真正接触新材料、提出好问题、尝试理解复杂的事物。我们不知道人们毕业后进入社会需要实际处理什么事情。但练习那些掌握新信息的技能是至关重要的。我认为没有人会相信把这一切交给聊天机器人是个好主意或明智的主意。所以我认为我们应该继续教我们一直在教的东西，因为我认为教这些东西的部分原因就是为了教人们如何学习，而内容本身反而不那么重要。

但有一项我们通常不教的东西，我认为在AI时代变得更加重要。那就是教人们如何协同工作来完成事情。这是我看着我女儿在大学里施展的技能。她碰巧在我任教的大学读书，所以我得以亲眼目睹。她组织了一个团队来上演一部音乐剧，大约有100个不同的人以各种方式为这个创作中的作品做出贡献。看着她协调那些团队，以正确的方式向人们提供正确的信息，以便他们能完成自己在这个更大事情中的那部分工作，我大为震撼，因为这是一项我认为我们很多人都在使用、很多人需要，但很少有人被教过的技能。我认为它非常重要。因为归根结底，我们在努力做什么？我们在努力完成重要且相关的事情。这涉及到技术与他人合作的某种结合。所以更明确地将这视为一项技能，我认为将非常有价值，不仅仅因为它显然是一项非常重要的技能，还因为我们在与聊天机器人打交道的方式中，也有一种组织这个奇怪的、分散的群体一起完成某件事的感觉。我必须非常清晰地表达自己，必须合理地进行分工。这不是关于括号匹配，而是关于让那些部分正确地组合在一起。Tom称之为编排，我认为这是一个很好的说法。

Sanmay：Michael，我有个问题。你在大学的职位上看到了什么？是否有很大压力要确保学生为AI做好准备？高等教育在这种情况下应该如何应对？因为我们显然有这种推拉：我们仍然希望学生在就业市场上成功，但同时我们希望他们学习。所以我很好奇你的想法。

Michael：非常有趣。我看到的是，大致来说，校友们的声音非常统一：我们需要以AI为先。我们需要教AI，基本上只教AI。也许这些都是富有的校友——我只能听到他们的声音。他们可能是那些以某种方式身处科技行业或深度参与商业的人。在校园里，教师们对这个想法要怀疑得多。有些人感兴趣并尝试实验，但有些人不感兴趣也不尝试。他们真的认为这是向最终会摧毁我们所知社会的力量的投降。我偶尔会在办公室里被一位教授训话，他会滔滔不绝地列举对人类未来走向的担忧，并以某种方式认为这是我的责任去阻止和修复。我理解这种担忧的来源，但我最终的立场非常偏向于“弹性素食者”这一边，也就是说，我们需要获得更多关于这些东西对人的影响的信息，我们需要进行更多关于好坏的实验，我们需要开放、深思和反思。作为学者，我们本应非常擅长的批判性思维技能，我们需要确保应用这些技能并得出有意义的结论。

Sabine：我认为挑战在于，我们可以禁止它，可以限制使用方式，但他们会以他们认为最有用的方式使用它，再加上这种成瘾因素。我以前讲过这个故事：我最近听说一个班级，有30%的学生在明确禁止使用AI的情况下作弊。团队试图在学年开始时提供更多培训来避免所有学生作弊，但即使有了预防性培训，几乎同样比例的学生再次作弊。所以感觉你实际上无法对抗它。然而在我最近的一个课程中，学生需要构建机器人并协调许多不同的硬件、软件、测试实物，我让他们随心所欲地使用AI，他们做出了漂亮的机器人。所以，无论你多么希望他们学习基础知识，他们正在用AI学习基础知识，他们以我们无法控制的多种方式使用它。但担心的是他们失去了学习批判性思维、独立思考的能力。所以我认为这就是棘手之处。

我最近还看到一个故事，有个人有一份工作（文字编辑）正在被AI取代。于是他问AI他应该做什么工作。AI告诉他应该做伐木工。于是他去了社区里砍了一堆树，赚了不少钱，但后来他背痛，因为他是人。所以那其实不是一份适合他的好工作。我认为观察我们将如何找出学生最佳的学习方式会很有趣，但实际上他们也会求助于AI来帮自己弄清楚这一点。

Tom：也许可以类比为体能健身和锻炼，带着叉车去替你举重是没有意义的。你需要自己做，因为你试图锻炼自己的肌肉。最近一位教授谈到她班上的期中考试，她出题的方式让人无法用AI解决，结果学生都考得很差。她把同样的考题给ChatGPT，得了B+。学生们在作业中（使用LLM时）都做得很好，但他们自己实际上做不到那些事。那么，我们如何让我们的学生进入举重和锻炼课堂的心态呢？

另一件事是，就在最近几天，我意识到我已经落后于前沿了。我跟不上那些使用各种编排工具、让十几个智能体24/7运行的人。我只能等待技术稳定到值得学习的程度。这就是为什么我非常犹豫让学生做任何事，除了可能学习如何使用带Copilot的VS Code，因为高端工具每周都在变。我看不出我们怎么教那是什么。可能还需要几年才能真正稳定下来，以便实际用这些工具进行软件工程有更成熟的做法。

Michael：我想谈谈教学需要如何改变才能真正反映我们所处的时代。我认为我一直在看到的一个重要事情是，将焦点从产品转向过程。在某种程度上，我们向学生传递的信息是“我们需要你写出这篇论文，我们需要你回答这个问题”。但我们其实从来不需要那个问题的答案。这正是我在研究生院时非常恼火的一点，因为我在读研之前做过研究员，作为研究员，你花时间回答人们没有答案的问题。然后我回到学校，人们问我他们已经知道答案的问题。所以关注产品真的很有问题。关注过程非常重要，因为人们需要学习如何把事情做成。如果我们在这方面评估学生，并非常清晰地传递这个信息，我认为这会削弱我们当前教学方式中的很多东西。我认为Tom之前暗示过这一点，他说也许我们从未真正以正确的方式教学。我认为这可能是真的，但以前它们是混杂在一起的。现在它们被解耦了，我们必须真正注意到：如果我们试图教的是过程，我们就需要评估过程，而不是最终产品。

Ella：我想唱个反调。有一种观点认为，每当新技术出现，总会有卢德主义和末日论。例如，柏拉图非常反对大众识字。他说每个人都会变得不那么聪明，因为他们不必记住所有东西。当然，也许柏拉图的短期记忆比我们任何现代人都好，但我们并不生活在一个这种能力能带来好处的世界里——就像它在古希腊那样。而书面语言开辟了无数当时无人能想象的可能性。所以我想，我们现在是否正处于一个棘手的过渡期，经历了大量负面影响，却还没有真正找到前进的道路？也许未来我们将生活在一个非常不同的世界，需要非常不同类型的认知技能，也许未来的人们能够像人类一直做的那样，找到应对的方法。

Sanmay：如果我继续用锻炼的类比，跑步和慢跑是相对较新的事情。60年前没有人为了健身而跑步，也没有人举重。我们做这些事是因为它们不再是我们生活中自动让我们保持健康的一部分。所以在某种程度上，我觉得这个观点完全合理。这可以打开一大堆可能性。计算器也曾引起类似的恐慌，但这并不意味着我八岁的孩子学习算术时可以用计算器。所以我认为这是要记住的一点。

我过去常对学生说的一件事是我喜欢小组合作。但当我给他们布置习题集（那些又难又长的问题）时，我总是告诉他们先独立思考至少一个小时，不要问别人答案。最大的问题最终是：你坐在小组里，你觉得你理解了如何解决问题，因为别人解决了，然后你从未真正为之挣扎过。所以当它出现在考试中时，你不知道如何下手，你欺骗了自己，以为自己会了。这是在LLM出现之前的事，但我认为这几乎是完全相同的道理，只是多了一个可信度问题和不知道某答案是否正确的问题。我认为这是另一个关键点。

Sabine：我认为顺其自然、顺应这些变化也有非常积极的一面。也许这能带来某种安抚作用。

tags: AAAI, coffee cornerFINISHED