新火种AI|细思极恐！AI进化出了自私人格，未来将何去何从？

原创赞收藏评论

举报 2024-04-17

扫描,分享朋友圈

作者：小岩

编辑：冰冰

就在最近，AI的能力和人格变得更加丰富了，日本名古屋大学的科学家利用博弈论中的囚徒困境游戏来训练AI ，有效地让AI大型语言模型进化出多种人格特征，其中有一面就是自私的人格特质。

这意味着AI的发展速度远超预期，已经进化出了独特的，与人类相似的人格特质。

AI进化出了自私人格，这意味着AI或许会将自己的利益凌驾于集体至上。

日本名古屋大学的科学家让AI大型语言模型进化出了多种人格特征。这些不同人格特征会在不同的社会场景中派上用场，可以在执行任务时自由切换，从而反映出人类社会的动态行为:时而是合作状态，时而是自私单干状态。

图片1.png

值得一提的是，科学家在摸索AI人格特质的时候利用的是博弈论中的囚徒困境游戏。囚徒游戏想必大家都不陌生，指的是两个被捕的囚徒之间的一种特殊博弈，即使合作对双方都有利，保持合作也是困难的。囚徒困境是博弈论中非零和博弈中极具代表性的例子，反映出“个人最佳选择并非团体最佳选择”的特点。我们在现实生活中也会遇到囚徒困境，在价格竞争，环境保护，人际关系等方面，都会频繁出现囚徒困境。

图片2.png

AI也没有例外。在科学家的测试中，有些AI会将自己的利益凌驾于集体之上，有些AI则会同时考虑个人和集体利益。这说明在极端的测试状态下，AI已经具备了不同的属性，其中一层属性就是自私属性。

那么，我们可以把这些特征看作是AI的人格特征吗？

“AI拥有人格”早已有之！AI发展所带来的社会问题是否会颠覆人类生存？

认为“AI具备了自私人格”的前提是AI已经拥有了属于自己的人格。事实上，关于“AI是否具备独立人格”的争论早已有之。

自从上世纪50年代AI诞生以来，历经半个多世纪的发展，AI的功能越来越强大，甚至具有类似人类的独立思考能力和深度学习的能力，使其成为区别于其他科技的一支特殊力量，也是很多学者认为AI拥有了人格的重要依据。

图片3.png

究竟什么是人格以及人格的同一性？

近代哲学家洛克，在《人类理解论》一书中系统地阐述了“人格同一性”问题。人格的同一性一方面是指人们具有思想和智慧，能够保持理性，能够随时反省；另一方面是在不同的时间，不同的空间条件下都认同自己的唯一性。对于AI来说，它的“记忆力”和思维能力，是依赖于被制造时所赋予的各种参数，所输入的信息来源，生存环境，自我训练等途径，经过长期的积累和自适应所形成的。AI的一个最大优势在于，它们拥有强大的后天学习能力，可以在事先毫无基础的情况下，经过反复地学习和训练，来实现对以往自身的智力超越。

所以，无论是1997年打败了国际象棋冠军的深蓝计算机，还是2016年将诸多围棋高手纷纷“斩落”的阿尔法狗，都充分说明只要经过无止境的自主学习和训练，AI就能实现对人类相关文化以及智慧的完全超越。但是，从目前科技发展的阶段和水平看，即使是“智力再超群”的AI，它的一切目的和行为，都是人类所赋予的，还脱离不开人类的控制实施独立的行为，终归还是人类的工具和手段，其最终的目的还是为人类服务，从这一方面来说，很多专家加持认为“AI不具备人格权”。

可就在2017年，沙特这个国家做出了一个让人“惊掉下巴”的事，那就是“赋予了机器人索菲亚正是公民的身份”。有国家层面出来“坐实”AI的人格权，这不禁让这一问题变得更加复杂。

图片4.png

而如今的AI水平又来到了一个新高度，不仅能完美驾驭人类布置下来的人物，还能适应不同的场景测试，并且据此迸发出不一样的性格特征。

从法律或道德层面来说，“AI是否具有自己的人格”这一点还有待商榷；但从实际应用层面来说，AI所具备的能力和思维已经足够优秀，甚至具备了“成立独立人格”的潜力和机会，这一点，的确惹人深思。

图片5.png

AI发展远比预期更快：2047年AI在所有任务胜过人类可的能性为50%。

事实上，很多科学家和学者已经有了一个定论：AI的发展速度远超预期。

2024 年 1 月，一项有关AI未来发展趋势的调查结果公布，这也是AI领域迄今为止最大规模的一次调查。有2778名从事专业研究的人员参与了调查，结果显示，尽管科学界对于 AI 所带来的机遇和风险的评估尚未达成共识，甚至对其看法呈两极分化，但大家都普遍认为，AI 的发展速度快于一年前的预计。值得一提的是，受访的2778 人员都是资深专业人士，均在世界顶级 6 大人工智能期刊或国际会议发表过论文。

这些调查人员也曾在2016 年和 2022 年做过类似的调查，对比2022年和2023年的研究结果，我们可以发现，仅仅过了一年的时间，人们对于AI的未来预期发生了明显的变化。这或许与 2023 年发生了多项 AI 重大事件有关（ChatGPT的推出，政府加强对AI的监管等），也说明了AI技术在2023年迎来了巨大的革新。

调查结果还显示，如果 AI 发展速度不被人为放缓，AI 在没有外部帮助的情况下便可在所有任务中胜过人类的可能性将在2027年达到 10%；到 2047 年这一可能性为 50%。可就在前一年，专家还预估AI至少到2061年才有50% 的可能性在所有的活动中胜过人类。

AI会变得越来越智能，它进步的速度也将越来越快。这一点，在现在看来几乎是大家的共识。

随着人工智能的发展，我们势必会面临更多的挑战，诸多争论最终的指向大同小异，无非就是AI与社会伦理认识，法律以及哲学等方面所产生的冲突和难题。

一味地强调人工智能威胁论固然是狭隘的，而一味地追求科技进步，AI的高速发展也可能会带来难以挽回的危机。

无论何时，我们人类需要做的，就是在追求和发展的科学技术的同时，坚守住最基础的法律和伦理底线，不破坏人类自身的生存和发展权利。只要做好了这一点，无论AI进化出的是自私人格还是无私人格，就都不会对人类的发展产生威胁。也只有做好这一点，科技发展的前景才是光明和安全的。

本文系作者授权数英发表，内容为作者独立观点，不代表数英立场。
未经授权严禁转载，授权事宜请联系作者本人，侵权必究。