新火种AI|谷歌AI竟然教唆网友自杀？被质疑的谷歌AI究竟路在何方？

原创赞收藏评论

举报 2024-05-27

扫描,分享朋友圈

作者：小岩

编辑：彩云

最近，谷歌的日子不太好过。

以OpenAI，Meta，微软为代表的AI巨头公司们正忙着大杀四方，不断更新和迭代自己的AI模型；而谷歌这边，不仅没办法推出足以战胜竞争对手的新一代产品，就连现有的AI模型也饱受质疑和讽刺，如今，更是有“谷歌AI教唆网友自杀”的负面消息传出。

AI Overview频频展现bad case，最夸张的竟然还教唆网友自杀？

近日，有网友心情感到沮丧，他向谷歌AI Overview求助，却被告知“建议从金门大桥跳下去”。不知道AI Overview是不是想“一劳永逸”的解决情绪低落的问题，但很显然，这个“地狱笑话”开得非常的不合时宜。

事实上，谷歌AI Overview的翻车远不止这一次。有网友向它提问，“如何不让芝士从披萨上面滑落”，它给的答案是，“给披萨加点料——胶水。给酱汁中加入八分之一的无毒胶水，可以使其更粘稠，有助于芝士粘附”。可事实上，这个参考答案最早可以追溯到11年前的Reddit帖子，是网友玩的一个梗。可见AI Overview学艺不精，知识都学杂了。

除此以外，AI Overview还建议网友，吃有毒的蘑菇，杀人，跳桥等，给出了各种震碎三观的回答。

在援引文献方面，AI Overview有时候的做法也很令人匪夷所思。

有网友对其发问，“每天应该多吃多少石头”，AI Overview不仅不加以制止，还会引用UC伯克利地质教授给出的建议“每天至少吃一块小石头”。

对于不明真相的用户来说，这种看上去有权威人士说明，有相关资料和细节说明的答案，是妥妥的优质文本，或许还真有可能去尝试每天吃石子。但事实是，ResFrac发布这篇文章的原因只是想转发洋葱报（the Onion）上的讽刺内容。这也在无意中暴露了谷歌 AI Overview识别讽刺内容能力较弱的短板。事实上，AI Overview经常会把互联网上的讽刺内容当事实，诸如拿着剪刀跑步会增加运动量，提升心率等。

从Bard到AI Overview，对谷歌的质疑，批评，群嘲从未停止...

其实谷歌所经历过的质疑远不仅仅是在AI Overview上，它于去年推出的AI模型Bard同样饱受争议。

去年12月，就在AI聊天机器人ChatGPT3.5对外发布几周后，谷歌就意识到了危机的存在，CEO Sundar Pichai立刻对内发出了“红色警报”。他2015年正式执掌谷歌，1年后就提出“AI第一”，让谷歌成为在AI领域投入最坚决的科技巨头。但ChatGPT的破圈，仿佛是一个莫大的讽刺，让外界觉得他这些年似乎什么都没做。

为了平息外界的质疑，并且在进度上全面赶超OpenAI，Pichai和谷歌做出了一个十分兵荒马乱的决定：让Bard尽快上马。

所谓Bard，就是由谷歌推出的一款致力于对标ChatGPT的AI对话产品。

在发布会上，谷歌播放了一段展示视频——问：“詹姆斯·韦伯太空望远镜有什么新发现，值得我告诉我9岁的孩子？”Bard给出了三段回答，其中一段是：“望远镜拍摄了第一张太阳系外行星的照片。”

但很快有人发现，第一张太阳系外的行星照片拍摄于2004年，在NASA官网可查。

在发布会上掉链子，让谷歌成为了一个莫大的笑话。接着，更多的Bard试用者开始吐槽。推特上有一条高赞用户评论：“看到谷歌的产品后，我不担心AI的威胁了。”

除此之外，二级市场也很快给出了反馈。Bard发布当天的一次回答错误，就让谷歌母公司Alphabet市值减少了1000亿美元。在这种情况下，谷歌行业的竞争对手微软还在“捅刀”，它极力将自己塑造为搜索行业颠覆者。微软CEO Satya Nadella在一场电话会议上表示，“融入了ChatGPT后，Bing在搜索市场的份额正在增长”，妥妥的打了谷歌的脸。

早早进入AI赛道深耕，为何交出的答卷如此不理想？

谷歌算是把握住先机，较早进入到AI领域的科技巨头了。但尴尬的是，近10年过去了，谷歌始终都没有拿出过真正颠覆性的AI产品。究其原因，很可能有两大致命因素：保守和迟钝。

谷歌的前产品经理就曾透露过，“谷歌顾虑很多，非常害怕公司声誉受损……他们倾向于保守主义”。

谷歌的保守在于它永远披着一层伦理捍卫者的外衣，习惯性的在做政治正确的事情，它不断向外界传递“AI很危险”的论调。2018年，谷歌发布《人工智能原则》，强调AI研发必须有益于社会，反对歧视等。甚至在谷歌内部，也始终把AI伦理归为敏感问题。

根据知情人士透露，早在2017年，谷歌就研发了一款对话式AIGC产品——LaMDA。当时谷歌内部评估了LaMDA的风险，认为它不时犯错，会误导用户，让用户对谷歌产生不信任感。而谷歌的主业之一搜索引擎的宗旨就是致力于帮助用户找到正确答案，AIGC被认为有可能动摇公司的根基。对于大公司而言，存在这样的顾虑也是正常的。因为大公司会害怕产品不完善，会犯错。

而ChatGPT的横空出世，直接拉高了门槛，给予了用户一个较高的标准。当然，这并不意味着ChatGPT就是完美的，它也会给出很多错误，甚至是离谱的答案。但作为一家非上市的初创企业，OpenAI显然不会像谷歌一样的瞻前顾后。他们大胆的将一个全新的产品推给了公众，由此把握住了先机。

而相比于保守，谷歌在技术上的迟钝就不可理解了。据了解，谷歌和OpenAI都使用了模仿人类神经网络的机器学习技术，但路线上略有区别。谷歌采用监督式学习模型，OpenAI采用预训练模型；谷歌更强调干预，而OpenAI先让ChatGPT自主学习，随后再引入人工标注语料进行训练和引导。这更像一场在黑暗中进行的军备竞赛。直到2018年，马斯克还认为谷歌领先于OpenAI。但一切都在潜移默化中发生了变化。除此之外，谷歌还陆续失去了这场军备竞赛中最重要的资产：人才。随着科技巨头间AI军备竞赛的大幕徐徐拉开，已至少有13位人工智能领域明星级人才离开了谷歌，其中包括预训练语言模型的负责人Jacob Devlin，而他最后选择加入了OpenAI。

不过，10年的时间既漫长，又短暂。毕竟，对于AI赛道的竞争是一场毋庸置疑的持久战。谷歌是会就此陨落，还是会在未来的某个契机上实现弯道超车？我们拭目以待。

本文系作者授权数英发表，内容为作者独立观点，不代表数英立场。
未经授权严禁转载，授权事宜请联系作者本人，侵权必究。