GPT-4 震撼发布，能读图，考高分，训练更高效
作者：凌梓郡、宛辰，编辑：靖宇，来源：极客公园
加强版的 ChatGPT，更聪明也更安全了。
该来的终于到来了。
美国当地时间 3 月 14 日，大热的 OpenAI 正式推出其最新作品 GPT-4。通过 ChatGPT 再次点燃整个科技圈的想象力之后，GPT-4 毫无疑问成为整个行业关注的焦点。
在 OpenAI 官方网站中，这一代的大模型 GPT-4 相较于前一代产品，最大的进化在于「多模态」和长内容生成。
此前的 ChatGPT，用户只能输入文字，而 GPT-4 现在已经可以识别图片内容，并给出答案，甚至能识别一些网络上常见「梗图」，并告诉用户「笑点」到底是什么。在输出方面，GPT-4 最多可以输出 25000 个单词，相比 ChatGPT 有大幅提升。
同时，相比上一代产品，GPT-4 给出答案的错误更少，涉及到伦理和敏感问题时，回答也更「安全」。
GPT-4 能像「哥哥」ChatGPT 一样再次席卷科技圈吗？它对接下来 AI 行业的走向，又会产生怎样的影响？
一、多了一双「眼」，更智能
根据 OpenAI 介绍，相较于 ChatGPT，GPT-4 有三个方面的主要提升。
1、读图能力
对话时可以直接用图片提问，它能够在读懂图片内容的基础上，给出有逻辑的回答。比如，你可以给它一张牛奶、鸡蛋、面粉的图片，问他「这些材可以用来做什么？」它会给出一系列选项：
煎饼或华夫饼
法式薄饼、法式吐司
煎蛋或煎蛋饼
乳蛋饼
蛋奶或布丁
蛋糕或纸杯蛋糕
松饼或面包
饼干或饼干
图片来源：OpenAI
当种读图能力和写代码能力相结合，就像有了魔法，在发布会上，Open AI 展示了如何让 GPT-4 帮你制作网页：
只要输入在笔记本上画出草图，拍照，对他说：用简短的 HTML/JS 将这个草图变成彩色的网站，能够几秒钟之内，一个完整的网页就可以出现。
图片来源：OpenAI
目前 Open AI 还没有将 GPT-4 中的图像识别能力开放，为了更好地优化图像输入功能，OpenAI 正在与 BeMyEyes 密切合作。这是一家在丹麦的公司，它们在做的事情是用软件让视障人群与志愿者远程互动，后者做前者的眼睛，帮助他们完成生活任务。
接入了最新的图像识别能力之后，视障人群就像有了一个「更聪明的摄像头」，也被称为「虚拟志愿者」，之前的算法不能基于视觉信息做逻辑推理——这也是 GPT-4 与之前的视觉算法最大的区别。公司的 CTO Jesper Hvirring Henriksen 解释，新的功能「不仅在于交谈的能力，还在于该技术提供的分析能力」，基本的图像识别应用程序只能告诉人们眼前发生了什么，现在算法能够判断地面上出现的事物「是否不仅仅是一个球，而是一个绊倒的危险，然后进行交流。」
2、答案更可靠
在更涉及到逻辑的更复杂任务上，能够给出更可靠、也更有创造性的答案。
Open AI 让 GPT-4 参加了一系列考试，GPT-4 的表现均有所提升，有的甚至直接从 GPT-3.5 的差生变成了优等生。例如，在模拟律师资格考试上，它成绩在前 10% 左右；而 GPT-3.5 的成绩在后 10% 左右。满分为 800 分的 SAT Math，它从 590 分提升到了 700 分。
「在随意的交谈中，GPT-3.5 和 GPT-4 之间的区别可能是微妙的。当任务的复杂性达到足够的阈值时，差异就会出现——GPT-4 比 GPT-3.5 更可靠、更有创意，并且能够处理更细微的指令。」Open AI 表示。
3、内容更长更丰富
此外，在单次问答的信息处理量上也有了提升。在对GPT-4提问的时候，一次性能够输入长达 25000 单词。之前，有编剧跟极客公园交流，试用 ChatGPT 的时候跟，只能把剧本拆开一段段给模型看，现在，这样的烦恼应该会大大减轻。
也就是可以让他直接帮你读文章。你还可以扔给他一个链接，让他直接做阅读理解。
比如，给它美国歌星雷哈娜的维基百科链接，问她，「描述一下她在超级碗上的表现，以及为什么这么特别」。
给出的回答是这样：
蕾哈娜在第七届超级碗中场秀上的表演很特别，原因有很多。首先，这是她五年多来的第一次现场表演，也是她第一次在超级碗中场秀上亮相。此外，她还创造了历史，成为第一个在怀孕期间在超级碗表演的人。这场演出本身就广受好评，许多人称赞她充满活力的表演和令人印象深刻的歌声。它也获得了大量的观众，成为历史上收视率第二高的中场秀。
图片来源：OpenAI
4、关于「胡编乱造」和「有害答案」
当然，目前大模型在「胡编乱造」上的问题，GPT-4 仍然有。不过 Open AI 表示，在对于「捏造事实」的内部测试上，GPT-4 的表现比 GPT-3.5 要高出 40%。GPT-4 的知识范畴也存在时间限制，截止于 2021 年 9 月。
在生成有害的想法上，Open AI 也强调了风险。「GPT-4 及其后续模式有可能以有益和有害的方式对社会产生重大影响。我们正在与外部研究人员合作，改进我们理解和评估潜在影响的方式，并对未来系统中可能出现的危险能力进行评估。」
由于在基于人类反馈的强化学习（RLHF）环节中，增加了一个额外的安全奖励信，这使得 GPT-4 目前的表现更加优秀一些。此外，OpenAI 也聘请了 50 多名来自人工智能对齐风险（AI alignment risks）、网络安全、生物风险、信任与安全以及国际安全等领域的专家，对模型进行对抗性测试。研究结果中给出了两个例子。
二、GPT-4 落地更快
对于 GPT-4 的表现，OpenAI 总结道：我们花了 6 个月的时间迭代调整 GPT-4，使用了来自 ChatGPT 的经验教训和我们的对抗性测试程序，在真实性、可控性（steerability）和拒绝超出护栏（refusing to go outside of guardrails）方面得到了我们有史以来最好的结果。
显然，OpenAI 的 GPT 大模型迭代速度变快了。GPT-4 距离上次 ChatGPT 的发布，不到 4 个月。这与其开放 ChatGPT 给个人用户和企业客户的举措有关，使机器基于人类反馈的强化学习（RLHF）更快，形成了数据飞轮的优势。
比 GPT-4 迭代更快的，是其落地应用的速度。
尽管 GPT-4 还没有全面开放API接口，但其实，OpenAI 大股东微软的 New Bing 已经用上 GPT-4 超过一个月。在 OpenAI 官宣 GPT-4 之后，微软在官方博客马上公布了这一消息，甚至在 5 天前，微软德国 CTO Andress Braun 就作为全网独家信源替 OpenAI 放出了风声。
人们此前没有明显感觉到 New Bing 中搭载了 GPT-4 的原因可能在于 GPT-4 的进步是微妙的。OpenAI 阐述道，「在随意的谈话中，GPT-3.5 和 GPT-4 之间的区别可能很微妙，当任务的复杂性达到足够的阈值时，差异就会出现——GPT-4 比 GPT-3.5 更可靠、更有创意，并且能够处理更细微的指令。」
微软的 Bing 搜索已经用上 GPT-4｜微软
微软加持 OpenAI 大模型的迭代还体现在底层基础设施上。OpenAI 透露，在过去的两年里，与 Azure 一起为工作负载从头开始共同设计了一台超级计算机，重建了整个深度学习堆栈。
不仅如此，更多的应用也加入了 GPT-4 的早期使用阵营：
Stripe 宣布使用 GPT-4 扫描商业网站并向客户支持人员提供摘要；
语言学习工具软件 Duolingo 将 GPT-4 构建到新的语言学习订阅中；
摩根士丹利正在创建一个由 GPT-4 驱动的系统，该系统将从公司文件中检索信息并将其提供给金融分析师；
可汗学院正在利用 GPT-4 构建某种自动化导师。
毫无疑问，OpenAI 的速度会越来越快。除了开放给客户使用获得数据飞轮，本次随着 GPT-4 的发布，OpenAI 还开源了 OpenAI Evals，这是其用于自动评估 AI 模型性能的框架，允许任何人报告其大模型中的缺点，以帮助指导进一步改进。
对此，出门问问创始人李志飞将其评价为众包评测，将帮系统找茬的任务，众包给各位开发者和爱好者了，既让大家有参与感，又能让大家免费帮忙评估提高系统，一石二鸟。
三、加速的 AGI
2022 年 11 月 30 日，当 OpenAI 推出 ChatGPT 测试版的时候，也许不会料到，这款大语言模型加持下的对话机器人，会成为科技史上第一个最短时间用户破亿的产品，同时让全球科技从业者，再次因为 AI 的进展而兴奋起来。
而仅仅在 3 个月之后，OpenAI 就推出了下一代产品 GPT-4，其迭代非常具有「硅谷速度」了，从更新频率上也能看出，团队对于拿下大语言模型赛道的必胜之心。
虽然相对于上一代产品，GPT-4 的进化不算「革命性」的，但是各项指标上百分之几十的提升，依然会为已经很热的 AI 赛道，再添一把火。
同时，一边联手微软，让 ChatGPT 在全球最大商业软件 Office、以及基建 Azure 云上落地；一边通过开放 API 接口，接入更多商业合作伙伴，OpenAI 也成功将自己转型为类似云一样的平台型企业，生生闯出一条大模型的商业化之路，开了研究成果转商业的先河。
GPT 到底是不是通向人工智能的圣杯——通用人工智能的正确道路，现在还不好说。但可以肯定的是，GPT 的成功，已经让人们像当年互联网革命一样，想利用 AI「重新改造一切」。
GPT-4 的及时推出，给渴望改造和变革的人们，又打了一针强心剂。
以下为出门问问创始人李志飞对于此次 GPT-4 的评价：
1、能力惊人：如果说 GPT3 系列模型给大家证明了 AI 能够在一个模型里做多个任务（也就是所谓通用），GPT-4 在很多任务上已经是人类水平（human-level），在很多专业和学术考试上超越 90% 的人类。各类中小学、大学和专业教育该如何应对？
2、高效的炼丹：GPT-4 模型太大每次训练成本很高，但同时训练模型时很像炼丹需要做很多实验，如果这些实验都要在真实环境下跑一遍的话谁也承受不了。为此，OpenAI 搞了所谓的 predictable scaling，就是可以用万分之一的成本来预测各个实验的结果（loss 和 human eval)。这把大模型训练从碰运气的炼丹升级成了「半科学」的炼丹。
3、众包评测：这次提供了一个 open source 的 OpenAI evals，就是把系统性的帮系统找茬的任务众包给各位开发者和爱好者了，既让大家有参与感，又能让大家免费帮忙评估提高系统，一石二鸟。
4、工程补漏：这次还发布了一个 system card，大概意思是为了减轻一本正经的胡说八道问题，系统打了各种各样的补丁做预处理和后处理，后面还会开放代码把打补丁能力众包给大家。这标志着 LLM 终于从一个优雅简单的 next token prediction 任务进入了各种 messy 的工程 hack 了。
5、多模态：万众瞩目的多模态其实跟市场上很多论文描述的多模态能力没有太多差别，主要区别是把文本模型的 few-shot 和逻辑链（COT）结合进来了，这也是在一个基础能力很好的文本 LLM 加多模态的好处（其它多模态模型感觉 LLM 都太弱）。
6、有计划的出王炸：GPT4 模型去年 8 月就炼出来了，但今天才发布，解释是花时间做了大量测试和各种查漏补缺。谷歌工程师傅估计又得熬夜跟了？
7、不再 Open：论文里完全不讲模型参数和数据规模、也不讲任何技术原理，解释说是为了大家好，怕大家学会了怎么做 GPT4 用来作恶，个人完全不认同这种此地无银的做法。
8、众志成城：论文里花了三页把系统的各个部分的贡献人员都列出来了，估计有一百多人，再次体现 OpenAI 里团队成员众志成城、高度协作的状态。
头图来源：OpenAI
封面来源：网络（侵权联系删除）
作者公众号：极客公园（ID：geekpark）
转载请在文章开头和结尾显眼处标注：作者、出处和链接。不按规范转载侵权必究。
未经授权严禁转载，授权事宜请联系作者本人，侵权必究。
本文禁止转载，侵权必究。
授权事宜请至数英微信公众号(ID: digitaling) 后台授权，侵权必究。
评论
评论
推荐评论
暂无评论哦，快来评论一下吧！
全部评论（0条）