OpenAI掌门：ChatGPT将成里程碑，担忧竞争对手走捷径

OpenAICEO山姆·奥特曼。人民视觉 资料图今后回首再看时，GPT-4将是一个刚刚起步的、迟缓的、故障重重的人工智能模型，ChatGPT之父、OpenAI CEO山姆·奥特曼（Sam Altman）在当地时间3月25日接受科技主播、MIT人工智能研究员LexFridman采访时表示，但是，早期的电脑也是这样无法胜任许多事情，这并不妨碍它们指向了一条极具前景的道路，其进化可能需要几十年的时间。奥特曼与Fridman近两个半小时的对谈信息密度极高，奥特曼分享了他对人工智能多个角度的见解，谈论了包括GPT-4、ChatGPT、人工智能安全、通用人工智能、马斯克、微软、政治偏见、市场竞争等在内的各类议题。

ChatGPT将成为人工智能的里程碑

在谈论人工智能发展的历史进程时，奥特曼指出，技术的发展是一个线性的过程，很难以跨越式的进步去定义，但如果一定要选出一个可以载入史册的时刻，他将挑选ChatGPT。

奥特曼表示，ChatGPT在可用性方面取得的重大突破，以及RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习）的成功应用，让其有资格成为人工智能的里程碑。RLHF可以指导并训练人工智能对各类问题的答案，使其接近人类并减少训练数据量，奥特曼解释说，最简单的例子就是给出两个答案，并让人类进行选择，模型就可以基于此了解到哪一个更优。GPT-4从去年夏天就开始进行各种安全调试，同样在对齐（即满足使用者期望）方面取得了巨大的进步。

有趣的是，此前特斯拉CEO埃隆·马斯克也曾盛赞ChatGPT的可用性，他认为，ChatGPT的伟大之处就在于向人们展示出了人工智能已经变得多么先进，人工智能长期以来一直在迅速进步，但是却缺乏一个人人可以触及的界面，而ChatGPT做到了这一点。

近期，马斯克在社交媒体推特上不断对OpenAI发起攻势，奥特曼在访谈中则说道，我理解他的想法，因为他很担心AGI（通用人工智能）的安全性。当然，我认为还有其他的动机，但这绝对是其中之一。奥特曼也不吝对马斯克的赞美，我很欣赏埃隆，他是我的英雄之一。尽管他在推特上有点粗暴，我希望他能更多地关注到，我们正在进行一项艰苦工作。

被奥特曼夸赞的也不仅仅是马斯克，在谈话中，奥特曼同样表达了对微软公司CEO萨提亚·纳德拉的钦佩，称他既是伟大的领导者、又是伟大的经理人，既有远见卓识、长谋擅略，又平易近人、有同理心。

奥特曼即将开启全球用户之旅

谈论到人工智能，偏见与安全是不可避免的话题。

在和Fridman的对谈中，奥特曼表示，当人们说，应该让人工智能与人类的偏好、价值观相一致时，这背后的意思是，要符合‘我个人’认可的价值观和偏好。

他强调说，并不存在一套人类价值观，或者说一套人类文明的正确答案。将来我们只能就这些系统能做什么来达成一套非常宽泛的协议，在这些边界内，不同的国家可能会有不同的RLHF调整，个别用户也有非常不同的偏好。我们发布了一个叫做‘系统消息’的东西，不是RLHF，但可以让用户最大限度获得控制权，我认为这样的东西将非常重要。

针对人工智能的偏见问题及其可能进一步引发的安全隐患，社会上已不乏批评。

奥特曼认为，你总是能找到GPT犯错或者存在偏见的个案证据，但我们很希望，能够就系统的偏见或者细节问题做出一般性的陈述。

对于标题党新闻以及各种抨击，奥特曼回应说，自己并没有感到压力，我确定它会产生各种微妙的影响，但我没有感觉到很多。我们很乐意承认自己的错误。

对于不少人将人工智能人格化，奥特曼则表现出了谨慎态度。

许多人倾向于用她或他这样的人称代词来称呼ChatGPT等人工智能模型，赋予其人格。奥特曼指出，人工智能只是工具，而不是一种生物，把工具当成生物，甚至将情绪投射到其身上是十分危险的。

奥特曼说道，他能够理解有人有这方面的需求，未来也会有公司开发出基于GPT-4的宠物类或者人物类陪伴产品，但他自己对这个方向并不感兴趣。

对于由开发团队自身可能带来的偏见，奥特曼也毫不避讳，人工智能的群体思维（group think）泡沫随处可见，很难避免，奥特曼表示，他将要进行一次为期一个月的全球用户之旅，去不同的城市与用户交流，去与身处不同背景的人沟通，这种交流在互联网上是行不通的，亲自去到他们所去的酒吧、走过他们走过的城市，你可以学到很多东西，摆脱泡沫的束缚。

奥特曼：不在乎竞争，担忧竞争对手走捷径

在OpenAI之后，包括谷歌在内的竞争对手纷纷加速推出人工智能产品，对于市场竞争，奥特曼认为，世界上将有多个人工智能，OpenAI不需要去和所有人竞争，我认为世界上有多个通用人工智能（AGI）是好事，它们在构建方式、着重点等方面都各有差异。

奥特曼直言，对于所谓竞争带来的压力毫无畏惧，我们是一个奇怪的组织，我们擅长抵抗压力。我们很长一段时间以来一直被误解、被嘲笑。成立之初，也就是在2015年，我们宣布要研究通用人工智能，当时人们觉得我们疯了。我记得有一位知名的人工智能科学家，说我们谈论通用人工智能简直荒谬。

对于竞争对手，奥特曼最大的担忧反而是安全问题。他认为，人工智能的参与者中不乏有人要走捷径，甚至为了获取无限的价值而导致负面事情的发生，这是一件值得担忧的事情。

此外，他还介绍说，OpenAI的组织结构非常特殊，是在非营利性组织的基础之上，增设了营利组织分支，以便为OpenAI提供足够的资金支持，在支付成本之后，其营收全都流入非营利组织之中，这样的组织架构很好地保障了OpenAI的顺利运行。

(本文来自澎湃新闻，更多原创资讯请下载澎湃新闻APP)