千人联名呼吁暂停，我们需要害怕人工智能吗？
CFIC导读
近日，美国研究机构生命未来研究所发布一封公开信，呼吁立即暂停训练比GPT-4更强大的人工智能系统至少6个月。然而，没过几天，这起千人联名公开信事情就出现反转：一些签名者陆续收回立场，有签名者表示本人并未签署，还有不少人工智能研究人员和行业专家专门发声反对这封信的建议。背后发生了什么？我们需要害怕并暂停研发人工智能吗？
风头正盛的人工智能模型GPT，最近风波不断。
近日，美国研究机构生命未来研究所发布一封公开信，呼吁立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这封公开信随后征集到了特斯拉创始人埃隆·马斯克、苹果公司联合创始人斯蒂夫·沃兹尼亚克等上千名硅谷企业家、科学家的签名。
然而，没过几天，这起千人联名公开信事情就出现反转：一些签名者陆续收回立场，有签名者表示本人并未签署，还有不少人工智能研究人员和行业专家专门发声反对这封信的建议。
背后发生了什么？我们需要害怕并暂停研发人工智能吗？
人工智能强大且危险？
GPT，全称Generative Pre-training Transformer，是美国人工智能研究实验室OpenAI于2018年推出的一种生成式预训练语言模型。它不需要专门设计训练资料，可以直接拿着人类已有的文字资料去训练人工智能。
由于规模不够大、体验不理想，此前几个版本——2019年的GPT-2.0、2020年的GPT-3.0都未引起大范围关注。直到2022年11月底，基于GPT-3.5的人工智能对话聊天机器人ChatGPT横空出世并迅速走红，世界各国网友用ChatGPT写邮件、翻译文章、写作业、写代码、搞软件开发。
3月下旬，OpenAI发布了新一代语言模型GPT-4，它在高级推理能力方面超过了ChatGPT。反对人工智能的声浪也由此进入高潮，生命未来研究所千人联名公开信称，当前人工智能在一般任务上已经表现出了与人类相当的水平，但人类目前却并没有准备好接受人工智能带来的一切问题和挑战。
公开信呼吁，人工智能实验室和独立专家应在暂停期间，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。
这封公开信发布几个小时后就引起现象级讨论。截至发稿，公开信已征集到2991份签名支持，这其中除了马斯克和沃兹尼亚克，还包括人工智能教父杰弗里·辛顿、纽约大学教授人工智能专家加里·马库斯、图灵奖得主约书亚·本希奥、《人工智能：现代方法》作者斯图尔特·罗素、Stability AI首席执行官埃马德·莫斯塔克等科技圈名人。
马斯克是较有代表性的反对者，他在2014年就表示要警惕人工智能，2015年他曾参与过史蒂芬·霍金等科学家、企业家及投资者发起的联名公开信，警告人们必须更多地注意人工智能的安全性及其社会效益。2022年12月，面对横空出世的ChatGPT，马斯克还在推特上公开表示：ChatGPT好得吓人。我们离强大且危险的人工智能不远了。
背后掺杂各方利益
有意思的是，千人联名公开信引起轩然大波后，一些签署者的立场发生了微妙变化。
加里·马库斯在接受媒体采访时说，这封信并不完美，但精神是正确的。埃马德·莫斯塔克在推特上表示，我不认为6个月的暂停是最好的主意，也不同意所有的东西，但那封信里有一些有趣的东西。
OpenAI的CEO山姆·奥特曼、Meta公司首席人工智能科学家杨立昆的签名则被证实是虚假冒充，名字已经从网页移除。杨立昆本人发文讽刺说：今年是1440年，教会要求暂停使用印刷机和活字印刷术6个月。
人工智能大牛、斯坦福大学教授吴恩达在推特上说，呼吁在6个月内暂停让人工智能取得超过GPT-4的进展是一个糟糕的想法。我看到在教育、医疗、食品等方面有许多新的应用，这将帮助许多人。改进GPT-4将有所帮助。让我们平衡人工智能正在创造的巨大价值与现实的风险。
华成咨询数字化及战略业务合伙人、阿里云原技术总监马珂告诉《财经国家周刊》记者，不少人选择加入到呼吁暂停GPT-4后续研发的呼吁队伍中，一个重要的原因是，GPT从3.0到3.5再到4.0的进化速度太快了，引发了部分人的恐慌。
他告诉本刊记者，关于人工智能监管以及技术伦理的问题，产业界、学术界的争论从未停止过，只不过ChatGPT的火爆让人们看到了通用人工智能的可能性，再次引发了对这一问题的讨论，因此，这种倡议并不新鲜。
一位投行分析师认为，千人联名公开信引发的争议，并非简单的人工智能讨论，背后还掺杂各方利益。比如马斯克是生命未来研究所的最初发起人，并捐赠了1000万美元。另外，马斯克曾是OpenAI的联合创始人之一，2018年离开OpenAI董事会，并撤销了一大笔赞助款。
当下的争议也不排除技术鸿沟和技术发展不平等的原因。马珂表示，人工智能技术有个特点就是涌现点的出现具有偶然性，一旦突破涌现点，就会突飞猛进。部分发起或倡议的属于‘没搭上第一趟车的’，不排除存在一边倡议一般加紧研发的情况。
他认为，从这个角度而言，这种倡议的实质意义并不大，但需要注意，所谓停止研究很可能使GPT变为秘密研究，影响可能更大、更不可控。
国内科技公司启示：迎头赶上
千人联名公开信事件仍在发酵，结果影响几何尚未可知，不过大洋彼岸的中国科技圈，没有光顾着看热闹。
马珂告诉本刊记者，近几年国内人工智能圈都在纠结大模型的方向是否正确，毕竟训练成本太高，但ChatGPT的出现让通用人工智能的可能性变得更直观更可感，让国内不少企业和团队放弃了讨论和顾虑，明确了发展方向，比如近期百度、360等科技公司都推出了大语言模型产品。
对于千人联名公开信，360公司创始人周鸿祎表示，这并不影响中国发展自己的大语言模型。实事求是来说，中国公司展示的作品离GPT-4的水平还有两年差距，现在担心风险为时尚早。
周鸿祎说，自己是做安全的，但坚定地认为，不发展才是最大的不安全。不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅度提升，进而提升国家竞争力。中国一定要迎头赶上。
此前，国防大学教授胡晓峰在讨论人工智能从AlphaGo到ChatGPT的发展时也表示，追赶国际一流人工智能研究，我们不能只是想着照葫芦画瓢如何去复刻一个AlphaGo、一个GPT，或者只是简单地在其上开发应用，而应该想一想这些颠覆技术对我们已经开始的研究会带来什么影响。
他提醒，在参照国际领先性、颠覆性人工智能成果的同时，必须时刻反思自己的人工智能研究上哪些应该继续或扩大，哪些又应该果断停止，还有哪些需要完善或新设。
不在最前沿，就无法感受到趋势的风，所以我们还是要一边‘吃瓜’，一边埋头追赶。马珂说。
金融是现代经济的命脉，金融稳则经济稳。金融安全事关国家、区域企业发展大局，需要对金融风险时刻保持高度警惕，增强风险防范意识，科学应对，防范于未然。
由中国金融信息中心出品的《风险预警·金融版》在政府权威部门指导下，依托先进的大数据舆情监测系统和专业的分析师团队，对金融业不同领域、不同类别的风险舆情进行总结梳理和分析研判，为金融监管部门、要素市场、金融机构、上市公司、行业协会、各类企业、高等院校、研究机构等提供权威、专业、实用、及时、有效的金融风险舆情监测、研判、预警与应对建议。
