ChatGPT席卷全球人工智能面临“伦理转向”

近来，人工智能聊天机器人程序ChatGPT（全名：Chat Generative Pre-trained Transformer）席卷全球，完成了人工智能第一次大规模的自传播。据瑞士银行集团分析师团队发布的报告，自去年11月底发布以来，ChatGPT上线仅5天注册用户数就突破100万，今年2月的月活跃用户已经突破了1亿，速度远快于TikTok（字节跳动旗下短视频社交平台）或Instagram（Meta公司旗下社交应用），前者达到1亿用户用了9个月，后者则花了两年半的时间。在互联网领域发展的20年里，我们想象不到有哪个互联网应用发展得（比ChatGPT）更快。

美国《财富》杂志称，没有一款人工聊天机器人能与ChatGPT相提并论。ChatGPT能与用户进行天马行空的长对话，可以回答问题，还能根据人们的要求撰写各种书面材料，例如商业计划书、诗歌、计算机代码和剧本等。当然，它并不完美。比如提供的结果不够准确、无法引用信息来源、无法做到字斟句酌。然而，仅是这些就令人担忧这款人工智能产品会颠覆人们日常的生活、学习和工作方式。

被媒体称为ChatGPT之父的人工智能实验室OpenAI联合创始人兼首席执行官山姆·阿尔特曼表示，ChatGPT这项技术是朝着开发通用人工智能（AGI）方向迈出的一步。微软联合创始人比尔·盖茨甚至称ChatGPT的技术将会改变世界。他向《福布斯》表示，ChatGPT以及人工智能（AI）领域的进展令人激动，AI将是2023年最热门的话题。

今年2月7日，微软宣布将人工智能语言模型集成到其必应（Bing）搜索引擎中，并表示该人工智能工具比ChatGPT更强大。微软首席执行官萨蒂亚·纳德拉表示，开发更符合人类价值观的人工智能非常重要，必应模型似乎比ChatGPT更具人类特征。在一次测试中，必应出于道德原因拒绝写求职信，而是提供了写求职信的技巧和资源。山姆·阿尔特曼也曾在一次采访中表示人工智能领域对一家公司来说太大了，这个领域出现一个真正的生态系统会更好。我认为在某个时候，世界上应该会出现多个通用人工智能。

作为人工智能领域的现象级应用，ChatGPT也给中国的人工智能行业开启了新的竞争赛道。2月13日，北京市发布的《2022年北京人工智能产业发展白皮书》提出，支持头部企业打造对标ChatGPT的大模型，着力构建开源框架和通用大模型的应用生态。2月10日，京东宣布推出产业版ChatGPT，阿里、网易、360等互联网公司也纷纷宣布将发布聊天机器人产品、服务，或直接将ChatGPT引入业务。

ChatGPT风暴席卷全球很快引发了各界关注与担忧，其中之一便是替代人工的风险。有不少人认为ChatGPT和人工智能的发展会令翻译、画图和编程等行业日趋消亡。中国科学院自动化研究所紫东太初大模型研究中心常务副主任王金桥则认为，人机协同会是长期方向，但要完全代替人类，未来几十年都不太可能。对于有明确边界、领域知识固定的职业，人工智能生成内容可更多取代人类，如数据分析师、客服、导游等领域，或法律审核、医疗辅助诊断、各类资料审核等。

此外，人工智能及其应用可能引发的伦理与安全挑战也日益凸显。山姆·阿尔特曼表示，他最害怕的事情是开源图像生成器所生成的报复性色情图片。我认为这会造成巨大且可预见的伤害。网络安全公司Check Point研究副总裁玛雅·霍洛维茨则担心会出现越来越多的网络安全攻击。因为ChatGPT基本上可以让零编码技能的人成为网络罪犯，从编写令人信服的网络钓鱼电子邮件到编写恶意代码再到规避常见的网络安全检查。

目前，世界多国教育系统及相关从业者已公开抵制ChatGPT。美国多所大学已宣布计划减少居家评估，增加手写论文和口试。纽约市、巴尔的摩和洛杉矶的学区都叫停了学校管理的网络访问聊天机器人。在澳大利亚，一些大学表示他们将恢复只使用监考的笔试考试来评估学生。法国顶尖学府之一的巴黎政治学院也宣布禁止使用ChatGPT。纽约大学认知科学名誉教授盖理·马库斯对以深度学习为中心的人工智能方法持怀疑态度，认为通过将制造虚假信息的成本降低到几乎为零，ChatGPT这样的系统可能会引发一波虚假信息的浪潮，生成式人工智能对社会结构构成了真实而迫在眉睫的威胁。

欧洲议会人工智能伦理领域顾问安娜·费兰德近日表示，人类已走到了关键的十字路口：究竟是人工智能控制人类，还是人类控制人工智能。在人工智能野蛮生长的当下，没有一致的立法监管，人工智能在实践层面会面临诸多挑战。

目前，大多数生成模型都是在未经许可或无偿的情况下从互联网上收集材料进行训练的。今年1月底，在美国加利福尼亚州联邦法院提起的一项价值90亿美元的集体诉讼中，原告指控微软和OpenAI窃取授权代码来构建代码托管平台GitHub的Copilot人工智能工具，违反了开放许可条款。全球知名图片提供商华盖创意(GettyImages)稍早前也起诉热门人工智能绘画工具Stable Diffusion的开发者StabilityAI，指控他们未经许可在其训练数据中使用受版权保护的艺术作品。

安娜·费兰德2月初发表文章称，当前世界需要对人工智能采取伦理学上的考量，但最重要的是，需要建立风险评估框架，以指导发展符合人类价值观的人工智能解决方案。论及技术带来的问题和危害，掌管ChatGPT的山姆·阿尔特曼表示，人们无论如何都会采用开源模型，因而，应当采用共同责任和问责制度，让在此基础上建立的公司，以及与终端用户有最后关系的公司都承担责任。

本报北京2月15日电

中青报·中青网见习记者 赵安琪 来源：中国青年报