审慎看待ChatGPT，防止技术过度想象新京报专栏

在ChatGPT类应用发展过程中，既要防止技术狂热，也要警惕工具迷思。

文 | 杨庆峰

似乎是一夜之间，ChatGPT便成为了全世界的焦点。由OpenAI开发的这款聊天机器人产品，功能强劲，而这一技术，甚至被微软公司的比尔·盖茨认为是另一次工业革命爆发的迹象。

ChatGPT浪潮迅速席卷全世界，首当其冲的是传统搜索引擎。压力之下，跨国搜索巨头谷歌公司发出红色代码（red code），被迫匆忙推出Bard来应对。但是，在北京时间2月9日的谷歌发布会上，Bard首秀便翻车，出现了一条错误回答。谷歌股价随即大跌7.68%，市值蒸发约1000亿美元。

谷歌出师不利，似乎也提醒，并非谁都可以成为ChatGPT玩家，其背后是相关研发的持续投入与无数工程师的辛苦努力。而且，ChatGPT的颠覆性表现，也令其面临诸多现实困境。比如，《自然》（Nature）等权威学术刊物，就第一时间声明拒绝承认ChatGPT的作者权，捍卫人类对于作品的署名权。

随着ChatGPT爆火，国内也已有学者就其使用的伦理后果进行了思考。但我以为，对于这一互联网新物种，首先应该放到技术维度去考虑。我们首先要问的是，为什么是ChatGPT？

从根本上看，ChatGPT这款AI（人工智能）程序，是与现实世界密切相关的，可用于多个生活场景，如日常对话、学术研究、教学活动等。根据图灵的预测，AI突破首先是在棋类游戏，但之后的突破点他并没有勾勒清楚。如果把AlphaGo的棋类游戏看作是一个突破口，ChatGPT的出现，让语言与图像成为了其他相继的突破口。

而从AlphaGo到ChatGPT，这个创新发作的过程有点类似于黑格尔式的水泡爆裂。当然，黑格尔本意是形容事物毁灭的过程，就像一个不断膨胀的水泡爆裂为无以数计的细小水滴。现在看来，以此形容AI技术发展也很贴切。

AI从棋类突破，类似于水泡本身破裂，而无以数计的细小水滴却让人看不清晰，如今在ChatGPT这个点上才被显现出来，让人们看到一幅宏大的科技爆发图景。这同时也让我们困惑于一个问题：人类与一款软件交流的实质是什么？

当前，在ChatGPT的一问一答中，人们获得了好奇心的满足。但这种人机交流过程，是不是真正的对话呢？从发问者本身来说，答案或许并不能肯定。

因为，真正的对话，是发生在两个主体之间，有着内在目的的驱动。在人类与ChatGPT的话语交流中，ChatGPT并没有话语的存在，这种问答即便是金属之声、水之潺鸣、风之咆哮，却也只是产生于外来的运动。

在应用角度，ChatGPT的使用无疑增强了人们的效率，甚至可以成为科研助手。从这一点来说，这是一款智能增强式工具。利用它，人们可以写出更好的文章来，甚至可以通过各种考试。但这就直接挑战了现有的社会秩序。

更有受着人类欲望驱使的尝试，不断触及道德边界。比如，试图利用ChatGPT造假行骗、写作艳情小说等，最初的使用目的可能是好奇心，试图了解机器人的反应，可以看作是一种求知欲，但很可能逐渐滑向恶的一面。

因此，ChatGPT这种技术使用的伦理后果，绝不是技术滥用可以概括的，在新兴技术出现越发迅速的今天尤其如此。在此过程中，我们既要防止技术狂热，也要警惕工具迷思。

过度的技术想象与工具迷思，无助于ChatGPT类应用的后期良性发展。而且，其后果通常都是在其对立面实现自己消灭自己。这是欲望自身分裂的结果，我们要防止的就是这种欲望的分裂。

当然，科技发展日新月异，潮流浩浩荡荡，对于一种新兴技术，我们也不要在自我想象中陷入恐慌，而要看到其合理规约之下的有益结果。

就像ChatGPT，作为一种刚刚发展起来的技术，其可能性还有待继续展开。一些人在热情拥抱它，一些人在对其严肃审视，也有一些人已经开始了反思。这是平衡之术，也是理性之光，能确保人类社会行稳致远。这就是机器尚无法替代的人类智慧，是我们的幸运。

撰稿 / 杨庆峰（中国科协-复旦大学科技伦理与人类未来研究院）

编辑 / 何睿

校对 / 王心

mp-common-profile