狂飙中的ChatGPT又一则“狼来了”？

顶端新闻·河南商报评论员 张恒

美国AI工具ChatGPT在国内引起强烈反响。ChatGPT的界面类似微信聊天，是一款问答形式的聊天机器人，专业表述为人工智能技术驱动的自然语言处理工具。它的强大之处在于，能完成撰写邮件、视频脚本、文案、翻译、代码等任务。

还记得7年前的围棋高手AlphaGo吗？彼时我们经历过人工智能危机的讨论。这次，激进的声音称ChatGPT大有取代人类工作的潜力。又一次狼来了的故事提醒我们，莫在集体狂欢中丧失理性判断。

ChatGPT在AI人工智能领域，带来的影响确实具有革命性。相比其他聊天机器人竞品，ChatGPT能更好地理解对话语境，即使是很困难的任务也能被ChatGPT解决得很好。但是，问题依然很多。

首先，ChatGPT是突破，但也有限制。ChatGPT极大地拓宽了其应用场景和实用性，但是在实际应用中，它会限制在自身设定的安全系统内。ChatGPT会拒绝回答不合法、不合理或敏感问题，还拒绝作出预测。比如，有人问它有没有谈恋爱，它一本正经地回答：我只是个机器人。

无论是出于伦理，还是安全性考虑，这种限制本身说明该AI工具存在局限性。当用户在问这类问题的时候，系统按照既定的模型安全策略回复，不去做任何判断。从这个角度来说，正是工具背后的人，无形中控制了答案。

其次，ChatGPT数据滞后、会出错，并非标准产品。AI如何发挥潜能，还是取决于人类输入的数据库，这导致它的知识结构具有滞后性。ChatGPT自称，我的知识截止到2021年，因此无法报告当下的实时热点事件。也就是说，它的数据资源停留在了2021年之前的互联网离线文本，没有跟实时的数据库或信息连接。

ChatGPT的缺陷还有很多。比如在媒体试验中，它把今日头条的创立者表述成王兴；被要求写一首杜甫风格的诗时，生成了朴实的打油诗。ChatGPT在接受媒体采访时直言，其自身缺乏创造力、不能体现个人情感、容易存在误导性。

具体到AI人工智能本身，其商业化模式仍在探索。正如市场人士所言，ChatGPT具有革新意义，但如果它是一个知识系统，它的知识并不准确；如果它是一个陪伴系统，它的情商又不够。今天的整个行业，离人工智能辉煌的时代都还远，现在仍是一个蛮荒时代。

我们还应该警惕新技术带来的风险。实际上，ChatGPT涉及的很多风险正在被讨论。如伦理方面，是否存在编造事实、民族歧视、侵犯隐私等问题，应由谁来担责；专业学术方面，该AI工具能提供快速简便的答案，但它并不能培养批判性思维和解决问题的能力；数据安全方面，其涉及数据泄露、删除权限、语料库获取合规等问题。

比尔·盖茨曾表示，ChatGPT可能会失控或走向错误的方向，这将引来大量争议。Ope-nAI（ChatGPT所属公司）的首席技术官Mira-Murati也说，ChatGPT面临的核心挑战仍是：与所有的大型语言模型相似，它可能会以一种非常自信的方式编造事实。

当前我国国家层面的AI立法正处于预研究阶段，因此对AI领域的监管并不完善，这对数字治理体系提出了新的挑战。如何在国内进行技术落地的初期同时保证其落实伦理规范，是目前AIGC发展的新难点。