ChatGPT在全球走红,欧洲刑警组织警告它可能被犯罪分子利用
据路透社27日报道,欧洲刑警组织(Europol)周一警告称,智能聊天工具ChatGPT可能被用于网络诈骗、传播虚假信息和网络犯罪。报道称,这增加了对其在法律和伦理领域带来一系列问题的担忧。
欧洲刑警组织在发布首份相关技术报告时指出:随着ChatGPT等LLMs(大型语言模型)的能力正被积极改进,犯罪分子利用这类人工智能系统的潜在前景令人担忧。
报告列出了ChatGPT在三个犯罪领域的潜在有害使用方式:
首先,ChatGPT能够生成高度拟真的文本,能使其成为网络诈骗的有效工具。由于这种工具能够复制语言模式,以模仿特定个人或群体的发言风格,犯罪分子可能在针对受害者时会加以利用。
路透社报道截图
其次,ChatGPT还能够快速大规模地生成看起来很逼真的文本,允许使用者耗费相对较少的精力,就能生成和传播反映特定叙事的信息,而这个特点也使其成为在互联网上散布虚假信息的理想工具。
最后,即使缺乏技术知识的犯罪分子也可能会利用ChatGPT来编写恶意代码,从事网络犯罪活动。
据介绍,ChatGPT由美国初创公司OpenAI开发,于去年11月底发布上线。上线短短5天,ChatGPT用户量即超过百万,两个月后,月活用户突破1亿,是史上用户增长速度最快的消费级应用程序。其强大的语言处理能力、海量的数据积累等特点让用户感到惊讶甚至震撼。
ChatGPT的走红引发全球科技巨头的入局,百度、谷歌等知名企业均宣布将推出类似服务。许多企业也纷纷将该技术或类似技术集成到自己的应用程序和产品中。
在接受《环球时报》记者采访时,多名业内人士将ChatGPT的出现形容为颠覆性和革命性的,并预测其未来将有着更强大的能力,甚至可以取代一些基础性职业。但他们也提到,ChatGPT仍存在内容准确性不足、无法进行高级逻辑处理等局限,并且其在法律和伦理领域的潜在风险正在不断显现。
(编辑:ZLQ)