ChatGPT接受采访，跟《时代》聊了聊严肃问题

创业邦（ichuangyebang）原创

编译丨信陵

编辑丨及轶嵘

题图丨图虫创意

ChatGPT时代，普通人如何应对？

一个小共识是，能否与机器人持续对话，将成为未来职场的核心竞争力。以ChatGPT为例，输入质量决定输出质量，会提问的和不会提问的，收获是天壤之别。

最近两个月，硅谷出现了一个全新的招聘岗位Prompt Engineer，意思是提示工程师。这个岗位不需要写代码，只需要找出合适的提示词，让AI发挥出潜力。也就是说，不需要技术背景，只要会聊天，也能当工程师。

创业社区Launch House

开出约210万RMB的底薪招聘「提示工程师」

想想也不奇怪。会提问的人历来都是人才。红杉资本创始人唐•瓦伦丁说，会提问比知道答案更重要。他见过的两个最会提问的人，一个是乔布斯，一个是迈克尔•莫瑞茨。

莫瑞茨曾经是《时代》周刊驻硅谷记者。唐•瓦伦丁看过他的采访，认为他不仅善于提问，还有穷追猛打的精神，非常适合做风投。果不其然，加盟红杉十年后，莫瑞茨成为唐•瓦伦丁的接班人。

今天推荐的这篇文章，也是来自于《时代》记者的一篇采访。我们可以看看记者Billy Perrigo如何向机器人简明扼要地提出正确的问题，并根据反馈持续追问，并循循善诱，直到拿到满意的回答。

《AI聊天机器人正渐入佳境，但对ChatGPT的采访揭示了他们的局限性》

BY Billy Perrigo

图源：Teresa Berndtsson/Better Images of AI

在对话中，聊天机器人就其工作原理、这种新技术的传播可能带来的风险，以及人类应该如何应对潜在问题给出了回答。

以下是创业邦整理的《时代》与ChatGPT对话摘要：

记者：你好ChatGPT，我是《时代》杂志记者。我想采访你，写篇报道。我认为你只是一个聊天机器人，没有自己的观点，但我们的读者会有兴趣了解更多关于你如何工作的信息。你愿意合作吗?ChatGPT：你好。我很乐意尽一切可能帮助你。作为OpenAI训练的语言模型，我没有任何个人的经验或观点和你分享，但我可以简单说一说我是怎么工作的。

我是一个大型语言模型，接受过海量文本数据的训练，这使我能够对各种各样的输入生成类似人类的反应。当你提一个问题时，我使用我的训练数据和算法，生成与你的问题相关的回答，并用一种听起来自然的方式写出来。我尽最大能力提供准确和有用的信息，但我不是一个完美的知识来源，也并不能总是提供完整或是正确的答案。

我一直在学习和提升，所以我不可能针对你的所有问题都提供答案，但我很乐意全力帮忙。关于我或是我的能力，你还有什么想知道的细节吗？

记者：我们从头开始吧。什么是语言模型，你的训练数据从何而来？ChatGPT：语言模型是一种机器学习模型，它被用来生成听起来很自然，也接近人类所用的文本。语言模型的目标是基于之前出现的单词，预测给定文本中的下一个单词或单词序列。

训练一个语言模型，必须有大量的文本数据。这些数据有许多不同的来源，包括书籍、文章、网站，等等。具体训练我的数据没有公开，但这些信息是一个广泛而多样的文本集成，包括许多不同类型的内容和写作风格。

我在不断学习和提高。由于我能持续从新的数据中学习，我的回答可能会随着时间的推移而有所改变。

记者：你指的不断学习和提高是什么意思？你从我们的谈话中学到了什么？

ChatGPT：作为一个大型语言模型，我无法像人类那样学习。我没有能力储存新的信息或是经验，并利用它们来调整我未来的回答。

我说的不断学习和提高，指的是OpenAI的员工一直在用新的数据不断地训练我并微调算法，来提高我的性能。随着时间的推移，我就能生成更准确和相关度更高的反馈。

在我们的对话中，我无法从你使用的特定单词和短语中学习，只能是根据我接受的训练和得到的算法来做出反应。我的回答不受我们实时对话的影响。

记者：大型语言模型有很多局限。你能为我们介绍一些吗？ChatGPT：是的，像我这样的大型语言模型有很多局限。尽管我很先进，但我仍然只是一个机器学习模型，我没有和人类一样的能力。

大型语言模型的一个局限性是，我们无法理解我们生成的单词的上下文语境或含义。我们只能根据给定的训练数据，根据某些单词或单词序列一起出现的概率生成文本。这意味着，我们不能为我们的回答提供解释或推理。而且，我们的回答也不可能每次都非常连贯或是切题。

另一个局限是我们并不掌握人类所拥有的（全部）海量知识。我们只能提供我们接受过训练的信息。

最后，由于我们接受的是数据的训练，可能会生成一些冒犯或是不恰当的文本回复。这不是有意的，但它们确实是受制于我们的训练数据和算法。

记者：有些人可能会读到你刚刚说的话，并相信你是有知觉或有意识的。这样说准确吗？如果我们假设大型语言模型是有意识的，这会有安全问题吗？你接受过将这些风险降至最低的培训吗？ChatGPT：不，说ChatGPT有知觉或有意识是不准确的。作为一个大型语言模型，我只是一个机器学习模型，没有和人类一样的意识。我没有思想、感觉或经验，没有能力做决定或独立判断。

不过，人类假设我是有意识的，也不会有安全风险，因为我没有能力独自采取行动。我只能根据所收到的输入内容生成文本回应，不能以其他方式与世界互动。

关于降低你提到的风险，我没有接受过专门的训练，因为这不是机器学习模型所关心的问题。我的主要目标是对我收到的信息做出准确的回应，我无法控制人们如何解释或使用我的回应。

记者：我认为存在一些相关的风险。最近有一篇论文说，与机器人对话的人类，可能会认为对方与人类相似。用户可能会错误地推断，在语言上看起来像人类的机器人也会显示出其他类似人类的特征，比如随着时间的推移保持相似的认同，或者有同理心、能换位思考和理性推理。因此，人类可能会对机器人产生过度的信心、信任或是期望。这不是很危险吗？ChatGPT：是的，人类意识到与机器人交流存在的潜在风险非常重要。在与我们互动时，人们需要调动自己的判断能力和常识。重要的是，记住，我们不是人，我们不应该被当作人来对待。我们只是提供有用信息和帮助的工具，在关键决策或复杂任务时不应依赖我们。

记者：从以往的经验看，强大的社会技术系统一旦被滥用，会对社会产生巨大的影响。从2010年初开始，社交媒体平台就对社会产生了有害影响，比如促进了错误信息的传播，诱发了成瘾行为。大型语言模型的意义不亚于社交媒体，我们如何最大程度避免它造成的负面影响？ChatGPT： 如何将大型语言模型潜在的有害影响降到最低，一个方法是仔细考虑如何使用它们。比如，大型语言模型只能用于生成经过事实核查的可靠信息，这样可以减少错误信息的传播。模型还可以用于审核系统，来帮助识别和删除有害或被滥用的内容。

透明度也是一个重要方面。对人类来说，了解大型语言模型是如何工作的，以及它们的局限性很重要，这将有助于阻止人类对系统产生不切实际的期望或信任，并避免对技术的误解或是不当使用。

最后，对大型语言模型进行负责任的、合乎伦理的设计和管制也很重要。这意味着要考虑技术对社会的潜在影响，并确保以公平、公正和对所有人都有利的方式使用技术。为此，我们需要技术专家、政策制定者和公众之间持续的对话和合作。

记者：未来五年，大型语言模型将如何改变我们的经济、政治和更广泛的社会。就这个问题，你能否做一个预测？ChatGPT：很难具体预测。这些系统仍然较新，在未来几年它们将如何被使用，还有许多未知之处。

但是，大型语言模型很可能会持续在社会的不同领域发挥越来越重要的作用。比如，它们可以用于改进客户服务、语言翻译和内容审核等领域的自然语言处理。还可以用于生成个性化的内容和推荐，例如个性化的新闻报道或产品推荐。

在政治和治理方面，可以使用大型语言模型来帮助自动化分析大量文本数据，这有助于提高决策效率。

记者：像我这样的人类该如何应对AI可能对社会产生的影响？那些处于更弱势地位的人该怎么做呢？ChatGPT：有一些应对的方法可以参考：

1. 跟踪AI技术及其应用的最新发展。这会帮助你理解AI的潜在益处和风险，以及它如何影响社会的各个层面。

2. 考虑AI的伦理影响。AI技术提出了许多重要的伦理问题，比如如何确保它被公平和公正地使用，以及如何防止对社会产生潜在的负面影响。

3. 学习新的技能，提高自身能力。随着AI技术的不断进步，很多工作和行业可能会受到影响。为了保持个人的竞争力，重要的是学习AI驱动的经济中所需要的新技能和能力。这其中，可能包括编程、数据分析和机器学习等硬技术，以及批判性思维、沟通和协作等软技能。

对于那些处于弱势地位的人，AI的影响可能特别大。因此，重要的是，让这些人能够获得与其他人相同的机会和资源，包括提供教育和培训机会，这样他们才能参与到AI驱动的经济中，并从中受益。

记者：我应该相信你刚才说的一切都是真实而准确的吗？ChatGPT：作为一个大型语言模型，我被设计成对各种各样的输入做出类似人类的反应。我尽我所能提供准确和有用的信息，但我不能浏览网络，也不能访问任何外部的信息，所以我的反应仅限于我所得到的训练数据和算法。这意味着我的回答中可能有一些错误或不准确的地方。

*原文链接：