共计 2043 个字符，预计需要花费 6 分钟才能阅读完成。
由 ChatGPT 创造的程序小狗。
最近，一款名为 ChatGPT 的聊天机器人在全球范围内引发热潮，开发公司 OpenAI 透露，该机器人在上线后的短短五天内用户就已超过 100 万。网友们通过截图展示，ChatGPT 不仅能够与人进行流畅的对话，还能编写代码、查找 Bug、设计海报、撰写年度报告……甚至能够模仿鲁迅的写作风格进行奇思妙想的创作，几乎无所不能。
值得注意的是，ChatGPT 并不是唯一的对话型人工智能。早在去年的 I / O 开发者大会上，谷歌便展示了专为对话设计的 LaMDA 系统。今年春季，一位谷歌工程师甚至声称 LaMDA 拥有自己的“意识”。虽然这一说法遭到了广泛的质疑，但它确实激发了公众的想象力。
对话型 AI 的奥秘是什么？
ChatGPT 是 OpenAI 于 11 月 30 日发布的一款全新聊天机器人。在 OpenAI 的官方网站上，ChatGPT 被描述为一种优化对话的语言模型，属于 InstructGPT 的姊妹模型。这个模型通过对话的方式与用户互动，使得 ChatGPT 能够回答后续问题、承认错误、提出质疑，并拒绝不当请求。
根据澎湃新闻的报道，ChatGPT 采用了与 InstructGPT 相同的人类反馈强化学习（RLHF）技术，通过在训练集前添加去除个人信息的人工标注，利用这些数据来微调模型，从而提升其帮助性与真实性，同时减少语言模型的潜在危害和偏见。
LaMDA 是谷歌于去年 5 月推出的一项突破性对话应用语言模型技术，谷歌称其能够参与流畅的自由对话。《纽约时报》12 月 12 日报道指出，LaMDA 是人工智能研究人员所说的神经网络，模拟大脑神经元网络的数学系统。这项技术在谷歌翻译、自动驾驶等服务中也得到了应用。
这样一个神经网络通过分析数据来学习技能，举例来说，它可以通过成千上万的猫咪照片找出固定模式，从而学会识别猫的特征。
五年前，谷歌和 OpenAI 等实验室的研究者开始设计神经网络，分析大量的数字文本，包括书籍、维基百科、新闻报道及在线聊天记录，科学家们将其称为“大型语言模型”。这种技术能够自动生成文本，并结合不同的概念，模仿人类的写作风格。
OpenAI 通过 ChatGPT 不断完善这一技术。与 LaMDA 相比，ChatGPT 的设计更类似于 Siri 和 Alexa 等数字助手，虽然它同样是基于互联网海量文本进行训练的。
聊天机器人并非总是诚实的
经过大量数据的训练，ChatGPT 这类聊天机器人能够轻松提供观点和解答，但它们并不总是准确的。有时生成的答案真假混杂，引发人们对这类机器人可能被用来传播假消息和谣言的担忧。
一位来自弗吉尼亚州的数据科学家亚伦·马格利斯（Aaron Margolis）向《纽约时报》表示，尽管他对 LaMDA 的开放对话能力感到惊讶，但它有时也会“编造”信息，因为它是基于互联网上的信息进行训练的。
马格利斯曾要求 LaMDA 像马克·吐温一样进行对话，结果 LaMDA 迅速描述了吐温与李维斯·施特劳斯（Levis Strauss）之间的会面，并称马克·吐温在 19 世纪中期居住在旧金山时曾为李维斯这位牛仔裤巨头工作。虽然看似真实，但实际上，尽管两人确实在旧金山同处一地，但他们并未有过合作。
科学家将这种现象称为“幻觉”，即聊天机器人像一个擅长讲故事的人，能够将所学内容重塑为新信息，却不考虑其真实性。
根据澎湃新闻的报道，ChatGPT 上线后不久便遭到程序设计问答网站 Stack Overflow 的抵制。该网站暂时禁止用户分享 ChatGPT 生成的回答，因为该工具能够迅速生成大量回答，导致网站充满了许多看似可信但实际上不准确的信息。
OpenAI 也意识到 ChatGPT 的不足。该公司警告称，ChatGPT 有时可能“提供不正确的信息，生成有害的指令或偏见的内容”，并表示将继续改进该技术，同时提醒用户“这仍然只是一个研究项目”。
人工智能的未来走向何方？
谷歌、Meta 等科技巨头正在积极寻求解决人工智能准确性的问题。Meta 最近下线了其聊天机器人 Galactica 的在线预览功能，原因在于其屡次生成不准确和带有偏见的信息。
不过，专家们仍然警告科技公司无法完全掌控这些技术的未来，像 ChatGPT、LaMDA 和 Galactica 这样的系统基于多年来自由流通的知识、研究论文和计算机代码。《纽约时报》11 日评论称，像谷歌和 OpenAI 这样的公司虽然能更快推动技术进步，但他们最新的技术已经被广泛复制，无法阻止人们利用这些系统传播错误信息。
在 ChatGPT 上线后，特斯拉首席执行官埃隆·马斯克在社交媒体上表示：“我们距离强大而危险的人工智能不远了”。作为 OpenAI 的创始人之一，马斯克显然对这项新技术的发展充满信心，但他也承认，强大的新技术往往伴随着风险。
人工智能未来的演变仍然充满未知，但可以肯定的是，人工智能的监管与控制问题亟待解决。
