共计 1859 个字符，预计需要花费 5 分钟才能阅读完成。
根据《华尔街日报》的最新消息，OpenAI 正在研发的下一代大型语言模型 GPT- 5 进展显著滞后于预期，而且目前所取得的成果并未与其庞大的研发投入相匹配。
这一消息与之前《The Information》所报道的内容相互印证，该报道提到 OpenAI 正在探索新的策略，因为 GPT- 5 或许无法像其前身那样实现显著的性能突破。《华尔街日报》的报道进一步揭示了代号为“猎户座”（Orion）的 GPT- 5 的长达 18 个月的研发过程中的更多细节。
据悉，OpenAI 至少进行了两轮大规模训练，旨在通过海量数据提升模型性能。然而，首次训练的进展未如预期，这意味着后续的大规模训练将消耗大量时间与资金。尽管 GPT- 5 的性能被认为优于其前代产品，但其进步幅度尚不足以证明维持该模型运行的高昂成本是合理的。
此外，报道提到，OpenAI 除了依赖公开数据和许可协议外，还雇佣人员通过编写代码或解决数学问题来生成全新数据。同时，该公司还在利用其另一个模型 o1 生成的合成数据。
截至 IT 之家发稿时，OpenAI 尚未对此消息做出回应，之前该公司曾表示，今年不会推出代号为“猎户座”的新模型。
消息称 OpenAI 新模型 GPT- 5 研发遇阻，成本高昂、效果未达预期
我不打算详细阐述 AI 训练的原理，想和大家分享一些简单易懂的内容。
从某种角度来看，GPT 的版本可以视为人类学习能力的一个标尺。
例如，OpenAI 的首席技术官米拉·穆拉蒂曾提到：
如果你观察（GPT）的发展轨迹，像 GPT- 3 这样的系统可能仅相当于 幼儿的智力水平 ，而 GPT- 4 则更接近于 聪明的高中生智力水平 ，我们期待在未来几年内，能够在 特定任务上达到博士的智力水平。
训练 AI 的前提是要提供足够丰富的素材。从知识结构和内容的角度来看，至少达到本科或研究生阶段的资料，才能形成逻辑严谨且系统化的知识体系。
然而，博士生的研究领域往往是小众且冷门的，值得注意的是我所说的具体研究课题。例如，某个生物学博士可能看似常见，但如果深入了解他的细分领域，就会发现其研究方向是相当冷门的，比如我有一个朋友的博士研究是关于太空微重力下植物细胞的生长……自从她的师姐毕业后，整个学校只有她一人专注于这个方向，甚至在全球范围内也鲜有人在做类似的研究，大家彼此相识。因此，这类领域的训练是极具挑战性的。
此外，博士研究的核心在于探索未知、创造新知识，而 AI 目前尚不具备创造能力。因此，我们需要人类不断创造新的知识来供 AI 学习，但从现阶段的训练情况来看，我们创造知识的速度远远赶不上 GPT 学习的速度。
可以简单理解为，如果人类知识的高度是 2 米，AI 的训练难以超越 2 米 1。但在 2 米的范围内，我们仍然可以努力接近极限。从这个角度分析，想要培养出具备专业博士水平的 AI 是非常困难的，因此 OpenAI 最初的目标是希望在某些领域让 AI 达到博士的智力水平。
目前，一些 AI 正在尝试通过高质量模型生成高质量知识来训练其他模型，这种方式给人一种“吃了吐”的感觉。但我非常担心这种训练方法最终会导致大模型的性能一代不如一代。
因此，GPT 的新版本并没有沿用这种路径，而是着重提升推理能力。他们试图让 GPT- 3 的推理能力达到博士级别。
然而，这个目标同样相当艰难，如何定义“达到博士水平”呢？许多大型模型正在进行研究生级推理（GPQA）测试，认为新一代的大模型会超过博士生的推理水平。
然而，即便 AI 达到了博士生的推理能力，这是否意味着它能够用于科研，创造新知识呢？
因此，许多 AI 领域的专家期待 AI 能够相互合作，共同创造新知识的美好愿景，然而这一目标并不会很快实现，甚至是否能实现也尚不确定。
目前我们所说的利用 AI 实现的新发现或创造，更多是 AI 对已有模式的组合、推断与变形，可能会生成看似新颖的内容（例如在文章、代码或设计中生成之前未曾出现的组合）。
又或者，基于已有数据，通过复杂的排列组合或推理得到新的输出，甚至借助 AI 在数据中发现人类尚未意识到的新关联，提出新的假设或规律。
但要让 AI 创造出超越现有科学理论、规律和事实的新知识，现阶段几乎是不可能实现的。
因此，从某种角度而言，不断升级的 GPT 目前更像是一个日益出色的助手。
