共计 1712 个字符，预计需要花费 5 分钟才能阅读完成。
新华社旧金山2月20日电 位于旧金山的美国人工智能企业“开放人工智能研究中心”（OpenAI）近日推出了一款名为Sora的生成式人工智能模型，能够通过文本指令生成视频。这一突破不仅巩固了OpenAI在人工智能领域的领导地位，同时也引发了对“深度伪造”等潜在风险的担忧。
“惊鸿一瞥”恐颠覆行业
这是OpenAI首次涉足人工智能视频生成技术。根据公司的介绍，Sora依托于Transformer架构，能够根据文本指令生成接近现实且充满想象力的场景，制作出多种风格和不同画幅的高清视频，长度最长可达一分钟。此外，该模型还具备根据静态图像生成视频的能力，甚至能对现有视频进行扩展或填充缺失的帧。
分析人士指出，Sora的问世再次凸显了人工智能技术在现实生活和传统行业中的深远影响。随着人工智能在视频生成领域的显著发展，虽然为影视产业的新业态提供了可能性，但也可能对现有影视行业造成颠覆。去年，好莱坞经历了63年来首次全行业的编剧和演员罢工，原因在于部分工作岗位可能被人工智能所取代。Sora的推出使这一威胁变得更加迫近和真实。其发布的第二天，专注于图像处理和视频制作的Adobe公司股价下跌超过7%。
虽然Sora并非首个涉足文本转视频的公司，但其发布使OpenAI在这一领域取得领先地位，进一步巩固了其在生成式人工智能的影响力。高德纳咨询公司的分析师钱德拉塞卡兰表示：“在这个领域，没有其他公司比OpenAI更具雄心，而且这种雄心似乎在不断增强。”
OpenAI强调，Sora对语言有着深刻的理解能力，它不仅能解析用户的文本提示，还能够理解这些事物在物理世界中的存在方式。“我们正在教授人工智能理解和模拟物理世界中的运动，目标是训练模型帮助人们解决与现实世界互动时的问题。”
“深度伪造”担忧加剧
Sora的发布引发了广泛的关注，但目前所推出的版本更像是一个预览，公众对该模型的优缺点尚未有全面的了解。OpenAI表示，目前仅向一些设计师和电影制作人等特定用户提供Sora的访问权限，以便收集反馈信息以改进模型。公司并未公布训练Sora所用的数据等基本细节，也没有明确向公众推出的具体日期。
OpenAI承认，Sora生成的视频可能出现不合逻辑的图像，空间细节如左右混淆等问题，且在模拟复杂场景的物理原理和因果关系时也可能出现偏差。例如，当一个人咬了一口饼干时，饼干上却可能没有留下咬痕。
然而，随着计算能力的提升和模型的不断改进，短期内人们或许能够享受到更加完善和先进的视频生成体验。
许多业内人士对Sora可能助长“深度伪造”（Deepfake）技术表示担忧。加利福尼亚大学伯克利分校信息学院的副院长法里德指出：“在一个新闻、图像、音频和视频都能被伪造的世界里，真实将不复存在。”
针对这些造假顾虑，OpenAI表示，在产品面向公众之前，将确保生成的视频附带来源元数据，并推出检测视频真伪的工具。此外，OpenAI承诺在使用Sora前采取安全措施，包括由对“错误信息、仇恨内容和偏见”等领域的专家进行对抗性测试，以评估潜在的危害或风险，并对包含极端暴力、性内容、仇恨图像及他人知识产权的文本输入进行审核和拒绝。
尽管如此，OpenAI也承认，尽管进行了广泛的研究和测试，仍然无法预见人们将如何利用其技术的所有潜在有益和滥用方式。
AI狂飙下的监管难题
在科技领域不断涌现颠覆性创新的背景下，如何平衡技术进步与社会安全的保障，成为各界日益关注的焦点。
OpenAI表示，将与全球的政策制定者、教育工作者和艺术家合作，倾听他们的担忧，识别Sora的积极应用场景，并强调从实际使用中学习，是构建和发布更安全的人工智能系统的关键。
业内人士指出，现有的治理框架和管控措施尚未跟上技术发展的步伐，单靠企业难以提供社会所需的人工智能安全性和信任感。
来源 新华社 | 作者 吴晓凌
编辑 周文丽
流程编辑 刘伟利
