共计 3049 个字符，预计需要花费 8 分钟才能阅读完成。
原标题：真人与“数字人”难以区分的现象
□ 记者 赵丽
□ 实习生 宋昕怡
“生西红柿和生黄瓜不能一起食用！黄瓜中的分解酶会破坏维生素 C，若同食轻则影响西红柿的维生素 C 吸收，重则可能引发腹泻、肠胃不适，甚至食物中毒。”电话那头，母亲滔滔不绝，然而赵女士却听得一头雾水。
不久后，母亲发来了一段视频。赵女士回忆说：“视频中有位白发苍苍、穿着白大褂的‘医生’侃侃而谈‘养生秘诀’，甚至声称‘清淡饮食就是只吃素食，完全不吃肉’。我妈把这个‘医生’的话奉为圭臬。”可当她仔细一看，视频右下角赫然写着“此视频由 AI 辅助生成”的字样。
“后来，我妈戴上老花镜，在我的指引下找了好一会儿才发现那行字。”赵女士无奈地说道，“这不能全怪老人，现如今 AI 生成的‘数字人’遍地开花，确实让人分辨困难。”
这样的困惑并非赵女士一家所独有。《法治日报》记者近期随机采访了数十名路人，发现至少有七成受访者表示曾接触过“AI 数字人”视频，并且“难以分辨其真实性”，主要原因在于“缺乏有效提示”。
许多人对此表示担忧：真人与“数字人”的界限模糊，可能隐藏着肖像权侵权、敲诈、诈骗等违法风险。
数字人难以辨别的现象
在重庆读大学的郑媛在某社交平台上浏览时，看到一则帖子——照片中的女生温婉动人，穿着清新时尚，十分吸引眼球。郑媛于是点赞并关注了该账号。
然而不久后，她看到另一名博主揭露该账号是利用“AI 生成人”创作的内容，正是她之前关注的那个账号。郑媛仔细查看了那个女生的主页，发现她并未标示使用 AI 技术，还在评论区热情互动。面对这样的情况，郑媛感到“糊涂”。经过一周的观察，她终于找到证据，发现该账号的图片确为 AI 生成，有网友在其他账号上找到了妆容和服装几乎相同的“数字人”，而人物介绍却完全不同。
习惯在直播间购物的李菲表示，自己经常误入“数字人”直播间。这些“数字人”主播侃侃而谈，介绍商品，手部动作随着语音节奏不断变化，声音流畅自然。
“要仔细查看才能在直播间左侧找到一行‘现直播内容为数字人直播，非真人直播’的小字提示。”李菲说道，“现在我进直播间时都会先寻找小字来确认主播是否为真人，但这真的‘费眼睛’，有时字迹几乎透明，不注意根本发现不了。”
袁伟（化名）是一所 985 高校的计算机研究生。他告诉记者：“如今一些 AI 大模型生成的图像，别说中老年人，许多对 AI 技术不太了解的年轻人也未必能辨别真假。”
他随后为记者演示，输入指令“帮我生成一张美丽女性的图片，细致的皮肤纹理，室外自然光”，生成的图片几乎与真人照片无差，如果不是右下角的水印，简直就像一张普通的美女照片。“早期 AI 软件生成的手指和人体比例往往不自然，但随着技术进步，生成的效果越来越逼真，这无疑增加了辨别的难度。”
“如果这样的 AI 生成图片或视频没有任何标识提示，很多人可能会轻易相信。”袁伟强调。
账号缺乏标识的问题
记者在某社交平台发现一名叫“××AI 打假人”的用户，该账户发帖称将致力于“揭露纯 AI 生成内容的博主，帮助小白识别真伪”，并表示“关注了很多 AI 生成的虚拟帅哥美女”。
在其关注列表中有 300 多个账号，记者随机浏览 20 个账号，若没有看到评论区的“这是 AI 吧，手指的细节很奇怪”“背景里的文字都是乱码”等留言，记者最初也只以为这些是普通的颜值时尚博主。
这 20 个账号的粉丝数从几百到几万不等，只有 3 个在简介中注明“虚拟男友”“AI”“友情提示视频由虚拟现实技术制作”，两个账号的内容经过审核后被打上了“疑似包含 AI 创作信息，请谨慎甄别”的标签。其余账号在简介和内容中未提及“AI”，平台的监测机制也未能识别它们，这些账号还在评论区与用户热情互动，呈现出更强的“真人感”。
在调查中，超过一半的受访者告知记者，AI 生成的“数字人”与真人之间的界限模糊，相关提示并不明显。
此外，记者发现，还有人专门教导他人如何规避平台的“AI 标识”。目前，各大平台普遍升级了 AI 内容识别系统，要求对 AI 生成的作品进行显著标注。但在调查中，有博主分享经验称，花费不到千元便可购买某些 AI 工具中预配置的镜像文件，利用这些文件一键生成的虚拟人形象可以以假乱真，最大程度避开平台的 AI 内容强制标注机制。
细化标准并加大惩处力度
记者梳理公开信息发现，一些有心人士利用“数字人”形象进行违法活动。
据报道，张文宏、雷军等公众人物的形象曾被用于生成“AI 数字人”，进行带货或恶搞。在一些直播间内，“AI 数字人”向中老年群体虚假宣传保健品，诱导他们购买。更有甚者，不法分子利用“AI 数字人”进行敲诈和诈骗。例如，山西忻州公安机关发现，犯罪嫌疑人王某某利用 AI 技术制作合成“数字人”新闻视频以引流，随后进行有偿发帖和删帖等敲诈勒索活动。2024 年，一名 65 岁老人到银行办理业务，声称要贷款 200 万元给男朋友“靳东”拍戏，经过调查发现，她手机里的“靳东”视频是 AI 合成的。
重庆大学网络与大数据研究院副院长罗勇认为，从价值取向来看，AI 产业的发展不能凌驾于网络安全之上。由于缺乏必要的辨别能力，许多网络用户，特别是未成年人和老年人，往往容易相信 AI 生成的内容，这可能引发负面网络舆情，甚至对网络安全造成影响。
据受访专家介绍，当前我国已经出台了《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等法规，明确对“AI 数字人”和 AI 生成内容的标识与数据来源提出具体要求。
今年 3 月，国家网信办及其他四部门联合发布《人工智能生成合成内容标识办法》，目的是通过标识提醒用户识别虚假信息，规范内容制作和传播环节的标识行为，为 AI 生成内容的合法性划定红线。该办法将于 9 月 1 日起实施。
中国政法大学教授郑飞指出，现行规定在落实上仍存在困难。一方面是监管和技术手段有限，难以彻底发现并纠正违规行为。例如，一些“AI 起号”从业者通过设置“镜像参数”生成极其真实的虚拟人形象，从而逃避平台的强制标注要求。而监管部门，特别是基层执法机构，通常面临职责不明确、执法手段和人力不足的问题；另一方面，一些平台在某种程度上“管不了”或“不愿管”。“管不了”是因为平台管理能力和技术手段不足，尤其是小型平台，缺乏足够的审核人力和技术支持。“不愿管”则是由于利益驱动，未明显标识“AI 数字人”或合成内容，容易让受众误以为是真人或真实事件，从而引起更大的关注和流量，进而获得商业利益。
“以网络社交平台为代表的网络服务提供者在 AI 生成内容的应用场景中，应进一步完善用户使用 AI 的协议，并加强对 AI 生成内容的审核。”罗勇表示。
郑飞建议，应从明确标识要求和加大责任追究两方面入手。标识办法明确规定，一旦检测到 AI 生成内容，传播平台应在发布内容周围添加显著提示标识，并在文件元数据中加入隐式标识，确保全流程可追踪。在未来的实施过程中，可进一步细化技术标准，例如规定标识文字的最小高度、对比度和展示时长等，以确保标识一目了然。此外，对于不按规定进行标注的行为，需实施严厉惩罚：除了加大行政罚款、暂停业务或纳入不良信用记录等措施外，还需通过法律手段加大威慑力度。只有通过明确、显著的标识标准和更严格的责任追究，才能从根本上震慑违规标注行为，实现“AI 数字人”应用的透明化和合规化。
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索，24 小时报料热线 400-800-0088；消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明：本文章版权归属央广网所有，未经授权不得转载。转载请联系：cnrbanquan@cnr.cn，不尊重原创的行为我们将追究责任。
