共计 3017 个字符，预计需要花费 8 分钟才能阅读完成。
“生西红柿和生黄瓜一起食用是不行的！黄瓜中的某些分解酶会影响维生素 C 的吸收，轻则会影响西红柿的营养，重则可能引起腹泻、肠胃不适甚至食物中毒。”电话那头，母亲说得非常认真，而赵女士却感到困惑不已。
随后，母亲发来了一段视频。赵女士回忆：“视频中的‘医生’身着白大褂，头发花白，滔滔不绝地讲述‘养生之道’，甚至声称‘清淡饮食就是完全素食，不吃肉’。我妈妈把他的言论当作真理。”但赵女士细心一看，发现视频右下角赫然写着一行几乎透明的字——“此视频由 AI 辅助生成”。
“后来，我妈妈戴上老花镜，在我的提醒下找了好一会儿才发现那行字。”赵女士无奈地表示，“这不能全怪老人，现如今 AI 生成的‘数字人’泛滥，确实让人难以分辨真假。”
这样的烦恼并非赵女士一家所独有。《法治日报》记者近期对路人进行随机采访，发现至少 70% 的受访者表示曾看到过“AI 数字人”视频，并且“难以分辨真实与虚构”，主要是因为“缺乏有效的提示”。
许多人对此感到担忧：如果连真人和“数字人”都无法分清，那么就潜藏着肖像权侵权，更可能引发敲诈和诈骗等违法犯罪的风险。
关于数字人的辨别难题
在重庆上大学的郑媛在某社交平台上看到一则帖子——帖子中的女孩外形温柔，穿着时尚，十分吸引眼球。郑媛于是点赞并关注了这个账号。
然而不久后，郑媛又看到另一位博主揭露某些账号使用“AI 生成人”来吸引关注，恰好就是她之前关注的那个账号。“我仔细翻看了她的主页，发现她没有注明使用 AI 技术，评论区还与其他用户亲切互动。”对此，郑媛感到十分困惑。经过一周的观察，她找到证据证明该账号的图片确实是 AI 生成的——有网友在其他平台上发现了与之相似的“数字人”，而背景介绍却截然不同。
一位习惯在直播间购物的北京市民李菲表示，她常常误入“数字人”直播间，这些“数字人”主播口若悬河地介绍商品，手势与语言节奏协调，声音非常流畅自然。
“如果不仔细查看直播间左侧的小字‘当前直播内容为数字人直播，非真人直播’，根本很难发现。”李菲说道，“现在我习惯在进入直播间后先寻找小字，确认主播是否是真人，但这真的很费眼，常常要在隐蔽的地方寻找，字体几乎透明，稍不留意根本看不到。”
袁伟（化名）是一名 985 高校计算机系的研究生。他告诉记者：“如今一些 AI 大模型生成的图像，不仅中老年人难以辨别，甚至许多年轻人也未必能看出真伪。”
他向记者展示了某 AI 软件的效果，输入“生成一张容貌姣好的女性，精细的皮肤纹理，室外自然光”的指令，生成的图片与真实照片几乎无异，若不是右下角的水印，根本无法识别。“早期的 AI 软件在手指和人体比例的表现上很差，但现在技术迅速进步，生成的手指和比例已经相当逼真，更加增加了辨别难度。”
“这种 AI 生成的图片或视频，如果没有任何标识提示，会导致许多人上当受骗。”袁伟说。
许多账号缺乏标识
记者在某社交平台上发现一个名为“××AI 打假人”的账号，该账号表示自己将致力于“揭露纯 AI 生成的内容博主，帮助小白识别真伪”，并关注了许多非真实的帅哥美女。
在其关注名单中有 300 多个账号，记者随机选择 20 个进行浏览，发现若没有评论区的“这是 AI 吧，手指的细节很诡异”“背景里的文字都是乱码”等留言，记者第一时间只会认为他们是普通的时尚博主。
这 20 个账号的粉丝量从几百到几万不等，仅有 3 个在简介中提到“虚拟男友”“AI”或“友情提示视频由虚拟现实技术制作”，有两个账号经过平台审核后被打上了“疑似包含 AI 创作信息，请谨慎甄别”的标签。其余账号在简介及内容中并未提及“AI”字样，平台的监测机制也未能察觉，甚至在评论区与其他用户互动得十分自然，给人一种“真人”的感觉。
调查中，超过一半的受访者表示很难分辨 AI 生成的“数字人”与真人，而相关提示也并不明显。
此外，记者还发现，有人会专门教授如何规避平台的“AI 打标”。据了解，目前各平台普遍提升了 AI 内容识别系统，要求对 AI 生成的作品进行清晰标识。但在调查中，有博主分享经验称，只需花费不到千元便可购买预配置的镜像文件，并声称利用这些镜像参数一键生成的虚拟人形象可以以假乱真，最大程度规避平台的标注机制。
加强标准与惩罚措施
记者梳理公开信息发现，确实有一些不法分子利用“数字人”形象进行违法活动。
据报道，公众人物张文宏、雷军等形象曾被利用生成“AI 数字人”，进行带货或恶搞。有些直播间的“AI 数字人”对中老年人群体虚假宣传保健品，诱导其购买。更有一些不法分子利用“AI 数字人”实施敲诈、诈骗等犯罪行为。例如，山西忻州警方发现，嫌疑人王某某利用 AI 技术制作合成“数字人”新闻视频进行引流，进而进行有偿发帖和删帖的敲诈勒索。2024 年，江西一名 65 岁老人去银行申请贷款 200 万元给男演员“靳东”拍戏，后经调查发现，老人手机里的“靳东”视频实际上是 AI 合成的。
重庆大学网络与大数据研究院副院长罗勇指出，从价值观的角度来看，AI 产业发展必须在网络安全之上。尤其是对利用 AI 技术生成的短视频，网络用户，特别是未成年人和老年人，往往缺乏足够的鉴别能力，容易上当，可能引发负面的网络舆情，甚至对网络安全造成影响。
受访专家介绍，目前我国已制定了《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》等相关法规，对 ”AI 数字人 ” 和 AI 生成内容的标识、数据来源提出了明确要求。
今年 3 月，国家网信办等四部门联合出台了《人工智能生成合成内容标识办法》，通过标识提醒用户鉴别虚假信息，规范内容制作和传播环节的标识行为，为 AI 生成内容设定了底线。该办法将于 9 月 1 日正式实施。
中国政法大学的教授郑飞指出，相关规定在落实过程中存在一定的困难。一方面，监管和技术手段有限，难以彻底发现并纠正违规行为。例如，一些“AI 起号”从业者通过设置“镜像参数”生成极为逼真的虚拟人像，以逃避平台的强制标注要求。另一方面，监管部门，尤其是基层执法机构，通常面临职责不明、执法手段和人力不足的困境；部分平台在一定程度上“管不了”或“不想管”。“管不了”源于平台管理能力和技术手段的不足，尤其是一些小型平台，缺乏足够的审核人力和技术支持。“不想管”则是因为背后利益的驱动。未明显标示“AI 数字人”或合成内容，容易让受众误认为是真人或真实事件，进而更能引起兴趣和好奇，吸引流量和关注，从而产生更多商业利益。
“以网络社交平台为代表的网络服务提供者，在 AI 生成内容的应用场景中，应当进一步完善用户使用 AI 协议，并加强对 AI 生成内容的审核。”罗勇表示。
郑飞建议，应从明确标识要求和加大责任追究两个方面入手。标识办法规定，一旦检测到 AI 生成内容，传播平台应在发布内容周围附加显著提示标识，并在文件元数据中加入隐性标识，确保全流程可追溯。在未来的实施过程中，可以进一步细化技术标准，例如规定标识文字的最小高度、对比度、展示时长等，以确保标识一目了然。此外，对于不按规定标注的行为，应采取严格的惩罚措施：除了加大行政罚款、暂停业务或纳入不良信用记录等行政措施外，还应利用法律手段强化威慑。通过明确、显著的标识标准和更严厉的责任追究，才能从根本上震慑违规行为，实现“AI 数字人”应用的透明化和合规化。
作者|法治日报全媒体记者 赵丽 实习生 宋昕怡
