共计 2864 个字符，预计需要花费 8 分钟才能阅读完成。
法治日报记者 赵丽
法治日报实习生 宋昕怡
“生西红柿和生黄瓜不能一起吃！”在电话中，母亲热情地向赵女士解释，称黄瓜内的分解酶会破坏维生素 C，若同时食用，轻则影响西红柿的维生素 C 吸收，重则可能导致腹泻、肠胃不适，甚至食物中毒。对此，赵女士却感到有些困惑。
随后，母亲发送了一段视频。赵女士回忆道：“视频里有位白发苍苍、穿着白大褂的‘医生’，详细讲解所谓的‘养生秘籍’，甚至声称‘清淡饮食就是完全素食，绝不吃肉’。我妈妈对此深信不疑。”然而，赵女士在仔细观察后，意外地在视频的右下角发现了一行几乎透明的字样——“此视频由 AI 辅助生成”。
“后来，我妈戴上老花镜，在我指引下才发现那行字。”赵女士感叹道，“这可真让人无奈，毕竟现在 AI 生成的‘数字人’无处不在，真假难辨，实在让人防不胜防。”
赵女士的遭遇并非个例。《法治日报》的记者近期随机采访了数十名路人，发现至少七成的受访者表示曾看到过“AI 数字人”的视频，并感到“难以判断是真人还是‘数字人’”，主要因为“缺乏有效的提示”。
人们普遍担忧，若连真人与“数字人”都难以辨别，背后将潜藏肖像权侵犯，甚至敲诈、诈骗等违法犯罪的风险。
辨别数字人的困难
在重庆读大学的郑媛在某社交平台上看到一则帖子，帖子中的女生外表温柔可人，穿着时尚，吸引了她的注意，郑媛随即点赞并关注了该账号。
然而不久后，郑媛却发现另一位博主揭露那个账号是用“AI 生成人”创建的。她仔细查看了该女生的主页，发现对方并未声明使用 AI 技术，且在评论区与用户积极互动。面对这种情况，郑媛无比困惑。经过一周的观察，她终于找到了证据，证实该账号的图片确实是 AI 生成的——有网友在其他账号上发现了妆容和服装几乎相同的“数字人”，但人物介绍却截然不同。
习惯在直播间购物的北京市民李菲也表示，自己常常误入“数字人”直播间，这些“数字人”主播能够流利地介绍商品，手部动作还会随着语音的节奏变化，显得自然流畅。
“只有仔细查看直播间左侧的那行小字‘现直播内容为数字人直播，非真人直播’才能发现问题。”李菲说，她现在在进直播间之前都会先找小字确认主播是否为真人，“但这真的很费眼，有的字在角落，有的几乎透明，根本不易察觉。”
袁伟（化名），一名 985 高校计算机系的研究生，告诉记者：“随着 AI 技术的发展，很多人都可能误认为这些生成的图像是真实的，尤其是一些中老年人，甚至许多对 AI 技术了解不深的年轻人也难以分辨。”
他为记者演示了一款 AI 软件，输入指令“生成一个容貌姣好的女性，皮肤纹理清晰，室外自然光”，生成的图片与真人照片几乎无异，若不是右下角带有水印，简直以为是普通的美女照片。“早期的 AI 软件在手指和人体比例上存在问题，但如今技术已大幅提升，生成的图像更为自然，增加了辨别的难度。”
袁伟表示：“若没有相应的标识提示，很多人会很容易相信这些 AI 生成的图片或视频是真的。”
账号标识缺失
记者在某社交平台上发现一个名为“××AI 打假人”的账号，发帖称其目标是“揭露纯 AI 生成的内容博主，帮助用户识别真伪”，并表示关注了许多非真实的 AI 生成帅哥美女。
在其关注列表中有 300 多个账号，记者随机选取了 20 个进行浏览，发现如果没有看到评论区的“这是 AI 吧，手指的细节很奇怪”或“背景里的文字都是乱码”等留言，记者最初只以为他们是普通的颜值时尚类博主。
这 20 个粉丝量从几百到几万不等的账号，仅有 3 个在简介中提到“虚拟男友”“AI”“友情提示视频由虚拟现实技术制作”，另外两个账号的内容通过平台审核后被标记为“疑似包含 AI 创作信息，请谨慎甄别”。其余账号均未提及“AI”，而平台的监测机制也未能识别这些内容，这些账号还在评论区与其他用户积极互动，营造出“真人感”。
在调查中，超过一半的受访者表示，AI 生成的“数字人”和真人难以分辨，相关提示也十分不显眼。
此外，记者还发现，有人专门教授如何绕过平台的“AI 标识”。据了解，目前各个平台普遍升级了 AI 内容识别系统，要求对 AI 生成的作品进行明显标注。然而在调查中，有博主分享经验称只需花费不到一千元便可购买所谓的 AI 工具中预配置的镜像文件，利用这些镜像参数一键生成的虚拟人形象可以以假乱真，最大限度规避平台的 AI 内容强制标注机制。
完善标准与加大惩处
记者整理公开信息发现，实际上，一些不法分子正利用“数字人”形象进行违法活动。
据报道，公众人物张文宏、雷军等形象曾被不法分子利用生成“AI 数字人”，用于带货或恶搞。在某些直播间内，这些“AI 数字人”向中老年人群体虚假宣传保健品，诱导其购买。更有甚者，一些不法分子利用这些“AI 数字人”进行敲诈和诈骗。例如，山西忻州公安机关的调查发现，犯罪嫌疑人王某某利用 AI 技术制作合成“数字人”新闻视频引流，进而进行有偿发帖和删除等敲诈勒索活动。2024 年，江西一名 65 岁的老人到银行申请贷款 200 万元给男友“靳东”拍戏，但经过调查发现，老人手机里的“靳东”视频是 AI 合成的。
重庆大学网络与大数据研究院的副院长罗勇认为，从价值观的角度来看，AI 产业的发展不能凌驾于网络安全之上。由于网络用户，特别是未成年人和老年人，缺乏必要的辨识能力，往往容易相信这些 AI 生成的内容，可能引发负面舆论，甚至影响网络安全。
受访专家表示，当前中国已出台了《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》等法规，对 AI 生成内容的标识和数据来源等提出了明确要求。
今年 3 月，国家网信办等四个部门联合发布了《人工智能生成合成内容标识办法》，旨在通过标识提醒用户识别虚假信息，规范内容制作和传播中的各个环节，为 AI 生成内容设定红线。该办法将于 9 月 1 日起实施。
中国政法大学的教授郑飞指出，相关规定在实际执行中仍面临困难。一方面，监管和技术手段有限，难以彻底发现并纠正违规行为。例如，一些“AI 起号”从业者通过预置“镜像参数”生成极为逼真的虚拟人像，逃避平台的强制标注要求。另一方面，一些平台在监管方面也存在“管不了”与“不想管”的问题。“管不了”主要是因为平台的管理能力和技术手段不足，尤其是一些小型平台缺乏足够的审核人力和技术支持。而“不想管”则是由于利益驱动，未明显标识“AI 数字人”或合成内容，容易引发受众的兴趣与关注，从而带来更多商业利益。
“网络社交平台作为网络服务提供者，应进一步完善用户使用 AI 的协议规定，并加强对 AI 生成内容的审核。”罗勇指出。
郑飞建议，应从明确标识要求和加大责任追究两方面进行改进。标识办法明确提出，一旦检测到 AI 生成内容，传播平台应在发布内容周围添加显眼的提示标识，并在文件元数据中加上隐性标识，以确保全过程可追溯。在今后的执行过程中，可以进一步细化技术标准，例如规定标识文字的最小高度、对比度、展示时长等，使标识一目了然。此外，对于不按照规定标注的行为，应当加大处罚力度：除了增加行政罚款、暂停业务或纳入不良信用记录等行政措施外，还要利用法律手段加大威慑。通过明确且显著的标识标准和更严厉的责任追究，才能从根本上震慑违规不标注行为，实现“AI 数字人”应用的透明化和合规化。
