HGA3083:COM-WWW:HGA3083:COM

但不多时，郑媛却刷到另一名博主揭露用“AI生成人”起号的内容，被打假的恰恰是她先前所关注的这个账号。“我仔细翻阅了那个女生的账号主页，她并未标明使用AI技术，还在评论区亲切地与其他用户互动。”面对这样的局面，郑媛说自己也“糊涂了”。她后来观察了一个多星期，找到了该账号图片确为AI生成的证据——有网友在其他账号上发现了妆容和衣着几乎一样的“数字人”，而人物介绍却完全不同。

他随即为记者演示，向某AI软件输入指令“帮我生成图片：一个容貌姣好的女性，精细的皮肤纹理，室外自然光”，随即生成的图片与真人照片相差无几，如果不是右下角自带的水印，只让人觉得是一张普通的美女照片。“如果说早期的AI软件大多不能生成自然的手指和人体比例，现在技术进步得很快，生成的手指和人体比例已经比较像样了HGA3083:COM-WWW:HGA3083:COM，更加大了分辨的难度。”

这20个粉丝量几百到几万不等的账号，仅有3个账号在简介中写明“虚拟男友”“AI”“友情提示视频由虚拟现实技术制作”，两个账号主页的内容经平台审核后被打上了“疑似包含AI创作信息，请谨慎甄别”的标签。其余账号在简介、内容中并未提及“AI”字眼，平台的监测机制也并未识别到，这些账号甚至还在评论区熟稔地与其他用户互动，让自己看上去更有“真人感”。

此外，记者发现，有人还会特意教人如何绕过平台的“AI打标”。据了解，目前，各平台已普遍升级AI内容识别系统，要求对AI生成作品进行显著标注。但在调查中，有分享经验的博主表示花费不到千元就可以购买所谓的AI工具中预配置的镜像文件，称用这些镜像参数一键生成的虚拟人形象可以以假乱真，最大限度规避平台的AI内容强制标注机制。

据报道，张文宏、雷军等公众人物形象曾被利用生成“AI数字人”，用来带货、恶搞。一些直播间内，“AI数字人”向中老年人群体虚假宣传保健品，诱导购买。更有甚者，一些不法分子利用“AI数字人”进行敲诈、诈骗等犯罪。例如，山西忻州公安机关工作发现，犯罪嫌疑人王某某利用AI技术，制作合成“数字人”新闻视频引流，进而进行有偿发帖、有偿删帖等敲诈勒索活动。2024年，江西一名65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏，后经调查，老人手机里的“靳东”视频是AI合成的。

中国政法大学教授郑飞指出，相关规定一定程度存在落地难的问题。一是监管和技术手段有限，难以彻底发现并纠正违规行为。例如，一些“AI起号”从业者通过预置“镜像参数”生成极为逼真的虚拟人像，从而逃避平台的强制标注要求。而监管部门特别是基层执法部门，通常面临职责不清、执法手段和执法力量不足的问题；二是部分平台在一定程度上“管不了”也“不想管”。“管不了”在于平台管理能力与技术手段欠缺，尤其是一些小型平台，缺乏足够的审核人力和技术支持。“不想管”则是背后利益驱动。未明显标识“AI数字人”或合成内容，会让受众误以为是真人或真实事件，从而更容易引起人们的兴趣和好奇心，吸引更多的流量和关注，进而带来更多的商业利益。