该事件并非孤例，今年6月，北京市海淀区市场监管局查处了某公司利用AI技术冒用央视某知名主持人名义和形象的虚假广告案。

　　上海政法学院上海司法研究所讲师周陈介绍，为规避检测，新型AI伪造手段能实现对抗性攻击，即在生成内容中嵌入人眼难以察觉的噪声，专门用于欺骗检测模型，将其判断为“真实”，有的工具支持去除“AI生成内容”标识选项，为违法行为提供了便利。同时，借助AI多模态融合能力，使得AI伪造不仅能替换脸和声音，还能同步生成对应的身体动作和场景，使伪造内容难以辨别真伪。

　　涉及真人形象的AI视频，核心可通过面部特征判断。AI数字人面部多呈现高度对称形态，而自然人面部因生活习惯等因素存在生理性微差异，属于正常现象。肌体动作一致性也是重要判断依据。一些直播数字人，需要有观众互动和观众记忆，自说自话大部分就是数字人。此外，一个比较关键的判断就是动作是否真实。若视频中人物说话时重复固定动作，甚至肢体摆动幅度完全一致，大概率为AI生成内容。

　　“遮挡测试是目前最有效的物理鉴定方法。”一位专业人士向记者透露，AI换脸最惧怕“遮挡”——因为算法需要持续锁定面部特征点，一旦有物体遮挡脸部，算法就会出现紊乱。在直播间里，你可以要求对方在脸前挥挥手，或是拿杯子喝口水，当手指、杯子经过面部时，AI换脸往往会露出破绽，比如面部出现扭曲、闪烁，或是手指边缘变得模糊、与面部发生融合。

　　需要注意的是，AI视频逼真度正持续提升，普通用户区分AI视频与真实视频的难度显著增加。北京航空航天大学法学院副教授赵精武说，遇到陌生视频、消息等内容时，切勿急于转发，应优先通过主流新闻网站、官方发布渠道等权威平台进行交叉验证，有效降低被AI视频误导的风险。此外，主动处置不良内容。发现谣言、虚假信息时，需及时进行投诉举报；情节严重的，可以向公安机关寻求帮助。若遭遇侵权行为，应做好证据留存，及时维护自身合法权益。

　　针对AI造假问题，我国正出台多项治理措施。9月1日起施行的《人工智能生成合成内容标识管理办法》（以下简称《标识管理办法》）要求：AI服务提供者须在生成内容时自动添加显性与隐性标识——显性标识以文字、音频或图形提示的方式帮助用户直接识别，隐性标识则嵌入元数据信息，记录生成来源及服务提供者编码，实现内容可识别、可追溯、可核验的全流程管理。

　　赵精武认为，对《标识管理办法》的落实可进一步细化。一方面，需要继续巩固中央网信办“清朗·整治AI技术滥用”专项行动成效，形成周期性、常态化的AI技术应用巡视机制；另一方面，公安机关等执法部门需要对这类AI技术背后的网络黑灰产业链进行严厉打击。未来，针对这类AI技术滥用情况，应建构专门的协同执法机制，彻底切断违法产业链。同时，尽可能对标识标准进行统一，并对平台加强监管，防止因平台逐利而少标识、不标识。熊猫体育熊猫体育官方