在社交平台上分享自己的换何破自拍 、美照记录生活 ，脸盯如今是上普很多人的习惯 。但随着AI技术发展 ，通人个人形象被盗用的解读解维境侵权事件也屡屡发生 。为了从发布源头治理AI技术滥用乱象，权困早在去年9月开始实施的换何破《人工智能生成合成内容标识办法》就规定 ，相关内容发布平台必须对生成合成内容进行检测并增加显著的脸盯AI标识 。
多数社交平台仍未依规
对AI生成视频标注
近期，上普多部门针对AI应用乱象出台规定 ，通人加大整治力度 。解读解维境那么 ，权困现在各个社交平台、换何破短视频平台上相关情况怎么样？脸盯记者进行了调查。
记者搜索发现 ，上普网上有大量能生成AI视频的免费工具，用户都可通过“一键上传素材、选择模型 、点击生成”的简单步骤 ，在短时间内生成高质量且流畅的AI换脸视频 。社交平台上教人如何生成AI换脸视频的详细教程也不在少数，技术门槛较低 。
在测试中 ，技术人员将一段15秒的男子跳舞视频上传至某免费生成AI视频的网页 ，并将自己的头像照片同步上传 。当替换人脸的指令发出后 ，不到1分钟 ，合成的视频就做好了 ，表情动作生动 ，面部光影流畅 ，真假难辨 。技术人员表示，能做到的还不止于此 。只上传头像照片 ，输入指令 ，也能无中生有 ，得到一个全身的跳舞视频 。
业内技术专家 何覃 ：处理非常顺滑，整个动作换脸之后的效果也很丝滑 ，其实肉眼是完全分辨不出来的。现在这种AIGC生成技术 ，它已经可以做到多人复杂场景下，根据某一个人去制作视频 ，并且动作连贯性 、一致性都保持得非常好 ，也符合物理规律。
只要用照片发出指令，就能做出针对任何人的换脸视频。为防范利用AI合成技术传播虚假信息 、实施诈骗等风险行为，2025年9月我国开始实施的《人工智能生成合成内容标识办法》明确要求相关服务主体要对生成合成内容进行检测 ，并在发布内容周边添加显著的AI提示标识 。
其中提到，平台应提醒用户主动声明发布内容中是否包含AI合成内容 ，而就算用户不声明 ，平台也应核验文件元数据中是否含有隐式标识 ，检测合成痕迹 ，并做出标注 。
今年4月 ，在技术人员许可下 ，记者尝试将经过AI换脸的视频发布到多家社交视频平台上 ，结果发现，几乎在所有平台上，AI生成的视频都能在没有任何标注的情况下直接发布并传播 。
4月 ，网信部门查处“剪映”“猫箱”“即梦AI”等多个未有效落实人工智能生成合成内容标识规定要求等问题的网站平台 。5月3日 ，处置“未规范标注信息来源 ，误导公众认知”的违规自媒体账号9.8万余个 ，并进行通报 。在有关部门持续加大整治力度的背景下 ，相关平台的改进情况如何呢 ？
近期 ，记者又尝试将AI换脸视频 、AI生成的道路视频 ，发布到几个主要的社交平台 、视频平台上 ，发现除了极个别平台对部分带人物的AI视频标注了“疑似使用了AI生成内容” ，其他平台依然没有依照国家规定对上传的AI生成视频做出标注 ，就已经允许在平台内发布 、传播 ，有的还能花钱“加热”推广 ，让短时间内能有更多人看到 。
在调查中记者发现 ，个别平台在发布过程中甚至都没有让用户声明视频是否为AI合成的选项 。记者看到 ，视频发布一天后 ，这些AI生成的视频在平台上依然无任何标注 ，但却能正常浏览 、评论 、转发。在有的平台上 ，一个AI生成视频的浏览量突破三千，有的平台上视频获得了额外的推流奖励 ，另外一个平台上 ，甚至还涨粉20多个 。
业内人士表示 ，市面上现有技术其实已经能够识别视频是否为AI合成 。测试中 ，技术人员将AI换脸视频上传到一软件进行识别 ，15秒的视频，不到3秒就出了鉴定结果 ，为人工智能合成 。
业内技术专家 何覃：目前在业内，AI生成合成的这种图片视频或者是音频 ，它直接生成的原图 ，基本上鉴定准确率都可以做到98%以上 ，但是在网络媒体传播过程中 ，会有一些信息损失 ，信息压缩的过程中 ，一些生成合成的痕迹会丢失掉 ，就会降低检测的准确率 。大部分情况下还是能保持比较高的准确率，能鉴定检测出来的 。
虽然准确率有所差异 ，但现实中已具备对AI视频进行识别鉴定的技术条件。
中国政法大学教授 郭旨龙：其实平台掌握了一系列的类似于公权力的执法权限 ，就是法律赋予它去处置涉嫌违法的信息 ，但是它却怠于履行这种义务。
4月初 ，针对AI换脸侵权问题 ，国家网信办出台《数字虚拟人信息服务管理办法(征求意见稿)》 ，面向全社会公开征求意见 。当前 ，中央网信办已在全国范围内部署开展“清朗·整治AI技术滥用”专项行动 。强化AI技术源头治理 ，推动网站平台提升检测鉴伪能力；对存在利用AI技术制作发布谣言 、色情低俗内容等突出问题的违规账号 、MCN机构和网站平台进行处置处罚 。
AI换脸盯上普通人 ？
多人遭AI盗脸侵权
发布源头平台的把关失守 ，变成了个体被侵权时被动的维权困境 。明星形象被盗用屡见不鲜 ，而如今AI盗脸也盯上了普通人。记者注意到 ，仅最近半年 ，就有多人遭遇自己的脸被通过AI技术盗用的事件 。
遭遇AI换脸造黄谣 视频下架一波三折
4月 ，据网友小刘讲述 ，他在社交账号上发布的个人照片被人通过AI合成了一段脱衣服跳舞的低俗视频，并发布到另一个视频平台上 。小刘接受媒体采访时表示 ，他发现时 ，视频已发表近三天 ，点击量达1.2万 ，下方评论超100条 。
网友紧急电话联系平台下架视频 ，并先后以“色情低俗”“损害个人名誉”为由多次举报 ，平台反馈会“重点关注该账号” ，但直到次日早上 ，视频仍在平台传播，点击量还在攀升 。次日下午 ，视频才被下架 ，但涉事账号未受到处罚 。
多人社交平台照片遭AI短剧盗用
而这并非个例 。除了被“造黄谣” ，还有人的照片被AI短剧盗用盈利 。前段时间 ，有网友发现 ，自己发布在个人社交平台上的汉服写真照片被红果AI短剧《桃花簪》擅自使用，衣服 、配饰、妆容等都和自己一样 ，但在剧里被丑化成一个贪财好色的反派角色 。
而被这部短剧盗脸的还不止他一个 。该短剧在播出平台上有着超四千万的热度 ，传播范围广泛 。事情爆出后 ，平台下架剧集 ，暂停出品方上传剧集15天 ，但对于侵权行为带来的伤害 ，当事人仍在维权 。
中国社会科学院大学互联网法治研究中心主任 刘晓春 ：AI视频的成本低，并且它能快速生成 ，有的时候是一个谣言形成一个矩阵 ，快速大规模传播 ，造成伤害的范围会越来越大 。一旦落到每一个人头上 ，可能是难以挽回 、难以估量的损失 。
AI换脸视频侵权 平台或承担连带责任
专家表示 ，生成发布他人形象的视频 ，需单独获得他人同意 。否则会构成侵犯他人的肖像权 、个人信息权 、名誉权等 ，情节严重时构成诽谤罪 ，触犯刑法 。
中国政法大学教授 郭旨龙 ：其实平台接到通知之后 ，它是能够很轻易判断AI视频到底有没有侵犯别人的人格权利 ，应当马上采取手段断开链接。如果平台没有做到这一点 ，一般情况下就可以认定平台是有重大过失的，应当对扩大的侵权后果承担连带责任。
然而 ，现实中维权面临不少难点 ，存在违法成本低 、维权成本高的情况 。
中国社会科学院大学互联网法治研究中心主任 刘晓春：发现有侵权情况的存在比较难 ，因为普通人没有这么专业的能力去进行广泛的监测 。它会有去找到侵权主体以及进行举证 、取证这样的很大的难度 。
降低维权门槛
提高AI造谣违法成本
那么 ，为什么一些平台怠于履行国家要求的标识义务 ？如何降低维权门槛，提高侵权人的违法成本 ？
中国政法大学教授 郭旨龙 ：视频平台每天上传的视频成百上千万条，如果对于每一个上传视频都进行人工智能生成内容识别 ，它可能需要花费一定的技术成本 、人力成本 。第二个方面就是人工智能生成视频能够在网络上畅销 ，就意味着有了关注度，平台能够获取一系列的利润 。第三个原因就是现在法律追责链条或者说追责动力可能还有不足的地方 ，被侵权人提起侵权诉讼也好，提起诽谤罪的自诉也好 ，它都存在着一系列搜集证据 、固定证据的技术上和经济上的困难 ，这样的话平台它就有侥幸心理 。
对于AI生成的视频发布 ，不少平台存在着“重事后处置、轻事前防控”的审核逻辑 。普通人维权则面临“发现难、举证难 、追责难 、维权成本高”的多重困境 。专家表示 ，应构建一个“事前预防 ，事中阻断，事后追责”的全链条治理模式。也就是把关视频发布源头 ，及时停止侵权视频传播 ，对涉事账号作出惩戒 ，协助被侵权人取证等 。
整治AI换脸侵权乱象 降低维权成本 提高违法成本
中国政法大学教授 郭旨龙 ：对于人工智能生成内容举报，我们应当帮助平台或者说督促平台出台更为便捷的举报渠道，而且必须是分级分类 ，比如说涉性的这种情节比较严重的事件 ，就应当有专人马上去审核 、处理。而不是所有种类 、所有级别的信息都等着 ，按照流程等一天两天或者三天 。
专家表示，也可在民事侵权制度上创新 ，增强惩罚性赔偿 ，提高违法成本 。
中国政法大学教授 郭旨龙 ：现在的惩罚性赔偿可能只局限于环境污染或者是知识产权等特定的侵权案件当中 ，在这种利用人工智能侵犯人格权的案件当中 ，也要考虑纳入类似的惩罚性赔偿制度。因为平台侵犯的可能不是一个人 ，但是只有一个人去起诉它 ，它有侥幸心理 ，它的获利可能是巨大的 ，如果法律有惩罚性赔偿制度 ，这个时候它就会考虑要积极有效去预防这种不作为所带来的巨大惩罚 。
造谣一张嘴，辟谣跑断腿 ，这在AI技术盛行的当下更需要警惕 。平台社区中 ，如果亦真亦假的信息越来越多，只会导致劣币驱逐良币 、信任崩塌 、用户人人自危 。人人有创作权 ，但不能凌驾于法律之上 ，更不能以损伤他人和公众的利益作为自己流量变现的手段 。共同维护一个清朗的网络环境是长远发展的唯一捷径 。
推荐阅读： 6686
网站地图