下一个被“AI分身”的，又会是谁？ 11月2日，演员温峥嵘竟在同一时间现身三个直播间。屏幕上分明都是她的脸，却透着几分诡异与谄媚，她一遍遍催促粉丝，“快下单！” 不明真相的粉丝，被“偶像”迅速“撬”开了钱包，殊不知，屏幕那端只是AI生成的幻影，一个没有灵魂的数字傀儡。 温峥嵘的遭遇，只是这场AI换脸侵权风暴的冰山一角。 从一线顶流到翻红老戏骨，乃至奥运冠军等，只要具备一定的辨识度和号召力，都可能成为“数字李鬼”的目标。这些AI仿冒明星账号的粉丝量，从几百、几千甚至数十万不等，构成了一个金字塔式的灰色流量生态。 当AI技术开始挣脱法律和道德的缰绳，在现实和虚拟的夹缝中，我们该如何守护真实的边界？链接可以下架，账号可以被封禁，可一旦信任遭透支，又该如何赎回？ 未来，我们每个人独一无二的“数字身份”，是否都将沦为被随意克隆、肆意滥用的猎物？ 或许，明星们正在经历的今天，就是每个普通人即将面对的明天。 一 AI李鬼肆虐！明星集体“中招” “对不起，温峥嵘，是我们错怪你了。” 镜头前，张柏芝面色凝重，对着镜头深深鞠了一躬。紧接着，刘涛、戚薇、舒淇等一众女星也陆续出镜，言辞恳切地表达着歉意和感谢。 这场看似真诚的“集体致歉”，在社交平台迅速发酵。不少粉丝以为，这是明星之间的联动，毕竟致歉的缘起，是温峥嵘推荐的一款“人皮面膜”，让众女星感叹“用晚了”。 可真相却是，这场道歉的背后，竟藏着一场由AI编织的骗局。视频中所有明星的人脸，均来自AI换脸技术盗用。 AI如同一个隐形的导演，将碎片化的影像剪辑、拼接，再配上伪造的台词，炮制出足以以假乱真的“集体致歉”，让粉丝在不知不觉中掉入陷阱。 除了这类精心策划的骗局，AI仿冒明星直播带货的乱像早已泛滥成灾。 早在今年4月，温峥嵘就曾发布打假视频，对着镜头郑重声明：“我只有一个官方账号直播，其他所有以‘温峥嵘’之名带货的直播间，全是假的！” 彼时，她的声明并未引起足够的重视。 直到电视剧《许我耀眼》热播，她凭借“赵露思婆婆”一角精湛的演技再度翻红，冒用其形象卖货的直播间也悄然增多。 其粉丝曾在一天之内举报了18个“假温峥嵘”直播间，但往往“举报一个又冒出来一个，如同打地鼠游戏，永无止境。” 更荒诞的是，某个深夜，“温峥嵘”竟以三种不同妆发造型，同时出现在三个直播间。 当看见“自己”在直播间谄媚又怪异地催促粉丝，“宝贝们，快下单！”，她又惊又怒，直接质问，“你是温峥嵘，那我是谁？”结果却被踢出了直播间并拉黑。 温峥嵘的遭遇并非个例，如今越来越多明星沦为“数字李鬼”的猎物。 今年2月，北京市海淀区市场监管局接到消费者举报：某直播间正在售卖“深海多烯鱼油”，主播竟是央视主持人“李梓萌”。 身穿职业套装的“李梓萌”，语气严肃地强调：“正品保证，假一罚四！鱼油必须吃起来，吃了这个，别的咱都不用再吃了！” 直播间展板更赫然标注“适合头晕头痛、手脚麻木、记忆力下降人群”等医疗宣传语。 其实，视频中的“李梓萌”纯属AI技术伪造。宣称“能治病”的深海鱼油，执行标准实为糖果，不具备任何治疗功能。 这是北京查处的首例滥用AI技术发布虚假广告案，而类似骗局早已在网络空间蔓延。 有人在某电商平台看见“迪丽热巴”在卖10块钱的素颜霜。奥运冠军全红婵、孙颖莎、王楚钦等人，也都曾是AI克隆技术的受害者。 一个账号盗用全红婵的声音卖土鸡蛋，视频中模仿其稚嫩的腔调说道：“大家好，我是你们的婵宝，今天有事请大家帮忙，婵妹就是想帮助妈妈，让家里的生活过得更好一点。” 这条充满“情感共鸣”的虚假视频，点赞量高达1.1万，商品链接显示已售出4.7万件。而全红婵的家人早已公开澄清，她从未为相关农产品代言或授权。 这些“AI李鬼”，不仅盗用了明星的脸，更窃取了他们积累多年的公众信任。而受损的，远不止明星个人权益，更是整个社会赖以运转的信任体系。 二 算法猎杀情感：AI仿冒背后的精准诈骗 “以前我们说‘眼见为实’，可现在眼睛看到的，可能是AI编织的谎言。”一位粉丝在经历了“假明星”骗局后，发出这样的感慨。 “宝贝，我爱你们，我也好爱好爱这款面膜，快下单吧！”“克隆明星”的一声声呼唤，如同细密的针尖，精准刺入粉丝的情感软肋。 “偶像推荐的东西肯定靠谱！”、“已经下单了，支持偶像！”直播间滚动显示的下单记录，营造了一种“手慢无”的紧张抢购氛围。 “这个AI仿冒的温峥嵘把我妈骗得团团转，买了一大堆廉价护肤品。”一位粉丝无奈吐槽。而另一位网友称，为了支持“偶像”，一次性购买了5、6支低档口红。 “我一直觉得她说话怪怪的，眼神也特别呆滞，但我妈说这就是她的偶像，还说偶像亲测有效了，非让我帮她下单。一款原价100多的韩国面膜，假直播间只卖39.8元，我妈一次就买了20盒。”一位网友爆料，母亲已经在假明星直播间陆续花了近万元。 AI技术本无善恶，可当它被恶意使用时，便成了最精准的情感猎杀工具。对诈骗分子而言，声音克隆、面部替换不过是技术手段，真正捕获受害者的，是对人性弱点的精准拿捏。 而从各大平台的评论区不难发现，受骗群体多以中老年人为主。 “我妈看见明星卖货就想买，我告诉她是假的，她还跟我大喊大叫，说自己亲眼看见的怎么会是假的。”一位网友的吐槽，道出了无数家庭的无奈。 但很多年轻网友坦言，自己也能理解父母被骗的遭遇。毕竟许多假冒明星的直播间，AI仿冒效果十分逼真，年轻人尚且难以分辨，何况是对AI技术认知较为薄弱的老年人， 早在5月份，就有细心的粉丝察觉异常：“我看见温峥嵘在俩直播间同时直播，一个穿着蓝裙子，有1万多人在线，另一个有3000多人。我在人少的直播间说，你这肯定是假的，立马就被踢出来了。” 但更多粉丝仍被“李鬼明星”所迷惑。 有的账号通过AI换脸技术冒充杨幂、刘亦菲卖减肥茶，诱导消费者疯狂下单。 在某平台，一个昵称像是乱码的账号，却拥有3378个粉丝，并通过AI仿冒温峥嵘带货视频，获得了10.3万次点赞。该账号的商品橱窗仅陈列面膜、眼油、防晒等3个商品，已售件数高达5928单，跟买人数是5852人。目前，该账号的作品及商品橱窗均已清空。 《财经故事荟》分析发现，仿冒账号带货商品高度集中在化妆品、护肤品、保健品、日用品等高频或者暴利品类，大多以“明星自用”为噱头。 这些商品的共同特点是目标群体广、利润空间大、质量难以直观判断，且极度依赖明星信誉背书，恰好契合了“AI仿冒”的诈骗逻辑。 三 平台明星用户都“受伤” 截至11月7日，在某平台搜索“温峥嵘”，仍可显示近百个相关账号。除个别授权“切片”账号外，大多数已转为私密状态。 事实上，温峥嵘团队早在今年4月就启动了维权，他们通过录屏、截图等方式保存证据，也曾投诉过50多个仿冒账号，成功封停了至少20多个直播间。 其团队工作人员坦言，造假者的成本极低，仅需截取一段影像，通过简易工具就能生成虚假内容，但维权取证却需耗费大量精力，即便发送了律师函，目前调查到的也只是一部分造假商家。 侵权者的手段远比想象中更为狡诈。许多账号擅长“打时间差”，专挑凌晨3、4点这类平台监管薄弱的时间段进行直播，一旦账号被封禁，立刻更换ID、头像，借新账号卷土重来。 而温峥嵘为何遭遇如此多AI造假？ 答案在于，除了近期翻红之外，她本人就直播带货，这为造假商家提供了丰富“素材”。第三方直播监测平台数据显示：温峥嵘抖音账号粉丝数385.8万，今年以来共直播200多场，场均观看人次近百万，所售商品品类中，美妆护肤类占比54.19%。 而一份关于“温峥嵘肖像权网络侵权情况”统计表格显示，其被侵权的产品也大多是化妆品，价格从300多到7.8元不等。 面对这场席卷而来的AI侵权风暴，平台其实也是受害者。 抖音集团副总裁第一时间回应了“演员温峥嵘被AI盗播带货”事件。据他澄清，“三个直播间同时开播”的案例并非发生在抖音平台。 不过，AI内容侵权识别是行业性技术难题，恶意仿冒账号也在不断地与平台进行技术对抗。 面对AI克隆明星，抖音的出手是最快的。今年10月，抖音电商已启动“仿冒名人宣传”专项治理行动。截止目前，已处置1.1万个违规带货账号、6700多个违规商品，并对违规账号，采取中断其直播间、下架违规商品、冻结成交额等措施。平台还引导多位达人开启“阻止相同侵权内容传播”功能，已拦截数万条侵权视频。 但其他平台，同样存在AI克隆明星的侵权情况。 当信任被反复透支，当真实被不断模糊，最终受损的，是整个数字生态的健康稳定。 四 拆解AI换脸产业链 在小红书的角落，一条仅一人点赞的帖子，却隐藏着AI换脸交易的隐秘入口。帖子里是令人惊叹的AI融合效果演示。 《财经故事荟》以客户身份咨询：“你们这AI换脸技术是怎么操作的？怎么收费？” 等了一个多小时，对方回消息称，“服务包含训练人脸模型、远程安装调试，再加长期免费售后，一口价1980，永久使用。” 我们追问：“能用明星的脸吗？”对方秒回：“可以，不加钱。” 对方承诺，付款后可获得一男一女两个演示模型和一个私人定制模型，模型训练仅需2-3天，安装当天即可完成，生成的“数字人”，不仅外形逼真，还能实时互动、直播带货。 再追问细节，对方突然警觉起来，未直接回答，反而甩过来一张图片——一条空旷的公路，指示牌被P上了一行微信ID。紧接着又来一句：“换个地方聊吧。” 两日后，对方通过微信好友申请，要求先支付500元定金，承诺模型训练好之后可以部署至用户电脑，教直播带货操作，但不负责引流。 对方还透露，若为MCN机构操作多个账号可优惠，并提供两个方案：一、技术买断19800包售后，不限制账号数量，但不建议多个账号用同一张脸；二，按账号计费，原价1980元，优惠价1580元，并称已与两家传媒公司达成合作。 某平台上，多个已转为私密状态的明星关联带货账号，曾标注过同一MCN机构。《财经故事荟》致电询问合作，对方极为警觉，称暂不合作，并粗暴挂断电话。 当加其微信，表明“自家产的化妆品寻求克隆明星合作时”，对方却未拒绝，也未询问是否具备合格资质，仅要求先看文字介绍。 《第一财经》曾报道显示，AI换脸的黑灰产业链已形成牟利闭环，涵盖上游数据获取、中游技术生成、下游场景应用及洗钱变现等环节。 上游通过爬虫抓取、二手设备提取、音频截取等方式，获取受害者生活照、声纹切片与3D头模；中游包括通过技术手段实现人脸替换、动态驱动、对抗检测等；下游则将这些“数字李鬼”应用直播带货、诈骗勒索、虚假宣传等违法行为。 在闲鱼上，人脸识别教学视频+人脸提取业务售价仅49.9元。但卖家在商品详情页标注，“需确保素材不侵权，小铺不承担非法使用责任。”将风险完全转移给买家。 某购物平台，虽无法通过“AI换脸”搜到商品，但通过“定制视频”等隐蔽关键词，仍能找到出售换脸软件，及定制服务的卖家。 除了换脸工具，批量生产的虚假内容也在暗中流通。 《财经故事荟》调查发现，某平台商家出售AI明星语音包、视频合成服务。部分商家甚至打出“定制明星祝福视频，真人语音，最低50元起。” 当询问能否定制一段“杨幂祝福生日”视频，对方爽快回应：“可以。100字50秒450元，30字左右250元，若加急，则需要300元。”该店铺仅有203个粉丝，却已售出1533件商品。其中“定制明星视频”链接显示，已售出21件。 最荒诞的是，这条灰色产业链还衍生出了“局中局”。 一些不法分子售卖“AI克隆直播引流教程”，但有网友爆料，所谓AI数字人直播课程，根本就是一场骗局。对方先以“罗永浩做数字人直播”的案例诱其入局，再要求交298元试学7天课程，结果3天过去了，什么有用内容也没教。 最具讽刺意味的是，他们展示的“学员答谢视频”，竟也是AI生成的虚假内容。 尽管，《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》已陆续出台，但在执行层面仍面临挑战。 AI数字人虚假营销，涉及技术提供方、内容生成者、直播平台、商家等多个环节，现有法律并未清晰划定各方责任，给维权带来极大难度。 今年9月1日，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成的文字、图片、视频等内容都要“亮明身份”。但在实践中，平台审核海量内容难免疏漏、商家刻意规避标识等现象，使新规落地效果大打折扣。 面对日益精进的AI技术，我们只能先掌握一定的识别技巧。例如，AI换脸视频可能存在细微的不自然之处，如面部表情僵硬、眨眼频率异常、光线与面部不协调等微小破绽。同时，务必保护好个人身份信息，不随意上传手持身份证照片或视频。若发现信息被冒用或遭遇可疑诈骗，第一时间保存证据并报警。 对于消费者而言，选择正规渠道和官方认证账号是避免受骗的重要方式。在观看明星直播间时，应认准明星的官方账号，特别是带有加V认证的账号。 技术是一面镜子，照出了使用者的良知与底线。 当AI以极低成本复制一个“明星”，当信任成为可以量化的收割工具，我们面临的不仅是法律的漏洞，更是人性与科技的博弈。 未来，唯有让法律跟上技术的脚步，让平台扛起监管的责任，让个体提高警惕，或许才能在这场汹涌的AI浪潮中，守护住那个不被复制的、独一无二的“我”。