?????? 在阅读此文之前，麻烦您点击一下“关注”，既方便您进行讨论和分享，又能给您带来不一样的参与感，感谢您的支持。?????? 编辑|2号探秘人?????? 前言?????? 以假乱真的AI陷阱有多可怕？?????? 靳东、李梓萌被牵连，就连全红婵也没逃过。?????? 内娱的明星更是苦不堪言！?????? 网友直言：?????? 还得国家出手！?????? 01?????? 都说科技改变生活。?????? 但全看运用这项技术的人有没有良心。?????? 万万想不到，AI诈骗的风还是吹到了央视主持人身上！?????? “家人们，这个深海多烯鱼油你们得试试，包治百病?！?img src="http://p0.qhimg.com/t11fd4c3301757991993fb10d47.jpg?size=640x744"/>?????? 央视主持人“李梓萌”在直播间里热情推荐，声称这款产品能改善头晕手麻、恢复记忆，还强调“有央视给你们把关，绝对有保障”。?????? 许多观众因为信任这张播报新闻几十年的面孔，毫不犹豫地下单购买。?????? 然而，真正的李梓萌对此却毫不知情。?????? 在直播间里，这个“李梓萌”不仅形象逼真，声音也几乎与真人无异。?????? 一时间，直播间人数从几万飙升至几十万，不少观众，尤其是中老年群体。?????? 然而，当产品陆续到家后，消费者们才发现自己上当受骗了。?????? 一位阿姨在直播间购买了三瓶鱼油，服用半个月后没有任何改善。?????? 仔细查看产品执行标准才发现，这所谓的“神药”不过是糖果类食品，根本不具备任何保健功能。?????? 当李梓萌被AI克隆的事件曝光后，北京海淀区市场监管局介入调查。?????? 结果发现脸和声音虽然是李梓萌的，但说话口型对不上。?????? 偶尔还会出现乱码，脸上的光影也显得极不自然，明显是AI合成的痕迹。?????? 央视方面很快给出回应，称：?????? 李梓萌那段时间正在筹备新节目，根本没有时间进行直播带货，更不可能推销什么鱼油。?????? 至此，真相大白，原来这一切都是不法分子利用AI克隆技术制造的骗局。?????? 他们从网上搜集李梓萌的新闻片段，提取其特征、表情和说话语调，克隆出一个“假”李梓萌。?????? 背景也被精心设计成演播室模样，一切都为了营造“央视”氛围，借助央视的公信力卖货骗钱。?????? 网友直呼：?????? 现在的骗子真是防不胜防！?????? 而李梓萌的事件并非孤例，内娱明星更是苦不堪言！?????? 首当其冲的就是老戏骨靳东！?????? 02?????? 2020年说起，一位江西女子，在短视频平台上结识了一位自称是靳东的用户。?????? 然而，这个“靳东”却对她表现出了超乎寻常的热情，不仅频繁与她聊天，还向她告白、求婚。?????? 为了证明这份“爱情”的真实性，“靳东”还与她合拍了短视频，发布在平台上，这让女子更加坚信不疑。?????? 随着感情的“升温”，“靳东”开始以拍戏需要资金为由，向女子索要钱财。?????? 女子毫不犹豫地选择相信他，不仅将自己的积蓄全部拿出，甚至还打算离家出走众筹借钱给对方。?????? 幸运的是，银行工作人员发现了女子的异常行为，并及时联系了警方。?????? 警方经过调查，发现这个所谓的“靳东”是不法分子利用AI换脸和变声技术伪造的虚假账号，其目的就是为了骗取女子的钱财。?????? 无独有偶，2023𻂑月，王先生也遭遇了类似的骗局。?????? 他的母亲是靳东的忠实粉丝，平时喜欢在短视频平台上关注靳东的动态。?????? 突然有一天，母亲告诉他，她在平台上结识了“靳东”。?????? 此后，“靳东”以各种理由向母亲索要钱财，母亲前后为其花费超�万。?????? 王先生发现母亲的行为异常后，经过仔细询问，才发现母亲被骗。?????? 他立即报警，警方迅速展开调查，揭开了这起“假靳东”诈骗案的真相。?????? 原来，这是一个有组织、有预谋的犯罪团伙，他们利用AI技术合成靳东的视频和声音，在短视频平台上创建大量假靳东账号，吸引粉丝关注。?????? 一旦有粉丝上钩，他们就会以各种理由索要钱款。?????? 这些受害者大多是对互联网使用不太熟悉的中老年女性，她们情感上相对孤独，渴望得到关爱和关注。?????? 而骗子们正是抓住了她们的这一心理弱点，利用AI技术制造出虚假的情感连接，让她们在不知不觉中陷入了骗局。?????? “假靳东”事件的曝光，让靳东本人也十分愤怒，他发文怒斥：?????? 希望警方将骗子绳之以法，净化网络风气。?????? 他在两会小组讨论上坦言：?????? “一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣”。?????? 而在AI造假肆虐的风波中，全红婵这位年轻的奥运冠军也未能幸免于难。?????? 03?????? 去年下半年，网上出现了大量“全红婵推荐土鸡蛋”的视频，假的全红婵声称：?????? 自己吃了这种鸡蛋后训练更有力量，营养非常好。?????? 不法分子甚至创造了一个假的全红婵在直播间里卖鸡蛋，还将全红婵和鸡蛋的合影印在包装上，在超市里销售。?????? 而事实上，全红婵家人早𶞔月就已声明，全红婵并未授权任何农产品代言。?????? 当时的全红婵，正全身心地投入到紧张的训练和比赛中，根本没有时间和精力去参与带货活动。?????? 这些所谓的“冠军带货”视频，是不法分子利用AI技术精心伪造的。?????? 这些假视频的传播力和影响力超乎想象。?????? 有骗子的评论区里全是“婵宝好孝顺”“支持国货”这样的留言，甚至有人晒出“已下单”的订单截图。?????? 仅该账号的土鸡蛋就售𳏈.7万件，按单�元计算，流水超过�万元。?????? 而实际上，这些所谓的土鸡蛋，不过是普通养殖蛋，包装简陋，发货地与“老家”毫无关联，与视频中宣传的高品质土鸡蛋相差甚远。?????? 直到今年八月，全红婵的哥哥忍无可忍，站出来揭露了这一骗局，提醒消费者不要上当受骗。?????? 不仅全红婵，孙颖莎和王楚钦等奥运冠军也未能逃过这场劫难。?????? 在一些视频中，孙颖莎竟然在帮着全红婵卖鸡蛋，王楚钦还“收到了私信”帮忙推销。?????? 这些风马牛不相及的组合，让人匪夷所思。?????? 而这些视频的制作手法如出一辙，都是利用AI技术克隆声音，再拼接视频，以达到欺骗消费者的目的。?????? 影视明星们同样苦不堪言。?????? 古天乐、林峰被线上游戏平台利用AI技术，以他们过去的肖像和声音，合成“代言”宣传带赌博性质的“投资”。?????? 刘晓庆在看过“AI刘晓庆”后，也惊呼相似度极高。?????? 她曾紧急辟谣：?????? “画面是我，声音很像我，但不是我！这是怎么做到的？”?????? 明星们的“数字分身”在未经授权的情况下，活跃在各个直播平台，推销着从女装到奶粉的各种商品。?????? 这些伪造的名人代言不仅损害了消费者权益，更严重侵犯了明星的肖像权、名誉权。?????? 一位经纪公司负责人无奈地表示：?????? “我们每天都要监测网络上的AI仿冒内容，但封禁一个，又会出现两个，根本清理不完?！?????? 面对日益猖獗的AI虚假广告，国家终于出手进行整治。?????? 04?????? 李梓萌的案子成为了第一个AI虚假广告案，涉案人员很快被警方抓获。?????? 除了抓人罚款外，相关部门还要求直播平台升级技术，自动识别AI合成内容。?????? 同时要求主播必须实名登记，从源头上遏制AI虚假广告的传播。?????? 2025年，国家网信办在全国范围内部署开展“清朗·整治AI技术滥用”专项行动。?????? 强化AI技术源头治理，清理整治违规AI应用程序，推动网站平台提升检测鉴伪能力。?????? 那么面对越来越逼真的AI伪造内容，普通人该如何辨别？?????? 专家提供了几种简单的识别方法。?????? 注意面部特征：AI技术往往难以完美处理眼睛的反射和牙齿的细节。?????? 伪造视频中的人物眼神可能显得呆板，牙齿线条也可能不规则。?????? 关注光线与阴影：AI生成的内容中，光线和阴影的方向可能不一致，尤其是在面部特征上。?????? 人物与背景的光照条件可能不匹配。?????? 检查背景细节：AI生成的视频背景往往缺乏细节，模糊不清。?????? 背景中的物体可能会有不自然的变形。?????? 留意皮肤质感：AI技术常常会过度“优化”人物皮肤，使其看起来异常光滑，与年龄不符。?????? 如全红婵家人早在四月就对外声明过，全红婵并未给相关农产品代言或授权。?????? 结语?????? AI克隆技术的滥用已经成为一个不容忽视的社会问题。?????? 李梓萌、全红婵等名人深陷虚假广告风波，可网友也要擦亮眼睛，多留心，才能避免悲剧发生。?????? 【免责声明】?????? 文章描述过程、图片都来源于网络，此文章旨在倡导社会正能量，无低俗等不良引导。?????? 如涉及版权或者人物侵权问题，请及时联系我们，我们将第一时间删除内容!如有事件存疑部分，联系后即刻删除或作出更改。?????? 参考资料：?????? 央视财经?????? 锐评|央视主播卖鱼油必须斩断AI换脸的黑手京报�-10-1620:19?????? 央视主持人李梓萌遭AI仿冒带货，官方通报极目新�-10-1521:18