揭开AI换脸的消费圈套：“杨幂”“刘亦菲”轮流带货，最低29.9元教你学“技能”
“活泼在巴黎时髦秀场上的明星竟然也开端带货了”“杨幂、刘亦菲竟然卖起了减肥茶”，顾客在直播间里看得一头雾水，但却因“目睹为实”屡次张狂下单，被骗了还浑然不知。更有甚者，打出“包教包会”的旗帜当起了工作练习师。“练习费用”从29.9元到上万元，包含东西、许诺包教包会，顾客缴费后才知道所谓的包教包会，是“只售出无售后”。从“AI换脸”到“Sora”,当顾客们还沉浸在科技对国际的重塑力上时，有这样一些商家早现已构建起了一条低成本牟暴利的灰色工业链。
“主播”变“明星” 带货骗你没商量
晚上9点，点进电商直播间，“杨幂”和“刘亦菲”竟然卖起了减肥茶，不久后“迪丽热巴”也加入到直播带货中。在短短4个小时的时刻里，依靠着“明星同款”“顶流力荐”的标签，直播间内的产品销量已达上千件。
“追直播追了好几天，成果追了个‘李鬼’，简直欺骗了我的爱情和信赖。”顾客李响怒火中烧道。
顾客在观看直播购物时，会由于对某个明星的喜欢和信赖而购买产品。部分商家正是抓住了顾客的这一心思，开端凭借AI换脸技能诱导顾客消费购物。
北京商报记者在实践对比了十余个同类型“明星”直播间后发现，通常状况下，只需直播间里的“明星”不做过于大幅度的动作，真的很难分辨出真伪。
但只需直播时刻一长，仔细观察就不难发现，该直播间内的“女明星”假如动作稍大，就会露出“面具”之下的原本样貌，或许呈现“面具”出画的现象。
当目睹也纷歧定为实，针对疑似“AI换脸”的画面，顾客怎么防备？工业观察家陈一凡指出，大面积遮挡脸部，或在脸部前方挥手，将导致人脸检测失效，顾客能够由此判别是否运用了相关技能。
“骗术”当“技能”输出 玩多元变现
光直播带货还不过瘾。现在部分商家还做起了更“高档”的生意，将现已纯熟于心的“骗术”，当作“技能”输出。
顺着某科普博主的账号，北京商报记者进入一个独立站点，而该博主科普AI技能的身份背面，掩藏着一条完好的“AI换脸”套餐出售链。
除了价格29.9元的“AI换脸”教程，该博主还供给人脸模型定制。全体定制服务在2000元至上万元不等，详细价格视质量要求和运用场景而定，能够在全流程协助科技“小白”完结“AI换脸”的一系列操作，完成视频通话、直播等多个场景下“换脸”。
而服务于“技能流”的套餐则愈加简略直接。经过电商渠道直接检索“AI换脸模型”，无法显示出相关成果，但用于练习人脸模型的src（源视频）资料包却可在渠道揭露兜销。
资料包价格低至16.8元，最贵的仅29.8元。北京商报记者购买了其间一款资料包，其间约含图片4000张，大部分是对应艺人的影视剧截图和个人相片。而在明星之外，该商家还供给“群众脸女带货主播”“中年男路人”等资料包。
北京商报记者以顾客身份暗访了某资料包出售商家，该商家向记者介绍，“假如是纯新手，不引荐购买，需求有必定建立此类模型的根底。”而在记者的再三追问下，该商家表明，也有能够直接运用的人脸模型，但需求脱离渠道暗里购买，女人面孔居多价格更高，男性面孔较少。
想售后？不支持任何理由退款和换货
这笔存在于“技能流”层面的买卖也并不省心。
经过“AI换脸”从事虚拟主播的柒柒谈道，“模型用得久了，渐渐呈现了一些运转不稳定、脸部有锯齿、表情无法辨认的问题，其时砸进去近万元做的模型，但商家现已联络不上了，假如别的找人修正模型，简直要重新开端，又是一大笔费用”。
在暗访中，北京商报记者留意到，简直一切的“换脸”明星资料包商家产品概况，都在产品介绍中写明：“本店为虚拟产品，下单后主动发货，不支持任何理由退款和换货。”
聚集在人脸模型定制服务上的问题同样是售后。北京商报记者以咨询换脸明星进行直播带货为由与供给人脸模型定制的商家刘先生取得联络，对方称需求预先付出99元作为定金，随后能够进行一个开始的“换脸测验”，看看作用再判别是否要进行进一步的需求对接。
当触及假如终究的制品无法到达满足的作用怎么进行售后服务时，刘先生三缄其口，一直逃避交货后的保护问题。
顾客赵月告知北京商报记者，最初为了“AI换脸”充了月卡，成果生成视频竟然需求花168元成为终身会员，到现在渠道却没有征兆地忽然下架了“AI换脸”功用。
此类状况并非个例，在黑猫投诉中以“AI换脸”为关键词检索，呈现了近百条投诉，其间包含“换脸”作用不合心意但渠道不受理退款等。
严峻危害顾客权益 渠道需强监管
关于“AI换脸”所触碰到的版权及危害顾客权益等问题，商家们也纷繁预先表态“不背锅”，在多位供给人脸模型定制服务的事务介绍中，均说到“不接任何违背品德或许法令的相关事务，事务范围仅限于个人文娱、合法直播范畴”。
依据《民法典》相关规则，公民享有肖像权，这意味着别人不得随意运用肖像，同样地，运用明星的脸部图画也或许触及到侵略明星的肖像权。
北京市中闻律师事务所律师赵虎指出，假如运用“AI换脸”技能来制造虚伪的代言人形象，误导顾客购买产品或服务，那么这种行为就或许构成虚伪宣扬。一起，人脸作为辨认个人身份的重要信息，假如被不妥运用，也或许触及到名誉权的问题，应由商家承当相应的法令职责。此外，产生数据走漏的状况，需求查明原因并确认职责，当由于AI东西本身存在缺点导致的数据走漏，那么AI东西的供给者应当承当相应的法令职责。
那么买了假明星带货的产品，顾客要不要负连带职责？
关于顾客而言，赵虎进一步指出，顾客在购买产品时仍需坚持理性，留意区分直播间内容的真伪。当顾客根据对直播内容的信赖和爱好进行购买，他们通常是受害者，而非职责方。假如顾客由于商家的虚伪宣扬或侵权行为而遭受丢失，有权向商家维权，可及时向渠道或相关部分告发，保护本身权益和商场秩序。
事实上，相关规则早已为“AI换脸”划定了“底线”和“红线”。2023年起实施的《互联网信息服务深度组成办理规则》明晰，任何安排和个人不得运用深度组成服务制造、仿制、发布、传达法令、行政法规制止的信息，深度组成服务供给者应当以明显方法提示深度组成服务技能支持者和运用者承当信息安全职责。
本年全国两会，全国政协委员靳东再谈“假靳东”，再度回应了犯罪分子冒名其身份，经过运营“高仿”交际账号，再以出资、爱情等各种理由索要钱款这一事情，他对媒体表明，期望从法令层面加大对网络渠道的监管，让网络空间愈加明亮清明。
相关业内人士也向北京商报记者表明，现阶段，虽然不少渠道现已明晰要求商家在运用“AI换脸”技能时注明身份，以保证AI组成视频的发布者身份明晰可辨，但在利益驱动下，仍存在企图经过含糊身份来躲避职责或误导顾客的商家。此外，渠道监管的不到位和处分力度不行，也或许使得一些商家对规则置之不理。
陈一凡指出，新质出产力的确以其颠覆性和原创性的特色，为传统出产格式注入了新的生机，为经济社会发展供给了新的动能，催生出很多新工业，成为推进社会进步的重要力气。新科技的运用往往带来商场的革新，但假如被过错运用，或许导致商场信号失真，资源配置不合理。
北京商报沸点调查小组
相关文章
“地表算力最强”芯片、“海陆空”无人驾驶、麻将AI 本年人工智能大会带来这些“黑科技”→
上一年首届国际人工智能大会成功在上海落幕今日，2019国际人工智能大会又在阿拉上海开幕啦！8月29-31日上海世博中心本届人工智能大会上有哪些好东东？小观带你先睹为快↓↓听指令做动作依据人类的手势指令...
蓝鲸新闻7月30日讯（记者 朱俊熹）在AI浪潮的席卷下，送一件皮夹克简直成了AI范畴的最高商务交际礼仪。
当地时间7月29日，英伟达创始人兼CEO黄仁勋与Meta创始人兼CEO马克·扎克伯格初次揭露同台对谈。黄仁勋仍然身穿皮夹克上台，扎克伯格却没有穿戴他自己经典的灰T恤，而是换上了有黄仁勋风格的黑色T恤。两人就AI范畴的新打破展开了讨论，包含生成式AI、开源技能以及虚拟国际的构建等。
英伟达是AI军火商，像Meta这样的科技巨子正在争抢其GPU芯片，用于练习和运转大言语模型。在近一小时的说话中，扎克伯格不时“追捧”是黄仁勋让AI愿景得以完成。对谈挨近结尾时，扎克伯格还拿出一件黑色毛领皮夹克送给黄仁勋，两人现场交换外套。
在此次大会的对谈中，扎克伯格先是提到了对智能体的愿景。他表明，尽管Meta推出了人工智能帮手Meta AI，但他不期望人们只能与这一种大型AI进行互动。他以为很多人都想要发明自己的智能体，完成文娱、有用等不同的用处，Meta期望可以供给这样的渠道，“假如存在这些多样性，国际会变得更夸姣、更风趣”。
就在说话期间，Meta宣告推出根据Llama 3.1模型的AI Studio。该渠道支撑用户创立专属的AI智能体，可以自定义其特性、口气或爱好，并在Meta旗下的Instagram、Messenger 和WhatsApp等交际媒体上运用。
除了面向普通用户或创作者外，扎克伯格还在说话中介绍了智能体在企业中的运用场景。他表明，未来每个企业都将具有一个与客户互动的AI智能体，可以迅速地树立事务署理，进行出售或客户支撑等。
跟着大模型公司们开端探究AI运用落地场景，智能体赛道正在遭到更多重视。作为我国AI的旗号人物之一，百度创始人、董事长兼首席执行官李彦宏曾在多个场合着重，百度以为最简略、最看好的AI运用发展方向便是智能体，未来将会有几百万乃至更很多的智能体呈现，构成巨大的生态。
回到此次对谈，黄仁勋和扎克伯格还谈及AI职业中论争纷繁的开闭源模型之争。黄仁勋称，Meta发布开源模型Llama 2是上一年AI范畴中最大的事情，激活了每个职业和不同体量的公司，让他们都可以开端建造AI。
与OpenAI等挑选闭源的公司不同，Meta是坚决的开源道路拥护者。上星期Meta推出最新的开源大模型系列Llama 3.1，其间参数规划最大的405B模型在多项才能测验中比分高于GPT-4o等闭源模型。
扎克伯格在说话中解说称，Meta挑选开源并非因为他们是“忘我的利他主义者”，而是出于实际的考量。“咱们是在其他一些科技公司之后，才开端建造核算基础设施和数据中心的，因而它现已不是竞赛优势了。咱们就想着无妨将其敞开，然后咱们将从环绕它的生态系统中获益。”
此前在苹果渠道上构建Meta服务受限的阅历也刻画了扎克伯格对开源技能的哲学观。他表明，Facebook的第一个版别发布在网络上，是敞开的。而在向移动设备主导的年代过渡后，对Meta而言最困难的便是要承受一个实际：有必要经过竞赛对手的移动渠道发布自己的运用程序。因为苹果的生态系统相对关闭，Meta难以彻底打造自己想象中的服务形状。
“让我议论关闭渠道，我就会变得气愤。”扎克伯格称，“我期望鄙人一代核算中，咱们将回到一个敞开生态系统取胜的区域，并再次抢先。”
在Meta发布Llama 3.1后，英伟达随之宣告推出配合该模型的AI铸造厂和NIM推理微服务两大全新事务。据英伟达介绍，经过AI铸造厂，企业可以运用Llama 3.1模型和英伟达软件来构建和练习专属模型。黄仁勋称，自己尽管是一位“年长的公民”，作为CEO却可以敏捷地跳上快速迭代的技能。“现在咱们正在协助国际各地的企业做到这一点，这一切都是由Llama开源引发的。”
到说话的最终环节，两位科技首领还共享了对下一波AI浪潮的展望。黄仁勋表明，英伟达正在使用视频来练习人工智能模型，以便更好地了解物理国际，并押注在机器人技能上。而扎克伯格表明会将下一代核算渠道分解为混合实际VR耳机和智能眼镜。
扎克伯格称，期望可以统筹智能眼镜的技能和漂亮。智能眼镜将成为相似移动手机的存在，具有通话、听音乐、直播等多种功用，预计会招引数千万乃至数亿人的爱好。
在VR眼镜范畴，Meta在多年前就收买了Oculus，已推出几代产品。另据多家媒体7月报导，Meta正方案收买全球最大眼镜公司EssilorLuxottica 5%的股份，加大对智能眼镜的开发。EssilorLuxottica旗下具有雷朋、欧克利等多家知名品牌，在2021年就与Meta协作推出了首款Ray Ban-Meta智能眼镜。还有媒体报导称，谷歌也在与该公司领导层接洽，参议将其Gemini AI帮手归入未来的智能眼镜中，或将使竞赛升温。
黄仁勋与扎克伯格初次揭露对谈：用赠送皮衣来表达AI最高礼遇
图片来历：直播画面蓝鲸新闻7月30日讯（记者 朱俊熹）在AI浪潮的席卷下，送一件皮夹克简直成了AI范畴的最高商务交际礼仪。当地时间7月29日，英伟达创始人兼CEO黄仁勋与Meta创始人兼CEO马克·扎...
隐私“开盒”、AI换脸……数据安全遭要挟，安全“岗兵”这样做！
你的个人隐私信息忽然有一天在网上被“开盒”就此打开了网络暴力的潘多拉魔盒你以为在和家人视频谈天对面可能是AI换脸的诈骗犯目睹未必为实数据安全，与每个人的利益都休戚相关；而对企业来说，安全已从 “可选装...
直播间里，“迪丽热巴”“杨幂”“刘亦菲”都在卖货，AI换脸全套模型3.5万元，当心惹祸上身！
“点进直播间一看，‘迪丽热巴’居然在直播卖货。”近来，有网友点开直播间，却发现正在卖货的竟是当红女星。但是再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实仅仅...
英伟达开年榜首炸，2025年生成式AI将迎来哪些革命性改变？
来历：新榜官微“闪闪发光的新夹克”为AI界带来了2025年的开幕大秀。1月7日，CES 2025现场，习气身穿一身皮革夹克的英伟达创始人兼CEO黄仁勋，一露脸就开端玩梗：“我的夹克美观吗？”作为全球消...