继全红婵、李梓萌后,演员温峥嵘也遭遇AI盗脸直播,防不胜防
现在的AI技术进步速度是真的让人有点跟不上。
原本很多人还想着AI能让生活变得更方便,但谁能想到,习惯了在短视频平台上看直播,买点小东西,居然能踩到这样一个大坑:你喜欢的明星或者网络红人,不声不响地就在你眼前“出现”了,卖货、聊天、互动,样样都像真一样,可等你回过味儿来,人家本人根本没上线,你只是在跟一个AI合成的“假人”对话。
这阵子央视刚曝光了这么一件事,主角是温峥嵘。
可能很多人还记得她前段时间在电视剧《许我耀眼》里大火的那个角色。
现实里她也会偶尔开直播卖货,但让她自己都懵的是,有天拍戏休息时随手刷手机,竟然发现自己同时正“出现在”几个不同的直播间。
说白了,就是有人把她以前直播的视频、照片、音频全都扒拉下来,用AI给拼成了一个“克隆版”温峥嵘,在直播间模仿她说话的语气、动作,甚至可以和粉丝实时互动。
这个假直播,细节做到让很多粉丝都分不清真假。
你以为是温峥嵘本人推荐的东西,结果下单买了回家,才发现自己被骗了。
温峥嵘本人也是气得够呛,立马和团队开始举报,前后加起来举报了五十多个相关账号。
可平台的动作远远没有她想象的快,这头刚举报完,过几天又冒出来一大堆新的。
把人气得直呼防不胜防。
其实,温峥嵘这种情况并不是个例。
去年,奥运冠军全红婵的脸也曾被拿去做过类似的AI换脸直播,甚至她自己还没反应过来,粉丝就已经被“假红婵”割了韭菜。
央视多次报道这样的案例,甚至一些老年人接到自称子女的“AI换声”电话被骗,背后套路几乎一模一样——骗的就是信息差。
普通人觉得自己能分清真假,但AI换脸、换声的技术早就不是几年前粗糙的水平了,现在连专家都要仔细看好几遍才能确认。
很多平台对于这类虚假内容的审核机制还比较落后,基本靠用户主动举报,等到反应过来已经有不少人中招。
最让人扎心的是,受害人往往并不止局限于年纪大的老人。
现在就连不少年轻人、经常混网络圈的,都栽在了这类AI假直播手里。
毕竟,我们越来越习惯了网络世界里信息高速流转,却忽略了最基本的核实步骤。
有些人就是抓住了这种“懒得核查、图方便”心理,疯狂利用AI搞钱。
现实生活中,AI技术当然有它光明的一面,比如帮残障人士合成语音、辅助老人防诈骗等。
但只要有钱可赚,总有人想着钻空子。
想象一下,如果你的脸、你的声音,随便被人拿去做买卖,甚至替你“开口”说些从未说过的话,这种感觉有多可怕?
普通人看着觉得离自己很远,其实一旦AI技术降价普及,谁都可能成为下一个受害者。
温峥嵘遇到这事后,自己也曾专门进过假直播间,直接问:“你要是温峥嵘,那我是谁?”结果对方二话不说,直接把她拉黑。
可见这些背后操盘的团伙有多心虚。
有人吐槽平台审核不严,也有人建议明星和普通用户都要主动曝光、报案甚至联合维权,只有形成压力,平台、法律和技术才会更重视。
讲真,科技越发展,监管就越不能掉链子。
平台要负起第一责任,把AI换脸、合成语音等风险内容严查到底,比如像韩国那样推行“实名直播”、“人脸识别”等技术手段,起码别让这些骗子肆无忌惮地反复开播;而对于普通消费者来说,购物、看直播时真的得多些警惕,别盲目相信“熟悉的面孔”,哪怕再信任的主播、明星,也要二次核实。
尤其是涉及转账、买高价产品时,最好打个电话确认下有没有这回事。
最后,这种AI诈骗其实也提醒了每个人:别高估自己对网络世界的判断力。
与其被骗后才喊冤,不如事前多留个心眼。
希望未来的平台能把好安全关,也希望大家能一起守住自己的权益,不让AI成为骗子的“新工具”。