3589 期 / 第7版:科普法制
眼见不一定为实 老年人要警惕AI陷阱

狗会系着围裙颠勺做饭,猫能推着小车摆摊卖货……这些听起来就很荒诞的场景,却让一些老年人深信不疑。只因他们在手机上刷到了眼见为实的视频,却不知这背后藏着AI技术的障眼法

当下,AI的发展如同一把双刃剑,既为生活带来便利,又被一些别有用心之人用来生成虚假信息,让不少老年人被误导,甚至落入精心设计的诈骗圈套,成为人工智能时代里容易迷路的群体。

轻信的背后是认知鸿沟与情感缺口

你看视频里的医生,讲得多清楚啊!说这药能治腿疼的老毛病,医生总不能骗咱吧?近日,张奶奶看着手机里的短视频对笔者说。她坦言,自己不太懂什么是AI技术,只觉得手机里的医生说得有道理,尤其是那些讲养生、说政策的内容。

张奶奶回忆,前些日子她刷到短视频说“60岁以上的老年人能领取额外的养老金,她问儿子,儿子非说没这政策。开始她还以为儿子怕麻烦故意这么说,后来找社区工作人员咨询后,才知道视频里的内容是假的。视频里的主播穿着制服,跟电视里的新闻主持人一样,谁能想到是假的呢?虽然被证实是假的,但张奶奶依然很疑惑。

老年人之所以容易相信AI生成的内容,除对AI技术陌生外,更源于情感上的需求。68岁的刘阿姨说:孩子们忙,平时很少跟我细说这些事。手机里的小姑娘天天跟我问好,告诉我怎么养生、哪种菜对身体好,多贴心啊。她对我那么好,总不会害我吧?于是,和手机里的小姑娘聊了一段时间后,刘阿姨就下单了对方推荐的按摩仪。

从事IT行业的张先生更懂得AI技术的厉害,也担心父亲被骗:上次他拿着一段假视频跟我讨论,我说这是AI做的,他却说我亲眼看见的,还能有假吗让子女们最焦虑的是,即使反复提醒,父母还是会中招。张先生叹了口气说:不是老年人傻,是那些骗子太懂得怎么抓住他们的心理了,加上AI技术做得太真,防不胜防啊。

AI诈骗的三类典型套路

便利的智能工具,被一些不法分子以更隐蔽的方式编织着认知陷阱。笔者梳理了AI诈骗的三类典型套路。

虚假信息制造认知偏差AI生成的短视频里,新闻主播播报子虚乌有的政策福利:“70岁以上老年人坐火车半价”“国家免费发放养老补贴”……这些内容往往嫁接真实场景,搭配逼真的主播形象,利用老年人对科技进步的陌生感混淆视听,让老年人难辨真伪。

虚拟人设骗取情感信任爷爷,您看这款孔雀手镯多适合奶奶”“叔叔,我每天都在等您的留言”……这些甜腻话术背后,可能是AI生成的数字人。它们或扮作孝顺晚辈,或装作知心好友,通过固定话术模板与老年人交流互动。这类数字人账号往往批量生成,同一套算法能打造出专家”“美女”“大学生等多种人设,最终目的基本都是诱导老年人购买高价保健品、珠宝等商品。

深度伪造实施精准诈骗妈,我在外地出车祸了,快转20万元到这个账户!骗子通过收集老年人亲友的语音、照片,运用AI技术合成逼真音视频实施诈骗。

从技术特征到多方协同防范“AI陷阱

其实AI人工换脸无论做得多逼真,想要识别真假还是有一些方法的。笔者发现,无论数字人的形象如何变化,往往具有以下特征:数字人说话时口型与语音错位,直播中神态、背景长期不变,画面边缘有模糊重影。遇到可疑主播,老年人也可提要求,让视频里的人完成指定动作,真人能自然完成连贯动作,而数字人因依赖平面图像生成,在转头、手部精细动作时易出现扭曲、穿帮。

中国计算机学会安全专业委员会数字经济与安全工作组成员方宇曾在媒体报道中介绍,可要求对方在视频对话时,在脸部前方挥手。挥手的过程会造成面部的数据干扰,伪造的人脸会产生一定的抖动或者是闪现等异常情况。

子女还需要提醒老年人,凡是涉及中奖”“转账”“政策变动等信息,可通过多种渠道进行核实,比如拨打政府部门官方电话、联系子女确认、查看权威媒体报道等。

在这场AI时代的认知保卫战中,多一份关注,少一份套路,才能让老年人真正享受科技红利,而非沦为技术陷阱的猎物。(马相)