版权归原作者所有,如有侵权,请联系我们

参加多人视频会议,只有自己是真人!AI诈骗怎么防?

北京科学中心
北京科学中心(北京青少年科技中心)科普号
收藏

审核专家:刘相权

北京信息科技大学机器人工程系主任

AI换脸

眼见不再为实!AI以假乱真的时代,我们如何确保真实?

最近,香港警方披露了一起AI“多人换脸”诈骗案,涉案金额高达2亿港元。

被骗的是一家跨国公司香港分部的职员,他被邀请参加一场由总部首席财务官发起的“多人视频会议”,并按照要求,将2亿港元分多次转账到了5个本地银行账户内。

来源 | 央视网

其后向总部确认时,该员工才发现自己受骗。

警察调查后发现,在那个视频会议里,只有员工一个是真人,其他参会人全都是骗子用AI换脸技术伪造的!

据了解,诈骗者通过盗取该公司的YouTube视频和其他公开渠道媒体资料,巧妙地复制了公司高层管理人员的外貌和声音。然后,他们运用深度伪造技术,制作出诈骗视频,让受害者误以为其正在多人视频会议中,与其他真实人员交流。

深度伪造技术是啥?

深度伪造(Deepfake)是由深度学习(Deeplearning)和伪造(Fake)组合成的名词。

原本,这种对视频或图片进行调整的人工智能技术只是一种有趣的新突破,能够将一个人的面部表情、说话内容和动作放到别人的图片或视频上,并且看起来十分真实。

来源 | 央视网

由于这种技术很方便、成本低、效果逼真,给艺术、社交、医疗等领域都带来了很多新的机会。

但是,由于这种技术使得制作假视频变得更加容易,一些不法分子可能会利用它来骗人、传播假消息或制造社会矛盾,给我们的安全带来了很大的风险。

在AI面前,“有图有真相”和“眼见为实”的定律都被颠覆了。

AI诈骗一般什么样?

在生活中,遇到亲戚朋友线上借钱,谨慎的人一般会选择和对方打个语音或视频电话,确认对方的身份后再转账。

但是,如果接电话的“亲戚朋友”也是骗子用AI伪造的呢?

来源 | 新华社

利用了AI技术的骗局,通常包含以下几个步骤:

1、盗取目标对象的社交账号,寻找潜在的受害者;

2、 利用AI机器人拨打骚扰电话,收集目标对象(改为目标亲友)的声音资料,进行声音伪造;

3、 通过多种渠道搜集目标亲友的照片、视频等资料,通过AI换脸伪装成目标对象亲友;

4、利用AI换脸技术,与受害人进行视频通话,以获取他们的信任,从而实施诈骗。

经过这三步操作,以往通过“发送语音”或“进行视频通话”来防范诈骗的方法在AI诈骗面前变得不再有效。

来源 | 澎湃

更令人担忧的是,掌握AI技术的骗子数量正在不断增加。公开资料显示,自2021年以来,多个省份都出现了利用AI进行诈骗和不当牟利的案件。中国互联网协会也指出,利用“AI换脸”和“AI换声”等技术进行诈骗和诽谤的违法行为频繁出现。

学会几招,及时识别AI伪造

如此以假乱真的诈骗方式,我们到底该如何防范呢?

1、要求视频对象在脸前挥手,或者捏鼻子、按脸颊

在视频电话时,挥手会干扰面部的数据,导致伪造的人脸出现抖动、闪现或其他异常情况,因此我们可以要求对方在脸部前面挥手进行识别。

另外,我们还可以让对方尝试按压鼻子或脸部,观察其面部变化。真人的鼻子在被按压时会发生变形,但AI生成的鼻子则不会。

但随着AI训练日趋成熟以后,捏鼻子也不是最保险的识别方法。

来源 | 央视网

2、问一些只有对方知道的问题

尽管外形可以被伪造,但个人的记忆和经历是无法被复制的。

因此,在视频通话中,我们可以问一些只有对方知道的问题,如家庭地址、生日、宠物名字等私人信息。如果对方在回答时表现出犹豫或无法准确回答,那么这很可能是一个诈骗行为。

来源|文心一格(图片由AI绘制)

加利福尼亚大学伯克利分校信息学院副院长法里德表示:“当新闻、图像、音频、视频——任何事情都可以伪造时,那么在那个世界里,就没有什么是真实的。”

当我们踏入AI以假乱真的时代,确保真实性的挑战似乎比任何时候都更加艰巨。

然而,面对这场技术革命,我们并非束手无策。通过技术素养的提升、全球合作和公众教育,我们有信心能够应对挑战,维护信息的真实与可信。

评论
科普科普知识的摇篮!
太师级
预防AI诈骗,保护好自己的切身利益,在生活中,遇到亲戚朋友线上借钱,一定要选择和对方打个语音或视频电话,确认对方的身份后再转账,避免上当受骗,保护好我们的钱袋子!!!
2024-03-24
科普62676e0a3b983
少傅级
面对这场技术革命,通过技术素养的提升、全球合作和公众教育,我们有信心能够应对挑战,维护信息的真实与可信。
2024-03-24
尖刀情怀永远跟党走
大学士级
人工智能换脸技术,有着很方便、成本低.效果逼真等特点,给艺术、社交、医疗等领域都带来了很多新机会。但也会给不法分子带来可乘之机,诈骗的手段也更逼真。因此,首先要通过技术培训,提升识别能力,其次不要心存贪念,守住平常心,第三真的遇上换脸的诈骗分子,要多加盘查、询问、以及求证,第四一旦确认是诈骗就应该迅速报警,全民共筑防诈骗的防线!
2024-03-24