声音合成、换脸、交友,和AI恋爱?认输吧!那个是AI骗子!

2019年11月21日         先锋音讯官网

科技日益发达,骗子的骗术也层出不穷

第一批AI已经开始骗人了!请看:《当代AI骗术大赏》

01

语音诈骗

“我今天被骗子骗钱了,他用朋友的微信语音向我借的钱,声音一模一样的”
新型微信语音诈骗诞生,江苏南京的陈先生通过微信,收到朋友王某发来的借钱信息,为了避免被骗,陈先生特意在要求对方发来语音,并确定这就是自己朋友声音后,才向其转账5000元。

之后陈先生打电话给王某确认后,才发现被骗,朋友的微信早已被盗。

微信语音一人一句有连贯性且不能转发,很多人就理所应当地认为,能和你聊语音的一定是本人无疑。

利用微信语音包诈骗已成为不法分子骗钱新套路。
并且AI语音诈骗第一起案例已经发生!

华尔街日报报道,一家英国能源公司CEO接到了来自其母公司的电话,电话里这位自称“首席执行官”一天打了三通要款电话。

要求他把资金汇入匈牙利供应商,声称为了稳固两方的合作关系。

“当时在通话过程中,除了我还有我的同事,我们几乎没怀疑过这个人,基本认定电话对面这个人就是其母公司的首席执行官。

值得关注的是,来电人的英语带点德国口音,有着和老板说话一样的旋律,跟母公司的老板一毛一样,至少从声音来判断是这样,肯定是老板本人了。”
就这样,犯罪分子通过人工智能语音生成软件,通过其它方式录音提取了母公司CEO的声音。

并对素材进行合成,用伪造的声音最后进行诈骗,使这家公司一天内损失220000欧元(约合人民币173万元)。

现在语音克隆技术已经运用在很多领域上面了,不论是QQ的“变声器”还是搜狗输入法终端的“变声”功能。
仿制的明星语音包

再或者百度地图、高德地图里,各个明星的语音包,都是用明星本人说的话进行技术合成后的。

这些语音包在网络上十分走红,通过提前设置好的各种语音,可以应付绝大部分的对话场景。

而这种语音包,在一些二手交易平台上,只需要10元钱,就可以得到上千条。

也是因为如此,这类语音的技术也越来越容易得到,容易使用,并且效果也很不错,被不法分子盯上也是在所难免。

02

面容诈骗

如果你觉得耳听为虚,眼见为实,我们就聊一聊骗子第二招“AI换脸”

从前,我们只知道运用PS可以修改图片,现如今,运用AI就可以直接将“修图”改为“换脸”。

最近网上涌出大量通过“AI换脸”之后变成知名女明星后“主演”的低俗视频并且在贴吧、闲鱼等网络平台还有售卖。

有市场的地方就有需求,有需求就有产业链,而围绕着“AI换脸”的黑色产业链已经悄无声息的形成了。

并且“AI换脸”不仅仅只是低俗视频这么简单,还可以用于电信诈骗,但凡网络防范意识薄弱的人。

碰到通过“换脸”的“朋友”向自己索要钱财,基本这个钱也就有去无回了,毕竟很多人都还可能不知道视频还可以换脸。

甚至有人怀疑,换脸之后会不会出现财产风险,比如被他人盗刷财产等。
但是,AI换脸好玩,就怕玩坏了,有的人就起了坏心思。

在刚刚听说AI换脸的时候,很多网友就diss某些抠图演戏的艺人,可以把脸授权给拍电影的公司,然后躺在家里等着收钱就行了。

没想到这扇新世界的大门艺人还没用上,骗子倒是发现了这个商机,不得不感叹,骗子也有KPI,骗子也要持续充电,获得骗子界的认可。

“眼前的王源不是王源,在线科普AI换脸技术”

前段时间就有个骗子用AI换脸技术伪装成王源,通过直播来骗取低龄粉丝的信任,然后通过付费加入粉丝群来进行骗钱。

可能是最后不相信的人太多了,在最后纸包不住火的时候,这个骗子直接承认了自己不是王源,而是用AI换脸技术换成王源的脸来骗钱的。
不得不说这个骗子真所谓“艺高人胆大”,不光侵犯艺人肖像权,还威胁粉丝,声称有王源的KTV抽烟醉酒的照片,要求粉丝“拿钱消灾”

站在路人角度来看,这届粉丝没有少交智商税,只会追星,已经忘了思考了,就作为一个艺人,会随便公布微信号吗?随便参加一个综艺,挣的钱也比骗几百个人的钱要多啊。

03

交友诈骗

这个骗术通过分析在网上发布的信息,骗子会根据发布不同种类信息的人群进行筛选。

比如进行感情诈骗,可以筛选一些经常发布感情鸡汤文章的人群;进行金融诈骗时,可以筛选一些经常发布投资理财信息的人群。

用过淘宝吧?现在的淘宝都是人和智能机器人混合服务的,给客服发信息,秒回,基本就是机器人无疑了,这类智能机器人,基本可以回答50%-80%的问题。

但是这项技术,依然可以为无所不能的骗子 “改进后” 所用。
浙江警方破获的一起利用“聊天机器人”进行诈骗的案件,这个案件中,恋爱交友软件全是虚拟用户,真实付费用户聊一条,虚拟用户就会回复一条。

其实回复用户的只是服务器里的一个AI小程序,而且你想继续和对面虚拟用户聊天,必须要充钱,就这样,犯罪团队批量“恋爱”,最后诈骗两千多万。

和AI“恋爱”?认输吧!

诸如此类的还有AI机器人进行推销,想必大家都没少经历过,接通一个看似官方的来电,声音那头会非常自然地跟你打招呼“你好”

停顿之后,如果你客气地回应“哪位”,对面的机器人就会将你引导到手机短信,鼓励你办理业务。

 

虽然没涉及到诈骗,但是也有够烦人的了。
为了不被骗子找上门来,无论是设置多重验证也好,还是平时多注意保护个人信息,相互提示和预防。

天上没有白掉的馅饼,也没有被美女找上门的人格魅力,抵挡住诱惑,男孩子出门在外一定要保护好自己 。
无论我们欢迎也好,抗拒也罢,AI智能技术正以前所未有的速度突飞猛进,霍金老爷子曾预言人工智能将是人类文明的终结者,不得不让人心有余悸。

技术无罪,只期望技术始终掌握在正义之手。

文章来源:AI全球总部,特此鸣谢!

上一篇:不甘心做幕后英雄!Salesforce宣布推出 AI 云客服语音助手 下一篇:改变销售人员的CRM交互方式,Salesforce推出AI语音助手及开发套件
新闻中心
最高法:受害人可留存收集电话录音、短信等作为家暴证据
先锋音讯中标广铁集团 VAA技术融入铁路行业专网
先锋音讯应邀参加  2019第四届上海国际人工智能展览会暨人工智能产业大会
未经对方同意的录音,有法律效力吗?!
滴滴:行程录音已覆盖所有订单 录像年底覆盖50%
MWC2024首日:生成式AI受追逐 从芯片到终端产业形成共振
CES 2024AI席卷一切,8大方向最火
打造自主操作系统“护城河”先锋音讯全面融合国产系统
亚马逊宣布语音助手Alexa增加生成式人工智能功能
智能AI医院回访系统悄然流行
行业定制开发解决方案
公安系统云通讯数据解决方案
监狱管理云通讯数据解决方案
电力调度云通讯数据解决方案
金融理财云通讯数据解决方案
电子商务云通讯数据解决方案
证券服务云通讯数据解决方案
航运调度云通讯数据解决方案
税务监督云通讯数据解决方案
保险行业云通讯数据解决方案
24小时服务热线
4008-158-111
投诉电话
15810196111