眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体,却是一个反诈 AI 高手。
与传统的反诈宣传不同,Daisy 不会苦口婆心地提醒你谨防上当受骗,而是从源头抓起,与骗子聊些家长里短的话题,不断消耗骗子的耐心。
打造 Daisy 的初衷在于,要用骗子的执着消耗骗子的时间,减少后者扔诱饵的机会,从而更好地保护其他潜在的受害者。
与 Vodafone、EE 和 Three 并列,O2 是英国四大电信运营商之一。O2 的数据显示,67% 的英国人表示担心成为诈骗的受害者,四分之一的人每周都会遭遇不同程度的诈骗。
于是他们想出了星空体育官方入口 星空体育官网一个妙招,那就是打造出一个 AI 奶奶——Daisy,并让其主动出击,与骗子进行最高可达 40 分钟的通话。
方法有些舍己为人却又很实用,折腾完骗子,这样骗子就没有时间去诈骗别人了。
Daisy 的角色设定是一位慈祥的老奶奶,映照到现实生活,老年人也恰恰是诈骗分子最常针对的下手群体。
在官方发布的演示 demo 中,Daisy 跟电话那头的骗子唠唠家常,绘声绘色地分享她的爱好——编织毛衣,聊聊家里可爱的猫等等。
当涉及银行卡账号/密码等要紧信息时,这位 AI 奶奶还会凭空杜撰,主打一个句句有回应,事事没着落,睁着眼睛说瞎线 欺诈部门主管 Murray Mackenzie 杀人诛心地指出,Daisy 的作用在于,她彻底扭转了与骗子的博弈态势。「我们通过让他们一直在线上,巧妙地在他们的「游戏」中击败并超越了他们。」
据外媒 The Guardian 报道,澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子「聊天」的 AI 机器人 Apate。
我当时想,这样做的目的是欺骗骗子,浪费他们的时间,这样他们就不能和其他人通话了。
Apate 还拥有几百个不同的身份,这些身份各自带有不同的口音,有不同的个性,有的假装懵懵懂懂,有的就跟老人家一样讲话爱重复,也有的脾气比较暴躁,整体比较多样,主要是为了不被骗子认出模式。
具体原理就是,AI 会转录来电者的声音,接着这位 AI 奶奶会根据预设的角色性格来调整回答的风格和内容,最后再次转换成 AI 奶奶的声线:
转录语音为文本:将捕捉到的声音转换成文本的过程称为「转录」。这样,Daisy 可以理解来电者所说的内容,并准备相应的回应。
生成回应:Daisy 使用一个定制的大型语言模型(LLM)来生成回应。这个模型不仅能够理解文本信息,还能够根据上下文和预设的角色性格层(character personality layer)生成合适的回答。
角色性格层:「角色性格层」是指 Daisy 在生成回应时,会根据预设的角色性格来调整回答的风格和内容,使其更符合角色设定,比如像一个祖母那样亲切和耐心。
文本转语音:生成的文本回应需要再次转换成语音,以便 Daisy 可以通过电话与来电者进行交流。这个过程也就是「文本转语音」(TTS),Daisy 使用一个定制的 AI 模型来完成这一步。
该博主在 YouTube 上拥有 400 万+ 粉丝,是该平台最具影响力的反诈骗者之一。他的视频不仅展示诈骗手法,还会通过详细的技术分析和实例,来揭示了整个诈骗产业的运作方式。
而在 Daisy 与骗子对话的整个流程,由于从听取声音、转录文本、生成回应到文本转语音都是实时进行,所以几乎没有明显的延迟。
原因很简单,O2 担心用户利用它对诈骗者进行报复行动,在他们的内部研究表明,71% 的英国人有过想要报复那些诈骗了他们或他们亲人的骗子的念头。
据外媒 techspot 报道称,这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动,且无需人工干预。
前不久,初创公司 Bland AI 在 X 平台宣称,在大模型的加持下,其产品将成为全球最快的对话式 AI,且可以在没有「幻觉」的情况进行沟通。
另外,Bland AI 机器人还拥有极其自然的生成式语音、以及多种语言切换。
除了非常擅长模仿人类真实对话的语调、停顿,在外媒 WIRED 的技术测试中,Bland AI 机器人甚至可以否认自己是 AI,并谎报其真实身份。
包括 APPSO 此前也利用 AI 定制生成了一些 0 成本但很真的数字双胞胎。
在 AI 技术的增益之下,这些工具都能轻而易举地被诈骗不法分子反过来欺骗我们。
吊诡的是,电话一头连着 AI 骗子,电话一头连着 AI Daisy,一个捧哏,一个逗哏,双方无限循环。懂行的人都知道,这里面的道行有多深。
只需向服务商提出需求,后者就能快速搭建管理平台。用户通过简单的界面操作,就能设置话术、模板、通讯线路等参数,导入联系人信息后即可启动自动外呼功能。
比如,国内大多数手机系统提供智能识别和拦截伪基站的功能。并且,你还可以在来电拦截设置中,开启「在线识别陌生号码」功能,让系统更准确地识别并拦截骚扰电话。
人物(陌生人)+沟通(各种通信工具,反正就是见不到面的)+要求(转账汇款,反正就是谈钱的)=诈骗。
在 AI 时代,骗子和反诈技术都在升级,而人类的判断力永远是最后的防线。