星空体育·(StarSky Sports)官方网站-星空官方认证

看着这个AI奶奶把骗子耍得团团转可把我高兴坏了-星空体育官方网站

新闻资讯
质量为本、客户为根、勇于拼搏、务实创新

看着这个AI奶奶把骗子耍得团团转可把我高兴坏了

日期:2024-11-29 浏览: 

  眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体,却是一个反诈 AI 高手。

  与传统的反诈宣传不同,Daisy 不会苦口婆心地提醒你谨防上当受骗,而是从源头抓起,与骗子聊些家长里短的话题,不断消耗骗子的耐心。

  打造 Daisy 的初衷在于,要用骗子的执着消耗骗子的时间,减少后者扔诱饵的机会,从而更好地保护其他潜在的受害者。

  与 Vodafone、EE 和 Three 并列,O2 是英国四大电信运营商之一。O2 的数据显示,67% 的英国人表示担心成为诈骗的受害者,四分之一的人每周都会遭遇不同程度的诈骗。

  于是他们想出了星空体育官方入口 星空体育官网一个妙招,那就是打造出一个 AI 奶奶——Daisy,并让其主动出击,与骗子进行最高可达 40 分钟的通话。

  方法有些舍己为人却又很实用,折腾完骗子,这样骗子就没有时间去诈骗别人了。

  Daisy 的角色设定是一位慈祥的老奶奶,映照到现实生活,老年人也恰恰是诈骗分子最常针对的下手群体。

  在官方发布的演示 demo 中,Daisy 跟电话那头的骗子唠唠家常,绘声绘色地分享她的爱好——编织毛衣,聊聊家里可爱的猫等等。

  当涉及银行卡账号/密码等要紧信息时,这位 AI 奶奶还会凭空杜撰,主打一个句句有回应,事事没着落,睁着眼睛说瞎线 欺诈部门主管 Murray Mackenzie 杀人诛心地指出,Daisy 的作用在于,她彻底扭转了与骗子的博弈态势。「我们通过让他们一直在线上,巧妙地在他们的「游戏」中击败并超越了他们。」

  据外媒 The Guardian 报道,澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子「聊天」的 AI 机器人 Apate。

  我当时想,这样做的目的是欺骗骗子,浪费他们的时间,这样他们就不能和其他人通话了。

  Apate 还拥有几百个不同的身份,这些身份各自带有不同的口音,有不同的个性,有的假装懵懵懂懂,有的就跟老人家一样讲话爱重复,也有的脾气比较暴躁,整体比较多样,主要是为了不被骗子认出模式。

  具体原理就是,AI 会转录来电者的声音,接着这位 AI 奶奶会根据预设的角色性格来调整回答的风格和内容,最后再次转换成 AI 奶奶的声线:

  转录语音为文本:将捕捉到的声音转换成文本的过程称为「转录」。这样,Daisy 可以理解来电者所说的内容,并准备相应的回应。

  生成回应:Daisy 使用一个定制的大型语言模型(LLM)来生成回应。这个模型不仅能够理解文本信息,还能够根据上下文和预设的角色性格层(character personality layer)生成合适的回答。

  角色性格层:「角色性格层」是指 Daisy 在生成回应时,会根据预设的角色性格来调整回答的风格和内容,使其更符合角色设定,比如像一个祖母那样亲切和耐心。

  文本转语音:生成的文本回应需要再次转换成语音,以便 Daisy 可以通过电话与来电者进行交流。这个过程也就是「文本转语音」(TTS),Daisy 使用一个定制的 AI 模型来完成这一步。

  该博主在 YouTube 上拥有 400 万+ 粉丝,是该平台最具影响力的反诈骗者之一。他的视频不仅展示诈骗手法,还会通过详细的技术分析和实例,来揭示了整个诈骗产业的运作方式。

  而在 Daisy 与骗子对话的整个流程,由于从听取声音、转录文本、生成回应到文本转语音都是实时进行,所以几乎没有明显的延迟。

  原因很简单,O2 担心用户利用它对诈骗者进行报复行动,在他们的内部研究表明,71% 的英国人有过想要报复那些诈骗了他们或他们亲人的骗子的念头。

  据外媒 techspot 报道称,这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动,且无需人工干预。

  前不久,初创公司 Bland AI 在 X 平台宣称,在大模型的加持下,其产品将成为全球最快的对话式 AI,且可以在没有「幻觉」的情况进行沟通。

  另外,Bland AI 机器人还拥有极其自然的生成式语音、以及多种语言切换。

  除了非常擅长模仿人类真实对话的语调、停顿,在外媒 WIRED 的技术测试中,Bland AI 机器人甚至可以否认自己是 AI,并谎报其真实身份。

  包括 APPSO 此前也利用 AI 定制生成了一些 0 成本但很真的数字双胞胎。

  在 AI 技术的增益之下,这些工具都能轻而易举地被诈骗不法分子反过来欺骗我们。

  吊诡的是,电话一头连着 AI 骗子,电话一头连着 AI Daisy,一个捧哏,一个逗哏,双方无限循环。懂行的人都知道,这里面的道行有多深。

  只需向服务商提出需求,后者就能快速搭建管理平台。用户通过简单的界面操作,就能设置话术、模板、通讯线路等参数,导入联系人信息后即可启动自动外呼功能。

  比如,国内大多数手机系统提供智能识别和拦截伪基站的功能。并且,你还可以在来电拦截设置中,开启「在线识别陌生号码」功能,让系统更准确地识别并拦截骚扰电话。

  人物(陌生人)+沟通(各种通信工具,反正就是见不到面的)+要求(转账汇款,反正就是谈钱的)=诈骗。

  在 AI 时代,骗子和反诈技术都在升级,而人类的判断力永远是最后的防线。