
有线电视新闻网(CNN)29日报导,加州妇人狄尔马斯托(Deborah Del Mastro)这个月接到听起来像是女儿打来的求救电话结果损失数千元,成了人工智能(AI)生成「声音拷贝」(voice cloning,又译声音克隆)诈骗受害者。费城律师希德霍恩(Gary Schildhorn)去年则被冒充儿子的AI诈骗盯上,接到电话毫无时间思考,一心一意想着如何营救儿子。
为政府与企业提供人工智能生成媒体咨询的AI专家艾杰德(Henry Ajder)说,声音拷贝如今做得非常逼真,期望一般民众辨识真假其实很不公平,「连我自己都很难分辨,绝大多数人都一样」。
另外,黑客能通过伪造来电显示增加可信度,因此来电显示是母亲打电话来,不见得真的是她本人。
讲话停顿、声音波动都是AI生成电话诈骗最常露馅的细节,但随着AI技术演进,这些状况已经逐渐排除。
数字安全专业机构GetReal科学长、柏克莱加大(University of California Berkeley)教授法立德(Hany Farid)表示,与其想要判断声音是真是假,不如留意其他常见的诈骗手法,例如对方是否设置期限或制造迫切感、是否要求别对他人透露问题、是否要求以不寻常的方式转移大笔金钱。
狄尔马斯托接受地方电视台ABC7访问时说,把钱导出之后才打电话给女儿,当时女儿正在上班。
专家指出,接到可疑电话时应该用其他方式联系遭到冒充的家人先行确认,包括发短信或用另一人的电话拨打。家庭成员之间也可以设置一个暗语(code word),可以用来验证彼此身份,暗语最好是只有少数人知道,无法上网查到的字词。
艾杰德说:「总而言之,如果察觉状况不对,宁可让妈妈、兄弟或朋友嘲笑你以为他们是机器人,这将比直接跑去自动提款机(ATM)好得多。」