AI技术近年的革新备受全球关注,从图像生成、影像制作到智慧对话与文书处理,这类新兴科技正逐步融入人们的日常生活。然而,随着技术普及,相关的争议与安全隐患也随之浮现。今日(3月19日),美国资安公司Proofpoint的日本分公司公开了一起疑似利用AI生成假音声的诈骗案件。
日本某企业的高层干部接到一通电话,来电者声称是公司的社长,并要求他在当日内完成一笔紧急的企业并购款项汇款。由于来电显示的号码与社长的手机号码完全一致,且对方的语气与说话方式毫无异样,该高层并未起疑。
然而,在对方多次来电催促后,他开始感到可疑,于是直接联系真正的社长,才发现这是一场精心设计的诈骗。此案已交由律师处理,并定调为AI语音诈欺案件。
该新闻迅速在日本社群媒体上引发热议,甚至让「社长の伪音声」(社长的假音声)登上X(旧Twitter)的热搜关键字。
不少网友联想到《名侦探柯南》中江户川柯南利用阿笠博士开发的「蝴蝶结变声器」伪装他人声音的情节,笑称这与现实情况如出一辙。
然而,这起案件也让人对AI技术的滥用感到忧心。科技进步虽然带来许多便利,但当其落入不法分子之手,便可能成为混淆视听、从事诈欺的利器。这起事件无疑再次提醒人们,在享受科技红利的同时,资安防范意识也必须与时俱进,以免成为新型犯罪的受害者。