(资料图片)

“眼见”不一定“为实”，还有可能是诈骗。继“10分钟被AI换脸骗走430万元”后，“9秒被骗走245万元”又引发社会关注。诈骗分子使用一段9秒钟的智能AI换脸视频佯装“熟人”，让受害人放松警惕从而实施诈骗。

网络图源

今年以来，人工智能（AI）已经制造了太多的惊呼声，从ChatGPT到“AI孙燕姿”，从“AI造谣”到“女子地铁照被人用AI一键脱衣”，从“换脸冒充当红女星带货，赚得盆满钵溢”到用“AI换脸”“AI换声”进行“精准”诈骗，技术带给人的惊奇迅速被惊悚替代。什么叫技术是把双刃剑，AI展示得淋漓尽致。

5月初，被称为“人工智能教父”的杰弗里·辛顿证实自己从谷歌离职，可以畅谈AI可能带来的风险了，甚至表示“我对我毕生所研究的东西感到后悔了”。他发出警告，人工智能对人类构成的威胁将比气候变化更加紧迫，并称“现在很难防止坏人利用AI做坏事。”利用AI换脸、换声进行诈骗、诽谤等屡见不鲜，“坏人利用AI做坏事”不是“狼来了”，而是狼已经在吃人了。

这种AI诈骗一般都是冒充熟人，一是容易让人放松警惕，二是视频以假乱真很难识别。在这种新型骗局下，需要相关各方都快速行动起来。如快速优化升级反诈公共宣教，把防范AI诈骗纳入公众的反诈知识库，通过网格员等体系，把反诈知识不断覆盖到各个角落；在技术方面，加快防御性、对抗性技术工具的推广落地和应用嵌入，“用魔法打败魔法”；在法律方面，根据AI最新应用不断动态调整完善监管，顺藤摸瓜揪出一条条依托AI的地下黑产业链，用法律打败魔法。这些都已经刻不容缓。

AI应用的潘多拉魔盒已经打开，带来的一系列问题必须受到足够重视，否则带给人类的灾难会比便利更加深重。在技术发展以分秒计的当下，如何面对科技狂飙带来的伦理、法律问题，被破坏性利用的挑战和风险，是人类当下已经不得不迎头解决的问题。是让技术慢一点，还是应对更快一点，或者是寻找二者的平衡点？我们已经无法回避。

关键词：