新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通过AI换脸和拟声技【jì】术，10分【fèn】钟【zhōng】骗430万【wàn】元；AI虚拟人在聊【liáo】天中筛【shāi】选出受【shòu】害者，人【rén】工接力实施诈骗……近期，多起【qǐ】宣称利用AI技术实施【shī】诈【zhà】骗的【de】案件引发关注【zhù】。

“新华视【shì】点”记者【zhě】近日【rì】与【yǔ】公安部门核实确【què】认，“AI诈骗全【quán】国爆发”的消息不实，目【mù】前【qián】此类诈【zhà】骗发【fā】案占比很低。但公安机关【guān】已【yǐ】注意到此犯罪新手法，将【jiāng】加【jiā】大力度会同有关部门开展【zhǎn】技术反制和宣传防范。

(资料图片仅供参考)

专家表示，随着AI技【jì】术加速迭【dié】代【dài】，由于使用边界【jiè】不清【qīng】晰，涉诈风险正在积聚，需要高度警惕【tì】。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近【jìn】日【rì】，内【nèi】蒙古包头警方通【tōng】报一起利用AI实施诈骗的【de】案【àn】件【jiàn】，福州市某公【gōng】司法【fǎ】人代表郭先生10分钟内被骗430万元。据通报，骗子通过AI换脸和拟声【shēng】技【jì】术，佯装熟人实施诈骗【piàn】。

该【gāi】案披露后，不【bú】少报【bào】道称需警惕“AI诈骗潮”到来，并【bìng】曝【pù】光【guāng】多起【qǐ】类似案【àn】件。如江【jiāng】苏常【cháng】州的小【xiǎo】刘被骗子冒充其同学发语音、打视频电话，小刘【liú】看到“真人”后【hòu】信以为真，“借”了6000元给骗子。

那么，“AI诈骗潮”是否真的到来了？

记者调查了解到，AI在【zài】技术【shù】上确实能做到换脸、拟音，但被用【yòng】来进【jìn】行“广【guǎng】撒网”式【shì】诈骗需要【yào】具备很多【duō】条件。

一位被列入公安部专家库的民警告诉【sù】记者，这【zhè】类诈骗如果【guǒ】得手必须做【zuò】到：收集【jí】到被换脸对象的个【gè】人身份信息、大量人脸【liǎn】图片、语音素【sù】材【cái】，通过AI生成以假乱真的音视频；窃取被【bèi】换脸对【duì】象的微【wēi】信【xìn】号；充分掌握诈【zhà】骗对象个人身【shēn】份信息，熟悉【xī】其与被换脸对象【xiàng】的社【shè】会关系，综【zōng】合作案成【chéng】本很高。

他【tā】认为：“相【xiàng】关报道对一些案件的典型细节【jiē】描述不够【gòu】准确。AI涉【shè】诈案件仍属零【líng】星【xīng】发案状态。”他【tā】说，成熟【shú】的类【lèi】型【xíng】化诈骗犯罪往往具有在全国多地【dì】集中爆发的【de】特点，但当前没有成【chéng】规模的【de】AI诈骗【piàn】类案件发生【shēng】。

公安机关【guān】研判，近期【qī】网上【shàng】“AI换脸换声【shēng】诈骗在【zài】全国爆发”传言不【bú】实，全国此类案件发生【shēng】不到10起，但该动向值【zhí】得高度关注【zhù】。网上一键换脸功能【néng】的App、小程序【xù】有技术【shù】滥用风险，需【xū】要加强技术防范反制等【děng】工作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当前AI技术发【fā】展来到【dào】螺【luó】旋式上升【shēng】的拐点，未来【lái】几年技术迭代将会按月计算。”香港【gǎng】科技【jì】大学（广州）协理副【fù】校长、人工智【zhì】能学【xué】域主任熊辉说。

工信部【bù】信息【xī】显示，伴【bàn】随AI技术快速发展，合成技术门槛持续降低，逐渐向低【dī】算力【lì】、小样【yàng】本学习方向【xiàng】演进【jìn】，利用【yòng】手机终端即可完成，对【duì】算力和数据的【de】要求下降明显。同时，随着AI大模【mó】型的技术【shù】加持，正逐步由面部合成向全身【shēn】、3D合成发展，效果【guǒ】更加逼真。

国家开【kāi】发投资【zī】集团特级专家【jiā】、厦门美亚【yà】柏科AI研发【fā】中【zhōng】心总经理赵建强表示，AI技术正加速向【xiàng】网络诈骗、虚假信息、色情等领域渗【shèn】透。如在一【yī】些网络平台上假【jiǎ】冒明【míng】星、公众人物生【shēng】成【chéng】视【shì】频图像，吸引网【wǎng】民。此外，AI技术也可能【néng】被用【yòng】来规模【mó】化地实【shí】施违【wéi】法犯罪，如批量、自动【dòng】维护网络账号，发送虚假信息，模【mó】拟【nǐ】人工在线聊天等。

值得关注的是，当前AI技【jì】术不再是实验室的半成【chéng】品，引发热议的【de】“换脸”“拟音”技术【shù】已【yǐ】有较成【chéng】熟【shú】的开【kāi】源软件，使用门槛低。

记者注意到，网络上不乏AI换脸教程。在国内【nèi】某知名【míng】App上输【shū】入“换脸”，弹出【chū】的高频【pín】检索记录显【xiǎn】示【shì】有“换脸软件”“换脸App免费【fèi】”“换脸视【shì】频【pín】怎么做【zuò】”“换脸算法”等。一条名为【wéi】“史【shǐ】上最强AI换脸软件正式上线了！技术门槛大【dà】大降低”的链【liàn】接，介绍了【le】一款换脸软【ruǎn】件，通过视频演示【shì】教【jiāo】程，手把手教授如何使用。

“老话说‘眼【yǎn】见为实’，但【dàn】今后【hòu】眼睛看【kàn】到的也【yě】不一定是真实的。”北京市天元律师事务所合伙【huǒ】人杨虎【hǔ】城表示【shì】，未来【lái】涉及AI合成【chéng】技术【shù】的【de】诈骗、敲诈勒索等【děng】违法犯罪和肖像、名誉等【děng】民事侵权问【wèn】题可能逐步显现。

“从现有案例【lì】看，这些技术已被不法分子利【lì】用。如假冒【mào】明星【xīng】换脸直播、一键【jiàn】脱衣、造谣、制作色情视频等。虽【suī】然【rán】AI诈骗案件未成气【qì】候，但【dàn】这【zhè】一趋【qū】势值得【dé】关【guān】注，必须【xū】提早防范【fàn】。”一位反【fǎn】诈民警说。

工信部相关负责人【rén】表示，随着AI技术的不断发展，通过少【shǎo】量【liàng】图片【piàn】、音频【pín】信息合成特【tè】定视【shì】频，利用人工智能模型批【pī】量设计【jì】诈骗脚【jiǎo】本等成【chéng】为可能【néng】，客观上降低了电信网【wǎng】络诈骗的实【shí】施难度，AI类新型犯【fàn】罪爆【bào】发可能性进一步提升【shēng】。

尽快完善相关法规制度，为AI技术发展立规划线

中【zhōng】国移动信息【xī】安全中心【xīn】品质管理【lǐ】处副处长【zhǎng】周晶告诉记者【zhě】，近年来【lái】，国际【jì】国【guó】内各界在积极探索深度合成技术的有效治理【lǐ】路径，研【yán】判AI技术给社【shè】会【huì】带来的风险和【hé】潜在【zài】威胁【xié】，正设法将AI技术发展纳入一定规则中【zhōng】，做到安全可控。

业内人士建议，要加强AI反制技术研究【jiū】，“以AI制AI”。一些科技公司正加强对图像、声音【yīn】伪造【zào】技【jì】术的反制【zhì】研究，在【zài】公安、金融的视频认证场【chǎng】景【jǐng】已有应【yīng】用。有一线民警建议，要加强AI安全技【jì】术应用研发，将AI技【jì】术【shù】应用【yòng】于犯【fàn】罪识别、预【yù】警、对抗【kàng】中，实现以“白”AI对抗“黑”AI。

其【qí】次，加强源【yuán】头治理和行业引导，及时更【gèng】新、完【wán】善相关法【fǎ】律、标准【zhǔn】、规则，为AI技术发【fā】展保驾护航。

“数据是AI犯罪的源【yuán】头，保护好【hǎo】公民的个人隐【yǐn】私数据安全，就能在【zài】最【zuì】大程度上【shàng】降低AI违法犯罪的能【néng】力。”熊辉【huī】说。

中国互【hù】联网协会监管支撑部主任郝【hǎo】智超【chāo】建议【yì】，AI技术发展还要【yào】有相关法【fǎ】律法规来【lái】划红线、踩刹【shā】车。需进【jìn】一步加强对个人隐私数据【jù】泄【xiè】露问【wèn】题的关【guān】注，明确信息监管红线，对【duì】AI技术的研发、传播、使【shǐ】用做到有【yǒu】规可循，并根据技术【shù】发展【zhǎn】实际情况，及时完善【shàn】对技术服务【wù】商行为的【de】规范引导。

此外，还要有针对性地加【jiā】强反诈宣传。熊辉【huī】表示，未来【lái】AI可根据大数据创造出无【wú】比接【jiē】近真实【shí】的“真实”。“要通过不断的教【jiāo】育改变大众【zhòng】观念，让人知道眼【yǎn】见【jiàn】不一定为【wéi】实，有图不一定有真相，提【tí】升【shēng】对网【wǎng】络信息【xī】的辨识力。”他说。

公安部有关负责人表示，当前，诈骗【piàn】集团【tuán】利用【yòng】区块链、虚拟【nǐ】货币、远【yuǎn】程【chéng】操控、共享屏幕等新技术新【xīn】业态，不断更新升级犯罪工【gōng】具，与【yǔ】公安机关在通讯网络和转账洗钱【qián】等方面的攻【gōng】防对抗不断加【jiā】剧升级。公安【ān】机关会同【tóng】相关部【bù】门与诈骗分子【zǐ】斗智斗勇，不断【duàn】研究调【diào】整【zhěng】打击防范措【cuò】施【shī】，确保始终保持主动权。

工信【xìn】部表示，下一步，将强化监管执法【fǎ】，积极会同网信、公安等部门，督促企业健全完善深度合成信息管理及【jí】技【jì】术保【bǎo】障【zhàng】措施【shī】；鼓励技【jì】术攻关，凝聚产学研用【yòng】各方力量，提升深度合【hé】成风险技术防【fáng】范能【néng】力；加【jiā】强行业自【zì】律【lǜ】，建立健全深【shēn】度合【hé】成技【jì】术相关行业标准、行【háng】业准【zhǔn】则和【hé】自律管理制度【dù】，督促【cù】指【zhǐ】导深度合成服务提供者【zhě】和技术支持者制定完【wán】善业务规【guī】范、依法开【kāi】展业务和接受社会监督。

来源：新华社

流程编辑：TF016