“AI换【huàn】脸【liǎn】”火了，有人10分【fèn】钟被骗【piàn】400万，谁来担责？丨【shù】亮见31期

丨划重点

1. 对AI生成【chéng】内容进行标【biāo】记是法律法规要求的，这【zhè】不意【yì】味着平台能【néng】完全免责，平台还需要【yào】履【lǚ】行技术识别、停止传输、处置措【cuò】施和报【bào】告等责【zé】任。

(资料图片)

2. 直【zhí】播间使用明星面孔，侵犯了明星的肖像权【quán】，还【hái】涉及到【dào】虚【xū】假宣传、欺诈【zhà】消费【fèi】者和【hé】不正【zhèng】当竞争等问题。

3. 如果在银行有能力识别【bié】非真实人【rén】脸的情况下间【jiān】接导致【zhì】了【le】AI换脸诈【zhà】骗给储户【hù】造【zào】成损失，这种【zhǒng】情况下可能需要担责。

4. 消费者需要更加重视个【gè】人信息的【de】保护，尽量避【bì】免无必要的授权，可【kě】以【yǐ】拒绝使用要求授【shòu】权过多个人信息的【de】应用【yòng】。

丨概述

AIGC的爆火让人们看【kàn】到了人工智能日常应用的可能，其场景覆盖文【wén】字【zì】/图【tú】片/音频/视【shì】频等形【xíng】式的【de】内容生成，在特定领【lǐng】域，AIGC相关的内容的质量、可靠性已经远超【chāo】人类【lèi】，然而这种高度的“仿真”，也衍【yǎn】生出了【le】新的【de】问题【tí】——AI诈骗【piàn】。

北京市岳【yuè】成律师【shī】事务所【suǒ】高级合伙人【rén】岳屾山认为【wéi】，技术具有两【liǎng】面性【xìng】，对【duì】待其态度不能一概而【ér】论【lùn】，需要将其纳入法律框架下规范发展。而针对AI诈骗，岳律师认【rèn】为个人【rén】信息泄露的情况仍很普遍，普通人在使用相【xiàng】关设备【bèi】和软【ruǎn】件时需尽量【liàng】避免无【wú】必要【yào】的授权，但诈【zhà】骗分子【zǐ】不【bú】断变化和“创新”，最根【gēn】本的防范【fàn】防范还是保持警惕、提高对诈骗的认【rèn】知。

01

AI内容标记无法完全规避责任

刘兴亮【liàng】：现在，许多平台对【duì】AIGC生成的【de】内容会有【yǒu】明【míng】确风险提示标记，这种提示有【yǒu】效吗？

岳屾山：标记是根据法【fǎ】规明确规【guī】定的，要求新技术和应用【yòng】来制作、发布、传播非真【zhēn】实音视频信息，应该【gāi】采用显著【zhe】的方式进行标记。标【biāo】记只是一种规避【bì】责任的方式，因为法律要求标【biāo】记，但【dàn】并不意味着完【wán】全免除【chú】责任【rèn】，除【chú】了标记之外还有其【qí】他的【de】义务【wù】需要履行【háng】。

例如【rú】，平台【tái】应该部署一【yī】些用于识别【bié】违法违规【guī】音视频和非真实音视频的技术【shù】，如果发现【xiàn】违反法【fǎ】律禁止或规定【dìng】的信息【xī】内容，必【bì】须依法停止传【chuán】输这些信息，并采【cǎi】取删除等处【chù】置措施来防止信息的【de】扩【kuò】散。同时，还【hái】需要妥善保存相关记录【lù】，并向相关部门等进【jìn】行报告。

所以，平台有【yǒu】很多义务需要履行，仅【jǐn】仅进行标记是不【bú】能完全【quán】免除责任的。

刘兴亮：新【xīn】技术、新应用带来【lái】的潜【qián】在风【fēng】险，我们应该采取【qǔ】什【shí】么样的态度对待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对于新的技【jì】术或应用，包【bāo】括【kuò】新的营商模式和经【jīng】营模式的出【chū】现【xiàn】，应该给予适度【dù】的关注和【hé】宽松【sōng】的环境来培育它们，看【kàn】它们是否能够发展起来。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不过，也有少量的【de】人尝试用【yòng】这【zhè】项技术“复活”已故亲人【rén】，以慰藉思念【niàn】之情，我认为这可【kě】能【néng】是人工智能换脸技术对【duì】我们的生活和【hé】社会产生积极影响的一种【zhǒng】可能性存【cún】在。

只要【yào】这项技术【shù】具有正面意义的可能，对待它【tā】的【de】态度就不【bú】能一“封”了之【zhī】，应在现【xiàn】有【yǒu】的法律框架【jià】内【nèi】对其【qí】进行必要的规制，以避免【miǎn】它成为一匹脱缰的【de】野马。

02

“AI孙燕姿”存在诸多侵权风险

刘兴亮：关于AI孙燕姿【zī】的【de】话题【tí】，最近孙燕【yàn】姿发布相关声明，意思是不会【huì】去追【zhuī】责【zé】，这种【zhǒng】情况下用户能随【suí】便使用吗？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民法典【diǎn】规定，未经他人【rén】同意使【shǐ】用他人肖像属于【yú】肖像侵权，使【shǐ】用AI换脸就存在这种可【kě】能【néng】性，特【tè】别是在直播【bō】间中使用【yòng】明星的面【miàn】孔进行直播，明显【xiǎn】侵犯了明星【xīng】的肖【xiāo】像权【quán】，因为明【míng】星不可能授权他人使用他们的面孔【kǒng】进【jìn】行直【zhí】播。另外，这种行为还涉及到虚假宣传、欺诈消费【fèi】者【zhě】和【hé】不正当竞争等问【wèn】题。

直播中的AI换脸，来源：网络

有关【guān】“声音”的权【quán】利，民【mín】法典明确【què】了将其按照肖像权规【guī】定处【chù】理。如果孙【sūn】燕姿未允许【xǔ】他人使用其声音，就【jiù】会构成侵权，并且可能还涉及侵【qīn】犯【fàn】姓名权的【de】问题。此外，如果使用她的歌曲进【jìn】行【háng】商业【yè】活动，还需要支付费用，并【bìng】可【kě】能需要获得【dé】词曲【qǔ】作者等进行著作权的授权。

刘兴亮【liàng】：以银行转【zhuǎn】账为例，转账【zhàng】过程中，因为人脸识别被骗，谁来【lái】承【chéng】担责【zé】任，银行需要担责吗【ma】？

岳屾山：转【zhuǎn】账过【guò】程【chéng】人脸验证，会有眨眼、摇头等动作的验证，如果这个【gè】过程中【zhōng】遭遇诈【zhà】骗，银行是否【fǒu】需【xū】要担责，取【qǔ】决【jué】于银【yín】行在人脸识别技术方面是否存在【zài】一些罕见的漏洞。比如，通过调用摄【shè】像【xiàng】头时，银【yín】行APP能【néng】否辨认出真实的摄像头，或者是否【fǒu】使用【yòng】了其【qí】他技术【shù】手段对人脸进行了改变。

如【rú】果在银行有能【néng】力【lì】识别非真实人脸的情【qíng】况下，因【yīn】为诈骗分子通过第【dì】三方设【shè】备，比如通过摄像头画面欺【qī】骗了银【yín】行的人【rén】脸识别系统【tǒng】，（给储户带来【lái】了直接损失），这种情况下【xià】银行可能需要担责；如果技术监测确实发【fā】现银【yín】行无法识别出【chū】这【zhè】种情【qíng】况，即【jí】技术无法达【dá】到防止欺诈的要求，就不能【néng】要求银行承担责任。

除了银行，也需要考虑平台是否【fǒu】有发现欺诈【zhà】行【háng】为的标【biāo】志，是否具备识别的义务等，如果平台违【wéi】反【fǎn】了这些义【yì】务【wù】，相应地就要【yào】承担责任。

但实际上，很【hěn】多诈骗行为都是点对【duì】点进行，银行或平【píng】台【tái】很少【shǎo】直接参与【yǔ】其中，诈骗分【fèn】子往往会【huì】规避【bì】银行或平台的验证方式，以尽量减少被发现【xiàn】的可【kě】能，毕竟这【zhè】是一种【zhǒng】犯罪行为。

03

防范数据泄露，是反诈骗的核心

刘兴亮：现在【zài】有很多【duō】观点认为【wéi】我们目前防范AI诈【zhà】骗关【guān】键在于防范数据泄露，这种观点【diǎn】你认同【tóng】吗？

岳屾山：个人信息泄露的【de】问题一直都【dōu】非【fēi】常严重。电【diàn】信【xìn】诈骗之【zhī】所以成功的一大原因就是因为诈骗者获取了【le】相应的个人信息【xī】。

刑法中有关个人信息【xī】保护的方面【miàn】规定了非法泄露公民个人信【xìn】息【xī】属【shǔ】于侵【qīn】犯个人信息罪，需要【yào】追究责任。在民法典的《消费者权【quán】益保护法》、《数据安全法》、《网络安全法【fǎ】》等法律中【zhōng】，都要求【qiú】企业【yè】在收集个【gè】人信【xìn】息【xī】时【shí】必须遵循合法、正【zhèng】当和必要的原【yuán】则。特别是【shì】对于涉及人脸等生物特征【zhēng】的信息，属于敏感【gǎn】信【xìn】息【xī】，每次收集都需要单独获得用户的同意，并【bìng】受到其【qí】他限制性规定的约束。

这些法【fǎ】律法规，旨在保护我【wǒ】们的个人隐私，并要求所有收集到个【gè】人信【xìn】息【xī】的企业，在处理和使用时【shí】都必须严格按照约【yuē】定【dìng】和法律规【guī】定进行【háng】，并具备【bèi】必要的技术和软【ruǎn】件条件来保护信息不被【bèi】泄露。

所以，消费者需要更加重视个人信息的保护，尽量避免无必要的授权。如【rú】果某个【gè】应用要求我们授权【quán】过【guò】多【duō】的个人【rén】信【xìn】息，可以拒绝授【shòu】权，即使【shǐ】这样可能【néng】导致无法使用应用。现【xiàn】在法律也【yě】有明确，应用【yòng】不【bú】允许索取过多【duō】个人信息相关权【quán】限，且不能【néng】拒绝用户使用。

例如，以前【qián】我们使用某【mǒu】个导航软件【jiàn】要【yào】求访问通讯【xùn】录，实际上只需要位置信息【xī】即可，这种情况下，《国家的网络安【ān】全法》、《数【shù】据安全【quán】法》和《个人【rén】信【xìn】息【xī】保护法》等都进【jìn】行了详细的规【guī】定。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他们不【bú】需要知道每个人【rén】的具体个人【rén】信息【xī】，而是【shì】通过通用的手【shǒu】法来吸引潜在受害者的注意力。比【bǐ】如【rú】最近【jìn】的“上门枪决”短信，诈骗分子不需要每个人【rén】都相信【xìn】，只需要找到那些容【róng】易受【shòu】骗的人，这种【zhǒng】方式可以帮助诈【zhà】骗【piàn】分子最大限度地减少【shǎo】成本【běn】并加【jiā】快筛选【xuǎn】的速度。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘兴亮: 对【duì】AI换脸诈骗的治理和监【jiān】管还需要哪些主体，以【yǐ】什么【me】样的形式参【cān】与？

岳屾山：社会治理【lǐ】的层面确【què】实【shí】是【shì】多【duō】主体参与的，这【zhè】样才【cái】能【néng】形成良好的氛围【wéi】。在制定规则【zé】和框架方【fāng】面，一方面是在政府层面或立法层面进行【háng】，需要有相应【yīng】规则和【hé】标【biāo】准来界定诈骗行为，这些规则可【kě】能需要在立法层面进行制【zhì】定，包【bāo】括对其【qí】性质和标准的界定等【děng】。

另外，通过立法或政【zhèng】府的行政政策可能需要一定时间，存在【zài】不及时的【de】可能，所【suǒ】以【yǐ】很多时候可【kě】以通过【guò】行业协会的形【xíng】式提前制定【dìng】一些规【guī】范或标准，虽然它们【men】可能没【méi】有强制力【lì】，但可以【yǐ】起到引导作用。

针对法【fǎ】律【lǜ】法规在落地过程【chéng】中的【de】执【zhí】行，需【xū】要执法【fǎ】部【bù】门加强【qiáng】监管，且这种场【chǎng】景也考验【yàn】监管的技术，我认为这种情况下双方都在看【kàn】谁的技术更高超，谁能够限制住这【zhè】种行为。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目前在互联网信息服务深【shēn】度合成管理规定方面【miàn】已经【jīng】有【yǒu】一些具【jù】体的规定，特别是【shì】针对人工智能【néng】和【hé】AI换脸【liǎn】等技术。

今【jīn】年4月份，互联【lián】网信息办公室发布了关于生成式人工智【zhì】能【néng】服【fú】务【wù】管理办法的征求意见稿，进一步规【guī】范了相关服【fú】务的管理。通【tōng】过这【zhè】些规定，针【zhēn】对人工智能和【hé】AI换脸等方【fāng】面【miàn】有了较为直接的【de】管理【lǐ】措施。

国家法律层面【miàn】也【yě】有一些原则层面的法律和规定【dìng】，包【bāo】括《民法典》、《网络【luò】安全法【fǎ】》、《数据【jù】安【ān】全法》、《互联网信【xìn】息服务管理办法【fǎ】》等，这些法律和规定都涉及到保护个人信息和肖像【xiàng】权，以及对【duì】实施诈骗等【děng】行【háng】为【wéi】应承【chéng】担【dān】的责任，为相关问题提供了一【yī】定的规【guī】范。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作【zuò】为一名律师，我认为对于那些侵犯【fàn】他人权益【yì】的行为，尤其【qí】是在涉及AI诈骗【piàn】和肖像侵权的行【háng】为，受害【hài】者可以采取【qǔ】一些维【wéi】权措施，以避免他人随【suí】意使【shǐ】用其肖像等信息，这种动作【zuò】可以防止肖像被滥【làn】用，并对软【ruǎn】件的使用和研发产生【shēng】一【yī】定的【de】约束。

我建【jiàn】议加【jiā】强对肖像权的【de】保护，特【tè】别【bié】是在如今AI换脸技术如此便利的情况下【xià】。除【chú】了【le】个人【rén】的自我保护【hù】外，平【píng】台和执法机构也应承担起相应的【de】责任【rèn】，确保提供一种便捷的【de】维权途径。

除了肖像【xiàng】权，类似问题也会涉及到【dào】著作权，如【rú】果消费者【zhě】的肖像被制作成视频并【bìng】由【yóu】他人【rén】传播和使用，这涉【shè】及【jí】到视【shì】听节【jiē】目的内容，平【píng】台可能更多地基于著作权方【fāng】面的【de】处理和保护，而不是针【zhēn】对【duì】肖像或其他行为【wéi】。

在这【zhè】方面，我建议更【gèng】多地依赖平台。平【píng】台应该及时发【fā】现【xiàn】这类侵权【quán】行为，并【bìng】提供【gòng】便捷的投诉渠道或【huò】途径，以便及时处理这些问题。

另【lìng】外，正如我们一直在讨论的那样，法律【lǜ】的威【wēi】慑力往往不是来自【zì】其【qí】严苛程度，而是来自于执法的及时【shí】性。对于那些实施侵权【quán】行【háng】为的用【yòng】户，平台方面【miàn】应该采取相应【yīng】的惩罚或限【xiàn】制措施。这完全【quán】可以【yǐ】在平【píng】台自身的范畴内实【shí】施【shī】，根据【jù】相关的用户协议和约定对其进行惩【chéng】罚和限【xiàn】制。通过这【zhè】样的方【fāng】式【shì】，可以尽量减少侵权行为的【de】发【fā】生，因【yīn】为【wéi】侵权有时候会成为一种上瘾的【de】行为。