丨劃重點(diǎn)

1. 對AI生成內(nèi)容進(jìn)行標(biāo)記是法律法規(guī)要求的，這不意味著平臺能完全免責(zé)，平臺還需要履行技術(shù)識別、停止傳輸、處置措施和報(bào)告等責(zé)任。

2. 直播間使用明星面孔，侵犯了明星的肖像權(quán)，還涉及到虛假宣傳、欺詐消費(fèi)者和不正當(dāng)競爭等問題。

3. 如果在銀行有能力識別非真實(shí)人臉的情況下間接導(dǎo)致了AI換臉詐騙給儲戶造成損失，這種情況下可能需要擔(dān)責(zé)。

4. 消費(fèi)者需要更加重視個(gè)人信息的保護(hù)，盡量避免無必要的授權(quán)，可以拒絕使用要求授權(quán)過多個(gè)人信息的應(yīng)用。

丨概述

AIGC的爆火讓人們看到了人工智能日常應(yīng)用的可能，其場景覆蓋文字/圖片/音頻/視頻等形式的內(nèi)容生成，在特定領(lǐng)域，AIGC相關(guān)的內(nèi)容的質(zhì)量、可靠性已經(jīng)遠(yuǎn)超人類，然而這種高度的“仿真”，也衍生出了新的問題——AI詐騙。

北京市岳成律師事務(wù)所高級合伙人岳屾山認(rèn)為，技術(shù)具有兩面性，對待其態(tài)度不能一概而論，需要將其納入法律框架下規(guī)范發(fā)展。而針對AI詐騙，岳律師認(rèn)為個(gè)人信息泄露的情況仍很普遍，普通人在使用相關(guān)設(shè)備和軟件時(shí)需盡量避免無必要的授權(quán)，但詐騙分子不斷變化和“創(chuàng)新”，最根本的防范防范還是保持警惕、提高對詐騙的認(rèn)知。

01

AI內(nèi)容標(biāo)記無法完全規(guī)避責(zé)任

劉興亮：現(xiàn)在，許多平臺對AIGC生成的內(nèi)容會(huì)有明確風(fēng)險(xiǎn)提示標(biāo)記，這種提示有效嗎？

岳屾山：標(biāo)記是根據(jù)法規(guī)明確規(guī)定的，要求新技術(shù)和應(yīng)用來制作、發(fā)布、傳播非真實(shí)音視頻信息，應(yīng)該采用顯著的方式進(jìn)行標(biāo)記。標(biāo)記只是一種規(guī)避責(zé)任的方式，因?yàn)榉梢髽?biāo)記，但并不意味著完全免除責(zé)任，除了標(biāo)記之外還有其他的義務(wù)需要履行。

例如，平臺應(yīng)該部署一些用于識別違法違規(guī)音視頻和非真實(shí)音視頻的技術(shù)，如果發(fā)現(xiàn)違反法律禁止或規(guī)定的信息內(nèi)容，必須依法停止傳輸這些信息，并采取刪除等處置措施來防止信息的擴(kuò)散。同時(shí)，還需要妥善保存相關(guān)記錄，并向相關(guān)部門等進(jìn)行報(bào)告。

所以，平臺有很多義務(wù)需要履行，僅僅進(jìn)行標(biāo)記是不能完全免除責(zé)任的。

劉興亮：新技術(shù)、新應(yīng)用帶來的潛在風(fēng)險(xiǎn)，我們應(yīng)該采取什么樣的態(tài)度對待？

岳屾山：因?yàn)樯婕暗捷^為技術(shù)性的內(nèi)容，就我個(gè)人而言，對于新的技術(shù)或應(yīng)用，包括新的營商模式和經(jīng)營模式的出現(xiàn)，應(yīng)該給予適度的關(guān)注和寬松的環(huán)境來培育它們，看它們是否能夠發(fā)展起來。

不過，對于人工智能換臉，目前沒有看到多少正面評價(jià)。

不過，也有少量的人嘗試用這項(xiàng)技術(shù)“復(fù)活”已故親人，以慰藉思念之情，我認(rèn)為這可能是人工智能換臉技術(shù)對我們的生活和社會(huì)產(chǎn)生積極影響的一種可能性存在。

只要這項(xiàng)技術(shù)具有正面意義的可能，對待它的態(tài)度就不能一“封”了之，應(yīng)在現(xiàn)有的法律框架內(nèi)對其進(jìn)行必要的規(guī)制，以避免它成為一匹脫韁的野馬。

02

“AI孫燕姿”存在諸多侵權(quán)風(fēng)險(xiǎn)

劉興亮：關(guān)于AI孫燕姿的話題，最近孫燕姿發(fā)布相關(guān)聲明，意思是不會(huì)去追責(zé)，這種情況下用戶能隨便使用嗎？

岳屾山：AI換臉明星翻唱，涉及的法律問題主要涉及肖像權(quán)。

民法典規(guī)定，未經(jīng)他人同意使用他人肖像屬于肖像侵權(quán)，使用AI換臉就存在這種可能性，特別是在直播間中使用明星的面孔進(jìn)行直播，明顯侵犯了明星的肖像權(quán)，因?yàn)槊餍遣豢赡苁跈?quán)他人使用他們的面孔進(jìn)行直播。另外，這種行為還涉及到虛假宣傳、欺詐消費(fèi)者和不正當(dāng)競爭等問題。

直播中的AI換臉，來源：網(wǎng)絡(luò)

有關(guān)“聲音”的權(quán)利，民法典明確了將其按照肖像權(quán)規(guī)定處理。如果孫燕姿未允許他人使用其聲音，就會(huì)構(gòu)成侵權(quán)，并且可能還涉及侵犯姓名權(quán)的問題。此外，如果使用她的歌曲進(jìn)行商業(yè)活動(dòng)，還需要支付費(fèi)用，并可能需要獲得詞曲作者等進(jìn)行著作權(quán)的授權(quán)。

劉興亮：以銀行轉(zhuǎn)賬為例，轉(zhuǎn)賬過程中，因?yàn)槿四樧R別被騙，誰來承擔(dān)責(zé)任，銀行需要擔(dān)責(zé)嗎？

岳屾山：轉(zhuǎn)賬過程人臉驗(yàn)證，會(huì)有眨眼、搖頭等動(dòng)作的驗(yàn)證，如果這個(gè)過程中遭遇詐騙，銀行是否需要擔(dān)責(zé)，取決于銀行在人臉識別技術(shù)方面是否存在一些罕見的漏洞。比如，通過調(diào)用攝像頭時(shí)，銀行APP能否辨認(rèn)出真實(shí)的攝像頭，或者是否使用了其他技術(shù)手段對人臉進(jìn)行了改變。

如果在銀行有能力識別非真實(shí)人臉的情況下，因?yàn)樵p騙分子通過第三方設(shè)備，比如通過攝像頭畫面欺騙了銀行的人臉識別系統(tǒng)，（給儲戶帶來了直接損失），這種情況下銀行可能需要擔(dān)責(zé)；如果技術(shù)監(jiān)測確實(shí)發(fā)現(xiàn)銀行無法識別出這種情況，即技術(shù)無法達(dá)到防止欺詐的要求，就不能要求銀行承擔(dān)責(zé)任。

除了銀行，也需要考慮平臺是否有發(fā)現(xiàn)欺詐行為的標(biāo)志，是否具備識別的義務(wù)等，如果平臺違反了這些義務(wù)，相應(yīng)地就要承擔(dān)責(zé)任。

但實(shí)際上，很多詐騙行為都是點(diǎn)對點(diǎn)進(jìn)行，銀行或平臺很少直接參與其中，詐騙分子往往會(huì)規(guī)避銀行或平臺的驗(yàn)證方式，以盡量減少被發(fā)現(xiàn)的可能，畢竟這是一種犯罪行為。

03

防范數(shù)據(jù)泄露，是反詐騙的核心

劉興亮：現(xiàn)在有很多觀點(diǎn)認(rèn)為我們目前防范AI詐騙關(guān)鍵在于防范數(shù)據(jù)泄露，這種觀點(diǎn)你認(rèn)同嗎？

岳屾山：個(gè)人信息泄露的問題一直都非常嚴(yán)重。電信詐騙之所以成功的一大原因就是因?yàn)樵p騙者獲取了相應(yīng)的個(gè)人信息。

刑法中有關(guān)個(gè)人信息保護(hù)的方面規(guī)定了非法泄露公民個(gè)人信息屬于侵犯個(gè)人信息罪，需要追究責(zé)任。在民法典的《消費(fèi)者權(quán)益保護(hù)法》、《數(shù)據(jù)安全法》、《網(wǎng)絡(luò)安全法》等法律中，都要求企業(yè)在收集個(gè)人信息時(shí)必須遵循合法、正當(dāng)和必要的原則。特別是對于涉及人臉等生物特征的信息，屬于敏感信息，每次收集都需要單獨(dú)獲得用戶的同意，并受到其他限制性規(guī)定的約束。

這些法律法規(guī)，旨在保護(hù)我們的個(gè)人隱私，并要求所有收集到個(gè)人信息的企業(yè)，在處理和使用時(shí)都必須嚴(yán)格按照約定和法律規(guī)定進(jìn)行，并具備必要的技術(shù)和軟件條件來保護(hù)信息不被泄露。

所以，消費(fèi)者需要更加重視個(gè)人信息的保護(hù)，盡量避免無必要的授權(quán)。如果某個(gè)應(yīng)用要求我們授權(quán)過多的個(gè)人信息，可以拒絕授權(quán)，即使這樣可能導(dǎo)致無法使用應(yīng)用。現(xiàn)在法律也有明確，應(yīng)用不允許索取過多個(gè)人信息相關(guān)權(quán)限，且不能拒絕用戶使用。

例如，以前我們使用某個(gè)導(dǎo)航軟件要求訪問通訊錄，實(shí)際上只需要位置信息即可，這種情況下，《國家的網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》等都進(jìn)行了詳細(xì)的規(guī)定。

另外，詐騙分子通常會(huì)使用各種手段篩選目標(biāo)客戶，比如發(fā)送大量的短信，他們不需要知道每個(gè)人的具體個(gè)人信息，而是通過通用的手法來吸引潛在受害者的注意力。比如最近的“上門槍決”短信，詐騙分子不需要每個(gè)人都相信，只需要找到那些容易受騙的人，這種方式可以幫助詐騙分子最大限度地減少成本并加快篩選的速度。

近期在網(wǎng)絡(luò)中熱議的“上門槍斃”詐騙短信，來源：網(wǎng)絡(luò)

04

技術(shù)不是萬能的，治理與監(jiān)管關(guān)鍵在人

劉興亮: 對AI換臉詐騙的治理和監(jiān)管還需要哪些主體，以什么樣的形式參與？

岳屾山：社會(huì)治理的層面確實(shí)是多主體參與的，這樣才能形成良好的氛圍。在制定規(guī)則和框架方面，一方面是在政府層面或立法層面進(jìn)行，需要有相應(yīng)規(guī)則和標(biāo)準(zhǔn)來界定詐騙行為，這些規(guī)則可能需要在立法層面進(jìn)行制定，包括對其性質(zhì)和標(biāo)準(zhǔn)的界定等。

另外，通過立法或政府的行政政策可能需要一定時(shí)間，存在不及時(shí)的可能，所以很多時(shí)候可以通過行業(yè)協(xié)會(huì)的形式提前制定一些規(guī)范或標(biāo)準(zhǔn)，雖然它們可能沒有強(qiáng)制力，但可以起到引導(dǎo)作用。

針對法律法規(guī)在落地過程中的執(zhí)行，需要執(zhí)法部門加強(qiáng)監(jiān)管，且這種場景也考驗(yàn)監(jiān)管的技術(shù)，我認(rèn)為這種情況下雙方都在看誰的技術(shù)更高超，誰能夠限制住這種行為。技術(shù)本身并不是萬能的，它的應(yīng)用取決于人們?nèi)绾问褂煤凸芾怼?/strong>