7月7日，由南方都市報、清華大學(xué)人工智能國際治理研究院主辦，中國科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來研究院和上海人工智能實驗室協(xié)辦的“人工智能創(chuàng)新與治理”論壇在上海召開。本次論壇邀請了多位來自國內(nèi)外的大咖專家參與，并針對近年來出現(xiàn)的AI換臉詐騙、大模型生成虛假信息、AIGC版權(quán)歸屬爭議等聚焦生成式AI潛在的風(fēng)險與問題，發(fā)布了《生成式AI倫理與治理倡議書》(下稱《倡議書》)。據(jù)了解，這也是國內(nèi)首份由智庫媒體發(fā)起、跨行業(yè)聯(lián)動發(fā)布的生成式AI治理與倫理倡議書。賽博昆侖創(chuàng)始人兼CEO鄭文彬，與30余位專家、學(xué)者、公眾人物一道，聯(lián)合署名發(fā)布了本次倡議書。

《倡議書》提到，近年來，“AI詐騙”、“AI犯罪”等關(guān)鍵詞開始走入公眾視野，出現(xiàn)了一系列“網(wǎng)聊10分鐘騙走430萬元”等真實案例，而利用AI換臉、AI擬聲技術(shù)等佯裝好友實施詐騙，以及利用人工智能軟件 “捏造”罪名、生成虛假案例，生成內(nèi)容涉嫌侵犯知識產(chǎn)權(quán)等問題，更是屢屢見諸媒體。

如何區(qū)分足以“以假亂真”的AI生成內(nèi)容、當(dāng)AI生成內(nèi)容造成侵權(quán)或違法問題時，如何認(rèn)定相關(guān)責(zé)任，以及類似的問題如何利用技術(shù)手段去管理，都成為本次會議討論的焦點。

據(jù)南都數(shù)字經(jīng)濟治理研究中心介紹，本《倡議書》最終形成了“七大原則”和“七大建議”，內(nèi)容包括確保安全、客觀公正、信息披露、尊重自主、可問責(zé)可追溯、人工把關(guān)、敏捷治理等。其中“確保安全原則”提出，相關(guān)企業(yè)或組織應(yīng)采取足夠的管理措施和技術(shù)手段，積極防范生成式AI技術(shù)產(chǎn)品的漏洞攻擊風(fēng)險，并在產(chǎn)品的整個生命周期中保證用戶隱私及個人信息的安全。

賽博昆侖方面表示，隨著人工智能技術(shù)的高速發(fā)展，特別是AIGC出現(xiàn)以后，網(wǎng)絡(luò)安全開始遭遇到新的問題與挑戰(zhàn)，新的使用場景，帶來了新的攻擊手段和安全隱患。對此，除了社會各界深入關(guān)注、恪守公德邊界之外，技術(shù)手段的“硬手段”，往往才是最終的解決之道。

賽博昆侖代表認(rèn)為，AIGC的內(nèi)容安全不僅僅牽涉到數(shù)據(jù)以及隱私泄露，也同時關(guān)乎模型訓(xùn)練、標(biāo)注、應(yīng)用，以及長期輿情監(jiān)控的各個環(huán)節(jié)，其中任何一個環(huán)節(jié)存在漏洞，都可能引入相關(guān)風(fēng)險。對此，賽博昆侖代表表示將充分發(fā)揮自身優(yōu)勢，與社會各界一道，積極參與應(yīng)對防范AIGC安全問題的行動中來。

作為《倡議書》的簽署方，賽博昆侖在防范漏洞攻擊、確保信息安全方面，恰恰是國內(nèi)頂級技術(shù)能力驅(qū)動的網(wǎng)絡(luò)空間安全服務(wù)商，在高危漏洞攻防、0day漏洞預(yù)警應(yīng)急等方面，擁有國內(nèi)首屈一指的技術(shù)實力。公司旗下安全研究團隊“昆侖實驗室”，由國內(nèi)頂尖安全研究人員組成，自成立以來，已多次斬獲Pwn2own、天府杯、強網(wǎng)杯精英賽等國際頂級黑客大賽最高榮譽。而其旗下高級攻防團隊成員，則均來自一線大廠的攻防實驗室，并作為攻擊隊核心成員，在大型護(hù)網(wǎng)、區(qū)域/行業(yè)級護(hù)網(wǎng)、企業(yè)級護(hù)網(wǎng)中表現(xiàn)優(yōu)異，取得過多項優(yōu)秀成績。

賽博昆侖代表最后表示，未來將從技術(shù)角度出發(fā)，積極踐行《倡議書》的原則和方向，為生成式AI更加健康、穩(wěn)定的長遠(yuǎn)、安全發(fā)展，貢獻(xiàn)自己的力量。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）