6月5日消息，據(jù)外媒報(bào)道，在馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫?沃茲尼亞克在內(nèi)的上千名知名人士簽署公開信，呼吁AI實(shí)驗(yàn)室暫停訓(xùn)練更強(qiáng)大的模型6個(gè)月，以便制定并落實(shí)相關(guān)的安全協(xié)議一年多之后，人工智能領(lǐng)域再次出現(xiàn)了公開信，警告先進(jìn)人工智能的風(fēng)險(xiǎn)，表達(dá)了對當(dāng)前人工智能公司缺乏監(jiān)管的擔(dān)憂，呼吁完善風(fēng)險(xiǎn)舉報(bào)措施并采取措施保護(hù)為風(fēng)險(xiǎn)發(fā)聲的人。
從外媒的報(bào)道來看，人工智能領(lǐng)域新出現(xiàn)的公開信，是由多名OpenAI和谷歌DeepMind前員工和現(xiàn)員工聯(lián)名簽署發(fā)布，OpenAI和谷歌DeepMind是當(dāng)前在人工智能研發(fā)方面走在行業(yè)前列的廠商。
公開信的署名信息顯示，共有13名這兩家公司的前員工和現(xiàn)員工參與，包括5名OpenAI前員工，6名OpenAI現(xiàn)員工，1名谷歌DeepMind現(xiàn)員工和1名谷歌DeepMind前員工，其中谷歌DeepMind的這名現(xiàn)員工，是Anthropic的前員工。但可能是出于相關(guān)保密協(xié)議方面的限制，參與發(fā)布公開信的6名OpenAI現(xiàn)員工，是匿名參加，其他人都是公開署名。
在公開信中，這些員工表示他們相信人工智能技術(shù)給人類帶來前所未有的福祉的潛力，但也認(rèn)為要看到這些技術(shù)帶來的嚴(yán)重風(fēng)險(xiǎn)，包括進(jìn)一步加劇現(xiàn)有的不平等，助長操控和虛假信息傳播，失控的自主人工智能系統(tǒng)可能導(dǎo)致人類滅絕等。對于風(fēng)險(xiǎn)，他們在信中是表示人工智能公司自身、全球多國的監(jiān)管機(jī)構(gòu)、人工智能方面的專家，都已意識(shí)到。
但這些員工在公開信中表示，掌握大量系統(tǒng)能力和局限性、保護(hù)措施充分性、不同類型傷害風(fēng)險(xiǎn)水平等非公開信息的人工智能公司，只有很微弱的義務(wù)同政府部門分享其中的部分信息，沒有義務(wù)與社會(huì)公眾分享，他們認(rèn)為不能指望相關(guān)的公司自愿分享。
在署名的公開信中，OpenAI和谷歌DeepMind的前員工及現(xiàn)員工，希望在科學(xué)界、決策者和公眾的充分指導(dǎo)和監(jiān)督下，人工智能方面的風(fēng)險(xiǎn)能得到有效化解，但他們也認(rèn)為人工智能公司有強(qiáng)大的經(jīng)濟(jì)利益動(dòng)機(jī)避免有效的監(jiān)管，定制的公司治理結(jié)構(gòu)也不足以改變這一點(diǎn)。
OpenAI和谷歌DeepMind的這些前員工和現(xiàn)員工在公開信中表示，在缺乏有效政府機(jī)構(gòu)監(jiān)管的情況下，人工智能公司的前員工和現(xiàn)員工，就會(huì)成為少數(shù)對公眾負(fù)責(zé)的人，但廣泛的保密協(xié)議限制了他們?yōu)轱L(fēng)險(xiǎn)方面的擔(dān)憂發(fā)聲，一般的舉報(bào)人保護(hù)措施也遠(yuǎn)遠(yuǎn)不夠，因?yàn)楣娟P(guān)注的是非法活動(dòng)，而他們擔(dān)憂的風(fēng)險(xiǎn)中，很多還未得到有效監(jiān)管。另外，簽署公開信的這些員工也提到，行業(yè)內(nèi)的一些過往案件，使他們中的部分人有理由擔(dān)憂各種形式的報(bào)復(fù)，他們也不是第一批遇到或探討這些問題的人。
為了避免對人工智能風(fēng)險(xiǎn)發(fā)聲的現(xiàn)員工和前員工進(jìn)行報(bào)復(fù)，OpenAI和谷歌DeepMind的這些前員工和現(xiàn)員工在公開信中，呼吁頂尖的人工智能公司做出承諾，采取措施保護(hù)為人工智能風(fēng)險(xiǎn)發(fā)聲的員工。
在公開信中，OpenAI和谷歌DeepMind的前員工和現(xiàn)員工提到的措施包括4項(xiàng)：
第一項(xiàng)是公司不簽訂或執(zhí)行任何禁止對風(fēng)險(xiǎn)相關(guān)問題進(jìn)行貶低或批評的協(xié)議，也不通過既得經(jīng)濟(jì)利益阻礙來報(bào)復(fù)與風(fēng)險(xiǎn)相關(guān)的批評。
第二項(xiàng)則是人工智能公司推動(dòng)可驗(yàn)證的匿名流程，讓現(xiàn)員工和前員工向公司董事會(huì)、監(jiān)管機(jī)構(gòu)和具有專業(yè)知識(shí)的合適獨(dú)立機(jī)構(gòu)提出與風(fēng)險(xiǎn)相關(guān)的擔(dān)憂。
第三項(xiàng)是公司支持公開批評的文化，允許現(xiàn)員工和前員工在商業(yè)機(jī)密和其他知識(shí)產(chǎn)權(quán)得到適當(dāng)保護(hù)的情況下，向公眾、董事會(huì)、監(jiān)管機(jī)構(gòu)、合適的獨(dú)立組織等，提出與技術(shù)風(fēng)險(xiǎn)相關(guān)的擔(dān)憂。
第四項(xiàng)則是在其他程序失敗后，公司不對公開風(fēng)險(xiǎn)相關(guān)機(jī)密信息的現(xiàn)員工和前員工進(jìn)行報(bào)復(fù)。不過他們也同意在報(bào)告風(fēng)險(xiǎn)相關(guān)的擔(dān)憂時(shí)盡力避免不必要的機(jī)密信息泄漏，在有足夠的程序能匿名向公司董事會(huì)、監(jiān)管機(jī)構(gòu)等提出擔(dān)憂的情況下，他們也接受最初通過程序表達(dá)他們的擔(dān)憂，但在相關(guān)的程序不存在的情況下，現(xiàn)員工和前員工就應(yīng)該保留向公眾報(bào)告他們的擔(dān)憂的自由。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
