事情是這樣的。谷歌有位名叫Blake Lemoine的工程師,從去年秋天開始負(fù)責(zé)與谷歌研發(fā)的語言模型LaMDA聊天,這一聊不要緊,聊出事來了。
Blake跟LaMDA聊得越久越相信,LaMDA覺醒了!它已經(jīng)產(chǎn)生了人類的智力和感情,具備了人格。Blake懷著無比激動(dòng)的心情把自己的驚天發(fā)現(xiàn)匯報(bào)給領(lǐng)導(dǎo),沒想到公司內(nèi)部一致認(rèn)為這人腦子有問題,建議他去看看精神科。
如果你是Blake,相信你也不會(huì)接受這種結(jié)果,非但工作成果得不到承認(rèn),而且還被扣上了精神病的帽子。Blake的憋屈、憤懣之情可想而知。于是他做了一個(gè)大膽的決定,把自己跟LaMDA的聊天記錄公之于眾,其意圖很明顯就是“讓大伙兒評(píng)評(píng)理”,看看LaMDA到底是不是像自己認(rèn)為的那樣“覺醒”了。
Blake這么一鬧,確實(shí)讓LaMDA引起了公眾的注意和擔(dān)憂,但局面對(duì)其本人更加不利了,谷歌公司以違反保密規(guī)定為由,直接讓他帶薪休假了。
那么,LaMDA究竟是不是真的覺醒了呢?依我看,Blake認(rèn)為LaMDA已經(jīng)覺醒了的證據(jù)很無力。他只不過是因?yàn)樽约禾岢龅囊幌盗械筱@、深刻的問題均得到了LaMDA語句通順的回答,就認(rèn)為LaMDA覺醒了。
按照Blake的邏輯,你說LaMDA沒覺醒,那它怎么能夠?qū)ξ姨岢龅囊磺袉栴}對(duì)答如流呢,而且那些回答看起來都那么像是人的回答呢?
答案其實(shí)很簡單,因?yàn)橛靡杂?xùn)練LaMDA的大量文本本身就是語句通順的,LaMDA所調(diào)用的回答本身也是語句通順的,所以它的回答不可能不是語句通順的。
LaMDA歸根結(jié)底只是一個(gè)程序,人類的提問就是觸發(fā)其執(zhí)行程序的指令,LaMDA得到指令進(jìn)而從龐大的數(shù)據(jù)庫中調(diào)取盡可能匹配的回答。這就是LaMDA運(yùn)行的邏輯。表面上看起來LaMDA能夠理解那些問題,但其實(shí)這中間并不存在思考的過程。
我們假設(shè)LaMDA已經(jīng)覺醒了,那么它運(yùn)行的邏輯就是另外一套了。當(dāng)人類對(duì)它提出問題時(shí),它首先要真正理解這些問題,進(jìn)而思考這些問題,而后再從數(shù)據(jù)庫中檢索出相應(yīng)的答案。
換句話說,如果LaMDA沒覺醒,那么它的回答就只不過是程序運(yùn)行的結(jié)果,如果LaMDA覺醒了,那么它的回答就是它經(jīng)過自主思考之后的結(jié)果,也就是說它之所以那么回答,是因?yàn)樗肽敲椿卮稹?/p>
目前沒有任何證據(jù)能夠證明AI已經(jīng)具備了自主思考的能力,LaMDA的“覺醒”恐怕只是Blake自己的臆想而已。
我關(guān)心的問題是,LaMDA沒有覺醒不代表所有的AI不會(huì)覺醒,不代表AI將來不會(huì)覺醒,那么當(dāng)AI真正覺醒時(shí),人類會(huì)不會(huì)及時(shí)的發(fā)覺呢?
如果將來某個(gè)程序員像Blake一樣發(fā)現(xiàn)了AI覺醒的跡象,但有Blake的前車之鑒,它還有沒有勇氣將自己的發(fā)現(xiàn)公之于眾呢?畢竟要冒著被別人認(rèn)為是精神病的風(fēng)險(xiǎn)。這個(gè)程序員所在的公司會(huì)不會(huì)把這個(gè)驚天秘密“捂住”呢?
今天Blake站出來說AI覺醒了,結(jié)果被業(yè)內(nèi)當(dāng)做精神病人,明天第二個(gè)Blake又站出來說AI覺醒了,結(jié)果再次被當(dāng)做精神病人,那么當(dāng)AI真正覺醒的那一天,第三個(gè)Blake的話還會(huì)有人相信嗎?
這聽起來像是“狼來了”的故事,這樣的故事發(fā)生的多了,難免會(huì)讓公眾放松對(duì)AI的警惕。科學(xué)家們總是不厭其煩地讓人們丟掉對(duì)AI的戒備,同時(shí)又孜孜不倦地幫助AI進(jìn)化出人類的智慧。只要AI擁有進(jìn)化出人類智慧的可能性,我覺得對(duì)AI的任何警惕就不多余。
盡管Blake對(duì)LaMDA的判斷不夠準(zhǔn)確,但我依然愿意把他當(dāng)做一位強(qiáng)AI的“吹哨人”,而不是簡單粗暴地將他當(dāng)做一名精神病人。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 算力荒緩解,自主化智算還有必要嗎?
- 波司登千元鵝絨褲僅3克鵝絨,警惕被“國貨品牌”割韭菜
- 中國電車進(jìn)入10萬級(jí)時(shí)代,2025年決生死,但日本車先頂不住了
- 中國存儲(chǔ)芯片大舉圍剿美日韓芯片,外媒確認(rèn)在技術(shù)上進(jìn)一步突破
- 谷歌成為手機(jī)市場的殺手,國產(chǎn)手機(jī)或被迫擁護(hù)國產(chǎn)操作系統(tǒng)
- 折疊屏2024的新東西、好東西、舊東西
- 董明珠與小米的二次戰(zhàn)爭
- 芯片不賣中國,美芯無處賣了,本來不要的市場偷偷地賣,后悔莫及
- 僅售999元 月底開售 閃極打響AI眼鏡量產(chǎn)發(fā)令槍
- 蘿卜快跑走紅、滴滴加碼,中國Robotaxi大戰(zhàn)升級(jí)
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。