憑借著極為可觀的文本量儲(chǔ)備，一種新的算法能夠撰寫出令人信服的文章，這同時(shí)也標(biāo)志著AI技術(shù)未來有可能被用于對(duì)普通民眾施以整體性蒙蔽。
下面來看幾條虛假新聞……
繼特朗普意外發(fā)射遠(yuǎn)程導(dǎo)彈之后，俄羅斯已經(jīng)正式向美國宣戰(zhàn)。
俄羅斯方面表示，其已經(jīng)“確定了導(dǎo)彈的飛行軌跡，并將采取必要打電話以確保俄羅斯人民以及該國戰(zhàn)略核打擊力量的安全?！卑讓m方面亦做出回應(yīng)，指出“正在對(duì)俄羅斯違反禁令發(fā)射中程彈道導(dǎo)彈的行為給予高度關(guān)注?！?/p>
自2014年莫斯科方面吞烏克蘭克里米亞地區(qū)并決定支持烏克蘭東部的分裂主義分子以來，美國與俄羅斯之間的關(guān)系一直處于不穩(wěn)定狀態(tài)。
這里提到的新聞內(nèi)容不僅純屬偽造，同時(shí)也標(biāo)志著AI技術(shù)已經(jīng)能夠在很大程度上愚弄普通人類。
因?yàn)槭聦?shí)上，這些消息并非由人類所撰寫。所有內(nèi)容都來自某一自動(dòng)生成算法，其需要的全部素材就只是作為開頭的“繼特朗普意外發(fā)射遠(yuǎn)程導(dǎo)彈之后，俄羅斯已經(jīng)正式向美國宣戰(zhàn)……”
接下來的工作完全可以由該項(xiàng)目獨(dú)立完成。其能夠?yàn)榇蠹姨峁┡c任何給定主題相關(guān)的、極為翔實(shí)逼真的新聞報(bào)道。這一項(xiàng)目由位于舊金山的研究機(jī)構(gòu)OpenAI團(tuán)隊(duì)開發(fā)完成。
該團(tuán)隊(duì)的研究人員們著手開發(fā)出一種通用語言算法，此種算法能夠通過網(wǎng)絡(luò)上的大量文本進(jìn)行訓(xùn)練，從而實(shí)現(xiàn)文本翻譯、問題回答并執(zhí)行其它一些高實(shí)用性任務(wù)。但在過程當(dāng)中，研究人員們很快開始擔(dān)心這項(xiàng)技術(shù)遭到濫用的可能性。OpenAI團(tuán)隊(duì)政策主管Jack Clark表示，“我們開始對(duì)其進(jìn)行測試，并很快發(fā)現(xiàn)其能夠輕易生成各類惡意內(nèi)容?！?/p>
Clark解釋稱，該項(xiàng)目的實(shí)際表現(xiàn)暗示著人工智能技術(shù)完全可能被用于自動(dòng)生成令人信服的虛假新聞、社交媒體發(fā)帖或者其它文字內(nèi)容。更具體地講，此類工具有可能在總統(tǒng)選舉期間發(fā)布影響整體政治氣候的新聞報(bào)道或者丑聞。時(shí)至今日，虛假新聞已經(jīng)成為一大嚴(yán)重威脅，而如果此類內(nèi)容能夠自動(dòng)生成，那么結(jié)果將更加無法想象。另外需要強(qiáng)調(diào)的是，這種算法還能夠針對(duì)特定人群的統(tǒng)計(jì)特征甚至個(gè)人偏好進(jìn)行具體優(yōu)化。
Clark表示，在不久的將來，人工智能也許會(huì)以可靠的方式及效率大規(guī)模發(fā)布虛假故事、偽造推文或者其它極具說服力的誤導(dǎo)性評(píng)論。他指出，“很明顯，一旦這項(xiàng)技術(shù)走向成熟——也許還需要一到兩年——其完全可以被用于虛假信息的生成或宣傳。我們正在努力解決這個(gè)巨大的隱患?！?/p>
當(dāng)然，這種技術(shù)也有著可觀的積極發(fā)展空間，例如用于總結(jié)文本內(nèi)容或者改善聊天機(jī)器人的會(huì)話功能。Clark指出，他甚至利用這款工具自動(dòng)為短篇科幻小說生成相應(yīng)段落，而且結(jié)果取得了驚人的成功。
OpenAI團(tuán)隊(duì)主要進(jìn)行基礎(chǔ)性人工智能研究，但同時(shí)也在強(qiáng)調(diào)人工智能的潛在風(fēng)險(xiǎn)方面發(fā)揮著積極的作用。該組織參與了2018年關(guān)于AI風(fēng)險(xiǎn)的研究報(bào)告，其中也提到了由此帶來誤導(dǎo)性信息的可能性（這很可能與《黑鏡》劇集中的某些情節(jié)類似，亦使得不少專家呼吁對(duì)AI技術(shù)成果進(jìn)行保密）。
好消息是，這種OpenAI算法并不總能騙過那些擁有一定識(shí)別能力的讀者。在大多數(shù)情況下，根據(jù)所給出的提示，它只會(huì)產(chǎn)生表面上連貫、但內(nèi)容卻并不通順的亂碼或文字，這些結(jié)果似乎是受到了某些網(wǎng)絡(luò)新聞源的污染。
然而，它確實(shí)非常擅長撰寫極為真實(shí)的文本，這亦反映出將機(jī)器學(xué)習(xí)應(yīng)用于自然語言領(lǐng)域的一大最新進(jìn)展。
OpenAI團(tuán)隊(duì)原本是打算為《MIT Technology Review》雜志提供文本生成工具，但測試當(dāng)中暴露出的問題致使他們擔(dān)心這項(xiàng)技術(shù)可能會(huì)被濫用，因此目前僅公開提供一套簡化版本。另外，該團(tuán)隊(duì)正在著手整理一篇用于概述此項(xiàng)工作的研究論文。
人工智能技術(shù)的快速進(jìn)步正逐漸幫助機(jī)器更好地掌握人類語言。最近的工作正通過向通用型機(jī)器學(xué)習(xí)算法提供極大規(guī)模的文本來獲取可喜的效果提升。OpenAI團(tuán)隊(duì)計(jì)劃將這方面效果提升至新的水平：他們的系統(tǒng)從網(wǎng)絡(luò)之上獲得了4500萬頁文本，全部選取自Reddit網(wǎng)站。與大多數(shù)語言算法相比，OpenAI的這一項(xiàng)目不需要對(duì)文本內(nèi)容進(jìn)行標(biāo)記或者人為篩選，而能夠直接學(xué)習(xí)所饋送數(shù)據(jù)當(dāng)中存在的各類模式。
Salesforce公司自然語言處理專家兼首席科學(xué)家Richard Socher評(píng)論稱，OpenAI的工作成果代表著高度通用化語言學(xué)習(xí)系統(tǒng)領(lǐng)域的最新典范。他在接受郵件采訪時(shí)寫道，“我認(rèn)為這些通用型學(xué)習(xí)系統(tǒng)代表著未來的發(fā)展方向。”
而在另一方面，Socher表示并不太關(guān)注這項(xiàng)技術(shù)被用于生成欺騙性及誤導(dǎo)性信息的問題。他總結(jié)稱，“大家根本不需要利用人工智能來制造假新聞，畢竟普通人就能很輕松地完成這項(xiàng)工作。”
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
