生成式人工智能的風(fēng)險(xiǎn)是什么？

能夠生成內(nèi)容的人工智能實(shí)體稱(chēng)為生成式人工智能。其利用機(jī)器學(xué)習(xí)技術(shù)根據(jù)數(shù)據(jù)趨勢(shì)自行生成內(nèi)容。鑒于人工智能潛力不斷增長(zhǎng)，許多企業(yè)都在競(jìng)相采用生成式人工智能，目標(biāo)是降低與人力相關(guān)的高昂維護(hù)成本。

盡管生成式人工智能已經(jīng)取得了長(zhǎng)足進(jìn)步，但數(shù)據(jù)隱私和保密性方面仍然存在問(wèn)題。生成式人工智能的應(yīng)用可能仍需要仔細(xì)評(píng)估所涉及的危險(xiǎn)，例如不準(zhǔn)確性、潛在欺詐和知識(shí)產(chǎn)權(quán)損失。一些專(zhuān)家建議企業(yè)不要試圖減少開(kāi)支，而是要保護(hù)自己免受其利用。

根據(jù)Salesforce最近針對(duì)生成式人工智能的IT調(diào)查，33%的受訪(fǎng)者認(rèn)為該技術(shù)“被過(guò)度炒作”，并擔(dān)心存在偏見(jiàn)（73%）、安全漏洞（79%）和其他問(wèn)題。本文總結(jié)了生成式人工智能的一些常見(jiàn)風(fēng)險(xiǎn)。

1. 知識(shí)產(chǎn)權(quán)——KPMG將知識(shí)產(chǎn)權(quán)問(wèn)題列為使用生成式人工智能的主要問(wèn)題之一。利用人工神經(jīng)網(wǎng)絡(luò)，可以對(duì)大量現(xiàn)有數(shù)據(jù)進(jìn)行訓(xùn)練，該技術(shù)可以生成音頻、圖像、視頻等新內(nèi)容，主要根據(jù)輸入模式做出響應(yīng)。輸入數(shù)據(jù)包含各種用戶(hù)的輸入，該工具會(huì)保留這些輸入以繼續(xù)學(xué)習(xí)和增長(zhǎng)知識(shí)。此外，這些信息可用于解答個(gè)人提出的問(wèn)題，從而向公眾披露私人或?qū)Ｓ行畔?。?jīng)常使用該技術(shù)的組織/個(gè)人，可能會(huì)面臨未經(jīng)授權(quán)的人員訪(fǎng)問(wèn)其數(shù)據(jù)的可能性。

2. 數(shù)據(jù)中毒——根據(jù)用戶(hù)的要求，訓(xùn)練數(shù)據(jù)集被錯(cuò)誤信息利用，這就是數(shù)據(jù)中毒的過(guò)程。它包括各種使用數(shù)據(jù)中毒的攻擊。惡意軟件是攻擊者用來(lái)滲透的一種方式，它可以傳播不切實(shí)際的內(nèi)容。例如，研究人員最近發(fā)現(xiàn)許多上傳到開(kāi)源人工智能平臺(tái)的受污染模型。每一個(gè)都可能讓攻擊者能夠用有害程序感染用戶(hù)計(jì)算機(jī)?？紤]到這些模型可能會(huì)被整合到其他系統(tǒng)中，這是一種供應(yīng)鏈限制。網(wǎng)絡(luò)釣魚(yú)攻擊也可以由攻擊者在數(shù)據(jù)中毒的幫助下進(jìn)行。在網(wǎng)絡(luò)釣魚(yú)場(chǎng)景中，黑客可能會(huì)感染一個(gè)人工智能驅(qū)動(dòng)的幫助臺(tái)，并對(duì)其進(jìn)行編程，將訪(fǎng)問(wèn)者發(fā)送到其控制的網(wǎng)絡(luò)釣魚(yú)網(wǎng)站。如果攻擊者說(shuō)服用戶(hù)啟用API接口，就可以簡(jiǎn)單地竊取其欺騙用戶(hù)通過(guò)聊天機(jī)器人透露的任何數(shù)據(jù)。

3. 就業(yè)風(fēng)險(xiǎn)——人工智能的力量徹底改變了世界，顛覆了職業(yè)，并廢除了某些工作流程，這被認(rèn)為是一項(xiàng)重大的技術(shù)變革。這些變化導(dǎo)致單調(diào)乏味且需要大量人力的工作被取消。當(dāng)然，人工智能改變了某些工作所需的角色和職責(zé)的方法。然而，許多學(xué)者認(rèn)為大量失業(yè)可能被夸大了。根據(jù)國(guó)際貨幣基金組織專(zhuān)家的最新報(bào)告，人工智能可能會(huì)對(duì)全球勞動(dòng)力市場(chǎng)產(chǎn)生影響。在發(fā)達(dá)國(guó)家，約60%的就業(yè)崗位可能因人工智能而受到影響。超過(guò)一半的生產(chǎn)力可能會(huì)因人工智能的實(shí)施而提高。超過(guò)50%的勞動(dòng)力預(yù)計(jì)將減少勞動(dòng)力需求，導(dǎo)致工資下降和工作崗位短缺，因?yàn)槿斯ぶ悄芗夹g(shù)取代了目前個(gè)人實(shí)現(xiàn)的關(guān)鍵目標(biāo)。至少在某種情況下，一些工作崗位可能會(huì)消失。相比之下，預(yù)計(jì)人工智能在經(jīng)濟(jì)發(fā)達(dá)國(guó)家的影響將達(dá)到40%，而在經(jīng)濟(jì)落后國(guó)家的影響將達(dá)到26%。其結(jié)果是，貧窮的經(jīng)濟(jì)體和發(fā)展中市場(chǎng)較少受到人工智能的直接沖擊。此外，許多國(guó)家阻礙了對(duì)資源的需求，以利用人工智能的力量。

4. 偏見(jiàn)和道德問(wèn)題——訓(xùn)練數(shù)據(jù)集應(yīng)該是人性化的、一致的和合法的。訓(xùn)練數(shù)據(jù)的質(zhì)量取決于可能影響輸出生成人工智能結(jié)果的因素，包括其可靠性和精度。生成式人工智能模型的缺點(diǎn)是缺乏標(biāo)準(zhǔn)值。因此，用于訓(xùn)練的有偏見(jiàn)的信息為算法奠定了基礎(chǔ)，而算法進(jìn)一步開(kāi)發(fā)了不可信的數(shù)據(jù)。團(tuán)體利用這些信息制作虛假圖像、貶低內(nèi)容或虛假音頻，這些都可以用來(lái)?yè)p害任何個(gè)人的身份。由于訓(xùn)練數(shù)據(jù)可能包含個(gè)人身份信息(PII)，因此可能帶來(lái)道德挑戰(zhàn)。因?yàn)槠淇赡軙?huì)泄露個(gè)人的姓名、電話(huà)號(hào)碼、卡號(hào)、用戶(hù)名和密碼等，這些都被視為個(gè)人身份信息。隱私要求應(yīng)遵守?cái)?shù)據(jù)訓(xùn)練模型，并且必須確保不向生成式人工智能提供任何PII數(shù)據(jù)。人工智能驅(qū)動(dòng)的結(jié)果的優(yōu)勢(shì)可能會(huì)給員工帶來(lái)麻煩，因?yàn)槠鋾?huì)無(wú)意中泄露私人數(shù)據(jù)。

5. 生成式人工智能欺詐——人工智能時(shí)代重新定義了帶有生成式人工智能的欺詐活動(dòng)，俗稱(chēng)生成式人工智能欺詐。個(gè)人利用神經(jīng)網(wǎng)絡(luò)制作的虛假內(nèi)容來(lái)傳播謠言。欺詐者可能會(huì)繞過(guò)驗(yàn)證過(guò)程，通過(guò)使用生成式人工智能制作真實(shí)個(gè)人的虛假自拍照、圖片和錄音來(lái)創(chuàng)建欺詐賬戶(hù)。

總結(jié)

盡管生成式人工智能技術(shù)的創(chuàng)新和進(jìn)步面臨各種挑戰(zhàn)和機(jī)遇，但個(gè)人/組織應(yīng)該意識(shí)到安全風(fēng)險(xiǎn)。這可能是人為錯(cuò)誤或無(wú)意中泄露私人信息、數(shù)據(jù)存儲(chǔ)挑戰(zhàn)、缺乏標(biāo)準(zhǔn)指南、國(guó)際法規(guī)問(wèn)題和數(shù)據(jù)泄露的結(jié)果。即使存在眾多問(wèn)題，企業(yè)也應(yīng)該采用生成式人工智能。在仔細(xì)考慮其風(fēng)險(xiǎn)后，專(zhuān)家建議組織/個(gè)人為企業(yè)制定全面的行動(dòng)計(jì)劃，強(qiáng)調(diào)風(fēng)險(xiǎn)管理、人工智能系統(tǒng)安全，從而培養(yǎng)人工智能信任。

常見(jiàn)問(wèn)題解答：

1、什么是生成式人工智能？

答：人工智能生成新內(nèi)容的能力，如書(shū)面內(nèi)容、圖像、聲音、音頻和視頻，被稱(chēng)為生成式人工智能。生成式人工智能采用機(jī)器學(xué)習(xí)模型，以識(shí)別人類(lèi)開(kāi)發(fā)的大量?jī)?nèi)容數(shù)據(jù)集中的趨勢(shì)/模式和聯(lián)系。其通過(guò)結(jié)合所學(xué)的趨勢(shì)/模式進(jìn)一步生成新內(nèi)容。一種流行的學(xué)習(xí)方法是生成式人工智能模型中的監(jiān)督學(xué)習(xí)，其中片段與人類(lèi)生成的內(nèi)容一起被輸入一組標(biāo)簽。因此，它獲得了開(kāi)發(fā)具有人類(lèi)產(chǎn)生的相似性的內(nèi)容的能力，并相應(yīng)地被考慮。

2、生成式人工智能應(yīng)用有哪些？

答：利用生成式人工智能，我們可以：

3、生成式人工智能是一項(xiàng)顛覆性技術(shù)嗎？

答：生成式人工智能是一種顛覆性技術(shù)，可實(shí)現(xiàn)日常任務(wù)的自動(dòng)化、加快軟件開(kāi)發(fā)速度、豐富問(wèn)題解決能力和用戶(hù)體驗(yàn)。這種生成式人工智能技術(shù)將鼓勵(lì)創(chuàng)造力和可靠性，同時(shí)幫助IT行業(yè)的個(gè)人應(yīng)對(duì)快速發(fā)展的數(shù)字時(shí)代的挑戰(zhàn)和機(jī)遇。IT行業(yè)的未來(lái)與生成式人工智能的變革潛力成正比。生成式人工智能通過(guò)定制界面、創(chuàng)意生成、服務(wù)/產(chǎn)品推薦和針對(duì)特定用戶(hù)需求的交互，改變IT組織的服務(wù)和產(chǎn)品，以適應(yīng)以用戶(hù)為中心的體驗(yàn)。IT行業(yè)將利用生成式人工智能的潛力，實(shí)現(xiàn)前所未有的成果之旅。

4、我們?nèi)绾未_保生成式人工智能的使用合乎道德？

答：組織/個(gè)人可以負(fù)責(zé)任地利用生成式人工智能的潛力，并在意外情況或后果中采取預(yù)防措施，通過(guò)了解技術(shù)缺點(diǎn)、保持透明度、解決可靠性問(wèn)題、教育用戶(hù)、定期更新和建立標(biāo)準(zhǔn)指南來(lái)促進(jìn)道德人工智能。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。