精品国产亚洲一区二区三区|亚洲国产精彩中文乱码AV|久久久久亚洲AV综合波多野结衣|漂亮少妇各种调教玩弄在线

<blockquote id="ixlwe"><option id="ixlwe"></option></blockquote>
  • <span id="ixlwe"></span>

  • <abbr id="ixlwe"></abbr>

    大模型引領(lǐng)技術(shù)浪潮,AI安全治理面臨“大考”

    科技云報道原創(chuàng)。

    從文生文到文生圖,再到文生視頻,近年來,以ChatGPT、Sora等為代表的大模型引領(lǐng)了全球人工智能技術(shù)與產(chǎn)業(yè)的新一輪浪潮。2024年更是被業(yè)內(nèi)稱為大模型應(yīng)用爆發(fā)元年。

    年初,Sora橫空出世驗證了Scalling Law在視頻生成方面的有效性。但Sora始終止步于公開的60秒Demo,產(chǎn)品落地計劃遲遲未公開。

    隨后的半年時間,不少玩家繼續(xù)在AI視頻生成賽道展開角逐。今年6月,快手發(fā)布視頻生成大模型“可靈”。緊隨其后,國外知名3D建模平臺Luma AI也高調(diào)入局,并宣布對所有用戶免費開放其文生視頻模型,再掀波瀾。近日,智譜AI也正式上線了AI視頻生成功能清影(Ying),全面入局文生視頻及圖生視頻賽道,生成6秒視頻僅需30秒的時間。

    人工智能技術(shù)的普及應(yīng)用一方面為社會發(fā)展帶來了巨大的技術(shù)紅利,另一方面也帶來了風險挑戰(zhàn)。

    哲學家海德格爾曾反思過現(xiàn)代技術(shù)的危險性,其認為現(xiàn)代技術(shù)強調(diào)效率,在這種效率觀念的促逼下,人類反而被技術(shù)所控制和占有,成為了技術(shù)的奴隸,受到技術(shù)發(fā)展的支配。雖然當下加速了發(fā)展進程,但是盲目的發(fā)展最終會導致一系列的社會危機,這是人類不可忽視的問題。

    AI繁榮表象下的安全隱

    近年來,一些不法分子利用人工智能深度偽造新工具實施電信詐騙、散布虛假視頻、激化社會矛盾,給安全領(lǐng)域帶來了諸多風險。人工智能深度偽造是一種利用人工智能技術(shù)合成、修改或替換圖像、視頻和音頻內(nèi)容的技術(shù),可以將一個人的面部表情、言辭和動作應(yīng)用到其他人的圖像或視頻上,使生成的內(nèi)容看似原始內(nèi)容。這項技術(shù)讓假新聞和虛假信息更具迷惑性,嚴重威脅公眾的信任和社會穩(wěn)定。

    此類安全產(chǎn)生的主要原因在于,技術(shù)發(fā)展速度過快而法律法規(guī)和倫理規(guī)范未能及時跟進。現(xiàn)有的法律框架往往難以適應(yīng)人工智能的快速發(fā)展,導致監(jiān)管滯后。

    例如,AI自動駕駛汽車的責任認定問題,目前尚無明確的法律規(guī)定。當人工智能系統(tǒng)出現(xiàn)故障導致事故時,如何界定制造商、開發(fā)者和用戶的責任,成為法律界亟待解決的難題。

    同時,人工智能的決策機制和數(shù)據(jù)處理方式存在不透明性,可能導致偏見和歧視的擴散。例如,面部識別技術(shù)在執(zhí)法中的應(yīng)用可能帶來隱私侵害和種族偏見的問題。經(jīng)濟基礎(chǔ)決定上層建筑,上層建筑反作用于經(jīng)濟基礎(chǔ),當上層建筑為適合生產(chǎn)力發(fā)展的經(jīng)濟基礎(chǔ)服務(wù)時,它就成為推動社會發(fā)展的進步力量;反之則成為阻礙社會發(fā)展的力量。當前的法律法規(guī)和倫理規(guī)范已經(jīng)落后于人工智能技術(shù)發(fā)展水平,亟需改良進步。

    受到發(fā)展水平、價值觀念、文化差異和國家利益等多個因素的影響,各國推動的治理框架和解決方案通常在防范風險、公平公正、隱私保護和國家安全等方面有不同關(guān)切,而人工智能的發(fā)展趨勢和特征卻要求在全球治理方面構(gòu)建更加包容的框架。

    因此,在當前形勢下,在推動全球人工智能治理框架、標準和規(guī)范形成廣泛共識方面,仍存在諸多挑戰(zhàn)與難題。

    首先,人工智能技術(shù)本身的復雜性和快速發(fā)展使得全球治理更加困難。人工智能技術(shù)涉及深度學習、自然語言處理、計算機視覺等多個領(lǐng)域,每個領(lǐng)域都有其獨特的技術(shù)挑戰(zhàn)和應(yīng)用場景,治理的復雜性大大增加,并且人工智能技術(shù)更新速度快,傳統(tǒng)的立法和監(jiān)管手段難以跟上技術(shù)進步的步伐。即使制定了相關(guān)政策和法規(guī),也可能很快變得過時,需要不斷更新和調(diào)整。隨著人工智能應(yīng)用的廣泛普及,數(shù)據(jù)隱私、不公平與歧視性,以及國家安全等風險日益彰顯。人工智能技術(shù)及其引發(fā)的全局性、系統(tǒng)性和國際性風險將成為全球治理合作面臨的挑戰(zhàn)之一。

    其次,人工智能技術(shù)的發(fā)展涉及巨大的經(jīng)濟利益,各國之間在技術(shù)研發(fā)、市場份額和產(chǎn)業(yè)布局方面存在激烈競爭。一些國家和科技公司在人工智能領(lǐng)域占據(jù)領(lǐng)先地位,不愿意在國際治理框架中受到限制,擔心影響自身的競爭優(yōu)勢;人工智能技術(shù)的應(yīng)用涉及廣泛的商業(yè)利益,各國可能會為了保護本國企業(yè)的市場份額而抵制統(tǒng)一的國際規(guī)范;不同國家在產(chǎn)業(yè)政策上也會有不同的側(cè)重點,一些國家可能會更傾向于保護本國的人工智能產(chǎn)業(yè),制定有利于自身發(fā)展的政策,而不是參與全球性的治理框架。

    第三,主體多元將成為制約全球人工智能治理的因素。當前人工智能治理仍以政府為主導,主要表現(xiàn)為中國、歐盟、美國等制定和發(fā)布了一系列人工智能治理倡議、規(guī)劃和立法。然而,私營部門在人工智能技術(shù)發(fā)展中也發(fā)揮著不可忽視的作用,謀求人工智能規(guī)則的話語權(quán)可以增強其影響力。多利益攸關(guān)方以自身利益為中心,可能導致人工智能治理主導權(quán)和規(guī)則制定權(quán)的多方博弈甚至惡性競爭。倘若如此,將嚴重損害各方在人工智能全球治理上的合作動能。

    第四,人工智能技術(shù)的發(fā)展依賴于大量數(shù)據(jù)的收集和共享,但數(shù)據(jù)隱私和安全問題卻成為全球治理的重要難題。許多國家對本國數(shù)據(jù)的控制權(quán)有很強的保護意識,不愿意輕易共享數(shù)據(jù)。而且各國對數(shù)據(jù)隱私保護的標準和要求不同,一些國家可能對數(shù)據(jù)的跨境流動設(shè)置嚴格的限制。

    第五,少數(shù)科技巨頭公司在人工智能技術(shù)和市場上占據(jù)主導地位,導致全球治理面臨技術(shù)壟斷和不平等問題。大型科技公司在人工智能技術(shù)研發(fā)和應(yīng)用方面占據(jù)主導地位,擁有巨大的經(jīng)濟和政治影響力,可能會影響政策的制定和執(zhí)行。

    人工智能技術(shù)的發(fā)展還可能加劇全球范圍內(nèi)的經(jīng)濟不平等,發(fā)展中國家在技術(shù)和資源方面處于劣勢,難以在全球治理中發(fā)揮有效作用。

    面對人工智能全球治理的多重挑戰(zhàn)和現(xiàn)實困境,中國提出推動構(gòu)建人類命運共同體為愿景的解決方案。在7月舉行的2024世界人工智能大會暨人工智能全球治理高級別會議上,清華大學蘇世民書院院長、清華大學人工智能國際治理研究院院長薛瀾曾表示,從全球角度來講,人工智能發(fā)展面臨著很多挑戰(zhàn)。

    要把AI發(fā)展和安全作為“一體兩翼”,通過多途徑建立國際交流及防控體系,加強政府間的多邊對話機制,同時通過科學共同體力量助力國際機制全面完善。

    同時發(fā)揮聯(lián)合國等國際組織的綜合全面協(xié)調(diào)作用,打破各種壁壘,加強國際合作協(xié)議,同時在產(chǎn)業(yè)、科學界共同努力下推動人工智能合理、健康發(fā)展,為人類和平與發(fā)展作出更大的貢獻。

    圖靈獎得主、中國科學院院士、清華大學交叉信息研究院院長姚期智表示,人工智能最有深度、最有意思的風險來自AI生存或者存在的風險。要控制好AI,但又不能破壞它,“正如圖靈所說,這是無法預測的,預測不了機器有了足夠算力之后會做什么。”

    因此,AI風險需要專家來解決,不僅是科學家,還可能需要政府、律師、經(jīng)濟學家來參與,幾乎涉及到每一個行業(yè)。

    上海人工智能實驗室主任、銜遠科技創(chuàng)始人周伯文認為,目前,世界上只有1%的資源投入在對齊或者安全考量上,對AI安全的投入遠落后于AI性能的投入。人類將遵循“AI-45°平衡律”,沿著可信AGI的“因果之梯”拾級而上,探索人工智能系統(tǒng)安全和能力的系統(tǒng)性平衡之路。

    道阻且長,行則將至

    全球人工智能治理倡導“以人為本、智能向善、造福人類”的原則,這既代表了人工智能發(fā)展的主線,也代表了治理的宗旨。

    7月24日,中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(簡稱“AIIA”)安全治理委員會成果發(fā)布會舉行。會上,AIIA秘書長、中國信息通信研究院院長余曉暉表示,開展人工智能安全治理工作不僅是我國推動人工智能發(fā)展和安全的重要工作,也是全人類共同需要對待的重大問題。如何釋放出人工智能最大向善的能力,造福于人類,促進經(jīng)濟社會發(fā)展,需要世界各國共同推動。

    AIIA安全治理委員會主任委員、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧表示,過去一年,大模型發(fā)展速度之快,賦能范圍之廣,讓業(yè)界看到了通用人工智能的實現(xiàn)路徑與曙光,但人工智能安全問題的嚴重性與緊迫性不容忽視。在從不同層面審視人工智能安全問題時,可以發(fā)現(xiàn)人工智能所帶來的安全挑戰(zhàn)已經(jīng)從技術(shù)本身所帶來的數(shù)據(jù)、算力、系統(tǒng)等傳統(tǒng)安全問題,逐漸向?qū)€人、組織、國家社會、人類生態(tài)的衍生安全問題蔓延。

    AIIA總體組組長、中國信通院人工智能研究所所長魏凱表示,世界各國都對人工智能的發(fā)展表示出非常大的期待,不論是發(fā)達國家或者發(fā)展中國家,普遍認為人工智能是一個巨大的機遇,同時也對人工智能的確定性安全和風險挑戰(zhàn)表示擔憂。

    多年來,中國信通院作為國家智庫產(chǎn)業(yè)平臺,不僅聯(lián)合各方在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟下成立了安全委員會,搭建人工智能安全方面交流合作平臺,同時聯(lián)合產(chǎn)業(yè)界發(fā)布了《人工智能治理框架》,提出以風險為導向的人工智能研判理論體系,并發(fā)布一系列人工智能安全合規(guī)方面的標準規(guī)范,協(xié)助企業(yè)提升安全能力。

    圍繞大模型安全,中國信通院還啟動大模型安全基準測試,為國內(nèi)企業(yè)開展大模型安全防范工作提供參考。此外,與國際組織各國就人工智能的安全治理工作開展雙邊、多邊的討論交流,共同推動人工智能在全球的發(fā)展和安全的治理工作。

    目前,全球針對人工智能安全已有很多聲明和請愿,但更重要的是要明確目標、投入資源、采取行動,攜手結(jié)伴共同應(yīng)對風險。各國和地區(qū)針對人工智能治理正從原則治理走向安全實踐的新階段。

    治理框架方面,各國和地區(qū)基本形成本土治理方案。比如美國推出《人工智能風險管理框架》推動基于風險的治理實踐。歐盟《人工智能法》構(gòu)建了風險分級的治理方案,并即將正式生效。

    新加坡在原先治理框架基礎(chǔ)上推出了《生成式人工智能治理模型框架》,提出人工智能評估需考慮的九個維度。日本發(fā)布《人工智能運營商指南》,為開發(fā)者、提供者、使用者制定行為準則。我國從《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》到《生成式人工智能服務(wù)管理暫行辦法》精準化治理前沿技術(shù)。

    治理工具方面,全球積極推出安全測試評估平臺。美國成立人工智能安全研究所和安全聯(lián)盟以推動制定人工智能安全標準和開展安全評測,并于近期啟動“評估人工智能的風險和影響”計劃。英國人工智能安全研究所推出“Inspect”人工智能模型安全評估平臺。新加坡依托“AI Verify”發(fā)布軟件工具包,推動新技術(shù)的沙箱測試。我國已有近140個大模型通過安全評估與備案,形成良好示范效應(yīng)。

    可以看出,安全已成為各國人工智能治理的核心關(guān)切,保障安全是人工智能技術(shù)創(chuàng)新發(fā)展的基石,也是推動人工智能產(chǎn)業(yè)可持續(xù)發(fā)展的重要前提。

    道遠路長,行則將至。人工智能治理是一個不容忽視又實時更新的問題,未來也許將有超出現(xiàn)有認知的挑戰(zhàn),這就需要國際社會攜手共同努力,為人工智能的發(fā)展把好方向盤,顯然是未來與技術(shù)狂奔向前相伴的另一個主旋律。讓每一個人成為人工智能的使用者、受益者,也讓每一個人成為人工智能的設(shè)計者、治理者。

    【關(guān)于科技云報道】

    專注于原創(chuàng)的企業(yè)級內(nèi)容行家——科技云報道。成立于2015年,是前沿企業(yè)級IT領(lǐng)域Top10媒體。獲工信部權(quán)威認可,可信云、數(shù)博會、國家網(wǎng)安周與全球云計算等大型活動的官方指定傳播媒體之一。深入原創(chuàng)報道云計算、人工智能、大模型、網(wǎng)絡(luò)安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級科技領(lǐng)域。

    免責聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。

    極客網(wǎng)企業(yè)會員

    免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

    2024-08-04
    大模型引領(lǐng)技術(shù)浪潮,AI安全治理面臨“大考”
    科技云報道原創(chuàng)。從文生文到文生圖,再到文生視頻,近年來,以ChatGPT、Sora等為代表的大模型引領(lǐng)了全球人工智能技術(shù)與產(chǎn)業(yè)的新一輪浪潮。2...

    長按掃碼 閱讀全文