原標題:八卦的AI,可知道你是直還是彎
從坐姿可以看出性取向,逗樂嗎?
文 | 柯鳴
來源 | 智能相對論(aixdlun)
八卦,似乎一直是人類茶余飯后的一個永恒的話題,怎么辨別一個人與另一個人的關系?比如是好朋友還是好基友?
但是,這一切私密的問題,AI已經能夠做到精確識別了,這也著實引起了一波恐慌。就在此前,斯坦福大學兩名研究人員開發(fā)了一個神經網絡,可以通過研究一個面部圖像來檢測一個人的性取向。
研究人員訓練了超過35,000張面部圖像的神經網絡,在同性戀和異性戀之間平均分配。該算法的追蹤涉及了遺傳或激素相關的特征。
這項研究的關鍵在于影響性取向的產前激素理論(PHT)。這個理論具體講的是,在子宮中,對性分化負責的主要是雄性激素,也是以后生活中同性戀取向的主要驅動力。研究還指出,這些特定的雄性激素會在一定程度上影響面部的關鍵特征,這意味著某些面部特征可能與性取向有關。
研究發(fā)現(xiàn),男女同性戀傾向于具有“非典型性別特征”,也就是說男同性戀通常趨向于女性化,而女同性戀反之亦然。此外,研究人員發(fā)現(xiàn)男同性戀通常擁有比直男更窄的下巴、更長的鼻子以及更大的前額,而女同性戀會擁有更大的下巴和更小的前額。
圖片來源:TechCrunch
隨機選擇一對圖像,一名同性戀男子和一名異性戀男子,機器挑選受試者的性取向準確率高達80%。而當與同一人的五張圖像同時呈現(xiàn)對比時,精確度高達91%。不過,對于女性而言,預測準確率相對較低,一幅圖像準確率為71%,有5幅圖像,則上升至83%。
這一切都讓人們感到了恐懼,AI識別人類性取向,無疑是涉及到了隱私部分,這確實是讓人有所畏懼。而存儲在社交網絡和政府數(shù)據庫中的數(shù)十億公共數(shù)據將有可能在未獲得本人許可的情況下被用來進行性取向識別,這也是有待商榷的。
除了識別性取向,還可以辨別人物關系
但是,這類型的研究還在繼續(xù)。中山大學的一個團隊可以通過數(shù)據集來識別人物關系。比如是這樣:
又或者是這樣:
而這一切,基于研究者們訓練了的圖推理模型(Graph Reasoning Model,GRM),由該模型結合門控圖神經網絡(Gated Graph Neural Network,GGNN)對社會關系進行處理。
基于此,AI能夠識別圖片中三者之間的關系,根據圖上人物區(qū)域的特征來初始化關系節(jié)點,然后用預先訓練的Faster-RCNN探測器搜索圖像中的語義對象,并提取其特征,初始化相應的對象節(jié)點;通過圖傳播節(jié)點消息以充分探索人與上下文對象的交互,并采用圖注意機制自適應地選擇信息量最大的節(jié)點,以通過測量每個對象節(jié)點的重要性來促進識別。
但是,在實際表現(xiàn)中,AI識別并未盡如人意。如警方在歐冠決賽采用AI面部識別匹配潛在犯罪圖像,其錯誤率高達92%,而在人物關系和性取向識別領域,其應用表現(xiàn)也并不優(yōu)秀。
性取向被識別后,AI倫理的邊界又在哪里?
《紐約客》曾有這樣一期封面:機器人已經成為了地球的主角,人類只能蹲在地上接受機器人的施舍。每一個新技術都會引發(fā)大家的擔心,但以往更多是人的體力的延伸,而如若是腦力的延伸、人類隱私的延伸,這種擔憂將會更加嚴重。智能相對論(aixdlun)分析師柯鳴認為,性取向識別前,AI還需要解決倫理上的幾大問題。
1.僅靠面部識別太草率
《人格與社會心理學》雜志曾對斯坦福的這個研究,指出深層神經網絡比人類在通過圖像檢測性取向判斷中更準確,研究涉及建立一種計算機模型,以識別研究人員將其稱作為同性戀者的“非典型”特征。
在摘要中,研究人員寫道,“我們認為人們的臉部特征包涵了更多人腦所無法判斷的性取向特征。根據一張圖片,系統(tǒng)(classifier)可以以81%的準確率區(qū)分男性同性戀者,74%的準確率區(qū)分女性同性戀者,這比人腦可以完成的判斷準確率都要高。”
但是,在距離應用過程中,僅以面部構造識別似乎并沒有那么“靠譜”。技術無法識別人們的性取向,所謂的技術未來只是識別出網絡中同性戀者頭像存在相似的某種模式。
而且,此研究存在的一個問題在于,研究的機制是通過兩張圖片二選一其中最讓機器覺得“更可能是同性戀”的照片,這種對比判斷其實是從 50% 的隨機幾率開始計算的,因此與單純對一張圖的分析有著很大的區(qū)別。
這其實就造成了一個問題,在真正人類識別的時候,其準確率有多少,而這種非此即彼的識別方式,其評判標準仍有許多地方需要商榷。
2.算法歧視依然是個“大問題”
算法歧視,一直是人工智能應用過程中的一大問題,以搜索為例,在谷歌上搜索“CEO”,搜索結果中沒有一個是女性,也沒有一個是亞洲人,這是一種潛在的偏見。
顯然,人工智能也并不是真的純“人工”。 機器學習的方式和人類學習一樣,從文化中提取并吸收社會結構的常態(tài),因此其也會再建、擴大并且延續(xù)我們人類為它們設下的道路,而這些道路,一直都將反映現(xiàn)存的社會常態(tài)。
而無論是根據面容來判斷一個人是否誠實,或是判斷他的性取向,這些算法都是基于社會原有生物本質主義(biological essentialism),這是一種深信人的性取向等本質是根植于人身體的理論。畢竟,一個AI工具通過數(shù)據積累和算法模型可以通過照片判斷一個人的性取向,系統(tǒng)準確率高達91%,這其中所帶來的性取向偏見是不能低估的。
今年年初,來自巴斯大學和普林斯頓大學的計算機科學家就曾用類似IAT(內隱聯(lián)想測驗)的聯(lián)想類測試來檢測算法的潛在傾向性,并發(fā)現(xiàn)即使算法也會對種族和性別帶有偏見。甚至,連Google 翻譯也難逃偏見,算法“發(fā)現(xiàn)”并“學習”了社會約定俗成的偏見。當在特定語言環(huán)境中,一些原本是中性的名詞,如果上下文具有特定形容詞(中性),它會將中性詞轉而翻譯為“他”或“她”。
如今的人工智能還基本局限于完成指定任務,而有時候許多實際應用內容不是非此即彼的,在許多抉擇中,人類選擇依然存在道德困境,如若將決定權交與算法,其存在的詬病之處更是不言而喻。
3.數(shù)據使用,掌握“火候”是關鍵
如果說讓AI野蠻生長是為了解決人們工作效率的問題,那么當人工智能逐漸落地于各行業(yè)后,“體面”已經逐漸取代效率,成為AI應用的關鍵詞。
當然,如果企業(yè)能夠全方位的保護用戶隱私,這既有著技術上難度,也缺乏一定商業(yè)驅動力,因此,目前來看,如果平衡兩者之間的關系才是關鍵。
實際上,在牽制巨頭破壞用戶隱私方面,歐洲國家已經走得很遠,這體現(xiàn)在這些年他們與Facebook、Google等巨頭對抗的一個個集體訴訟案例中:
2014年8月,F(xiàn)acebook在歐洲遭6萬人起訴,一位奧地利隱私保護人士發(fā)起了一項針對Facebook歐洲子公司的大范圍集體訴訟,指控Facebook違背了歐洲數(shù)據保護法律,F(xiàn)B被質疑參與了美國國家安全局的“棱鏡”項目,收集公共互聯(lián)網使用的個人數(shù)據。
今年1月初,德國政府一家數(shù)據保護機構周三表示,該機構已針對Facebook采取法律行動,指控Facebook非法讀取并保存不使用該社交網站的用戶的個人信息。德國漢堡數(shù)據保護辦公室專員表示,由于Facebook在未經許可的情況下收集并保存不使用該社交網站的用戶個人信息,這有可能導致Facebook被罰款數(shù)萬歐元。
顯然,目前用戶對于自身數(shù)據的保護意識正在不斷加強,其在不斷保護自身數(shù)據的同時也加強隱私防范。畢竟,AI識別性取向目前只是研究而沒有落地產品。
而且,從網站上扒圖并不是什么技術活,讓機器做選擇題的概念,也像極了十多年前哈佛某個宅男做的校園選美網站。其中滋味,冷暖自知吧。
智能相對論(微信id:aixdlun):深挖人工智能這口井,評出咸淡,講出黑白,道出深淺。重點關注領域:AI+醫(yī)療、機器人、智能駕駛、AI+硬件、物聯(lián)網、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機交互等。
- 蜜度索驥:以跨模態(tài)檢索技術助力“企宣”向上生長
- 美媒聚焦比亞迪“副業(yè)”:電子代工助力蘋果,下個大計劃瞄準AI機器人
- 微信零錢通新政策:銀行卡轉入資金提現(xiàn)免手續(xù)費引熱議
- 消息稱塔塔集團將收購和碩印度iPhone代工廠60%股份 并接管日常運營
- 蘋果揭秘自研芯片成功之道:領先技術與深度整合是關鍵
- 英偉達新一代Blackwell GPU面臨過熱挑戰(zhàn),交付延期引發(fā)市場關注
- 馬斯克能否成為 AI 部部長?硅谷與白宮的聯(lián)系日益緊密
- 余承東:Mate70將在26號發(fā)布,意外泄露引發(fā)關注
- 無人機“黑科技”亮相航展:全球首臺低空重力測量系統(tǒng)引關注
- 賽力斯發(fā)布聲明:未與任何伙伴聯(lián)合開展人形機器人合作
- 賽力斯觸及漲停,汽車整車股盤初強勢拉升
免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。