極客網(wǎng)·人工智能10月31日 英國信息委員會（ICO）日前向科技領袖發(fā)出警告，最好不要購買情感分析AI工具，因為這種技術并不像人們想象的那樣有效，還有可能導致AI偏見和歧視。采用了這種技術的企業(yè)可能面臨數(shù)據(jù)監(jiān)管機構(gòu)的審查和監(jiān)管，除非他們能證明該技術的有效性。
情緒分析技術采用了許多生物特征數(shù)據(jù)點，包括注視跟蹤、情緒分析、面部運動、步態(tài)分析、心跳、面部表情和皮膚水分水平等，并試圖利用這些數(shù)據(jù)來確定或預測某人的情緒狀態(tài)。
英國信息委員會副信息專員Stephen Bonner表示，問題在于沒有證據(jù)表明這種方法確實有效，而且有很多證據(jù)表明它并不可靠。如果企業(yè)依賴于采用情感分析AI工具的調(diào)查結(jié)果，這更有可能導致錯誤的結(jié)果，從而造成傷害。
他警告，如果一家公司在工作中采用了情緒分析AI工具，那么它受到調(diào)查的門檻將會“非常低”。
“有時候當新技術被推廣時，人們就會想，‘讓我們拭目以待，并獲得雙方的理解’，對于其他合法的生物識別技術，我們絕對會這么做。但就情感分析AI而言，沒有合法證據(jù)表明這種技術可以發(fā)揮作用。我們將極為密切地關注這一問題，并愿意更迅速地采取有力的行動。責任在于那些選擇利用這一點向所有人證明這是值得的，因為無罪推定似乎根本沒有科學依據(jù)。”他補充道。
情感分析AI在某些情況下是有用的
但Bonner表示，有一些例子表明這項技術已經(jīng)被應用或建議作為一個用例，包括通過提供可穿戴工具來監(jiān)測工作人員的情緒和健康狀況，以及使用各種數(shù)據(jù)點來記錄和預測潛在的健康問題。
但是，尚未成熟的檢測情緒線索的算法將導致系統(tǒng)性偏見、不準確和歧視的風險。該技術依賴于收集、存儲和處理大量的個人數(shù)據(jù)，其中包括潛意識的行為或情緒反應。這種數(shù)據(jù)使用的風險遠遠高于用于驗證或識別個人身份的傳統(tǒng)生物識別技術。
需要指出的是，英國信息委員會并沒有禁止使用這類技術，只是發(fā)出警告，由于涉及風險，實施這樣技術的企業(yè)將受到審查。只要有明確的聲明，用戶可以將它作為噱頭或娛樂工具使用。
Bonner說：“在生物測量和推斷結(jié)果意圖之間有一些區(qū)別。我認為，可以通過某人的聲音來檢測他的壓力水平，這是有道理的。但是從這一點上來說，如果就這樣判定他是騙子就有些太過分了。我們不會禁止使用AI來判斷誰看起來不安的做法，但如果只是一些人感到不安，不推斷他們試圖通過自己的生物特征進行欺詐，那么這種做法是錯誤的?！?nbsp;
生物識別技術的跨行業(yè)影響
生物識別技術預計將對各行業(yè)領域產(chǎn)生重大影響，從金融服務公司通過面部識別驗證人類身份，到使用語音識別代替密碼訪問服務。
英國信息委員會正在與Ada Lovelace研究所和英國青年委員會合作制定新的生物識別指南。該指南將會“以人為本”，預計將于明年春季對外發(fā)布。
艾倫·圖靈研究所的倫理研究員Mhairi Aitken博士對英國信息委員會的警告表示歡迎，但他指出，同樣重要的是要審視這些系統(tǒng)的開發(fā)，并確保開發(fā)人員采取符合倫理的方法，并在有需要的地方創(chuàng)建和使用工具。
她說：“開發(fā)技術或新應用程序的道德方法必須從哪些人可能是受影響的社區(qū)開始，并讓他們參與這個過程，看看它在部署的環(huán)境中是否真的合適。這個過程讓我們有機會意識到可能沒有預料到的任何危害?！?/p>
情感檢測AI是一種真正的傷害風險
Aitken博士表示，這種AI模型可能造成的危害是巨大的，特別是對那些可能不符合構(gòu)建預測模型時開發(fā)的模型的人來說。她補充說：“這是一個非常復雜的領域，要開始思考我們?nèi)绾螌⑦@樣的事情實現(xiàn)自動化，并能夠考慮到文化差異和情感差異?！?nbsp;
Aitken博士指出，AI系統(tǒng)很難確定在不同環(huán)境下什么的情緒反應是合適的，“我們表達情感的方式非常不同，這取決于我們和誰在一起以及所處的環(huán)境。此外，還需要考慮這些AI系統(tǒng)是否能夠充分考慮人們的情緒表現(xiàn)方式。”
Bonner表示，在娛樂中使用情感AI工具的危害很小，但Aitken博士警告說，這種用例有其自身的風險，包括人們開始習慣于采用這項技術并認為它確實有效?！叭绻褂?，除非明確地貼上娛樂的標簽?！?/p>
Bonner補充說，當涉及到情感AI時，問題在于每個人之間有太多的數(shù)據(jù)點和差異，因此難以開發(fā)一個理想模型。有關這一點已經(jīng)在多篇關于該技術的研究論文中得到了證明?！叭绻腥苏f，‘我們已經(jīng)解決了問題，可以做出準確的預測’，那么他們可能會創(chuàng)造奇跡，但我認為這種事情不會發(fā)生?！?/p>
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
