技術并不是惡的化身，只是對人性惡的又一次考驗。

一直以來，關于AI技術和AI倫理的爭辯從未停止，這也是不斷有“技術向善”訴求表達出來的社會現(xiàn)實背景。

或許《黑鏡》的編劇怎么也沒想到，故事中的“戲言”終于一語成讖。

在第四季第二集中，為了更好監(jiān)護自己的女兒，一位母親給她的眼睛植入了芯片控制器，自己可以透過一個類似iPad的硬件查看其身體的各項生命體征，也可以轉(zhuǎn)播它的視覺信號。

換句話說，她的母親可以通過iPad監(jiān)控她的女兒。

冰冷的機器給人定性

抵御AI“入侵”迫在眉睫

如今，這種場景沒有出現(xiàn)在親子之間，而是真實出現(xiàn)在了課堂之上。

近日，一組課堂上學生課堂行為分析的視頻截圖在微博引發(fā)熱議，這張圖片再次刺激了用戶對于在AI技術籠罩下，保護個人隱私倍感無力的神經(jīng)。

照片中，攝像頭通過計算機視覺算法獲取兩名學生的課堂表現(xiàn)，并以標簽的形式計算出“聽講、閱讀、舉手，趴桌子、玩手機、睡覺”等動作次數(shù)，截圖顯示該技術方案來自曠視科技。

趴桌子2次、玩手機2次、睡覺1次、聽講0次、閱讀0次、舉手0次、笑了0次、厭惡表情出現(xiàn)了10次……

最后機器可能得出一個綜合結(jié)論：她這是個有問題的孩子。

用機器去給人定性，AI是否已經(jīng)過度入侵人們的生活了？是否已經(jīng)成為當今社會新的枷鎖？

事實上，隨著AI技術獲取門檻的降低和智慧課堂概念的興起，包括好未來、新東方等諸多教育企業(yè)都將AI技術應用在對學生表情、肢體動作的識別中，來了解學生對學習專注的情況。

這類應用的設計之初，只是為了幫助老師了解課堂授課反饋情況、幫助學生提高學習效率。但同時，學生個人信息數(shù)據(jù)被大量獲取和存儲，也引發(fā)用戶對隱私安全的擔憂。

可以看到，AI發(fā)展至今在人權和隱私權等權利的保護方面仍然缺乏清晰邊界，同時缺乏相關法律法規(guī)對AI應用更為明確的規(guī)范。

如今，AI“入侵”中國教育體系已經(jīng)到了令人擔憂的地步，貴州省仁懷市第十一中學的學生們現(xiàn)在都穿上了“智能校服”。

這套智能校服能精準、及時記錄學生的出勤和活動。只要身著這套校服，學生進出校門的準確時間，就會自動發(fā)送給學校老師和家長。如果未經(jīng)許可出校門，也會激活自動語音報警器。

而且校服還會配合校門口的智能攝像頭一起使用，假如學生互換校服，警報也會響起。總之，人臉、校服和攝像頭，三合一確保學生身份。

與這一應用類似，之前亞馬遜被曝光構建了一套AI系統(tǒng)，可以追蹤每一名物流倉儲部門員工的工作效率，統(tǒng)計每一名員工的“摸魚”時間，然后自動生成解雇的指令。

亞馬遜曾經(jīng)用AI來決定招人與否，不過最終因為反對的聲浪而廢止，但現(xiàn)在亞馬遜用AI來決定該不該解雇一個員工。而更令人震驚的是，亞馬遜的系統(tǒng)還能管理和限制員工離開崗位的時間。

換句話說，亞馬遜的員工是去是留，全由一個沒有感情、冰冷的自動化程序全權操控。

特斯拉CEO馬斯克之前的“AI威脅論”今天看來并非危言聳聽，但其可怕之處并非來自于AI本身，更多的則來自于人類對于AI的態(tài)度。

隱私保護長路漫漫

AI面前需保持克制與敬畏之心

人工智能這個人類一手締造的尤物，就如同《機械姬》中的美女，如此強烈地誘惑者人類，但當美女撕下面皮露出鋼鐵的內(nèi)部時，她又是那么的可怖。

人類本應該讓技術服務于人類，如今卻將這套固化標準用在了自己身上，到底是技術解放了人類，還是技術奴役了人類？

在AI面前，我們更多的需要保持克制以及對技術的敬畏之心。在這方面，國外正在出現(xiàn)一股抵御AI的風潮。

與國內(nèi)對人臉識別大部分的正向宣傳相反，由于人臉識別技術在有色人種、民族、兒童老人等維度的準確率方面存在巨大差異，人臉識別技術應用在國外的推廣略顯艱難。

作為國外反人臉識別風潮中最有名的攻擊對象，曾被美國警方使用的亞馬遜計算機視覺平臺 Rekognition，被自家股東在今年年初開始持續(xù)施壓，他們強制要求亞馬遜停止向執(zhí)法部門出售人臉識別軟件。

而這股風潮也在今年8月初吹到了英國，有房地產(chǎn)商在倫敦國王十字區(qū)安裝了人臉識別硬件后遭到強烈反對，因為后者對此毫不知情。

在美國，這項技術正面臨著來自立法者越來越大的阻力。加利福尼亞州參議院正在考慮立法禁止在警用隨身攝像機中使用人臉識別軟件，而舊金山監(jiān)事會也已經(jīng)開始禁止執(zhí)法部門使用這項技術。

因此，包括亞馬遜、谷歌等在內(nèi)的技術公司雖然很不情愿，認為“新技術不應該因為可能被濫用而遭到禁止和譴責”，但卻達成了一個共識：

制定相關合乎道德的指導方針，要跑在真正能使用這項技術之前。

一個明確的監(jiān)管框架不僅能確保人臉識別只用于完成合法的任務，也能夠幫助消費者理解這項技術的好處。讓人臉識別“走上正路”，一邊是法律的強勢介入，而另一邊則是來自民間個人的智慧。

如何保護隱私？這個問題存在很長時間，但似乎無解。因為所處的環(huán)境不同，以及每個人對隱私的定義也不同，導致我們不能做過多解讀。

援引美國獨立研究員Stephanie Hare的話來解釋，人臉識別系統(tǒng)的最大問題之一是涉及到生物特征數(shù)據(jù)，也就是人體信息，這無疑與人們的隱私有關。

但這次曠視引發(fā)的討論中，有小部分人對這種做法是否真的侵犯了隱私提出了質(zhì)疑。

比如，既然家長可以把學生的情況反映給家長，為什么機器不能匯集更豐富的信息給家長？未成年人到底有沒有獨立于成年人的隱私權？一系列道德與倫理問題接踵而來。

從本質(zhì)來看，這些質(zhì)疑聲恰恰凸顯出隨著技術發(fā)展，法律一定要強勢介入的必要性。

但是每次涉及到隱私問題，我們的擔憂都會在一次集中爆發(fā)后，又迅速銷聲匿跡。

隨著換臉軟件Zao的使用熱度過去，對AI教室監(jiān)控產(chǎn)品的討伐聲結(jié)束，大概對隱私被侵犯的控訴仍然會不了了之。

回到這個問題上，當學生們即便同意自己的身體信息被收集和分析，那么參與方有沒有征求過這些機器直接作用方的意見呢？孩子們會不會在這樣隱形的壓力下學會裝模作樣，學會接受把這套機器用在下一代身上？

在一切還尚未有明確答案之前，我們更應該讓隱私保護問題引起更多人的重視并推動相關法律的確立。

對于如何看待用AI技術監(jiān)視學生上課這一行為，我們認為，這不是產(chǎn)品經(jīng)理或者程序員的問題，不是一家公司的問題，更不是一個技術問題。

這是整個社會的價值觀的問題，是我們怎么看待自身權益的問題。

微信公眾賬號：科技云報道

來源：科技云報道

生成海報

免責聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關。文章僅供讀者參考，并請自行核實相關內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。