作者：靜態(tài)不靜芷

在過(guò)去的幾年里，機(jī)器學(xué)習(xí)和人工智能在準(zhǔn)確性方面取得了巨大的進(jìn)步。 然而，受監(jiān)管的行業(yè)（如銀行）仍然猶豫不決，往往優(yōu)先考慮法規(guī)遵從性和算法解釋的準(zhǔn)確性和效率。 有些企業(yè)甚至認(rèn)為這項(xiàng)技術(shù)不可信，或者說(shuō)是危險(xiǎn)的。

在2008年金融危機(jī)期間，銀行業(yè)認(rèn)識(shí)到，他們的機(jī)器學(xué)習(xí)算法是基于有缺陷的假設(shè)。 因此，金融體系監(jiān)管機(jī)構(gòu)決定需要額外的控制措施，并引入了對(duì)銀行和保險(xiǎn)公司進(jìn)行“模式風(fēng)險(xiǎn)”管理的監(jiān)管要求。

銀行也必須證明他們理解他們所使用的模型，所以，令人遺憾但是可以理解的是，他們有意地限制了他們技術(shù)的復(fù)雜性，采用了簡(jiǎn)單和可解釋性高于一切的廣義線性模型。

如果你想建立對(duì)機(jī)器學(xué)習(xí)的信任，可以嘗試像人一樣對(duì)待它，問(wèn)它同樣的問(wèn)題。

為了信任AI和機(jī)器學(xué)習(xí)提供的建議，來(lái)自所有行業(yè)的企業(yè)需要努力更好地理解它。 數(shù)據(jù)科學(xué)家和博士不應(yīng)該是唯一能夠清楚地解釋機(jī)器學(xué)習(xí)模型的人，因?yàn)檎?a href="http://worldfootballweekly.com/AI_1.html" target="_blank" class="keylink">AI理論家Eliezer Yudkowsky所說(shuō)的那樣：“到目前為止，人工智能的最大危險(xiǎn)在于人們過(guò)早地認(rèn)為他們了解這項(xiàng)技術(shù)。

信任需要人為的方法

當(dāng)數(shù)據(jù)科學(xué)家被問(wèn)及機(jī)器學(xué)習(xí)模型是如何作出決定的時(shí)候，他們傾向于使用復(fù)雜的數(shù)學(xué)方程式去解答，使得外行人目瞪口呆，也不知道可以如何信任這個(gè)模型。 以與人類決策相同的方式來(lái)處理機(jī)器學(xué)習(xí)決策，會(huì)不會(huì)更有成效？ 正如Udacity聯(lián)合創(chuàng)始人塞巴斯蒂安·特倫（Sebastian Thrun）曾經(jīng)說(shuō)的：“人工智能幾乎算得上是一門人文學(xué)科。 這實(shí)際上是一種理解人類智力和人類認(rèn)知的嘗試?！?/p>

所以，不要用復(fù)雜的數(shù)學(xué)方程來(lái)確定信貸員員如何做出決定，而只是簡(jiǎn)單地問(wèn)：“貸款申請(qǐng)表上哪些信息對(duì)您的決定最重要？或者，“什么值表示風(fēng)險(xiǎn)的高低，以及您是如何決定接受或者拒絕一些特定的貸款申請(qǐng)的？

可以采用同樣的人為方法去確定算法如何做出類似的決定的。例如，通過(guò)使用稱為特性影響的機(jī)器學(xué)習(xí)技術(shù)，可以確定循環(huán)效用余額，申請(qǐng)人的收入以及貸款目的是信貸員算法的前三個(gè)最重要的信息。

通過(guò)使用稱為原因代碼的能力，人們可以看出每個(gè)貸款申請(qǐng)人的詳細(xì)資料的估計(jì)中最重要的因素，并且通過(guò)利用稱為部分依賴的技術(shù)，可以看到該算法將較高收入貸款申請(qǐng)的風(fēng)險(xiǎn)等級(jí)評(píng)為較低。

客觀性，可擴(kuò)展性和可預(yù)測(cè)性的價(jià)值

通過(guò)分析機(jī)器如何像人類一樣做出決策可以使人類更好地理解人工智能和機(jī)器學(xué)習(xí)，此外，人類還可以通過(guò)認(rèn)識(shí)到技術(shù)的獨(dú)特能力來(lái)獲得對(duì)人工智能和機(jī)器學(xué)習(xí)信任，包括：

不要懷疑AI或機(jī)器學(xué)習(xí)的建議，讓我們通過(guò)詢問(wèn)我們要求人類的相同推理問(wèn)題來(lái)更好地理解它們。讓我們認(rèn)識(shí)到技術(shù)在降低數(shù)據(jù)異?？尚哦确矫娴目陀^能力，以及為當(dāng)今海量數(shù)據(jù)提供可擴(kuò)展的靈活性的能力。

也許最重要的是，讓我們承認(rèn)AI和機(jī)器學(xué)習(xí)的能力，通過(guò)利用缺少的信息來(lái)更好地預(yù)測(cè)未來(lái)的結(jié)果。因?yàn)殡m然技術(shù)確實(shí)足夠強(qiáng)大以至于需要警惕和正式的監(jiān)管，但如果能夠建立一個(gè)正確的理解和信任水平，消費(fèi)者和企業(yè)都只會(huì)受益。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。