我們正淹沒(méi)在大數(shù)據(jù)的河流里，數(shù)據(jù)之間的相互關(guān)系蘊(yùn)含著豐富的信息，但也常常被我們忽略。本文中，加州大學(xué)圣克魯茲分校計(jì)算機(jī)科學(xué)系教授、美國(guó)人工智能學(xué)會(huì)(AAAI)院士Lise Getoor講述了圖識(shí)別是如何依靠數(shù)據(jù)做出推理的，并給出了自己對(duì)于概率軟性邏輯PSL優(yōu)越性和可能應(yīng)用的看法。Lise Getoor表示我們還需要對(duì)圖進(jìn)行更多的機(jī)器學(xué)習(xí)，考慮各種關(guān)聯(lián)結(jié)點(diǎn)之間的復(fù)雜關(guān)系。

南加州大學(xué)圣克魯茲分校計(jì)算機(jī)科學(xué)系教授Lise Getoor

(以下為L(zhǎng)ise Getoor教授分享的精簡(jiǎn)版文字整理)

我們正淹沒(méi)在大數(shù)據(jù)的河流里，大數(shù)據(jù)并非是平的，而是多模態(tài)、多關(guān)系、兼具時(shí)空、多媒體的。目前的AI技術(shù)，特別是機(jī)器學(xué)習(xí)，它將豐富復(fù)雜數(shù)據(jù)平放到矩陣的形式當(dāng)中。我們當(dāng)下所做的一些工作很可能忽視了數(shù)據(jù)當(dāng)中的很多豐富信息，其中很重要的一點(diǎn)就是錯(cuò)誤假設(shè)了數(shù)據(jù)之間的相互關(guān)系。作為研究者和開(kāi)發(fā)者，我們需要考慮到這些圖的結(jié)構(gòu)和相關(guān)的環(huán)境因素。

我想首先和大家說(shuō)說(shuō)三種常見(jiàn)的圖數(shù)據(jù)推理模式，最簡(jiǎn)單的一種叫做協(xié)同分類。如果一個(gè)圖的部分結(jié)點(diǎn)已經(jīng)有標(biāo)簽，我們就可以推理出其結(jié)點(diǎn)的標(biāo)簽。社交網(wǎng)絡(luò)就是很典型的例子，其中包含著非常豐富的信息和聯(lián)系，通過(guò)信息和數(shù)據(jù)去做推理可以得出某位朋友的飲食習(xí)慣或其他偏好?；跀?shù)據(jù)在已有的信息，設(shè)置不同的權(quán)重，我們能夠做一些簡(jiǎn)單的推理，充分利用本地信息和標(biāo)簽，再去推理出一些之前沒(méi)有加入的標(biāo)簽信息。

第二種叫做鏈接預(yù)測(cè)，我們不僅僅可以預(yù)測(cè)某一個(gè)結(jié)點(diǎn)的標(biāo)簽，還可以推斷結(jié)點(diǎn)之間的鏈接。比如說(shuō)有一個(gè)通訊網(wǎng)絡(luò)，我們能夠通過(guò)通訊信息推理出網(wǎng)絡(luò)中所有人的層級(jí)，并通過(guò)不同種類的信息判斷不同人之間的關(guān)系。

第三種是實(shí)體解析，任務(wù)是確定哪些結(jié)點(diǎn)指向同樣的實(shí)體，我們就能從中獲得一些信息。

對(duì)我個(gè)人而言，我最喜歡的圖推理問(wèn)題是圖識(shí)別(發(fā)現(xiàn)可觀察圖結(jié)構(gòu)所潛含的真實(shí)圖結(jié)構(gòu))，它能夠把上面提到的的三個(gè)小模型結(jié)合到一起。還是以郵件通訊網(wǎng)絡(luò)為例，通過(guò)對(duì)郵件信息進(jìn)行推理就可以發(fā)現(xiàn)這幾個(gè)人之間的關(guān)系及角色。我們需要對(duì)每一個(gè)信息進(jìn)行研究，研究他們的實(shí)體狀況和郵件狀況。具體做法是首先對(duì)這些人進(jìn)行分組，對(duì)之間的關(guān)系進(jìn)行預(yù)測(cè)，并對(duì)實(shí)體身份做出判斷。這其中也存在非常大的挑戰(zhàn)，如何打造一個(gè)非常魯棒的算法來(lái)理清其中的人物關(guān)系非常重要。

目前，統(tǒng)計(jì)學(xué)研究也在開(kāi)發(fā)相應(yīng)的算法，例如概率性推理和關(guān)系推理。有一個(gè)工具叫概率軟性邏輯PSL，它是一種概率編程語(yǔ)言，即用描述性的語(yǔ)言對(duì)圖上的問(wèn)題進(jìn)行描述。這個(gè)基礎(chǔ)是，我們有屬性、關(guān)系的邏輯表示，還有規(guī)則和約束來(lái)捕捉他們的依賴關(guān)系。PSL是一個(gè)這樣的存在，它根據(jù)模板和數(shù)據(jù)來(lái)定義他們之間的概率分布用于推斷。

PSL比較有意思的一點(diǎn)是，它通過(guò)將邏輯規(guī)則映射為凸函數(shù)，實(shí)現(xiàn)了大規(guī)模推斷的可擴(kuò)展性。更有意思的是，這個(gè)映射的合理性是用已有的理論計(jì)算機(jī)科學(xué)的結(jié)論證明的，用MAX SAT的近似隨機(jī)算法結(jié)合統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、圖模型方面的理論。之后我們就可以將從理論計(jì)算機(jī)科學(xué)當(dāng)中的一些東西轉(zhuǎn)化到實(shí)際的圖識(shí)別應(yīng)用當(dāng)中去，最后將這種軟性的邏輯和AI進(jìn)行結(jié)合，在不同的情景下，很多時(shí)候你們會(huì)得到同樣的優(yōu)化結(jié)果。在我看來(lái)，我覺(jué)得我們現(xiàn)在能看到的這些東西僅僅是冰山一角，我們稱之為叫Hinge-loss馬爾科夫隨機(jī)域。在這里有包含著很多具體微小的細(xì)節(jié)，每一個(gè)邏輯規(guī)則實(shí)際上都和某一個(gè)函數(shù)是相關(guān)的，相關(guān)的函數(shù)實(shí)際上都會(huì)造成一定的依賴損失。

在圖識(shí)別領(lǐng)域，PSL在推理速度和準(zhǔn)確度上的表現(xiàn)和離散的馬爾科夫規(guī)則相比都要更好，且從數(shù)據(jù)當(dāng)中學(xué)習(xí)權(quán)重和變量的效果也更加出色。由此PSL可以衍生出很多具體的應(yīng)用，首先是分類問(wèn)題。以在線討論為例，PSL通過(guò)觀察大家討論的文字內(nèi)容和行為數(shù)據(jù)，就能夠很好地來(lái)預(yù)測(cè)用戶的觀點(diǎn)。再比如大數(shù)據(jù)和AI領(lǐng)域常常需要聚合信息做推薦、預(yù)測(cè)甚至打分，我們有來(lái)自社交互動(dòng)、圖像方面的各種信息，其實(shí)這些信息中存在一定的相似性。PSL的優(yōu)勢(shì)就在于它具有非常好的擴(kuò)展性，特別是邏輯相似性較高的情況下擴(kuò)展也會(huì)更加容易。

另外一個(gè)領(lǐng)域可能和安全相關(guān)，通過(guò)研究社交媒體當(dāng)中的垃圾郵件可以進(jìn)行協(xié)同推斷，哪些可能是垃圾郵件。還有一個(gè)問(wèn)題是如何把視覺(jué)的、文本的、關(guān)系的數(shù)據(jù)全部融合起來(lái)，去推測(cè)使用用戶的個(gè)性。我們把所有的信息結(jié)合起來(lái)就能夠預(yù)測(cè)一些人口學(xué)特征，比如性別、年齡，同時(shí)還可以預(yù)測(cè)人們?cè)谏缃幻襟w當(dāng)中的信任。

最后我想和大家分享有關(guān)知識(shí)圖的建構(gòu)，如何獲取足夠多的數(shù)據(jù)來(lái)實(shí)現(xiàn)知識(shí)的自動(dòng)架構(gòu)是一項(xiàng)長(zhǎng)期以來(lái)的挑戰(zhàn)。我們能夠結(jié)合統(tǒng)計(jì)學(xué)的數(shù)據(jù)信息以及一些相對(duì)簡(jiǎn)單的語(yǔ)義信息，把它們和我開(kāi)始提出的圖識(shí)別問(wèn)題結(jié)合起來(lái)，并在做圖識(shí)別時(shí)找到它的結(jié)點(diǎn)、標(biāo)簽以及結(jié)點(diǎn)之間的關(guān)系，在此之上可以再融入一些本體的限制，同時(shí)還可以融入一些關(guān)于信息和其他來(lái)源的數(shù)據(jù)。把它們相結(jié)合能夠產(chǎn)生比較好的效果，而且速度可以得到顯著提升。

我們需要對(duì)圖進(jìn)行更多的機(jī)器學(xué)習(xí)，考慮各種關(guān)聯(lián)結(jié)點(diǎn)之間的復(fù)雜關(guān)系。另外，當(dāng)我們?cè)谧鰯?shù)據(jù)驅(qū)動(dòng)技術(shù)時(shí)需要思考究竟什么才是負(fù)責(zé)任的數(shù)據(jù)科學(xué)，如何檢查數(shù)據(jù)并通過(guò)算法做出決策。我個(gè)人對(duì)PSL感到興奮的原因就在于它的邏輯規(guī)則確實(shí)比一大批權(quán)重或是參數(shù)的算法更加容易解釋。這個(gè)領(lǐng)域會(huì)有一些隱私和安全性的問(wèn)題，這值得我們進(jìn)一步研究;相伴而生的還有很多機(jī)遇，有更多社會(huì)、商業(yè)、科學(xué)、安全以及其他方面的應(yīng)用可以去發(fā)現(xiàn)、去探索。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。