原標(biāo)題：從難以普及的數(shù)據(jù)增強(qiáng)技術(shù)，看AI的性價(jià)比時(shí)代

數(shù)據(jù)是AI訓(xùn)練的核心，這一點(diǎn)已經(jīng)被確認(rèn)再確認(rèn)了。雖然數(shù)據(jù)驅(qū)動(dòng)不是AI算法訓(xùn)練的唯一途徑，但在產(chǎn)業(yè)中已經(jīng)出現(xiàn)了很明顯的趨勢(shì)，那些數(shù)據(jù)豐富廉價(jià)的領(lǐng)域，就是會(huì)更容易孕育出AI技術(shù)。像是漢英之間的機(jī)器翻譯能力會(huì)大大強(qiáng)于小語(yǔ)種間的機(jī)器翻譯，數(shù)據(jù)收集更容易的人臉識(shí)別應(yīng)用率也高于虹膜、眼紋等等生物特征的智能識(shí)別。

可以說(shuō)數(shù)據(jù)的缺乏或昂貴，往往是阻礙AI發(fā)展的直接緣由。

當(dāng)然面對(duì)這種情況，也出現(xiàn)了相應(yīng)的技術(shù)解決方案——數(shù)據(jù)增強(qiáng)技術(shù)。

數(shù)據(jù)的有絲分裂，是怎樣進(jìn)行的？

所謂數(shù)據(jù)增強(qiáng)技術(shù)，可以理解為數(shù)據(jù)的繁殖皿，可以讓數(shù)據(jù)進(jìn)行“有絲分裂”，增強(qiáng)樣本擴(kuò)大數(shù)據(jù)集。

以圖像數(shù)據(jù)為例，當(dāng)圖像數(shù)據(jù)不足時(shí)，可以對(duì)圖像進(jìn)行一些輕微的改變，例如裁剪、旋轉(zhuǎn)、鏡像反轉(zhuǎn)、輕微的扭曲、增加噪點(diǎn)、增加遮擋物等等。對(duì)于人類來(lái)說(shuō)，雖然可以一眼識(shí)破兩者之間沒(méi)有區(qū)別。但對(duì)于AI來(lái)說(shuō)，即使幾個(gè)像素點(diǎn)的變動(dòng)，也是全新的數(shù)據(jù)樣本。

而應(yīng)用于文本數(shù)據(jù)，則有互譯和詞向量替換兩種方法。通過(guò)機(jī)器翻譯，將一句話從中文翻譯成英文，再由英文翻譯成中文，就可以實(shí)現(xiàn)語(yǔ)序、同義詞等等的調(diào)整替換，得到語(yǔ)料乘二的效果。以及通過(guò)自然語(yǔ)言生成技術(shù)，將一句話中的不同對(duì)象進(jìn)行劃分并替換生成新的句子。

這些數(shù)據(jù)增強(qiáng)技術(shù)也開(kāi)始通過(guò)深度學(xué)習(xí)的加持逐漸提升效率，例如去年4月谷歌就推出了一項(xiàng)名為AutoAugment的技術(shù)，這一模式設(shè)計(jì)了一個(gè)自動(dòng)搜索空間，利用搜索算法來(lái)確定適合數(shù)據(jù)集的圖像增強(qiáng)策略（例如上述的平移、縮放等等），制定執(zhí)行的順序并且自動(dòng)執(zhí)行。

例如將一個(gè)動(dòng)物照片數(shù)據(jù)集輸入給AutoAugment，AutoAugment通過(guò)計(jì)算會(huì)確定出先平移再剪裁是讓AI對(duì)于數(shù)據(jù)“陌生感”最大化的解決方案，然后開(kāi)始自動(dòng)執(zhí)行。

為什么數(shù)據(jù)增強(qiáng)沒(méi)能普及？AI企業(yè)的成本怪圈

看到了這些解決方案，大家是不是有種“天亮了”感覺(jué)？既然數(shù)據(jù)可以“自我繁殖”，那么數(shù)據(jù)的累積和采集就再也不是AI發(fā)展的阻礙。小語(yǔ)種的翻譯、冷門植物動(dòng)物的識(shí)別都可以快速AI化，巨頭移動(dòng)互聯(lián)網(wǎng)企業(yè)霸權(quán)下的數(shù)據(jù)壟斷也即將被破解……等等，如果數(shù)據(jù)增強(qiáng)技術(shù)有如此之強(qiáng)的能力，這項(xiàng)技術(shù)至少應(yīng)該像BERT一樣在學(xué)術(shù)界和產(chǎn)業(yè)界引起極高的關(guān)注，并且迅速形成產(chǎn)業(yè)鏈。

可實(shí)際上今天我們?nèi)匀荒芸吹酱罅緼I企業(yè)為如何獲取數(shù)據(jù)而憂慮。

為什么數(shù)據(jù)增強(qiáng)技術(shù)沒(méi)能徹底解決他們的問(wèn)題呢？這背后其實(shí)是老生常談的成本問(wèn)題。

數(shù)據(jù)增強(qiáng)技術(shù)從來(lái)都不是免費(fèi)利用的，很多時(shí)候AI技術(shù)接口本身就需要按調(diào)用次數(shù)收費(fèi)，更別提背后的計(jì)算成本和時(shí)間成本了。

就拿文本數(shù)據(jù)經(jīng)常利用的機(jī)器翻譯來(lái)說(shuō)，百度、搜狗、有道等等提供的機(jī)器翻譯服務(wù)對(duì)于普通用戶來(lái)說(shuō)雖然是免費(fèi)的，但是超過(guò)了一定流量值之后也要進(jìn)行收費(fèi)。數(shù)據(jù)增強(qiáng)技術(shù)顯然屬于收費(fèi)范疇之中。曾有知乎用戶表示，幾款主流的機(jī)器翻譯軟件的收費(fèi)標(biāo)準(zhǔn)大概在48元-60元/百萬(wàn)字符不等。對(duì)于企業(yè)來(lái)說(shuō)，這也是一項(xiàng)不小的花銷。

而應(yīng)用于圖片數(shù)據(jù)增強(qiáng)的AutoAugment，更是一種十分昂貴的算法。應(yīng)用時(shí)要對(duì)15000個(gè)模型進(jìn)行收斂，這對(duì)算力的消耗是巨大的。如果以CIFAR-10這樣的對(duì)象作為數(shù)據(jù)集，需要利用英偉達(dá)Tesla P100 GPU計(jì)算幾千個(gè)小時(shí)，以谷歌云的收費(fèi)標(biāo)準(zhǔn)需要花費(fèi)7500美元。

換句話說(shuō)，如果數(shù)據(jù)增強(qiáng)的收費(fèi)成本超過(guò)了人工去拍照收集，企業(yè)自然會(huì)去選擇更劃算的方法。實(shí)際上大多數(shù)時(shí)候企業(yè)既不能覆蓋人工獲取數(shù)據(jù)的成本，也不能覆蓋數(shù)據(jù)增強(qiáng)技術(shù)應(yīng)用的成本。

當(dāng)AI走進(jìn)性價(jià)比時(shí)代

這一現(xiàn)象提醒了我們，AI正在進(jìn)入一個(gè)“性價(jià)比”時(shí)代。

資本對(duì)于AI一擲千金的歲月已經(jīng)過(guò)去，隨著巨頭的AI技術(shù)逐漸產(chǎn)業(yè)化，其他AI企業(yè)已經(jīng)無(wú)法向以前那樣不計(jì)成本的投入。同時(shí)隨著產(chǎn)業(yè)鏈發(fā)展的越來(lái)越完善，AI企業(yè)發(fā)展過(guò)程中的“計(jì)費(fèi)標(biāo)準(zhǔn)”也逐漸清晰起來(lái)。在巨頭占據(jù)市場(chǎng)的情況下，AI企業(yè)很容易看到在未來(lái)業(yè)務(wù)的發(fā)展中究竟經(jīng)歷著哪些成本上的商業(yè)風(fēng)險(xiǎn)。

這時(shí)，幫助降低數(shù)據(jù)增強(qiáng)這一類技術(shù)的應(yīng)用成本就成了一件很重要的事。

例如最近伯克利人工智能研究院就推出了一種群體增強(qiáng)技術(shù)，通過(guò)數(shù)據(jù)結(jié)組方法，更高效地找到數(shù)據(jù)增強(qiáng)策略。相比單純的應(yīng)用AutoAugment，可以提升近千倍的效率。讓很多無(wú)法負(fù)擔(dān)高昂計(jì)算成本的企業(yè)甚至個(gè)人都能利用起數(shù)據(jù)增強(qiáng)技術(shù)。

而這種旨在降低AI研發(fā)成本的技術(shù)，或許未來(lái)會(huì)成為典型。其中的原因在于，谷歌這樣的巨頭企業(yè)，以及OpenAI這樣的研究機(jī)構(gòu)，本身?yè)碛行酆竦馁Y本和資源支持，導(dǎo)致他們?cè)谘邪l(fā)技術(shù)時(shí)，很難會(huì)考慮技術(shù)的“性價(jià)比”。何況很多時(shí)候這些企業(yè)本身也是算力資源的掌握著，他們?cè)谀撤N程度上掌握著技術(shù)與算力之間的定價(jià)權(quán)。從谷歌的角度來(lái)說(shuō)，他們當(dāng)然希望企業(yè)在研發(fā)AI時(shí)需要消耗盡可能多的算力資源，畢竟從算法技術(shù)到云計(jì)算資源都是他們的一套買賣。

如此以往下去，如果技術(shù)的計(jì)算標(biāo)準(zhǔn)和計(jì)算資源都被壟斷，AI企業(yè)在發(fā)展時(shí)會(huì)遇到一條明顯的閾值。一旦超過(guò)這一閾值，AI企業(yè)就會(huì)很難跨越成本，于是直接被攔在門外。甚至科技巨頭可以利用這種方式對(duì)于產(chǎn)業(yè)進(jìn)行間接的操控，舉例來(lái)講，如果谷歌想保護(hù)自己在小語(yǔ)種機(jī)器翻譯上的優(yōu)勢(shì)，只需要提高該語(yǔ)種機(jī)器翻譯應(yīng)用費(fèi)用，就能通過(guò)加大企業(yè)獲取語(yǔ)料數(shù)據(jù)成本的方式，阻礙他們進(jìn)行相關(guān)研究。

在這種情況下，打破壟斷、重塑定價(jià)權(quán)，讓AI研發(fā)更具性價(jià)比，或許能夠打造出一條獨(dú)辟蹊徑的道路。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。