在上一章中我們簡短回顧了目標檢測在過去的二十年中如何從傳統(tǒng)滑窗算法到基于深度神經(jīng)網(wǎng)絡(luò)的全新領(lǐng)域,點擊回顧。這次,我們來分享一些近年涌現(xiàn)的各類優(yōu)化技術(shù),正是這些技術(shù)讓目標檢測一再提速,從而能在工程上應(yīng)用到各類設(shè)備中。
好快!比高鐵加速還快!
目標檢測的加速技術(shù)
目標檢測速度的提升一直是一個重要而又具有挑戰(zhàn)性的問題。在過去的20年里,目標檢測領(lǐng)域已經(jīng)發(fā)展了許多復(fù)雜的加速技術(shù)。接下來我們簡要介紹“輕量化網(wǎng)絡(luò)設(shè)計”、“數(shù)值加速”、“特征檢測優(yōu)化”、“語義分割”等重要優(yōu)化方法。
輕量網(wǎng)絡(luò)設(shè)計
基于 CNN 檢測器的輕量化方法是直接設(shè)計一個輕量級的網(wǎng)絡(luò),而不是使用現(xiàn)成的檢測引擎。研究人員長期以來一直在探索網(wǎng)絡(luò)的正確配置,以便在有限的時間成本下獲得準確性。一個通用的設(shè)計原則是“更少的通道,更多的層(fewer channels and more layers)”[1]。
此外,近年來也有一些新的技術(shù),見下圖:
分解卷積
群卷積
深度可分離卷積
瓶頸設(shè)計
神經(jīng)結(jié)構(gòu)搜索
分解卷積
分解卷積是構(gòu)建輕量級CNN模型最簡單、最直接的方法,有兩類分解方法。
第一類方法是將一個大的卷積濾波器分解成一組空間維數(shù)較小的卷積濾波器[2],如上圖(b)所示。例如,可以將一個7x7過濾器分解為三個3x3過濾器,它們共享相同的接收域,但是后者效率更高。另一個例子是將 k×k 濾波器分解為k×1濾波器和1×k濾波器,這對于非常大的濾波器來說可能更有效,比如15x15。該思想最近被用于目標檢測。
第二類方法是將一大組卷積分解為信道維數(shù)較小的兩組[3],如上圖(c)所示。例如,可以用 d個濾波器近似卷積層,用d'個濾波器 + 一個非線性激活 + 另外d個濾波器 (d'<d)近似有c個通道的特征圖。在這種情況下,原始層的復(fù)雜度
可以降低到
。
123下一頁>(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )