在技術革新的浪潮下，智能硬件已帶著人工智能技術越來越多地出現(xiàn)在我們的日常生活，智能手機、智能手表、智能音箱等這些常見的"智能設備"也都已成為非常重要的本地深度學習載體。然而，日趨異構化的硬件平臺和復雜的終端側的使用狀況，讓端側推理引擎的架構能力頗受挑戰(zhàn)。為更好滿足人工智能應用落地移動端的嚴苛要求，百度飛槳推出用于端側高性能輕量化AI應用部署的推理引擎Paddle Lite，不僅可支持多種硬件、多種平臺，還具備輕量化部署、高性能實現(xiàn)等重要特性。
此次，在百度AI快車道——企業(yè)深度學習實戰(zhàn)營于12月8日于上海舉辦的"百度AI快車道Paddle Lite"專場活動中，百度多位技術大咖在活動當天為當?shù)亻_發(fā)者們帶來了端側推理引擎Paddle Lite的技術解析與實踐，詳細解讀了飛槳 Paddle Lite、端計算模型生成平臺EasyEdge、以及AI解決方案EdgeBoard的技術特點、使用方法和相關應用。
據(jù)介紹，Paddle Lite核心用途是將訓練出的模型在不同硬件平臺場景下快速部署，根據(jù)輸入數(shù)據(jù)，執(zhí)行預測推理得到計算結果，支持實際的業(yè)務應用。目前，Paddle Lite可支持多種硬件，并可實現(xiàn)用X2Paddle 工具轉化 Caffe, TensorFlow, ONNX 三個平臺的模型到 Paddle格式進行多種訓練，以及支持諸如Android, IOS, armlinux 等端側多個平臺。
此外，Paddle Lite同時支持為模型定制化的裁剪方案，也就是說對于特定的模型，用戶可以只將需要的op和kernel實現(xiàn)編譯進部署的lib中，極大地減小了需加載預測庫的體積，更有助于實現(xiàn)輕量級部署，并展示出其明顯的高性能特點。
活動現(xiàn)場，還借工業(yè)、零售、教育等多場景案例介紹了百度大腦FPGA嵌入式AI解決方案——EdgeBoard。百度大腦EdgeBoard不僅可憑借高性能的加速引擎提供最高3.6Tops的強大算力，還發(fā)布多種硬件產(chǎn)品，開放完整的嵌入式參考設計方式，使硬件集成更輕松便捷。例如在工業(yè)場景下，智能質檢機械臂可以利用運控抓拍和EdgeBoard智能解析，實現(xiàn)毫秒級、高準率金屬手機殼多表面復雜檢測工作。EdgeBoard具備高性能、低成本、使用簡單等優(yōu)點，支持多模型、高精模型部署，同時支持模型可擦寫升級，提供豐富的開發(fā)資源，并支持硬件定制，十分適用于智能硬件打造和AI項目部署。
此外，在當天的課程還安排了多種實踐"挑戰(zhàn)"，不僅有在EdgeBoard上使用Paddle Lite以實現(xiàn)"蔬菜識別"功能，還有Paddle Lite移動端目標檢測實戰(zhàn)。在目標檢測的實戰(zhàn)中，現(xiàn)場的開發(fā)者可以選用如MAC電腦、iPhone手機或者安卓手機等作為實驗設備進行"實戰(zhàn)"?，F(xiàn)場導師以環(huán)境準備，預測庫編譯、模型轉換以及APP開發(fā)集成四個步驟帶領當天所有參會學員，一步步產(chǎn)出最終結果，在手機端順利識別出小動物?；顒蝇F(xiàn)場，學員們始終保持著極高的熱情，其中一位成功檢測出目標的學員感嘆道："剛系統(tǒng)了解Paddle Lite，沒想到這么快就可以上手。"對于Paddle Lite之后的應用，學員表示充滿期待。
據(jù)了解，百度 AI 快車道企業(yè)深度學習實戰(zhàn)營是百度依托自身深厚的深度學習技術實踐經(jīng)驗，面向有 AI 技術需求企業(yè)的算法工程師、架構師群體提供的快速應用扶持計劃。計劃的學習內容囊括了10套工程實施與深度學習技術落地結合的詳細方案，覆蓋百度領先的AI技術和業(yè)務應用場景的深入剖析，如OCR、精密儀器質檢、推薦排序經(jīng)典場景、遙感圖像處理等；源于百度業(yè)務實踐的深度學習平臺飛槳的性能優(yōu)勢、模型優(yōu)勢、生態(tài)優(yōu)勢的解讀；百度自研和頂級學術會議魁首算法、預訓練模型的詳細介紹，還有與案例和算法緊密相扣的在線實驗，并以"學來即用"的課程，進行業(yè)務問題定位、框架及算法的快速應用培訓，為更多企業(yè)帶去深度學習技術和經(jīng)驗分享。
百度AI快車道將在12月14日繼續(xù)來到深圳，為大家?guī)鞵addle Detection專場活動，深圳的開發(fā)者趕快來組團報名啦，無法到達現(xiàn)場的開發(fā)者們也有機會"一起玩"，進入"IT大咖說"網(wǎng)站搜索"AI快車道"收看活動視頻，往期活動也可以觀看回放。
（免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
