近日，由Zilliz 聯(lián)合亞馬遜云科技舉辦的【向量數(shù)據(jù)庫 X 云計(jì)算 驅(qū)動大模型落地電商行業(yè)】活動在上海圓滿落幕，獲得業(yè)內(nèi)專業(yè)人士的廣泛好評。
眾所周知，大模型技術(shù)的發(fā)展正加速對千行萬業(yè)的改革和重塑，向量數(shù)據(jù)庫作為大模型的海量記憶體、云計(jì)算作為大模型的大算力平臺，是大模型走向行業(yè)的基石。而電商行業(yè)因其高度的數(shù)字化程度，成為打磨大模型的絕佳“競技場”。為此，本次活動應(yīng)運(yùn)而生。
多位來自向量數(shù)據(jù)庫公司 Zilliz 與亞馬遜云科技的專家、電商行業(yè)一線的技術(shù)大咖在現(xiàn)場貢獻(xiàn)了精彩發(fā)言，和現(xiàn)場觀眾共話大模型在電商行業(yè)中的應(yīng)用場景、方案解析、最佳實(shí)踐等核心話題。其中，Zilliz 資深解決方案架構(gòu)師沈亮、Zilliz Towhee 開源項(xiàng)目負(fù)責(zé)人陳將的演講令人印象深刻。
沈亮從向量數(shù)據(jù)庫的基礎(chǔ)知識講起，由淺入深地過渡到電商行業(yè)落地向量數(shù)據(jù)庫的場景。他提到，向量數(shù)據(jù)庫的典型的應(yīng)用場景包括：在長文本領(lǐng)域，可以進(jìn)行翻譯、問答、語義檢索、情感分析;在圖片領(lǐng)域可以進(jìn)行去重、目標(biāo)檢測、圖片檢索、多模態(tài)的圖文互搜;在視頻領(lǐng)域進(jìn)行推薦、合規(guī)檢測、分類等。當(dāng)然，也有很多新興的應(yīng)用場景，比如在自動駕駛領(lǐng)域可以通過向量檢索幫助系統(tǒng)找出實(shí)時判斷過程中沒有分析出來的物體。而電商行業(yè)盈利基本上靠“搜廣推”三板斧，向量數(shù)據(jù)庫技術(shù)結(jié)合深度學(xué)習(xí)能做更高質(zhì)量的“搜廣推”，這其中一個重要的技術(shù)方向是多模態(tài)搜索。沈亮提到，目前大模型在電商領(lǐng)域可以落地的場景包括推薦系統(tǒng)召回、智能客服問答、UGC分析等。
陳將則從技術(shù)層面講述了從零到一搭建電商行業(yè)知識庫應(yīng)用的過程。他表示，當(dāng)前大語言模型存在一定的局限性，例如缺乏領(lǐng)域特定信息、容易產(chǎn)生幻覺、無法獲取最新信息、預(yù)訓(xùn)練數(shù)據(jù)無法改變等，知識庫可以改善這一情況。這其中，不得不提到由 Zilliz 提出的新范式——CVP Stack。其中，C 是 ChatGPT，即利用大語言模型實(shí)現(xiàn)以 ChatGPT 為代表的智能問答;V 是 Vector database，即通過向量數(shù)據(jù)庫為 ChatGPT 提供大規(guī)模的、可靠的知識庫;P 是 Prompt as code，即使用提示匹配用戶問題與來自知識庫的參考內(nèi)容。CVP Stack 的應(yīng)用場景代表為面向開源用戶和開源社區(qū)運(yùn)維人員的問答機(jī)器人 OSSChat(https://osschat.io/)，而在電商領(lǐng)域，電商用戶可以借助問答機(jī)器人將商品介紹導(dǎo)入知識庫，搭建知識庫增強(qiáng)問答。
此外，在現(xiàn)場，來自潮流電商得物的 AI 技術(shù)專家孟令公則分享了得物基于 Milvus 的大模型實(shí)踐。據(jù)孟令公介紹，得物目前有上億級別的向量數(shù)據(jù)存儲在開源向量數(shù)據(jù)庫 Milvus 上，基于 Milvus 的得物大模型訓(xùn)練推理平臺可以支持多種類型的業(yè)務(wù)平穩(wěn)運(yùn)行。而未來，隨著大模型應(yīng)用走向規(guī)模化和多樣化，得物也將進(jìn)行技術(shù)上的更深入探索。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
