極客網(wǎng)·人工智能12月6日 不久前亞馬遜推出AI工具“亞馬遜Q”，它的競爭對手是微軟Copilot。業(yè)界本來以為亞馬遜來勢洶洶，Q應(yīng)該很不錯，但最新報告顯示，這款AI工具并不成熟，可能還沒有準備好。
Q到底有什么問題呢？The Platformer在報道中說，Q不夠精準，侵犯隱私，存在“幻覺”（相當(dāng)于出錯），泄露數(shù)據(jù)。研究報告顯示，亞馬遜的大語言模型連接企業(yè)數(shù)據(jù)庫時極其不精準，也不夠透明。
亞馬遜新聞發(fā)言人回應(yīng)稱，Q并沒有泄露過任何機密文件。該新聞發(fā)言人稱：“一些亞馬遜員工會通過內(nèi)部渠道和系統(tǒng)分享信息，這在亞馬遜是標準操作。沒有證據(jù)顯示有什么安全問題是反饋的問題造成的。我們已經(jīng)收集到所有的反饋意見，會繼續(xù)調(diào)校Q，它正在從預(yù)覽版產(chǎn)品變成公用產(chǎn)品?！?/p>
按照亞馬遜自己的說法，Q已經(jīng)是無數(shù)人的工作伙伴，但報告卻認為Q還沒有為企業(yè)使用做好準備。
EIIRTrend & Pareekh咨詢公司CEO Pareekh Jain說：“如果出現(xiàn)‘幻覺’，在企業(yè)決策時就無法使用Q。如果只是個人使用或者獲取信息，用Q沒有什么問題，但在決策時不能用?！?/p>
亞馬遜Q需要更多測試
在亞馬遜生成式AI正式商用之前，可能還需要進行更多的測試。
Pareekh Jain說：“我覺得亞馬遜應(yīng)該先用內(nèi)部員工多做些測試。很明顯，亞馬遜正在做。沒有外部信息源提及當(dāng)中的問題。有兩樣?xùn)|西很重要，一是數(shù)據(jù)，二是算法。亞馬遜應(yīng)該看看到底是數(shù)據(jù)問題還是算法問題?！?/p>
亞馬遜AWS已經(jīng)積累了17年的數(shù)據(jù)。Q的定位很高，它的目標是成為企業(yè)“萬能工具”。從產(chǎn)業(yè)發(fā)展趨勢看，Q很重要，可能會影響亞馬遜的前途。
IDC高管Sharath Srinivasamurthy認為，對于消費者和企業(yè)用戶來說，“幻覺”并不會削弱AI的潛力，但進行更好的訓(xùn)練仍然是至關(guān)重要的。
Sharath Srinivasamurthy說：“用更高質(zhì)量的數(shù)據(jù)、更好的提示（用更精準的提示引導(dǎo)用戶，這些提示是模型容易理解的）訓(xùn)練模型，用組織或者行業(yè)專用數(shù)據(jù)持續(xù)優(yōu)化模型，出現(xiàn)可疑精況時增加人工檢查，亞馬遜可以從這些措施下手，讓新技術(shù)得到更好的應(yīng)用。”
AI“幻覺”應(yīng)該監(jiān)管嗎？
AI出現(xiàn)“幻覺”，是不是應(yīng)該加強監(jiān)管？Greyhound Research公司CEO Sanchit Vir Gogia認為，監(jiān)管可能適得其反。
Sanchit Vir Gogia說：“任何監(jiān)管都有可能妨礙數(shù)據(jù)的交換和使用。就眼下來說，監(jiān)管越少，行業(yè)會發(fā)展越好。監(jiān)管少了，數(shù)據(jù)使用會更容易，更流暢?？纯碠penAI的GPT，如果限定它應(yīng)該抓取什么數(shù)據(jù)，不應(yīng)該抓取什么數(shù)據(jù)，它可能不會騰飛。”
Sanchit Vir Gogia還認為，設(shè)定外部邊界可能不太可行，讓企業(yè)自己來設(shè)定邊界可能更好。他解釋說：“監(jiān)管可能會有，但主要還是要讓企業(yè)自我監(jiān)管。雖然監(jiān)管和指導(dǎo)是必要的，但如何審計卻是麻煩所在。重點應(yīng)該是打造負責(zé)任的AI，也就是說創(chuàng)造者可以向客戶解釋內(nèi)在邏輯，它不能是一套黑盒系統(tǒng)?！?/p>
“新人”亞馬遜的AI之路還很長
分析師們認為亞馬遜應(yīng)該加強內(nèi)部測試，加強自我監(jiān)管，從而打造更好的AI，這些看法當(dāng)然沒錯，但將AI部署到企業(yè)是很復(fù)雜的，這點更加值得關(guān)注。亞馬遜需要解決這些挑戰(zhàn)，在AI領(lǐng)域它是新人，前方的路還很漫長。
Jain說：“在這一領(lǐng)域AWS實際上慢了一拍，領(lǐng)導(dǎo)者是微軟和谷歌。用戶有很高的預(yù)期，在聊天機器人及其它相關(guān)技術(shù)方面更是如此。”
亞馬遜AI出現(xiàn)“幻覺”并不稀奇，ChatGPT同樣存在許多問題，比如分不清真與假，有時會發(fā)表傷害人的言論，傳播虛假信息?？墒莵嗰R遜剛剛?cè)腴T，工作做得不好，這對它的AI業(yè)務(wù)會造成很大打擊。
面對質(zhì)疑，亞馬遜新聞發(fā)言人盡力淡化問題。上周亞馬遜AWS主管Adam Selipsky接受采訪，當(dāng)時記者曾說，蘋果、Verizon、Northrop Grumman年初時發(fā)布政策，禁止員工使用ChatGPT，主要是因為存在隱私、泄密擔(dān)心，記者問他對此有何看法，Adam Selipsky回答道：“比起消費聊天機器人，亞馬遜Q更安全、更重視隱私?！?/p>
但現(xiàn)在的報告證實，Adam Selipsky的說法經(jīng)不起考驗。（小刀）
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
