6月20日消息,在言必談AI的當(dāng)下,如何把握AI發(fā)展機遇?在2024紅帽媒體Open講話活動上,紅帽全球副總裁兼大中華區(qū)總裁曹衡康對外闡述了紅帽在生成式AI與大模型領(lǐng)域的最新理念和舉措。
在解讀紅帽在AI發(fā)展路線上的看法時,曹衡康著重強調(diào)了兩點:AI必須是開源的,AI應(yīng)該在混合云上做。
曹衡康解釋稱,開源閉源之間并沒有對錯之分,但在封閉體系下,生態(tài)的壟斷和安全隱患已初具端倪。相較之下,開源由于受到整個開源社區(qū)的監(jiān)督,能夠更好地應(yīng)對安全問題。同時,開源能夠降低企業(yè)擁有核心技術(shù)的門檻,讓開發(fā)者參與到模型貢獻當(dāng)中,提升效率和性能。
“未來,AI既會有開源,也會有閉源,但紅帽絕對是開源的?!辈芎饪嫡f到,“開源精神是紅帽文化的核心,也是紅帽在AI領(lǐng)域取得成功的關(guān)鍵。”
關(guān)于混合云,曹衡康提到,AI從開發(fā)到運行都并非僅能在云上操作,筆記本甚至智能手機都可以實現(xiàn)建模開發(fā)。因此,AI應(yīng)該拿到混合云上來操作。
這主要有三方面原因:一是能夠最大化利用資源;二是可以提升效率;三則是安全問題,因為很多的模型可能很多企業(yè)是本身自己企業(yè)內(nèi)部用的,假如放到“云”上面會有一些安全問題。
紅帽大中華區(qū)解決方案架構(gòu)部高級總監(jiān)王慧慧進一步補充稱,將混合模式落到AI項目上其實并不難理解。比如某企業(yè)建模時可在數(shù)據(jù)中心搭建,培訓(xùn)時可在公有云上訓(xùn)練,推理時甚至可以在公司產(chǎn)線上的某一臺風(fēng)控設(shè)備上進行。而企業(yè)若要“單打獨斗”實現(xiàn)這些操作,還需解決構(gòu)建AI基礎(chǔ)架構(gòu)、保證協(xié)作效率、進行模型調(diào)優(yōu)、開發(fā)AI應(yīng)用、促進模型與應(yīng)用間的高效交互等問題。
如何以開源的方式將AI帶入企業(yè)?紅帽此前已經(jīng)宣布了一系列與AI相關(guān)的創(chuàng)新,包括RHEL AI、OpenShift AI和Lightspeed等,并與NVIDIA等合作伙伴在混合云和AI領(lǐng)域展開合作。
曹衡康表示,紅帽不做硬件,不做應(yīng)用,而是在兩者之間提供領(lǐng)先的AI平臺,幫助企業(yè)安全高效地部署和管理AI模型、應(yīng)用;構(gòu)建AI基礎(chǔ)設(shè)施層,為企業(yè)提供安全的可擴展基礎(chǔ)設(shè)施和自動化。
對于在中國的發(fā)展策略,曹衡康表示,紅帽將配合國家戰(zhàn)略,加速企業(yè)智能制造升級,同時賦能與融合國內(nèi)AI生態(tài),加速AI在全行業(yè)的應(yīng)用。
以下為與曹衡康、王慧慧、紅帽大中華區(qū)市場總監(jiān)趙文斌的部分對話實錄:
問:混合AI是一個什么樣的概念?
曹衡康:從開發(fā)來講,開發(fā)就不需要一定在“云”上開發(fā)、我可以在筆記本建模、開發(fā)。運行的時候可以在“云上、云下”,在我“私有云”、筆記本、甚至是手機上都可以運行,就是從“建?!备斑\行”都是一樣。還有就是混合模式,找出最適合的計算方式??赡芪以谟嬎愕臅r候,只要前提是數(shù)據(jù)、客戶愿不愿意把數(shù)據(jù)放在公有云上面。當(dāng)我在整個運行當(dāng)中找出一個最優(yōu)化的方式計算,因為GPU不夠、又耗電,我就找出最優(yōu)化的方式把這個東西、這個應(yīng)用整個執(zhí)行出來。
王慧慧:它既可以被部署在公有云上、也可以私有云上,也可以一個私有化的數(shù)據(jù)中心或者某個設(shè)備上都可以。舉一個比較簡單的例子:同樣一個AI項目或者AI應(yīng)用,建模的時候可以在數(shù)據(jù)中心里面建,訓(xùn)練的時候可以在公有云上訓(xùn)練,最后做推理的時候可以在產(chǎn)線上的某一臺工控設(shè)備上面去做推理,同樣的一套AI。也就是說,這個AI項目本身的不同階段可以用不同的環(huán)境。
為什么這樣做?因為我們支持的就是一個混合環(huán)境,只不過你每一次在使用的時候你覺得你的資源在哪邊,你用什么方面覺得是安全的。你不希望你推理時候個人數(shù)據(jù)去公有云上,那你就放在自己的數(shù)據(jù)中心去做、都可以。
問:為什么我們現(xiàn)在談AI、大模型,大家都在關(guān)注GPU、不關(guān)注其它層面,根本原因是什么?
曹衡康:其實算力講“白”了、做的事情本身是最簡單的,比如最核心的運算可能就是矩陣乘。現(xiàn)在的大模型訓(xùn)練本質(zhì)上做的是一個大力出奇跡的事情,是需要大量的快速的做這些矩陣乘的運算,GPU資源可能就成為瓶頸。
問:大家都相信“大力出奇跡”,覺得基礎(chǔ)設(shè)施到位了,可能就能產(chǎn)生一些應(yīng)用。但現(xiàn)實是,大家可能對于AI做事并沒有太大的信心、做什么也沒有看到。
曹衡康:目前AI的發(fā)展還比較早期,可能首先要解決有無問題,因此我們看到在GPU,AI Infrastructure等方面,大家比較關(guān)注,順便提一句,紅帽是能夠幫助您快速構(gòu)建AI Infrastructure軟件的一家公司。 在AI的應(yīng)用和如何變現(xiàn)方面,整個行業(yè)都還需要探索,大模型本身目前還有一些問題,比如幻覺,所以對于AI做事,既要有信心,同時也應(yīng)看到技術(shù)發(fā)展目前的局限性。
趙文斌:大家都看“算力、平臺、模型”?,F(xiàn)在開源的模型很多、開發(fā)平臺相對來講也有一些開源或者一些選擇,只是短期的一個焦點問題就是算力、因為相對緊張。這是一個現(xiàn)實的問題,所以關(guān)注度高。但是這是一個發(fā)展階段的初級階段的問題?!按罅Τ銎孥E”沒問題,大模型是不是可以針對行業(yè)企業(yè)有小模型,用更小的算力就可以解決你的生產(chǎn)和應(yīng)用的問題。其實市場的解決方法很多,只是因為大家對這個市場還是早期、還沒有看清楚,短期突出的是算力緊張的問題。我覺得隨著大家的研究更深入或者更多的工具、更多廠商的這些方案更清楚,我覺得這個問題相對會被平滑地過渡過去。只是這樣的一個過程。
王慧慧:我們?nèi)绻碅I這件事的話,AI其實存在很久了。最近這么火是因為生成式AI、大模型把它炒熱的,實際上企業(yè)AI落地的應(yīng)用去年、前年都有了。在我看來AI至少有四個方面的問題是值得所有從業(yè)者、媒體朋友們一起討論的:
1.基礎(chǔ)架構(gòu)。就是所謂的算力平臺,GPU的問題。
2.算法和模型的問題。我們其實并沒有人很多地去探討“算法”和“模型”,可能是因為這個很難被廣大的聽眾們和觀眾們能夠理解。比方說我們今天說:Lab是個算法,很難去解釋這個事情。
3.數(shù)據(jù)。數(shù)據(jù)其實因為考慮到合規(guī)的問題,每個國家、每個地方都有數(shù)據(jù)合規(guī)的問題,以及數(shù)據(jù)隱私的問題,其實這也是AI相關(guān)的領(lǐng)域。
4.AI本身的應(yīng)用場景的問題?,F(xiàn)在我覺得AI應(yīng)用本身場景的問題,每一個企業(yè)都在摸索中。我們現(xiàn)在看到大量的生成式AI,就是ChatGPT給我們沖擊太大了。國內(nèi)也有很多大語言模型,例如:文心一言什么的,你問它個問題、它就回答了。但是這些不是企業(yè)級的AI應(yīng)用,企業(yè)級的AI應(yīng)用才是真正的為企業(yè)創(chuàng)造生產(chǎn)力的一個內(nèi)容。什么樣的企業(yè)級的AI應(yīng)用真的能夠做到新質(zhì)生產(chǎn)力呢?就是用更少的投入得到更多的產(chǎn)出,這個其實是一個更值得探討的問題,而且我們中國這么多的企業(yè)、這么多的不同的各行各業(yè)的企業(yè),我是很堅信企業(yè)級的AI應(yīng)用在中國一定會發(fā)展得特別迅速,只是現(xiàn)在大家好像還沒有開始探討這件事。(周小白)
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )