人工智能的“過彎點”，三駕馬車已經全面調整了姿態互聯網+
2024-08-02 17:52
千億級大模型涌現，在CPU通用服務器成功運行
文 | 智能相對論
作者 | 陳泊丞
日前，英偉達CEO黃仁勛和Meta創始人馬克?扎克伯格開展了一場“爐邊談話”。
兩人作為當今人工智能領域的領袖人物，一邊憑借AI芯片的絕對優勢占據著算力領域的至高地位，另一邊借助開源大模型Llama 3.1強勢崛起成為開源領域的標桿。這樣的對話為未來AI的發展趨勢呈現了不同的視角。
黃仁勛對話扎克伯格
兩位大咖的對話為我們描繪了AI技術未來的發展藍圖：從開源的AI算法，到先進的人形機器人，到未來即將普及的智能眼鏡，AI技術發展充滿了機遇與挑戰。未來AI手機、AIPC、AI汽車、智能眼鏡、服務器等等各類產品都會實現智能化升級，復雜的模型、海量的數據和計算，都極大地依賴于AI算力支持。
AI算力也正在從專用計算擴展到所有的計算場景，逐步形成“一切計算皆AI”的格局。
事實上，算力廠商們的動作也見證了市場對算力發展的要求。一方面，CPU、GPU、NPU等各種PU，也都被用于了AI計算。
另一方面，在適配不同場景應用的通用服務器上，浪潮信息也在致力于提供兼具高性能與低成本的選擇。前不久，基于2U4路旗艦通用服務器NF8260G7，浪潮信息創新采用領先的張量并行、NF4模型量化等技術，實現了服務器僅依靠4顆CPU即可運行千億參數“源2.0”大模型，再度成為通用AI算力的新標桿。
在今天的市場上，算力的產業地位正在迅速崛起。對應人工智能發展的三駕馬車，算力、算法、數據三者終于到達了一個地位相當的狀態，走向“并駕齊驅”。
要知道，在AI技術發展的前期，中國龐大的互聯網用戶群體和豐富的在線數據資源，側重于數據的發展。而美國在計算機科學、數學和統計學等基礎學科方面有著悠久的研究傳統，則更聚焦算法的研發。對比兩者，算力在前期的關注度就顯得弱了許多。
時至今日，三駕馬車并駕齊驅。大眾對人工智能的發展思路也愈發清晰——AI產業的爆發是算法、算力與數據三者協同發展的結果。而這樣的狀態也就代表著AI產業正在進入一個全新的階段。
人工智能產業來到了“過彎點”
現階段，大模型技術的加速迭代，帶來了千億級大模型的持續涌現與精進。相關的AI應用也在以前所未有的速度和規模滲透到各行各業，并融入日常的生活和工作中。
人工智能產業正在從初步探索進入到了廣泛應用的“過彎點”。在這個過程中，AI的三駕馬車也到了全面協同發展的關鍵時刻，才能為場景應用的跨越式升級提供必要的技術支持。
以銀行的防欺詐系統為例，早期的系統是基于大數據構建的，通過經驗預設規則和統計模型來判斷、檢測可疑交易。如今，基于更高性能的通用算力整合大數據系統和金融防詐的AI模型，銀行防欺詐系統實現了功能升級，不僅具備更高的準確性和更低的誤報率，而且還能夠根據新的數據自我學習和調整，快速適應新的欺詐模式。
算法、算力和數據三者協同，構成當前AI應用的基本范式。一個成功的AI項目往往需要在這三個方面都做出適當的投入和優化。
算法相當于AI的大腦，負責處理信息、學習知識、做出決策。而數據是算法的基礎，如果沒有足夠的數據，即使是再先進的算法也無法發揮出應有的效果。
而在此基礎上，不管是算法的運行還是數據的處理，都離不開算力的支持。特別是在涉及到大量的數據處理、復雜的模型訓練以及實時的推理需求等場景中，AI對算力的要求，同時隨著場景的規模化普及，還得進一步兼顧經濟性。
現如今，針對AI產業的三駕馬車，算法、算力和數據層面的升級依舊在同步進行，三者之間的協同在AI行業發展的驅動下達到了新高度。AI產業的加速發展，需要三駕馬車的步伐更加一致。
是時候全面調整三駕馬車的狀態了
人工智能的廣泛應用必然要建立在三駕馬車協同發展的基礎上。在接下來的時間內，針對人工智能產業的升級就需要解決一個關鍵問題，即如何保持三駕馬車并駕齊驅的穩定狀態。
一、技術“并駕”：一馬當先并非最佳，三馬同行最為穩定。
算力、算法、數據三者相輔相成，單一的技術領先無法帶來AI產業的全面爆發，必須要另外兩項迅速補齊，才能對應解決相關的技術問題。
例如，在當前，千億級參數、甚至萬億級參數的大模型加速發展，帶來了更強大的信息處理和決策能力，為智能涌現提供了基礎。但是，算法層面的突破，必然要有算力、數據層面的升級，才能發揮出應用的效果。簡單來說，如果沒有足夠的算力帶動千億級大模型的訓練、推理等需求，那么再強大的模型也沒有“用武之地”。
要加速人工智能的發展，支撐千行百業最廣泛的通用場景，千億級大模型必須要和大數據、數據庫、云等場景相融合，實現高效運行。
但這一目標對計算、內存、通信等硬件資源需求量非常大。為了滿足更多用戶的AI算力需求，算力廠商不得不考慮如何有針對性地去克服現有的算力瓶頸。以承載千億參數大模型推理的NF8260G7 AI通用服務器來看，浪潮信息在這方面就做出了專業的設計。
針對千億級大模型推理過程中的低時延以及所需的巨大內存需求，NF8260G7服務器配置了4顆具有AMX的AI加速功能的英特爾至強處理器，內存方面，NF8260G7配置32根32G DDR5 4800MHZ的內存，內存帶寬實測值分別為995GB/s（讀帶寬）、423GB/s（寫帶寬）、437GB/s（讀寫帶寬），為滿足千億大模型低延時和多處理器的并發推理計算打下基礎。同時，浪潮信息還對CPU之間、CPU與內存之間的高速互聯信號走線路徑和阻抗連續性做了優化，從而更好地支撐大規模并發計算。
這樣的設計與升級，旨在面向算法，進行算力的優化，為接下來千億級大模型的規模化應用提供了一個非常關鍵的支撐。
二、系統“齊驅”：三馬拉車，重在系統性優化。
隨著AI技術的發展，算力、算法、數據三者的系統性越來越強。很多科技巨頭都在競相發力尋找「模型水平高、算力門檻低」的人工智能方案。AI相關的解決方案不再是單一技術的應用，而是綜合多個領域的突破實現整體系統性的升級。
舉個例子，谷歌的EfficientNet模型通過優化網絡架構，在ImageNet數據集上的精度相比傳統模型提升了約6%，而所需計算量減少了70%。可見，當前大模型廠商在推動算力升級的過程中，也會考慮到軟件層面的創新，提高算力和算法之間的適配運行能力。
為了能讓通用服務器更好的運行千億級大模型，浪潮信息除了對服務器本身進行創新升級外，也對千億級大模型的參數規模做了優化。基于源2.0的算法研發積累，浪潮信息將1026億參數的源2.0大模型卷積算子進行張量切分，為通用服務器進行高效的張量并行計算提供了可能，最終提高了推理計算效率。
基于CPU服務器的并行計算
同時，在這個過程中，浪潮信息還采用了NF4量化技術，對模型進行“瘦身”，提高了推理的解碼效率等等。
NF4量化技術
當算力、算法走向協同，系統性優化的結果，是建立在兩者協同的基礎之上，最終目的在于為AI產業的落地提供一個穩定、強大的技術底座。未來，AI產業的全面爆發就需要以更系統的理念去驅動三駕馬車的發展。
三、應用“加速”：產業落地需要“三駕馬車”的綜合最優解。
AI不再是實驗室的產物，而是市場競爭的商品。不管是千億級大模型的涌現，或是算力解決方案的升級，其根本的目標都是推動AI應用的加速落地，走向大眾，帶來實際性的經濟效益。因此，在技術層面之外，行業還需要考慮經濟層面的問題。
對比來看，盡管以英偉達GPU芯片為核心的AI服務器在處理機器學習、深度學習等高性能計算任務方面表現卓越，但是浪潮信息等算力廠商依舊致力于研發和升級以CPU為核心的通用服務器，這是為什么？
根本原因就在于CPU在通用計算、能效比以及成本效益方面仍然不可替代。特別是關系成本效益的經濟性問題，本來就是當前限制諸多場景應用規模化落地發展的關鍵因素。因為AI專用基礎設施的成本居高不下，普通的企業很難承受。而浪潮信息則是提供了一個更低成本、同時兼顧高性能的經濟性選擇，恰恰正是市場需要的。
基于通用服務器NF8260G7的軟硬件協同創新，浪潮信息成功實現了千億級大模型在通用服務器的推理部署，同時還提供了性能更強，成本更經濟的選擇，讓AI大模型應用可以與云、大數據、數據庫等應用能夠實現更緊密的融合，助力產業高質量發展。這樣的綜合最優解，才是產業實現規模化爆發最需要的條件。
結語
AI三駕馬車的系統性已經成型，更強大的算力可以支持更復雜的算法模型，從而更好地處理大規模數據。同時，高質量的數據集有助于提升算法的效果，反過來又需要更強大的算力來處理。而算法的進步也可以減少對算力的需求，通過更高效的模型設計降低計算成本。
這種系統性的形成，將極大推動人工智能產業的發展，也為現階段AI廠商們的產品升級、技術迭代、服務進階提供了一個關鍵的大方向。但同時，也意味著新的挑戰，即如何去整合算力、算法和數據三者之間的技術與資源，成就新的突破。
*本文圖片均來源于網絡
#智能相對論 Focusing on智能新產業新服務，這是智能的服務NO.263深度解讀
此內容為【智能相對論】原創，
僅代表個人觀點，未經授權，任何人不得以任何方式使用，包括轉載、摘編、復制或建立鏡像。
部分圖片來自網絡，且未核實版權歸屬，不作為商業用途，如有侵犯，請作者與我們聯系。
?AI產業新媒體;
?澎湃新聞科技榜單月度top5;
?文章長期“霸占”鈦媒體熱門文章排行榜TOP10;
?著有《人工智能 十萬個為什么》
?【重點關注領域】智能家電（含白電、黑電、智能手機、無人機等AIoT設備）、智能駕駛、AI+醫療、機器人、物聯網、AI+金融、AI+教育、AR/VR、云計算、開發者以及背后的芯片、算法等。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
