Google周三(5日)披露其全新人工智能(AI)超級電腦的詳細資訊,聲稱其運算速度比競爭對手英偉達(Nvidia,又稱輝達,美:NVDA)更快、能源效率更高。
Google公布建成AI超級電腦 稱速度勝英偉達AI晶片
CNBC報導,Google自2016年以來,一直在設計開發AI晶片Tensor Processing Units(TPU),但外界認為該公司在將其發明作商業用途的進度上較為落後。而英偉達在AI模型訓練市場佔有率超過九成,就連Google開發Bard、OpenAI開發的ChatGPT等AI模型或產品也需要用到英偉達的A100 GPU晶片,支援其訓練過程。
Google研究團隊表示,早於2020年建構並開始運行超級電腦TPU v4,它以超過4,000枚TPU組成,並結合專為運行和訓練AI模型而設的定制組件,聲稱比A100快1.2至1.7倍,同時耗電量低1.3至1.9倍。團隊又指,TPU v4已用於訓練Google的PaLM模型逾50日。
然而,Google研究人員表示並未將TPU的功能表現與英偉達最新AI晶片H100作比較。具業界公信力的AI晶片測試MLperf的結果及排名於周三發布,英偉達行政總裁黃仁勳表示,H100在MLPerf 3.0的測試結果顯示其表現明顯優於上一代,其性能是A100的四倍。
高通、英偉達在權威AI晶片效能測試中名列前茅 但於個別項目齊輸給一間台灣初創?
MLPerf 3.0由MLCommons進行,它是一個制定和維持AI晶片行業廣用之測試基準的工程聯盟。據該組織周三發布的最新測試結果顯示,高通(Qualcomm,美:QCOM)的AI晶片在三項效能測試中的兩項表現較英偉達優勝,但一間台灣初創公司卻在一項測試中擊敗這兩間龍頭公司。
《路透》引用MLPerf 3.0測試數據報導,高通的AI 100晶片在影像分類(classifying images)方面的表現優於英偉達的旗艦AI晶片H100。此項測試是基於一枚晶片每瓦可以執行多少次數據中心伺服器查詢(how many data center server queries each chip can carry out per watt),數量越大代表效能越高強。
高通的晶片每瓦可處理197.6項伺服器查詢,而英偉達則高達每瓦108.4個查詢。但兩間公司均不及台灣資深晶片學者Youn-Long Lin的初創企業Neuchip,其研發的晶片以每瓦227次查詢位居榜首。此外,高通晶片在物體識別(object detection)方面的得分為每瓦3.2項查詢,表現亦好過英偉達晶片的每瓦2.4項查詢。
然而,在聊天機器人等系統中最廣為使用的AI技術「自然語言處理」(natural language processing,NLP)測試中,英偉達晶片在絕對性能(absolute performance)和能源效益(power efficiency)方面均名列前茅,達到每瓦處理樣本(samples per watt)10.8個,而 Neuchips以每瓦8.9個樣本排第二,高通則以每瓦7.5個樣本位居第三。
英偉達全日跌2.08%收報268.81美元;Google母企Alphabet A股(美:GOOGL)微跌0.24%收報104.47美元;高通升0.61%收報123.04美元;同日發布面向遊戲電競市場的AMD Ryzen 7 7800X3D處理器的超微半導體(美:AMD)則跌3.45%收報92.56美元。