19/07/2023 13:47
19/07/2023
13:47

美股|挑戰OpenAI同Google!Meta伙微軟、高通發布AI免費商用模型Llama 2

《路透》報導,Facebook母公司Meta Platforms(美:META)表示,將與微軟(Microsoft,美:MSFT)合作發布其開源人工智能(AI)模型Llama的全新商業版本「Llama 2」,為初創企業和其他企業等商業客戶提供免費功能,挑戰OpenAI開發的GPT-4和Google銷售的閉源、專有模型,料將在私人及商用AI模型領域掀起新一輪競爭。

Meta發表網誌文章指,Llama 2將由微軟通過其Azure雲端服務免費提供,可在Windows上運行,形容微軟為今次發布的首選合作夥伴。

該網誌文章和Meta行政總裁朱克伯格(Mark Zuckerberg)一則Facebook帖文表示,Meta此前只向選定的學者提供Llama以用於研究目的,但現在該模型也可以直接下載,以及經由Amazon Web Services、Hugging Face和其他供應商提供。朱克伯格指出,開放原始碼推動創新,因為這讓更多的開發人員能夠使用新技術進行建構,他相信,如果生態系統更加開放,將會取得更多進展。

微軟官方新聞稿表示,Azure客戶將能夠輕鬆安全地調整及部署7B、13B和70B-Llama 2模型。Llama 2亦將不斷改良在Windows上運行,讓Windows開發人員能夠以 ONNX Runtime執行Direct ML程序。

被問及微軟何以支持可能會降低OpenAI價值的產品,微軟發言人表示,讓開發人員選擇不同模型類型來使用,將有助擴大微軟作為AI工作首選雲端平台的地位。

此外,CNBC報導,Meta與美國晶片巨頭高通(Qualcomm,美:QCOM)共同宣布, Llama 2將從明年起可以在手機和個人電腦(PC)中的高通晶片上運行。目前為止,Llama這類大型語言模型(LLM)主要在英偉達(Nvidia,又稱輝達,美:NVDA)顯示卡(即圖形處理器 GPU)組成的大型伺服器場所中運行,因為該技術對運算能力和數據有巨大需求,數月以來大力提振英偉達股價;但Meta與高通此一著,或帶來其他發展方向。

高通在公告中表示,希望把旗下處理器定位成適用於AI,但目標是在設備上實現,而非在雲端。如果大型語言模型可以在手機上運行,而不是在大型數據中心中運行,這可顯著降低運行AI模型的成本,並可能帶來更好、更快的語音助手和其他應用程式。

高通將於旗下晶片設備提供Meta的開源Llama 2模型,料將支援智能虛擬助手等應用程式。Llama 2能夠執行大量與ChatGPT相同的任務,但可以打包在一個更小的程式中,於手機上運行。

高通的晶片包含一個「張量處理器」(Tensor Processing Unit,簡稱:TPU),據稱適合AI模型所需的各種運算。但報導也指出,與配備尖端GPU的數據中心相比,流動設備上可用的處理能力則相形見絀。

Subscribe FORTUNE INSIGHT Telegram: 
http://bit.ly/2M63TRO

Subscribe FORTUNE INSIGHT YouTube channel:
http://bit.ly/2FgJTen

即時分享