ChatGPT巨額每日運(yùn)行費(fèi)用引關(guān)注
大型AI模型如ChatGPT的需求持續(xù)攀升，每天都有數(shù)百萬(wàn)用戶使用。這導(dǎo)致了運(yùn)行成本居高不下。據(jù)研究公司SemiAnalysis首席分析師Dylan Patel透露，ChatGPT的運(yùn)行成本可能高達(dá)每天70萬(wàn)美元，每次查詢需3.6美分。成本主要來(lái)自AI模型所依賴的昂貴服務(wù)器。
ChatGPT的活躍用戶數(shù)量在短短兩個(gè)月內(nèi)飆升至1億。而根據(jù)專家分析，大語(yǔ)言模型的訓(xùn)練、運(yùn)營(yíng)和推理成本可能已達(dá)數(shù)千萬(wàn)元。事實(shí)上，ChatGPT的每周推理成本已經(jīng)超過了當(dāng)初的訓(xùn)練成本。
為應(yīng)對(duì)高訪問量問題，ChatGPT引入了每月20美元的付費(fèi)ChatGPT Plus服務(wù)，但并未吸引大量用戶。同時(shí)，使用OpenAI語(yǔ)言模型的企業(yè)也在支付高昂的服務(wù)費(fèi)。如AI地牢游戲初創(chuàng)公司Latitude，其2021年每月的運(yùn)行模型和租用亞馬遜云科技服務(wù)器費(fèi)用高達(dá)20萬(wàn)美元。
為降低成本，Latitude轉(zhuǎn)向Al21 Labs支持的語(yǔ)言軟件服務(wù)商，將AI成本削減至每月10萬(wàn)美元。目前，OpenAI依賴英偉達(dá)GPU來(lái)維持運(yùn)行，預(yù)計(jì)2023年可能需要額外3萬(wàn)個(gè)英偉達(dá)GPU以維持商業(yè)性能。
微軟自研AI芯片助力降成本
面對(duì)高昂運(yùn)行成本，微軟正在開發(fā)自家AI芯片，協(xié)助維護(hù)OpenAI的ChatGPT運(yùn)行并降低成本。據(jù)The Information報(bào)道，微軟自研AI芯片名為Athena“雅典娜”，項(xiàng)目始于2019年，當(dāng)時(shí)微軟與OpenAI達(dá)成10億美元交易。
如今，300多名微軟員工正在研發(fā)Athena芯片，以期性能超越現(xiàn)有供應(yīng)商芯片。其他科技巨頭如亞馬遜和谷歌也已推出自研AI芯片。Patel表示，與英偉達(dá)產(chǎn)品相比，Athena具有競(jìng)爭(zhēng)力的話，每個(gè)芯片成本可能降低三分之一。
微軟自研AI芯片的原因有二：
一是意識(shí)到在自主研發(fā)芯片方面落后于谷歌和亞馬遜；
二是尋找英偉達(dá)替代方案，降低依賴。
微軟計(jì)劃在Azure云服務(wù)中部署Athena芯片，為OpenAI提供強(qiáng)大的計(jì)算支持。據(jù)了解，微軟的Athena芯片將在2023年發(fā)布，屆時(shí)將大幅降低ChatGPT運(yùn)行成本。
微軟與其他巨頭競(jìng)爭(zhēng)加劇
在AI芯片市場(chǎng)，微軟、谷歌和亞馬遜展開了激烈競(jìng)爭(zhēng)。谷歌已經(jīng)研發(fā)了Tensor Processing Unit (TPU)，專門用于AI和機(jī)器學(xué)習(xí)任務(wù)。而亞馬遜則推出了Inferentia，一款高性能、低成本的AI芯片。微軟迎頭趕上，力求在AI市場(chǎng)站穩(wěn)腳跟。
同時(shí)，隨著市場(chǎng)需求的快速增長(zhǎng)，尤其是云計(jì)算和AI領(lǐng)域的需求，芯片產(chǎn)業(yè)的競(jìng)爭(zhēng)日益激烈。微軟也在積極尋求與其他公司的合作，以確保在AI芯片市場(chǎng)占據(jù)有利地位。
微軟為降低ChatGPT運(yùn)行成本，秘密自研AI芯片Athena四年，預(yù)計(jì)將在2023年發(fā)布。成功研發(fā)將有望降低每個(gè)芯片成本三分之一，大幅減輕用戶和企業(yè)的負(fù)擔(dān)。在與谷歌和亞馬遜等科技巨頭的競(jìng)爭(zhēng)中，微軟通過自研AI芯片謀求市場(chǎng)份額，期待在AI市場(chǎng)站穩(wěn)腳跟。
免責(zé)聲明:為降低ChatGPT運(yùn)行成本，微軟秘密自研AI芯片4年，今年或發(fā)布文章轉(zhuǎn)發(fā)自互聯(lián)網(wǎng)，版權(quán)歸其所有。
文章內(nèi)容不代表本站立場(chǎng)和任何投資暗示。加密貨幣市場(chǎng)極其波動(dòng)，風(fēng)險(xiǎn)很高，可能不適合所有投資者。在投資加密貨幣之前，請(qǐng)確保自己充分了解市場(chǎng)和投資的風(fēng)險(xiǎn)，并考慮自己的財(cái)務(wù)狀況和風(fēng)險(xiǎn)承受能力。此外，請(qǐng)遵循您所在國(guó)家的法律法規(guī)，以及遵守交易所和錢包提供商的規(guī)定。對(duì)于任何因使用加密貨幣所造成的投資損失或其他損失，本站不承擔(dān)任何責(zé)任。
2025-4-02
2025-4-02
2025-3-29
2025-3-28
2025-3-28
2025-3-13
2025-3-21
2025-3-05
2025-3-16
2025-3-13