文:闌夕
DeepSeek火出圈的這十幾天,其實也是噪音最多的一段時間,說實話大部分的討論成品都有種加班硬趕KPI的味道,是人是鬼都在掰扯,有留存價值的屈指可數(shù),倒是有兩期播客讓我聽后受益匪淺,非常推薦。
一個是張小珺請來加州伯克利大學(xué)AI實驗室博士潘家怡對DeepSeek論文的逐句講解,接近3個小時的高密度輸出,非常能殺腦細(xì)胞,但殺完之后分泌出來的內(nèi)啡肽,也含量爆炸。
另一個是BenThompson關(guān)于DeepSeek的3集播客合集,加起來1個多小時,這哥們是NewsLetter的開創(chuàng)者,也是全球最懂技術(shù)的分析師之一,常年旅居臺北,對中國/亞洲的近距離洞察比美國同行要高很多。
先說張小珺的那期,嘉賓潘家怡當(dāng)時是在讀完DeepSeek的論文之后,最快開發(fā)出了小規(guī)模復(fù)現(xiàn)R1-Zero模型的項目,在GitHub上已經(jīng)接近1萬Stars。
這種薪火相傳式的知識接力,其實是技術(shù)領(lǐng)域理想主義的投射,就像月之暗面的研究員FloodSung也說,Kimi的推理模型k1.5最初就是基于OpenAI放出來的兩個視頻得到了啟發(fā),更早一點,當(dāng)Google發(fā)布「AttentionIsAllYouNeed」之后,OpenAI立刻就意識到了Transformer的未來,智慧的流動性才是一切進(jìn)步的先決條件。
所以大家才對Anthropic創(chuàng)始人DarioAmodei那番「科學(xué)沒有國界,但科學(xué)家有祖國」的封鎖表態(tài)大為失望,他在否定競爭的同時,也在挑戰(zhàn)基本常識。
繼續(xù)回到播客內(nèi)容上,我還是試著劃些重點出來給你們看,推薦有時間的還是聽完原版:
-OpenAIo1在驚艷登場的同時做了非常深厚的隱藏工作,不希望被其他廠商破解原理,但從局勢上有點像是在給行業(yè)提了一個謎語,賭的是在座各位沒那么快解出來,DeepSeek-R1是第一個找出答案的,而且找答案的過程相當(dāng)漂亮;
-開源能夠比閉源提供更多的確定性,這對人力的增長和成果的產(chǎn)出都是很有幫助的,R1相當(dāng)于把整個技術(shù)路線都明示了出來,所以它在激發(fā)科研投入上的的貢獻(xiàn)要勝過藏招的o1;
-盡管AI產(chǎn)業(yè)的燒錢規(guī)模越來越大,但事實上就是我們已經(jīng)有接近2年時間沒有獲得下一代模型了,主流模型還在對齊GPT-4,這在一個主張「日新月異」的市場里是很罕見的,即便不去追究ScalingLaws有沒有撞墻,OpenAIo1本身也是一次新的技術(shù)線嘗試,用語言模型的方式讓AI學(xué)會思考;
-o1在基準(zhǔn)測試?yán)镏匦聦崿F(xiàn)了智力水平的線形提升,這很牛逼,發(fā)的技術(shù)報告里沒有披露太多細(xì)節(jié),但關(guān)鍵的地方都講到了,比如強(qiáng)化學(xué)習(xí)的價值,預(yù)訓(xùn)練和監(jiān)督微調(diào)相當(dāng)于是給模型提供正確答案用來模仿,久而久之模型就學(xué)會依葫蘆畫瓢了,但強(qiáng)化學(xué)習(xí)是讓模型自己去完成任務(wù),你只告訴它結(jié)果是對還是不對,如果對就多這么干,如果不對就少這么干;
-如果2004年的Google聽取了roon的建議,不去「浪費」寶貴的研究人員構(gòu)建更經(jīng)濟(jì)性的數(shù)據(jù)中心,那么也許美國的互聯(lián)網(wǎng)公司今天都在租用阿里巴巴的云服務(wù)器,在財富涌入的這二十年里,硅谷已經(jīng)失去了優(yōu)化基礎(chǔ)設(shè)施的原動力,大廠小廠也都習(xí)慣了資本密集型的生產(chǎn)模式,樂于提交預(yù)算表格去換取投資,甚至把英偉達(dá)的芯片干成了抵押物,至于如何在有限的資源里盡可能多的交付價值,沒人在乎;
-AI公司當(dāng)然會支持杰文斯悖論,也就是更便宜的計算創(chuàng)造更大量的使用,但過去幾年里的實際行為卻是出心口不一的,因為每家公司都在表現(xiàn)出研究大于成本的偏好,直到DeepSeek把杰文斯悖論真正帶到了大家的眼皮底下;
-英偉達(dá)的公司變得更有價值,和英偉達(dá)的股價變得更有風(fēng)險,這是可以同時存在時發(fā)展,如果DeepSeek能在高度受限的芯片上達(dá)到如此成就,那么想象一下,如果當(dāng)他們獲得全功率的算力資源后,技術(shù)進(jìn)步會有多大,這對整個行業(yè)都是激勵性的啟示,但英偉達(dá)的股價建立在它是唯一供給方這個假設(shè)上,這可能會被證偽;
-中國和美國的科技公司在AI商品的價值判斷上出現(xiàn)了顯性分歧,中國這邊認(rèn)為差異化在于實現(xiàn)更優(yōu)越的成本結(jié)構(gòu),這和它在其他產(chǎn)業(yè)的成果是一脈相承的,美國這邊相信差異化來自產(chǎn)品本身以及基于這種差異化創(chuàng)造的更高利潤率,但美國需要反思通過否定創(chuàng)新——比如限制中國公司取得AI研究所需的芯片——來贏得競爭的心態(tài);
-Claude在舊金山的口碑再怎么好,也很難改變它在銷售API這種模式上的天然弱點,那就是太容易被替換掉了,而ChatGPT讓OpenAI作為一家消費科技公司擁有更大的抗風(fēng)險能力,不過從長遠(yuǎn)來看,DeepSeek會讓賣AI的和用AI的都有受益,我們應(yīng)該感謝這份豐厚的禮物。
嗯,差不多就是這些,希望這篇作業(yè)可以幫你們更好的理解DeepSeek出圈之后對AI行業(yè)產(chǎn)生的真實意義。
免責(zé)聲明:鯨起生萬物:有關(guān)DeepSeek的2期硬核播客總結(jié)文章轉(zhuǎn)發(fā)自互聯(lián)網(wǎng),版權(quán)歸其所有。
文章內(nèi)容不代表本站立場和任何投資暗示。加密貨幣市場極其波動,風(fēng)險很高,可能不適合所有投資者。在投資加密貨幣之前,請確保自己充分了解市場和投資的風(fēng)險,并考慮自己的財務(wù)狀況和風(fēng)險承受能力。此外,請遵循您所在國家的法律法規(guī),以及遵守交易所和錢包提供商的規(guī)定。對于任何因使用加密貨幣所造成的投資損失或其他損失,本站不承擔(dān)任何責(zé)任。
Copyright © 2021.Company 元宇宙YITB.COM All rights reserved.元宇宙YITB.COM