第900章 湧現(4K)

投票推薦 加入書籤 小說報錯

  第900章 湧現(4K)

  俞興與周明的會面十分愉快,而有了他的鋪墊,晚上再見到糾結扭捏的韋福如,也不覺得出奇了。

  人各有志,韋福如要在微軟做出成績也是應有之意,況且,現在不來DLF,以後未必沒有緣分。

  俞興對這一點很淡定,也不覺得自己飛一趟就多麼興師動眾,反倒是韋福如感受到碳矽掌門人不遠萬里而來的胸襟,愈發糾結了。

  因為涉及到挖人,也涉及到技術討論,晚上小宴只有俞、吳、周、韋四人,其他同行來的人多數去市里或者到微軟參觀。

  等到飯桌上的話題轉到DLF這次的TD—1模型,韋福如才稍微鬆了一口氣。

  吳恩達興致勃勃的介紹DLF對自注意力機制的研究和探索,也略微提到編碼器和解碼器方案的利弊,這些同樣是周明和韋福如或者說每一個深度學習領域的學者與大厂部門都在思索的。

  很快,飯桌上的氛圍就轉為熟悉的爭辯。

  自注意力機制展現了讓人欣喜的方向,但接下來到底往哪走仍然是巨大的問題。

  俞興在純技術層面上面的參與度不高,也就邊吃邊聽著他們三個人從共識走向爭辯再回歸到共識—一規模,還得是規模。

  想要模型繼續進化,必然需要更多數據的訓練,需要更多的資金注入。

  「TD—1模型是個證明谷歌機制的好東西,但純粹編碼器的方案可能存在著一個天花PJハUPJJ

  T溫巧品方木行板,它對公司當前的業務有利,可是,從長遠來看,還是需要解碼器的生成參與。」韋福如給了一個預測,「想要讓模型變聰明,想要讓AI真正更加快速的發展,解碼器是重要的一環,編碼器和解碼器的統一就是既能商業又能學術的最佳方案。」

  這是他目前在微軟著手研究的方向。

  俞興先前已經聽過吳恩達總結來自韋福如有別於DLF現在內部爭論的第三條路線,現在聽到本人的描述,覺得中間的話應該判斷的還是比較準確的。

  無論如何都不能缺少解碼器的生成能力。

  他的暗暗點頭被韋福如注意到了。

  韋福如見狀,笑道:「俞總,其實我覺得隨著訓練量的大幅提高,模型的聰明程度或許會進入一個快速成長期,就好像人類的孩子在幾歲之後隨著對世界認識的增多,也會突然變得懂事,嗯,怎麼說呢————」

  俞興聽到這種說法,眼睛一亮:「湧現,會不會是模型的能力忽然大幅提高的湧現出來?」

  韋福如低頭琢磨這個詞,讚嘆道:「不錯,這個形容挺好的,湧現。」

  吳恩達在旁邊問道:「俞總也想過這個?」

  「我是不懂這個的。」俞興慣例表明身份,然後才說道,「我就是覺得有意思,如果我們對深度學習的究極目標是做到AGI,那麼,現在的TD—1模型的能力是1,AGI的能力是10,中間到什麼階段的時候它會突然讓人覺得聰明呢?像孩子那樣一下子成熟不少?」

  「假設我們一定能走到10,那就一定有這樣的階段吧。」

  「我以前是學醫的,如果從醫學角度,從生物角度,我們來看,從一個非洲爪蟾胚胎上取出來皮膚細胞,不對它的DNA進行任何修改,讓細胞自主發育,最終也能重新長出完整的身體結構。」

  (由於緩存原因,請用戶直接瀏覽器訪問𝑇𝑊看書📕𝑠ℎ𝑢.𝑡𝑤網站,觀看最快的章節更新)

  「整個過程沒有人為設計結構,完全都是細胞自主完成。」

  俞興提到的是一個經典實驗,英國科學家1958年用非洲爪蟾幼體的腸細胞核移植入去核卵細胞,發現這樣的胚胎也能發育成一個個體,而這個個體的基因組與供體細胞一致,即一個分化的細胞在一定條件下能夠逆轉,進而再發育為一個體。

  深度學習三人組完全沒明白俞總想要表達什麼意思,相互看了看,確認對方都沒懂。

  「我覺得DNA像是硬體規格書,不管怎麼測序基因,都沒法推導個體宏觀的五官和四肢,但是,當百億千億的細胞通過離子通道形成廣泛的生物電網絡,一個個體就擁有了智慧。」

  俞興指了指自己,也指了指對面的韋福如,說道:「成百上千億的細胞所形成的生物電網絡很可能是智慧存在的規模前提,換成我們在聊的深度學習,它也需要那樣類似的規模才能出現能力的湧現。」

  他用了一個生物上的例子來理解模型的能力湧現,而這恰恰是AI飛快發展的轟動標誌o

  在OPENAI發布GPT—3之前,所有的模型做新任務都必須微調,要給出成千上萬的標註數據,然後針對新任務進行專門的重新訓練,最後才能達到很好的效果。

  但是,GPT—3的湧現是它不用修改模型的參數,不用樣本或者少量樣本就能完成訓練時從沒專門學習過的任務。

  比如,沒有專門對模型進行翻譯訓練,但能進行幾十種語言的互譯,沒有教它,它卻會了,這是模型展現的讓人震驚和不解的能力。

  剛開始做一張卷子只能得到20分,等到參數到達一定的閾值,忽然一下子就能得到80

  分,也沒有中間50分、60分的過渡。

  俞興是在用自己的理解來描述韋福如的湧現判斷。

  「行了行了,俞總,知道你是學醫的了。」吳恩達對於老闆的這種說法不以為然。

  韋福如理解著來自俞總的話,琢磨了一會,卻覺得頗有些意思。

  「我也就是耳濡目染,天天聽你們說,想著什麼時候能出現更大的進步。」俞興並不確定自己理解的是否正確,也不清楚自己的例子是否恰當,就是在這個場合盡力的聊聊深度學習的某個未來。

  周明這時候笑道:「俞總願意聽,願意思考,我覺得這還真挺好,深度學習啊是越琢磨越有意思,就是不知道我到底能不能看到AGI出來的那一天了。」

  吳恩達聳聳肩:「盡力而為唄,爭取多推動推動,也不是只有AGI才能發揮作用。」

  他說到這裡,看了老闆一眼:「當然了,俞總這時候就得強調AI對社會的挑戰了,我有時候覺得俞總是最有信心的人。」

  俞興笑道:「外行嘛,不知道你們具體的難處,當然就要樂觀了,再說了,我要是不樂觀,也不敢把DLF攢起來,不敢幫忙籌錢啊,吳總,你得謝謝我的外行。」

  吳恩達不得不敬一杯俞總的外行了。

  四個人都笑。

  這頓晚飯吃了許久,氣氛也相當愉快,直讓韋福如在結束的時候都有一種戀戀不捨的感覺,自然語言處理在很長一段時間裡都屬於冷板凳。

  現在既有TD模型的進步,也有同行的熱情,還要來自資方的興趣,一切都太好了。

  「俞總,我————」韋福如上車前握著俞總的手,腦子因為酒精有些微微的眩暈,心情也有點激盪。

  俞興倒是止住了這位的話,笑道:「韋博士喝了不少,不管在哪,只要深度學習被推動了,其實都是好事,等到你真心覺得是時候加入DLF了,我們隨時都歡迎你的到來。」

  韋福如長出一口氣,又緊緊的握了握俞總的手,這次給出承諾:「俞總,我一定會去DLF的!」

  俞興上下搖了搖手,送這位上車,目送轎車的離開。

  「俞總,我覺得你剛才要是加把勁,他可能就要來了。」吳恩達站在旁邊,點了一支煙,又遞給老闆一支。


  「我對DLF有信心,DLF也應該有自信,有胸襟。」

  吳恩達嘆道:「這話要是說給韋福如聽,他更會願意來了。」

  俞興抽了一口煙,搖搖頭:「就這樣,但可以看看周院長提供的名單,早點睡,明天我還想看看蓋茨呢。」

  吳恩達酒量不差,這會沒有絲毫醉意,反而忽然說道:「俞總,之前聊的那個湧現確實有點意思,要是把人當成一個AGI,生物電的規模確實是前提哈。」

  俞興哈哈一笑:「是吧,我的思考還是有一定啟發的吧。」

  吳恩達連連點頭,但又忽然搖頭:「說不準是讓我誤入歧途。」

  俞興嗤笑一聲,轉身走入酒店。

  吳恩達落後兩步,瞧著老闆的背影,俞總確實有自信。

  次日,在俞興抵達美國的第二天,在赴蓋茨之約之前,他和英偉達的黃仁勛拍照留念,迅速取得共識,DLF和碳矽數據在未來一年會從英偉達採購至少千萬美元的算力卡,具體的規模還需要兩家公司確認。

  俞興接受了英偉達第二代AI產品的禮物,黃仁勛則是直接把照片發到了推特。

  「黃總,至於這樣炒一炒嗎?」俞興對於這麼迅速的動作有些哭笑不得。

  「這個時代都需要炒啊,加密貨幣要炒,當總統要炒,你們做空不也是要炒嗎?」黃仁勛很理直氣壯。

  俞興笑了兩聲,突然問道:「黃總,聽你這麼說起來,你們公司今年對來自加密貨幣市場的挖礦需求有預期嗎?」

  加密貨幣今年的跌幅很大,直接打擊了挖礦熱情,也就和英偉達的產品聯繫在了一起O

  英偉達過去的財報一直沒有披露涉及到挖礦這一塊的營收比例,但是,過山峰內部認為,這一塊可能還有不小的關聯。

  黃仁勛聽到這個問題,心中警惕,面上如常:「我們就是正常出貨,沒聽說有大的波

  動,我也不關注這一塊,俞總,你關注嗎?」

  俞興一笑:「你不關注,那我也不關注。」

  黃仁勛拿起咖啡,趁著半杯入肚的功夫,覺得這樣的問題有點異常。

  他放下杯子,乾脆直接問了出來:「俞總,你不會真要做空英偉達吧?這樣不地道了吧?你們基金從我們身上賺了那麼多,難道這種時候要踩一腳嗎?」

  俞興用了相似的回答:「我們就是正常做基金,沒聽說要做空英偉達,我也不關注這一塊,黃總,你關注嗎?」

  黃仁勛連連搖頭,不再糾結這個,只是說道:「俞總,我們股價還要漲的,深度學習這個時候迎來發展,簡直是太好了,我們在這個領域應該取得共識,我賣鏟子,你搞模型,我們都有光明的未來。」

  俞興「嗯」了一聲:「賣鏟子的肯定是能發財。」

  黃仁勛笑道:「那就借俞總的吉言,爭取為股東帶來更好的收益。」

  過山峰基金在美國重倉的股票只有那麼幾隻,英偉達是其中之一。

  兩人確實是存在共識的,所以,這次見面也沒有太多場面話。

  等到晚上,俞興如約拜訪蓋茨,雙方的場面話就多了起來。

  不過,蓋茨開了個和黃仁勛類似的玩笑:「俞總,你這次來美國,是要做空微軟嗎?」

  俞興微微一笑:「我到美國之後碰到的人都要問我這樣的問題,英偉達的黃仁勛問我做不做空他的公司,你也這麼問我,我已經能想像到碰見馬斯克的時候,他會問我什麼問題了。」

  蓋茨聽到馬斯克的名字,饒有興趣的順勢問道:「俞總對特斯拉在你們國家的汽車市場是什麼看法?」

  俞興心裡玩味,又想到這位傳說中的做空,一本正經的答道:「特斯拉在羊城的工廠建設特別快,快到超過常規的預期,現在又碰見檢修,特斯拉確實很擔心外界一直對它有所顧慮的產能問題。」

  這話就好像在暗示工廠快速上馬所導致了問題。

  蓋茨聞言還真點了下頭:「特斯拉的羊城工廠確實很誇張,我認為擅於使用華夏政策的碳矽集團會是特斯拉的強力對手。」

  俞興知道蓋茨現在出現的毛病,手裡有錘子,看什麼都像釘子。

  空頭想做空,怎麼都能找到利空因素。

  俞興念頭一轉,笑著提起來自空頭查諾斯的邀請,聊到他所設想的死亡螺旋。

  蓋茨頗為認真的聆聽,他是一個相信專業人士的人,既相信面前這位在新能源領域的

  造詣,更相信他的做空水準。

  只是,他聽完之後問了句:「俞總,既然這樣,你和查諾斯有類似看法嗎?」

  俞興沉吟道:「我需要再看看,但馬斯克現在確實比較危險,如果特斯拉的控制權被動搖,那些空頭們肯定會一擁而上的。」

  蓋茨瞧了一眼面前最可能一擁而上的空頭,眼神閃了閃,說道:「俞總,你確實要慎重。」

  俞興笑了笑:「我這次來美國主要還是看看微軟,看看谷歌,看看大公司,也看看深度學習,我對做空不感興趣。」

  蓋茨不認為這是真話,但他自己對做空特斯拉是很感興趣的。


章節目錄