第306章 把才能留在這裡

投票推薦 加入書籤 小說報錯

  第306章 把才能留在這裡

  周三,趙文淵從長租的公寓騎共享單車來到了源智研究院的樓下。

  刷卡上樓。

  說是研究院,其實只是租了個寫字樓的一層。

  沒有實驗室也沒有機房,唯一值得肯定的硬體條件是網絡環境。

  劉彧看辦公地點的時候特意篩選過,這棟樓的運營商給的是企業專線,固定IP,對稱千兆,樓里還有個獨立的強電間可以拉專用迴路,可以臨時裝幾台小型的伺服器。

  昨天採購的一批桌椅運過來,趙文淵和劉彧帶著搬運工人布置了大半天,辦公室才有了點兒樣子。

  百廢待興的樣子。

  趙文淵有點兒二次創業的感覺。

  但是這次和上次不一樣了,這次創業賊有底氣。

  進到辦公室里,桌子上放著一摞簡歷。

  博士、博士、博士、本科。

  哦,最後這個是應聘行政的,讓劉彧面試就可以了。

  趙文淵看了看表,時間剛過九點。

  第一個面試安排在上午十點。

  他把電腦拿出來,大概看了一下最近的項目進展。

  湯圓的下一階段訓練還要等到算子適配和大規模集群通信這兩個問題解決之後,但是現在的模型組也不是沒有事情做。

  公司在整合天工模型和湯圓模型,把天工作為湯圓背後可調用的「專家團隊」之一。

  關於這種數字資產之間如何定價和交易,是CF0陸明洲在操盤。

  趙文淵則要負責在技術層面上完成交接,包括各種帳號的管理權限天工訓練集群的root權限、雲端存儲桶的訪問密鑰、幾個還在跑的長周期實驗作業、還有一堆叫不出名字的內部工具帳號。

  這些東西平時看起來不起眼,真到要交接的時候才發現全是細節,少一個權限都可能會影響工作。

  以前源碼模型組的十來個組員已經把勞動關係都轉到了源智科技,還在他手底下,搬家的意向調查已經回復了一大半,基本都是想搬到京城來。

  AI這一行太新了,源碼當初招人的時候也沒什麼名氣,第一批進來的這批基本都是剛畢業的年輕人,還包括趙文淵拉過來的師弟師妹,別說成家買房,連談戀愛的都不多。

  這種人最不在意換個地方工作。

  大家基本都是海漂,公司戰略一變,又從海漂變成了京漂,對這些人的影響不算特別大。

  至於另外一個原因,沒人明說,但是趙文淵也多少能猜到,多少有人害怕離研究團隊太遠了之後會被排外。

  小牛就專門私信問過趙文淵,在海城或者在京城,會不會對過手的研究項目有影響。

  本書首發 TW 看書網超給力,𝚜𝚑𝚞.𝚝𝚠書庫廣 ,提供給你無錯章節,無亂序章節的閱讀體驗

  趙文淵回答不會,但是小牛還是選了願意搬家。

  大概處理了一些工作,劉彧過來敲了敲門。

  「趙總,第一個面試者快到了,隔壁的會議室已經布置好了,您稍微準備一下,我去前台接一下人。」

  「好的,謝謝劉秘書。」趙文淵回應了一聲。

  劉彧在這幫忙,趙文淵也不太習慣。

  雖然兩人年紀差不多,相處的也還行,但是劉彧畢竟是韓路一的秘書,臨時借給他的,他也不好上去指揮。

  還是得趕緊把京城本地的行政搭起來才行。

  趙文淵來到會議室坐下。

  這個會議室空蕩蕩的,連個屏幕也沒有,更別說專用於視頻會議的攝像頭了。好久沒用過這麼簡陋的會議室,還挺不習慣的。

  趙文淵拿出接下來要面試的候選人的簡歷看了看。

  章聞鐸,水木的計算機科學准博士,研究方向是人工智慧,細分方向是世界模型。

  有意思。

  國內做這個方向的不多啊,他的導師是誰?

  趙文淵翻了翻簡歷,沒寫在簡歷上。

  這孩子,不是很會寫簡歷啊。

  趙文淵不由得回想起自己博士剛畢業的時候在美國找工作的經歷來。

  那個時候人工智慧還沒爆發,ChatGPT還沒有橫空出世,即使是人工智慧方向的博士,就業方向也就有限的幾個大廠,人家還不一定要你。

  趙文淵準備的簡歷,別說是自己的論文,自己的導師,恨不得連學術會議上說過兩句話的行業大佬的名字都寫上去。

  現在時代不一樣啦,只要是學人工智慧的,不管你跟的是誰,都不愁找工作,薪資還被炒到了天上去。

  沒辦法,行業太缺人了。

  趙文淵打開電腦,在知網搜了一下章聞鐸的名字—信息檢索是做研究的基本能力,簡歷上的不全,就自己再找找吧。

  花了幾分鐘收集了一下章聞鐸的信息,趙文淵挑了挑眉。

  竟然發了NeurIPS的長文,還不止一篇,還都是第一作者,引用量也不低。

  趙文淵又點進去看了看通訊作者,莊治院士。

  看起來不是個水博啊。

  就在這時,門被敲響了。

  「請進。」趙文淵說道。

  一個年輕人走了進來,瘦瘦高高,帶個黑框眼鏡,穿著棉質襯衫,一臉的學生氣。

  「你好,是章同學嗎?」趙文淵打招呼,「請坐。」

  「博士。」章聞鐸坐下,開口說道。

  趙文淵一愣:「啊?」

  「我已經答辯通過了,雖然還沒有參加畢業典禮,拿到學位證,但是已經是一個博士了。」

  趙文淵聞言動了動嘴角,誰還不是個博士了。

  我還是斯坦福的博士,我和誰說了嗎?

  「好的,章博士,你好,我先自我介紹下,我叫趙文淵,斯坦福的博士,出自李飛飛教授門下。」

  這話一出口,章聞鐸眼神就是一動。

  見面自報家門,這就是學術門派之間的碰撞。

  趙文淵接著說:「我現在擔任源智京城研究院的院長,負責統管源智在京的所有事務,以及研究團隊的研究方向,今天由我來對你進行面試。」

  章聞鐸點了點頭,然後轉頭看了一下四周,開口問道:「韓總不在嗎?」

  趙文淵又是一愣。

  這個章博士,說話總是出人意料啊。

  「韓總不在京城,之後也不會常駐京城,今天只有我對你進行面試。」趙文淵確認了一下。

  章聞鐸沒說話,眼睛裡有點兒失望的眼神。

  趙文淵能讀懂裡面的意思:你誰啊?怎麼不讓韓總面試我?

  趙文淵覺得有點兒好笑,但是又有點兒熟悉,他剛去谷歌的時候也是這樣,但凡碰見個級別比他高的就想和人家比比論文引用數。

  憑什麼你級別比我高?


  其實在學術界也沒有那麼好用。

  趙文淵容忍了初出茅廬的章博士,情商低就情商低吧,我也不是雇你過來當行政的。

  先看看你水平到底怎麼樣再說。

  趙文淵把電腦合上:「我們開始面試了,先聊點基礎知識。」

  章聞鐸把身子挺直,手也攥了攥。

  還行,還知道緊張。

  「你是研究世界模型方向的,那麼你怎麼定義世界模型?」

  章聞鐸幾乎沒有停頓。

  「一個系統如果能從有限觀測里構建環境狀態的內部表示,並且能利用這個表示預測未來觀測、評估動作後果、支持規劃和反事實推理,就可以稱為世界模型。」

  趙文淵點點頭,接著問:「世界模型和一個很強的net—token predictor(下一個詞元的預測器)有什麼區別?」

  「區別不在輸出形式,在內部表示的約束。」章聞鐸推了推眼鏡,「Net—token

  predictor只需要學到文本分布里的條件概率,哪怕它在很多任務上表現得像理解了世界,也可能只是學到了足夠複雜的共現結構。」

  「想要成為世界模型,必須滿足三個條件。」章聞鐸伸出三根手指,「一,狀態壓縮,不同的表述在同一個世界狀態下的內部映射要一致;二,狀態更新,新觀測會引起內部變量按照可復用的規則更新;三,因果性,對於事件的預測不是純粹基於相關性的,而是能給出相應的因果關係。」

  趙文淵邊聽邊點頭。

  這個章博士對世界模型的理解還挺深刻的。他說的這些,沒有哪個官方的學術定論,但卻都描述了世界模型的主流方向。

  第一點是說,同一件事不管你怎麼表述,本質是一樣的,那就應該表示為同樣的內部

  狀態,比如說「一隻貓在桌上」和「桌上有一隻貓」,不能因為說法不一樣,就在內部作為兩種表示。

  第二點則是說,世界變化的時候,內部表示要更新,而這種更新要遵循規律。這種變動本身避免了每次瞬時狀態都要從頭進行大量運算,而是可以用上一狀態和變化量來計算下一狀態。

  第三點是學界現在最熱門的課題之一,相關性不代表因果性,夏天冰淇淋的銷售增加,淹死的小孩也變多了,但是並不是吃冰淇淋導致小孩被淹死。這是純語言模型最容易出錯的地方。

  趙文淵繼續提問:「那你怎麼驗證一個語言模型有沒有內部狀態?你拿不到權重,只能黑盒調用。」

  章聞鐸嘴角掛起微笑。

  這就是他博士論文的課題,現在還沒發表,但是在面試里牛刀小試完全沒問題。

  「黑盒很難驗證有內部狀態」,最多只能排除低級解釋。」章聞鐸說,「我會設計狀態追蹤任務。定義一個隱藏狀態,把同一個狀態用不同敘述方式包裝——敘事文本、表格、聊天記錄、甚至帶噪聲的口述,都可以。如果模型真的有穩定的內部表示,在不同包裝下對同一問題的回答應該一致。」

  「一致就夠了嗎?」

  「不夠。還要加干擾項,再做反事實。問它如果第三步沒有發生,最後狀態是什麼。

  只有在反事實任務上也穩定,才說明它有某種狀態遷移能力。」

  趙文淵點了點頭,章聞鐸在世界模型的檢測這塊研究的挺深。

  「我們假設你已經有了很好的狀態探針,需要一個狀態追蹤框架。如果要作為持續評測指標跑進訓練循環里,你怎麼保證評測信號本身不成為訓練目標的一部分?」

  趙文淵接著問道。

  這在機器學習里是個永恆的難題。

  甚至在現實世界中也是個永恆的難題。

  當你的考核固定,你怎麼知道考核對象是學會了知識,還是背過了答案?

  章聞鐸皺起了眉頭。

  從概念上來說,他知道這是什麼問題。

  但是他從來沒有處理過需要循環訓練,動態更新的大規模項目,沒資源,也沒必要。

  趙文淵微微一笑。

  這是典型的工業界而非學術界的問題。

  章博士,你要學的東西還很多啊。

  章聞鐸還在思考,趙文淵看了看表,已經十點五十了。

  「今天的面試問題就先到這裡吧,我們還有十分鐘的時間,你有什麼問題想要問我的?」趙文淵說道。

  章聞鐸被打斷了思路,有點兒不甘心,但是他確實一時也想不出什麼可行的答案,只能強行把自己的思維從問題中拽了出來。

  面試的地方多了,章聞鐸也有自己的一個「對面試官問題集」,直接抽題出來問就行了。

  「貴單位現在有多少人?」

  趙文淵說:「在京的有十五人,在招崗位十五個,最終會有三十個研究員,還有其他的行政崗位。」

  「你們的可用算力有多少?」

  「我們的算力全部是自有集群,現在有十多個五百卡集群,機房就在張家口。」趙文淵回答道。

  至於這些集群其實都是國產卡,CUDA體系用不了這些事,趙文淵沒說。

  畢竟你也沒問啊,對吧?

  聽到這個答案章聞鐸還挺意外的。

  像源智這樣的初創企業,竟然已經有近萬張卡了?是A100?不會是H100吧?

  但是為什麼都是五百卡的集群呢?為什麼不做大集群呢?五百卡怎麼做訓練?

  章聞鐸心裡的疑問很多,但是沒有問出來,涉及一些機密信息了,他也知道不方便問。

  章聞鐸回想了一下趙文淵面試開頭說的話,突然問出了一個不在他的「問題集」里的問題。

  這個話題他也和師哥師姐們聊過,甚至和導師聊過,但是他還沒有自己的答案。

  「趙博士,你為什麼不留在國外做研究呢?」

  章聞鐸看著趙文淵的眼睛,問出了這個問題。

  趙文淵一頓,沒想到章聞鐸會問這個。

  「我很好奇,你為什麼問這個問題呢?」

  「嗯————我手裡有海外高校和幾家大廠的0ffer,我自己也在猶豫。人工智慧這個方向,現在還是美國更領先一些,資源也更充足一些,從個人的角度考慮,也更容易出成果一些。所以我很好奇,你既然出自李飛飛教授門下,怎麼沒留在國外呢?」

  趙文淵嘆了口氣。

  「我不是一畢業就回國的,我以前在DeepMind幹過幾年。」

  章聞鐸聞言一驚,DeepMind可以說是研究員最好的去處之一了。

  「那你為什麼回來?」

  趙文淵看著章聞鐸的方向,但是視線卻沒聚焦在他的身上,沉默了一下,才開口說道:「我不知道你有沒有出過國,即使你出國旅遊過,職場環境是不一樣的。無論在哪,我們中國人都是最努力的一批,也是最出成績的一批,但是越往上,留給中國人的位置越少。」

  趙文淵一邊說一邊用手敲了敲桌子。

  「我一開始以為是語言的問題,是文化的問題,是我的問題。但是最後我才發現,這不是我的問題,是他們的問題。」趙文淵的目光聚焦在了章聞鐸的臉上,「我不是說國外不好,那挺好的,學術體系、研究氛圍,都有值得學習的地方。但我知道,那不適合我。」

  「我們這一代人很熟悉一條路。」趙文淵說,「考最好的學校,去國外讀博士,進最好的實驗室,在別人的體系里爬梯子。但是你們的時代不一樣了,人工智慧這一輪,是少有的一次,我們不用去別人的體系里。」

  「如果你願意聽我一個建議的話,即使你不來源智,去哪裡都可以,別出國,把你的

  才能留在這。」

  趙文淵的一大段話說完,章聞鐸受的衝擊挺大。

  他還有更多的問題想問,嘴唇動了動,還沒來得及問出來。

  門外響起了敲門聲。

  趙文淵抬起手看了看表,說道:「下一個面試的時間到了,今天非常感謝你來面試,結果我會儘快通知你。」

  說完他站起來,把章聞鐸送到了門口。

  門外是另一個面試候選人,章聞鐸不認識,大概也是那個哪個高校的博士。

  章聞鐸渾渾噩噩地走出門,一路上還在消化著趙文淵最後回答他的那段話。

  把才能留在這裡————嗎?

  >


章節目錄