第867章 明訊的AI模型發展
聽到這個問題，湯智曉扶了扶眼鏡，神情既有自豪，也帶著一絲無奈。
「馬總，自從幾年前在您的建議下，我們團隊完成了Transformer架構的搭建，並推出了圍棋AI『奕星』之後，我們並沒有停下腳步，一直在基於神經網絡和深度學習的原理，探索更大規模的推理模型。」
他頓了頓，語氣轉向了現實的困難。
「但說實話，進展有些緩慢。最大的瓶頸還是在於算力基礎，我們現有的伺服器集群，已經跑滿了。目前我們最大的一個實驗性模型，參數量始終很難突破千萬級別。再往上，訓練的成本和時間就會呈指數級增長，有點難以為繼。」
「除此之外，另一個巨大的難題是，可用於訓練的高質量數據非常稀缺。所以目前我們團隊的主要精力，還是放在應用層面，比如提升圖像識別和語音識別的準確率，這些方向對模型參數量的要求沒有那麼極端。」
馬明在一旁補充道：「老湯他們已經很厲害了，我們內部的圖片智能分類和語音轉文字功能，準確率已經是全球第一了。」
然而，湯智曉的臉上並沒有太多得意的神色，他似乎對現狀並不滿足。
「不過我聽說，英偉達那邊今年可能會發布一款新的計算卡，叫Tesla K80，據說單卡性能會是上一代的兩倍以上。我們正在計劃，等它發布後，立刻採購一批，搭建新的伺服器集群，或許到時候，能把模型參數再往上提一個數量級。」
聽到「千萬級別參數」和「Tesla K80」，馬宇騰的內心毫無波瀾，甚至有點想嘆氣。
感覺他穿越前的記憶，在幾年後OpenAI發布的初代GPT模型，參數量就已經達到1.17億，更別說後世的那些參數達到萬億級別的大模型。
明訊網絡現在即使突破了千萬參數，距離真正意義上的「大模型」，依然隔著一道巨大的鴻溝。
實際上，這也不能怪湯智曉他們。
在這個時代，除了明訊因為自己這個穿越者的提醒，早早押注了Transformer架構和模型參數規模之外，全世界幾乎所有的AI研究機構，都還沒有系統性地認識到「大力出奇蹟」的真理。
在GPT-3用石破天驚的效果證明「模型越大、數據越多、算力越強，智能就必然提升」之前，整個業界的主流思路，還是更側重於針對每一個具體的應用場景，去設計專門的、精巧的模型結構。
他們不知道，當模型規模突破某個神秘的臨界點後，會像打通任督二脈一樣，突然湧現出小模型完全不具備的、近乎通用的智能。
想到這裡，馬宇騰決定再「點撥」他們一下。
他看向因為數據問題而皺眉的湯智曉，忽然開口問道：「湯總，你說高質量的訓練數據稀缺，這個問題，你們有沒有想過換一種思路去解決？」
「換一種思路？」湯智曉有些疑惑。
「對。」馬宇騰點了點頭，拋出了一個讓在場兩人都意想不到的方案。
「我們東大，最不缺的是什麼？是人。尤其是高素質、低成本的大學生群體。」
「你們完全可以成立一個專門的數據標註部門，或者與各大高校合作，組織在校的大學生，以勤工儉學或者實習的方式，開展大規模的數據標註工作。無論是圖片、文本還是語音，我們都可以用人力，去堆出全世界質量最高、規模最大的中文語料庫！」
這個想法一出，湯智曉和馬明都愣住了。
數據標註？
這聽起來像是一個附加值極低的勞動密集型工作。
國外的那些網際網路巨頭，從來不會將數據標註當成是AI發展的核心。
【記住本站域名 讀小說就上 TW 看書網，𝗌𝗁𝗎.𝗍𝗐超順暢 】
看到他們的表情，馬宇騰就知道他們在想什麼。
他加重了語氣說道：「千萬不要小看這項工作。在我看來，未來AI模型的競爭，算力是入場券，算法是核心驅動，而高質量的數據，就是決定模型能力上限的『食糧』！」
他的目光變得深邃。
「我甚至可以預言，未來我們東大在AI技術發展上能否蓋過花旗國，一個決定性的因素，就在於我們能否建立起比他們規模更大、質量更高的中文訓練數據集！」
在他穿越前的時代，國內大模型發展落後於國外的一個重要原因，就是高質量的中文數據在整個網際網路數據總量中的占比，遠遠低於英文。
如果明訊現在就開始，利用東大獨有的人力資源優勢，搶先開啟這項看似「笨重」的工作，未來十年，這將為整個東大的AI產業，構築起一道旁人無法逾越的數據護城河！
湯智曉呆呆地看著馬宇騰，眼鏡下的雙眼，光芒越來越亮。
他仿佛被打開了一個全新的世界。
是啊！他們一直苦惱於從現有網際網路上抓取的數據質量參差不齊，清洗成本極高，為什麼不自己動手，去創造一個高質量的數據源呢？
「馬總……我明白了！」湯智曉激動地站了起來。
「您這個思路，太重要了！我們之前確實走入誤區了！」
馬明也迅速領會了其中的戰略價值，他看向馬宇騰的眼神里，充滿了欽佩。
「這件事，你們AI事業部立刻成立專項小組去推進，要錢給錢，要人給人！」馬明當場拍板。
看到氣氛已經到位，馬宇騰這才拋出了今天來的最後一個目的。
「既然說到了算力，我今天來，也是想告訴你們一個好消息。」
他笑著說：「德思半導體那邊，我們自己的AI晶片『朱雀』，已經進入了詳細設計階段。我希望，等晶片流片成功後，明訊的AI事業部能成為它的第一個核心用戶，並且在軟體生態、開發工具鏈的建設上，給予全面的支持和適配。」
「我們東大自己的AI晶片？」
這個消息，比剛才的數據標註計劃更讓馬明和湯智曉震驚。
「馬總，自從幾年前在您的建議下，我們團隊完成了Transformer架構的搭建，並推出了圍棋AI『奕星』之後，我們並沒有停下腳步，一直在基於神經網絡和深度學習的原理，探索更大規模的推理模型。」
他頓了頓，語氣轉向了現實的困難。
「但說實話，進展有些緩慢。最大的瓶頸還是在於算力基礎，我們現有的伺服器集群，已經跑滿了。目前我們最大的一個實驗性模型，參數量始終很難突破千萬級別。再往上，訓練的成本和時間就會呈指數級增長，有點難以為繼。」
「除此之外，另一個巨大的難題是，可用於訓練的高質量數據非常稀缺。所以目前我們團隊的主要精力，還是放在應用層面，比如提升圖像識別和語音識別的準確率，這些方向對模型參數量的要求沒有那麼極端。」
馬明在一旁補充道：「老湯他們已經很厲害了，我們內部的圖片智能分類和語音轉文字功能，準確率已經是全球第一了。」
然而，湯智曉的臉上並沒有太多得意的神色，他似乎對現狀並不滿足。
「不過我聽說，英偉達那邊今年可能會發布一款新的計算卡，叫Tesla K80，據說單卡性能會是上一代的兩倍以上。我們正在計劃，等它發布後，立刻採購一批，搭建新的伺服器集群，或許到時候，能把模型參數再往上提一個數量級。」
聽到「千萬級別參數」和「Tesla K80」，馬宇騰的內心毫無波瀾，甚至有點想嘆氣。
感覺他穿越前的記憶，在幾年後OpenAI發布的初代GPT模型，參數量就已經達到1.17億，更別說後世的那些參數達到萬億級別的大模型。
明訊網絡現在即使突破了千萬參數，距離真正意義上的「大模型」，依然隔著一道巨大的鴻溝。
實際上，這也不能怪湯智曉他們。
在這個時代，除了明訊因為自己這個穿越者的提醒，早早押注了Transformer架構和模型參數規模之外，全世界幾乎所有的AI研究機構，都還沒有系統性地認識到「大力出奇蹟」的真理。
在GPT-3用石破天驚的效果證明「模型越大、數據越多、算力越強，智能就必然提升」之前，整個業界的主流思路，還是更側重於針對每一個具體的應用場景，去設計專門的、精巧的模型結構。
他們不知道，當模型規模突破某個神秘的臨界點後，會像打通任督二脈一樣，突然湧現出小模型完全不具備的、近乎通用的智能。
想到這裡，馬宇騰決定再「點撥」他們一下。
他看向因為數據問題而皺眉的湯智曉，忽然開口問道：「湯總，你說高質量的訓練數據稀缺，這個問題，你們有沒有想過換一種思路去解決？」
「換一種思路？」湯智曉有些疑惑。
「對。」馬宇騰點了點頭，拋出了一個讓在場兩人都意想不到的方案。
「我們東大，最不缺的是什麼？是人。尤其是高素質、低成本的大學生群體。」
「你們完全可以成立一個專門的數據標註部門，或者與各大高校合作，組織在校的大學生，以勤工儉學或者實習的方式，開展大規模的數據標註工作。無論是圖片、文本還是語音，我們都可以用人力，去堆出全世界質量最高、規模最大的中文語料庫！」
這個想法一出，湯智曉和馬明都愣住了。
數據標註？
這聽起來像是一個附加值極低的勞動密集型工作。
國外的那些網際網路巨頭，從來不會將數據標註當成是AI發展的核心。
【記住本站域名 讀小說就上 TW 看書網，𝗌𝗁𝗎.𝗍𝗐超順暢 】
看到他們的表情，馬宇騰就知道他們在想什麼。
他加重了語氣說道：「千萬不要小看這項工作。在我看來，未來AI模型的競爭，算力是入場券，算法是核心驅動，而高質量的數據，就是決定模型能力上限的『食糧』！」
他的目光變得深邃。
「我甚至可以預言，未來我們東大在AI技術發展上能否蓋過花旗國，一個決定性的因素，就在於我們能否建立起比他們規模更大、質量更高的中文訓練數據集！」
在他穿越前的時代，國內大模型發展落後於國外的一個重要原因，就是高質量的中文數據在整個網際網路數據總量中的占比，遠遠低於英文。
如果明訊現在就開始，利用東大獨有的人力資源優勢，搶先開啟這項看似「笨重」的工作，未來十年，這將為整個東大的AI產業，構築起一道旁人無法逾越的數據護城河！
湯智曉呆呆地看著馬宇騰，眼鏡下的雙眼，光芒越來越亮。
他仿佛被打開了一個全新的世界。
是啊！他們一直苦惱於從現有網際網路上抓取的數據質量參差不齊，清洗成本極高，為什麼不自己動手，去創造一個高質量的數據源呢？
「馬總……我明白了！」湯智曉激動地站了起來。
「您這個思路，太重要了！我們之前確實走入誤區了！」
馬明也迅速領會了其中的戰略價值，他看向馬宇騰的眼神里，充滿了欽佩。
「這件事，你們AI事業部立刻成立專項小組去推進，要錢給錢，要人給人！」馬明當場拍板。
看到氣氛已經到位，馬宇騰這才拋出了今天來的最後一個目的。
「既然說到了算力，我今天來，也是想告訴你們一個好消息。」
他笑著說：「德思半導體那邊，我們自己的AI晶片『朱雀』，已經進入了詳細設計階段。我希望，等晶片流片成功後，明訊的AI事業部能成為它的第一個核心用戶，並且在軟體生態、開發工具鏈的建設上，給予全面的支持和適配。」
「我們東大自己的AI晶片？」
這個消息，比剛才的數據標註計劃更讓馬明和湯智曉震驚。