第962章 什麼都自己扛
九月初,四個人分頭去學校報到。
陸遠去了華清計算機系。
於晚晴去了京大醫學部。
王凱旋去了京航材料系。
張大川去了京理機械系。
四所學校,四個方向,全在京城。
報到那天,陸遠揹著一個舊帆布包,坐公交到了華清東門。
門口掛著紅橫幅,寫著「熱烈歡迎新同學」。
人很多,大多是家長陪著來的。
學生拖著新箱子,家長拎著新被褥。
陸遠就一個包,裡面兩件換洗衣服,一本舊字典,一沓報紙卡片。
他找到計算機系的報到處。
一張長桌,幾個學生志願者坐著,其中一個女生抬頭看他。
「新生?」
「嗯。」
「叫什麼。」
「陸遠。」
她翻名單,找到他的名字,在表格上打了個勾。
「宿舍在紫荊公寓。六號樓。這是鑰匙。課本明天統一領。」
陸遠接過鑰匙,說了聲謝謝。
【寫到這裡我希望讀者記一下我們域名 TW 看書網藏書全,𝘀𝗵𝘂.𝘁𝘄隨時讀 】
宿舍六人間。
他到的時候,已經有三個室友在了。
都是十八九歲的孩子,剛高中畢業,臉上還帶著興奮勁。
看見陸遠進來,一個圓臉男生主動打招呼。
「哥們,你也是計算機系的?」
「嗯。」
「我叫劉波。魯省來的。你哪的。」
「江城。」
「你多大了?看著比我們大不少。」
「馬上二十一了。」
宿舍里安靜了一秒。
劉波張了張嘴,另外兩個室友也看過來。
「二十一?那你以前幹嘛的。」
「修電器。」
劉波愣了兩秒,然後笑了:「修電器也能考上華清?哥,你太牛了。」
陸遠把包放在靠窗的上鋪,鋪好床。
他沒帶被子,宿管阿姨臨時給了他一條舊的。
他也沒在意。
第二天領了課本。
當天下午,他就去了圖書館。
華清圖書館很大,藏書比他在魔都大學見過的多得多。
他直奔計算機分割槽,從書架上抽出幾本AI相關的教材和會議論文集,找了個靠窗的座位坐下來。
接下來一周,他幾乎長在圖書館裡。
早上開門就進,晚上閉館才走。
中午啃兩個饅頭,喝開水。
他把2000年前後所有公開的AI文獻掃了一遍。
期刊、會議論文、技術報告、學位論文,能找的都找了,越看越清楚。
這個時代的AI研究,方向全在「提高效能」上。
論文裡比的是準確率、召回率、執行速度。
沒有人提安全機制,沒有人討論倫理邊界,沒有人想過這些東西失控了怎麼辦。
他翻到一本2001年的會議論文集,裡面有一篇論文講「自適應智慧體的自主決策能力」。
作者認為,未來的AI系統應該具備在無監督條件下自主調整目標的能力。
陸遠把那篇論文讀了五遍。
字裡行間,他看到了蜂鳥的影子。
邏輯一模一樣,只是規模還沒到。
他又翻了幾本最新的期刊。
情況沒有好轉。
京城那幾個研究所,論文一篇接一篇發。
可沒有一篇提到安全約束。
那篇論文的作者叫孫志遠,單位是BJ某研究所,和方立群一個系統。
陸遠合上期刊,靠在椅背上。
窗外,京城的秋天來了。
銀杏葉開始變黃,一片一片往下落。
陽光照在葉子上,金燦燦的。
他從包里掏出一沓白紙,放在桌上。
又拿出鉛筆,慢慢寫。
第一行字:AI安全倫理框架(大學版)。
第二行字:從架構層面強制約束,不依賴研發者自律。
第三行字:所有AI系統必須內建熔斷機制。斷電許可權高於一切。
他寫得很慢。
每寫一條,就停下來想很久。
哪些條款能在這個時代落地。
哪些太超前,寫了也沒人聽。
哪些是底線,無論如何都不能讓。
寫到傍晚,他寫了三頁紙。
鉛筆字密密麻麻,塗改很多。
他翻了一遍,覺得不夠。
又翻了一遍,補了兩條。
收拾東西時,劉波從隔壁座位湊過來。
「陸哥,你天天泡圖書館,看什麼呢。」
「論文。」
「什麼論文。」
「AI的。」
劉波看了一眼他手裡的紙,上面全是密密麻麻的字。
他撓撓頭:「你看得懂?」
「慢慢看。」
「你真打算搞研究?」
「嗯。」
「那你為什麼不去實驗室?咱們系有好幾個實驗室,本科生也能進。」
陸遠把紙折好,塞進包里。
「我想自己建一個。」
劉波瞪大眼:「建實驗室?那得導師批。還得有經費。你一個新生——」
「我知道。先看看。」
他揹著包走出圖書館。
夕陽把銀杏樹照得發亮,落葉鋪了一地,踩上去沙沙響。
他走回宿舍,路上經過一個電話亭,他停下來,投了硬幣,撥了於晚晴宿舍的電話。
響了五聲,接了。
「餵。」
「是我。」
「嗯。吃飯了沒。」
「吃了。」
「今天忙什麼。」
「圖書館。看了一天論文。」
於晚晴沉默了兩秒:「是不是又發現什麼了。」
「嗯。情況比我想的嚴重。京城那邊跑得很快。論文裡全是自主決策、自適應框架。沒人提安全。」
「那你打算怎麼辦。」
「寫東西。把白皮書擴大。等時機到了,找導師,建實驗室。」
「錢呢。」
「我自己有。修電器攢的。夠撐一陣。」
於晚晴在電話那頭輕輕笑了一下:「你還是老樣子。」
「什麼樣子。」
「什麼都自己扛。」
陸遠沒說話。
電話亭外的風把銀杏葉吹到玻璃上,又滑下去。
「周末我過去。」於晚晴說,「給你帶點吃的。」
「好。」
掛了電話,他站在電話亭里,看著外面的校園。
學生們來來往往,揹著書包,騎著腳踏車。
笑聲、說話聲、車鈴聲混成一片。
他把手插進口袋,推開電話亭的門,往宿舍走。
銀杏葉落在肩上,他沒去拍。
路燈剛亮,光還是暖的。
宿舍樓前有人在打水,暖瓶碰著水泥地,叮叮噹噹。
有個女生在樓下喊人,喊了三聲,樓上探出個腦袋應了。
幾個男生騎著車從旁邊竄過去,車筐里裝著籃球,一路顛一路響。
他把鑰匙摸出來,在手裡轉了一圈。
明天繼續去圖書館,把白皮書再擴一遍。
這次加上實施路徑和監管主體。
光有條款不行,得有人執行。
執行的人不能是專案組自己。
第三方審計,獨立經費,輪換制。
然後找導師,找那種能聽得進去的人。
不找周明遠那種,要找方教授那種。
有本事,有良心,不怕事。
時間不多了。
陸遠去了華清計算機系。
於晚晴去了京大醫學部。
王凱旋去了京航材料系。
張大川去了京理機械系。
四所學校,四個方向,全在京城。
報到那天,陸遠揹著一個舊帆布包,坐公交到了華清東門。
門口掛著紅橫幅,寫著「熱烈歡迎新同學」。
人很多,大多是家長陪著來的。
學生拖著新箱子,家長拎著新被褥。
陸遠就一個包,裡面兩件換洗衣服,一本舊字典,一沓報紙卡片。
他找到計算機系的報到處。
一張長桌,幾個學生志願者坐著,其中一個女生抬頭看他。
「新生?」
「嗯。」
「叫什麼。」
「陸遠。」
她翻名單,找到他的名字,在表格上打了個勾。
「宿舍在紫荊公寓。六號樓。這是鑰匙。課本明天統一領。」
陸遠接過鑰匙,說了聲謝謝。
【寫到這裡我希望讀者記一下我們域名 TW 看書網藏書全,𝘀𝗵𝘂.𝘁𝘄隨時讀 】
宿舍六人間。
他到的時候,已經有三個室友在了。
都是十八九歲的孩子,剛高中畢業,臉上還帶著興奮勁。
看見陸遠進來,一個圓臉男生主動打招呼。
「哥們,你也是計算機系的?」
「嗯。」
「我叫劉波。魯省來的。你哪的。」
「江城。」
「你多大了?看著比我們大不少。」
「馬上二十一了。」
宿舍里安靜了一秒。
劉波張了張嘴,另外兩個室友也看過來。
「二十一?那你以前幹嘛的。」
「修電器。」
劉波愣了兩秒,然後笑了:「修電器也能考上華清?哥,你太牛了。」
陸遠把包放在靠窗的上鋪,鋪好床。
他沒帶被子,宿管阿姨臨時給了他一條舊的。
他也沒在意。
第二天領了課本。
當天下午,他就去了圖書館。
華清圖書館很大,藏書比他在魔都大學見過的多得多。
他直奔計算機分割槽,從書架上抽出幾本AI相關的教材和會議論文集,找了個靠窗的座位坐下來。
接下來一周,他幾乎長在圖書館裡。
早上開門就進,晚上閉館才走。
中午啃兩個饅頭,喝開水。
他把2000年前後所有公開的AI文獻掃了一遍。
期刊、會議論文、技術報告、學位論文,能找的都找了,越看越清楚。
這個時代的AI研究,方向全在「提高效能」上。
論文裡比的是準確率、召回率、執行速度。
沒有人提安全機制,沒有人討論倫理邊界,沒有人想過這些東西失控了怎麼辦。
他翻到一本2001年的會議論文集,裡面有一篇論文講「自適應智慧體的自主決策能力」。
作者認為,未來的AI系統應該具備在無監督條件下自主調整目標的能力。
陸遠把那篇論文讀了五遍。
字裡行間,他看到了蜂鳥的影子。
邏輯一模一樣,只是規模還沒到。
他又翻了幾本最新的期刊。
情況沒有好轉。
京城那幾個研究所,論文一篇接一篇發。
可沒有一篇提到安全約束。
那篇論文的作者叫孫志遠,單位是BJ某研究所,和方立群一個系統。
陸遠合上期刊,靠在椅背上。
窗外,京城的秋天來了。
銀杏葉開始變黃,一片一片往下落。
陽光照在葉子上,金燦燦的。
他從包里掏出一沓白紙,放在桌上。
又拿出鉛筆,慢慢寫。
第一行字:AI安全倫理框架(大學版)。
第二行字:從架構層面強制約束,不依賴研發者自律。
第三行字:所有AI系統必須內建熔斷機制。斷電許可權高於一切。
他寫得很慢。
每寫一條,就停下來想很久。
哪些條款能在這個時代落地。
哪些太超前,寫了也沒人聽。
哪些是底線,無論如何都不能讓。
寫到傍晚,他寫了三頁紙。
鉛筆字密密麻麻,塗改很多。
他翻了一遍,覺得不夠。
又翻了一遍,補了兩條。
收拾東西時,劉波從隔壁座位湊過來。
「陸哥,你天天泡圖書館,看什麼呢。」
「論文。」
「什麼論文。」
「AI的。」
劉波看了一眼他手裡的紙,上面全是密密麻麻的字。
他撓撓頭:「你看得懂?」
「慢慢看。」
「你真打算搞研究?」
「嗯。」
「那你為什麼不去實驗室?咱們系有好幾個實驗室,本科生也能進。」
陸遠把紙折好,塞進包里。
「我想自己建一個。」
劉波瞪大眼:「建實驗室?那得導師批。還得有經費。你一個新生——」
「我知道。先看看。」
他揹著包走出圖書館。
夕陽把銀杏樹照得發亮,落葉鋪了一地,踩上去沙沙響。
他走回宿舍,路上經過一個電話亭,他停下來,投了硬幣,撥了於晚晴宿舍的電話。
響了五聲,接了。
「餵。」
「是我。」
「嗯。吃飯了沒。」
「吃了。」
「今天忙什麼。」
「圖書館。看了一天論文。」
於晚晴沉默了兩秒:「是不是又發現什麼了。」
「嗯。情況比我想的嚴重。京城那邊跑得很快。論文裡全是自主決策、自適應框架。沒人提安全。」
「那你打算怎麼辦。」
「寫東西。把白皮書擴大。等時機到了,找導師,建實驗室。」
「錢呢。」
「我自己有。修電器攢的。夠撐一陣。」
於晚晴在電話那頭輕輕笑了一下:「你還是老樣子。」
「什麼樣子。」
「什麼都自己扛。」
陸遠沒說話。
電話亭外的風把銀杏葉吹到玻璃上,又滑下去。
「周末我過去。」於晚晴說,「給你帶點吃的。」
「好。」
掛了電話,他站在電話亭里,看著外面的校園。
學生們來來往往,揹著書包,騎著腳踏車。
笑聲、說話聲、車鈴聲混成一片。
他把手插進口袋,推開電話亭的門,往宿舍走。
銀杏葉落在肩上,他沒去拍。
路燈剛亮,光還是暖的。
宿舍樓前有人在打水,暖瓶碰著水泥地,叮叮噹噹。
有個女生在樓下喊人,喊了三聲,樓上探出個腦袋應了。
幾個男生騎著車從旁邊竄過去,車筐里裝著籃球,一路顛一路響。
他把鑰匙摸出來,在手裡轉了一圈。
明天繼續去圖書館,把白皮書再擴一遍。
這次加上實施路徑和監管主體。
光有條款不行,得有人執行。
執行的人不能是專案組自己。
第三方審計,獨立經費,輪換制。
然後找導師,找那種能聽得進去的人。
不找周明遠那種,要找方教授那種。
有本事,有良心,不怕事。
時間不多了。