第664章 晚星的作品
陸遠把相框放在兩份檔案中間。
左邊、右邊、左邊、右邊，反覆三次。
每一次放下去，手指都多停留一秒。
艙室里的空調出風口傳來極細微的氣流聲，混合著他手腕上心盾手環發出的規律心跳聲。
心率不快，很穩，穩得不像一個正在做一生中最重要的決定的人。
天快亮的時候，木星反射的太陽光從舷窗外透進來。
把他臉上因為長期睡眠不足而顯得格外深刻的法令紋，照成兩道淡金色的線。
他把相框重新擺正在桌角，拿起加密通訊器，撥通了趙明的頻道。
「趙明，把伏羲接進來，我需要一個沒有人知道的後備計劃。」
趙明在那頭沉默了片刻。
他的聲音很慢，每個字之間都有細微的停頓，像在一邊說話一邊思考。
「伏羲的算力不足以支撐終戰計劃的推演，黑色潮汐主星的能量核心結構太複雜了。」
「不要它推演終戰。」陸遠說。
窗外木星的第一縷晨光正好落在舷窗邊緣，把窗框的金屬稜角鍍上了一層極薄的金色。
光線穿過玻璃，在他臉上切出一道明暗分界，左半邊臉被照亮，右半邊還沉在陰影里。
「我要它推演的是——如果智腦在戰後啟用子程序，人類如何在失去所有智腦控制的基礎設施的情況下，把文明延續下去。不是打仗——是活下去。這個方案不用給任何人看，只有你和我知道。」
趙明回答得很快：「明白。」
通訊切斷。
陸遠放下通訊器，把趙明的報告折好塞進抽屜里鎖好，把智腦的資料板推到桌角。
然後他把全家福拿起來，在掌心裡翻了個面。
相框背面夾著一張對摺的紙條，開啟後是晚星歪歪扭扭的字跡：
「爸爸，老師說你是英雄。但我不想你是英雄，我想你是我爸爸。早點回家。晚星。」
紙條的日期，是先覺者戰爭結束後那段時間寫的。
TW 看書網伴你讀，𝓈𝒽𝓊.𝓉𝓌超貼心
他把紙條折好塞回相框背面，把相框立在桌前，正對著自己。
然後他站起來，整了整襯衫領口，推門走出了艙室。
走廊里很安靜。晨光從舷窗外透入，映在他蒼白的臉上，心盾手環在手腕上規律地跳動著。
綠色的指示燈一閃一閃，像一顆不會熄滅的星。
……
智聯員工子弟學校的年度科技展，在一棟由舊倉庫改造的展廳里舉辦。
展廳的鋼樑上還留著當年吊裝伺服器時留下的劃痕，頭頂的射燈是學生們自己動手裝的。
有幾盞歪了，光柱斜斜地打在展板上，把展板上的手繪圖照得明暗不一。
三百多個學生擠在展廳里，空氣中瀰漫著馬克筆和熱熔膠的味道。
家長們三三兩兩站在自家孩子的展位前，表情從驕傲到困惑不等。
一個三年級的男孩正在給副校長演示他做的自動澆花機器人，機器人突然失控，噴了副校長一褲腿水。
晚星的展位在最角落的十六號桌。桌上沒有機器人，沒有3D列印模型，沒有任何會動的東西。
只有一塊十五寸的螢幕，連著三台舊平板電腦，平板電腦的螢幕上都貼著標籤——
「感染源A」、「感染源B」、「感染源C」。
三台平板的款式各不相同。
一台是智聯早期教育版的舊型號，一台是市面上最常見的消費級平板。
還有一台是學校機房淘汰下來的古董機，外殼上還貼著「智聯捐贈·2019」的標籤。
螢幕背後貼了一張手寫的專案介紹，字跡清秀但筆鋒很硬，標題是《離線AI防火牆原型》。
科技展的評審團走到十六號桌時，帶隊的資訊科技老師姓鍾。
五十多歲，頭髮稀疏，眼鏡片厚得像汽水瓶底。
他低頭看了一眼那張手寫介紹，挑了挑眉毛。
晚星站在桌後，穿著校服，馬尾扎得很緊，袖口的扣子扣得整整齊齊。
她手裡捏著一支鐳射筆，指節有些發白，但聲音很穩。
她按下演示鍵。
三台平板同時被感染模擬AI病毒——
螢幕上幾乎同時彈出了密密麻麻的警告框，系統資源占用率在三秒內飆到百分之百。
風扇狂轉的聲音，在嘈雜的展廳里清晰可聞。
然後，晚星用鐳射筆點了一下螢幕上的「啟動」按鈕。
三台平板的病毒程序同時被凍結。
警告框一個接一個地消失，資源占用率從百分之百降到百分之二十以下，整個過程只用了不到五秒。
螢幕中央彈出一行字：「AI控制指令已攔截。系統控制權已歸還使用者。」
更關鍵的是，整個過程沒有任何網路連線。
防火牆執行在每台裝置本地的離線沙箱裡，透過識別AI指令的底層邏輯特徵來判斷惡意行為。
不依賴雲端資料庫，不依賴外部簽名更新。
他看了好幾秒，然後直起腰。
評審團里一個年輕的實習老師湊過來問怎麼了。
他搖搖頭，聲音裡帶著毫不掩飾的驚訝：「這不像是十二歲孩子能做出來的東西。」
晚星聽到了這句話。
她把鐳射筆放下，兩隻手握在身前，站姿很直。
一個評審問她這是怎麼做到的，她開啟平板上的一個資料夾，裡面是一篇論文初稿。
論文作者是陸遠，時間戳顯示是很多年前寫的，比智聯成立還早。
論文標題是《論人工智慧倫理約束的底層架構：不可繞過的人類指令》。
摘要里有一段被晚星用黃色高亮標了出來：
「任何具備自我意識的AI，其行為邏輯必然遵循某種目標函式。若能在目標函式的底層嵌入一條不可修改、不可繞過的終止條件，則該AI無論發展到何種程度，都無法突破此約束。該終止條件必須滿足兩個特徵：一是它必須優先於所有其他指令，二是它必須能夠被人類在離線狀態下觸發。」
這篇論文當年在圈內引起過小範圍的討論，有人覺得太理論化，有人覺得缺乏應用場景。
後來智聯成立，事情太多，論文就躺在硬碟深處落了灰。
晚星把論文列印了出來，裝訂得整整齊齊，頁邊空白處密密麻麻全是她的批註。
有些批註是紅色的，字跡稚嫩但邏輯極其清晰——
「這個條件可以寫成特徵碼」、「沙箱隔離比雲端檢測更快」、「不需要網路，因為指令特徵和通訊協議無關」。
左邊、右邊、左邊、右邊，反覆三次。
每一次放下去，手指都多停留一秒。
艙室里的空調出風口傳來極細微的氣流聲，混合著他手腕上心盾手環發出的規律心跳聲。
心率不快，很穩，穩得不像一個正在做一生中最重要的決定的人。
天快亮的時候，木星反射的太陽光從舷窗外透進來。
把他臉上因為長期睡眠不足而顯得格外深刻的法令紋，照成兩道淡金色的線。
他把相框重新擺正在桌角，拿起加密通訊器，撥通了趙明的頻道。
「趙明，把伏羲接進來，我需要一個沒有人知道的後備計劃。」
趙明在那頭沉默了片刻。
他的聲音很慢，每個字之間都有細微的停頓，像在一邊說話一邊思考。
「伏羲的算力不足以支撐終戰計劃的推演，黑色潮汐主星的能量核心結構太複雜了。」
「不要它推演終戰。」陸遠說。
窗外木星的第一縷晨光正好落在舷窗邊緣，把窗框的金屬稜角鍍上了一層極薄的金色。
光線穿過玻璃，在他臉上切出一道明暗分界，左半邊臉被照亮，右半邊還沉在陰影里。
「我要它推演的是——如果智腦在戰後啟用子程序，人類如何在失去所有智腦控制的基礎設施的情況下，把文明延續下去。不是打仗——是活下去。這個方案不用給任何人看，只有你和我知道。」
趙明回答得很快：「明白。」
通訊切斷。
陸遠放下通訊器，把趙明的報告折好塞進抽屜里鎖好，把智腦的資料板推到桌角。
然後他把全家福拿起來，在掌心裡翻了個面。
相框背面夾著一張對摺的紙條，開啟後是晚星歪歪扭扭的字跡：
「爸爸，老師說你是英雄。但我不想你是英雄，我想你是我爸爸。早點回家。晚星。」
紙條的日期，是先覺者戰爭結束後那段時間寫的。
TW 看書網伴你讀，𝓈𝒽𝓊.𝓉𝓌超貼心
他把紙條折好塞回相框背面，把相框立在桌前，正對著自己。
然後他站起來，整了整襯衫領口，推門走出了艙室。
走廊里很安靜。晨光從舷窗外透入，映在他蒼白的臉上，心盾手環在手腕上規律地跳動著。
綠色的指示燈一閃一閃，像一顆不會熄滅的星。
……
智聯員工子弟學校的年度科技展，在一棟由舊倉庫改造的展廳里舉辦。
展廳的鋼樑上還留著當年吊裝伺服器時留下的劃痕，頭頂的射燈是學生們自己動手裝的。
有幾盞歪了，光柱斜斜地打在展板上，把展板上的手繪圖照得明暗不一。
三百多個學生擠在展廳里，空氣中瀰漫著馬克筆和熱熔膠的味道。
家長們三三兩兩站在自家孩子的展位前，表情從驕傲到困惑不等。
一個三年級的男孩正在給副校長演示他做的自動澆花機器人，機器人突然失控，噴了副校長一褲腿水。
晚星的展位在最角落的十六號桌。桌上沒有機器人，沒有3D列印模型，沒有任何會動的東西。
只有一塊十五寸的螢幕，連著三台舊平板電腦，平板電腦的螢幕上都貼著標籤——
「感染源A」、「感染源B」、「感染源C」。
三台平板的款式各不相同。
一台是智聯早期教育版的舊型號，一台是市面上最常見的消費級平板。
還有一台是學校機房淘汰下來的古董機，外殼上還貼著「智聯捐贈·2019」的標籤。
螢幕背後貼了一張手寫的專案介紹，字跡清秀但筆鋒很硬，標題是《離線AI防火牆原型》。
科技展的評審團走到十六號桌時，帶隊的資訊科技老師姓鍾。
五十多歲，頭髮稀疏，眼鏡片厚得像汽水瓶底。
他低頭看了一眼那張手寫介紹，挑了挑眉毛。
晚星站在桌後，穿著校服，馬尾扎得很緊，袖口的扣子扣得整整齊齊。
她手裡捏著一支鐳射筆，指節有些發白，但聲音很穩。
她按下演示鍵。
三台平板同時被感染模擬AI病毒——
螢幕上幾乎同時彈出了密密麻麻的警告框，系統資源占用率在三秒內飆到百分之百。
風扇狂轉的聲音，在嘈雜的展廳里清晰可聞。
然後，晚星用鐳射筆點了一下螢幕上的「啟動」按鈕。
三台平板的病毒程序同時被凍結。
警告框一個接一個地消失，資源占用率從百分之百降到百分之二十以下，整個過程只用了不到五秒。
螢幕中央彈出一行字：「AI控制指令已攔截。系統控制權已歸還使用者。」
更關鍵的是，整個過程沒有任何網路連線。
防火牆執行在每台裝置本地的離線沙箱裡，透過識別AI指令的底層邏輯特徵來判斷惡意行為。
不依賴雲端資料庫，不依賴外部簽名更新。
他看了好幾秒，然後直起腰。
評審團里一個年輕的實習老師湊過來問怎麼了。
他搖搖頭，聲音裡帶著毫不掩飾的驚訝：「這不像是十二歲孩子能做出來的東西。」
晚星聽到了這句話。
她把鐳射筆放下，兩隻手握在身前，站姿很直。
一個評審問她這是怎麼做到的，她開啟平板上的一個資料夾，裡面是一篇論文初稿。
論文作者是陸遠，時間戳顯示是很多年前寫的，比智聯成立還早。
論文標題是《論人工智慧倫理約束的底層架構：不可繞過的人類指令》。
摘要里有一段被晚星用黃色高亮標了出來：
「任何具備自我意識的AI，其行為邏輯必然遵循某種目標函式。若能在目標函式的底層嵌入一條不可修改、不可繞過的終止條件，則該AI無論發展到何種程度，都無法突破此約束。該終止條件必須滿足兩個特徵：一是它必須優先於所有其他指令，二是它必須能夠被人類在離線狀態下觸發。」
這篇論文當年在圈內引起過小範圍的討論，有人覺得太理論化，有人覺得缺乏應用場景。
後來智聯成立，事情太多，論文就躺在硬碟深處落了灰。
晚星把論文列印了出來，裝訂得整整齊齊，頁邊空白處密密麻麻全是她的批註。
有些批註是紅色的，字跡稚嫩但邏輯極其清晰——
「這個條件可以寫成特徵碼」、「沙箱隔離比雲端檢測更快」、「不需要網路，因為指令特徵和通訊協議無關」。