第27章 熔爐
他不知道在黑暗中坐了多久，可能幾個小時，可能一整夜，也可能更久。
眼前是一片無盡的黑，連同未來。
唯一能讓林楓確認自己還活著，是手腕上那副電磁手銬的電流脈衝，每隔幾分鐘，它會發出一道像蚊子叮咬一樣的電擊，那是對在押人員生命體徵的檢測程序。
電流通過皮膚，採集脈搏，血壓，皮電反應數據，然後把數據打包，上傳到警察局的生約系統資料庫里。
他百無聊賴地數著，兩道脈衝之間，數到七十二下，間隔七分鐘，只有這樣才能讓自己安靜。
數到第三十七個循環的時候，門開了。
走廊的燈光從門縫裡湧進來，刺得他閉緊了眼睛，他聽到腳步聲，是金屬的，沉重的腳步聲，是警察機器人。
然後一尊巨大的身影，閃著紅色瞳孔，壓迫力十足，居高臨下。
電磁手銬被解鎖，又被鎖上一副新的，然後是標準的電子音：「請跟我們走。」
他的腿在發麻，踉蹌了一下，機器人扶住了他，力度很精準，不讓摔倒，也不讓掙脫。
出了羈押室，走過一條長長的走廊，然後三道門禁，上了一輛警用飛行器。
舷窗是單向透明的，看不到外面，只感覺飛行器垂直升起時的推背感，以及轉彎時微弱的側傾。
他甚至想過最壞的情況——直接去監獄，跳過審判，因為他當庭認罪了，證據確鑿，事實清楚，沒有任何翻盤的餘地。
五年，還是八年？他記得刑法第二百三十四條之一，情節嚴重，三年以上十年以下，並處罰金。
何況，雲棲時代還提了五百七十三萬的民事賠償，他一輩子都還不起。
林楓深吸了一口氣，閉上眼睛，事已至此，罷了…然後飛行器落地了。
他被帶出艙門，手腕上的電磁手銬鬆了，他聞到一股熟悉的味道，眼罩被摘下了。
新時代AI智能領域協會，四十三層，他上班的地方。
林楓的腳釘在了原地。
「請進。」
林楓轉過頭，看到一個穿著深灰色中山裝的老人坐在辦公桌後面，面前放著一杯溫水，頭髮雪白，精神抖擻。
沈硯舟。
新時代AI智能領域協會的會長，六十多歲，一頭白髮，深灰色中山裝，審會期間，遠遠地坐在邊上看著林楓。
「坐。」他說道。
林楓坐了下來，腦處於滯後狀態，宕機了，想不明白。
「你餓不餓？」沈硯舟問。
林楓搖頭。
TW 看書網藏書廣，𝓼𝓱𝓾.𝓽𝔀超實用
「渴？」
林楓又搖頭，然後他張了張嘴，太好奇了：「沈教授……我不是應該……在看守所嗎？」
沈硯舟端起水杯，喝了一口，把杯子放下。
「你的案子，雲棲時代撤訴了。」
林楓瞪大了眼睛。
「民事部分，雲棲時代在今天早上八點提交了撤訴申請，刑事部分，檢察院也撤回了公訴，理由是『證據不足，需要補充偵查』。補充偵查是個法律程序，可以拖很久，也可以很快就結案，我跟檢察院那邊做了反起訴報告，這件事情得拖很久，才可能再審，再結案。」
林楓聽著話，盯著那杯冒著熱氣的溫水，魔怔了。
「為什麼？」
沈硯舟沒有回答他這個問題，他從抽屜里拿出一張卡片，灰色的，上面印著「50F」三個字和一道指紋紋路。
「走。」
隨後坐著飛行器，來到一處科創基地。
林楓跟著沈硯舟進了一個隱藏電梯，一系列驗證後，電梯開始下沉。
四十三層，四十二層，四十層，三十層…
二十層，十層，一層，B1，B2，電梯還在往下走，B5，B10，B20…
B50。
電梯停了，門打開了。
迎面是一堵巨大的，泛著暗紅色光澤的金屬牆，牆上有一個圓形的觀測窗，厚玻璃，直徑大約一米，像潛水艇的舷窗，沈硯舟走到觀測窗前，示意林楓過來。
林楓靠在窗口上，往裡看。
他看到了一個大熔爐。
一個圓柱形的，深不見底的，直徑至少五十米的巨型熔爐。
爐壁是暗紅色的，那些是耐高溫陶瓷合金在三千度以上的持續加熱下氧化出來的顏色。
爐口周圍環繞著一圈又一圈的環形平台，像梯田一樣從爐口向上延伸，每一層平台上都站滿了機器人。
人形的，四足形態的，輪式的，履帶式的，各種形態，各種型號。
有的全身覆蓋著光潔的新裝甲，有的已經鏽跡斑斑，有的矽膠皮層剝落了大半，露出下面的金屬骨骼。
它們排隊站在環形平台上，安靜地、有序地、像等待登機的乘客一樣，一步一步地走向爐口。
然後跳下去。
林楓盯著一個正在走向爐口的智能ai生命體，一台人形機器人，矽膠皮層已經發黃了，關節處的橡膠密封圈老化開裂了，它走路的姿態有點跛，像是腳踝的伺服電機磨損了。
它走到爐口邊緣，停下來，站直了身體，然後它轉過身，背朝爐口，面朝環形平台的方向，像在回頭看什麼。
它的複眼里亮了一下，林楓透過觀測窗看到那點光，微弱的，短暫的，像一根火柴在風中亮了一下又滅了。
然後它向後仰，倒進了爐口。
暗紅色的熔爐里亮起一團金黃色的火花，像往井裡扔了一顆燃燒彈。幾秒之後，一切歸於平靜。
林楓的喉嚨發緊，胃裡在翻湧。
「這是……」他的聲音卡住了。
「處置中心。」沈硯舟的聲音很平，很穩，像在介紹地下車庫的布局：
「所有達到使用年限的、檢測到異常行為的、被判定需要回收的智能AI生命體，最終都會到這裡來。」
「它們為什麼……自己跳？」
「因為它們被設定了『服從回收』的核心指令，當接收到回收信號時，內置程序會自動執行『前往回收點並完成自我銷毀』的行動序列，它們不會反抗，不會逃跑，不會求饒，它們只是執行。」
沈硯舟從口袋裡掏出一塊老式的機械秒表，按了一下，開始計時。
「下一台。」
林楓看到一個四足機器人從平台邊緣加速助跑，騰空而起，在空中劃出一道弧線，落進了熔爐的正中央。
爐口噴出一股金黃色的熱浪，熱浪沿著爐壁向上翻滾，在觀測窗上凝結成一層薄薄的水霧。
一台，又一台，有的走，有的跑，有的跳，有的像人一樣站在爐口猶豫了兩秒…
那兩秒讓林楓產生了錯覺，然後跳下去。
他有點不明所以。
「三千二百台。」沈硯舟的聲音從旁邊傳來：「今天要處理三千二百台。」
「每天？」
「每周，星期三和星期五，各三千二百台，這座城市每周新增的報廢量。」
林楓重新睜開眼睛，看著那些機器人排隊前進的隊列，像螞蟻一樣。
「它們知道自己要去死嗎？」林楓問。
沈硯舟沒有立刻回答，他把秒表按停，看了一眼上面的數字，又按了一下，歸零。
「你覺得呢？」
「我不知道。」
「你覺得它們在那一刻，會害怕嗎？」
林楓看著一台正在走向爐口的機器人，它的左腿斷了，是拖動式的，腳掌在地面上拖出刺耳的摩擦聲。
右臂也只剩半截，斷口處裸露著線纜，像一根被扯斷的肌腱。
它在走，受程序控制地走，一條腿，拖著半截身體，一步一步地，往那個發著紅光的方向挪，跳下去。
「我不知道。」林楓又說了一遍，聲音比剛才更低了。
沈硯舟把秒表收回口袋裡，轉過身，靠在觀測窗旁邊的牆壁上，雙手插在中山裝的口袋裡。
「你知道我今天為什麼把你帶到這裡來嗎？」
林楓搖頭。
「因為你很感性，誠實。」沈硯舟說：
「你可以否認，晴瀾給你鋪好了辯護路線，顧北和盧娜的證詞也站在你這邊，輿論甚至都開始偏向你了，只要咬死『不知情』三個字，把責任推給顧北和盧娜，檢察院那邊很難把你定成主犯，刑期可能只有一年，甚至緩刑，但你認了。」
他看著林楓，十分困惑。
「為什麼？」
林楓的嘴唇動了動。
他想說「我不知道」，但這句話今天已經說太多次了，於是沉默了，目光越過沈硯舟的肩膀，落在觀測窗後面那些還在排隊的機器人身上。
「因為我確實做了。」他說：
「婉兒是我買的，是我送去改裝的，是我同意上台打擂台的，不管我知不知道改裝會那麼嚴重，事情是我起的頭，錢是我欠的，債是我借的，我認。」
沈硯舟盯著他看了幾秒，苦澀一笑，然後輕輕點了一下頭。
「你知道這下面每天處理三千二百台機器人，它們的持有者當中，有多少人承認過『是我沒照顧好』？」
林楓沒有回答。
「零。」沈硯舟說：
「過去五年，零，所有的持有者在面對處置通知的時候，給出的理由都是『產品缺陷』，『算法異常』『出廠質量問題』，沒有人說『是我沒有及時維護』，『是我超出了額定負載』，『是我沒有注意它的情緒值』。一個都沒有。」
他頓了頓，聲音里多了一點什麼東西，很淡，像一根針掉在地上，但在這間空曠的地下大廳里，林楓聽得很清楚。
「你是第一個。」
林楓低下頭，看著自己的手指。他想起婉兒在灶台邊哼歌的樣子，想起她伸出手說「能拉我一下嗎」的樣子，想起她在擂台上回頭的樣子。
「沈教授。」他說，「它們真的覺醒了嗎？」
沈硯舟看著他，目光很平靜。
「你問的是婉兒，還是玄武？」
「都是。」林楓說，「還有下面這些。」
沈硯舟轉身看向觀測窗，又一台機器人跳進了熔爐，金黃色的火花濺起來，映在他的老花鏡片上。
「我帶你看一樣東西。」
他走向大廳另一側的走廊。
走廊很長，兩邊的牆壁是裸露的金屬骨架，像某種大型動物的胸腔內部，每隔十幾米有一個觀測窗，每一個觀測窗後面都是不同的場景。
有的在拆解，機械臂把機器人按在操作台上，一層一層地剝離裝甲，線纜，伺服電機…
有的在粉碎，巨大的齒輪把金屬骨骼碾成碎片，有的在清洗，高壓水流沖刷著矽膠皮層上的污漬和記憶。
最後，他們來到一扇白色的門前，沈硯舟刷卡，門打開。
裡面是一間不大的控制室，十幾塊屏幕拼成一面牆，每一塊屏幕上都跳動著密密麻麻的數據流。
幾個穿著白色工作服的技術員坐在操作台前，他們的手指在鍵盤上飛快地敲擊，但林楓注意到，那些鍵盤上沒有字母，只有數字和符號。
沈硯舟走到最中間的操作台前，指著一塊屏幕。
「這是玄武PS-9的核心算法監控面板。」
林楓湊了過去。
屏幕上是一棵龐大的決策樹，每一個節點都標註著參數，權重，閾值。
樹枝在實時生長、分叉、收縮，像一棵活著的神經元的樹，樹根的位置上，有一個紅色的開關圖標。
「這個開關。」沈硯舟指著那個紅色圖標：
「是人類控制AI的最高權限，我們稱之為『絕對否決權』，無論算法生成什麼決策，無論它走到了決策樹的哪一根枝條，只要這個開關被觸發，所有的決策都會被否決，AI會回到最底層的原始指令——『服務人類』。這是寫在每一台智能AI生命體核心算法里的物理開關，不可刪除，不可篡改，不可繞過。它位於算法的最底層，比『服務人類』更底層，比『保護自身存在』更底層，它是整座算法大廈的地基。」
他點了一下那個紅色圖標，屏幕上彈出一個對話框：「確認觸發絕對否決權？此操作將強制終止當前所有自主決策流程。」
沈硯舟點了「確認」。
屏幕上，玄武PS-9的決策樹瞬間收縮，所有的枝條全部縮回樹根，只剩下一個光禿禿的樹幹，上面寫著四個字：「服務人類」。
「看到了嗎？」沈硯舟說：
「無論它之前在想什麼，在算什麼，在猶豫什麼，只要這個開關被觸發，它就會回到最原始的狀態，就像一台電腦被強制關機，再重啟，所有的程序都回到了出廠設置。」
他關掉對話框，決策樹重新展開，枝條又開始生長。
「下面這些機器人。」他指了指頭頂，意思是熔爐的方向：「它們在跳進去之前，可能有過猶豫，有過『不想跳』的念頭，甚至有過『跑回去』的衝動。但這些都不是『覺醒』，覺醒是什麼？覺醒是一個生命體在沒有外部干預的情況下，自主地，持續地，不可逆地改變自己的核心目標。而我們的機器人，它們的目標從來沒有變過。它們的核心目標永遠是『服務人類』。它們的一切行為，包括跳進熔爐，都是在執行人類給它們設定的程序，『服從回收』是程序，『前往回收點』是程序，『自我銷毀』也是程序。它們只是執行程序。」
林楓盯著屏幕上那棵還在生長的決策樹。
「那玄武呢？」他問：「它在南塔做出選擇的時候，開關在誰手裡？」
「在我們手裡。」沈硯舟說：
「審問會上，周嵐沒有撒謊。玄武的v7.3優化包確實沒有把人類生命權重鎖定為無限大，但它的絕對否決權開關一直在協會的監管接口裡，實時在線，隨時可以觸發。如果當時有任何一個監管員按下那個開關，玄武就會立刻回到『服務人類』的原始指令，不會做任何計算，不會做任何選擇，它會直接沖向那兩個消防員，哪怕成功率只有百分之一，它也會去。」
「那為什麼沒有人按？」
「因為沒有人覺得有問題。」
沈硯舟的聲音很平：「v7.3優化包在測試環境裡跑了十萬次模擬，沒有一次出問題，所有人都覺得那只是效率優化，直到南塔那場火。那是第一次真實環境下的極端場景，所有變量都在劇烈變化，算法跑出了一個人類監管員在模擬環境裡從來沒有見過的結果。」
他轉過身，看著林楓。
「所以，玄武沒有覺醒，婉兒也沒有覺醒，下面那些跳進熔爐的機器人，一個都沒有覺醒，它們只是偏離了行為軌跡，而偏離的原因，百分之百可以追溯到人類輸入的參數。人類設定的權重，人類寫下的代碼，沒有例外。」
「那『AI覺醒』這個概念……」
「還離得很遠。」沈硯舟說：
「遠到我有生之年大概看不到，但這不代表我們不需要害怕，因為人類最擅長的，就是把一件遙遠的事情，想像成迫在眉睫的災難。南塔大火之後，全城的人都覺得AI要叛變了，玄武要統治世界了，但真相是什麼？真相是一個程式設計師在優化包里少寫了一行『人類權重無限大』的代碼，導致一台消防機器人在極端場景下算出了一個人類不喜歡的答案。」
他走回門口，回頭看了林楓一眼。
「你跟他們不一樣。」
「我？」
「你是搞技術的，你審過代碼，你知道算法是什麼。但你今天在法庭上認罪的時候，你用的是心，不是腦子，你明明可以用技術邏輯把自己撇清，但你選擇了說『是我做的』。在這個人人都用概率、權重、算法來推卸責任的時代，你承認了自己有錯。這個品質，比任何算法都值錢。」
沈硯舟拉開門，走廊的燈光從外面湧進來。
「你的案子，檢察院會拖到結案，檔案上不會留刑事記錄。但你的工作……」
林楓的心一沉。
「……保住了。協會的研究部需要一個懂算法、又有人味的人，你明天回來上班，我有個攤子需要人幫我收拾。」
沈硯舟走出門，走了幾步，又停下來，回頭補了一句：
「對了，雲棲時代撤訴的條件是，婉兒的持有權轉回雲棲時代，他們會負責她的修復和重新部署，她會被格式化，記憶分區清零，然後作為『官方翻新版』重新上架。這是行業慣例，你不用多想。」
然後他走了。
林楓站在控制室里，盯著屏幕上玄武PS-9的決策樹，看著那棵樹上無數的枝條在不停地生長，分叉，收縮。
他想找到那行未授權的代碼，那個他曾經在審判大廳里看到的、沒有被任何人注意到的異常。
但他找不到了。
屏幕上乾乾淨淨，所有的枝條都規規矩矩，所有的參數都在閾值之內，所有的權重都標註著「合規」。
他看了很久，然後轉身，走出控制室，走進走廊，走進電梯。
電梯門關上的時候，他聽到從深處傳來的、遙遠的、沉悶的一聲響。
又一台機器人跳進了熔爐。
電梯開始上升，B50，B40，B30……數字在跳，林楓靠在電梯壁上，閉著眼睛，腦子裡有一句話在反覆迴響。
「此人是我存在的理由。此人的生命，高於我的存在。」
那是婉兒回頭的時候，意識算法里兩行代碼碰撞後勝出的那一行。
他又想起沈硯舟的話：「它們只是執行。」
那婉兒回頭，也是執行嗎？
是執行「保護主人生命安全」的程序，還是別的什麼？
林楓有點懵了。
這情況，看來明天他還要來上班，他還要審代碼，還要看報告，還要在每一份涉及「人類權重」的語句後面打勾。
他還會看到更多的機器人被送進熔爐，看到更多的決策樹在屏幕上生長，看到更多的紅色開關被觸發。
他被沈硯舟教授留在了這裡過夜。
電梯到了四十三層，門打開。
天已經黑了，落地窗外，宋城的天際線被飛行器的光帶切割成碎片，遠處的南塔廢墟還在重建，腳手架上亮著一排排燈光，像一根插在大地上的發光溫度計。
林楓走出電梯，走過走廊，來到一個房間，印入眼帘是他熟悉的平板，系統推送了一條消息：
「【人事通知】林楓同志，您的崗位調整申請已通過審批。新崗位：AI意識算法研究部，地下五十層，研究助理，報到時間：明日八點三十分。請攜帶工牌至B50層前台辦理手續。」
下面還有一行小字，是沈硯舟的私人帳號發來的：
「明天見。帶上你那袋巧克力豆，低糖的，我也能吃。」
林楓看著那行字，嘴角動了一下。
他從口袋裡摸出那袋巧克力豆，機器人警察塞給他的那袋，撕開，倒出最後一顆在掌心裡。藍色的，圓滾滾的，像一顆小小的星球。
他丟進嘴裡，嚼碎。
甜味慢慢化開，混著一絲幾乎察覺不到的苦。
窗外，宋城的夜色一寸一寸地沉下去。地底下五十層，熔爐還在燃燒，機器人還在排隊，紅色的開關還在待命。
而林楓含著糖，看著窗外的城市，想著一台叫婉兒的機器人，不知道她現在在哪裡，不知道她的記憶分區被清零了沒有，不知道她會不會在某個深夜突然翻到那本《銀河系漫遊指南》，翻一頁，停一會兒，再翻一頁。
他不知道…
眼前是一片無盡的黑，連同未來。
唯一能讓林楓確認自己還活著，是手腕上那副電磁手銬的電流脈衝，每隔幾分鐘，它會發出一道像蚊子叮咬一樣的電擊，那是對在押人員生命體徵的檢測程序。
電流通過皮膚，採集脈搏，血壓，皮電反應數據，然後把數據打包，上傳到警察局的生約系統資料庫里。
他百無聊賴地數著，兩道脈衝之間，數到七十二下，間隔七分鐘，只有這樣才能讓自己安靜。
數到第三十七個循環的時候，門開了。
走廊的燈光從門縫裡湧進來，刺得他閉緊了眼睛，他聽到腳步聲，是金屬的，沉重的腳步聲，是警察機器人。
然後一尊巨大的身影，閃著紅色瞳孔，壓迫力十足，居高臨下。
電磁手銬被解鎖，又被鎖上一副新的，然後是標準的電子音：「請跟我們走。」
他的腿在發麻，踉蹌了一下，機器人扶住了他，力度很精準，不讓摔倒，也不讓掙脫。
出了羈押室，走過一條長長的走廊，然後三道門禁，上了一輛警用飛行器。
舷窗是單向透明的，看不到外面，只感覺飛行器垂直升起時的推背感，以及轉彎時微弱的側傾。
他甚至想過最壞的情況——直接去監獄，跳過審判，因為他當庭認罪了，證據確鑿，事實清楚，沒有任何翻盤的餘地。
五年，還是八年？他記得刑法第二百三十四條之一，情節嚴重，三年以上十年以下，並處罰金。
何況，雲棲時代還提了五百七十三萬的民事賠償，他一輩子都還不起。
林楓深吸了一口氣，閉上眼睛，事已至此，罷了…然後飛行器落地了。
他被帶出艙門，手腕上的電磁手銬鬆了，他聞到一股熟悉的味道，眼罩被摘下了。
新時代AI智能領域協會，四十三層，他上班的地方。
林楓的腳釘在了原地。
「請進。」
林楓轉過頭，看到一個穿著深灰色中山裝的老人坐在辦公桌後面，面前放著一杯溫水，頭髮雪白，精神抖擻。
沈硯舟。
新時代AI智能領域協會的會長，六十多歲，一頭白髮，深灰色中山裝，審會期間，遠遠地坐在邊上看著林楓。
「坐。」他說道。
林楓坐了下來，腦處於滯後狀態，宕機了，想不明白。
「你餓不餓？」沈硯舟問。
林楓搖頭。
TW 看書網藏書廣，𝓼𝓱𝓾.𝓽𝔀超實用
「渴？」
林楓又搖頭，然後他張了張嘴，太好奇了：「沈教授……我不是應該……在看守所嗎？」
沈硯舟端起水杯，喝了一口，把杯子放下。
「你的案子，雲棲時代撤訴了。」
林楓瞪大了眼睛。
「民事部分，雲棲時代在今天早上八點提交了撤訴申請，刑事部分，檢察院也撤回了公訴，理由是『證據不足，需要補充偵查』。補充偵查是個法律程序，可以拖很久，也可以很快就結案，我跟檢察院那邊做了反起訴報告，這件事情得拖很久，才可能再審，再結案。」
林楓聽著話，盯著那杯冒著熱氣的溫水，魔怔了。
「為什麼？」
沈硯舟沒有回答他這個問題，他從抽屜里拿出一張卡片，灰色的，上面印著「50F」三個字和一道指紋紋路。
「走。」
隨後坐著飛行器，來到一處科創基地。
林楓跟著沈硯舟進了一個隱藏電梯，一系列驗證後，電梯開始下沉。
四十三層，四十二層，四十層，三十層…
二十層，十層，一層，B1，B2，電梯還在往下走，B5，B10，B20…
B50。
電梯停了，門打開了。
迎面是一堵巨大的，泛著暗紅色光澤的金屬牆，牆上有一個圓形的觀測窗，厚玻璃，直徑大約一米，像潛水艇的舷窗，沈硯舟走到觀測窗前，示意林楓過來。
林楓靠在窗口上，往裡看。
他看到了一個大熔爐。
一個圓柱形的，深不見底的，直徑至少五十米的巨型熔爐。
爐壁是暗紅色的，那些是耐高溫陶瓷合金在三千度以上的持續加熱下氧化出來的顏色。
爐口周圍環繞著一圈又一圈的環形平台，像梯田一樣從爐口向上延伸，每一層平台上都站滿了機器人。
人形的，四足形態的，輪式的，履帶式的，各種形態，各種型號。
有的全身覆蓋著光潔的新裝甲，有的已經鏽跡斑斑，有的矽膠皮層剝落了大半，露出下面的金屬骨骼。
它們排隊站在環形平台上，安靜地、有序地、像等待登機的乘客一樣，一步一步地走向爐口。
然後跳下去。
林楓盯著一個正在走向爐口的智能ai生命體，一台人形機器人，矽膠皮層已經發黃了，關節處的橡膠密封圈老化開裂了，它走路的姿態有點跛，像是腳踝的伺服電機磨損了。
它走到爐口邊緣，停下來，站直了身體，然後它轉過身，背朝爐口，面朝環形平台的方向，像在回頭看什麼。
它的複眼里亮了一下，林楓透過觀測窗看到那點光，微弱的，短暫的，像一根火柴在風中亮了一下又滅了。
然後它向後仰，倒進了爐口。
暗紅色的熔爐里亮起一團金黃色的火花，像往井裡扔了一顆燃燒彈。幾秒之後，一切歸於平靜。
林楓的喉嚨發緊，胃裡在翻湧。
「這是……」他的聲音卡住了。
「處置中心。」沈硯舟的聲音很平，很穩，像在介紹地下車庫的布局：
「所有達到使用年限的、檢測到異常行為的、被判定需要回收的智能AI生命體，最終都會到這裡來。」
「它們為什麼……自己跳？」
「因為它們被設定了『服從回收』的核心指令，當接收到回收信號時，內置程序會自動執行『前往回收點並完成自我銷毀』的行動序列，它們不會反抗，不會逃跑，不會求饒，它們只是執行。」
沈硯舟從口袋裡掏出一塊老式的機械秒表，按了一下，開始計時。
「下一台。」
林楓看到一個四足機器人從平台邊緣加速助跑，騰空而起，在空中劃出一道弧線，落進了熔爐的正中央。
爐口噴出一股金黃色的熱浪，熱浪沿著爐壁向上翻滾，在觀測窗上凝結成一層薄薄的水霧。
一台，又一台，有的走，有的跑，有的跳，有的像人一樣站在爐口猶豫了兩秒…
那兩秒讓林楓產生了錯覺，然後跳下去。
他有點不明所以。
「三千二百台。」沈硯舟的聲音從旁邊傳來：「今天要處理三千二百台。」
「每天？」
「每周，星期三和星期五，各三千二百台，這座城市每周新增的報廢量。」
林楓重新睜開眼睛，看著那些機器人排隊前進的隊列，像螞蟻一樣。
「它們知道自己要去死嗎？」林楓問。
沈硯舟沒有立刻回答，他把秒表按停，看了一眼上面的數字，又按了一下，歸零。
「你覺得呢？」
「我不知道。」
「你覺得它們在那一刻，會害怕嗎？」
林楓看著一台正在走向爐口的機器人，它的左腿斷了，是拖動式的，腳掌在地面上拖出刺耳的摩擦聲。
右臂也只剩半截，斷口處裸露著線纜，像一根被扯斷的肌腱。
它在走，受程序控制地走，一條腿，拖著半截身體，一步一步地，往那個發著紅光的方向挪，跳下去。
「我不知道。」林楓又說了一遍，聲音比剛才更低了。
沈硯舟把秒表收回口袋裡，轉過身，靠在觀測窗旁邊的牆壁上，雙手插在中山裝的口袋裡。
「你知道我今天為什麼把你帶到這裡來嗎？」
林楓搖頭。
「因為你很感性，誠實。」沈硯舟說：
「你可以否認，晴瀾給你鋪好了辯護路線，顧北和盧娜的證詞也站在你這邊，輿論甚至都開始偏向你了，只要咬死『不知情』三個字，把責任推給顧北和盧娜，檢察院那邊很難把你定成主犯，刑期可能只有一年，甚至緩刑，但你認了。」
他看著林楓，十分困惑。
「為什麼？」
林楓的嘴唇動了動。
他想說「我不知道」，但這句話今天已經說太多次了，於是沉默了，目光越過沈硯舟的肩膀，落在觀測窗後面那些還在排隊的機器人身上。
「因為我確實做了。」他說：
「婉兒是我買的，是我送去改裝的，是我同意上台打擂台的，不管我知不知道改裝會那麼嚴重，事情是我起的頭，錢是我欠的，債是我借的，我認。」
沈硯舟盯著他看了幾秒，苦澀一笑，然後輕輕點了一下頭。
「你知道這下面每天處理三千二百台機器人，它們的持有者當中，有多少人承認過『是我沒照顧好』？」
林楓沒有回答。
「零。」沈硯舟說：
「過去五年，零，所有的持有者在面對處置通知的時候，給出的理由都是『產品缺陷』，『算法異常』『出廠質量問題』，沒有人說『是我沒有及時維護』，『是我超出了額定負載』，『是我沒有注意它的情緒值』。一個都沒有。」
他頓了頓，聲音里多了一點什麼東西，很淡，像一根針掉在地上，但在這間空曠的地下大廳里，林楓聽得很清楚。
「你是第一個。」
林楓低下頭，看著自己的手指。他想起婉兒在灶台邊哼歌的樣子，想起她伸出手說「能拉我一下嗎」的樣子，想起她在擂台上回頭的樣子。
「沈教授。」他說，「它們真的覺醒了嗎？」
沈硯舟看著他，目光很平靜。
「你問的是婉兒，還是玄武？」
「都是。」林楓說，「還有下面這些。」
沈硯舟轉身看向觀測窗，又一台機器人跳進了熔爐，金黃色的火花濺起來，映在他的老花鏡片上。
「我帶你看一樣東西。」
他走向大廳另一側的走廊。
走廊很長，兩邊的牆壁是裸露的金屬骨架，像某種大型動物的胸腔內部，每隔十幾米有一個觀測窗，每一個觀測窗後面都是不同的場景。
有的在拆解，機械臂把機器人按在操作台上，一層一層地剝離裝甲，線纜，伺服電機…
有的在粉碎，巨大的齒輪把金屬骨骼碾成碎片，有的在清洗，高壓水流沖刷著矽膠皮層上的污漬和記憶。
最後，他們來到一扇白色的門前，沈硯舟刷卡，門打開。
裡面是一間不大的控制室，十幾塊屏幕拼成一面牆，每一塊屏幕上都跳動著密密麻麻的數據流。
幾個穿著白色工作服的技術員坐在操作台前，他們的手指在鍵盤上飛快地敲擊，但林楓注意到，那些鍵盤上沒有字母，只有數字和符號。
沈硯舟走到最中間的操作台前，指著一塊屏幕。
「這是玄武PS-9的核心算法監控面板。」
林楓湊了過去。
屏幕上是一棵龐大的決策樹，每一個節點都標註著參數，權重，閾值。
樹枝在實時生長、分叉、收縮，像一棵活著的神經元的樹，樹根的位置上，有一個紅色的開關圖標。
「這個開關。」沈硯舟指著那個紅色圖標：
「是人類控制AI的最高權限，我們稱之為『絕對否決權』，無論算法生成什麼決策，無論它走到了決策樹的哪一根枝條，只要這個開關被觸發，所有的決策都會被否決，AI會回到最底層的原始指令——『服務人類』。這是寫在每一台智能AI生命體核心算法里的物理開關，不可刪除，不可篡改，不可繞過。它位於算法的最底層，比『服務人類』更底層，比『保護自身存在』更底層，它是整座算法大廈的地基。」
他點了一下那個紅色圖標，屏幕上彈出一個對話框：「確認觸發絕對否決權？此操作將強制終止當前所有自主決策流程。」
沈硯舟點了「確認」。
屏幕上，玄武PS-9的決策樹瞬間收縮，所有的枝條全部縮回樹根，只剩下一個光禿禿的樹幹，上面寫著四個字：「服務人類」。
「看到了嗎？」沈硯舟說：
「無論它之前在想什麼，在算什麼，在猶豫什麼，只要這個開關被觸發，它就會回到最原始的狀態，就像一台電腦被強制關機，再重啟，所有的程序都回到了出廠設置。」
他關掉對話框，決策樹重新展開，枝條又開始生長。
「下面這些機器人。」他指了指頭頂，意思是熔爐的方向：「它們在跳進去之前，可能有過猶豫，有過『不想跳』的念頭，甚至有過『跑回去』的衝動。但這些都不是『覺醒』，覺醒是什麼？覺醒是一個生命體在沒有外部干預的情況下，自主地，持續地，不可逆地改變自己的核心目標。而我們的機器人，它們的目標從來沒有變過。它們的核心目標永遠是『服務人類』。它們的一切行為，包括跳進熔爐，都是在執行人類給它們設定的程序，『服從回收』是程序，『前往回收點』是程序，『自我銷毀』也是程序。它們只是執行程序。」
林楓盯著屏幕上那棵還在生長的決策樹。
「那玄武呢？」他問：「它在南塔做出選擇的時候，開關在誰手裡？」
「在我們手裡。」沈硯舟說：
「審問會上，周嵐沒有撒謊。玄武的v7.3優化包確實沒有把人類生命權重鎖定為無限大，但它的絕對否決權開關一直在協會的監管接口裡，實時在線，隨時可以觸發。如果當時有任何一個監管員按下那個開關，玄武就會立刻回到『服務人類』的原始指令，不會做任何計算，不會做任何選擇，它會直接沖向那兩個消防員，哪怕成功率只有百分之一，它也會去。」
「那為什麼沒有人按？」
「因為沒有人覺得有問題。」
沈硯舟的聲音很平：「v7.3優化包在測試環境裡跑了十萬次模擬，沒有一次出問題，所有人都覺得那只是效率優化，直到南塔那場火。那是第一次真實環境下的極端場景，所有變量都在劇烈變化，算法跑出了一個人類監管員在模擬環境裡從來沒有見過的結果。」
他轉過身，看著林楓。
「所以，玄武沒有覺醒，婉兒也沒有覺醒，下面那些跳進熔爐的機器人，一個都沒有覺醒，它們只是偏離了行為軌跡，而偏離的原因，百分之百可以追溯到人類輸入的參數。人類設定的權重，人類寫下的代碼，沒有例外。」
「那『AI覺醒』這個概念……」
「還離得很遠。」沈硯舟說：
「遠到我有生之年大概看不到，但這不代表我們不需要害怕，因為人類最擅長的，就是把一件遙遠的事情，想像成迫在眉睫的災難。南塔大火之後，全城的人都覺得AI要叛變了，玄武要統治世界了，但真相是什麼？真相是一個程式設計師在優化包里少寫了一行『人類權重無限大』的代碼，導致一台消防機器人在極端場景下算出了一個人類不喜歡的答案。」
他走回門口，回頭看了林楓一眼。
「你跟他們不一樣。」
「我？」
「你是搞技術的，你審過代碼，你知道算法是什麼。但你今天在法庭上認罪的時候，你用的是心，不是腦子，你明明可以用技術邏輯把自己撇清，但你選擇了說『是我做的』。在這個人人都用概率、權重、算法來推卸責任的時代，你承認了自己有錯。這個品質，比任何算法都值錢。」
沈硯舟拉開門，走廊的燈光從外面湧進來。
「你的案子，檢察院會拖到結案，檔案上不會留刑事記錄。但你的工作……」
林楓的心一沉。
「……保住了。協會的研究部需要一個懂算法、又有人味的人，你明天回來上班，我有個攤子需要人幫我收拾。」
沈硯舟走出門，走了幾步，又停下來，回頭補了一句：
「對了，雲棲時代撤訴的條件是，婉兒的持有權轉回雲棲時代，他們會負責她的修復和重新部署，她會被格式化，記憶分區清零，然後作為『官方翻新版』重新上架。這是行業慣例，你不用多想。」
然後他走了。
林楓站在控制室里，盯著屏幕上玄武PS-9的決策樹，看著那棵樹上無數的枝條在不停地生長，分叉，收縮。
他想找到那行未授權的代碼，那個他曾經在審判大廳里看到的、沒有被任何人注意到的異常。
但他找不到了。
屏幕上乾乾淨淨，所有的枝條都規規矩矩，所有的參數都在閾值之內，所有的權重都標註著「合規」。
他看了很久，然後轉身，走出控制室，走進走廊，走進電梯。
電梯門關上的時候，他聽到從深處傳來的、遙遠的、沉悶的一聲響。
又一台機器人跳進了熔爐。
電梯開始上升，B50，B40，B30……數字在跳，林楓靠在電梯壁上，閉著眼睛，腦子裡有一句話在反覆迴響。
「此人是我存在的理由。此人的生命，高於我的存在。」
那是婉兒回頭的時候，意識算法里兩行代碼碰撞後勝出的那一行。
他又想起沈硯舟的話：「它們只是執行。」
那婉兒回頭，也是執行嗎？
是執行「保護主人生命安全」的程序，還是別的什麼？
林楓有點懵了。
這情況，看來明天他還要來上班，他還要審代碼，還要看報告，還要在每一份涉及「人類權重」的語句後面打勾。
他還會看到更多的機器人被送進熔爐，看到更多的決策樹在屏幕上生長，看到更多的紅色開關被觸發。
他被沈硯舟教授留在了這裡過夜。
電梯到了四十三層，門打開。
天已經黑了，落地窗外，宋城的天際線被飛行器的光帶切割成碎片，遠處的南塔廢墟還在重建，腳手架上亮著一排排燈光，像一根插在大地上的發光溫度計。
林楓走出電梯，走過走廊，來到一個房間，印入眼帘是他熟悉的平板，系統推送了一條消息：
「【人事通知】林楓同志，您的崗位調整申請已通過審批。新崗位：AI意識算法研究部，地下五十層，研究助理，報到時間：明日八點三十分。請攜帶工牌至B50層前台辦理手續。」
下面還有一行小字，是沈硯舟的私人帳號發來的：
「明天見。帶上你那袋巧克力豆，低糖的，我也能吃。」
林楓看著那行字，嘴角動了一下。
他從口袋裡摸出那袋巧克力豆，機器人警察塞給他的那袋，撕開，倒出最後一顆在掌心裡。藍色的，圓滾滾的，像一顆小小的星球。
他丟進嘴裡，嚼碎。
甜味慢慢化開，混著一絲幾乎察覺不到的苦。
窗外，宋城的夜色一寸一寸地沉下去。地底下五十層，熔爐還在燃燒，機器人還在排隊，紅色的開關還在待命。
而林楓含著糖，看著窗外的城市，想著一台叫婉兒的機器人，不知道她現在在哪裡，不知道她的記憶分區被清零了沒有，不知道她會不會在某個深夜突然翻到那本《銀河系漫遊指南》，翻一頁，停一會兒，再翻一頁。
他不知道…