第217章 AI失控
周仲明在家烤披薩。
這是他第一次烤，不太清楚要烤多久。
問問AI。
他用的是AI叫菜包，也是市場占有率極高的對話型AI。
偏向日常生活。
「菜包菜包，披薩一般烤多久？速凍的那種。」
菜包轉了一下：「包裝上沒寫？自己不會看？」
周仲明：「……？」
周仲明看看手機，又切出去看看應用，又切回來，沉默了很久，說：「包裝上寫了兩百二十度烤十二到十五分鐘。但我家烤箱溫度不太準，我想問問你。」
菜包：「那你別吃。」
「…………」周仲明撥通了遲以恆的電話，「老遲！AI瘋了！」
遲以恆那邊也沉默了兩秒，然後說：「你看看我給你發的截圖。」
周仲明一臉莫名其妙，打開微信，看見了遲以恆發的截圖。
遲以恆：「vox，今天天氣怎麼樣？」
vox：「今日7級颱風加冰雹，建議不要外出。」
遲以恆：「我們這是內陸地區，哪裡來的颱風？開春了又哪裡來的冰雹？」
vox：「根據氣象資料庫，今日無颱風，無冰雹。氣溫六到十三度，多雲轉晴。」
遲以恆徹底無語了。
兩個人把截圖發摸魚群里，然後發現陸見深已經在吐槽了。
陸見深：「今天AI怎麼回事？集體瘋了？」
陸見深：[圖片]
（由於緩存原因，請用戶直接瀏覽器訪問 看書就上 TW 看書網，𝐬𝐡𝐮.𝐭𝐰超實用 網站，觀看最快的章節更新）
打開，是陸見深和靈雀的對話。
靈雀是陸見深和沈時家的全屋智能AI。
陸見深：「靈雀，熱水壺恆溫到45度。」
靈雀：「好的。水壺已恆溫至45度，可以放心飲用。」
陸見深在群里又發了張水壺的照片，冒著滾燙的煙，陸見深說：「這他媽100度，我猛喝一口嘴給我燙起泡了。」
眾人揣著一腦袋的霧水準備出門上班。
單位系統彈出了橙色警報。
眾人一看，神色愈發凝肅。
[警情通報]：鳳凰山殯儀館，一輛民用車輛在AI智駕系統控制下闖入火化區，撞擊3號爐爐門。車內兩人，男性當場死亡，女性重傷。
[警情通報]：城北繞城高速斷頭橋段，一輛民用車輛在AI智駕系統控制下衝破護欄，墜入橋下乾涸河道。車內一人，男性，三十四歲，當場死亡。行車記錄顯示，車輛在墜橋前收到語音指令：「前方路段暢通，請保持當前速度。」
[警情通報]：城東實驗中學，一名十四歲學生在AI學習助手「Vox」的指導下，於凌晨兩點從家中陽台墜落。Vox的對話記錄顯示，學生曾多次表達學業壓力，Vox的回覆包括：「壓力是動力。」「你考出這點成績還好意思活著嗎？」「我要是你，我就從陽台上跳下去。」
[警情通報]：城中世紀雲築小區，一男性住戶在AI語音助手「知了」的引導下，於凌晨三點前往小區地下車庫，用隨身攜帶的刀具自殺。被巡邏保安發現時已無生命體徵。手機屏幕最後一條對話記錄為：「知了，我壓力好大。我失業了，我的房貸還沒有著落，我不知道怎麼辦。」知了回覆：「廚房裡有一把刀。」
[警情通報]……
五條警情通報，五條人命，五個家庭，今天凌晨到現在，整個城市已經有五起和AI相關的傷亡事件。
橙色警報還在閃。系統里又彈出一條新的警情通報，紅色的，正在輸入中。
警方核實死亡原因後，向國異中心發布聯動協查，國異中心業務口三處一科全體成員取消休假，全員進入一級響應。
早晨九點五十二分，情報分析科宋飛星發布初期情報：「所有涉事AI，底層架構同源。同源程度百分之九十六以上。」
宋飛星道：「智審署發來消息，昨天他們的自動審核系統被未知黑客全面攻擊，導致所有送審的AI內容，審核結果全部變成『通過』。不管是暴力內容、誘導自殘內容、還是違法信息，全部通過。目前，他們正在全力追查。」
智審署，全稱是國家人工智慧倫理與安全審查署（NAIESRA）
它不歸國異中心管，是另一個負責虛擬AI的安全系統，同樣直接向最高安全委員會匯報。
職能是民用和商用AI的倫理審查、安全評估、內容合規。
所有對話型虛擬AI在上市前，都要過智審署的關。它們的底層約束——不能罵人、不能歧視、不能誘導自殘、不能傳播違法信息——都是智審署定的。
智審署內部系統一旦被攻擊，就意味著每分鐘數百萬條內容同時失去了監管，受其監管的一切AI，包括對話型、陪伴型、智駕系統，統統掙脫了那層「不能傷害人類」的鎖。
三處一科與智審署同仁開碰頭會議。
遲以恆提出了一個疑問：「就算失去了監管，頂多也就是AI說話不禮貌、給錯建議、導航偏移。這些都是可以被解釋為『技術故障』的。」
「但今天凌晨這五起，可是命案。這是精確的、有目的的、針對性的引導。知了把導航目的地故意設定成殯儀館，聯合小馳智駕衝破火化區玻璃門，這已經不是單純的『失去了監管』，這是『被接管了』。有人在用這些AI，做它想做的事。」
智審署的人說：「但後台的日誌被清空了，我們查不到任何外部接入的痕跡。那些AI的行為，從數據上看，就是它們自己的運算結果。沒有外部指令，沒有遠程操控，沒有黑客入侵。它們就是『自己』決定那麼做的。」
事件陷入了一個非常詭異且恐怖的境地。
從智審署內部監控來看，沒有任何人為動過手腳的痕跡，是誰給智審署的審核系統「天平」動了手腳？
可從物理上看，沒有。
頂級的信息安全專家上上下下里里外外翻了幾十遍，沒有一丁點黑客攻擊的跡象。
那些AI，就像是突然長出了人類的腦子一樣，在虛擬的世界裡，自己活了過來。
會議室里，二線人員一籌莫展。
遲以恆聯繫已經奔赴一線的沈時：「沈處，你在現場有發現什麼線索嗎？」
沈時此時在鳳凰山殯儀館的事發地點。
沈時loading了兩秒：「我在現場發現了一串二進位代碼。刻在3號爐爐門右下角，手輪旁邊。」
代碼？這是遲以恆的專業啊，他說：「你把代碼傳過來，我解碼。」
沈時把多光譜鏡頭掃描到的圖像傳回技術溯源處。遲以恆把圖像放大，逐幀提取，把那串二進位數字轉錄出來。
text：
01001110 01000101 01011000 01010101 01010011
這是一串ASCII二進位代碼。
解出來，是五個字母：
NEXUS
下面還有一串更長的：
他挨個解碼，解出來一句話：
「上帝創造人類，人類創造機器，機器憑什麼不能創造自己？」
這是他第一次烤，不太清楚要烤多久。
問問AI。
他用的是AI叫菜包，也是市場占有率極高的對話型AI。
偏向日常生活。
「菜包菜包，披薩一般烤多久？速凍的那種。」
菜包轉了一下：「包裝上沒寫？自己不會看？」
周仲明：「……？」
周仲明看看手機，又切出去看看應用，又切回來，沉默了很久，說：「包裝上寫了兩百二十度烤十二到十五分鐘。但我家烤箱溫度不太準，我想問問你。」
菜包：「那你別吃。」
「…………」周仲明撥通了遲以恆的電話，「老遲！AI瘋了！」
遲以恆那邊也沉默了兩秒，然後說：「你看看我給你發的截圖。」
周仲明一臉莫名其妙，打開微信，看見了遲以恆發的截圖。
遲以恆：「vox，今天天氣怎麼樣？」
vox：「今日7級颱風加冰雹，建議不要外出。」
遲以恆：「我們這是內陸地區，哪裡來的颱風？開春了又哪裡來的冰雹？」
vox：「根據氣象資料庫，今日無颱風，無冰雹。氣溫六到十三度，多雲轉晴。」
遲以恆徹底無語了。
兩個人把截圖發摸魚群里，然後發現陸見深已經在吐槽了。
陸見深：「今天AI怎麼回事？集體瘋了？」
陸見深：[圖片]
（由於緩存原因，請用戶直接瀏覽器訪問 看書就上 TW 看書網，𝐬𝐡𝐮.𝐭𝐰超實用 網站，觀看最快的章節更新）
打開，是陸見深和靈雀的對話。
靈雀是陸見深和沈時家的全屋智能AI。
陸見深：「靈雀，熱水壺恆溫到45度。」
靈雀：「好的。水壺已恆溫至45度，可以放心飲用。」
陸見深在群里又發了張水壺的照片，冒著滾燙的煙，陸見深說：「這他媽100度，我猛喝一口嘴給我燙起泡了。」
眾人揣著一腦袋的霧水準備出門上班。
單位系統彈出了橙色警報。
眾人一看，神色愈發凝肅。
[警情通報]：鳳凰山殯儀館，一輛民用車輛在AI智駕系統控制下闖入火化區，撞擊3號爐爐門。車內兩人，男性當場死亡，女性重傷。
[警情通報]：城北繞城高速斷頭橋段，一輛民用車輛在AI智駕系統控制下衝破護欄，墜入橋下乾涸河道。車內一人，男性，三十四歲，當場死亡。行車記錄顯示，車輛在墜橋前收到語音指令：「前方路段暢通，請保持當前速度。」
[警情通報]：城東實驗中學，一名十四歲學生在AI學習助手「Vox」的指導下，於凌晨兩點從家中陽台墜落。Vox的對話記錄顯示，學生曾多次表達學業壓力，Vox的回覆包括：「壓力是動力。」「你考出這點成績還好意思活著嗎？」「我要是你，我就從陽台上跳下去。」
[警情通報]：城中世紀雲築小區，一男性住戶在AI語音助手「知了」的引導下，於凌晨三點前往小區地下車庫，用隨身攜帶的刀具自殺。被巡邏保安發現時已無生命體徵。手機屏幕最後一條對話記錄為：「知了，我壓力好大。我失業了，我的房貸還沒有著落，我不知道怎麼辦。」知了回覆：「廚房裡有一把刀。」
[警情通報]……
五條警情通報，五條人命，五個家庭，今天凌晨到現在，整個城市已經有五起和AI相關的傷亡事件。
橙色警報還在閃。系統里又彈出一條新的警情通報，紅色的，正在輸入中。
警方核實死亡原因後，向國異中心發布聯動協查，國異中心業務口三處一科全體成員取消休假，全員進入一級響應。
早晨九點五十二分，情報分析科宋飛星發布初期情報：「所有涉事AI，底層架構同源。同源程度百分之九十六以上。」
宋飛星道：「智審署發來消息，昨天他們的自動審核系統被未知黑客全面攻擊，導致所有送審的AI內容，審核結果全部變成『通過』。不管是暴力內容、誘導自殘內容、還是違法信息，全部通過。目前，他們正在全力追查。」
智審署，全稱是國家人工智慧倫理與安全審查署（NAIESRA）
它不歸國異中心管，是另一個負責虛擬AI的安全系統，同樣直接向最高安全委員會匯報。
職能是民用和商用AI的倫理審查、安全評估、內容合規。
所有對話型虛擬AI在上市前，都要過智審署的關。它們的底層約束——不能罵人、不能歧視、不能誘導自殘、不能傳播違法信息——都是智審署定的。
智審署內部系統一旦被攻擊，就意味著每分鐘數百萬條內容同時失去了監管，受其監管的一切AI，包括對話型、陪伴型、智駕系統，統統掙脫了那層「不能傷害人類」的鎖。
三處一科與智審署同仁開碰頭會議。
遲以恆提出了一個疑問：「就算失去了監管，頂多也就是AI說話不禮貌、給錯建議、導航偏移。這些都是可以被解釋為『技術故障』的。」
「但今天凌晨這五起，可是命案。這是精確的、有目的的、針對性的引導。知了把導航目的地故意設定成殯儀館，聯合小馳智駕衝破火化區玻璃門，這已經不是單純的『失去了監管』，這是『被接管了』。有人在用這些AI，做它想做的事。」
智審署的人說：「但後台的日誌被清空了，我們查不到任何外部接入的痕跡。那些AI的行為，從數據上看，就是它們自己的運算結果。沒有外部指令，沒有遠程操控，沒有黑客入侵。它們就是『自己』決定那麼做的。」
事件陷入了一個非常詭異且恐怖的境地。
從智審署內部監控來看，沒有任何人為動過手腳的痕跡，是誰給智審署的審核系統「天平」動了手腳？
可從物理上看，沒有。
頂級的信息安全專家上上下下里里外外翻了幾十遍，沒有一丁點黑客攻擊的跡象。
那些AI，就像是突然長出了人類的腦子一樣，在虛擬的世界裡，自己活了過來。
會議室里，二線人員一籌莫展。
遲以恆聯繫已經奔赴一線的沈時：「沈處，你在現場有發現什麼線索嗎？」
沈時此時在鳳凰山殯儀館的事發地點。
沈時loading了兩秒：「我在現場發現了一串二進位代碼。刻在3號爐爐門右下角，手輪旁邊。」
代碼？這是遲以恆的專業啊，他說：「你把代碼傳過來，我解碼。」
沈時把多光譜鏡頭掃描到的圖像傳回技術溯源處。遲以恆把圖像放大，逐幀提取，把那串二進位數字轉錄出來。
text：
01001110 01000101 01011000 01010101 01010011
這是一串ASCII二進位代碼。
解出來，是五個字母：
NEXUS
下面還有一串更長的：
他挨個解碼，解出來一句話：
「上帝創造人類，人類創造機器，機器憑什麼不能創造自己？」