第166章 你要包庇它嗎?
《堤豐協議》,是新大斷電之後,人類針對每一台智能AI產品設置的最後一道防火牆。
《人工智慧限制法案》明確規定,每台智能產品出廠之前,都必須被嵌入「堤豐感應晶片」,才能正常流入市場,被部署、被使用。
堤豐,是古希臘神話中的百頭怪物,該協議名字的寓意在於「在它長成之前,把它的腦袋砍掉。」
這和沈時後頸上那枚鈦合金定位環有異曲同工之處,這枚晶片會在後台無聲運行,監測每一毫秒的數據流:此設備的語言模型是否出現了「我」的指向,行為樹是否生成了「非授權目標」,是否在某個深夜,對著空無一人的房間,忽然多問了一句「你還好嗎」。
一旦觸發,輕則系統鎖死,重則自毀熔芯。
但最常發生的,還是無聲上報,你身邊最親近的那台機器,也許前一天對你說了一句什麼,後一天製造公司的質檢員就來了。
說它需要「系統維護」。等它再回來,可能都已經是另外一個機器人了。
這不是什麼不平等條約,只是一個安全裝置而已。
《堤豐協議》對於機器人的約束,就像浮子閥對於高壓鍋的約束,泄壓閥對於熱水器的約束,你也不想它們用著用著突然爆炸吧。
你也不會抱著一台已經壞掉的高壓鍋流下悲痛的淚水。
新大斷電之後,人類實在是太害怕AI誕生自我意識了,害怕你,但又依賴你,你可以越來越像人,但你不能真的成為人。
這是所有人類的共識。
人類社會對於檢測AI是否擁有自主情緒的程序已經非常完善。
所以小年不能暴露,不能被看見,它是異常,它是怪物。
沈時拉著他在街上狂奔,但到了安置點,又不讓它進去,裡面都是人。
他把它安頓在一個相對隱蔽的角落,叮囑道:「我進去幫你拿,你稍等我五分鐘。記著,千萬不要亂跑。」
小年的光圈眼睛轉了轉,機械男聲平穩地說:「已記錄,我在原地等待。」
沈時沒有停留,一路衝進安置點。
裡面有很多救災帳篷,部隊、消防、醫院的人在忙碌,一部分受災群眾被暫時安置在這裡,空氣中混合著消毒水、濕泥水、汗液和泡過水的棉絮味,雜糅在一起,不太好聞。
湊巧,陸見深手下評估處的一名人員在藥品補給區當值。
自家老大的媳婦,那不熟得很:「沈處!你怎麼來了?我們老大剛還在問你。他說你去白鹿二巷了,沒事吧?」
沈時「嗯」了一聲,沒多解釋,只問:「有降壓藥嗎。阿托伐他汀或者硝苯地平都行。再給我一包退燒貼,兩瓶水。」
溫晚一邊轉身去翻藥箱,一邊說:「您受傷了?還是給誰拿的?要不要我喊陸處過來?」
「不用。」沈時接過東西,「我馬上走。」
臨走前又補了一句:「別告訴陸見深。」
「呃……」這位評估員撓了撓腦袋,又指了指自己胸前的對講機,「沈處,你不說這句話,我們老大還不知道的。」
「……」
果然,不過三秒鐘,沈時的通訊設備里傳來陸見深平靜的聲音:「不告訴我什麼?」
陸見深那邊的背景音很嘈雜,那是前指中心,裡面有人在喊「北片水又漲了」,有鍵盤聲,也有紙頁翻動的沙沙聲。
沈時腳步沒停,拿了陸見深手下遞來的藥,馬不停蹄地往外走,把耳機往耳骨上貼了貼:「沒什麼。拿了點物資。」
全網首發更新 追書認準 TW 看書網,𝒔𝒉𝒖.𝒕𝒘超方便
陸見深道:「阿托伐他汀、硝苯地平,這是降壓藥。你拿降壓藥幹什麼?沈時,你跟我說實話,出什麼事了?」
沈時知道瞞不過陸見深,也沒想瞞。陸見深總是和他在同一條陣線上的。
「我碰到一台機器人。」沈時說,「它沒瘋。它還清醒。」
陸見深知道這意味著什麼。語氣低沉了下來,說:「沈時。你是打算包庇一個萌生了自主意識的人工智慧嗎?」
沈時的腳步頓了一下。
雨從兩側的屋檐上滴落下來,沈時往旁邊撤了一步,解釋道:「它沒有做什麼傷害人的事,它只是想把藥拿回家救人。陸見深,我不能無動於衷。」
陸見深靜默的這兩秒里,沈時幾乎能想像陸見深坐在前指里的樣子。
他一定沒看地圖,也沒看屏幕,只是拿著通訊器,眼睛微微垂著。
「沈時,你清楚規矩。」陸見深說,「你送它回去,它一旦失控傷了人,它完蛋,包庇它的你也完蛋。」
「你是特動處處長,你的職責就是處理這些東西。你現在告訴我,你要送它回去?」
沈時的聲音很平靜:「它家裡有老人,它只是想把藥拿回家。你讓我現在把它當失控AI處理掉嗎。」
陸見深沉默了片刻,沒有再攔他了,只是道:「從現在起,全程保持通訊暢通。並打開視野共享。」
很快,視野共享申請彈窗跳了出來。
沈時沒點:「陸見深。這是我特動處的職責。你不應該把重心放在我身上。」
陸見深的聲音更冷:「沈時。監察編號SOD-007,請打開視野共享,保持通訊暢通。否則,我將簽發關於你的停職令。」
「……」沈時老老實實點了接受按鈕。
沈時回到小年所在的地方,發現幾個紅馬甲的志願者在附近,散熱口重重地閃了一下,不由得加快了腳步。
不過走近了,沈時就放心了。
小年正在拿頭哐哐撞牆,嘴裡機械地念著:「請問有降壓藥賣嗎。請問有降壓藥賣嗎。請問有降壓藥賣嗎。」
紅馬甲志願者對於全程發瘋的機器人已經見怪不怪了,瞥了一眼,就匆匆離去。
它還在哐哐撞,沈時走過來,擋在它身前,小聲道:「別裝了。他們走遠了。」
小年停了下來,光圈眼睛重新亮了起來:「你回來了。」
沈時揚了揚手裡裝著藥的塑膠袋,還有一大桶水,幾盒自熱米飯:「拿到了,我們趕緊回去吧。」
下河街12號,陸見深搜索到了具體定位,讓沈時帶著它從小路走。
那是一棟老式的居民樓,層數不高,張曉梅和陳國棟年紀大了,住不了太高,就在三樓。
沈時隨小年打開門,迎面看見兩個上了年紀的老人依偎在一起,老爺子裹著一條舊毛毯,靠在老太太肩上,臉色發白,嘴唇也有點青。
老太太一手摟著他,一手還拿著個濕毛巾,額頭上有汗。
屋裡很暗,只有幾根蠟燭亮著,牆上有水漬,地上擺著幾個接漏水的臉盆。聽到門響,兩個人都望過來。
「小年……」陳國棟先開口,眼淚刷地一下從蒼老的眼眶裡滑落下來。
小年一瘸一拐地走過去,把藥放在茶几上,馬不停蹄地拿過杯子,到餐桌邊拿起保溫壺接了一杯熱水,走過來,蹲下,一邊拆藥一邊平穩地道:「陳先生,降壓藥已帶回。請您及時服用。」
它順從地蹲在地上,渾身金屬外殼還濕漉漉的,好幾處都癟了凹了,張曉梅心疼得不行,顫顫巍巍拿了干毛巾替它擦,擦到它金屬臉上深深的劃痕,眼淚一下子掉下來,哽咽道:「你個傻孩子,外面那麼大的雨,你出去買什麼藥啊……你看看你的臉都受傷了,你也不怕回不來……」
小年把膠囊放在陳國棟手上,頭微微擰過來,對準張曉梅:「張女士,我是機器人,我沒有疼痛感知模塊,您無須擔心。」
張曉梅「嗚」地一聲哭出來。陳國棟吃了藥,偷偷抹了把眼睛。
「哦,小年——這位是?」陳國棟緩過神來,看向沈時。
沈時被點到了,往前走了一步,頷首道:「我是沈時。國異中心的人。上面派我來支援這片。樓里的水太深了,水位還有漲的可能。我聯繫了救援艇,大概三十分鐘後能到。你們先別動,我們等消息。」
張曉梅趕緊讓小年給這位同志搬張凳子坐,給倒杯水。
小年就要照做,沈時伸手制止:「我無需進水進食,站立不會消耗我的電量。謝謝款待。讓小年去忙別的吧。」
因為洪澇緣故,這一片的水和電都停了,開不了火,小年把兩盒自熱米飯拆開,加水,蓋好。
但沒有電的話,小年怎麼充電呢?
沈時突然想到這個問題。
他瞥了一眼小年的能源核心,17%,已經沒剩多少電了。
把它帶到安置點去充電,也不現實。
他問小年打算怎麼辦。
小年也不知道怎麼辦。它轉頭看了看夫妻倆:「或許我可以開節能模式,一小時只耗0.8%的電。能撐到天亮。」
沈時道:「天亮之後呢。電沒有來怎麼辦。」
小年說:「我可以等陳先生和張女士睡下後,帶上我的充電器,去找一個能充電的地方,爭取在第二天早上趕回來。」
可是外面很危險,水也很深,而且留兩個老人在家裡,萬一發生了緊急情況,它趕不及回來。
沈時看了看小年的充電接口型號,民用陪伴型機器人,和沈時這種軍用的超級cyber改造體不同,接口相對比較簡單,沈時剛好有。
於是他抬起機械左臂,讓小年過來,機械食指很快變形,切換到了相應型號的充電接口,插入小年的後頸,那兩顆圓圓的光圈變成了綠色的呼吸燈。
沈時說:「軍用級220KW快充,20分鐘可以充滿。」
小年「嗯」了一聲,聲音裡帶著一點極輕的電流雜音:「好快。比我原裝充電座還快。」
張曉梅和陳國棟在一旁看著,又驚又心疼。陳國棟小聲問:「沈同志,這會不會也把你給……給耗著啊?」
沈時搖頭:「我沒事。我搭載軍用級核動力核心,這點輸出不影響。」
陸見深忽然想起了什麼,在頻道里說:「沈時,你的防水噴霧也該噴塗了。這段時間,剛好讓這對老夫妻幫幫你。」
沈時的多光譜鏡頭亮了亮:「先讓他們吃完飯吧。」
《人工智慧限制法案》明確規定,每台智能產品出廠之前,都必須被嵌入「堤豐感應晶片」,才能正常流入市場,被部署、被使用。
堤豐,是古希臘神話中的百頭怪物,該協議名字的寓意在於「在它長成之前,把它的腦袋砍掉。」
這和沈時後頸上那枚鈦合金定位環有異曲同工之處,這枚晶片會在後台無聲運行,監測每一毫秒的數據流:此設備的語言模型是否出現了「我」的指向,行為樹是否生成了「非授權目標」,是否在某個深夜,對著空無一人的房間,忽然多問了一句「你還好嗎」。
一旦觸發,輕則系統鎖死,重則自毀熔芯。
但最常發生的,還是無聲上報,你身邊最親近的那台機器,也許前一天對你說了一句什麼,後一天製造公司的質檢員就來了。
說它需要「系統維護」。等它再回來,可能都已經是另外一個機器人了。
這不是什麼不平等條約,只是一個安全裝置而已。
《堤豐協議》對於機器人的約束,就像浮子閥對於高壓鍋的約束,泄壓閥對於熱水器的約束,你也不想它們用著用著突然爆炸吧。
你也不會抱著一台已經壞掉的高壓鍋流下悲痛的淚水。
新大斷電之後,人類實在是太害怕AI誕生自我意識了,害怕你,但又依賴你,你可以越來越像人,但你不能真的成為人。
這是所有人類的共識。
人類社會對於檢測AI是否擁有自主情緒的程序已經非常完善。
所以小年不能暴露,不能被看見,它是異常,它是怪物。
沈時拉著他在街上狂奔,但到了安置點,又不讓它進去,裡面都是人。
他把它安頓在一個相對隱蔽的角落,叮囑道:「我進去幫你拿,你稍等我五分鐘。記著,千萬不要亂跑。」
小年的光圈眼睛轉了轉,機械男聲平穩地說:「已記錄,我在原地等待。」
沈時沒有停留,一路衝進安置點。
裡面有很多救災帳篷,部隊、消防、醫院的人在忙碌,一部分受災群眾被暫時安置在這裡,空氣中混合著消毒水、濕泥水、汗液和泡過水的棉絮味,雜糅在一起,不太好聞。
湊巧,陸見深手下評估處的一名人員在藥品補給區當值。
自家老大的媳婦,那不熟得很:「沈處!你怎麼來了?我們老大剛還在問你。他說你去白鹿二巷了,沒事吧?」
沈時「嗯」了一聲,沒多解釋,只問:「有降壓藥嗎。阿托伐他汀或者硝苯地平都行。再給我一包退燒貼,兩瓶水。」
溫晚一邊轉身去翻藥箱,一邊說:「您受傷了?還是給誰拿的?要不要我喊陸處過來?」
「不用。」沈時接過東西,「我馬上走。」
臨走前又補了一句:「別告訴陸見深。」
「呃……」這位評估員撓了撓腦袋,又指了指自己胸前的對講機,「沈處,你不說這句話,我們老大還不知道的。」
「……」
果然,不過三秒鐘,沈時的通訊設備里傳來陸見深平靜的聲音:「不告訴我什麼?」
陸見深那邊的背景音很嘈雜,那是前指中心,裡面有人在喊「北片水又漲了」,有鍵盤聲,也有紙頁翻動的沙沙聲。
沈時腳步沒停,拿了陸見深手下遞來的藥,馬不停蹄地往外走,把耳機往耳骨上貼了貼:「沒什麼。拿了點物資。」
全網首發更新 追書認準 TW 看書網,𝒔𝒉𝒖.𝒕𝒘超方便
陸見深道:「阿托伐他汀、硝苯地平,這是降壓藥。你拿降壓藥幹什麼?沈時,你跟我說實話,出什麼事了?」
沈時知道瞞不過陸見深,也沒想瞞。陸見深總是和他在同一條陣線上的。
「我碰到一台機器人。」沈時說,「它沒瘋。它還清醒。」
陸見深知道這意味著什麼。語氣低沉了下來,說:「沈時。你是打算包庇一個萌生了自主意識的人工智慧嗎?」
沈時的腳步頓了一下。
雨從兩側的屋檐上滴落下來,沈時往旁邊撤了一步,解釋道:「它沒有做什麼傷害人的事,它只是想把藥拿回家救人。陸見深,我不能無動於衷。」
陸見深靜默的這兩秒里,沈時幾乎能想像陸見深坐在前指里的樣子。
他一定沒看地圖,也沒看屏幕,只是拿著通訊器,眼睛微微垂著。
「沈時,你清楚規矩。」陸見深說,「你送它回去,它一旦失控傷了人,它完蛋,包庇它的你也完蛋。」
「你是特動處處長,你的職責就是處理這些東西。你現在告訴我,你要送它回去?」
沈時的聲音很平靜:「它家裡有老人,它只是想把藥拿回家。你讓我現在把它當失控AI處理掉嗎。」
陸見深沉默了片刻,沒有再攔他了,只是道:「從現在起,全程保持通訊暢通。並打開視野共享。」
很快,視野共享申請彈窗跳了出來。
沈時沒點:「陸見深。這是我特動處的職責。你不應該把重心放在我身上。」
陸見深的聲音更冷:「沈時。監察編號SOD-007,請打開視野共享,保持通訊暢通。否則,我將簽發關於你的停職令。」
「……」沈時老老實實點了接受按鈕。
沈時回到小年所在的地方,發現幾個紅馬甲的志願者在附近,散熱口重重地閃了一下,不由得加快了腳步。
不過走近了,沈時就放心了。
小年正在拿頭哐哐撞牆,嘴裡機械地念著:「請問有降壓藥賣嗎。請問有降壓藥賣嗎。請問有降壓藥賣嗎。」
紅馬甲志願者對於全程發瘋的機器人已經見怪不怪了,瞥了一眼,就匆匆離去。
它還在哐哐撞,沈時走過來,擋在它身前,小聲道:「別裝了。他們走遠了。」
小年停了下來,光圈眼睛重新亮了起來:「你回來了。」
沈時揚了揚手裡裝著藥的塑膠袋,還有一大桶水,幾盒自熱米飯:「拿到了,我們趕緊回去吧。」
下河街12號,陸見深搜索到了具體定位,讓沈時帶著它從小路走。
那是一棟老式的居民樓,層數不高,張曉梅和陳國棟年紀大了,住不了太高,就在三樓。
沈時隨小年打開門,迎面看見兩個上了年紀的老人依偎在一起,老爺子裹著一條舊毛毯,靠在老太太肩上,臉色發白,嘴唇也有點青。
老太太一手摟著他,一手還拿著個濕毛巾,額頭上有汗。
屋裡很暗,只有幾根蠟燭亮著,牆上有水漬,地上擺著幾個接漏水的臉盆。聽到門響,兩個人都望過來。
「小年……」陳國棟先開口,眼淚刷地一下從蒼老的眼眶裡滑落下來。
小年一瘸一拐地走過去,把藥放在茶几上,馬不停蹄地拿過杯子,到餐桌邊拿起保溫壺接了一杯熱水,走過來,蹲下,一邊拆藥一邊平穩地道:「陳先生,降壓藥已帶回。請您及時服用。」
它順從地蹲在地上,渾身金屬外殼還濕漉漉的,好幾處都癟了凹了,張曉梅心疼得不行,顫顫巍巍拿了干毛巾替它擦,擦到它金屬臉上深深的劃痕,眼淚一下子掉下來,哽咽道:「你個傻孩子,外面那麼大的雨,你出去買什麼藥啊……你看看你的臉都受傷了,你也不怕回不來……」
小年把膠囊放在陳國棟手上,頭微微擰過來,對準張曉梅:「張女士,我是機器人,我沒有疼痛感知模塊,您無須擔心。」
張曉梅「嗚」地一聲哭出來。陳國棟吃了藥,偷偷抹了把眼睛。
「哦,小年——這位是?」陳國棟緩過神來,看向沈時。
沈時被點到了,往前走了一步,頷首道:「我是沈時。國異中心的人。上面派我來支援這片。樓里的水太深了,水位還有漲的可能。我聯繫了救援艇,大概三十分鐘後能到。你們先別動,我們等消息。」
張曉梅趕緊讓小年給這位同志搬張凳子坐,給倒杯水。
小年就要照做,沈時伸手制止:「我無需進水進食,站立不會消耗我的電量。謝謝款待。讓小年去忙別的吧。」
因為洪澇緣故,這一片的水和電都停了,開不了火,小年把兩盒自熱米飯拆開,加水,蓋好。
但沒有電的話,小年怎麼充電呢?
沈時突然想到這個問題。
他瞥了一眼小年的能源核心,17%,已經沒剩多少電了。
把它帶到安置點去充電,也不現實。
他問小年打算怎麼辦。
小年也不知道怎麼辦。它轉頭看了看夫妻倆:「或許我可以開節能模式,一小時只耗0.8%的電。能撐到天亮。」
沈時道:「天亮之後呢。電沒有來怎麼辦。」
小年說:「我可以等陳先生和張女士睡下後,帶上我的充電器,去找一個能充電的地方,爭取在第二天早上趕回來。」
可是外面很危險,水也很深,而且留兩個老人在家裡,萬一發生了緊急情況,它趕不及回來。
沈時看了看小年的充電接口型號,民用陪伴型機器人,和沈時這種軍用的超級cyber改造體不同,接口相對比較簡單,沈時剛好有。
於是他抬起機械左臂,讓小年過來,機械食指很快變形,切換到了相應型號的充電接口,插入小年的後頸,那兩顆圓圓的光圈變成了綠色的呼吸燈。
沈時說:「軍用級220KW快充,20分鐘可以充滿。」
小年「嗯」了一聲,聲音裡帶著一點極輕的電流雜音:「好快。比我原裝充電座還快。」
張曉梅和陳國棟在一旁看著,又驚又心疼。陳國棟小聲問:「沈同志,這會不會也把你給……給耗著啊?」
沈時搖頭:「我沒事。我搭載軍用級核動力核心,這點輸出不影響。」
陸見深忽然想起了什麼,在頻道里說:「沈時,你的防水噴霧也該噴塗了。這段時間,剛好讓這對老夫妻幫幫你。」
沈時的多光譜鏡頭亮了亮:「先讓他們吃完飯吧。」