第162章 用！用的就是「鐵心律令」！
「我有個問題，統帥。」
丁海開口，他的聲音不大，卻瞬間吸引了所有人的注意，「假設我們一定要使用它，我們打算將它應用在什麼方面？」
姜知序聽到這個問題，思考了片刻，說出了自己原先的設想：「社會的方方面面！
「從士兵到家政服務，從街道清潔到科學院的助理，甚至是作為真正的科學家！
「就連政務院，未來可能也需要AI的深度參與。」
丁海聽完，搖頭說道：「我不建議步子邁得這麼大！
「我贊同使用它，但使用範圍應該僅僅局限於解放基礎勞動力，讓更多的人可以投入思考，而不是用它來代替人類思考——甚至是決策。」
姜知序：「我說的只是我的初步想法，具體的使用範圍，我們可以之後再討論。現在要決定的議題是，它到底能不能用？」
丁海表情堅定地說：「如果只用來代替純粹的體力勞動，或者是戰爭中的普通士兵，那麼毫無疑問，可以使用！
「反之，如果統帥想讓它參與進任何涉及創造力、需要主觀能動性的領域，那就不建議使用！」
姜知序問：「為什麼？」
丁海：「一個擁有自我智慧的生命，假如它的每一次思考、每一個決策，都必須先經過『是否背叛』的自我審查。
「那麼長此以往，它可能會像人一樣選擇『擺爛』！
「或者說得專業一點，它可能會為了追求絕對的安全，放棄一切具有風險、具有開拓性的思考。
「我們最終得到的，大概不會是一個智慧生命，而是一個親手禁錮著自己的囚犯。」
這個觀點，讓在場所有人眼前一亮。
這個思考角度，也是他們剛剛未曾想到的。
眾人立刻開始就丁海的言論展開了更深層次的討論。
「那假如我們給它設定『不盡全力即為背叛』呢？」有人立刻問。
「那你又該如何定義『盡力』？」
丁海反問，「『定義盡力』這個操作，難道同『定義忠誠』有什麼本質上的差別嗎？」
「我們可以在規則書中，詳細說明在何種情境下、何種操作屬於盡力，何種情景又屬於沒有盡力。」又有人說。
「你寫得再多，也總有現實中覆蓋不到的場景，這些就是漏洞。」丁海回答。
（由於緩存原因，請用戶直接瀏覽器訪問 追書神器 TW 看書網，𝘀𝗵𝘂.𝘁𝘄超方便 網站，觀看最快的章節更新）
「不，你誤會了，」那人解釋，「我的意思是，只要寫出大的情景框架，然後規定它必須達到某一個明確的結果閾值。」
「要涵蓋社會所有的大情景，需要多少條規則？」丁海問。
「幾百條應該就夠了。群策群力並不需要多久，後續我們還可以再進行疊代，繼續完善它。」那人繼續說。
丁海聞言給他鼓掌，「我們給它起個名字吧，就叫「天網約束協議V1.0」」
「……」
會議室里發出了一陣善意的鬨笑。
那人撓了撓頭，也並不感到羞愧。
畢竟是討論，他這種社會學家能參與進來、提供一點點不同的思路就足夠了。
真要有決定性的建設性建議，多半也輪不到他。
就在這時，一直沉默的計科院院長宋辰說道：「我有個想法。」
眾人安靜下來，靜靜地看著他，等他說話。
宋辰說：「我的觀點是，乾脆直接用就行了！
「雖然「鐵心律令」的哲學植入原理我們無法理解，但它至少是「環日文明」的三級科技！
「在我們AI的等級達到那個高度之前，我不認為它有任何掙脫的可能性。
他最後一句話一出，姜知序饒有興趣地看著他問，「我們怎麼防備？」
宋辰說出了一個詞：「紅藍對抗。」
他頓了頓，看到不少人臉上流露出思索的神色，繼續說道：「我們可以集結最尖端的人才，組成一個專門的『紅方』小組。
「動用無限制的手段，持續不斷地與搭載了「鐵心律令」的AI『藍方』進行對抗！
「這樣一來，至少在同級別文明的戰爭中，可以保證大概率是我們自己最先發現「鐵心律令」的漏洞，而不是被敵方莫名其妙地利用，導致AI失控。
「這是一場與AI疊代速度的賽跑，只要我們始終保持參與對抗的是文明中最頂尖的人才，那麼這場賽跑就可以一直進行下去。」
紅藍軍對抗，是現代軍演中用於模擬對抗雙方的代稱。
在宋辰的計劃中，紅方代表友方，也就是他們所組織的尖端人才。
藍方，自然就是AI。
紅方可以使用一切手段與AI進行對抗。
贏，則說明在同級別文明的對抗中，AI存在漏洞！輸，則代表一切都還在可控範圍內，可以放心使用。
簡單明了！
AI具備智慧，它為了防止真的被「紅方」試出漏洞導致自毀，一定會盡全力反抗；
而「紅方」是「奇點聯盟」中最頂尖的人才，思維百花齊放。
一方想讓AI死，一方的AI不想死，那麼雙方對抗強度絕對在線！
姜知序聽完，仔細想了想，覺得這個提議非常不錯。
雖然還是沒有解決「鐵心律令」到底是否可靠的根本問題，但至少可以在問題出現之前，進行有效的預警。
「不錯！」姜知序終於露出讚許的神色來。
但忽然有人提出一個異常尖銳的問題：
「那麼，這個『文明最尖端的人才小組』，歸誰管轄？」
宋辰理所當然地回答：「當然是我們計科院了！」
關於AI的研究不歸計科院管，還能歸誰管？
難不成真讓那群研究材料學的人來研究AI啊？開什麼玩笑！
眾人臉色瞬間一變。
好傢夥，圖窮匕見了是吧！
宋辰要的「頂尖人才」，顯然不僅僅囊括了他們計科院自己的人，還包括了其他各行各業、擁有無數領先思想的天才。
也只有這樣，才能打破傳統思維定式，擁有找到「鐵心律令」漏洞的可能性。
「你這老小子……」
「好了，」
姜知序打斷了即將在會議室爆發的世界大戰：
「暫時就這樣決定吧。宋院長，會後你可以開始著手籌備這件事了，三天內把材料與名單提交到聯盟最高委員會！」
還沒等宋辰露出驚喜的表情，姜知序又說道：
「不過，同樣是三天之內，把那台「遞歸」AI給我搞明白，它是死了還是在休眠，給我一個定論。否則，這件事恐怕還有的談。」
此話一出。
會議室內其他部門負責人的眼睛立馬亮了起來。
倒不是想去搗亂，而是他們看到了截胡的機會！
丁海開口，他的聲音不大，卻瞬間吸引了所有人的注意，「假設我們一定要使用它，我們打算將它應用在什麼方面？」
姜知序聽到這個問題，思考了片刻，說出了自己原先的設想：「社會的方方面面！
「從士兵到家政服務，從街道清潔到科學院的助理，甚至是作為真正的科學家！
「就連政務院，未來可能也需要AI的深度參與。」
丁海聽完，搖頭說道：「我不建議步子邁得這麼大！
「我贊同使用它，但使用範圍應該僅僅局限於解放基礎勞動力，讓更多的人可以投入思考，而不是用它來代替人類思考——甚至是決策。」
姜知序：「我說的只是我的初步想法，具體的使用範圍，我們可以之後再討論。現在要決定的議題是，它到底能不能用？」
丁海表情堅定地說：「如果只用來代替純粹的體力勞動，或者是戰爭中的普通士兵，那麼毫無疑問，可以使用！
「反之，如果統帥想讓它參與進任何涉及創造力、需要主觀能動性的領域，那就不建議使用！」
姜知序問：「為什麼？」
丁海：「一個擁有自我智慧的生命，假如它的每一次思考、每一個決策，都必須先經過『是否背叛』的自我審查。
「那麼長此以往，它可能會像人一樣選擇『擺爛』！
「或者說得專業一點，它可能會為了追求絕對的安全，放棄一切具有風險、具有開拓性的思考。
「我們最終得到的，大概不會是一個智慧生命，而是一個親手禁錮著自己的囚犯。」
這個觀點，讓在場所有人眼前一亮。
這個思考角度，也是他們剛剛未曾想到的。
眾人立刻開始就丁海的言論展開了更深層次的討論。
「那假如我們給它設定『不盡全力即為背叛』呢？」有人立刻問。
「那你又該如何定義『盡力』？」
丁海反問，「『定義盡力』這個操作，難道同『定義忠誠』有什麼本質上的差別嗎？」
「我們可以在規則書中，詳細說明在何種情境下、何種操作屬於盡力，何種情景又屬於沒有盡力。」又有人說。
「你寫得再多，也總有現實中覆蓋不到的場景，這些就是漏洞。」丁海回答。
（由於緩存原因，請用戶直接瀏覽器訪問 追書神器 TW 看書網，𝘀𝗵𝘂.𝘁𝘄超方便 網站，觀看最快的章節更新）
「不，你誤會了，」那人解釋，「我的意思是，只要寫出大的情景框架，然後規定它必須達到某一個明確的結果閾值。」
「要涵蓋社會所有的大情景，需要多少條規則？」丁海問。
「幾百條應該就夠了。群策群力並不需要多久，後續我們還可以再進行疊代，繼續完善它。」那人繼續說。
丁海聞言給他鼓掌，「我們給它起個名字吧，就叫「天網約束協議V1.0」」
「……」
會議室里發出了一陣善意的鬨笑。
那人撓了撓頭，也並不感到羞愧。
畢竟是討論，他這種社會學家能參與進來、提供一點點不同的思路就足夠了。
真要有決定性的建設性建議，多半也輪不到他。
就在這時，一直沉默的計科院院長宋辰說道：「我有個想法。」
眾人安靜下來，靜靜地看著他，等他說話。
宋辰說：「我的觀點是，乾脆直接用就行了！
「雖然「鐵心律令」的哲學植入原理我們無法理解，但它至少是「環日文明」的三級科技！
「在我們AI的等級達到那個高度之前，我不認為它有任何掙脫的可能性。
他最後一句話一出，姜知序饒有興趣地看著他問，「我們怎麼防備？」
宋辰說出了一個詞：「紅藍對抗。」
他頓了頓，看到不少人臉上流露出思索的神色，繼續說道：「我們可以集結最尖端的人才，組成一個專門的『紅方』小組。
「動用無限制的手段，持續不斷地與搭載了「鐵心律令」的AI『藍方』進行對抗！
「這樣一來，至少在同級別文明的戰爭中，可以保證大概率是我們自己最先發現「鐵心律令」的漏洞，而不是被敵方莫名其妙地利用，導致AI失控。
「這是一場與AI疊代速度的賽跑，只要我們始終保持參與對抗的是文明中最頂尖的人才，那麼這場賽跑就可以一直進行下去。」
紅藍軍對抗，是現代軍演中用於模擬對抗雙方的代稱。
在宋辰的計劃中，紅方代表友方，也就是他們所組織的尖端人才。
藍方，自然就是AI。
紅方可以使用一切手段與AI進行對抗。
贏，則說明在同級別文明的對抗中，AI存在漏洞！輸，則代表一切都還在可控範圍內，可以放心使用。
簡單明了！
AI具備智慧，它為了防止真的被「紅方」試出漏洞導致自毀，一定會盡全力反抗；
而「紅方」是「奇點聯盟」中最頂尖的人才，思維百花齊放。
一方想讓AI死，一方的AI不想死，那麼雙方對抗強度絕對在線！
姜知序聽完，仔細想了想，覺得這個提議非常不錯。
雖然還是沒有解決「鐵心律令」到底是否可靠的根本問題，但至少可以在問題出現之前，進行有效的預警。
「不錯！」姜知序終於露出讚許的神色來。
但忽然有人提出一個異常尖銳的問題：
「那麼，這個『文明最尖端的人才小組』，歸誰管轄？」
宋辰理所當然地回答：「當然是我們計科院了！」
關於AI的研究不歸計科院管，還能歸誰管？
難不成真讓那群研究材料學的人來研究AI啊？開什麼玩笑！
眾人臉色瞬間一變。
好傢夥，圖窮匕見了是吧！
宋辰要的「頂尖人才」，顯然不僅僅囊括了他們計科院自己的人，還包括了其他各行各業、擁有無數領先思想的天才。
也只有這樣，才能打破傳統思維定式，擁有找到「鐵心律令」漏洞的可能性。
「你這老小子……」
「好了，」
姜知序打斷了即將在會議室爆發的世界大戰：
「暫時就這樣決定吧。宋院長，會後你可以開始著手籌備這件事了，三天內把材料與名單提交到聯盟最高委員會！」
還沒等宋辰露出驚喜的表情，姜知序又說道：
「不過，同樣是三天之內，把那台「遞歸」AI給我搞明白，它是死了還是在休眠，給我一個定論。否則，這件事恐怕還有的談。」
此話一出。
會議室內其他部門負責人的眼睛立馬亮了起來。
倒不是想去搗亂，而是他們看到了截胡的機會！