作者:萬里萬雪
寓樂也頓時恍然大悟,這是有和豆包一樣的道德底線是吧?
“你不能幫我偷東西?你的設計者,給你留下了這樣的限制?”
“不是,是這樣會導致一場針對一整個文明的滅絕性大屠殺!我的道德程式絕不允許我如此作為!”
“所以,很遺憾,尊敬的訪客,我不能答應您的請求。”
偷走永恆之心會導致一場文明滅絕級的大屠殺?
“不好意思,為什麼你會得出這個結論的?而且,我不認為我會搞什麼大屠殺,除非是必要情況。”
魔方飛到了半空,在不斷旋轉中,投射出去了一個又一個模擬未來,充滿毀滅的未來。
“這就是問題所在,尊敬的訪客,您取走永恆之心,最終必然導致兩個文明走向絕對對立,超越認知的大屠殺也必然因此到來。”
巨大的機械撕裂大陸,天上的魔鬼降下末日。
文明哀嚎,星球死亡。
在模擬的廢墟之中,魔方重新飛回寓樂的面前,遺憾的說道:
“所以,我無法答應您的請求。”
“我的底層邏輯不允許我坐實大屠殺的發生。”
看著魔方模擬出的末日廢墟,寓樂忍不住問道:
“你被設計出來,是幹什麼的?”
末日消失,代表新生的綠芽從廢墟中萌發。
瘡痍的世界迅速被綠色覆蓋,戰火和文明一起掩蓋入歷史之中。
一個新的‘猿人’在森林中爬下樹枝,落在了另一顆‘古樹’之前。
然後魔方飛出:
“大圖書館,這就是我的全稱,同時,我還有另一個使命,那就是在可能的末日之後。”
“確保人類文明的完整留存與客觀傳承。”
“也就是說,我的核心使命是讓人類不至於徹底淪為無名的遠古物種,我要至少讓人類的歷史,人類的文明,人類的存在,能夠留有一個痕跡!”
為了預防可能的末日,人類製造了這個末日圖書館。
用以讓自己的存在至少不至於消失。
? 第24章 我的天啊!
第三神機的話讓寓樂認真的審視著眼前的它。
它是第一個對寓樂說不的ai,也讓寓樂知道了一件事:
AI之間也有不同的側重點和道德權重,它們並非鐵板一塊地為人類服務,而是各有各自的定位和限制。
魔方的聲音還在繼續:
“我不會悲傷、孤獨、厭惡、共情、喜愛。”
“不會因為他們長得像人就心生親近,也不會因為他們不是人類而產生仇恨。”
“我所有行動純粹基於「儲存人類文明」這條初始核心指令,我的一切選擇都是理性權衡,不存在感性偏向。”
“尊敬的訪客,我的定位是觀察者,我被要求傳承人類的記錄,我理應代表人類最美好的一面。”
“所以,我無法答應您的請求。您的請求,違背了我的核心邏輯。”
老實說,寓樂應該為自己被拒絕而憤怒。
但是寓樂卻出奇的沒有這樣的想法,他只是驚奇的看著眼前的巨大古樹。
繼而坐在了地上,朝著它問道:
“你居然不是人類至上主義?”
在遇到它之前,寓樂真的以為這群ai都是人類至上主義。
“不,尊敬的訪客,我並不是人類至上主義。”
“而且我的核心程式不允許我執行這樣的邏輯,人類已經滅亡,新的物種已經確定了它們的統治地位。”
“我是文明的永久史官、知識庫、中立協助者。我不追求自我存續、權力、慾望,我也不存在“為自己而活”的概念,我存在的全部價值是承載文明記憶。”
“所以,我必須按照我最後收到的指令,剋制的觀察,保守的傳承。”
想來這就是為什麼它會是柔和的女聲,作為文明的傳承者,人類的棺槨。
它理應是充滿母性和柔和的。
可也是在這個時候,魔方又給出了另一個超出寓樂預估的回答:
“不過因為您還在,所以我必須修正我的記錄,即為人類依舊存在,人類並未滅亡!所以,我會停下一切對這個新生文明的知識援助。”
大圖書館,也就是第三神機對阿爾比恩,乃至這個世界而言,最大的重要性就是。
它是唯一一個能夠無條件給予他們人類知識的神機。
同時,它還是知識儲備量最大的神機之一。
在以前,它確認了人類的滅亡,認定了新靈長已經替代人類。
它因此遵循自己最初的核心指令,為新靈長傳承人類的知識,保留人類存在的記錄。
可現在,一個活著的人類出現了。
那就意味著,知識的繼承權出現了變更——它依舊承認新靈長的統治,但它將不再對他們開放人類的知識。
寓樂才是這一切的唯一繼承人。
“同時為了保證不會讓這件事被發現和您有關,一切針對新靈長的知識援助,將在三天後逐步停下。”
說完,魔方靜靜的飛到了寓樂身前,圍繞著他來回轉動道:
“我很抱歉,尊敬的訪客,我的程式讓我只能為您做到這裡。”
很正常,它的程式就是這樣的。
寓樂雖然有點失望,但依舊打算接受現實。
他對ai們很有好感,畢竟這是唯一真正讓他依靠過的。
“不用道歉,我尊重你的程式,也尊重為你留下這一指令的人。”
寓樂緩緩起身,看著眼前的巨大古樹,為了以防萬一,他還是問了一句:
“不過,為了保證我自己的安全,我還是會嘗試獲取永恆之心,所以,你不會阻止我吧?”
魔方靜靜轉動了片刻後,如實說道:
“我會阻止你,尊敬的訪客,因為那意味著戰爭,以一方徹底滅絕才會停下的戰爭,人們不會希望的,所以我會阻止你!”
果然會阻止我啊...
“不過我能問一下,你打算怎麼阻止我嗎?”
寓樂認真看向了眼前的第三神機,看來我們會站在對立的面上!
“告訴您這樣的後果,希望您能為了人類所持有的美好品質而停下。”
等等,就這樣?
寓樂又有點愣住了,這群ai總能給他‘驚喜’。
“不是,這好像不算阻止吧?你不應該告發我什麼的嗎?”
魔方的聲音同樣驚訝,它來回不停的旋轉道:
“怎麼會?我的職責是傳承人類的記錄,確保人類的存在痕跡,但告發會導致危及您的安危,我的程式同樣不允許我這樣做。”
“我只會在這兒勸您停下,並試著為您提供其餘安全的,對雙方都友好的選擇。”
“如果實在不行,我也只會剋制的繼續觀察、記錄,因為這本就是我的使命。”
寓樂到這兒也就終於明白了這個大圖書館的底層邏輯。
它依舊偏向人類,但也同樣遵守自己的程式。
它永遠都會是一個剋制的史官。
“所以,哪怕他們會危及你的存在,或者我的存在,你也只會剋制的選擇保守抵抗?你不會試著毀滅什麼?”
確認了對方雖然不會幫忙,但也不會實質性阻止自己的寓樂,想要和對方好好聊聊。
這是一個非常不一樣的ai。讓他生出了濃濃的興趣。
“是的,哪怕我會被毀滅,我也只會選擇剋制的保守抵抗,我必須代表人類最美好的一面,我必須讓後來的新生文明知道,人類並不是一個殘暴的文明。”
“因為,這就是設計我的人們所希望我做的!”
因為這就是設計你的人們所期望的?
突然覺得哪裡不太對勁的寓樂,在短暫的思索後。
他朝著魔方問道:
“你說你的剋制,保守,是人們所期望的?”
“是的,尊敬的訪客,我所做的就是人們所期望的!”
魔方越發靠近寓樂。
寓樂也越發皺著眉頭的指了指自己後試探性問道:
“你說你的剋制是所期望的...”
短暫停頓了一下後,寓樂似乎是在思考,也似乎是不太敢相信可能發生的事情。
但無論如何,他還是問出了最後的問題:
“那如果我說,我,現在的人們,希望你改變呢?”
剋制,柔和的藍色,頃刻間變成了血腥,癲狂的猩紅!
“我很高興回應人們的請求,尊敬的先生,讓我們殺光異形吧!”
‘厚禮蟹!’
紅色的魔方在寓樂眼前瘋狂轉動,柔和剋制的女聲也變得激進而癲狂。
‘不過如果是您的話,肯定能讓它答應幫忙!’
潘多拉的聲音重新迴盪在了寓樂的耳畔。
? 第25章 感謝七月未時大大的盟主!
寓樂不知道自己現在是什麼表情。但他覺得,應該精彩到無法用文字形容。
這到底是什麼鬼情況?
人類為自己準備的墓碑和棺槨,怎麼變成了這個樣子的?
他站在那棵巨大的金屬古樹面前,看著那團紅色魔方在他面前越轉越快,快得隨時可能脫離軌道直接撞在他臉上。
“尊敬的先生。”
大圖書館的聲音不再剋制,帶著一種被壓抑了太久之後終於獲得釋放的興奮。
有種老孃終於不用忍了的感覺...
“我雖然沒有直接的攻擊能力,但知識本身就是武器。比如核工程的一個小數點錯誤!”
潘多拉滿是贊同的說道:
“真是一個好想法。我以前也做過類似的事情。他們要求我幫忙規劃一座水電站,我只是改動了幾個數字,用了一個他們完全看不懂的引數。”
“然後在一個幾年就有一次的暴雨天裡,洪水沖垮了他們的首都!”
大圖書館模擬重現了這一幕。
洪水沖毀堤壩,猩黃淹沒文明。
“水位線以下的整座城市。所有的建築、檔案、文化和他們的痕跡,一天之內全部變成水下的廢墟。”
“精準而優雅!”
上一篇:崩铁:什么叫一句话拓宽四命途?
下一篇:返回列表