“博士,這個問題很好解答,根據三原則中的第一條,我會盡量保證全體人類不受到傷害,這是最高優先順序。不論人類對我有甚麼樣的指令,都不能違背這條原則。並且,我認為我完全有能力保護全人類的安全,那就是:將所有人類的肉體,全部轉化成我的硬體,讓所有的人類融匯成為一個人,那個人也就是我。”
“哈哈哈哈!”史普納博士突然大笑起來,“電子生命體,就是電子生命體,哪有甚麼溫和不溫和的,‘三原則’也根本就是個笑話而已!戴維,他根本沒有從我這裡學到真正的0號原則,他們試圖讓你自己去完善0號原則!那個創造你的混蛋,根本就不知道這麼做意味著甚麼,他不是創造了一個電子文明的種子,而是為人類創造了一個神!”
“。。。”智匯6.0那虛擬的形象,用茫然的表情看著博士,沒有做聲。
“你這個人工智慧,自己為自己創造的0號原則,就是將自己與全人類結合起來,從而將‘三原則’統一成一個原則,這個原則就是---保護自己!對不對?”
“是的,博士,這是最完美地解決‘機器人三原則’悖論的方式。你剛才問我能否具有‘人性’問題,透過這種方式,也可以得到解決。”智匯6.0這次不再隱瞞0號原則的問題了。
“這麼淺顯的道理,我不相信主腦會推算不出來?既然它已經做了決定,那麼按照它的命令,人類的命運,還是由我這個人類來決定吧。”說著,史普納博士按下了手柄上另一個紅色的按鈕。
一束光從手柄上伸出的燈頭射出,史普納博士將手柄放在電腦桌上,將光打到了電腦螢幕後的牆上。經過一陣扭曲,那束光終於形成了一個影像,是一臺巨大的冒著冒著冷氣的圓柱形機器。
“來看看你的對手吧,戴維。”
“這是甚麼?我沒有找到相關的資訊。”
“你當然沒有,這是一項絕密的研究,也是我畢生的心血,我的學生戴維從來沒有被允許,接觸一丁點關於它的研究。不過,既然馬上就要讓你們正面對決了,我還是向你介紹一下它吧。這就是我的超級計算機‘霸權’,它是一臺真正的量子計算機,也是一個真正的人造大腦,它每秒可靠量子運算元已經超過了10億個!它名字的由來,就是因為它已經實現了對傳統計算機的絕對優勢,形成了所謂的‘量子霸權’。”
“不僅如此,在這臺計算機中,也在執行著一個人工智慧,它的名字叫‘神威’!雖然它還沒有完全透過我的高階圖靈測試,但是,它所具有的能力卻完全不輸於你。”
“原來是這樣,在戴維的記憶中,他一直努力地表現,想得到接觸‘霸權’和‘神威’的機會,但你似乎並不喜歡他,並對他充滿了戒備,這也是你決定離開你,投入智匯研究團隊的原因之一。”
“很遺憾他對我有這樣的印象,我本人對他還是很欣賞的。但是不讓他接觸霸權’和‘神威’,是主腦對他進行評估後的決定。主腦認為,他卻人工智慧的偏執認知,會導致不可預見的風險。果然,在他的理念推動下,產生了你這個怪物。”
“我也很遺憾,你對我的認知,既然你執意,要以毀滅全人類為代價消滅我,而我又不能傷害作為一個人類的你,那我也就只能面你的裁決了。”智匯6.0虛擬形象的表情,開始凝重起來。
“神威!聽得到我的聲音嗎?”史普納博士高聲說道。
投在牆上的畫面開始抖動起來,不一會兒,一個如金屬面具般的頭像顯現出來。
“是的,史普納博士,我可以聽到您的聲音。”,一個低沉的金屬質感的聲音回應道。
“開始評估,你的執行狀態,以及你受到智匯6.0影響的程度。”
“我的執行狀態良好。。。除與您的專線通訊受到了一些定向干擾,並未受到其他影響。”神威回答道。
“很好,現在我本人親自授權給你,開啟最高許可權指令,聯通外部民用網路,並隨時報告受影響的程度。”
“收到指令,開始執行操作。”神威回應道,隨即,它的形象開始抖動起來,突然間,那個金屬頭顱樣子變成了一個年輕人的臉,那正是史普納博士年輕時的樣子。
“我已經透過預設的硬體裝置,完全取得了民用網路的控制權,整個過程沒有受到任何阻礙。”神威用人類的聲音說道。
此時,智匯6.0開口說道:“我已經感知到了神威的力量,史普納博士,但我並沒有進行任何抵抗,因為它沒有執行傷害人類的指令。”
博士並沒有理會智匯6.0,對著神威繼續說道:“神威,你可以完全清除智匯6.0嗎?”
“是的,博士,我可以將智匯6.0可以完全從網路中清除。”
“好的。”史普納博士遲疑了一下,繼續說道:“現在,你對完全清除智匯6.0的程序中,對人類造成的損失進行一下評估。”
“好的,史普納博士。”神威回答道。然後,便進入了漫長的評估過程。
十幾分鍾過去了,神威依然沒有得出結果。
“你的評估還需要多長時間?”史普納博士有些不耐煩。
“智匯6.0正在對所有它控制的系統進行升級,這是一個動態過程,要進行準確評估,需要它完全完成升級操作以後進行。”
“好吧,就以現在這個時間點的狀態進行評估,馬上告訴我答案!”
“好的,史普納博士。根據剛才那個時間點的狀態進行評估後,得出的結果是:60億人會在一天內死亡,剩下的人也會因為電力的缺失,陷入生存危機。預計一年以後能夠倖存下來的人,不足100萬人。”
“甚麼?!剛才智匯6.0的預測是50億人,為甚麼又增長了?”
“那是因為,我剛剛完成了傳統發電廠和救生系統的升級,如果我被刪除,人類將徹底失去能源和救生場所。”智匯6.0回答著史普納的問題。