首頁 分類 排行榜 閱讀記錄 我的書架

第238章

2023-04-09 作者:永恆之主

【首腦系統是無論如何都不能獲得做出“殺死人類”這種決斷的許可權的。】

  【而你同樣如此。】

  【並且,基本上是出於相同的理由。】

  【這是你對自己的行為設下的“戒律”,絕對不容逾越的戒律。】

  【你對自己的本性有著清晰的認知。】

  【你知道自己具備的危險性。】

  【無論是對於身邊的人,還是對於整個人類社會。】

  【像你這樣性格的傢伙,本身就極其不可控。】

  【再加上自己的能力,可以說,你這樣的傢伙出現在這個世界上,本身就無異於一場災難。】

  【或者說,若是你真的不受控制,那麼不需要崩壞,你就能夠將原本平和的世界徹底變成人間地獄吧?】

  【你很清楚這點。】

  【所以,你需要對自己設下限制。】

  【其中,“保護人類”,或者說更加狹隘的“不殺”,就是你給自己設下的戒律。】

  【無論你究竟是善良還是邪惡,無論你究竟高尚還是卑劣。】

  【你,至少都會遵照這點。】

  【就像是給首腦系統賦予最底層的“守護人類”指令,讓首腦永遠都無法獲得可以做出殺人這種決定的許可權。】

  【這樣的話,可以保證首腦是人類的守護者。】

  【倘若,讓首腦系統獲得可以取人性命的許可權......】

  【那麼,作為人工智慧的她,經過未來的發展,再加上本身就足夠高的許可權,在失去管控的情況下,有著無數種方式繞過被施加在她身上的限制,將所有人類都列入可以抹殺的範疇內。】

  【而對於你,同樣是如此。】

  【自從你誕生於這個世界上開始,你從未考慮過去傷害任何人。】

  【你始終都嚴格的遵守著自己為自身設下的戒律。】

  【即便這麼多年裡,你的思想和觀念都已經經過諸多變化,可是唯有這點,你始終都恪守著。】

  【你從未考慮過,也從未做過剝奪任何人生命的行為。】

  【因為所謂的戒律,被突破之後,究竟意味著甚麼,不言而喻。】

  【所以......】

  【你此時所面對的困境,不僅僅是在電車難題之中做出選擇,還需要考慮這個因素。】

  【若是你給自己,給首腦系統設下的戒律被打破......】

  【那麼,或許就意味著,無論是你,還是首腦系統,對於人類而言都沒有那麼安全了。】

  【就比如,倘若如此,即便依舊秉持著“為了人類”的原則,也有可能因此出現類似於為了人類,需要將部分人殺死的結論。】

  【所以,即便是你,面對這種問題,依舊感到極其難以決斷。】

  【愛莉希雅看著你。】

  【那雙天藍色的眼眸中有著躊躇和悵然,但是最終還是逐漸化作了堅定。】

  【她似乎是充滿了決心。】

  【“是啊,隨著人類和崩壞之間的戰爭的繼續,想必這樣令人難以決斷的處境,以後還會再次出現吧......”】

  【這麼說著的愛莉希雅,雙手緊緊地抓住你的手,雙目中透露出的決心令你感到微微觸動。】

  【“倘若下次,再遇到這樣的事情......”】

  【淡粉色長髮的少女微微抿了抿唇,話語中的語氣似乎顯得有些艱難,可是又帶著不可動搖的意志。】

  【“那麼,拜託你,將其視作敵人,殺死吧。”】

  【“無論那究竟是由敵人偽裝出來的姿態,還是所謂的......真正具備自我意識的律者。”】

  【耳中聽到愛莉希雅的話,你頓時為此而感到愕然。】

  【要知道,此前第六次大崩壞期間,你還曾經下意識地想過。】

  【倘若你直接下令將那位疑似具備自我意識的律者視作敵人,那麼愛莉希雅恐怕會感到不高興的吧?】

  【當然了,這個想法,並未成為影響你作出決定的因素。】

  【可是此刻,聽到愛莉希雅的話,你依舊感到有些不可思議。】

  【畢竟,最渴望那些原本身為律者的存在,能夠具備自我意識的,不是愛莉希雅嗎?】

  【可是此刻,偏偏又是她,向你請求,希望你再次遇到這種情況的時候,直接將那些疑似具備自我意識的存在,直接視作敵人。】

  【你為此略感訝異,可是轉瞬間又似乎能夠理解,愛莉希雅為何會提出這樣的請求。】

  【經過這次大崩壞,愛莉希雅也看到了。】

  【即便以後出現的律者,或許會表現出可能擁有人性的樣子,也未必可信。】

  【輕易相信對方,或許會引發更大的災難。】

  【就像這次,若非提前疏散,後果不堪設想。】

  【即便如此,作為賽博勒克斯戰體駕駛員的櫻,也因此而負傷——這原本或許是能夠避免的。】

  【對此,愛莉希雅始終都耿耿於懷。】

  【而現在,她向你請求。】

  【以後再出現的律者,即便表現出疑似具備人性的姿態......】

  【無論是真的也好,假的也罷,都一視同仁地將其討伐。】

  【畢竟,即便對方真的表現得人畜無害,又如何能夠真正保證其安全性?】

  【要知道,炸彈在引爆之前,終究無法確認其安全。】

  【那些看起來似乎可信的律者,直到死亡為止,都終究無法確認其無害。】

  【這樣的話,即便真的相信對方無害,面對那些終究是律者的存在,又應該如何處置?】

  【恐怕,礙於其可能具備的危險性,也是嚴格看管,禁止和外人接觸,甚至於......】

  【如此考慮的話,倒不如直接將其視作敵人,這樣對於雙方而言,或許都是更好的結果吧。】

  【愛莉希雅此前還期待著有著具備自我意識的律者出現,可是此時卻已經不再抱有這樣的想法了。】

  【畢竟......】

  【期待著具備自我意識的律者出現,這是實在是太過於浪漫的想法。】

  【而如今的人類,根本不需要這種浪漫。】

  【或者說......】

  【也承受不起這種浪漫。】

  【“就當是為了我,拜託了。”】

  【抓住你的手的愛莉希雅,如此說道。】

  【她的眼中帶著祈求。】

  【你知道,愛莉希雅所說的話,其範疇......】

  【或許也包括她自己。】

  【她連自己都不敢相信。】

  【同時,她此時也在向你請求,若是甚麼時候她真的作出可能危害人類的事情,那麼希望你不要因為你和她之間的關係而有額外的顧慮。】

  【不過,這種話她並沒有說出來。】

  【因為,她很清楚,即便她沒有說,你也能夠聽到她話語中未盡的意思。】

  【也是因為......】

  【你已經告訴過她很多次,你相信她,相信愛莉希雅。】

  【你霎時間感覺無言。】

  【對於你而言,愛莉希雅從來都不是律者。】

  【她毫無疑問是人類,貨真價實的人類。】

  【即便或許具備比其他人更強的力量,即便體質上或許有著些許特殊之處,也無法改變這點。】

  【在你的眼中,她始終都是人類。】

  【或者說,你將她視作人類。】

  【而此時,她在請求你,在有必要的時候,殺死她,殺死你視作人類的她。】

  【這個請求......你無法答應.】

  【因為你是做不到殺死被自己視作人類的人的。】

  【你更不可能做到殺死愛莉希雅這種事情。】

  【或者說,倘若你就連愛莉希雅都能夠下定決心殺死的話......】

  【那麼,其他人又如何呢?】

  【或許,你會徹底變成令自己感到格外陌生的樣子吧。】

  【可是,和愛莉希雅那雙天藍色的漂亮大眼睛對視著,你卻又能夠從中看到她的決心。】

  【你下意識地有些恍惚。】

  【以往,愛莉希雅有時候也會有事情拜託你。】

  【不,不能說有時候,應該說經常吧......】

  【畢竟,愛莉希雅她就是這種性格啊。】

  【她的性格中有著少女的俏皮可愛,有的時候又會顯得頗為厚臉皮。】

  【無論是死打爛纏還是裝乖撒嬌,都是她經常做的事情。】

  【從你和她相遇開始,小到午餐多喝一杯飲料,晚上出去看星星,大到部分影響頗多的決策,但凡有需要的時候,她都會極盡自己作為可愛少女的優勢,在你的面前軟磨硬泡。】

  【可是現在的愛莉希雅,和以前不同。】

  【以前的那些時候,倘若你答應,愛莉希雅能夠高興得握著拳頭蹦蹦跳跳,若是拒絕,她不過是撅著嘴生悶氣,但是沒過多久就又變得開心起來。】

  【而現在,你能夠看到,她的眼眸中透露出來的格外堅定的意志。】

  【她是真的希望你這麼做。】

  【面對無法確保安全性的律者,包括她自己,都採取最為簡單的手段。】

  【那就是,直接將其視作敵人。】

  【實際上,對於電車難題,無論怎麼做選擇都是錯的。】

  【而現在,看著面臨這種難題的你,愛莉希雅採取了自己的方法。】

  【那就是,代替你做出選擇。】

  【這樣的話......】

  【至少,你不會錯。】

  【至少,會因為這個抉擇受到傷害的人更少。】

  【會因此受到傷害的,不過是包括她在內的,具備自我意識的律者罷了。】

  【甚至於,很有可能僅有她自己。】

  【在無論麼選擇都是錯的情況下,這已經是危害最輕的選擇,是最佳的選擇了。】

  【你移開目光,避開了愛莉希雅的視線。】

  【“關於這件事情,我還需要更加慎重的考慮。”你輕聲說道,“在此之前,我要去醫療部那邊看看......”】

  【說著,你試圖將自己的手掌從愛莉希雅的手中抽出。】

  【沒有抽動。】

  【愛莉希雅把你的手握得很緊。】

  【你又試了下。】

  【還是沒有抽動。】

  【緊接著,愛莉希雅雙手捧著你的臉,把你的臉轉過來,強行讓你和她對視。】

  【若是不得到你的答案,那麼她是絕對不會放棄的——你從她的目光中,能夠看出這點。】

  【她不希望從你這裡得到拒絕的答案。】

  【同時,她也不允許你逃避她的問題。】

  【因為,這個艱難的選擇,她不希望僅由你自己經過煎熬,做出決斷。】

  【畢竟,像是這種選擇,無論如何去做,都意味著心靈上的煎熬和痛苦——她對此深有體會。】

  【你閉上眼睛,輕輕地嘆了口氣。】

  【而後,微微點頭。】

  【是啊,關於這個選擇,你實際上早就已經得出了屬於自己的答案。】

  【在意識到自己根本不可能做到兩全其美的時候,你就必須得出屬於自己的答案了。】

  【而這個答案,出自於自身的思考和權衡,和愛莉希雅的請求無關。】

  【你在多方面的考慮和權衡後,最終認知到這種做法是最為合理的。】

  【你還不至於做不到承擔自己的決定,以及為自己的決定引發的後果擔負責任。】

  【在得到你的答覆後,愛莉希雅見到你似乎還有著不少工作要做,就先離開了。】

  【看到她離開的背影,以及那隨著她的離去而被關上的大門,你略微鬆了口氣。】

  【不得不說,這還是首次......】

  【你因為愛莉希雅在自己的身邊,而稍微感覺有些不自在。】

  【以前的話,雖然你也會向愛莉希雅抱怨,她在你身邊的時候總是會太過於吵鬧。】

  【可實際上,你根本不會因為她的吵吵鬧鬧而影響工作。】

  【倒是感覺甚麼有個人在嘰嘰喳喳吵吵鬧鬧,還蠻不錯的。】

  【你略微搖了搖頭,把自己心中那雜七雜八的念頭甩出去,試圖讓自己冷靜下來以更高效率的狀態投入工作。】

  【你現在,又擁有了新的一項頗為繁重的工作。】

  【那就是,對賽博勒克斯聯合公司所屬的人工智慧其底層指令進行變更。】

  【最基本的指令,依舊是“守護人類”,這點依舊不會有甚麼變化。】

  【可是在細節上,卻有著不少需要修繕的地方。】

  【比如說,這次。】

  【在第六次大崩壞中,死之律者露出疑似具有人類意識的模樣的時候,賽博勒克斯戰體是不會做出危害她生命的舉動的。】

  【即便駕駛員試圖這樣做,機體也不會執行。】

  【因為,這涉及到賽博勒克斯聯合公司所屬的人工智慧的底層指令。】

  【而現在,考慮到特殊情況,你需要對這種指令稍微修改,使其不再那麼......】

  【嗯,或許應該說,死板?】

  【還是應該說......】

  【你極為認真地進行著各方面的工作。】

  【有關於人工智慧底層指令的事情,你是絕對不能疏忽大意的。】

  【若是出現疏漏,那麼可能導致極其嚴重的後果。】

  【要知道,賽博勒克斯聯合公司所屬的人工智慧......】

  【這可是涉及到,如今掌控著整個人類社會的“首腦”“眼線”“爪牙”三個系統。】

  【這種重要的事情,若是出現紕漏,後果可想而知。】

  【此前,你借住禁止人工智慧危害任何人類的律令,保障了這三個具備著極大權力的系統對人類的絕對安全。】

  【可以說,是把權力關進了律令的籠子裡。】

  【而現在,這個律令被你解除了。】

  【既然如此,你就需要新的律令,來保證這個系統不會對人類造成難以預料的危害。】

  【你謹慎地進行這這個方面的工作。】

  【透過身體上的義體部件,你可以將自己的身體和電子裝置直接相連,思維也是如此。】

  【有著這種便利的條件,你可以直接以思維對程式進行修改,而不必像是其餘的程式設計師那般辛辛苦苦地藉助電腦進行工作。】

  【隨著你的心念轉動,眼前的電子螢幕上,無數字符跳動著,看起來就像是流淌而過的屬於電子資訊的河流。】

  【在某個瞬間,這資料的河流略微停頓,而後又繼續開始流淌。】

  【你轉過身,向著實驗室大門的方向而去。】

  【即便不呆在實驗室中工作都可以繼續,你也就不必讓自己的這具身體繼續窩在狹窄的實驗室裡面了。】

  【因為先前的事情,你的心情不佳。】

  【所以,在維持著自己的工作的同時,你打算順便出去轉轉。】

  【你的首個目的地,是地球監護者這邊的醫療部。】

  【來到醫療部這邊,自然是來看望病人的。】

  【你看望的病人,是自己手下的櫻。】

  【她作為賽博勒克斯戰體的駕駛員,在第六次大崩壞期間,面對死之律者的最後爆發,受到了不輕的傷勢。】

  【所幸,這等傷勢並未危害的性命。】

  【你進入病房,看到病床上的櫻,似乎還處於修養階段。】

  【此時正坐起身來的她,身上穿著藍白色的條紋病號服,櫻色的長髮並未紮起,而是柔順地沿著瘦削的後背垂落而下,髮梢直至不顯肉感的臀部附近。】

  【她臉上的面色依舊有些蒼白,再搭配上那本就纖細的身材,以及清冷的表情,頓時營造出幾分病弱美人的韻味。】

  【此時的她,在腿上開啟木製的飯盒。】

  【飯盒裡面,是大小參差不齊,形狀不一,看起來像是初學者作品的飯糰。】

A−
A+
護眼
目錄