宋君行忍不住提醒沉浸在回憶之中的林尼：“AI沒有腦子。”
林尼輕咳一聲，聽若不聞，繼續往下說：“但是塞納不會做出無意義的動作。他的所有話語、舉動，全都經過計算，是程式化的結果。”
他揉了揉鼻子。
皮耶爾還抬手撓撓自己的下巴。
這兩個動作他們都在飛廉身上看到過。
這是無意義動作——至少對一個人工智慧來說，這些動作完全不具有任何可以解讀的程式意義。
但對人類來說就不一樣了。緊張，羞赧，尷尬，侷促……這兩個動作能闡釋的意義太多了。
因而飛廉看上去實在太像人，像某位確實存在過的人類。他的製造者巧妙地，在“飛廉”這個AI的身上覆刻了某個原型人物的特徵。
“他還會笑，而且莫名其妙地笑。”宋君行說，“我從沒見過AI會在看到我和林尼吵架的時候笑。飛廉笑起來可真了不得，唐墨都看呆了。”
林尼也想起了不久前發生在駕駛艙裡的事情。
當時宋君行趴在桌上看他畫星圖，趴著趴著，直接趴到了他的手臂上。林尼覺得很順手，抬手給了宋君行一拳，宋君行躲得快，閃到了一邊，結果沒注意身後正跟皮耶爾聊天的唐墨，直接把人撞到了地上。林尼認為宋君行後腦勺沒長眼睛，該罵；宋君行認為老子後腦勺確實沒長眼睛，罵我作甚。
兩人吵吵嚷嚷，其餘人見慣不怪，照例有說有笑。飛廉立在一旁，看著他倆，突然就笑了。
笑甚麼呢？
宋君行當時問他。
“你們不是真的吵架。”飛廉在宋君行和林尼的臉上來回觀察，“你們彼此並沒有生氣，反而心跳平靜，情緒高Zhang，眼角面板皺起的角度和麵部肌r的活動，都說明你們雖然互相責罵，但是笑容是真心的。”
宋君行聽他說了一通天書，奇道：“那又怎麼樣？你怎麼就笑了？”
飛廉拍拍自己的臉。“不知道。”他說，“但我的程式告訴我，此時此刻，我應該笑，我應該融入你們之中。”
“誰會弄出這樣的設定啊？”宋君行zhui裡將一把牛r條塞到zhui巴里，剩下的遞給皮耶爾，口齒不清地說，“飛廉的製造者設定的程式也太奇怪了。他們好像在讓飛廉……學習跟人社jiāo。”
皮耶爾開始慢吞吞地吃牛r條：“唐墨昨天跟我說，咱們種的那些菜有兩棵長出來不久就死了。飛廉陪著她在培育室裡蹲了很久，一直在結結巴巴地安慰她。”
林尼和宋君行下意識地看了一眼。
這確實太奇怪了。他們想起了飛廉身上許多與別的AI完全不同的地方。
“可能是飛廉特別出色，也可能是五百年前的人工智慧技術跟現在的馬賽不一樣。”林尼低聲說，“或者，更可能，是飛廉的製造者，有意識地製造了一個可以跟人社jiāo、並且在竭力模仿人類情緒表達的AI。”
宋君行嚥下口中牛r，在_yi_fu上擦gān淨手指，坐在椅上滑向林尼。
“你記得飛廉說過麼？他的父母——就是他的製造者，沒有機會登上‘大撤退’的艦艇。”宋君行湊到林尼身邊說，“這怎麼可能呢？我當時聽江徹說的時候就覺得不對勁。當時全球所有能自主研發和製造人工智慧的專家，可是全都被網羅到‘大撤退’裡去了。人類要儲存這一部分力量，不能把這些珍貴的科研人員丟在地球。”
林尼點點頭：“我也想過這個問題。所以，要不是飛廉的製造者拒絕登艦，要不就是，他們犯了極大的錯誤，_geng本無法登艦。說不定兩個原因都有，不想離開地球，以及犯了嚴重的錯誤。”
“甚麼錯誤？”皮耶爾也湊過來問。
林尼想了想：“從飛廉的行為舉止來看，我懷疑他的製造者違反了人工智慧倫理守則，把人類的思維方式和情_gan，嵌入了AI的系統裡。”
“……這可能嗎？”宋君行和皮耶爾都不大理解，“思維方式還好說，_gan情……_gan情能轉化到機器身上？”
“無論思維方式還是_gan情，都是大腦的反應結果，其實_gan情也是一種邏輯，遇到甚麼事，會引發快樂、憤怒、悲傷或者nei疚，都是有跡可循的，沒有這麼玄。人工智慧呃製造從一開始就受到各種約束，其中有一條就是，它們應該像人，卻絕對不能太過於像人。這個守則是有判斷標準的，雖然我不清楚標準是甚麼……但像飛廉這樣的，顯然已經過了。他太像人了。”
宋君行猶豫片刻，問皮耶爾：“那飛廉說過甚麼和這有關的話題嗎？他的製造者到底犯了甚麼錯？”
林尼立刻想起了江徹轉述的話。
——“因為他們製造了我。”