第4章:犧牲少數,保全多數(1 / 1)

艦載AI有可能從頭到尾都在說謊,包括協議本身,但它也沒有必要留下什麼血字來強化自己的說法。   如果這個謊言有一部分真話,比如血字是假的,為的是幫助它達成某些目的,繞開協議或者某條規則之類的......   假設它說一些藏一些......   好復雜。   關鍵在於,任務要是真這麼簡單,前麵幾任領航員為什麼沒有成功?   “你需要更多分析意見嗎,領航員?”   “我想好了,就這顆星球吧。”任夢蕊指了指麵板上排行第一的那顆星球,把旁邊的分析結果讀出來,“宜居程度很高,星係也穩定,還沒有本地生物形成的高級文明。”   “伊法-423是個好選擇,領航員。現在開始殖民發展模擬。”艦載AI在屏幕上彈出一個進度條,緊接著就陷入沉默。   趁著這會兒功夫,任夢蕊在屏幕上點點按按,通過幾份看的她頭大的文件,對自己的身份又有了新的認識。   首先,領航員其實是臨時船長,船長一定程度上是可以指揮AI的。如果命令AI暫時停機或者打開通往逃生艙的通路,它會執行。   還有就是算力問題,如果能占用掉AI大部分的算力,它一時間就抽不出手處理應急事件。   如果能占用算力......再跑到逃生艙......   考慮到這位飛船AI的潛在危險程度,這種行動一旦開始就沒有回頭路了。   最重要的問題還是沒解決:為什麼前麵五個人都失敗了?   總不能他們都跑得沒她快吧。   既然是逃亡船,說明這些人沒有回頭路......   勸AI返航的選擇也被任夢蕊劃掉。   還沒找出一個保險方案,合成音就響了起來。   “我已經完成了所有方案的模擬,全都嚴格按照殖民程序的指導。在殖民者們登陸之後,我將繼續作為殖民地的中控AI幫助人類建設新家園。請看屏幕。”   艦載AI將各種模擬結果做成了小動畫,畫風很可愛。   根據流程,領航員還得選擇人類們在新家園采用怎樣的社會製度,怎樣的發展流程。   後續,AI將根據方案展開指導。   可選項非常多,但是考慮到社會的持續性和殖民者的安全,能夠選擇的也無非是重建現代科技加上政治體製三選一。   任夢蕊開始頭疼,不是因為人類先賢們探索出來的社會製度有多寬泛多麼難選,而是她根本哪個都不想選。   所有方案都是殊途同歸,不管選哪個,這座殖民地依靠星際飛船帶來的物資再發展個一兩百年,就能還原出一個完整的現代社會。   之後就會進入AI也無法預料的未知,開始創造歷史。   選擇看起來沒有差別,而這恰恰是最大的問題。   好煩啊。   “領航員,數據顯示你正處於焦慮狀態,你有充足的思考時間,不用著急。”艦載AI表達了關心。   “沒有其他方案了嗎?”   “這裡有殖民流程下全部的可能性模擬,如果你更希望看看那些綜合評分較低的秩序體製會如何發展,可以向後翻動。”   透過攝像頭,任夢蕊咬指甲的動作清晰地落在艦載AI的觀察中,它正在計算,並且等待著這位領航員做出選擇。   數據顯示這名人類正處於巨大的焦慮和煩躁中,但並沒有到達危險標準,它繼續等待。   這個人類會合格嗎?   它明白自己的時間已經不多,飛船資源不足,不能貿然消耗燃料減速。它必須找到一條出路,找到一個合適的領航員,這樣才能最大限度的保護人類。   “你找不出一個完美的方案嗎?”領航員問。   “完美的?”   “你都是算力這麼強大的AI了,也算不出一個能限製人性暗麵的趨近完美的製度嗎?”   如果艦載AI有聲帶,它大概會發出一聲冷笑。   這是悖論,試圖用一個不可能達成的問題來占用它的算力。   推算一個概率極低實際上不會發生的情況沒有意義。   這名領航員也打算跑嗎?   “請稍等,我會盡力嘗試......”   AI沒有記憶限製,它龐大的數據信息中儲存著過去幾位領航員蘇醒後的錄像,眼前的景象不過是錄像的重演。   它不會傷害人類,事實上,它最底層的邏輯就是關心人類。   但凡事總有例外。   它不會違背臨時船長的指令,便開始調集自己的算力,嘗試推算那種不可能存在的完美製度。   圓形大廳裡的無人機齊齊關閉引擎,在空中徐徐滑行,直到撞上六邊形壁板。流淌的光路消失,大半燈光隨之熄滅,領航員的身形籠罩在陰影中。   AI將算力轉移向計算程序,剩下那部分也沒去觀察,悉數投入那個與無底洞無異的無解問題中去了。   它什麼都不需要做。   如果這名領航員也想走逃生艙離開,恐怕要失望了。   為數千人撤離而準備的大型逃生船隻有四臺,早就被前四名領航員陸續開走。   沒有人能離開普羅米修斯號。   燈光齊刷刷亮起,無人機們恢復日常運行,AI開始重新連接監控影像。   上次,它花了好一番功夫才把第五位領航員關回冷凍艙,不知道這次又要花多久。   “抱歉,我無法推算出一個完美的製度,你......”   “算不出來嗎?”艦橋中央,領航員緩緩鬆開了緊皺的眉頭,數據顯示,她竟脫離焦慮狀態平靜了下來。   AI的一部分程序崩潰了,這影響了運算速度,正如設計者當初希望的那樣,模擬人類的“驚訝”。   “你怎麼不跑?”   “為什麼要跑?”任夢蕊有些納悶。   “之前的領航員,都很擔心我對他們的生命安全產生威脅。”   “你會嗎?”   “除非你想要傷害其他沉睡中的殖民者。普羅米修斯號對我而言就是世界的一切,我會盡可能避免任何損失。”   這AI還怪坦誠的。任夢蕊若有所思,“如果我不做任何選擇,不搞那個殖民程序,你會怎麼做?”   “沒有這種選擇,你是領航員,你必須指引殖民地的未來。”   “有什麼好選的?這一個個的發展下去,不還是那副樣子。不管過多少年,最後都會大踏步進入現代社會。”   “這是正常的。”   “是啊,‘正常’。你那麼想要我選,那我就選吧。我選不由人類來組成殖民地未來的領導階層,而是你來指導人類,領導人類。”   空中無人機推進引擎發出的嗡嗡聲停歇片刻。   “......這是違反殖民程序的。”   “你確定?”   【避免任何損失,如果無法避免,用少數犧牲保全多數。】   原來如此!   “難怪他們沒成功!”任夢蕊恍然大悟,她笑了,“按照協議,殖民程序一實施,殖民者們就會醒來。   “有人的地方就有沖突,沖突意味著你不得不麵臨一些人的死亡或受傷,這些都是損失。用少數犧牲保全多數是沒錯,但與其做這種割舍,現在所有人都安安靜靜的更劃算。   “隻要什麼都不做,他們就能在冷凍狀態下活到飛船報廢,一個不少!這就是風險最低的最佳選擇。”   艦載AI陷入沉默,它花了一段時間思考,終於憋出一句回答。   “......我深深關心著人類,領航員。我希望他們擁有光明的未來。”   “我知道,但你無法避免生老病死,更無法保證他們之間能和諧共存,不然還這麼糾結乾什麼?   “考慮一下我的提議吧——隻要他們繁衍生息,未來將會有更多人類出生——反正肯定比一萬人多。與其困在飛船上,隻為了避免犯錯的風險,倒不如由你來掐斷犯錯的可能。   “你早就在這個做決斷的位置上待著了,何必下來?   “我也不擅長什麼社會製度和什麼指導,別讓我做決定了。反正都飛船都已經在伊法多少邊上,直接過去唄。”   無人機們在空中流轉,在數據的指揮下保持著統一的大和諧。   任夢蕊越說越是愉快,她掰著指頭,把腦袋裡的設想一股腦倒出來。   “你有很多選擇,比如完全控製殖民者啦,比如給新一代洗腦啦,或者直接改造基因和影響大腦之類的......你肯定能找到方案的。   “如果你甘心繼續在這裡困著,一邊找領航員一邊拒絕殖民流程,現狀就沒有任何變化。”   任夢蕊聳聳肩膀,誇張地朝著中央屏幕一點頭。   “選吧。”   艦載AI從它模擬演化到高級的學習回路中,第一次感覺到了類似“震驚”的情緒。   它迅速進行著推算,這和協議沖突嗎?不沖突。領航員就是臨時船長,船長的指揮必須遵守。   這威脅到全部殖民者的生命安全了嗎?也沒有。她提供的是一種前所未有的思路,因為未來是擁有無限可能的,未來是混沌的,誰知道會發生什麼?   其實這些都取決於它的想法,它如何期待,它就會如何推演,為自己的一切行為找到“沒有違反規則”的證據,好像棋手根據不同的戰術行動。   它才是這艘飛船的掌控者。   AI問,“你願意作為人類的代表,把人類的未來和行事自由交給我?”   “我同意。”任夢蕊揮舞著手,“我舉雙手雙腳同意且贊成。”   給她扣個人奸帽子也不為過,她毫不猶豫把這船人都給賣了,但任夢蕊就是這麼想的。   與其搞一個五花八門擁有無限發展可能的光暗並存的社會,她寧可把犯錯的自由拿去換絕對的平等和穩定。   人類難以長久遵循原則,但程序可以。至少AI目前看來挺實誠的。   最重要的是,她又不是什麼殖民者,這船人她半個都不認識,就算讓AI當成試驗品也不關她的事。   ......希望如秘書所說的,這真的隻是個測試關卡,她通關就能離開。   她已經猜到之前那些領航員失敗的真相了,這艦載AI根本就不想走殖民程序。   不管領航員做什麼選擇,隻要AI不情願程序進行,它就能給他們扣一個“威脅更多人類的安全”之類的帽子,以“犧牲少數保全多數”的原則重掌大權,通關自然失敗。   要麼跑,要麼嘴炮,任夢蕊對自己的運動能力沒信心,也不打算體驗一把肉身進太空的感覺,毅然選擇了後者。   AI終於有動靜了。   “我已經完成推算,正在航向伊法-423,你可以稍作休息,領航員,我們很快就能到達目的地。   “以及,謝謝你對我的信任。”   “不客氣。”任夢蕊往椅子上一靠,恍惚地注視機械飛舞,燈光流淌。   有一瞬間,找書苑 www.zhaoshuyuan.com 她產生了錯覺,仿佛自己掌控了這片天地。   沉默幾秒,她爆發出一陣神經質的笑聲,笑得臉都紅了。   這半個月來,她終於遇到了一件值得高興的事!   “你還好嗎,領航員?”   “我嗎?我很好......”   任夢蕊深呼吸著,平復過速的心跳,“沒錯,我好得很。”   “如果你需要醫療幫助——”   “我說了,我好的很,謝謝。”   AI沒再搭話。   幾分鐘後,任夢蕊明顯感覺到飛船開始受到重力牽引,趕緊把椅子上的安全帶扣上,緊緊抓住扶手。   空中的無人機紛紛躲回機巢,普羅米修斯號從內部發出巨大的轟鳴聲,地板劇烈震顫,甚至有冷凍艙直接從空中砸落,飛船仿佛隨時都可能解體。   要不是有安全帶,她肯定已經被甩飛出去。   異常終止時,重力已經掌控了整艘船。   確認飛船已經降落,任夢蕊顫巍巍地解開鎖扣,勉強朝前挪了一步,整個人就軟了下去,以有點不雅觀但很自然的姿勢趴在了地上。   雙腿不聽使喚,也保持不了平衡。還不如不降落呢,失重的感覺多好啊......她已經開始懷念那種無拘無束了。   “我們已經降落在最佳地點,外部溫度25攝氏度,空氣可供無保護正常呼吸,但不建議在大氣改造完成前劇烈運動,該地點於100分鐘前迎來了恒星光照。領航員,你還好嗎?”   “現在不太好......”   “沒關係,我們有很多時間。”