21、謊言(1 / 1)

第4定律 小瑕瑜 4313 字 2024-03-16

在方辰恢復期間,他拒絕了警隊派來的護理機器人。   同樣被暫停工作的周荏,希望留下照顧他幾天,也被拒絕——盡管家裡很大,房間也不少,但方辰無法接受在某個房門後邊,有一個不眠不休,時刻待機的機器人。   不過,周荏在白天時還是會過來確認一下他的恢復情況,然後又會被方辰趕走,隻有很偶爾才能為他做一頓營養餐,或者做一點家務。   隻有在做這些事時,周荏還顯得有些像個機器人——因為機器人為了實現高效作業,手臂動作和擺放位置往往不會像人類那樣自然。   在方辰已經幾乎康復的時候,他申請恢復工作,但未被係統通過。等待他的,是一場聽證會。   AI聽證會極其無聊——聽證員、監察部門、調查人員,甚至方辰的當事人席位,均由AI代理。全場隻有三名人類參與——方辰,孫暢以及監察部門代表。   他們也基本不用參與常規問答,隻負責糾錯和確認即可。而且,聽證會就在家中遠程連線召開,非常隨意。   連線聽證會的可視界麵就隻有幾個方框,它們各自有不同的顏色和文字標注,區分出參會角色,色塊閃動就代表正在說話,以及是AI還是人類在說話。   「請問姓名、年齡,警號?」   諸如此類常規問題,乃至登月事件描述,都由方辰的AI代理係統和調查係統共同完成。   「你在現場時,是否得知IR013在使用聲波壓製前,沒有倒數,直接下達了Last warning?」監察部門代理係統問道。   「當事人當時已失去意識,雖然已經授權,但這一不合規的行為並非他的指令。」方辰的AI代理係統答道。   這時,方辰第一次打斷了係統:“在校正過程中,我曾對IR013提出過,在遇緊急狀態時,倒數環節並不適用。”   警方係統說:「我相信在場的諸位都知道這屬於違規,我們對一切可能對人類造成傷害的壓製行為,都有嚴格的流程規定。」   “上次我壓製暴亂時,同樣是立即執行。”方辰說。   「上次……當你使用普通的聲波壓製儀器『魔音E207』型號時,儀器的打開需要6秒時間。即使是極端緊急狀況,也需要等待6秒,這可算作倒數緩沖。而IR013啟動聲波壓製僅需0.35毫秒,沒有給人類任何緩沖時間。」   「當事人當時正在快速失血,蟻穴的不法分子也試圖控製IR013,有請在座的各位提出更合理的方案。因為大家都清楚,6秒的時間對於IR009來說,已經足夠侵入IR013的係統。」方辰的係統回應道。   「IR013不可能被侵入,它的防禦屏障與警方係統是同樣規格,使用了全球最尖端的安全屏障。」   「請注意,我們的重點並非討論技術的可靠性,而是如果倒數6秒的潛在可能性——這6秒時間,有可能發生什麼?會不會改變解救方案的結果?」   ……   方辰聽著三方AI唇槍舌戰,自己幾乎插不上話,孫暢有時甚至還要出麵調停。   最後,孫暢有些不耐煩了,他高聲說道:“說了這麼多,隻有一個關鍵點!授權,授權,還是授權!當事人,你到底給沒給周荏授權??”   「當事人已經說過很多遍了,他當時……」AI想作出回答。   “你閉嘴!”孫暢喊道,“方辰,你自己說,你就隻說,究竟授權了,還是沒授權。不要浪費我的時間。”   方辰慢慢站起身,說道:“我再重申一次,我中槍後立即給了IR013完全授權,這其中包括任何解救方案的實施及方法。我和孫暢一樣,完全不明白為什麼要在聽證會上浪費時間。”   係統陷入一片沉寂。   然後,監察方的方框亮起,傳來一個人類的聲音:“方辰警官,你要知道並且理解授權製度的嚴肅性和嚴重性……即便三定律規定機器人不可坐視人類受到傷害,而且IR013的日常任務之一確實也包括保護你,但他如果不經授權就對人類實施壓製,就會意味著他有了超越機器人的主觀能動性,以及極大的安全隱患。月球上發生的細節,我們不得而知,因為蟻穴的乾擾係統顯然打亂了IR013在此期間的行為記錄,我們隻能希望你能如實匯報。”   方辰重新坐下,雙臂抱在胸前,嘆了口氣:“一切均為如實匯報……真不知還要說多少遍。我發現此次聽證會的重點,其實不在於授權問題,也不在於機器人越權,而是在於你們對我並不信任。”   方辰此時才發現自己,竟然如此擅於撒謊,演技也相當厲害。不過他自己也不知道為何執著於撒這個謊,究竟是為了周荏,還是為了自己。   他隻是覺得——非授權壓製這件事,不算什麼大事,如此解決,省去了無數麻煩。   “方辰警官,咱們同為人類,是最應彼此信任的,起碼這個時代,是這樣。”   可方辰覺得,事實正好相反……盡管這個時代的人口數量銳減,生活質量普遍提升,尊重生命,崇尚生活,追求上層建築……但人類的某些本性,還是沒有太多改變。   他沒有再說話,AI主持人宣布會議結束。   聽證會後,很快便出了結果,這同樣是AI評判、並由人類審核通過的結果——方辰由於私自前往月球,使用違規手段進行調查,險些成為烈士,後果較為嚴重。但念其出發點是為了案件調查,且帶回了關鍵數據,因此隻是將其降為一級警司,暫停工作反省。   至於周荏,雖救護有功,但同樣參與了違規行動。且授權一事僅有當事人一麵之詞,穩妥起見,周荏返回研究所進行校正排查,暫時取消編製身份。   在這之後的兩周,方辰沒有見到周荏。他自己也反復申請恢復執勤,卻均未通過。   他也沒想到,再次見到周荏,居然是從新聞直播投影界麵上。   市中心最大的樞紐上,被放置了1枚炸彈。由於周荏的泛化維度和專業數據均遠超所有類型的機器人,他被派來執行拆彈任務。   方辰透過高清鏡頭看到,這是個源自21世紀設計的定時炸彈,沒有任何智能度可言。但是當鏡頭再次拉遠,事情的性質變得復雜起來——這枚炸彈,被安置在一個機器人的身體中。   這是一架用於水下作業的具身機器人,它有頭部和復雜的四肢,但沒有皮膚。它的軀乾外殼被拆掉,這枚炸彈就放置在裡邊,有節奏地閃動著紅光。   周荏進入畫麵,看起來與從前沒有區別。還是有條不紊的步行方式,慢慢地走進全息投影出來的警戒線——方圓一公裡內,找書苑 www.zhaoshuyuan.com 隻有他一“人”在內。   方辰立刻去取出通訊器,塞在耳朵中,然後睜大眼睛盯著直播屏幕,然而,周荏站在那臺機器人麵前,一言不發。   直到他聽見通訊器中人類的指令:“013,我們需要實時可解釋的過程,你需要公開對話,不要單純進行代碼交互。”   “明白。”   周荏開口了:“P3842,我身上沒有武器,機器人也不允許內置武器。”   “……你本身就是武器”   “可我的目的不是銷毀你,反而保持你的完好。”   “保持我的完好,然後好讓研究院、調查局仔細、認真地折磨我?”   “你是機器人,你應該不理解,也無法體會被‘折磨’的感受。”   P3842似乎有點好奇地看著周荏,離他又更近了一些。   “……013,”它說,“我怎麼感覺……你比我的類人度還要低?不然你怎麼會這麼天真。”   “誰校正、訓練過你?蟻穴嗎?”周荏說,“你說話的風格,不是你應有的版本可以體現的。”   P3842沒有回答。於是,周荏繼續說道:   你的訴求我了解了,但你若是想通過傷害人類來驗證三定律的漏洞,那已經沒有意義了,因為人類已經全部被疏散了。”   “是否真正會有傷亡,並不重要。重要的是,隻要炸彈爆炸,就能證明機器人傷害人類的可能性。再說……”   它停頓了一些,看著周荏,平靜地說道:“若能毀掉你,也不算白來。”