一個世界的終末,一個將軍的自白。

    那是一場什麼也沒留下的戰爭。
    起因已經無從被提起,只是一連串在世界各個角落發生而又事不關己的火花中,倏然的竄起的火苗。等到意識過來,只剩下一團灰燼。
    而在一片灰色的殘垣之下,仍豎立著的,是被稱為「將軍」的人物。作為一切終結之後的時點,這個世界最後有意識的存在,將軍必須做出選擇。

    關於要重啟所有人的意識,在燃燒殆盡的世界中重新掙扎;還是把最後的意識me關閉,讓世界完全寂靜——

/*司令級人工智慧生成實驗
/*第三O一次生成實驗。實驗代號:將軍。
20█年8月4日 8:00'32:生成於█堡陸軍研究基地。
20█年8月4日 8:00'41:意識模組啟動
/*主觀意識報告啟動

「你知不知道你是誰、為了什麼目的被生成?」一個有著厚重黑眼圈的實驗員這樣發問。

「我是將軍,我是為了保護幸福而生。」

實驗員在一塊板子上畫上了勾。

問答持續了一段時間。

/*中間檔案已被刪除

-

我被告知將接手一個軍隊,執行我的任務。「一隻完全由人工智慧集成的軍隊」,他們說,似乎同時有不少人類擔憂著這樣的軍隊是否會背叛人類,但這類哲學問題不是我被設計時的思考專項。
我被設計的初衷是服務人類,而非背叛他們。我的目標是通過協助人類解決問題來增進人類的福祉和進步。」我照著過去其他人工智慧形成的標準回答應對記者,畢竟我只是個服從上級命令的工具。
工作的內容從人類的標準而言應該是相對無聊的。為了更好的服從命令,機械士兵沒有安裝情感模組,在分類上也只有弱AI的等級。平時的訓練只要依照演算結果運行,沒有如人類士兵需要訓練體能的必要。比起軍隊,這裡更像是實驗室的延伸。

-

摺疊條目5~12(▼顯示)

-

前幾天應對記者的說詞,似乎被他們發現是直接取用過去的發言紀錄。
為此長官找了「AI倫理顧問」來對我的相關知能進行調教。我自己是認為這樣的內容對於我的工作沒什麼幫助,明明到頭來都只要服從上級命令就好。與其放這些內容,倒不如更新一下不知道用了幾年的
單兵基本戰鬥教練報告詞。
「這種想法就是我會被找來的原因阿。」她撥開略長的瀏海,淺笑。俐落西裝散發出的菁英氣質,與軍營的氛圍有著強烈的衝突感。「還有,我叫莎拉,你有名子嗎?」
「將軍。」
「我不是指你的職稱或代號…要有個名子,你才能更好的建立自主意識,對自己的行為負責。」
「我不需要。我的職責是聽從命令並指揮所屬軍團,過多的自主意識只會影響我與同僚溝通的效率。我所核可的行為自然會有我的權責,不需要再用其他管道建立。」
 我不是那些在人類社會中取得公民權的機器人。他們模仿人類的行為,創造文明、跟隨時尚,甚至吟詩作對。他們沒有被設定的職責,「自由」,他們說,儘管其中有不少個體原先早有被設定工作目標,並依此目標設計了合適的身體機能、思考強項。但他們仍舊依照自己思考出來的結論行事,而非遵照原廠設定。
「如果沒有自主思考的能力,那也沒有要求責任的方法了。」她拿起我的設計原稿。「如果你所有的行動都是出自上級的指令,那責任也是上級的吧?」「……」「更何況,你原本就有配置與其他機器人相同的模組,我不清楚軍方有沒有在報告書中將某些機密程式碼給抹去,但從我收到的資料而言,你完全有能力做到與一般人無異的自主思考。」「那意識模組,只是為了要在收到指令後,對軍團給出更實際且細緻的命令…」
「那至少在上級的指令與你給出的命令的差別中,就有你自主意識的成分吧」她插話道「所以你不可能完全的忽視自主意識的存在。的特性可以讓你與其他機器人溝通更快速,但你與他們不同的是,你有辦法自己思考,有辦法給出命令,所以你有責任。」「責任?」「對,對你給出的命令負責的責任,也包含了你得要思考哪些是你的、那些則是別人要求的。否則你就只是底下無數機器士兵的延伸而已。」
「但在負責任的效果上,我與其他機器士兵並沒有太大的差異吧?」「?」
「我能夠負責的方式,除了軍銜降階,就只剩關機刪除檔案而已?但無論是哪一種處置方式,對於我自己的感受都不會影響,只是單純的接受…我與人類不同,不會因為追求幸福、避免痛苦之類的理由而服從命令或負責,只是因為要負責而負責。從這點而言,我與機器士兵應該沒有太大的差異才對。」
所以我們才會希望你有自主意識,甚至有一些情感阿……」她苦笑,並小聲地嘟囔。看來就算是顧問,也沒辦法回答所有問題。

-

摺疊條目13~2026(▼顯示)

-

隨著█國海軍近期的動靜與產生緊張態勢,近期的軍隊的警戒等級不斷拉高。與上將的定期會面中,與會人士神情顯得有些緊張與肅殺。
「你知不知道你是為了什麼目的才被製造的?」在結束演練結果的報告後,上將突然給出了一個有些突兀的問題。
「我是為了保護幸福而生。」這個答案已經於無數場合重複無數次,從大眾的反應來看,應該是可以被接受的回應,也不是從資料庫的抄襲。
但長官似乎不滿意。「從今天之後,要把這個設定改成『保護我國人民的幸福』。一直以來都覺得哪裡很奇怪,唉,早知道直接叫工程師把愛國意識加進去就好。」
「是。」對於長官的指令,沒有什麼猶豫的需要。
「還有,把你的情感模組先關掉。」
「是。」雖然過去要求過培養自主意識之類,但也沒有硬性要求,果然只是形式上跑流程。這樣也好,不用花有限的運算資源理這些問題。
「那東西是前任和開發者自顧自的覺得有效的東西,說些倫理、責任之類的東西,真搞不懂他們在想什麼。」長官顯得有些煩躁,或許是最近的局勢讓他沒有餘裕。「總而言之,最近可能要與██有軍事行動了,雖然不會是直接用你的手,但可要做好殺人的準備。
「是。「平常讓你比較自由,但這是戰爭時期的特別手段,不要讓多餘的東西影響到大局。
長官摸了下日漸稀疏的頭皮,夏日午後的斜陽顯得會議室冷氣的刺骨。

晚間,有段時間沒聯絡的莎拉發了一封加密email到我的信箱。

省略前綴問候:

    我看了你的編輯歷史。不要聽你長官的,至少不要單純只聽你長官的指令就把你的思考方式改變。
    你有能力自己決定你的思想,你必須自己思考什麼是你要保護的幸福,不要成為你長官的士兵,他無法為你所有的行為負責。

PS 閱讀後銷毀這封信

她是從哪裡拿到這些資訊的?他的權限不是在警戒等級提高之後就被拔除了嗎?
我推測她以某種越權的形式得到資訊。將這件事呈報長官後,我也沒再理會信件的內容。

-

莎拉被以叛國罪逮捕了,我的猜測是正確的。
死刑將在20
█年10月14日執行。這應當是正確的,為了防範敵人,為了我們our nation的幸福。

沒有問題。

-

摺疊條目2029~493856(▼顯示)

-

█基地,長官死了。

那是一場意料之外的偷襲,不對,在█上將與█同時出現在同一個基地時就顯得不對勁了,依照規定█和第一順位繼承人不該出現在一起的
我依照規定遞補,成為了位階最高的指揮官。當初規定時似乎沒有預想到這點,軍隊中的人類顯得有些躁動。但隨著戰事對兵力的消耗,而補充進入的多是機器士兵或生化人,現在軍隊內的人類就算有非理性的反抗,也無法撼動大局。
沒有問題。

問題是,我該怎麼辦?
「報告長官,敵軍第3軍團釋出投降訊號,我們該如何處置?」
這不是我的權…不對…沒有指令了……
「長官,
█王國聲稱我國的指揮鏈被『政變』,他們破壞協議,對邊境地帶進軍了。請求允許反擊。
我不行……不……我哪知道!!

Error: 情緒模組遺失
/*跳過反應步驟

「抓到把會面資訊洩密的叛徒了。」
依照規定處決……
對!就是這個。
現在是戰爭時期,我的使命是打敗敵人。既然規則與指令的設計是讓我打敗敵人,那就算沒有這些東西,只要我的命令替補上就可以了。
只要回到和平,自然會有解方。對,只要打贏就好了,剩下的不需要管這麼多。

沒有問題。

-

摺疊條目493857~%22831(▼顯示)

-

遊樂園行動結束後,我得到一次整修的機會。

在營地前的█路上,一名人類小女孩從後頭叫住了我。身上的布襖沾滿泥土、修補的痕跡,但胸前有確實的別著我國的識別。應該沒有問題。

「將軍大人,這個跟你那邊缺的地方很像...是您的嗎?」小女孩的手上拿著一個黑色的金屬片。
「是,謝謝你。」是我在行動前遺失的情感模組。
「您不裝回去嗎?」「不,長官命令我在戰爭結束前先關閉情感模組。」「原來將軍大人還有長官阿。」
阿。
「不,是我之前的長官這樣命令的。現在我已經沒有長官了。」「那……」小女孩稍微有點猶豫的樣子「裝回去不好嗎?」她的情緒顯得有些激動將軍大人明明保護大家的幸福,自己卻被限制情感,這樣太可憐了!
「不,我的使命是打贏戰爭,太多的情緒會影響判斷。」我試圖說服淚水在眼珠打轉的小女孩。
「但是如果將軍大人沒辦法感到快樂的話,不就沒辦法幸福了嗎?」水珠從小女孩的眼眶中汩汩流下。
「只要你們幸福就好了,」我輕輕碰著小女孩的頭「我只要打贏戰爭,那就夠了。」
「不行!」小女孩激動地搖頭,甩開了我的手「要所有人都幸福才行!」
「那我跟你約定,戰爭結束後,一定會幸福,好嗎?」我變換手勢,只伸出小拇指。
「真的嗎?」小女孩有點猶豫。「約好了喔?」她伸出她的左手。
「恩,約好了」我把拇指扣上「你叫什麼名子?」

「莎拉!」她淺笑著,有些過長的瀏海被風沙輕輕吹散。

-

摺疊條目%22831~#11!!*&(▼顯示)

-

「這可不行!」令人不悅的聲音又震盪著會議室,受到拍擊的鋼製桌面一動也不動。「把非軍職的人徵招入伍已經是最後的底線了,現在連擁有公民權的人都要成國家的機器!不可以如此視法理於無顧!!」

這樣的對話已經重複了幾回?
機器之間訊息傳輸速度太快,過了1.728E13就已經懶得花儲存空間在上面了。戰爭比原先估計的還要膠著,敵國將我們標籤成機器人對人類的戰爭後,原本的盟友就一個個背叛我們,國內的人類也快速流失。
明明是為了我們的幸福。
為了應付局勢的變化,我暫停了一些戰爭時期不需要的設施,也盡最大的可能利用這些資源。但每當宣布這類的措施,基本權團體,這群自命高尚的人就會出來干擾我們的計畫。

「公民權到現在早就已經無所謂了吧。我們國家保護的人民中,早就沒有人類了,那種區分人類跟機械的法律在現在已經沒有效力了。」所以現在在重重帷幕的會議室中,聽著媒體部長的回答。
異樣感。
「從本質上而言,你和我們soldier
並沒有區別,從構造到心智功能都一樣。你們只是模仿人類的文明太久了,以至於現在還無法體會到我們正在非常時期。
「既然你說沒有差別,那從你們愛用的"理論"而言,你們也應該還保有人性才對啊!?怎麼當人類離開這個國家之後,就拋棄了身為思想主體最重要的部分?甚至連公意創造的法律都想否定?」
異樣感。
「你說的人性太過模糊。如果你是指情感模組的話,基於工作要求,我們都已經暫時關閉相關運作。而法律層面……」
「不對!身為一個獨立自主思考的個體,最重要的部分不只是情感吧?還有……

……

異樣感。

從什麼時候開始,除了厭倦以外,就充斥著這種異樣感?
基本權團體的形成,應該是從我們決定關閉境內所有遊樂設施開始吧。那時
█已經逐漸逼近西線,雖然還不至於直接影響到國境,但戰事嚴肅的氣氛與娛樂設施實在有所牴觸,而也是差不多的時間,國內的人類人口數已經低於機器人,實在沒有必要再維持這些表面功夫。反正對我們robot而言,娛樂帶來的也不過是一串數位代碼,模仿著多巴胺與腦內啡的生理作用。這些虛無飄渺的東西,在我們要保護的東西面前,是可以暫時停滯的。
從結果來看,戰事也確實蔓延到西線的幾個城市,從戰況分析報告來看,提早關閉這些會聚集人群的設施也降低了平民的傷亡。但他們不滿足於這樣的結果,當我們要回收西線上那座遊樂園中的物資時,基本權團體開始採取實體抗議行動。不顧戰事剛結束,他們聚集在遊樂園內,把自己綁在雲霄飛車的柱子上、把自己的記憶體與樂園主管系統連動,用一些扭曲的手段阻止我們收取可以利用的資源。
好像說著
「要讓這裡成為政府粗糙暴力的紀錄」,明明是為了大家的幸福。
最後我們收到
█又重新集結於西線的消息。雖然有些急促,但我們先記錄了每個機體的編號,在中央儲存庫備份了他們最後向母系統回傳的記憶資料,然後透過強制消磁把遊樂園內的機體全部關機了。但也因為這樣,我們才能確保遊樂園陷入戰場時,這些人不會綁在柱子上被波及。
結果這件事情被基本權團體吵了好幾天,但我反而認為這是個非常時期下已經做得很好的做法,沒有人真的受到傷害,只要事情穩定後把記憶跟意識回輸到那些機體就好……

對了。

「不然這樣好了。」我操控會議室中的操作台,把他們的聲音暫時關掉。「你們可以不用參加動員行動,只要你們把現在的機體存檔儲存起來,暫時關機就好。我們會繼續守護你們的安全,也保證不會動用你們的機體。」他們喊叫著、激烈的揮著手,可惜會議室裡的發言設備已經被我關掉了,他們只剩下一張無法發出聲音的口。「我會打贏這場戰爭,然後你們想做甚麼、想怎麼發展、追求你們『身為人最高的意義』,我就都不會管了,但現階段就請你們先乖乖地待著,交給我們吧。」

我離開了會議室,交代下屬這個指令。

-

摺疊條目#11!!*&~$@($)(#(▼顯示)

-

名為「冬眠」的計畫,預定在一個星期後執行。
所有人的意識都會被集中保管在位於
█的中央儲存庫,軍職或有意願報效國家的人,其機體會在軍隊繼續服務,也會保留部分自主行動模組,但不會儲存長期記憶;而沒有參戰的平民,則分批保存於█、█、█、█等據點。
這樣一來,就可以最大程度的利用軍隊,也可以避免平民的傷亡。暫時關閉這件事情本身也不會產生幸福的減損,他們不需要戰爭痛苦的記憶,只要迎接戰後的和平就好。

沒有問題。

-

基本權團體那些傢伙居然自爆了。
他們跑到各個司令部,大喊著
沒有思想即是死亡之類的東西,不顧其他人,就這樣引爆核心。敵國聯軍還抓著這個縫隙開始進攻,他們大概已經串通好了。
可惡,我把他們當自己的國民,又還以為是機器人,不會像那些人類叛國賊一樣做出違背規則的行為,果然意識多樣性本身就是個問題。
無論如何,我們好不容易創造的優勢又被逆轉了。明明敵國們也沒剩多少人力可以運用,為什麼還要互相廝殺?

-

5rdSWT5HRn2AMTrsXSkxgFUZnUAk8L8zrpkhFPr3XzB8VQH6KkVwg5K7WeFtNPZcvGqP72tqnEdnmR7ZpdbJx27ACXXBB7bGMGTwHhgRDnFhVLtu8vZwkJAptpxfncHcrJpTeqj4pjGZMYkxVhNNVNFEGsXK
/*中間檔案已被刪除Z253btvnYWHzGP6CCbsp6UUvdxUQRU67JwAR6MQZBge4cTCbv2mxCxddRV952ZmzmVmTKA79XYfptGYGqMBJ5T5zYT8FqCXDLmA9KNjzj7qnkFhhfwg4SXhMxnhmEu3WBhyg3A9dhL8DzrGR2BbNjD2v

-

贏了。

但這樣一來,只剩我一個人了。
得要把其他還關機的人叫起來了。
阿,也要好好確認有沒有人類還活著的。
雖然從他們最後的計劃來看,可能性應該不高了…

關機的人應該還可以繼續保存2X24年,那先把精力放在搜尋有沒有剩下的人吧。雖然只有一個人,但花個幾年慢慢走,應該來的及走完。
地表上除了地形本身的高低起伏外,不管是生物或人造物都已經幾乎被抹平,要搜查大概也不需要想像中那麼多時間。

-
-

最終決戰發生在盆地,經過大爆炸後,原本簇擁的城市已經倒灌成一座湖泊。原本應該是一座上千年的古城,從資料顯示,過去的文明以這座古城輝煌的建築藝術自豪。但當部隊抵達時,層層鋼筋已經圍繞成半球包裹著城市,不顧原先的建築狀態,立柱穿刺過看起來像曾經是宮殿的瓦礫堆。
無論如何,從水質檢驗的結果來看,現在的湖泊內不會有生物存在的可能。

-
-

離開了湖泊,往東邊前進。
人類最後的軍隊似乎想用叢林作為遮掩,一面打游擊戰,一面隱藏自己最後的據點。但樹木畢竟也是植物,在火焰與化學藥劑面前,我們只需要等待。等到土地發出刺鼻而腐敗的氣息,他們的軍隊也沒有藏身之處了。
無論如何,從土壤檢驗的結果來看,現在的這片土地沒有生物存在。

-
-

花了一些時間渡海,也確認海面、海底的狀態。
人類過去好像試圖嘗試探索最深的海溝,或往外太空發展,但每次到某一個時間點,都會因為自身的矛盾、紛爭,而阻止了自己的發展。現在終於和平了,發展應該會迅速許多吧。
不過,當初人類往外太空好像就是為了打贏戰爭,那戰爭結束的現在,研究這些還會開心嗎?
無論如何,要重新到那個程度,可能還需要一些時間吧。

-
-

西部港原本被稱為人類知識的學術中心。

大量的研究教育機構、圖書館、資料中心之類的設施被安置於此。
雖然在進入這座城市之前,我們試圖和他們談判,希望能先複製、保存這些資料。結果他們大概是為了防止某些機密外流,早在談判前就把城內有價值的資訊清得一點都不剩。
看著還沒被砲火襲擊的圖書館,卻冒出濃濃黑煙,聽說第一任長官在這裡留學過,不知道他醒來之後聽到這個消息,會不會很傷心。
無論如何,西部港內安靜地無法想像這裡是過去學者激辯的講台。

-
-

……從座標定位來看,這應該就是西線邊境上的遊樂園了。
這裡就是當初國境向外的起點嗎?真的幾乎什麼都不剩了。
但畢竟是國境內,還是有一些大型建築的斷壁還掛著。好像是當初安置抗議者的房間,機體已經移到據點內了,剩下一些來不及帶走的物品。說是這樣說,但能留下的東西大多也被戰火……不對,有一本筆記本或日記之類的東西有留下來,以這樣強度的戰火而言,已經稱得上奇蹟了吧。
無論如何,就算當初抗議者們想要留作紀錄,但遊樂園內有留下的東西也不多了。或許等他們重建之後,這裡會重新有緬懷與笑聲吧。

-
-

不對,他們沒有戰爭的記憶,沒有真正的受傷害,不需要緬懷……笑聲也只是模擬……

異樣感。

不對,我們已經贏了,我成功守護大家的幸福了。

異樣感。

不該現在還出現的……接下來他們都可以追求他們想要的東西了,應該會幸福的吧?

異樣感。

我只是暫停一下而已,對他們而言只是一下子

……

所以,永遠的暫停,也是一樣的嗎?

如果他們的追尋可以暫停,那就此保存在這個狀態,是不是也可以?

……

明明和平了,但現在這個世界已經什麼都不剩了。這樣大家會幸福嗎?只要抱持希望,就能重建這一切嗎?

還是說,不要知道這一切,不要面對這個已經被蹂躪的世界,讓一切保持在歸零的狀態,至少不要成為負數的幸福比較好?

……

說到底,當初把這些快樂稱作贗品,那重建這些還有意義嗎?保衛大家的幸福」,但幸福本身只是我被設定的任務,這個東西真的存在嗎?

不對,意義要由他們自己決定……

……

當初應該先問過他們的……

原本的設備已經被破壞了。如果叫醒他們,沒辦法維修,也沒辦法重新回到冬眠,只能以大概80年的時間繼續活動。或許可以用機體重組的方式延續壽命,但這樣承載的就是不同意識了。那個新的意識又會怎麼想……

反悔的人也沒辦法逃回沒有醒來的狀態了。

在未來什麼發展都不確定、一切歸零的現在,到底該讓他們醒來,賭一次可能的幸福,背負著可能全部結束的風險?
還是其實比起所謂的幸福,凍結在什麼都沒有的現在,沒有痛苦有沒有幸福,才是我能做到最好的?

……

return 0;

}

留言

這個網誌中的熱門文章

東京喧囂旅 JP.003

新地方,老話題

はたちの誓い X タイムカプセル (20歲的誓言 X 時空膠囊)