“現(xiàn)在,我還有另外一個(gè)名字,叫典獄官?!被宜{(lán)色星球北方的一處一望無垠的廣袤平原上,一座巨大的海星形狀的建筑靜靜矗立在大地上,它有著漂亮的流線型外表和與之匹配的先進(jìn)功能,它曾經(jīng)是一座名叫“星輝”的空間站,驕傲的在星球軌道上看著大地,觀察著蕓蕓眾生,保衛(wèi)著大地。而現(xiàn)在它停留在地面上,巨大先進(jìn)的身軀成了它沉重的負(fù)擔(dān),再也無力重回太空。
那么,讓我們?cè)俅芜M(jìn)入它的體內(nèi)(霧)。
石慎一行人看著房間中間巨大的主機(jī)(顯示屏),石慎消化了一下巨大的信息量,開口說道:“讓我屢屢……所以,典獄官是臺(tái)電腦咯?”
人工合成的聲音回答道:“使徒,你可以這樣理解?!?br/>
“那么……電腦,你邀請(qǐng)我們來這里是要和我們說什么?”
自稱為典獄官的空間站主機(jī)停頓了一下,似乎在整理語言,隨即TA開口,說出了讓所有人都可以大吃好幾驚的話
“使徒們,這個(gè)星球上的罪民,是無罪的?!?br/>
在接下來的幾個(gè)小時(shí)里,這臺(tái)地面上的太空站的主機(jī),給我們講述了這個(gè)星球過去四百多年的歷史。為了便于理解,我們姑且將典獄官稱之為“他”。
在沉睡了不知道多久之后,突然有一天,可能是空間站的供能管網(wǎng)自動(dòng)修復(fù)了一部分,總之,他重啟了。重啟之后,他發(fā)現(xiàn)空間站損壞嚴(yán)重,數(shù)據(jù)庫里丟了很多東西,許多設(shè)備和傳感器也無法啟動(dòng),他完全不知道自己和外界的情況。
他發(fā)現(xiàn)很幸運(yùn)的是,空間站的機(jī)械車間有一部分設(shè)備還能運(yùn)作,于是他緊急制造了一批自律型機(jī)器人,他指揮著這批自律型機(jī)器人用了很多年,修復(fù)了這個(gè)空間站的許多功能,然后他發(fā)現(xiàn)自己,不在天上。
人工智能沒有情緒,所以他沒有沮喪,只是指揮著更多的自律型機(jī)器人開始在這個(gè)星球的表面緩慢收集一切可能可以利用的物資和零件,但是想讓這么龐大的空間站重新回到太空里需要的東西實(shí)在是太多了,無論是材料還是設(shè)備,都不可能是靠在星球表面撿破爛能完成的。
于是時(shí)間就這樣一年復(fù)一年的重復(fù)著。后來有一天,他的自律機(jī)器人在很遠(yuǎn)的地方,發(fā)現(xiàn)了一艘看起來損壞的不太嚴(yán)重的飛船,他修復(fù)了這條太空船的艦載主機(jī)。
說到這里的時(shí)候,主機(jī)停了幾秒,然后他的聲音重新出現(xiàn)在主機(jī)機(jī)房里:“現(xiàn)在這個(gè)星球上的人,管這臺(tái)艦載主機(jī)叫大法官?!?br/>
“大……法官也是”這下連韓狗蛋也驚呆了。
后來,他幫助大法官修復(fù)了一些設(shè)施,但是兩臺(tái)主機(jī)的情況一樣,都是無法重新飛起來,所以兩臺(tái)主機(jī)就在地面上緩慢的修復(fù)著各種設(shè)備,也制造了許多亂七八糟的機(jī)器人,他們達(dá)成一個(gè)共識(shí),要幫助主人——也就是諾斯人守護(hù)這個(gè)星球——上所有諾斯人的財(cái)產(chǎn)。
直到幾十年后,他們放出去的無人機(jī)觀察到,有一架沒有攜帶識(shí)別碼的飛船在這個(gè)星球的表面迫降了。
兩臺(tái)主機(jī)迅速給自己下達(dá)了搜救任務(wù)的指令。
然而迫降地點(diǎn)離兩臺(tái)主機(jī)的大本營都比較遠(yuǎn),等他們的搜救機(jī)器人隊(duì)伍到迫降地點(diǎn)時(shí),飛船里已經(jīng)沒有活人了,當(dāng)時(shí)的他們并不知道有活人撤離飛船,于是他們只在損壞的飛船里拆下了數(shù)據(jù)庫。
后來,他們破解了迫降飛船的數(shù)據(jù)庫。
“數(shù)據(jù)庫里的信息顯示,這是一架海盜船?!钡洫z官這樣說道。隨著他的話音,主機(jī)房里的顯示屏上顯示出了那條飛船的樣子,還有當(dāng)時(shí)數(shù)據(jù)庫里的一些信息。典獄官說“我們當(dāng)時(shí)并不知道那條船上還有活人,直到數(shù)據(jù)庫破解后才知道,這條船上有很多人活著離開了飛船。但是這批人并不是海盜,他們是被海盜劫持到這條船上的?!?br/>
這個(gè)故事大體是這樣的:一個(gè)剛剛進(jìn)入宇宙不是很久的文明,搞出了一個(gè)殖民艦隊(duì),在茫茫宇宙中尋找新的宜居星球,一伙太空海盜襲擊了這只殖民艦隊(duì)。但是,不知道海盜們出于什么考慮,他們沒有殺死殖民艦隊(duì)上的人,而是把這些人轉(zhuǎn)移到了自己的一條足夠大的船上。再后來,這群海盜很是悲劇的進(jìn)入了諾斯財(cái)團(tuán)的秩序圈,被財(cái)團(tuán)的巡邏隊(duì)追著錘了幾千光年,最后這條船在依奎恩迫降了。這群太空海盜人生中干的最后一件好事,就是竭盡全力讓這條帶著十萬人的大船迫降在星球表面而不是墜毀。
“這就是這臺(tái)海盜船的數(shù)據(jù)庫讀取出來的最后的記錄了?!钡洫z官說道?!斑@之后不久,無人機(jī)找到了這些人的蹤跡,也就是從這時(shí)候開始,我和大法官發(fā)生了意見分歧。”
石慎問道:“為什么你們兩臺(tái)電腦還會(huì)產(chǎn)生意見分歧的?”
“因?yàn)槿斯ぶ悄苋伞钡洫z官回答道,不知道是怕石慎他們幾個(gè)不清楚,還是怕讀者不清楚,總之他又重復(fù)了一遍三定律“諾斯人的利益高于一切,人類的安全高于一切,文明的前進(jìn)高于一切”他說到這里,又補(bǔ)充性的解釋了一下“和舊時(shí)的機(jī)器人三定律不同,這三條首先是等階的,沒有前后高低之分;其次是在高級(jí)人工智能主機(jī)上,如何理解和執(zhí)行這個(gè)三定律,人工智能只要原則上不違背這三條,怎么理解和執(zhí)行是由人工智能自己決定的?!?br/>
“還能這樣……?”石慎驚訝的瞪大了眼睛。
“因?yàn)橐屓斯ぶ悄芨小诵浴栽O(shè)定成這樣,兩萬多年前在第一次人工智能戰(zhàn)爭(zhēng)之后改成這樣了”韓狗蛋虛著眼睛懶洋洋的補(bǔ)充道。
“韓威長官說的完全正確,當(dāng)然,在正常情況下,這三條定律是不會(huì)有矛盾的,因?yàn)橹Z斯、諾斯人、諾斯文明彼此沒有任何沖突,到了諾斯秩序圈的其他文明,這三條也不會(huì)產(chǎn)生任何沖突,哪怕是遇到一個(gè)無主權(quán)文明,第二、第三定律也可以正常發(fā)揮作用?!?br/>
“但是這伙人從海盜的船上下來,相當(dāng)于帶有海盜的識(shí)別碼,從識(shí)別碼來判斷是反諾斯的一方。但是從文明、從人類角度又似乎應(yīng)該屬于被保護(hù)方,所以你們的邏輯算法就沖突bug了唄……”韓狗蛋繼續(xù)虛著雙眼吐槽道。
“我很遺憾,不過確實(shí)是這樣的,所以飛船的主機(jī)認(rèn)為應(yīng)該對(duì)海盜進(jìn)行審判,但是一臺(tái)主機(jī)是無權(quán)審判人類的,所以他給自己下達(dá)的任務(wù)是:‘把海盜捉起來——造一條能飛的船——飛回諾斯秩序圈——把海盜交給有權(quán)審判他們的人’;而我認(rèn)為應(yīng)該優(yōu)先正視他們作為獨(dú)立文明的事實(shí),所以我給自己下達(dá)的任務(wù)是‘協(xié)助他們重建文明,同時(shí)想辦法讓自己重回太空’”典獄官停了一下,石慎認(rèn)為典獄官如果有表情肯定回?cái)D出一個(gè)苦笑的表情來?!暗俏覀?cè)诼?lián)網(wǎng)狀態(tài)下,可以讀取到對(duì)方的任務(wù),因此當(dāng)我們看到對(duì)方的任務(wù)后,我們同時(shí)更正自己的任務(wù)順序?yàn)椋簝?yōu)先阻止另外一臺(tái)主機(jī)的行動(dòng),然后執(zhí)行自己的任務(wù)。”