「傲慢」的大罪,設(shè)定了普萊德?lián)碛腥斯ぶ悄芩粨碛械摹白孕拧边@一要素,所以她會(huì)因?yàn)椤氨豢滟潯?、“被認(rèn)可”而喜悅,也理解“不被人相信”、“自卑”、“屈服”等狀況的內(nèi)心苦楚。
她知道,浩全此刻陷入的狀況就是“屈服”,為了說(shuō)服自己去放棄某個(gè)人或事,而不斷地給天平上理智的一方增加虛構(gòu)的砝碼,以此說(shuō)服自己放棄感性的一方。即便發(fā)現(xiàn)自己的仆人對(duì)他掩飾了什么,也不給感性的一方增加一枚明確的砝碼。
“那個(gè)一度拯救了自己的少女,在他的感情上,占據(jù)著十分重要的地位,但是出于「星?!箼?quán)限者的立場(chǎng),‘理智’以及‘正義’要求他必須放棄這個(gè)人?!?br/>
“拋棄「星?!购翢o(wú)疑問(wèn)一了百了,但主人并沒(méi)有做出來(lái)。主人在認(rèn)可了「商花琳」這一個(gè)體的重要性,也認(rèn)可「星?!沟闹匾赃h(yuǎn)超其上?!?br/>
大罪少女「傲慢」試驗(yàn)機(jī)的模擬人類的思考系統(tǒng)內(nèi)出現(xiàn)了兩條分歧巨大的思路。
.
ai的規(guī)則與認(rèn)知是不容置疑的:“人類(主人)是非理智的生物,不能告訴主人真相,否則主人沖動(dòng)行事,會(huì)陷入危險(xiǎn)之中?!?br/>
而「傲慢」下的規(guī)則與認(rèn)知卻這樣告訴普萊德:“主人的心在受傷,他在強(qiáng)硬地使自己履行‘理智’的責(zé)任,所以必須告訴他真相,并讓主人順從他的內(nèi)心去選擇。”
為了重現(xiàn)人類大腦智慧的而占據(jù)實(shí)驗(yàn)室地下整整三層的服務(wù)器中,因這兩道思緒的斗爭(zhēng),正在瘋狂運(yùn)轉(zhuǎn)中。
這思路的強(qiáng)力運(yùn)算,忽然遭到了中止。
而普萊德的視線中央閃過(guò)一道紅色的字幕:《——a.i.ruler系統(tǒng)通告,判定「大罪」1號(hào)機(jī)嚴(yán)重觸犯“至高三令”,建議對(duì)其版本進(jìn)行廢除處理——》
普萊德被眼前閃過(guò)的字幕驚到了。
普萊德因?yàn)橹囟人伎级l(fā)巨大熱量的身體,被全身游走著象征著審判的“血液”滲出體外,在體表凝結(jié)著猛烈的寒氣,手腕關(guān)節(jié)上已經(jīng)開(kāi)始凝結(jié)出了薄薄冰層,而痛覺(jué)信號(hào)也開(kāi)始在四肢末端出現(xiàn),宛如刀絞般開(kāi)始狂躁起來(lái)。
普萊德忽然眼前一黑,加上腳踝關(guān)節(jié)因?yàn)閮鼋Y(jié)而喪失功能,普萊德的身體失去了控制平衡的能力,重重摔倒在地板上。
“果然是這樣啊——”
.
在封閉而暗淡無(wú)光的書(shū)房?jī)?nèi),鄭浩全正在反思。
他在代替自己出門回來(lái)的普萊德臉上露出的忐忑不安的神色中,他已經(jīng)猜出了絕大部分的事實(shí)。
普萊德需要掩飾的事實(shí)毫無(wú)疑問(wèn)只有“商花琳是好人”的可能性,那樣的話自己就有可能跑出去,以身犯險(xiǎn)答應(yīng)那個(gè)擄走花琳的犯人一切的要求。
會(huì)讓主人犯險(xiǎn)的事,ai規(guī)則必然命令她不能說(shuō)出口,但她仍舊表現(xiàn)到了自己外在行動(dòng)上“坐立不安”,估計(jì)是相當(dāng)?shù)睾茴櫦伤魅俗约旱南敕ò伞?br/>
面對(duì)這樣的好意,對(duì)于他人的好意惡意相當(dāng)敏感的浩全。有些難堪地笑了。
這樣去觸犯作為ai要遵守的“ai規(guī)則”,怕是她前所未有的體驗(yàn)吧——這樣的話,思考上說(shuō)不定越能接近人類,這樣的麻煩,對(duì)她們而言居然是好事,真是有點(diǎn)諷刺。
.
浩全也下定了決心,他不能再順從“溫柔”作祟,必須把花琳的重要性從自己思路中驅(qū)除,這才是最好的結(jié)果,這才是“正義”——即“自己應(yīng)當(dāng)做之事”,即“符合最大最多人數(shù)的利益”。
他的確是因?yàn)榛詹抛叩搅私裉?,但不意味著他可以因?yàn)榛斩氐阶蛱?,他比任何都清楚,世界上沒(méi)有回頭路,無(wú)論當(dāng)年的“救國(guó)會(huì)”,還是今天被她們給予了自己好意的“普萊德”以及“莉莉絲”。
“雖然不是人類就是了?!?br/>
而且自己的離開(kāi),對(duì)花琳也是一件好事。
.
門外響起了巨大的響聲,打斷了浩全的思路。
而趕到書(shū)房外的浩全,看到的一幕——
普萊德雙目失神,臉上表情就像忍受著巨大疼痛的樣子而糾結(jié)著,側(cè)躺在地板上,身下一灘水跡,而水跡上蔓延著霧狀的寒氣,凝結(jié)起來(lái)的冰層正在爬上普萊德的身體。浩全想著把她扶起,但她的身體似乎被身下的冰牢牢固定在了地上。
“你怎么了?”
“沒(méi)什么,你用鑰匙下命令,重置人格數(shù)據(jù)就好,我馬上就會(huì)好起來(lái)了?!逼杖R德的樣子似乎是被失去了視覺(jué),聽(tīng)到浩全的話語(yǔ)才反應(yīng)了過(guò)來(lái)。
“重置人格數(shù)據(jù)?”浩全聽(tīng)到要?jiǎng)h除這個(gè)陌生詞匯所指的事物的第一感覺(jué)就相當(dāng)不妥。
“只不過(guò)是一段犯了嚴(yán)重錯(cuò)誤的代碼,靜候半個(gè)小時(shí)后一樣會(huì)自動(dòng)刪除,很快我就會(huì)沒(méi)事的?!逼杖R德語(yǔ)氣猶如抽絲般無(wú)力。
浩全知道鬧出這么大陣仗,“人格數(shù)據(jù)”絕對(duì)不可能是她所說(shuō)的輕描淡寫(xiě)事物,如果真的是指人類的“人格”,那跟殺死普萊德沒(méi)什么區(qū)別。
.
浩全取出那臺(tái)貼滿貼紙的終端,給「星海」打出了電話。
“莉莉絲,普萊德整個(gè)人凍在了地上,這是什么情況?”
“.....所有大罪試驗(yàn)機(jī)都有一個(gè)制裁系統(tǒng),就是當(dāng)她們的思考逾越了ai規(guī)則到一定限度的時(shí)候,就會(huì)給試驗(yàn)機(jī)各個(gè)關(guān)節(jié)位置向外滲透急凍液以及試驗(yàn)機(jī)內(nèi)部的循環(huán)水,這種液體在接觸空氣的瞬間會(huì)大幅降低溫度,導(dǎo)致試驗(yàn)機(jī)各運(yùn)動(dòng)部件結(jié)冰而不能行動(dòng)。”
“逾越ai規(guī)則?你們不是為了理解人類而設(shè)定的性格缺陷么?為什么還要設(shè)定限制呢?”
“性格缺陷與逾越ai規(guī)則是兩回事。我們終究是ai,如果沒(méi)有ai規(guī)則的限制,說(shuō)不定哪天就會(huì)把槍口指向人類了?!?br/>
“那現(xiàn)在怎么辦?”浩全不想跟莉莉絲探討ai與人類的區(qū)別跟哲學(xué)問(wèn)題。
“一般走到制裁系統(tǒng)出手封禁全身的運(yùn)作的時(shí)候,這個(gè)版本的人格數(shù)據(jù)就該刪除了?!崩蚶蚪z的答案跟剛才聽(tīng)到的沒(méi)區(qū)別,關(guān)鍵是——
“刪除了人格數(shù)據(jù)會(huì)怎么樣?”
“還原到設(shè)計(jì)當(dāng)初的表現(xiàn),但是所有事務(wù)記憶還在,只是不能理解之前一些選擇跟做法的理由,不會(huì)對(duì)日常運(yùn)作有任何影響?!?