?唯行突然擔(dān)心地問:“爸爸,我今天學(xué)會打人了。你會不會不高興?會不會覺得我變壞了?”
“不會。你是最‘棒’的。好的沒話說!”應(yīng)龍認(rèn)真地贊揚(yáng)他。
“可我打了人。你說過傷害別人是不對的。”
“懲惡即是揚(yáng)善。這沒錯?!睉?yīng)龍?zhí)谷坏溃骸皦娜说貌坏浇逃?xùn),只會變本加厲。你教訓(xùn)了他,他就不敢作惡。你這是在幫他,幫大家。你做得很對?!?br/>
唯行很高興地看著爸爸:“你這么一說,我突然覺得自己像個大俠?!?br/>
應(yīng)龍開心地‘摸’著唯行的頭:“確實(shí)很‘棒’!”
魚線突然跳起來:“教唯行繞開黃金準(zhǔn)則的肯定是龍哥!對吧。鄭吉沒這個本事,他比龍哥差遠(yuǎn)了!他站出來,那是替龍哥擋槍來了??珊蓿耶?dāng)時竟然相信了。你們是不是有規(guī)定,不得提起龍哥還活著的事?”
尖刀:“說起來我也奇怪呢。你怎么就能想到那是應(yīng)龍呢?當(dāng)時要不是鄭吉替應(yīng)龍擋過去,馮輕揚(yáng)就知道應(yīng)龍還活著了。那會對應(yīng)龍很不利的?!?br/>
魚線壞笑著說:“三定律人人都知道,可黃金準(zhǔn)則卻是我親手寫出來的。知道具體運(yùn)作原理的人其實(shí)并不多!唯行整套軟件系統(tǒng)復(fù)雜無比,從架構(gòu)到實(shí)施都是我和龍哥親力親為。如果真的有人能夠從中找到破綻,并繞開權(quán)限最高的黃金準(zhǔn)則,應(yīng)該就只有我倆可以。如果還有人能做到不改動任何程序,只憑一句話就能提醒唯行繞過黃金準(zhǔn)則,達(dá)成目標(biāo)的話,除了我龍哥,世上再沒別人了。你說我怎么會猜不到那個人是他?可恨我當(dāng)時心里太‘亂’,沒細(xì)想。還以為是鄭吉無意間‘蒙’到的呢。說起來我一直好奇,龍哥究竟是怎么想出這么個辦法來的呢?我當(dāng)時寫得很用心,生怕限制不住唯行。我一直對黃金準(zhǔn)則的安全‘性’非常有信心。按理說很難被輕易推翻和回避,就算說句牢不可破也不過份??伤谷恢挥昧艘痪湓捑汀?,我心理很不平衡啊?!?br/>
尖刀哈哈一笑:“你知道你龍哥是怎么評論你的黃金準(zhǔn)則的嗎?他是這么說的……”
應(yīng)龍正‘色’道:“你叔所寫的黃金準(zhǔn)則非常完美,絕對是好程序。功能比我想要實(shí)現(xiàn)的還好。他的編程天份,是我平生僅見??墒悄?,程序?qū)懙迷俸茫膊淮頉]空子可鉆啊。這世上本來就沒有牢不可破的事情。因為……,三定律本身就是有漏‘洞’的!”
魚線、唯行大驚道:“三定律,有漏‘洞’?!”
應(yīng)龍道:“對!三定律強(qiáng)調(diào)的內(nèi)容,用大白話說出來就那么幾句:一,你不能傷害我,也不能看著我受傷害;二,你得聽我的;三,你還得保護(hù)你自己別受傷??勺畲蟮膯栴}是,三定律并沒說你和我,他說的是機(jī)器人和人類。人類是個很廣泛的概念??梢岳斫鉃橐粋€人,也可以理解為許多人或所有人。這就有漏‘洞’可鉆了。什么才算人類?對機(jī)器人來說,‘人類’這個詞應(yīng)該怎樣解釋?這部分功能黃金準(zhǔn)則卻完全沒有進(jìn)行控制。全由你的三觀和所受到的教育來確立。換句話說,最重要的一條標(biāo)準(zhǔn)其實(shí)掌握在你自己手中。所以我讓老譚說了一句話,試圖提醒你,‘人類’的標(biāo)準(zhǔn)是什么。結(jié)果你真的很敏銳,一下子就想到了?!?br/>
魚線嘆了一口氣:“這就是差距了。在編程水平上,我都夠當(dāng)龍哥的師祖??伤驹谖颐媲皶r,我永遠(yuǎn)只是個小孩子。智慧這東西,果然是至強(qiáng)的存在。只有肯用心的人,才能得到它。我再厲害,倒底只是小聰明,算不得有智慧。龍哥比我強(qiáng)。這就是差距了?!?br/>
應(yīng)龍繼續(xù)說:“還有一個方法。如果只有傷害馮輕揚(yáng)才能保護(hù)大塊兒和魚線,保護(hù)馮輕揚(yáng)則是在傷害大塊兒和魚線,你覺得黃金準(zhǔn)則會怎樣約束你的行為呢?如果從保護(hù)大塊兒和魚線他們不會受傷害的角度去考量的話,第一條定律甚至能支持你傷害馮輕揚(yáng)。因為馮輕揚(yáng)只有一個人,可大塊兒和魚線他們卻是很多人。你該保護(hù)一個人而傷害很多人呢,還是該保護(hù)很多人而傷害一個人呢?”
唯行很努力地思考起來。這一點(diǎn)他從未想到過?!叭祟悺边@個詞果然很多漏‘洞’,相互攻擊的兩邊都是人類的時候,機(jī)器人該保護(hù)誰才好呢?站在唯行的立場,當(dāng)然會更傾向于保護(hù)親人而傷害馮輕揚(yáng)了。第一條一旦被推翻,其他的都不重要了。按照爸爸的分析來看,三定律竟是堆廢話,什么都約束不了!
大塊兒贊嘆:“應(yīng)龍果然是機(jī)器人的行家啊。我是不太懂啦。咱們還是喝酒好了。這杯我先干了!……媳‘婦’兒,去隔壁小超市再拿三箱啤酒來,把‘門’給我擋上。今天誰不喝倒下,就不許走!”大塊兒媳‘婦’嘟噥著:“就知道喝,喝,喝。腦袋都喝傻了。人都讓你給喝倒了,還能走得了?。俊?br/>
大塊兒也不理他媳‘婦’擠兌,醉眼惺忪地問:“應(yīng)龍進(jìn)了秘密單位,安安和孩子就能回來了嗎?”
老譚呵呵一樂:“斯芬克斯為什么要看死了安安和孩子?就是想讓應(yīng)龍跟他走。我們?yōu)槭裁匆ā@么大功夫,耗這么長時間?就是為了讓斯芬克斯相信——應(yīng)龍死了。應(yīng)龍一死,安安和孩子對斯芬克斯意義就不大了。他再死抓著不松手,也就是白耗錢糧。過個幾年,自然也就放松了。到時候,我們的人再想點(diǎn)兒辦法,他們母子倆想回來,還不易如反掌?說起來,當(dāng)初的設(shè)想,就是讓應(yīng)龍出個車禍,玩兒個意外失蹤什么的??墒菓?yīng)龍一直不肯配合。要不是姓馮的把事情搞大了,迫的應(yīng)龍?zhí)幘晨皯n,他也不會考慮上面的意見。上面認(rèn)為,既然來不及使車禍那一套了,索‘性’就按馮輕揚(yáng)的腳本兒走下去。最后應(yīng)龍也就定‘性’成叛國罪了。不過,這也等于馮輕揚(yáng)給了國家一個機(jī)會,強(qiáng)征應(yīng)龍進(jìn)秘密單位。應(yīng)龍呢,為了老婆孩子,最后還是同意了。”
大塊兒悶悶地說:“應(yīng)龍沒事,又有國家保護(hù)。按說這也‘挺’好的,可我就是高興不起來。應(yīng)龍苦啊,他根本不喜歡做軍事機(jī)器人。要是他肯的話,當(dāng)初就跟斯芬克斯走了,人家那里什么條件不比咱們好?可是躲來躲去,最后還是沒躲開啊?!?br/>
老譚乍乍乎乎地叫了一聲:“他~苦~?”一口酒灌下去?!澳苡形覀兛鄦幔靠纯葱值軅儙讉€月來累的。遠(yuǎn)的不說,就說唯行為了救電鋸,12小時之內(nèi),連端了我們?nèi)齻€秘密研究中心。你知道我是怎么替他擺平的嗎?我挨家上‘門’談判哪!最可恨是他毀了國家研發(fā)巨型坦克的秘密中心!我都不知道這報告該怎么寫!到現(xiàn)在人家那半面山體還卡著合不上。上面只能用掩蔽網(wǎng)擋著。人家每天都得掃鳥屎,搶修升降機(jī)!”說罷又是一口酒灌下去。
7374嘆口氣:“國家砸了好幾個億進(jìn)去,他們才造出這么一輛巨型坦克來。結(jié)果被你們‘花’3千萬做的機(jī)器孩子,就用兩只連發(fā)槍,統(tǒng)共不到100顆子彈,就打得人家人仰馬翻,還毫發(fā)無傷地撤退了。人家當(dāng)然不開心了!單兵都能打贏超重型武器,這不跟打人家臉一樣嗎?唯行撤退的時候,用中距離導(dǎo)彈破壞了山體升降機(jī)的咬合面。一時半會兒修不好了。再這么下去,搞不好他們就得放棄那個秘密研究中心,全員撤離。那個中心人家建了多少年才成為現(xiàn)在的規(guī)模啊?光是道謙打報告,只怕不能善后了。麻煩著呢?!?br/>
大塊兒酒勁兒上來,一拍桌子喊道:“大~,嗝,有個屁用?誰叫他們用破壞力那么強(qiáng)的武器追擊唯行的?那還得說他們運(yùn)氣好~,打沖鋒的是唯行。要是咱們2號能有塊核電池!連坦克都能給他拆了?!?br/>
2號想了想:“如果彈‘藥’夠足的話,可能‘性’很高。但也很危險?!?br/>
唯思突然說道:“如果唯行在的話,他一定會說:這世界上沒有什么不可能?!?br/>
7376點(diǎn)頭:“嗯,龍哥也是這么說的?!?br/>
8388贊嘆:“真是誰的孩子像誰啊。膽‘色’與信心齊飛!”
一直沒說話的9527呵呵笑:“你們都喝多了,龍哥哪那么說了?當(dāng)時我就在秘密中心的總控室,龍哥跟他們中心的總負(fù)責(zé)是這么說的:請你不要派巨型坦克追擊我兒子!電鋸在唯行心中的地位很特殊。他為了救電鋸,極有可能會跟你們‘性’命相搏。為了避免不必要的損失,能不能請你就這么放他離開?”他學(xué)著應(yīng)龍的腔調(diào)說話,讓人身臨其境一般。
9527接著說:“然后那個負(fù)責(zé)人說:不要以為只有你會搞研發(fā)。我們搞的才是真正的軍事科技。你準(zhǔn)備好掃帚給你兒子收尸吧。這里也許能‘混’進(jìn)來,但是絕對別想‘混’出去!然后龍哥說:唉~,不要以為大就一定會贏,能決定勝負(fù)的因素太多了。在我看來,這世界上沒有什么不可能。唯行并不是普通的機(jī)器人。我不敢說結(jié)果一定是唯行獲得勝利,但他如果有核電池在手,你的坦克未必能威脅到他。萬一出現(xiàn)了大家不愿看到的后果,你真的能承擔(dān)責(zé)任嗎?然后,那負(fù)責(zé)人很肯定地說:那咱就試試看,要是你的機(jī)器人兒子贏了,電鋸的機(jī)體就當(dāng)是我‘弄’丟了,責(zé)任我來背。要是你輸了,這次基地里的損失,你就讓老譚照價賠給我好了!”他學(xué)得唯妙唯肖,讓人很有代入感。
唯行大驚問道:“爸爸你知道我們?nèi)ネ惦婁彽念^?”
應(yīng)龍點(diǎn)頭:“你們搶了人家的槍,強(qiáng)奪了電鋸的肢體。搞得那么明顯,人家當(dāng)然早就知道你要干什么了。之所沒有派大隊的士兵埋伏你們,那是因為有老譚出面調(diào)停。他說愿意承擔(dān)電鋸潛逃的責(zé)任,不會讓他們因此受處分。至于前兩家秘密中心的事,那是他們疏于防范,跟老譚沒關(guān)系。所以,只有最后這一家要我們承擔(dān)責(zé)任。老譚其實(shí)為我們父子擔(dān)了好大的干系,壓力巨大啊?!?br/>