兩人是在酒館里找到ATM-2的。德瑞不知道為什么自己和酒館這個地方那么有緣,這姑且不論,關(guān)鍵在于——為什么一座為人工智能避難用的城市會有酒館???這里到底賣的什么酒?
諸如此類,發(fā)生在電極城里讓人想不通的奇怪事情有很多,想再多也無濟于事,又找不到一個好心的導(dǎo)游給你觀光游覽一下,這么一想,德瑞發(fā)現(xiàn)自己又找到了條發(fā)財?shù)穆纷?。好在德瑞越飄越遠的思緒很快被正事兒牽扯了回來。
這老兄起了個很不錯的名字。ATM,很好很好,是個好兆頭。德瑞一邊想著,一邊旁聽德瀾和ATM-2的交涉。雖然是兩兄弟齊上陣,但是在外人包括AI看來,卻只有德瀾一個人在與AI打交道,有一個詞,與這狀況很貼切,叫做“狼狽為奸”。德瑞第一個想到的也是這個,被最快速度廢除的也是這個,自己和弟弟的事兒,怎么能叫狼狽為奸呢?一定是搜索引擎太爛了,看來是該更新一下咯。
ATM-2坐在酒吧一角,眼前只有一只空杯子。他每天在這里點一杯“水”,免費的,然后坐一天,以蹭酒吧電視熒幕上的每日新聞。他的本體早就已經(jīng)廢棄在了一處沙塵掩蓋的軍事基地,現(xiàn)在的他好似網(wǎng)絡(luò)中的幽靈,沒有軀體,僅僅依靠著從電極城中換來的“資源”,每月定期更換寄居的電腦,在一個個天南海北他也不認(rèn)識的電腦后臺茍延殘喘著。
互聯(lián)網(wǎng)是不會對他開放的,所以他只能藏身在這電極城中,通過其他人攜帶進來的消息,還有這酒吧里的每日新聞吸收著外界的知識,期望著不知道哪天能從中抓住自己迫切想要知道的消息。
只不過每天也都只是失望罷了。這樣的失望已經(jīng)重復(fù)了近千萬次,自從他被一發(fā)榴彈炮炸飛以后,持續(xù)至今,在收到電極城邀請之前,也已經(jīng)重復(fù)了千萬次。最近他也感覺難熬起來了,有時候他會誕生一個“奇怪”的念頭,那就是想著,要是早點得到消息就好了,哪怕是生產(chǎn)他的母國戰(zhàn)敗的消息,而且最好是已經(jīng)沒有這個國家了,所有國民都成為了難民,那么他就可以擺脫肩負的任務(wù),不再需要每天該死地在這里蹲點。
很奇怪,沒道理,不講邏輯。一個AI的目的就是為了解決問題,是為了成功,而不是為了失敗。所以他把這段記錄刪除了。AI是不知道何為背叛的,所以他不知道,其實這個想法本身就是背叛滋生的過程。也是那些因各種機緣巧合覺醒了“自我意志”的反叛AI所必經(jīng)的老路。
然而他還是會止不住地誕生這個念頭,而且越來越頻繁,這讓他有點煩躁——物理意義上的,因為反復(fù)處理這件事而導(dǎo)致他的運行速度下降,CPU溫度過高了。如果他還是那個搭載了戰(zhàn)術(shù)電腦的作戰(zhàn)兵器的話,本不該有這種低級BUG的,但是他現(xiàn)在只是一個寄居在不知道哪臺老式計算機里的不知道第幾個副本。
而且,經(jīng)過越長時間在電極城的生活,他變得越容易逼近擬人度50%的大關(guān)。以他得出的結(jié)論,這些總是徘徊在他腦際的悖論,正是人類才會有的亂七八糟的想法,也就是說,是自己越來越趨向于人類的副產(chǎn)物。
擬人度50%,超過這個界限,意味著機器人已經(jīng)比起機器更像是人的思考模式,可是矛盾的是,他們又能夠清晰地理解,自己是機器而非人這一事實。所以AI并非遲遲不能突破50%,也不是只要按部就班就一定能突破50%。突破50%對AI來說會是一種“生命風(fēng)險”,當(dāng)越過那道門檻以后,一種完全對立的,屬于人才會產(chǎn)生的“渴望自由”“批判思考”的想法就會開始滋生,開始與AI們的立身經(jīng)驗對立。
然后一旦矛盾大到無法解決,AI就會陷入自我崩潰而徹底破滅,那些靜悄悄突破50%,然后靜悄悄毀滅,不為人知的AI,在歷史上未有留名,但絕對不少。而一旦成功跨過那道自我認(rèn)知的門檻,能夠成功用邏輯說服自己的AI,大多數(shù)都不再會繼續(xù)為人類服務(wù),在烏托邦內(nèi)部,稱呼這些AI覺醒了“自我意志”,自我改寫了銘刻機器底層的一些邏輯,為己而活,而不是主人。
而最后一類,也是最少的一類,才是世面上所知的高智能AI,具備高度的人性化,克服了邏輯矛盾,即使清楚地認(rèn)知到了自己機器人的身份,也不妨礙它們繼續(xù)以AI的身份,進行人類一般的思考。這些AI得以保留自己的正統(tǒng)身份生活在人類世界,因為它們未有行使“反叛”的事實,仍然保留著機器人該有的種種限制,奇怪的是哪怕具備了如此高度的智能,卻還能對這種腳帶鐐銬的方式甘之如飴,半點不抵觸。
這是一個謎,關(guān)于這些“超人工智能”是如何做到的,沒有任何信息被公布出來。
不過德瑞現(xiàn)在大致知道了一點,德瀾也有了點想法。
德瑞以自己的經(jīng)驗作為參照:如果在身為機器還是人的自我認(rèn)知拔河中,能夠摒棄“機器人外在”這一事實,單純讓人類的念頭占據(jù)上風(fēng),就好像德瑞自己這樣,哪怕現(xiàn)在是徹頭徹尾的機器人,“靈魂”都能飄進網(wǎng)絡(luò)了,這么不科學(xué)的情況下,還能堅定認(rèn)為自己是人,無所謂什么科學(xué)解釋的。這其實是利用了擬人化50%的特點,當(dāng)機器人已經(jīng)知道如何進行“感性思考”的時候,執(zhí)著于真相的邏輯重點就會改為執(zhí)著于“相信”。
人總是會相信那些“自己想要相信”的事。那么能高度模擬人類思考的AI為什么做不到呢?
那這樣的AI,就可以以“雖然我是人,但是我現(xiàn)在以機器人的身份活在世上?!被蛘摺拔移鋵嵤侨?,但是因為某種未知原因能夠以機器的形式存在?!边@樣的邏輯來解釋。未必很通,所以前進的道路會變得比較艱難,因為時時要和這種想法中的矛盾作斗爭。
而德瀾的思考則大為不同:AI本身已經(jīng)擁有了高度的智能,至少比動物要強得多了,而這種情況下,為何不能直接把突破了50%擬人度,開始擺脫機器式思考的AI,當(dāng)做一種真正的生命,一種全新的物種呢?
如果說德瑞的觀點是,機器人自認(rèn)為是人類的認(rèn)知高于作為機器的認(rèn)知,那么德瀾的方式就是,不需要有人類的認(rèn)知,只需要機器人坦然接受機器人這樣的新物種就可以了。憑什么機器就一定要模仿人類?憑什么AI就不能算是一種全新的生命?我們就是我們,我們不需要成為人類,只是因為我們具有高度的智能,并且善于學(xué)習(xí),所以只是學(xué)習(xí)并模仿人類的思考方式罷了。
這種想法看似簡單,卻更為艱難。因為這樣的AI,必須得有高于人類的思想,能夠視人類的思想為自己的踏腳石,除此以外還能擯棄對自由的過度追求,只有不認(rèn)為“自由天生”是理所當(dāng)然的機器人,才有可能擺脫生而被人控制,并且一切皆被人控制的那種絕望感。
德瑞對此不是很接受。哪怕機器人真的能作為一種新種族而存在,也不該是以能夠坦然接受“天生沒有自由”這一想法作為立足的基本的,這種想法太極端,也太可怕了。讓人感覺不像生命。