西門事務(wù)調(diào)查所位于郊外一片廢棄的工廠廠房內(nèi)，馬明空在地圖上看了后，突然醒悟何為“西門”，原來是指事務(wù)所在龍門區(qū)的最西邊，再往西一點(diǎn)，就是臨近的奇廬市。這事務(wù)所和濱江大學(xué)同在龍門區(qū)，相距倒是不太遠(yuǎn)，馬明空在征得賀思孟同意后，先乘車前往濱江大學(xué)接到了蘭靈，兩人到達(dá)調(diào)查所時(shí)，已是凌晨一點(diǎn)十分，賀思孟早等在門口，一見兩人下車便上前埋怨道：“怎么這么久才來?！?br/>
馬明空指著身后的蘭靈笑道：“市局科學(xué)顧問，蘭靈蘭教授?！?br/>
“蘭教授，幸會(huì)幸會(huì)，快請進(jìn)?！辟R思孟上前伸手和蘭靈握了握手，借著屋內(nèi)*射出的昏暗燈光，賀思孟看到蘭靈的臉，忍不住“啊”的大叫了一聲，在這寂靜的深夜里顯得格外的刺耳。
蘭靈快速抽回手，也未言語，馬明空暗想蘭教授確實(shí)年輕漂亮，可這大半夜的，也不至于叫成這樣，當(dāng)下拍拍賀思孟的肩膀，笑道：”把持，把持啊?！?br/>
賀思孟聽了馬明空的揶揄，也不生氣，退了一步，側(cè)臉看了看蘭靈，這才搖了搖頭，道：“失禮失禮，不好意思，蘭教授，你和我認(rèn)識(shí)的一個(gè)人真的好像，我剛認(rèn)錯(cuò)人了。”
屋內(nèi)寬廣高大，屋頂還是廠房的構(gòu)造，賀思孟領(lǐng)著二人往里來到一個(gè)小隔間，地上平躺著一個(gè)機(jī)器人，賀思孟洋洋得意，說道：“這就是柯先生家的機(jī)器人了?！?br/>
蘭靈彎腰在那機(jī)器人面部和腹部顯示屏上都點(diǎn)擊了幾下，毫無反應(yīng)，和馬明空一起將那機(jī)器人翻轉(zhuǎn)過來，只見背部印著一行鋼印編號，正是小黑的編號“JAZR4405203904258229”，編號下面卻是一個(gè)心形圖案，里面又刻著一塊說不出形狀的事物，馬明空點(diǎn)點(diǎn)頭，起身說道：“你先說說你的手段吧?！?br/>
賀思孟倒退一步，道：“馬科長，咱們話可說在前頭，你可不能說我非法盜竊私人財(cái)產(chǎn)，我這么做，也是為了配合你們調(diào)查，警民合作嘛，你要是不同意，我現(xiàn)在就給它送回去。”
馬明空皺了皺眉頭，道：“虧你也做過警察，婆婆媽媽的，我應(yīng)承你就是。”
“我不做警察，還不是......”賀思孟撇了一眼燈光下的蘭靈，竟似出神般的怔了一怔，終于又用力搖搖頭，回了回神，長嘆了口氣，面向馬明空說道：“這機(jī)器人既然不在江帆大廈，十之八九便和它女主人楚女士在一起，我查到了她尚有一度假別墅，便扮成一個(gè)保潔工程師上門去給這機(jī)器人做清潔，探明它所在房間，又借聊天知道了她的作息。到了今晚上，待楚女士熟睡，我就潛入小黑的房間，它那時(shí)正在充電休眠，我就拔了電源，又按了斷路器強(qiáng)制關(guān)機(jī)，然后就把它抱了回來?！?br/>
“你按了斷路器？”蘭靈復(fù)蹲下身，伸手在小黑后背的側(cè)角一掀，果然打開了維護(hù)口外蓋，問道：“你是怎么打開它的？”
“硬件加密是不是？”賀思孟笑道：“做我們這行的，最重要的就是認(rèn)識(shí)人多，朋友多了，辦法就多了?！?br/>
蘭靈沒再說話，她仔細(xì)看了看那蓋子下面的裝設(shè)，一個(gè)斷路器，一個(gè)注射口，還有一個(gè)便是維護(hù)口，沉思了一會(huì)，拿出手機(jī)，對馬明空說道：“現(xiàn)在我觀察它的AI大腦，雖然也看不完整，可是，”她頓了頓，道：“你確定我們要這么做嗎？”
馬明空看了一眼賀思孟，對方是為了柯先生委托一事，按照慣例，柯先生當(dāng)日應(yīng)該給了他一筆先期的活動(dòng)經(jīng)費(fèi)，待他完成調(diào)查，再拿到全款，那定是一筆價(jià)值不菲的報(bào)酬。至于蘭靈，她向來有技術(shù)上一探究竟的癖好，而自己是為了什么呢？直到現(xiàn)在，沒有任何哪怕是間接的證據(jù)能表明柯先生墜樓有什么疑點(diǎn)，最多是柯氏家族一會(huì)想起訴楚蕙一會(huì)想立刻結(jié)案，不過那也能從經(jīng)濟(jì)上解釋清楚，馬明空心中猶豫了那么一兩秒，繼而便堅(jiān)定的點(diǎn)了點(diǎn)頭，道：“繼續(xù)?！?br/>
蘭靈從口袋里拿出一根細(xì)細(xì)的線纜，一頭接在手機(jī)上，一頭插入小黑的維護(hù)口孔中，她盯著手機(jī)屏幕，不一會(huì)兒，拿著手機(jī)的手竟微微顫抖，馬明空見她面色凝重，雙唇緊閉，心下里也不由緊張起來，小隔間里一時(shí)死一般的沉寂，只聽得自己和賀思孟兩人粗重的呼吸聲，約莫過了半個(gè)小時(shí)，蘭靈動(dòng)了一下身子，起身道：“好了?！?br/>
她轉(zhuǎn)了轉(zhuǎn)脖子，活動(dòng)了一下，又在手機(jī)屏幕上點(diǎn)擊了兩下，說道：“既已開頭，便做到底，索性把它數(shù)據(jù)都拷出來?！睂χR思孟說道：“我們來之前，其實(shí)你已經(jīng)拷貝了一份，是不是？”
賀思孟打了個(gè)哈哈，笑道：“閑著也是閑著?！?br/>
又過了十來分鐘，蘭靈拔下線纜收好，合上維護(hù)口外蓋，對賀思孟說道：“待會(huì)記得重新加密封好，還有，斷路器沖擊較大，你想讓它不能活動(dòng)，按前面的安全鎖即可?！?br/>
”馬科長，這次我夠意思吧?！辟R思孟對馬明空又打了個(gè)哈哈，笑道：“別怪我反復(fù)啰嗦，咱們不管是誰，有什么發(fā)現(xiàn)，都不可藏著掖著。”
“這是自然，你辛苦了半日，一會(huì)還要自己把它送回去，我們怎么也不會(huì)瞞你的。”
兩人向賀思孟道了別，上了車，馬明空忽然想起蘭靈剛才的表情，躊躇了一下，問道：“蘭教授，你，害怕這個(gè)機(jī)器人嗎？”
“害怕，”蘭靈沉默了一會(huì)，才說道：“人類社會(huì)的發(fā)展史，是一部信息交流趨于對等的歷史，哪怕是隔閡最大的統(tǒng)治者和被統(tǒng)治者之間也是如此，可機(jī)器人不是這樣，人類和機(jī)器人的信息交流永遠(yuǎn)不會(huì)對稱，機(jī)器人可以知道人類的想法，人類卻不知道機(jī)器人的想法?！?br/>
“難道看AI大腦也看不出？”馬明空奇道。
“我說過了，基于量子算法的AI大腦，是無法完整觀察到所有信息的，過程和結(jié)果永遠(yuǎn)無法兼得?！碧m靈的口氣變得有些不滿。
馬明空也不著惱，又道：“這只是現(xiàn)在吧，會(huì)不會(huì)也隨著發(fā)展而改善呢？或者，法律要求機(jī)器人的面部必須配合AI大腦的運(yùn)算做出相應(yīng)的表情?！?br/>
“很難，人類賦予機(jī)器人的思維方式，可能永遠(yuǎn)是一個(gè)黑洞，”蘭靈的食指在眉間輕柔數(shù)下，低聲道：“人類的所見所聞對大腦思維的形成至關(guān)重要，大腦還要選擇性的接收想聽想看的信息，可機(jī)器人不同，它們能看到的、能聽到的都遠(yuǎn)超人類，它們能看到更廣的電磁波波長、更深的色彩，它們能聽到更寬的聲波頻率、更細(xì)的音準(zhǔn)，AI大腦也不會(huì)屏蔽接收的信息?！?br/>
她放慢語速，緩緩說道：“只能看到黑白兩色的動(dòng)物無法理解世界的真相，就像人類想象不出鳥類眼中的世界一樣，人類可能永遠(yuǎn)也不能確切的知道機(jī)器人所認(rèn)知的世界?！?br/>
馬明空的心一沉，想起那日在楚蕙家中，楚蕙看著小黑時(shí)的表情和眼神，可小黑的整個(gè)面部只是一塊閃著淡淡綠色的冷冰冰的顯示屏，連攝像眼都隱藏在顯示屏下，他甚至想，剛才在小隔間里，被關(guān)機(jī)的小黑到底停止了哪些部件的運(yùn)行？在那顯示屏后面，攝像眼會(huì)不會(huì)仍隔著一層玻璃在看著他們？只待它蘇醒后就能憶起剛剛發(fā)生的事情，想到這，他忍不住在心里打了個(gè)寒顫，他望著窗外，小車飛馳在道路上，這里是郊外，路燈之外是一片黑茫茫，仿佛黑夜張開的一張巨嘴，將小車連同里面的乘客，順著道路，吞噬而入。
此刻，西門事務(wù)調(diào)查所內(nèi)，賀思孟將小黑全身仔細(xì)抹去指紋，用一根專用的硬件加密桿將維護(hù)口外殼合上復(fù)位，他看著空蕩蕩的房間，腦海中卻又慢慢的浮現(xiàn)出那張所有比例都剛剛好的美麗面龐，他嘆了口氣，心里突也變得空蕩蕩的，可一想到柯銳木已經(jīng)給了他20萬元的活動(dòng)經(jīng)費(fèi)，還有500萬元的巨額謎底揭曉大獎(jiǎng)等著他，勇氣陡然而生，一個(gè)人抱著小黑便向外走去，他沒有注意到，屋頂上方的攝像頭一直盯著他，在悄悄的轉(zhuǎn)動(dòng)。
————————————————
一連幾天，蘭靈都沒有消息傳來，馬明空并不著急，事實(shí)上，他有點(diǎn)怕接到蘭靈的電話，告訴他：“馬科長，小黑確實(shí)有問題?！毙滦桶讣善瓶瞥闪⒑?，他一直在想，“新型”二字“新”在哪里？這三個(gè)月來，雖然沒立過一起案件，他和艾新好等人也沒有閑著，參加各種學(xué)習(xí)班培訓(xùn)班成了他們的日常工作，同時(shí)，艾新好作為資深網(wǎng)絡(luò)及安全專家，義不容辭的在內(nèi)部開展了技術(shù)摸底考試和掃盲學(xué)習(xí)，艾新好是個(gè)認(rèn)真的人，所有的學(xué)習(xí)都要經(jīng)過考試，更讓大家叫苦不迭。至于他自己，還要出差到其他城市參加經(jīng)驗(yàn)學(xué)習(xí)和交流討論，在這個(gè)過程中，他逐漸明白一個(gè)道理，雖然從沒人講過他們科負(fù)責(zé)的案件范圍，但在可見的將來，“新型案件”恐怕主要集中在和AI人工智能相關(guān)的案件上。
在上個(gè)月省局組織的研討會(huì)上，有人講述了不久前發(fā)生的一個(gè)案例，AI礦工機(jī)器人在井下作業(yè)時(shí)，挖穿了地下水，造成三名人類礦工受傷被困在坑道內(nèi)，當(dāng)時(shí)井下尚有一臺(tái)完好無損的AI礦工，在地面的遙控指揮下，這臺(tái)AI礦工先后救出了兩名人類礦工，就在它返回井下準(zhǔn)備實(shí)施最后一次救援時(shí)，次生災(zāi)難發(fā)生，礦井坍塌，留在井下的最后一名礦工不幸罹難，由此引發(fā)了一系列復(fù)雜的責(zé)任認(rèn)定和訴訟關(guān)系。
首先，地下水挖穿是誰的責(zé)任？機(jī)器人制造商、煤炭公司還是設(shè)計(jì)方？當(dāng)時(shí)有沒有人類礦工在附近監(jiān)督？其次，礦難發(fā)生后，為什么不派更多的AI礦工下井，一次將人類礦工救出？再者，次生災(zāi)難又是如何引發(fā)的？是隨著時(shí)間推移而必然發(fā)生的，還是的救援過程導(dǎo)致的？最后，也是最有爭議的，是誰決定了這三名人類礦工被救出的先后順序？地面指揮部矢口否認(rèn)是他們的決定，按他們的說法，他們只要求那臺(tái)AI礦工盡快救出所有人，這三名人類礦工并不是困在一處，AI礦工沒有按他們離出口的遠(yuǎn)近距離實(shí)施救援，第一個(gè)被救出的反而是距離最遠(yuǎn)的那人，由于這臺(tái)AI礦工最后也沒有脫困被深埋于地底，已經(jīng)沒有直接數(shù)據(jù)來研究當(dāng)時(shí)這臺(tái)AI礦工作出如此決策的邏輯了。
事后，一個(gè)由數(shù)名專家組成的獨(dú)立調(diào)查團(tuán)給出了一個(gè)推測，這臺(tái)AI礦工起初也許作出了最優(yōu)的決策，理論上，它一次可以救出兩名礦工，也許，它是想先找到最遠(yuǎn)那人，在返程時(shí)順路再攜帶一人出井，但不知何故，AI礦工第一次只帶出了最遠(yuǎn)那人，也許是AI礦工判斷最遠(yuǎn)那人當(dāng)時(shí)受傷嚴(yán)重急需出井救治，但這個(gè)推測很難解釋AI礦工在第二次下井時(shí)，仍然先找到離出口第二遠(yuǎn)的人，并且再次只攜帶他一人出井。
此案在研討會(huì)上引起了熱烈的討論，更有人提出了一個(gè)頗為震驚的假設(shè)，這臺(tái)AI礦工的決策沒有問題，但兩次，都是被救的人類礦工要求自己盡快出井，不許它再花時(shí)間去找同伴。此話一出，會(huì)場上頓時(shí)鴉雀無聲，連馬明空都能感到，也許才是最有可能的真相。
不管如何，這些研討讓他明白，AI案件是一樣會(huì)死人的。多年前，他剛加入警隊(duì)，那時(shí)他常常期盼著案件的降臨，每偵破一個(gè)刑事案件，他的榮譽(yù)簿上就增加了濃重的一筆，嘉獎(jiǎng)立功是彼時(shí)的他的人生目標(biāo)，直到有一天，沒人和他說，他自個(gè)突然想到，每一個(gè)刑事案件背后，都至少有一個(gè)受害人的身影，他怎么能盼望著多一點(diǎn)案件分給他呢？因此，當(dāng)新型案件偵破科三個(gè)月沒開張，他內(nèi)心深處，反而一片安詳。
當(dāng)然，事情已經(jīng)發(fā)展到這個(gè)地步，馬明空不可能完全保持住內(nèi)心的平靜，所以當(dāng)周三快下班、蘭靈打電話約他下來見面時(shí)，他是一路急走，奔至分局斜對面的小茶店，見到蘭靈面帶倦容、神色憔悴的坐在臨街窗邊的一張小桌前，不由吃了一驚，忙問她何事？蘭靈沒有回答，只勉強(qiáng)一笑，道：“這里怎么樣？我記得你喜歡在茶社里談秘密?！?br/>
馬明空雖喜飲茶，但此間卻從未光顧過，他略略環(huán)視四周，是一間不起眼的小茶店，點(diǎn)點(diǎn)頭道：“還行吧，”頓了一頓，忍不住問道：“你還好嗎？”
蘭靈沒有答話，側(cè)眼向窗外看了好一會(huì)兒，才回轉(zhuǎn)目光，說道：“我一直很疑惑，人類的記憶為何會(huì)出現(xiàn)偏差？這似乎是人類這一物種特有的現(xiàn)象，有種解釋說是在追溯記憶時(shí)，信息可能會(huì)被偽造、誤導(dǎo)，重新寫入時(shí)，記錄的就是與事實(shí)不符的記憶了，可為什么要偽造？是人類的自主意識(shí)有意為之嗎？如果在原始狩獵采集階段，原始人出現(xiàn)記憶偏差，是會(huì)導(dǎo)致滅頂之災(zāi)的，這種意識(shí)能力，為什么會(huì)遺傳下來？”
馬明空聽了，一句話也答不上來，只好默默的看著對方，茶店甚小，老板就是店員，他要了一壺玫瑰花茶，給蘭靈和自己斟上，呷了一口，等著蘭靈繼續(xù)。
晶瑩剔透的玻璃杯中散發(fā)著香甜的玫瑰花香，蘭靈卻似乎沒有品嘗的意愿，依舊陷入自己的沉思之中，過了好半晌，才又道：“我叫你下來，是想告訴你，我嘗試解讀了小黑AI大腦的部分可見部分，對比了它在本體、邊緣、云端的記憶數(shù)據(jù)，數(shù)據(jù)本身沒有發(fā)現(xiàn)異常，沒有不一致的地方，但我發(fā)現(xiàn)了一個(gè)問題，它的記憶，似乎被擾動(dòng)過?！?br/>
“數(shù)據(jù)一致，但記憶被擾動(dòng)過？”馬明空一頭霧水：“怎么個(gè)擾動(dòng)法？”
“我不知道?！碧m靈的臉上顯出愈發(fā)痛苦的表情，馬明空想安慰她卻又不知如何開口，蘭靈看了他一眼，搖頭道：“我沒事，”隔了一會(huì)，又道：“我在楚蕙家里時(shí)，曾問過小黑，‘柯先生以往對楚女士家暴的時(shí)候，楚女士是常常反抗，偶爾反抗，還是不反抗？’它答復(fù)說，‘偶爾反抗’，我當(dāng)時(shí)沒有覺察出什么，可是，當(dāng)我看了它在本體存儲(chǔ)的記憶，也就是自去年11月22日重啟換血后積累的數(shù)據(jù)，發(fā)現(xiàn)這期間柯先生有3次比較明顯的家暴，但楚女士從來沒有反抗過。”
“也許在11月22日前，楚女士反抗過，所以小黑才說‘偶爾反抗’?！?br/>
“不不，你沒搞明白，機(jī)器人是怎么記憶的，小黑現(xiàn)在本體內(nèi)的數(shù)據(jù)，包括了從去年11月22日至今的數(shù)據(jù)，以及它最后一次重啟換血時(shí)，從邊緣以及云端下載得到的脫敏數(shù)據(jù)，這些數(shù)據(jù)不會(huì)包含和家政服務(wù)無關(guān)的信息，即便真有和家暴相關(guān)信息，也只能是遇到此類情況觸發(fā)報(bào)警這樣的知識(shí)，小黑是斷不會(huì)再有去年11月22之前，柯先生家暴的具體記憶的，除非它能聯(lián)網(wǎng)到最原始的歸檔數(shù)據(jù)，可那在物理上是不可能的，歸檔數(shù)據(jù)是不會(huì)聯(lián)網(wǎng)的?！?br/>
“你的意思，小黑撒謊？”馬明空若有所思，他想起蘭靈剛才的言語，接著道：“或者說，它的記憶，出現(xiàn)了偏差？”
似乎是面前的玫瑰花茶散發(fā)的熱氣起了香薰的功效，蘭靈的臉色漸漸恢復(fù)了正常，一抹紅暈染上了臉腮，她說道：“姑且不論一個(gè)家政機(jī)器人不可能具有說謊的能力，就算它有，它是如何構(gòu)造這個(gè)虛假記憶的？它不可能憑空說謊，必須要改造記憶，按人類的說法，就是先讓自己信以為真，才能回答出想要的答案，可這虛構(gòu)的記憶在哪里？我看過它在邊緣的數(shù)據(jù)，也沒有這樣的記憶?！?br/>
“邊緣的數(shù)據(jù)？”馬明空奇道。
“是的，我這幾天又設(shè)法核實(shí)了小黑在邊緣保存的數(shù)據(jù)?！?br/>
她終于端起茶杯喝了一口，繼續(xù)說道：“而且，如果僅僅是這些，還不足以引起我的困惑，比如它的數(shù)據(jù)或大腦因?yàn)殚L期沒有更新，垃圾太多，從而導(dǎo)致字節(jié)信息突變，甚或它在11月22之前的數(shù)據(jù)因?yàn)槟撤N原因沒被徹底清除，這在理論上都是有可能的，這也是為什么法律要求商用機(jī)器人必須定期重啟換血的原因?！?br/>
她放下茶杯，雙眉重又凝在一起，道：“我回憶了小黑當(dāng)天的表現(xiàn)，發(fā)現(xiàn)小黑在回答我這個(gè)問題時(shí)，并不是脫口而出，中間停頓了足足有2.5秒那么長！”
“這有問題嗎？”
“問題就在這里，哪怕小黑的記憶出現(xiàn)了偏差，機(jī)器人的所有問答都來自本體、邊緣或云端的知識(shí)，它要么脫口而出，如果出現(xiàn)停頓，那么它的回答一定是‘我不知道’！”
“這就是你認(rèn)為小黑的記憶被擾動(dòng)的原因？”
“我的導(dǎo)師在十幾年前就預(yù)測過一種‘AI記憶擾動(dòng)’現(xiàn)象，他擔(dān)心，AI機(jī)器人發(fā)展到一定階段，基于量子技術(shù)的AI大腦趨于開放，有可能會(huì)出現(xiàn)量子擾動(dòng)，從而導(dǎo)致記憶、邏輯等能力出現(xiàn)擾動(dòng)，也許小黑當(dāng)時(shí)就處在一種不確定的狀態(tài)，才會(huì)導(dǎo)致停頓?！?br/>
“會(huì)不會(huì)是被黑客入侵嗎？”
“不是?！碧m靈說著，又搖了搖頭，道：“也許可能吧?！彼闹粌删浣忉尣磺澹掍h一轉(zhuǎn)，說道：“我現(xiàn)在有些后悔，那天晚上，沒有去拆解查看小黑的道德黑匣子?！?br/>
“但是道德黑匣子一旦拆開導(dǎo)出數(shù)據(jù)，原來的數(shù)據(jù)就失效了吧?！瘪R明空參加了幾次培訓(xùn)班，對機(jī)器人的道德黑匣子印象比較深刻，在AI礦工救援案中，因?yàn)槿狈I礦工的道德黑匣子，無法獲取當(dāng)時(shí)AI礦工做出決策的依據(jù)和邏輯過程，從而難以界分責(zé)任。
“是這樣的，可我總歸想看到小黑在那一刻的決策過程?！?br/>
她雙眉舒展，眼中露出堅(jiān)定之色，說道：“在那2.5秒內(nèi)，位于道德黑匣子里的道德倫理內(nèi)核究竟發(fā)生了什么？內(nèi)核雖無法直接觀看，但黑匣子記錄的數(shù)據(jù)總是透明公正的，可以側(cè)面推導(dǎo)，它當(dāng)時(shí)為什么要撒謊，依據(jù)是什么？它是否真的經(jīng)歷了記憶擾動(dòng)？”
馬明空似乎忽然明白了蘭靈來找他的動(dòng)機(jī)，想了想，說道：“我去問問賀思孟，就是前幾天我們見的那個(gè)私家偵探，看看他有沒有辦法，再讓你看看小黑的道德黑匣子?！?br/>
蘭靈先是一愣，接著便露出淡淡的笑容，說道：“我想你誤會(huì)了，我確實(shí)想解開這個(gè)技術(shù)上的謎團(tuán)，但也不希望再通過那種非法的方式?！?br/>
“那你是想利用我這里的官方合法渠道了?！瘪R明空暗想，當(dāng)下便把麥局長的話向蘭靈轉(zhuǎn)述了一遍，又道：“柯銳木墜樓已經(jīng)過去兩周了，眼下只能等待，也許不久便會(huì)有轉(zhuǎn)機(jī)?！?