司南車公司作為一家老牌的無人駕駛汽車制造廠商，最近幾年突然殺入家用機器人領域，在渡過最初的事故頻發(fā)階段后，便一路順風順水，不斷擴張，去年更在希林市郊投資新建了一處機器人設計研究院和總成裝配廠，蘭靈和馬明空拜訪的便是這家機器人設計研究院，接待他們的是喬窮思研究員，這是巴天潤幫蘭靈聯(lián)系的，巴天潤在本市的AI領域頗具威望，由他幫忙引薦，是再好不過的。
“巴老是我的前輩，對我們這些小輩總是關愛有加，我有幸聆聽過他的教誨，當真是如沐春風，”喬窮思推了推鼻梁上的金絲眼鏡，指著桌面上的一張機器人照片，笑道：“編號JAZR4405203904258229的家政機器人，確實是我們公司出品的，蘭教授昨天在郵件中提到的幾個問題，我也進行了書面回答，你們還有什么疑慮，我能回答的，當知無不言?！?br/>
“你在郵件中說明了偃師系列的家政機器人具備網絡報警功能，可是這臺編號JAZR4405203904258229的機器人確是自行來到公安局報案，如何從技術上解釋這種行為呢？”蘭靈問道。
喬窮思微微一笑，他昨日收到蘭靈的郵件后，立刻請示了他所在實驗室的主任，后者在一番思考后，批示了八個字“此案已結、自行把握”，此前巴天潤在電話里暗示了蘭靈并不好相與，其實就算沒有巴天潤的暗示，他對蘭靈也早有耳聞，畢竟他們這個圈子不大，所以他還是事先做了一番功課，當下便說道：“確實很奇怪，這不應該是正常的行為，我們也想研究一下，可惜暫時沒有當時的數據，不知道警方能不能提供這方面的便利？”
馬明空和蘭靈對視一眼，馬明空心想，這巴天潤聯(lián)系的都什么人??？蘭靈卻道：“那你同意它的行為是自主選擇嗎？”
喬窮思聽了，心知自己作為一個被業(yè)內名宿引薦的研究員，倘若再說“不知道”或拿沒數據推搪，自己都覺得面子掛不住，他咳嗽了一聲，斟酌道：“我個人認為，這是一種自主選擇的行為，但本質上，也沒有偏離被賦予的報警應用，只是方式偏離了廠家指導，這種情況并不罕見，蘭教授，你知道偃師系列是分檔的，低檔在炒菜時是不會顛勺的，腕部缺少一個部件，可是我們在家庭回訪活動中發(fā)現，有個低擋機器人不知道什么原因，用一只手抓住另一只手腕的方式，通過肘部的活動，學會了顛勺，雖然不如高檔的那么靈活自如，但確實是在有意識的顛勺炒菜，這是一個自發(fā)的創(chuàng)造，基于現有能力組合的創(chuàng)造，AI安全法里預見了這種能力，并認為是可被允許的，我也沒想到，能這么快親眼目睹這一奇跡?！?br/>
這是一個完美的回答，蘭靈心想，她本來還準備了小黑獨自出門上街的提問，現在連這個問題也不必問了，于是話鋒一轉，問道：“小黑，”她停頓了一下，微微一笑，道：“就是那個家政機器人，這是它的名字，是三年前的產品，偃師系列是最近一年才支持注冊ITPS，我注意到你們產品升級換代的頻率是很快的，而小黑也注冊到了ITPS，這是被允許的嗎？”
“這個你們恐怕要去4S店查看了，”喬窮思笑道：“我們對4S店的約束是有限的，有時候，只要他們能做到，就沒有他們不做的，不管是硬件上還是軟件上?！?br/>
“機器人的運行數據和應用數據總歸要傳遞到司南車公司的，按照法律，銷售的機器人產品必須在機器人運營商那里注冊上線，而司南車公司也是機器人運營商，依慣例，小黑應該也是注冊在你們公司運營的吧?！?br/>
“是的，不過那只是為了改善和提高AI算法，我們不會讀取用戶數據的?！?br/>
“你是說，小黑最近一次重啟換血的時間，你們不知道么？”蘭靈在昨天郵件中就問了這個問題，喬窮思并沒有在回信中回答。
“它上報的運行數據中，定會包含這個信息的，但是，如果你們只是來咨詢關于家政機器人的技術問題，我們很難給出相關數據。”
馬明空在一旁一直默然不語，聽了兩人對話，暗想這個喬窮思相當老練，自己與蘭靈和巴天潤說起來怎么也算是有點交情的，不知為何要推薦此人，難不成此間再無他人，他再次環(huán)顧四周，這是一間擺滿了各種機器人零部件的房間，另有一個機器人跟在喬窮思身邊，這是將要發(fā)布的版本，按喬窮思的說法，“自己的狗糧自己先吃”，馬明空卻對它感到不太舒服，因為它還沒有穿上外衣，內部構造一覽無遺，金屬桿像骨骼，線纜像血脈，腹部顯示器后堆疊的四個小盒子也讓他莫名的想到內臟，他清了清嗓子，向椅背上一考，說道：“喬研究員，江帆大廈8801墜樓案確實已經結案，不過這個叫小黑的機器人行為如此反常，這點你自己也是同意的，家政機器人已走進千家萬戶，我們新型案件偵破科有責任查清它背后的原因和動機?！?br/>
喬窮思聽了，心中不免一緊，他剛才和蘭靈對答之間，對自己的表現還是比較滿意的，得意之間，差點忘了，對面還坐著一個正兒八經的警官，他想起巴天潤昨日在電話里提到了數月前發(fā)生的那起珠寶行搶劫案，急忙道：“這是一定的，配合警方，消除民眾疑慮，是我們應盡的責任?！?br/>
蘭靈微微一笑，朝馬明空頷首示意，也道：“沒錯，AI商用安全法制定了可解釋性原則和透明度原則，消費者可以援引這兩條原則要求制造商解釋機器人的工作原理，要求運營商公開運營數據。”
喬窮思心下雪亮，暗想對方定是因墜樓案已結案，無法從這個小黑的家里拿到數據，卻跑到這里來想打秋風，只是如何打發(fā)卻要費番思量，即想到墜樓案，便也笑道：“江帆大廈8801號這樣的家庭，除了家政機器人，定還有不少智能設備，因此上，這個叫小黑的運營數據應是先通過家庭網關傳送上來的，從那里取數據才是最便捷的?！?br/>
馬明空聽他又轉了回去，不禁心下有氣，嘿了一聲，道：“小黑的女主人曾言道，當日若它沒有出去報警，說不定事情還不會這么糟，因此警方必須要知道小黑如何以及為何做出到公安局現場報警的決定，這對于責任分配至關重要?！?br/>
他這話說的已是相當之重，末了，又補上一句：“蘭教授，這和你剛才說的可解釋性原則還是透明度原則，應該是一致的吧?！?br/>
蘭靈本不想一下子把對方逼到墻角，可喬窮思總這般兜兜轉轉也不是辦法，當下便也道：“不錯，這就是可解釋性原則，過程可解釋和決策可解釋。透明度原則是說數據來源透明和技術透明，前者要求運營商不能基于偏見采集及處理原始數據，后者要求AI的運營具有可審計性，并可據此了解開發(fā)者的意圖，我想，在本案中，對小黑的技術透明度也是要關注的，家庭網關只是一個數據中轉器，可解釋性原則和技術透明度都不涉及它?！?br/>
喬窮思聽罷，暗暗叫苦，己方的數據是絕不能讓蘭靈和馬明空拿走的，對方即沒有出示協(xié)助調查涵，領導也沒有授權自己，只是對方圖窮匕首見，說不得只好放手一搏，當下苦笑道：“馬科長、蘭教授，非我在此推三阻四，這兩條原則我豈能不知，只是原則說起來容易，操作起來實則沒那么簡單，蘭教授，你總該知道機器人的三級大腦吧。”
蘭靈點頭道：“機器人本腦邊腦云腦三位一體，服務在三腦間分布協(xié)同?！?br/>
“我舉個例子，倘若一個機器人第一次看到人類被香蕉皮滑倒摔了一跤，下次再看到地下有香蕉皮，預測會滑倒人類從而主動拾起香蕉皮，這個過程是怎么實現的呢？”喬窮思看向馬明空，說道：“首先，人類被香蕉皮滑倒摔了一跤的視頻會上傳到邊緣，邊緣大腦并不知道這段視頻有什么用，只是脫敏保存，其后這段視頻便會上傳到云端，在那里，所有的視頻都會被逐個解析，云端大腦讀到這段視頻，再結合其它知識，分析這是偶然的還是必然的，比如云端大腦已經知道人類踩到地上的水會摔跤，而香蕉皮和水都有濕滑的共性，所以它得出一個結論，人踩到香蕉皮摔倒是必然的，云腦把這個知識下發(fā)到邊緣及本端大腦，以后，機器人再看到地上有香蕉皮，就會預測生效而主動拾起香蕉皮。關鍵是，云端不會保存最初那段人類被香蕉皮滑倒摔跤的完整視頻，它被云端提煉拆解歸類了，這還是云端認為有用的視頻，云端認為無用的，一個字節(jié)都不會保存，因此，”他洋洋灑灑的說了一長段，歇了口氣，最后總結道：“關于這個小黑，它脫敏后的完整數據在邊緣系統(tǒng)或在歸檔系統(tǒng)里，我們這里是無法直接看到的，我們這里只有云端數據，但它是零散不全的?！?br/>
馬明空的眉頭已經凝成一團，蘭靈卻似是胸有成竹，只微笑道：“云端對數據價值的判斷，十之八九不會錯的，不會比人類更差，至于脫敏，也不是絕對的?！?br/>
她盯著喬窮思，語速突然加快：“我知道，我們昨天預約，今天便來，倘若要取證數據，確實有點唐突，這樣罷，我便在這里，直接查看云端數據，可以嗎？”
“云腦中大量的量子算法，不能夠直接觀察，一看就塌縮?！眴谈F思掙扎著，聲音卻越來越小。
蘭靈微微一笑：“看看數據而已，相信這些數據都是算法自己生產的，可以嗎？”
————————————————
設計研究院位于龍門區(qū)，離市區(qū)頗遠，蘭靈和馬明空出了設計研究院，同乘蘭靈的車直奔雙木分局，馬明空坐在車里，一直沒有吭聲，他的車則跟在后面，他知道蘭靈既然主動邀請他同乘，一定是有什么發(fā)現且愿意告訴他，剛才，就在喬窮思的辦公室里，蘭靈用喬窮思的電腦登錄到家政機器人的云端運營大腦，一個人在那里足足看了1個多小時，離開時，喬窮思黑著臉，連禮節(jié)性的起身相送都懶得應付一下了，只象征性的揮了揮手。
“小黑已經快一年沒有重啟換血，最后一次是去年的11月22日，”蘭靈坐在他對面，一直看著窗外，此刻收回目光，說道：“這意味著，它本端的數據一直在積累。”
“你剛看出來的？”
“是的，我說了，脫敏不是絕對的，有些信息，是可以分析出來的?！碧m靈難得的露出了一個頑皮的笑容，說道：“喬窮思剛才那長篇大論，有意無意的在誤導一個事實，可云端存儲的機器人運營數據，卻不止視頻內容?！?br/>
方才，馬明空陪著喬窮思默默的坐在辦公室的一角，偶爾瞥見喬窮思的電腦屏幕，心里只想，蘭靈要如何讀懂那些天書一般的數字，現在看來，他的擔心是完全多余的，馬明空心中暗自贊嘆，問道：“小黑去公安局報警的行為有解釋嗎？”見蘭靈搖了搖頭，又問道：“要不要去找那個什么邊緣系統(tǒng)，查閱小黑的完整數據？”
“暫時沒必要，可解釋性的核心在AI大腦，”蘭靈思索了一下，說道：“喬思窮有點說的對，原則總是原則，實際操作沒那么容易，不要說我們手頭沒有家政機器人的AI大腦，有的話，可能也打不開，它們總是黑箱，可解釋性很難通過直接觀察AI大腦判斷，一般只能在算法決策和算法主體之間建立關系，通過邏輯推演對局部的輸入輸出進行解釋?！?br/>
“有完整數據不是更好推演嗎？”
“是的，不過，”蘭靈的目光變得深邃，聲音也似乎飄渺起來：“我總是想親眼看到這樣的AI大腦。”
“不是說機器人大腦三位一體么，剛才你沒看云端大腦？”
“沒有，也不需要，”蘭靈說道：“云腦和邊腦是所有連接機器人在使用，共享甚至協(xié)同，如果小黑真有什么與眾不同之處，一定在它的本體中，其實對家政機器人來說，運營這么多年，絕大多數知識已經固化，云腦和邊腦的作用越來越弱，除了廣告推送，”蘭靈低低的輕嘆一聲：“也許，當初擔心的事情就會變成現實?！?br/>
“擔心什么？”
“在設計之處，邊腦和云腦被賦予了一個重要使命，一個隱含的重要使命，同化接入的機器人，千篇一律才能避免個體的突變，沒有個體的突變，智慧也就無從發(fā)生，”
蘭靈的目光投向窗外的遠方，說道：“即使個體突變，也會通過重啟換血抹去。”
蘭靈的車停在雙木分局的門口，馬明空下了車，站在車門口，誠懇的對蘭靈道：“蘭教授，我真的希望，你能重新考慮，是否加入新型案件偵破科？”
“我一直是市局的科學顧問，一樣可以協(xié)助破案，而且，”蘭靈微笑道，“我在外面，總好過被一鍋端那?！?br/>
她朝馬明空揮了揮手，馬明空知她最后一句說的乃是數月前珠寶行搶劫案專案組被解散、蘭靈在外查到劫匪住所之事，也只好笑了笑，和蘭靈揮手道別。
馬明空回到會議室時，艾新好、來勇和顏樂春都在，他簡單說了下上午的收獲，顏樂春興奮的道：“好家伙，這小黑是要造反了，老馬，我們仨上午出去在各4S店找小黑做保養(yǎng)的記錄，老艾在離江帆大廈不遠的一家司南車4S店里，找到了小黑做保養(yǎng)的記錄，但是只有前兩年的，我在江尾區(qū)一家4S店里，發(fā)現了小黑一年前做保養(yǎng)的記錄，做了一次軟硬件大升級，升級到了當時偃師最新的版本，本市的偃師4S店只有7家，我們都排查過了，除非他們跑到外市去了?！?br/>
“最后那次保養(yǎng)是哪天？”
“就是你剛說的，去年11月22日，”顏樂春說道，又得意洋洋的道：“還有，你猜，它是怎么注冊到ITPS的？”
“保養(yǎng)的時候？”
“不錯，4S店的小哥說，他記得好清楚，當時還開玩笑的說，你們這么升級，比新買一臺最新版本的偃師機器人還貴?！?br/>
“誰帶小黑去的？”
“這你估計就猜不到了，”顏樂春笑道：“是柯銳木先生，不過4S店的小哥說，當時還有一位女士在場，是不是楚蕙就不知道了。”
馬明空“嗯”了一聲，沒再發(fā)問，過了半響才道：“008號，江帆大廈8801墜樓案，不考慮它已經結案，你認為在邏輯上有什么疑點嗎？”
“沒有?！?08號回答的很干脆。
“編號JAZR4405203904258229的機器人呢，它的行為是否超過了它的職責？或者說，是否被機器人AI大腦授權的？”
008號沉默了一會，道：“馬明空警官，你的問題超出了我的能力范圍。”
馬明空點了點頭，說道：“這個案子，不管如何都已經結案了，先就這樣罷?！?