?到達(dá)虛擬辦公室，小D也從家里上線趕過(guò)來(lái)，通宵值班的他剛剛回家睡下不久。我們很快接通深藍(lán)V的管理程序，Neell的狀態(tài)顯示是正常運(yùn)行中，深藍(lán)V的資源占用也是90％。

    “一切正常啊?！毙已經(jīng)準(zhǔn)備動(dòng)手教訓(xùn)這個(gè)妨礙他睡覺(jué)的元兇了。

    “菲列特利佳，解除休眠狀態(tài)！”葉露召喚到。來(lái)這之后，她就讓菲列特利佳休眠了。

    果然，深藍(lán)V的運(yùn)行程序中多了菲列特利佳的AI系統(tǒng)，但資源占用仍然是90％。

    “這又能證明什么？菲列特利佳只是一個(gè)普通AI，它占用的資源對(duì)深藍(lán)V來(lái)說(shuō)只是九牛之一毛。”

    “奇怪就在這里，你看看游戲服務(wù)器的處理量?！?br/>
    小D查看了服務(wù)器的工作情況，低峰期大部分服務(wù)器關(guān)閉維護(hù)，剩余系統(tǒng)負(fù)荷達(dá)89％。

    “服務(wù)器集群由多臺(tái)電腦組成，雖然單機(jī)遠(yuǎn)不如深藍(lán)V，但是綜合能力并不低。菲列特利佳如果沒(méi)有超越游戲主機(jī)的許可處理能力，怎么會(huì)被移交到深藍(lán)V？可是深藍(lán)V的負(fù)荷卻一點(diǎn)也沒(méi)有變。”

    一旦發(fā)現(xiàn)問(wèn)題，小D反應(yīng)迅速。很快我們發(fā)現(xiàn)深藍(lán)V上運(yùn)行的這個(gè)Neell只是冒牌貨，它的主要任務(wù)是做些無(wú)用的運(yùn)算來(lái)保持90％的總資源占用率。真正的Neell已經(jīng)被停機(jī)。冒牌貨的優(yōu)先級(jí)非常低，難怪菲列特利佳可以搶到90％的資源。

    事情已經(jīng)超出了“事故”的范疇，這肯定是有人背后搗鬼。用假的Neell瞞過(guò)深藍(lán)V的監(jiān)視人員，目的是什么呢？

    通知了時(shí)代公司的值班人員，我們能做的只有靜靜等待。

    **

    一會(huì)，睡眼惺忪的小A也來(lái)到了虛擬辦公司。

    “是內(nèi)jiān。有人想乘公司員工通宵工作后休息的這段空白，對(duì)Neell動(dòng)手腳?！?br/>
    “Neell怎么樣了？”

    “內(nèi)jiān招供說(shuō)只是破壞了Nell的備份，還沒(méi)來(lái)得及修改主程序，就被我們發(fā)現(xiàn)了。技術(shù)人員檢查后也發(fā)現(xiàn)Neell根本沒(méi)有被改動(dòng)。真要感謝你們，雖然你們一直沒(méi)做什么好事。”

    “呵呵，你們想要什么獎(jiǎng)勵(lì)呢？”小D也笑著放下了一直懸著的心。大方是理所當(dāng)然的，Neell可是包含了他們一個(gè)月的心血。

    “Neell是不是已經(jīng)恢復(fù)運(yùn)行了？”我突然問(wèn)。

    “是啊，檢查后沒(méi)有發(fā)現(xiàn)問(wèn)題，當(dāng)然繼續(xù)運(yùn)行?！毙有些奇怪。

    我和葉露對(duì)望了一眼。

    “我們想看看Neell，這就是獎(jiǎng)勵(lì)，可以嗎？”

    “這個(gè)，本來(lái)就是要和玩家見(jiàn)面的?！?br/>
    “不，我們要以管理者權(quán)限訪問(wèn)?！?br/>
    **

    在小A的監(jiān)督下，我們開(kāi)始查看Neell的高級(jí)信息。

    “沒(méi)錯(cuò)，Neell在早上6點(diǎn)就被停了，我們發(fā)現(xiàn)的時(shí)候是9點(diǎn)。”仔細(xì)檢查后，我得出結(jié)論。

    “其實(shí)我也很奇怪，這么長(zhǎng)的時(shí)間內(nèi)jiān都沒(méi)有下手?？墒墙?jīng)過(guò)仔細(xì)認(rèn)定，Neell的確沒(méi)有被修改過(guò)?！毙理解我們的疑問(wèn)。

    “Neell重新運(yùn)作后，第一件事情是干什么？”葉露問(wèn)到。

    “當(dāng)然是調(diào)看客服歷史記錄，補(bǔ)回停止工作的這段時(shí)間?！毙答到。

    “它會(huì)向客服部的主機(jī)調(diào)閱記錄嗎？”

    “不會(huì)，Neell會(huì)在深藍(lán)V上保有短期客服記錄。糟！你是說(shuō)兇手的目標(biāo)根本不是直接修改Neell，而是用假Neell篡改這段時(shí)間的歷史記錄！”錯(cuò)誤的客服記錄一樣可以誘導(dǎo)Neell學(xué)壞，而對(duì)這種復(fù)雜的人工智能系統(tǒng)而言，學(xué)到錯(cuò)誤的規(guī)則比人為破壞還要可怕。

    小A慌張張的退出了辦公室。過(guò)了一會(huì)，小A又笑著回來(lái)了。

    “我們做了十萬(wàn)次的模擬玩家投訴測(cè)試，沒(méi)有發(fā)現(xiàn)任何邏輯錯(cuò)誤?！?br/>
    “那就好了，肯定是內(nèi)jiān良心發(fā)現(xiàn)?！毙第二次放下了心。

    真的如此嗎，為什么還是覺(jué)得哪兒不對(duì)呢？

    “你喜歡看柯南嗎？”我突然問(wèn)了一個(gè)不相干的問(wèn)題。

    “看過(guò)，這個(gè)有關(guān)系嗎？”

    “那你告訴我，忠實(shí)的獵狗為什么會(huì)殺死他的主人？”

    “嗯？？”小A和小D一頭霧水。

    “因?yàn)?，鐘聲之后，溫馴的獵狗，就會(huì)變成惡犬！”名偵探葉露說(shuō)出了答案。

    **

    十億次的模擬測(cè)試也好，投入實(shí)用也好，Neell都會(huì)表現(xiàn)完美。然而，只需要兇手偽裝成玩家投訴，發(fā)出一個(gè)小小的信號(hào)，Neell就會(huì)永遠(yuǎn)的變成劊子手。這個(gè)規(guī)則，已經(jīng)由錯(cuò)誤的客服記錄，深深的植入Neell數(shù)以億記的邏輯晶片中?，F(xiàn)在的Neell，就像一個(gè)嘗過(guò)鮮肉味道的馬戲團(tuán)獅子，隨時(shí)都可能撲向飼養(yǎng)員。

    “真的，會(huì)是這樣嗎？”小A無(wú)力的癱軟在椅子上，任由我和葉露繼續(xù)eell。

    “不能逆轉(zhuǎn)？”我一邊解讀錯(cuò)誤的客服記錄一邊問(wèn)葉露，對(duì)于自我學(xué)習(xí)系統(tǒng)我的了解非常有限。

    “如果真如我們所猜的那樣，只有逆處理才能保證絕對(duì)安全?！?br/>
    “逆學(xué)習(xí)過(guò)程費(fèi)時(shí)費(fèi)力，像Neell這么復(fù)雜的系統(tǒng)，一周能逆處理1萬(wàn)條就不錯(cuò)了?！毕氲阶顗牡那闆r還有補(bǔ)救，小A稍微平靜了些。

    終于，情況確定，整整3萬(wàn)條錯(cuò)誤的記錄被Neell讀取，涉及Nebsp;90％的邏輯規(guī)則。

    “條數(shù)太多了，情況比預(yù)想的糟得多?！比~露眉頭深鎖。

    “你是說(shuō)3周的加班？和獸王的咆哮彈相比，這不算什么?！毙已經(jīng)接受了自己的悲慘命運(yùn)。不過(guò)，他突然想到一件事：

    “小D，深藍(lán)V有多少處理器？”

    “128個(gè)，怎么？”

    逆學(xué)習(xí)的必要前提，絕對(duì)正確的順序。深藍(lán)V是多處理器并行系統(tǒng)?，F(xiàn)在的情況是，我們知道3萬(wàn)名乘客按順序進(jìn)入了候車大廳?？墒?，卻不知道他們是按什么次序通過(guò)128個(gè)檢票口的。這些可能xìng的數(shù)量如果換成一粒粒稻谷，可以塞暴一立方光年大小的谷倉(cāng)。

    如果不能用逆學(xué)習(xí)，對(duì)復(fù)雜的Neell而言，依靠學(xué)習(xí)新規(guī)則的辦法覆蓋錯(cuò)誤，就像讓馬戲團(tuán)的獅子吃菜忘掉鮮肉的味道一樣，是不可能做到完全的。隱患，猶如達(dá)摩克利斯之劍，會(huì)始終懸在頭上。

    我們有些同情的看著小A，他幾乎經(jīng)受不了這個(gè)打擊。這意味著上百萬(wàn)的投資，無(wú)數(shù)技術(shù)人員的辛苦努力都將付之東流。作為專家，他比任何人都明白將為此付出的代價(jià)。

    “也許，我們還有最后一個(gè)機(jī)會(huì)?！背聊肆季茫~露突然說(shuō)。

    **

    再次對(duì)客服記錄和Neell展開(kāi)詳細(xì)查詢，不過(guò)這次是由小A和他的電子助手Amelie來(lái)完成。小A一直負(fù)責(zé)Neell的技術(shù)工作，Amelie也因此被植入了大量檢索AI邏輯規(guī)則的輔助程序。

    “統(tǒng)計(jì)結(jié)果出來(lái)了，觸發(fā)Neell進(jìn)入‘狂亂’狀態(tài)的規(guī)則共有13000條，1％會(huì)讓Neell永久進(jìn)入‘狂亂’，其余99％只是臨時(shí)‘狂亂’。”小A給出了狀況報(bào)告。

    “130條嗎？狂亂的行為規(guī)則有多少條？”葉露繼續(xù)問(wèn)。

    “40條?！?br/>
    “哲理，130和40的排序問(wèn)題深藍(lán)能夠處理嗎？”

    “我算算看?！毙眼皮早就在打架，所以排序模型的建立工作只好我一個(gè)人來(lái)。

    “如果只有這些的話，深藍(lán)V需要1小時(shí)完成所有的檢索?！边^(guò)了一會(huì)我給出回答。

    “你是說(shuō)只改動(dòng)這13040個(gè)邏輯節(jié)點(diǎn)？”小A問(wèn)葉露。

    “嗯。”

    “這些節(jié)點(diǎn)可不是lì的，其它相關(guān)節(jié)點(diǎn)起碼還有1億個(gè)?！?br/>
    “掐斷就行了。”葉露非常輕松的說(shuō)。

    “怎么可能，你這就好想剪斷罪犯的腦血管來(lái)消除犯罪，除非你保證血液不經(jīng)過(guò)你剪斷的血管?！痹谛看來(lái)這根本就是在謀殺Neell。邏輯節(jié)點(diǎn)牽一發(fā)而動(dòng)全身，刪除那些節(jié)點(diǎn)的唯一結(jié)果就是Neell一旦涉及到“是否該發(fā)狂”的判定，就陷入邏輯錯(cuò)誤當(dāng)機(jī)。

    “在什么情況下，無(wú)論兇手如何觸發(fā)，Neell都不會(huì)去判斷自己‘該不該發(fā)狂’？”

    “不可能靠屏蔽，太多了。何況，不需要兇手觸發(fā)，Neell自己也會(huì)不停進(jìn)行這個(gè)判斷?！毙迅速回答。

    “堵不行，就疏。只要讓Neell‘發(fā)狂’，那么所有的觸發(fā)規(guī)則就如同廢紙。”

    “讓Neell永久發(fā)狂？”

    “沒(méi)錯(cuò)，之后只需手動(dòng)逆轉(zhuǎn)13040個(gè)節(jié)點(diǎn)，把‘非發(fā)狂’和‘發(fā)狂’的思維模式對(duì)換。雖然這會(huì)形成上億個(gè)邏輯錯(cuò)誤，可是，這些原本是用來(lái)讓Neell發(fā)狂的邏輯規(guī)則再也不可能被觸動(dòng)了?！?br/>
    “就好象瘋子不能再瘋了，哈哈！你真是天才！”小A興奮的和小D來(lái)了個(gè)擁抱，他想抱葉露的時(shí)候被踢了出去，讓本想借機(jī)占便宜的我偷偷收回了手臂。

    ;

    【木魚哥溫馨提示：如果您喜歡本書，請(qǐng)按回車鍵回到目錄頁(yè)，并使用分享按鈕分享到微博和空間，舉手之勞，分享越多更新更給力！】

    ；

    －－－－－－－－－－－－－

    －－－－－－－－－－－－－

    －－－－－－－－－－－－－

    －－－－－－－－－－－－－