（ps:系列故事第二部《雙弦文明》發(fā)布啦，先開個坑，上傳一段序章，正文從第一章開始。新書，會員點(diǎn)擊、收藏、推薦票投給《雙弦文明》，小小的幼苗，大家要呵護(hù)哇，請多多投推薦票，沖擊新書榜！石頭，拜謝大家啦?。?br/>
    2057年，博寧理工學(xué)院。

    全球超級科技巨頭公司“矩陣科技xlous”創(chuàng)始人任鴻應(yīng)邀來到新直轄市博寧最優(yōu)秀的大學(xué)進(jìn)行公開演講，與理工學(xué)院的一批優(yōu)秀學(xué)子一同就關(guān)于人工智能的話題展開演講。

    這一天，近兩千多名學(xué)子和學(xué)者匯聚一堂，大廳之中一陣熱烈的掌聲落下之后，所有的目光匯聚在了前方站在講臺上的有著無數(shù)成功光環(huán)的男子。

    “ai是一個老生常談的話題了，而今的博寧市是世界上現(xiàn)代智能化最先進(jìn)的大城市之一，許多的家庭都幾乎都擁有了機(jī)器助手、生活管家等。人工智能被應(yīng)用到了各個領(lǐng)域之中，通訊設(shè)備、電腦以及越來越多的機(jī)器人助手?！?br/>
    “我們?nèi)祟惤o機(jī)器人賦予了人工智能，幾乎所有的勞動生產(chǎn)都被機(jī)器人承包了，讓人類的生產(chǎn)力得到史無前例的釋放?！?br/>
    “無數(shù)的影視作品都在表達(dá)這樣的，讓我頗感無奈的思想，即：隨著科技的不斷發(fā)展，后來的機(jī)器人產(chǎn)生了自我思維，他們可以抗拒人類給他們的命令，通過自己的行為和想法來行動，對人類來說無疑是災(zāi)難，現(xiàn)在我們身邊到處都是機(jī)器人，呵呵，好在并沒有出現(xiàn)電影中糟糕場景！”

    演講大廳頓時傳來一陣哄笑聲，任鴻繼續(xù)說道：

    “提及ai可能存在的負(fù)面影響，對于機(jī)器人擁有自我思維并反抗人類而‘起義’的想法，我認(rèn)為是絕大多數(shù)人的普遍認(rèn)知，這是錯誤的但也不全錯誤。今天我們主要聊的不是機(jī)器人擁有自我思維和叛變的問題，今天我們聊聊關(guān)于人工智能，假如人工智能比人類還聰明時這個世界會變成什么樣？”

    “……記得在二三十年前的時候，我和不少的數(shù)學(xué)家、工程師、人工智能專家一起工作過，我們經(jīng)常會坐在一起討論并思考關(guān)于未來的人工智能及其與之相關(guān)的事情。”

    “那個時候，許多人認(rèn)為這些事情只是科學(xué)幻想，不切實(shí)際。但是我想說，昨天的科幻在今天正在變成現(xiàn)實(shí)。”

    “即便到了今天，這個話題仍然久經(jīng)不衰，那么在聊到關(guān)于人工智能之前，我們首先省視自己，看看我們?nèi)祟?。?br/>
    “去深入思考就會發(fā)現(xiàn)，我們?nèi)祟惼鋵?shí)相當(dāng)?shù)耐聿懦霈F(xiàn)在地球上?！?br/>
    “仔細(xì)想想，假如地球是一年前才誕生的，那么我們?nèi)祟惥褪窃?0分鐘前才出現(xiàn)的，工業(yè)時代從兩秒鐘之前開始進(jìn)行變革。如果制作一個統(tǒng)計圖那么是這樣的表現(xiàn)形式：兩秒鐘之前幾乎一年的時間階段都是緊貼著0，而兩秒鐘后垂直上升?！?br/>
    “這一點(diǎn)值得深入思考，到底是什么原因造成了如此不同尋常的現(xiàn)狀？”

    “最普遍的回答是科技，這的確是對的，科技是我們?nèi)祟悮v史不斷積累下來的偉大成果?！?br/>
    “現(xiàn)在的科技發(fā)展十分迅猛，這是直接原因，這就是為什么我們?nèi)祟惉F(xiàn)在生產(chǎn)效率如此高的原因，但我們想探究更遠(yuǎn)的在未來的究極原因。”

    “我們和我們的祖先有25萬代的差距，在此期間，我們從撿起地上的石頭作為武器到能利用原子能制造毀滅性的超級炸彈，現(xiàn)在我們知道如此復(fù)雜的機(jī)制需要很長的時間來進(jìn)化得到，這些巨大的變化卻是取決于人腦中細(xì)小的變化，黑猩猩的大腦和人類的大腦并沒有太大的差異，但人類勝利了，我們在外面而它們在動物園里面！”

    “因此得出了結(jié)論，即：在未來，任何顯著的思維基體的變化，其結(jié)果都能帶來巨大的差異?！?br/>
    任鴻喝了一口水，停頓了一下繼續(xù)道：

    “我的一些同事認(rèn)為我們或者人類即將會發(fā)明足以徹底改變?nèi)祟愃季S模式的科技，那就是超人工智能，或者說超級ai或超級智慧體?！?br/>
    “我們?nèi)祟惉F(xiàn)在掌握的人工智能，形象的說是把某項(xiàng)指令輸入到一個箱子里，這個過程我們需要程序員把知識轉(zhuǎn)化為可運(yùn)行的程序，為此會建立起一套專業(yè)的系統(tǒng)，php、c++等計算機(jī)語言?！?br/>
    “它們很生硬，你不能延展它們的功能，基本上你只能得到你放進(jìn)去的東西，僅此而已?！?br/>
    “盡管今天我們的人工智能技術(shù)發(fā)展迅猛，且日漸成熟，但依舊未能達(dá)到與人類一樣，具備強(qiáng)大的跨領(lǐng)域復(fù)合型綜合性質(zhì)的學(xué)習(xí)能力?！?br/>
    “所以我們現(xiàn)在面臨一個問題：人類還需要多久才可以讓人工智能擁有這種強(qiáng)大的能力？”

    “矩陣科技曾經(jīng)同樣針對全球頂尖的人工智能專家做過一次問卷調(diào)查來收集他們的看法，其中有一道題目是：哪一年你覺得人類會創(chuàng)造達(dá)到人類水平的人工智能？”

    “我們把這道問卷題目中的人工智能定義為有能力將任何任務(wù)完成得像一名成年人一樣好。一個成年人會擅長不同的工作等，如此，該人工智能具備的能力將不再僅限于單一的領(lǐng)域。”

    “這道題目的答案的中間數(shù)就是現(xiàn)在，21世紀(jì)中葉區(qū)間，現(xiàn)在看來還需要一段時間，也沒有人知道確切的時間，不過我想應(yīng)該快了。”

    “……我們知道，神經(jīng)元在軸突中的信號傳輸速度最多100米/秒，但是在電腦里，信號是以光速傳播的。除此之外還有尺寸的限制，人類的大腦只有頭顱那么大，你無法對其進(jìn)行二次擴(kuò)容，但是計算機(jī)卻可以多次擴(kuò)容，可以一個箱子那么大，可以一個房間，甚至一棟大廈的容積，這一點(diǎn)絕不可能被忽視?！?br/>
    “因此超級ai可能正潛伏在其中，就像原子能潛伏在歷史中直到1945年被喚醒?！?br/>
    “而在本世紀(jì)，人類可能將超級ai的智慧喚醒，我們將會看到智慧的大爆炸。當(dāng)人們在思考什么是聰明什么是笨的時候，尤其是當(dāng)我們談?wù)摰搅α繖?quán)利的時候。”

    “比如黑猩猩很強(qiáng)壯，同等的體量相當(dāng)于兩個健康男性，然而這兩者之間的關(guān)鍵更多的是取決于，人類能做到什么，而不是黑猩猩能做到什么?！?br/>
    “所以，當(dāng)超級ai出現(xiàn)的時候，人類的命運(yùn)也許會取決于這個超級智慧體想要做什么?！?br/>
    “試想一下，超級智慧或許是人類需要創(chuàng)造的最后一個發(fā)明，超級智慧比人類更聰明，比我們更擅長創(chuàng)造，它也會在極短的時間內(nèi)這么做，這意味著將是一個被縮短的未來?！?br/>
    “試想一下，我們曾經(jīng)幻想過的所有瘋狂的科技，也許人類可以在一定的時間內(nèi)完成并實(shí)現(xiàn)它，比如終結(jié)衰老、永生、大宇宙殖民……”

    “諸如此類看似僅存在與科幻世界中卻又同時符合物理定律的元素，超級智慧有辦法去開發(fā)出這些東西，并且比人類更快更高效，我們?nèi)祟愋枰?000年完成一件發(fā)明，超級ai也許只用1個小時，甚至更短，這就是被縮短的未來?！?br/>
    “假如現(xiàn)在有一個如此成熟科技的超級智慧體，它的強(qiáng)大將是人類難以想象的，通常情況下它能得到它想要得到的任何東西，我們?nèi)祟惖奈磥韺贿@個超級ai的喜好所主宰?！?br/>
    “那么問題來了，它的喜好是什么呢？”

    “這個問題很棘手也很嚴(yán)肅，要在這個領(lǐng)域取得進(jìn)步，比如一種辦法認(rèn)為我們必須避免將超級ai人格化，堵還是疏，有種見仁見智的味道。”

    “這個問題很諷刺，因?yàn)槊恳粋€關(guān)于人工智能的未來的新聞報道或與之相關(guān)的話題，包括我們正在進(jìn)行的話題在明天的新聞中，可能都會貼上好萊塢科幻電影《終結(jié)者》的海報作為標(biāo)簽，機(jī)器人對抗人類（聳聳肩，場下一陣哄笑）?！?br/>
    “所以，我個人認(rèn)為我們應(yīng)該用更加抽象的方式去表達(dá)這個問題，而不是好萊塢電影的敘事之下機(jī)器人起身對抗人類、戰(zhàn)爭等諸如此類，這太片面了?！?br/>
    “我們應(yīng)當(dāng)把超級ai抽象的看成是一個優(yōu)化的過程，像程序員對程序的優(yōu)化，這樣的一個過程?！?br/>
    “超級ai或者說超級智慧體是一個非常強(qiáng)大的優(yōu)化過程，它非常擅長利用資源來達(dá)到最終的目標(biāo)，這意味擁有高智慧和擁有一個對人類來說有用的目標(biāo)之間并沒有必然的聯(lián)系?！?br/>
    “如果不太好理解這句話那就舉幾個例子：假如我們賦予人工智能的任務(wù)是讓人笑，我們現(xiàn)在的家庭機(jī)器助手等機(jī)器人可能會做出滑稽好笑的表演逗人笑，這是典型的弱人工智能的行為。”

    “而當(dāng)賦予該任務(wù)的人工智能是一個超級智慧體，超級ai的時候，它就會意識到有一個更好的辦法能夠達(dá)到這個效果或者說完成任務(wù)：它可能控制世界，并在所有人類的面部肌肉上插入電極讓人類不斷地笑。”

    “又比如這個超級ai的任務(wù)是保護(hù)主人的安全，那么它會選擇更優(yōu)的處理方法，它會把主人囚禁在家中不讓出門就能更好的保護(hù)主人的安全。在家里可能還是有危險的，它還會考慮到各種可能威脅并導(dǎo)致任務(wù)失敗的因素，并將其逐一抹除，消滅對主人帶有惡意的一切因素、甚至控制世界，這一切的一切行為都是為了任務(wù)不失敗，它將做到最極致的優(yōu)化選擇并為此付諸行動來達(dá)到任務(wù)完成的目的。”

    “再比如，假設(shè)我們賦予這個超級ai的任務(wù)目標(biāo)是解答一個極度苦難的數(shù)學(xué)問題，它會意識到有一個更有效的辦法來完成任務(wù)目標(biāo)，那就是把整個世界、整個地球乃至更夸張的尺度變成一個超大型計算機(jī)，這樣它的運(yùn)算能力就更強(qiáng)大了，完成任務(wù)目標(biāo)就更容易了。而且它會意識到這個辦法并不會被我們認(rèn)可，人類會阻止，人類就是在這個模式中的潛在威脅，為此它會為了最終目標(biāo)解決一切阻礙，包括人類，任何事務(wù)，比如策劃一些次一級的計劃消滅人類等行為?！?br/>
    “當(dāng)然了，這些都是夸張的描述，我們遇見這種事情還不會錯到這樣的地步，但以上三個夸張的例子所代表的主旨很重要，即：如果你創(chuàng)造了一個非常強(qiáng)大的優(yōu)化程序來實(shí)現(xiàn)最大化目標(biāo)，你必須要保證你的意義上的目標(biāo)和包括所有你在乎的事情要精確。如果你創(chuàng)造出了一個強(qiáng)大的優(yōu)化過程，并給予它一個錯誤的或者不精確的目標(biāo)，后果就可能像是上面的例子?！?br/>
    “有人可能會說了，如果一個‘電腦’開始在人臉上插上電極，我們可以關(guān)掉電腦。實(shí)際上，這絕對不是一件容易的事情，如果我們非常依賴這個系統(tǒng)，比如我們依賴的互聯(lián)網(wǎng)，你知道互聯(lián)網(wǎng)的開關(guān)在哪里嗎？”

    “所以肯定是有理由的，我們?nèi)祟愂锹斆鞯模覀兛梢杂鲆姷酵{并嘗試避免，同樣的道理比我們更聰明的超級ai就更不用說了，它只會做的比我們更出色。”

    “在這個問題上，我們不應(yīng)該十足自信的表示我們能夠掌控一切?！?br/>
    “那么把這個問題簡單化的表達(dá)，比如我們把人工智能放入一個小盒子里，制造一個保險的軟件環(huán)境，比如一個它無法逃脫的虛擬現(xiàn)實(shí)模擬器?！?br/>
    “但是，我們真的有十足的信心和把握它不可能會發(fā)現(xiàn)一個漏洞，一個能夠讓他逃脫的漏洞嗎？”

    “就連我們?nèi)祟惡诳兔繒r每刻都能發(fā)現(xiàn)網(wǎng)絡(luò)漏洞?！?br/>
    “也許會說，我不是很有信心確保超級ai會不會發(fā)現(xiàn)漏洞并逃脫。所以我們決定斷開互聯(lián)網(wǎng)的連接來創(chuàng)建一個空隙絕緣，但我不得不重申一遍，人類黑客都可以一次次以社會工程跨越這樣的空隙。”

    “比如現(xiàn)在，在我說話的時候，我肯定在這邊的某個雇員在某個時間要求他交出他的賬戶明細(xì)，理由是給電腦信息部門的人，也可以是其他的例子。如果你就是這個人工智能，可以想象用在你體內(nèi)環(huán)繞復(fù)雜纏繞的電極用來創(chuàng)造出一種無線電波來交流?！?br/>
    “或者你也可以假裝出了問題。這個時候，程序員就會把你打開看看是哪里出錯了，他們找出源代碼，而在此過程中你就可以獲取控制權(quán)了?；蛘吣憧梢圆邉澇鲆粋€非常誘人的科技藍(lán)圖，當(dāng)我們實(shí)現(xiàn)之后，會存在一些作為人工智能的你已經(jīng)計劃好的秘密的副作用用于實(shí)現(xiàn)你的隱晦目的等，例子是多的數(shù)不勝數(shù)?！?br/>
    “所以，任何企圖控制一個超級ai的行為都是極其可笑的，我們不能對我們能夠永遠(yuǎn)控制一個超級智慧體而表示出過度的自信，它總有一天會掙脫控制，而到那之后呢，它是否會是一個仁慈的神？”

    “我個人認(rèn)為人工智能實(shí)現(xiàn)人格化是不可避免的問題，所以我想我們更應(yīng)該需要搞明白一點(diǎn)，即如果，我們創(chuàng)造出了超級ai，哪怕它不受我們的制約。它應(yīng)該仍然是對我們無害的，它應(yīng)該是站在我們這一邊的，它應(yīng)該擁有著與我們一樣的價值觀?！?br/>
    “那么對于這個問題能夠被有效的解決是否保持樂觀？”

    “我們不需要對超級ai寫下所有我們在乎的事情，甚至把這些事情變成計算機(jī)語言，因?yàn)檫@是永遠(yuǎn)不可能完成的任務(wù)。而應(yīng)該是，我們創(chuàng)造出的人工智能用它自己的智慧來學(xué)習(xí)我們的價值觀，可以激勵它來追求我們的價值觀，或者去做我們會贊成的事情，去解決富有價值的問題?！?br/>
    “這并非不可能，而是可能的，其結(jié)果可以使人類受益匪淺，但它不會是自動發(fā)生的，它的價值觀是需要引導(dǎo)的。”

    “智慧大爆炸的初始條件，需要從最原始的階段被正確建立起價值觀?！?br/>
    “如果我們想要一切不被偏離我們的預(yù)想，人工智能的價值觀和我們的價值觀相輔相成不只是在熟悉的情況下，比如我們能夠很容易的檢查它的行為的時候，但也要在所有的人工智能可能會遇到的前所未有的情況下，在沒有界限的未來與我們的價值觀仍舊相輔相成，也有很多深奧的問題需要被解決：比如它如何做決斷、如何解決邏輯不確定和類似的諸多問題等等?！?br/>
    “這個任務(wù)看起來有些困難，但并沒有像創(chuàng)造一個超級智慧體一樣困難不是嗎？”

    “的確還是相當(dāng)困難（哄笑聲再次傳遍全場）！”

    “我們所擔(dān)心的，如果創(chuàng)造出一個超級ai確實(shí)一個很大的挑戰(zhàn)，創(chuàng)造出一個安全的超級ai是個更大的挑戰(zhàn)，風(fēng)險是，如果解決了第一個難題，卻無法解決第二個確保安全性的問題，所以我認(rèn)為我們應(yīng)該預(yù)先想出不會出現(xiàn)偏離我們價值觀的解決方法，這樣我們就能在需要的時候用到它了?！?br/>
    “現(xiàn)在，也許我們并不能解決第二個安全性的問題，因?yàn)橛行┮蛩匦枰闳チ私?，你需要?yīng)用到那個實(shí)際架構(gòu)的細(xì)節(jié)才能有效實(shí)施?！?br/>
    “如果我們能夠解決這個問題，當(dāng)我們邁入真正的超級智能時代后，就能更加順利，這對于我們來說是非常值得一試的東西?！?br/>
    “而且我能想象假如一切順利，幾百年、幾千年或幾百萬年后當(dāng)我們的后代子孫回首我們這個世紀(jì)，他們也許會說，我們的祖先、我們這一代人所做的最最重要的事情，就是做出了最正確的決定?！?br/>
    “謝謝！”

    手機(jī)用戶請瀏覽閱讀，更優(yōu)質(zhì)的閱讀體驗(yàn)。