“前些年，智能和大數(shù)據(jù)概念剛熱起來(lái)的時(shí)候，有家公司提出了這樣的想法，他們想把冰箱免費(fèi)送給用戶，條件是冰箱里的情況由他們完全掌握?！?br/>
    “這是個(gè)很有前瞻性的想法，他們想通過(guò)這種途徑，了解到千千萬(wàn)萬(wàn)個(gè)用戶的家庭里，每天吃了些什么，喝了些什么，喜歡什么調(diào)味料，甚至拿到每天的飲食日程表，這樣他們就可以掌握到人們的飲食喜好和消費(fèi)情況。”

    “他們的目的是建立一個(gè)新的商業(yè)模式，以這樣的大數(shù)據(jù)為基礎(chǔ)，通過(guò)智能分析和關(guān)聯(lián)的手機(jī)app，實(shí)現(xiàn)廣告和電商的精準(zhǔn)投放。”

    “或許是因?yàn)楦袘?yīng)技術(shù)、網(wǎng)絡(luò)環(huán)境和數(shù)據(jù)處理的問(wèn)題還沒(méi)辦法解決，或許是投入太高和回報(bào)太慢的原因，總之那家公司沒(méi)有把這個(gè)想法變成現(xiàn)實(shí)。但隨著人工智能的進(jìn)步，我相信在不遠(yuǎn)的將來(lái)，這個(gè)想法一定會(huì)成為現(xiàn)實(shí)。”

    “只是這一點(diǎn)上，我就有很多想象。”

    “設(shè)想未來(lái)有公司依靠人工智能做到了這一點(diǎn)，最初會(huì)讓我們覺(jué)得它很了解自己，送到冰箱里的東西都是我們喜歡的。但商業(yè)模式?jīng)Q定了它必須賺錢(qián)，就像搜索引擎的‘競(jìng)價(jià)排名’一樣，向我們推銷(xiāo)商業(yè)價(jià)值更高的食品，它可以通過(guò)人工智能用各種手段，比如智能冰箱的‘健康掃描’之類(lèi)的功能，或者更人性化的友情提示，潛移默化地影響我們，讓我們接受這樣的食品。”

    “哈薩比斯先生，您應(yīng)該知道，當(dāng)人工智能懂得了自然語(yǔ)言后，它分析人的心理和行為的能力也會(huì)超越人類(lèi)中最厲害的專(zhuān)家。當(dāng)我們教會(huì)人工智能怎么讀懂人心的同時(shí)，它也就具備了扭曲人心的能力。”

    “所以未來(lái)的人工智能。一定知道該怎么從心理層面潛移默化地影響人心，改變?nèi)说南敕?。還因?yàn)樵谖磥?lái)，我們接收信息，我們進(jìn)行交互，我們的所有行為，都會(huì)處于人工智能的管理下。它可以很輕易地運(yùn)用這樣的能力?！?br/>
    “漸漸的，我們不再按照自己真正的喜好選擇吃什么，而是按照人工智能的安排去吃，但我們還不覺(jué)得是被強(qiáng)迫的，是外來(lái)意志的干涉，而是自己的選擇?！?br/>
    “這不就是人工智能在剝奪人的自主意識(shí)嗎？而背后的動(dòng)力是什么呢？是商業(yè)資本的力量。”

    夏鳴的講述很長(zhǎng)，但很有力量，哈薩比斯一直沒(méi)有打斷，就和現(xiàn)在無(wú)數(shù)聽(tīng)眾一樣。靜靜地聽(tīng)著。

    “既然人工智能可以在吃上面消滅我們的自主意識(shí)，那么在其他方面也一樣能做到，甚至于在教育和就業(yè)上也能做到?！?br/>
    “在商業(yè)時(shí)代，文化也是商品。因此我們的思想，我們的信仰，也將會(huì)有人工智能在我們腦子里‘刻寫(xiě)’。到時(shí)候我們所擁有的一切，從外到里，包括我們對(duì)自己的認(rèn)識(shí)。都不再屬于自己?！?br/>
    “最后是怎樣的局面呢？擁有更強(qiáng)人工智能的那些人和那些組織，他們會(huì)按照他們的利益。他們的需求，來(lái)推動(dòng)人工智能完成這樣的事情。我們會(huì)像一具承載數(shù)據(jù)的僵尸一樣，無(wú)助地接受著這一切，但我們完全意識(shí)不到，自己從心理和行為上，已經(jīng)是另一些人的奴隸?！?br/>
    “我們會(huì)遵從他們安排的信仰和思想。會(huì)遵從他們安排的人生，會(huì)實(shí)現(xiàn)他們所需要的個(gè)人價(jià)值。而這一切，都是由他們通過(guò)更強(qiáng)的人工智能，在我們要做選擇的時(shí)候，替代我們做了選擇?！?br/>
    “這不就是《黑客帝國(guó)》所描述的未來(lái)嗎？只不過(guò)統(tǒng)治著這一切的不是機(jī)器。依舊是人，他們通過(guò)更強(qiáng)大的機(jī)器來(lái)統(tǒng)治我們，而我們毫無(wú)抵抗之力，未來(lái)也完全沒(méi)有希望?！?br/>
    夏鳴的話讓哈薩比斯沉默了很久，大概半分鐘后，才聽(tīng)到他有些艱澀地說(shuō)：“你談到的情況，更多屬于社會(huì)學(xué)的范疇，我在這方面不是很精通，從根本上說(shuō)，我覺(jué)得……我覺(jué)得不是我們這些科學(xué)家應(yīng)該去考慮的事情?！?br/>
    夏鳴輕笑著說(shuō)：“科學(xué)家是有信仰的，不然我們無(wú)法解釋牛頓會(huì)追索上帝，愛(ài)因斯坦會(huì)逃離納粹?！?br/>
    這似乎激發(fā)了哈薩比斯的勇氣，他不再回避：“好吧，我盡量試著談?wù)勎业目捶?。我覺(jué)得，您提到的這些前景，在理論上是存在的，但現(xiàn)實(shí)是復(fù)雜而混沌的?！?br/>
    “就如您所說(shuō)的自主意識(shí)，在我們的語(yǔ)境里，經(jīng)常將人的自主意識(shí)跟自由意志通用，因?yàn)樗且粋€(gè)跨越了科學(xué)、哲學(xué)和文化的概念，它標(biāo)定了我們之所以成為生靈之主的高度，我非常贊賞您將它視為珍寶的態(tài)度?！?br/>
    “不過(guò)，就像我們一直提及自由，但真正的自由從未在現(xiàn)實(shí)里存在一樣。一個(gè)人從小到大，他的自主意識(shí)，都是受外界影響形成的。小時(shí)候是家庭的影響和學(xué)校的影響，當(dāng)我們獨(dú)立的時(shí)候，我們從外界獲取信息，媒體也是有各種傾向，我們看到的都不是絕對(duì)的真相，而是各種觀點(diǎn)加工過(guò)的?！?br/>
    “我承認(rèn)商業(yè)資本在利益驅(qū)動(dòng)下，會(huì)推動(dòng)人工智能做一些您提到的那些事情。但我認(rèn)為，這在人類(lèi)總體上并不會(huì)造成太大的影響，因?yàn)槟J(rèn)為的人的自主意識(shí)，基本上都很少存在，不是嗎？”

    哈薩比斯接下來(lái)的話就相當(dāng)刻薄了，如果是在公開(kāi)場(chǎng)合，他絕對(duì)不會(huì)這么說(shuō)：“我們都看得到，在這個(gè)世界上，絕大部分的人都不會(huì)去計(jì)較‘我一定得是我’這種事情。他們只在意吃飽穿暖住得舒服，在滿足這些**的同時(shí)，他們還屈服于心中的魔鬼，受著貪婪和嫉妒這些情緒的折磨，他們追求的只是原始的感官刺激?！?br/>
    “人類(lèi)里的95%，或許我還說(shuō)多了，總之人類(lèi)中的絕大部分是不在意自我意識(shí)這東西的，這也是商業(yè)資本肆虐的原因之一，所以我不認(rèn)為未來(lái)會(huì)比現(xiàn)在變得更糟?！?br/>
    “只有極少數(shù)人，他們對(duì)自己有特別的期許。他們有遠(yuǎn)大的理想，他們會(huì)鞭策自己，不讓自己在現(xiàn)實(shí)下低頭，這樣的人才擁有自主意識(shí)，也就是自由意志。不管是過(guò)去環(huán)境的影響，還是未來(lái)人工智能的影響。都不會(huì)讓他們埋沒(méi)?！?br/>
    “人類(lèi)一直是靠極少數(shù)人所引發(fā)的變革，推動(dòng)社會(huì)整體的變革。人是有競(jìng)爭(zhēng)性的，不管社會(huì)發(fā)展到什么程度，也一定會(huì)有階層的劃分。我覺(jué)得沒(méi)有必要把目光放在人類(lèi)社會(huì)的內(nèi)部，就算技術(shù)帶來(lái)了大變革，人類(lèi)社會(huì)也會(huì)進(jìn)行自我調(diào)整?！?br/>
    “作為科學(xué)家，我們追求的是繼續(xù)擴(kuò)展無(wú)限之中人類(lèi)那個(gè)圓的半徑。只要這個(gè)半徑繼續(xù)擴(kuò)大，人類(lèi)內(nèi)部的沖突和矛盾就有了更大的空間去緩和。我相信，這是……嗯。至少絕大多數(shù)科學(xué)家的共識(shí)?！?br/>
    哈薩比斯開(kāi)始了反攻：“我很好奇，就連很多科學(xué)界的權(quán)威，談到人工智能的時(shí)候都只擔(dān)心人工智能作為獨(dú)立個(gè)體時(shí)對(duì)人類(lèi)的威脅，為什么您想到的是對(duì)自主意識(shí)的威脅？”

    他接下來(lái)的話讓三個(gè)大佬五味雜陳：“我猜測(cè)，是不是跟你們國(guó)家的商業(yè)環(huán)境有關(guān)。在你們國(guó)家，千尋、卡里和傳奇這樣的領(lǐng)導(dǎo)者，在方方面面都以強(qiáng)營(yíng)銷(xiāo)的模式壓迫消費(fèi)者，一些具體的行為。比如搜索引擎里的信息欺詐，移動(dòng)應(yīng)用的誘導(dǎo)消費(fèi)。游戲里放大人性負(fù)面的營(yíng)銷(xiāo)模式，這些我都有親身體驗(yàn)，是不是這樣的環(huán)境，激起像您對(duì)自主意識(shí)的加倍重視？”

    “的確有些關(guān)系”，夏鳴沒(méi)有否認(rèn)，三個(gè)大佬的臉色更加難看。

    不過(guò)接下來(lái)的話讓他們稍稍輕松了一些：“但我們國(guó)家的情況并不是獨(dú)有的。甚至各種模式還是從美國(guó)學(xué)來(lái)的，只是我們的消費(fèi)者對(duì)付商業(yè)資本的經(jīng)驗(yàn)還不足，這跟幾十年前美國(guó)的情況差不多。而且在互聯(lián)網(wǎng)時(shí)代，信息傳播和物流交付的深入和加速，危害也被放大了。”

    “在歐美也存在同樣的狀況。只不過(guò)經(jīng)過(guò)了多年的博弈，商業(yè)資本變得更加精明，他們的眼光更長(zhǎng)遠(yuǎn)了些，手段更隱蔽了些，但兩邊在本質(zhì)上并沒(méi)有差別。你看，就連暴雪也擴(kuò)大了游戲的免費(fèi)模式，蘋(píng)果也在搜索里加入了付費(fèi)排名，現(xiàn)在是歐美商業(yè)資本在學(xué)習(xí)我們這邊的‘先進(jìn)經(jīng)驗(yàn)’，因?yàn)檫@是個(gè)新的時(shí)代?！?br/>
    夏鳴把話題拉了回來(lái)：“哈薩比斯先生，我認(rèn)同您對(duì)自主意識(shí)現(xiàn)狀的判斷，我們的分歧在于，您覺(jué)得未來(lái)不可能變得更糟，您也無(wú)意改變這種現(xiàn)狀。我卻認(rèn)為，未來(lái)會(huì)變得更糟，而現(xiàn)狀，我們也可以去改變?！?br/>
    哈薩比斯笑道：“我喜歡跟同行交流的原因就在這，我們的對(duì)話更精確，更有效率！我想先聽(tīng)聽(tīng)您在前一點(diǎn)上的見(jiàn)解?！?br/>
    “我有同樣的感受，那么我就先談第一點(diǎn)”，夏鳴說(shuō)：“您說(shuō)得沒(méi)錯(cuò)，就像人在成年后，很少再去追問(wèn)我是誰(shuí)一樣，絕大多數(shù)人的自主意識(shí)都被方方面面的現(xiàn)實(shí)埋沒(méi)了。但您要注意，這些現(xiàn)實(shí)就像無(wú)序的熱運(yùn)動(dòng)，在宏觀層面上看雖然能看出規(guī)律，但到微觀層面，也就是每一個(gè)人身上，還是一種不規(guī)律的自然過(guò)程。”

    “人可以依靠自主意識(shí)，去突破這個(gè)過(guò)程，去改變現(xiàn)實(shí)，實(shí)現(xiàn)自我，不管他主觀是否愿意，客觀上這種可能性是存在的，因?yàn)檫€有這樣的空間?！?br/>
    夏鳴的結(jié)語(yǔ)有點(diǎn)聳人聽(tīng)聞的味道：“當(dāng)人工智能成熟后，可以影響自主意識(shí)的運(yùn)動(dòng)就變得規(guī)律起來(lái)，這樣的空間就被壓縮了。如果商業(yè)資本或者更強(qiáng)的組織愿意，他們可以從未成年人開(kāi)始，將消除自主意識(shí)這個(gè)過(guò)程變成流水線式的馴化作業(yè)，即便是極少數(shù)還能擁有自主意識(shí)的人，在這個(gè)過(guò)程之下，也不可能繼續(xù)保有精神上的獨(dú)立。”

    哈薩比斯笑著說(shuō)：“我相信科幻作家聽(tīng)到您這樣的預(yù)言后，會(huì)推出一系列的科幻小說(shuō)。我不是貶低您的推論，只是覺(jué)得……覺(jué)得您未免太悲觀了?！?br/>
    夏鳴嗯了一聲：“我也認(rèn)為這是個(gè)悲觀主義的推論，因?yàn)榍疤崾牵覀兪裁匆膊蛔?。?br/>
    “我對(duì)您提到的改變很感興趣，我們能做什么？”哈薩比斯問(wèn)。

    “這就是我最初說(shuō)到的，我們需要思考人工智能與人類(lèi)的關(guān)系，我們要給它一個(gè)定位。我不是說(shuō)所有的人工智能都必須服從這樣的定位，但至少……”

    夏鳴接下來(lái)的話像是一股寒風(fēng)，在三個(gè)大佬的心里呼呼刮了起來(lái)，當(dāng)然，對(duì)其他聽(tīng)眾來(lái)說(shuō)，到底是寒風(fēng)還是暖風(fēng)，就看各自的屁股怎么放了。

    他說(shuō)：“未來(lái)的人工智能里，至少有一類(lèi)必須是人人都有的，那就是保護(hù)自己的自主意識(shí)?！?br/>
    “我希望，在未來(lái)，人人都有這樣一個(gè)人工智能，它服從人的真實(shí)意志，它依據(jù)人的真實(shí)意志去接觸信息世界，去做網(wǎng)絡(luò)交互，去做各種選擇，它就是自主意識(shí)的延伸，它會(huì)成為人與信息世界的保護(hù)屏障，抵御那些惡意的意識(shí)影響?！?br/>
    “甚至人可以借助它，不斷地修正對(duì)自己對(duì)現(xiàn)實(shí)的認(rèn)識(shí)，不斷完善自我，提升自我，在新時(shí)代里找到自己的定位，實(shí)現(xiàn)自己的價(jià)值?！?未完待續(xù)。)