AlphaGo與李世乭的人機(jī)圍棋大戰(zhàn)，激發(fā)了無數(shù)或者不懂圍棋、或者不懂人工智能，不過大部分情況是兩者皆不懂的各色人等的想象力，產(chǎn)生了無數(shù)談資、彈幕、段子和陰謀論。

　　比如有一個(gè)段子：“機(jī)器贏了人類不可怕，機(jī)器假裝輸給人類才可怕。”就是利用了對(duì)人工智能自主意識(shí)潛在的恐懼達(dá)到了傳播的目的。

　　我們是否能夠知道人工智能是否已經(jīng)發(fā)展出了自我意識(shí)？

　　答案是：我們無法知道，因?yàn)槲覀儾⒉焕斫馊斯ぶ悄堋?/p>

　　我們不理解人工智能的原因是我們不理解自己

　　IBM科學(xué)家埃默森·M·匹尤說：如果我們的大腦簡(jiǎn)單到我們能夠理解，我們就沒有足夠的智力去理解它。希臘古城特爾斐的阿波羅神殿上的那句名言也是：“認(rèn)識(shí)你自己！”

　　△特爾斐的阿波羅神殿的名言：認(rèn)識(shí)你自己

　　正是因?yàn)槲覀儾荒軌蛘J(rèn)識(shí)我們自己，所以我們還沒有辦法去開發(fā)出真正像我們的人工智能。最古老的飛行夢(mèng)想家都以為，只要能夠像鳥那樣撲騰翅膀，就能夠讓人也飛起來；但是直到我們有了空氣動(dòng)力學(xué)以后，我們才找到制造出飛行機(jī)器的正確路徑，而撲騰翅膀不是那條正確路徑。

　　△達(dá)芬奇設(shè)計(jì)的撲翼飛行器

　　AlphaGo所使用的深度神經(jīng)網(wǎng)絡(luò)很可能是那條正確的道路：模仿我們大腦中神經(jīng)元的構(gòu)造。人類的大腦，正是通過大量的神經(jīng)元互相連接協(xié)同變化，最終產(chǎn)生了智力和意識(shí)。雖然AlphaGo現(xiàn)在在智力上已經(jīng)超越了人類最頂尖的圍棋棋手，但是依然有一個(gè)問題——它真的“理解”自己在做什么嗎？

　　“理解”是一個(gè)哲學(xué)命題，它關(guān)乎到自我意識(shí)：我們能夠理解一件事情，知道它究竟是什么，而不僅僅是某種大腦中的自動(dòng)反應(yīng)機(jī)制。我們能夠感覺到“自我”的存在，能夠自己做出決定，在心靈上我們是自由的。同時(shí)我們認(rèn)為意識(shí)和智能是不能夠分割的：有高智能的實(shí)體肯定擁有自我意識(shí)，而就算AlphaGo能夠在圍棋上碾壓人類，它仍然沒有顯露出有自我意識(shí)的跡象。

　　在這里，不得不提到“中文房間”。

　　哲學(xué)家約翰·希爾勒在1980年就提出了一個(gè)思想實(shí)驗(yàn)，叫做“中文房間”。假設(shè)是這樣的：假如說有一個(gè)對(duì)漢語一竅不通，只懂英文的人坐在一個(gè)密封的房間里。他手頭有一本英語的手冊(cè)，上面有如何處理漢字字符以及回復(fù)的完全指示。外面的人通過一個(gè)窗口向屋子里的人遞紙條，上面寫著漢語書寫的問題，然后這個(gè)人依據(jù)手冊(cè)將對(duì)應(yīng)的漢字字符組合成回答傳回給外面的人。

　　對(duì)于外面的人來說，這個(gè)屋子是會(huì)說中文的；但是里面的這個(gè)人卻不會(huì)中文！

　　在中文屋中的這個(gè)人他并不“理解”漢語，他只是按照手冊(cè)行事而已；將這個(gè)房間換成計(jì)算機(jī)，將里面這個(gè)人換成計(jì)算機(jī)程序，將遞給小屋里的問題換成圍棋，那么這就是AlphaGo——它遵照著一套事先訓(xùn)練好的博弈模型行動(dòng)，它是否真的“理解”了圍棋？

　　那人類自己是否又理解圍棋？

　　這并不是一句廢話。考慮到AlphaGo的神經(jīng)網(wǎng)絡(luò)就是模仿人類的神經(jīng)元來構(gòu)造的，如果我們把人類的大腦還原成神經(jīng)突觸的電刺激，那么人類下圍棋時(shí)候，每一個(gè)神經(jīng)元是否就能夠“理解”圍棋？這是一個(gè)讓人發(fā)狂的問題。

　　圍棋是基本規(guī)則非常簡(jiǎn)單，因而局面反而非常復(fù)雜的游戲。到目前為止，人類都只能借助于千百年來各路高手已經(jīng)形成的開局、定式、變化，也就是許多相對(duì)固定的套路，來學(xué)習(xí)圍棋。人類對(duì)圍棋的理解，實(shí)際上可以說就是對(duì)這些套路和局部最優(yōu)解的運(yùn)用。AlphaGo的訓(xùn)練就采用了這種傳統(tǒng)思路，參考了數(shù)萬盤職業(yè)棋手的對(duì)局。

　　△元代的《玄玄棋經(jīng)》

　　但是Google已經(jīng)表示，之后他們將訓(xùn)練一個(gè)完全白板的AlphaGo：也就是不輸入任何已知的棋局，直接在基本規(guī)則的基礎(chǔ)上自我對(duì)弈來訓(xùn)練。這樣成長(zhǎng)起來的這個(gè)人工智能將會(huì)在棋盤上有何表現(xiàn)？這里有個(gè)可能性，如果說這個(gè)白板AlphaGo在與目前的這個(gè)AlphaGo戰(zhàn)斗中勝利，那么就說明，人類這幾百年來的對(duì)于圍棋的理解是完全錯(cuò)了——至少也是一條歪路。

　　這將帶來一個(gè)非?？膳碌陌凳荆喝祟悓?duì)于圍棋的“理解”其實(shí)是完全沒有意義的，只有純粹的計(jì)算能力才有意義，自我意識(shí)在這里除了拖后腿之外沒有用處。

　　這是一個(gè)可能的未來，一個(gè)陰暗的未來：我們對(duì)于智能的理解完全錯(cuò)了。擁有超級(jí)智能的機(jī)器或許并不需要有意識(shí)，它只需要根據(jù)反饋行動(dòng)。從這個(gè)角度來說，劉慈欣在《三體》中提出的黑暗森林理論是根本無法應(yīng)用的——如果對(duì)方只根據(jù)你的行動(dòng)做出對(duì)應(yīng)，那就無所謂猜疑鏈。將所有的唐詩宋詞喂給電腦，它能夠輸出比肩李白的詩句；事實(shí)上現(xiàn)在的對(duì)聯(lián)機(jī)已經(jīng)能夠輸出黃庭堅(jiān)級(jí)別的詩句了，但只是需要重復(fù)試驗(yàn)而已。

　　△壹讀君（微信：yiduiread）隨手找了個(gè)寫詩軟件寫出來的命題詩

　　人類所有引以為豪的事情——文學(xué)、音樂、繪畫、情感、藝術(shù)，對(duì)于人工智能而言只是一個(gè)更大的特征值矩陣而已。它完全有可能能夠通過圖靈測(cè)試卻沒有任何意識(shí)——它能夠流利的跟任何人對(duì)話，卻完全不需要明白自己在說什么。

　　我們不理解它們是因?yàn)槲覀儾焕斫馕覀冏约?/p>

　　長(zhǎng)久以來人類認(rèn)為自己的自我意識(shí)都是一種神秘的，超脫于物理世界之外的實(shí)體，自我意識(shí)處在另一個(gè)心靈的世界之中。這就是所謂的“身心二元論”，我們的物理身體是不會(huì)影響到我們的意識(shí)。但是現(xiàn)在科學(xué)的發(fā)展已經(jīng)證明了這個(gè)看法是完全錯(cuò)誤的。我們的情感很大程度上受激素和荷爾蒙影響；抑郁癥也能夠歸因于神經(jīng)遞質(zhì)的問題，可以吃藥治療。

　　甚至是自由意志——認(rèn)知科學(xué)的實(shí)驗(yàn)證明了我們大腦中做決定的時(shí)間比我們能夠意識(shí)到的還要更早。我們的大腦是一頭大象，自我意識(shí)是一個(gè)騎象人：在某些時(shí)候騎象人可以指揮大象的方向，而在大部分時(shí)間里大象都自行其是。

　　同樣，心理學(xué)的一個(gè)新興的研究領(lǐng)域就是“具身認(rèn)知”（Embodiment）：我們的生理體驗(yàn)與心理狀態(tài)之間有著強(qiáng)烈的聯(lián)系。生理體驗(yàn)“激活”心理感覺，反之亦然。我們?cè)陂_心的時(shí)候會(huì)笑；而做出微笑的表情，人也會(huì)變得開心。自我意識(shí)不再是一種神秘的，存在于我們大腦中某個(gè)地方的結(jié)構(gòu)；也并不是在知覺運(yùn)動(dòng)系統(tǒng)的背后存在一個(gè)心智；離開了身體，認(rèn)知和心智根本就不存在。

　　所以沒有“身體”，或者說“身體”的概念與我們截然不同的人工智能，會(huì)與我們有一樣的心智和認(rèn)知結(jié)構(gòu)么？

　　恐怕不會(huì)。人工智能并不會(huì)具有我們可以想象的那種心智和認(rèn)知結(jié)構(gòu)，或者人格和情感。它對(duì)于情感對(duì)于藝術(shù)的感覺也會(huì)與我們截然不同——不過這并不妨礙人工智能去創(chuàng)造出好的藝術(shù)。

　　人工智能可以創(chuàng)造藝術(shù)嗎？

　　AlphaGo勝利之后有一句話十分深刻：我們崇拜圍棋的原因是因?yàn)槲覀儾簧瞄L(zhǎng)圍棋。

　　計(jì)算機(jī)已經(jīng)可以創(chuàng)造出巴赫風(fēng)格的音樂，但是它并不真的理解巴赫在我們心中所引起的那種感動(dòng)。神經(jīng)網(wǎng)絡(luò)可以將一張金門大橋的照片轉(zhuǎn)換成梵高的風(fēng)格，但是它也不理解梵高到底是怎樣的風(fēng)格。

　　△谷歌DeepDream“創(chuàng)作”的繪畫作品

　　這讓人想起劉慈欣在小說《詩云》里的描寫：神級(jí)文明拆毀了太陽系，遍歷了整個(gè)唐詩的狀態(tài)空間，然而卻沒有辦法去將那首最好的超越唐詩的作品找出來。實(shí)際上大劉的這篇小說犯了一個(gè)基本錯(cuò)誤——創(chuàng)作本身就是一個(gè)從狀態(tài)空間中篩選的過程，而遍歷狀態(tài)空間則不是創(chuàng)作。

　　假如說我們現(xiàn)在發(fā)明了一個(gè)人工智能，它的任務(wù)是創(chuàng)作出超越李白的唐詩——問題就在于“誰來以何種標(biāo)準(zhǔn)來判斷是否超越李白”，而這個(gè)判斷只能是人來給出。我們不相信人工智能能夠以人的標(biāo)準(zhǔn)來判斷詩。因?yàn)槿斯ぶ悄懿⒉皇抢畎祝膊豢赡艹蔀槔畎?。如果我們要求人工智能有人格，或者其他的一切我們能夠想得到的特質(zhì)，我相信有一天它會(huì)達(dá)到；但是它不會(huì)成為李白。