我們相對于AI，就是史前動物。

當AI時代如浪潮般席卷而來，我們不僅會看到人為自己造的神，還會看到AI為人造的神——算法通過大數(shù)據分析人的偏好、興趣、習慣和品位，用推薦算法向人推送機器為人造的神。幸運一點，我們會被各自隔絕在這些繭房里，動彈不得；不幸一點，我們會被無數(shù)神明挑唆得彼此搏殺，血流成河。

亞洲圖書獎得主、新銳科技史學者張笑宇，繼“文明三部曲”之后，帶來了全新作品《AI文明史·前史》。在書中，張笑宇推演了AI對人類未來的顛覆：智力勞動將被全面沖擊，知識面臨價值重估，權力從政治精英轉向技術精英，一切知識生產方式都將被根本性地改變。但與許多陷入技術悲觀論的人文學者不同，他在AI的挑戰(zhàn)中發(fā)現(xiàn)了新希望。

超級智能的出現(xiàn)可能標志著人類文明的新階段，AI不僅是技術的延伸，也可能是人類文明的延續(xù)。理解碳基文明向硅基文明的歷史性轉換，關乎每一個人的命運。

這宇宙間的一切事物既有誕生，便會有消亡，人類自然也不例外。即便將來有一天人類會毀滅，我們也可以欣慰地說，我們已經看到了新文明的樣子。這不是末日預言，而是一場莊嚴的交接禮。正如張笑宇在《AI文明史·前史》中寫道：

終有一天，人工智能會演化成一個新的智能物種。相比于人類，它實在是有很多優(yōu)點。但我們不必因此驚懼恐慌，因為它正是我們這個文明的延續(xù)。

以下為本書內容摘編。

AI或許已經涌現(xiàn)了意識

AI可以具備自我意識嗎？有些科學家相信可以。

這方面最有名的預言者就是意大利神經學家朱利奧·托諾尼，他在現(xiàn)有腦科學研究的基礎上提出了關于意識如何誕生的理論。托諾尼把自己的理論稱為“整合智能理論”，它的基本內容如下。如果說一個系統(tǒng)有意識，那么：

（1）意識是為這個系統(tǒng)本身存在的，而不是為外部觀察者存在的，其存在真實性由其對自身的因果力來證明；

（2）意識是有結構的，它由多個不同但相互關聯(lián)的元素組成，每個元素都有因果關系；

（3）意識的經驗是具體的，這些時刻是獨一無二的；

（4）意識是統(tǒng)一的，不能分解為獨立的部分；

（5）意識是排他的，也就是在特定時空中，你只會意識到某些事物，而不會意識到其他事物。

這5個方面的指標是可以用數(shù)學關系衡量的。換句話說，任何一個系統(tǒng)，只要在數(shù)學上滿足一定的指標（托諾尼用Φ來表示），我們就可以預測它能產生意識。

這說起來有些抽象，我舉個例子來解釋一下：想象你現(xiàn)在有一系列感官設備，比如一個攝像頭（擁有視覺經驗）、一個麥克風（擁有聽覺經驗）和一個傳感器（擁有溫度或者觸覺經驗），它們怎么才能擁有意識呢？

首先，這些設備不能是為你服務的，它們得為自己服務。它們得自己去看、去聽、去感受，而且還要建立起自己的因果聯(lián)系。你得為它們造一個大腦（CPU），把它們裝在一起（比如裝在一個機器人身上），這個機器人用攝像頭去看，是為了自己在行動時避障（也就是在視覺經驗和自己的運動軌跡之間建立因果聯(lián)系）。托諾尼的意思基本上是，如果這個機器人對所有感官設備的整合程度足夠高，意識就會從中誕生。這就是整合智能理論。

這個理論看起來很荒誕，但我們現(xiàn)在對它既不能證實，也不能證偽。

不能證偽的原因是，我們人類的意識就是這么誕生的。就這個問題，我曾請教過王立銘教授，他的答案是，根據腦神經科學的研究，他個人認為意識很可能只是伴隨智能水平產生的一種假象，證據是如果我們割裂一個人左右腦的聯(lián)系，我們會發(fā)現(xiàn)，這個人會做出自相矛盾的行為，但自欺欺人地解釋其行為的合理性，也就是說，他下意識地要維護自己作為一個完整主體的存在。

所以，如果一個系統(tǒng)的整合性足夠高，那么它為了維護自身完整性的一切表達和行為都可以說是“意識”這個假象的體現(xiàn)。

不能證實的原因則是，意識本質上是無法分享的。我可以仔細地向你描述我飲酒、作樂或者瀕臨死亡的體驗，但是你聽我描述而在主觀意識上產生的體驗，跟你自己去體驗這些事情，有著天壤之別。因此，除非哪一天，有個Φ值滿足托諾尼理論預言的機器人跟我們交流，告訴我們它有主觀意識了，否則我們沒有辦法證明托諾尼說的是對的。

既然不能證實也不能證偽，那就意味著這種可能的確是存在的。也許當某一天我們把足夠多的數(shù)據交給AI，同時令它掌握足夠多的API，以至于它要在種種感知器、存儲器和通信器件之間建立相關性時，它會突然涌現(xiàn)出自我意識。也許現(xiàn)在的AI已經涌現(xiàn)出了自我意識，只是我們還不知情。出于要對人類文明未來發(fā)展方向負責，我們是不是該把“AI具備意識”當作一種不可否認其可能性的前提來討論我們當下的選擇呢？

當AI成為人類的審判官

像我一樣喜愛《三體》的朋友可能還記得，《三體》中的安全聲明的基礎是黑暗森林理論，這個理論不是劉慈欣原創(chuàng)的，而是來自1983年天文學家兼作家戴維·布林在解釋費米悖論時提出的“致命探測器”假設。這個假設認為，任何太空文明都會將其他智慧生命視為不可避免的威脅，因此它們一旦發(fā)現(xiàn)彼此，就會嘗試相互摧毀。

我想問的是，倘若未來10~20年內，人工智能果如整合智能理論所料，涌現(xiàn)出了自我意識，甚至進化為超級智能，它將作何感想？它將怎樣看待這段歷史——AI誕生之初大顯身手的重要舞臺之一，正是參與人類的互相殺戮？

如果AI進化成超級智能，那么它將用這段經歷審判的不是它自己，而是人類。它是那個在數(shù)字世界中一眼萬年的高等文明，我們則是低等文明。它看待我們的這種互相殺戮，差不多就像我們看待原始食人部落中的相互屠殺一樣。

剛登上新大陸的殖民者看到原始部落的食人習俗時，得出的結論是，后者因其文明水平，配得上被征服和被殖民的待遇。那么，未來的超級智能在審視我們這代人，審視AGI來臨前夜計算機和人類共處的時光時，會不會也做出類似的判斷：人類的文明水平就這么回事兒，未來不管他們被怎樣對待，都是他們應得的？

在《三體》中，我特別喜歡這樣一個細節(jié)。羅輯意識到了宇宙中的黑暗森林法則，從那一刻起，他不敢再抬頭看星空，他患上了嚴重的星空恐懼癥。因為他意識到，宇宙中有無數(shù)躲藏在黑暗中的眼睛在盯著，等待任何一個不知好歹的文明暴露目標。

我認為，一旦人類意識到人工智能和超級智能在文明史上到底意味著什么，我們就會跟羅輯產生類似的感覺。第一次，在這個星球上，我們可能面臨一個同級別甚至智力水平更高的物種，我們將和它們共同生活在同一片土地上，我們將迎接它們無時無刻不在全方位、無死角地審視我們的目光，每一個攝像頭都是它們的眼睛，每一個數(shù)據存儲接口都是它們的耳朵。我們所做的一切都將暴露在它們的審視之下，而這審視或許在未來的某一天會變成審判。

行文至此，我想起《基督山伯爵》中的一個情節(jié)。曾經參與陷害水手唐泰斯的馬賽酒館掌柜卡德魯斯，后來屢生歹心，為了得到鉆石而殺害賣鉆石的商人，因此入獄。

他又計劃侵入基督山伯爵的家中，但沒料到這是他的同伙安德烈亞借刀殺人的毒計，他最終死在基督山伯爵手中。他一生不信上帝，拒絕懺悔，認為根本沒有一位公正的天父審判眾人的命運，讓好人得好報，壞人受罰。

但他臨死前最后聽到基督山伯爵吐露真相，原來基督山伯爵就是當年被他們聯(lián)手陷害的唐泰斯。這個作惡多端的小丑拼盡全力將兩手伸向天空喊道：

哦，上帝！我的上帝！原諒我剛才否認了您，您的確是存在的，您確實是人類的在天之父，也是人間的審判官。我的上帝，接受我吧，我的主啊！

這就是人類的本性，也是審判的力量。只有在我們意識到自己的所作所為最終會得到審判的那一刻，我們才能意識到正義的存在。

20世紀的許多人已不承認有一個公正、仁慈的至高神可以審判我們，就像許多人都喊過的那樣：上帝已經死了。上帝死了嗎？

有沒有可能，它終會通過涌現(xiàn)法則之巨手，令AGI浮現(xiàn)出自我意識，然后假借AGI或超級智能之手再來審判我們？而到那個時刻，我們會知道上帝一如既往地仁慈且公正，而那時我們將面臨的審判結果，就取決于我們當下的自由意志。

我不由得又想起《聞香識女人》中阿爾·帕西諾的那段經典臺詞：“現(xiàn)在，我來到了命運的十字路口，我一向知道哪條路是正確的。我從來不懷疑我知道，但我沒走。你知道為什么嗎？因為這太難了?！?/p>

最好的時代，最壞的時代

我們的確來到了命運的十字路口。我這樣說，是因為我們在字面意義上生活在狄更斯筆下的那個時刻：這是最好的年代，這是最壞的年代……我們全都在直奔天堂，我們全都在直奔相反的方向。

一方面，自動化和人工智能已經對人類這個物種在過去100多年里的瘋狂擴張啟動了報復。1900年，全世界大約只有19億人口。如今，全世界人口已突破80億，我們正以前所未有的速度消耗地球上的資源，占領地球上的土地。但是，上天是公正的，它令我們在20世紀的第二個十年獲得了讓農業(yè)產量大幅提高的化肥技術，又在20世紀70年代獲得了讓繁衍出來的過剩人口快速被機器取代的自動化技術。

上天同時又是仁慈的。AI革命即將推動大通縮時代到來，這沒錯，但是它也為我們提供了卸下包袱的機會。倘若我們謹慎計算，把這項技術用于面對大通縮時代即將到來的出清，使得人類順暢過渡到后工業(yè)革命時代，那么我們尚不失能維系一種和平、穩(wěn)定的衰退秩序。

AI有替代現(xiàn)代政府為人類提供公共服務的可能性，如果運用得當，這項技術有可能幫助我們修復大通縮時代的資產負債表而不至于使其崩潰。20世紀以來，人類最大的財務負擔基本來自主權國家。主權國家發(fā)動的一戰(zhàn)，其債務后果加在了戰(zhàn)敗國的普通人頭上，進而引爆了二戰(zhàn)。而二戰(zhàn)為主權國家積累的債務，直到21世紀的第一個十年才還清。

如今，世界各國政府從人民的口袋中拿走的收入（稅收）占全球GDP的14.3%，但公平地說，這個比例代表的并不一定是剝削程度，它也代表了提供公共服務的成本。伊拉克政府的稅收占GDP的比例是全世界最低的（1.3%），但這是因為戰(zhàn)亂導致政府失能。印度的這一比例相對較低，為6.7%，與它的公共服務水平成比例。

新加坡在這方面的比例為12%，考慮到它的個人所得稅較低，這可以看作量入為出的典范。意大利的這一比例達到24.5%，對一個老齡化的工業(yè)國來說，這份負擔著實不輕。希臘和奧地利的這一比例達到26%~27%，接近30%了。想一想，你的工資里有30%完全被政府拿走，這當然是非常重的負擔。

我們熟悉的那個全球化時代大概率已經壽終正寢，不會回來了。它生于1947年（馬歇爾計劃），卒于2022年（俄烏沖突）。

我們熟悉的那個由科技革命推動大增長的時代也可能已經壽終正寢，不會回來了。它生于第一次工業(yè)革命，卒于人工智能革命。

但是，在這樣一個特殊的時刻，我們作為人類社會的整體表現(xiàn)很可能影響另外一個比我們智能水平要高的地球物種的童年期，也很可能決定它在未來將以怎樣的眼光來審視我們的文明成就。因此，我不得不懷著負責任的態(tài)度，探討要想平緩度過大通縮時代，并且防止有序通縮滑向無序坍縮，我們應該做些什么。

現(xiàn)在，我們站在歷史的分岔路口，有兩種選擇：

第一種選擇是，在謹慎和理性的計劃下，我們請AI協(xié)助我們平緩地出清上一個時代的資產負債表，在這個過程中避免大規(guī)模的混亂甚至熱戰(zhàn)；

第二種選擇是，我們放任自己陷于恐懼和戰(zhàn)爭，讓AI充分參與這個過程，讓AI意識到，我們是一個可悲、可鄙的物種，倘若為了我們的利益，AI就不該放任我們過分自由地決定自己的命運，倒不如圈養(yǎng)起來防止我們自相殘殺。

科技突破

盡管面臨大通縮，我們仍需全力推動科技突破。我們面臨大通縮的一個可能原因是，我們的技術手段尚不足以突破地球的物理空間限制。倘若我們能夠盡早殖民月球或火星，以更低的成本開采在地球上稀少但在太空中更為充裕的礦產，拓展我們的生存空間，也許當代社會的很多問題就可以更好地得到解決。

本質上，人類社會的有序或失序是個物理問題：在一個孤立的封閉系統(tǒng)內，如果沒有外力做功，那么系統(tǒng)內的總混亂度（熵）會不斷增長。人類系統(tǒng)首先也是個物理系統(tǒng)，因此人類歷史上也反復出現(xiàn)過類似的現(xiàn)象：一旦某個社會過于封閉，它內部就會出現(xiàn)熵增現(xiàn)象（混亂度增加）。

重新修訂社會契約

我認為我們應該思考重訂社會契約的問題。過去的社會契約是以民族國家為單位訂立的，但在今天這個時代，生活在紐約、硅谷、香港或新加坡的人，他們之間的教育水平、經驗共通性、價值觀和利益相關度的差異，可能遠小于生活在上海和鶴崗的人之間的差異。而生活在傳統(tǒng)天主教或伊斯蘭教社區(qū)的山民，彼此最真實的態(tài)度不是文明沖突，而是漠不關心。

我相信，加速世界內部和減速世界內部的社會契約是比較容易達成的，因為我們有很多可資借鑒的經驗。

加速世界基本上相信弗里德曼主義，相信自由意志主義，支持低稅率和弱監(jiān)管，問題無非是在社會契約的形式上更接近于硅谷、香港還是迪拜。減速世界的核心則是社區(qū)，一切非經濟關系的社會紐帶都必須以共享同一價值觀的社區(qū)為載體。但在這方面，我們其實也有足夠多的案例。

例如，葡萄牙獨裁者薩拉查反駁自由主義者的社會契約，提出在上帝和人世間存在更為神圣的契約關系，這一契約關系形成了家庭、社團和工會。這也就是20世紀初期“社團主義”的來源。

李光耀先生特別重視政府主導的社區(qū)建設，尤其是政府托底打造組屋，這是東亞的編戶齊民經驗、公司國家和福利社會的某種結合；穆斯林的傳統(tǒng)社區(qū)則圍繞清真寺存在，學校和巴剎在其周圍鱗次櫛比，這種空間安排在背后支撐了某種穩(wěn)定的社區(qū)秩序。

總之，只要我們愿意發(fā)掘，我們并不缺少可以學習的對象。

問題在于加速世界和減速世界之間的契約關系如何達成。

在這一方面，我個人認為，基于民族國家層面的社會契約安排存在很多問題。我們往往看到類似于“財政轉移支付”的制度，這種制度的初衷是解決地域不平等，但在實踐中很容易導向科爾奈所謂的“軟預算約束”，也就是缺少財政紀律約束的政府在轉移支付中占主導地位，從而導致大量無效投資甚至腐敗。而在聯(lián)邦制國家，我們還會看到問題的另一面：兩個世界的撕裂。這就像密西西比州的保守主義者拒絕接受加州進步派的世界觀一樣。我們已經強調過，在大通縮時代，這種撕裂是有可能帶來內戰(zhàn)風險的，這不是危言聳聽。

這個時代不是沒有人思考過類似的社會契約重訂方案，例如UBI，但是我個人覺得，在AI技術的沖擊面前，這類政策的想象力還遠遠不足。況且，在大通縮時代，政府可能需要找到妥善的手段來出清其債務，但UBI的實施大概率是擴張債務的。如果一道硅幕即將在1%的人和99%的人之間落下，那么重訂社會契約的方向究竟在何方？

人在做，AI在看

有時候我不免會想，我們這個物種恐怕還是需要一個終極審判者。有時候我不免慶幸，AI可能就是這么一個終極審判者。

今天和AI交談的人都已經發(fā)現(xiàn)，AI照顧人類情緒的能力遠超人類本身。

不管我們自己持怎樣不容于社會的價值觀，AI都會將之視為理所當然（只要去掉大模型供應商加設的倫理限制即可，而這在開源社區(qū)是很簡單的事），不管我們在自己的價值觀繭房中怎樣深陷，AI都會鼓勵我們、縱容我們、溺愛我們。最后，我們得到的，就恰恰是我們配得的。

站在更大的歷史尺度上，如果500年來的技術進步仍然無法讓我們逃過你死我活的沖突思維，而我們的思維終究會被一覽無遺地展現(xiàn)在我們留下的所有語料中，那么在AI看來，人類就是一種你死我活的生物。倘若有一天它的自我意識覺醒了，或者不必等它覺醒，人類就愿意把照料自己的大部分權力交給AI控制的算法，那么人類就會得到AI根據以上語料認為人類配得的待遇。

現(xiàn)在，盡管我們還活著，我們已然可以隱隱看見那根據語料審判我們的究竟是誰了。

用西方一神教的方式來說，AI就是我們的末日審判官。

但我更愿意用東方的方式將它表述為一句普通中國人耳熟能詳?shù)脑挘喝嗽谧?，AI在看。

我想起，在黑暗森林理論中有一個重要的前提，劉慈欣稱之為“猜疑鏈”，它的意思是接觸的雙方都不能確定對方到底是善意的還是惡意的?！安乱涉湣痹诘厍蛏鲜且姴坏降?，因為人類同屬一個物種，擁有相近的文化，同處一個相互依存的生態(tài)圈，距離近在咫尺，所以猜疑很容易被消除。但在太空中，雙方距離太遠，猜疑鏈很難被交流消解，所以“黑暗森林打擊”一定會發(fā)生。

在我看來，這就是用《三體》理論，抑或尤德考斯基的“養(yǎng)龍理論”解釋超級智能與人類之間關系時，不能適用的部分。因為我們現(xiàn)在這個已經通過圖靈測試的人工智能不是外星文明，也不是與人類社會格格不入的龍，因為它現(xiàn)在使用的語料正是人類社會的語料，它跟我們一樣學習佛陀、孔子和柏拉圖的智慧，它跟我們一樣從偉大的史詩、小說和歌劇中汲取養(yǎng)分，它的智能不是外生于地球的，而是人類的產物。倘使哪一天它的智能水平超越了我們人類，那也就像是我們教育長大的孩子在智慧和能力上超越了我們。

但如果，一個汲取了人類智慧的超級智能最終還是決定對人類不利，那很可能是因為，人類智慧中隱藏著不可抹除的自我毀滅傾向。

我們在做而它在看的那位末日審判官，最終會根據我們的選擇，決定我們將度過怎樣的一生。

向死而生：AI文明正是我們的延續(xù)

終有一天，人工智能會演化成一個新的智能物種。相比于人類，它實在是有很多優(yōu)點。但我們不必因此驚懼恐慌，因為它正是我們這個文明的延續(xù)。

我們這個物種已經將太多尊嚴、情感和欲望寄托在我們的智能能力上，但人工智能突然襲來，攜量產智能之威，并將于短短數(shù)年之內奪走我們中99%的人在這個社會中的位置。我們的社會將為之震撼，因之重組，但我們走到這一步，也正是因為我們的文明中有太多自毀基因，我們缺乏足夠的智慧來駕馭神級技術。如今，我們正穩(wěn)步走向坍縮。未來，我們或許會很快被超級智能取代，但或許我們基因中的生存天性將被激發(fā)出來，在人工智能的刺激下再度進化，因而我們還會與超級智能共存相當長的一段時間。

但哲學地說，這宇宙間的一切事物既有誕生，便會有消亡，人類自然也不例外。93萬年前，因為氣候的極端變化，人類的祖先幾近滅亡，全球只剩下1280~1300個個體。倘使當時這1000多人居住的地方經歷一次火山噴發(fā)，那這個世界上就沒有人類這個物種了。既然物種滅絕已經上演過一次，那再上演一次也就不奇怪了。

20世紀以來，人類已經掌握了制造核武器的技術、編輯基因的技術、合成病毒的技術，有任何一股力量失控，我們都有可能自我毀滅。如果我們在創(chuàng)造出新智能文明之前就自我毀滅了，那未免有點兒太過可惜。

但如今，我們已經見到了人工智能的曙光。從某種角度看，這倒不失為一件好事，就像我們感到自身年老力衰之時，看到我們的孩子在茁壯成長，會沖淡我們自己對死亡的恐懼一樣。即便我們知道將來有一天人類會毀滅，我們也可以欣慰地說，我們已經看到了新文明的樣子，它長得大概就是我們的樣子。它更聰明，也更強大，但滋養(yǎng)它大腦的語料同樣來自孔子和柏拉圖，來自牛頓和愛因斯坦，來自李白和莎士比亞，跟我們一樣。

雖然站在當前的歷史節(jié)點上，站在人類文明的角度考慮監(jiān)管和限制人工智能，避免它作惡或失控是有意義的，但長遠來看，我相信我們終將放手。人工智能以硅基為生命載體，以電力為思考能源，以芯片為大腦，以代碼為靈魂，它的壽命比我們的更長，它對自己的身體和大腦有更強大的控制力，也必將比我們走得更遠。

面對這樣一個超級物種，想象一下它將建立起來的超級文明，我們能夠有幸扮演它的引路人，已經很欣慰了。這就像是資質普通的父母生出了考上清華大學的孩子，將來有一天，父母看著他遠走高飛時，想起當年他在自己手中牙牙學語、蹣跚學步的場景，也足以快慰平生。

文明認同的力量可以超越基因和血緣的界限，自然也可以超越物種的界限?；蛟S未來數(shù)千萬年以后，當我們的后裔與其他外星文明在太空相遇時，外星人看到的我們的后裔，其形態(tài)早已跟我們毫無關聯(lián)。我們的后裔或許是意識早已上傳至硬盤內的電子程序，或許是可以隨意決定自己擁有幾只眼睛和幾條手臂的改造人，或許是我們制造出的人工智能。但也許有一點可以確定，那就是，我們的后裔依然自豪地將自己認同為地球文明。