《人工智能之不能》，馬兆遠(yuǎn)著，中信出版社2020年3月出版
只有知道了人工智能的“不能”，對(duì)人工智能的了解才算全面。科學(xué)不是靜止的結(jié)論，它的結(jié)論是演進(jìn)變化的；科學(xué)工作者也不是秉持真理的圣徒，他們只是秉持著對(duì)宇宙和人的好奇心而探索的人類中的一分子。
知其不能而能，“學(xué)問之道無他，求其放心而已矣”。
會(huì)存在一個(gè)超級(jí)人工智能系統(tǒng)嗎？人工智能會(huì)超越人嗎？在《人工智能之不能》中我分享了我的答案和思考。
1936年，圖靈在論文《論可計(jì)算函數(shù)和在可判定問題中的應(yīng)用》中寫道：“按照我在本文中的設(shè)定，一個(gè)函數(shù)如果是機(jī)器可計(jì)算的，就是可計(jì)算函數(shù)……本文得出跟哥德爾的不完備定理極其一致的結(jié)論，尤其是，希爾伯特的可判定性問題是不可解問題。”
圖靈所指的“機(jī)器”就是我們后來說的圖靈機(jī)，圖靈這篇著名的論文是對(duì)哥德爾不完備定理的詮釋，他在文中指出了哪些問題是圖靈機(jī)做不了的，以此來拓展哥德爾的不完備定理證明。今天的人工智能設(shè)備，無非是這樣那樣的圖靈機(jī)，沒有例外。
回溯歷史，竟然是人類先發(fā)現(xiàn)了圖靈機(jī)做不了的事，而后才發(fā)明了它。但圖靈機(jī)是如此的強(qiáng)大和成功，那些“它做不了的事情”很快就被湮沒在故紙堆里。
我覺得我應(yīng)該寫一些文字，向被遺忘的哥德爾等人類歷史上的偉大思考者致敬。和前一本我寫作的《量子大嘮嗑》一樣，我想以此做一些科學(xué)啟蒙的工作。而當(dāng)我們能夠回溯科學(xué)的常識(shí)、回溯認(rèn)知的常識(shí)時(shí)，會(huì)發(fā)現(xiàn)可以有更加平和的理解世界的態(tài)度。
近現(xiàn)代科學(xué)從牛頓開始，凡三百余年，大概經(jīng)歷了兩個(gè)重要的階段。
科學(xué)的第一個(gè)階段，雖然以牛頓力學(xué)為思想有了很多新的結(jié)論和方法，但一定意義上還是舊的神學(xué)思想的延伸：存在一個(gè)客觀實(shí)在的主體，無非是這個(gè)主體從“上帝”換成了“自然”。至今我們依然不知道這是否一定是對(duì)的或者是錯(cuò)的。這一階段，科學(xué)努力地把理性主義貫穿到科學(xué)的整體中去。因此要建立穩(wěn)定的、可模型化的科學(xué)體系。
脫離了神的信仰，并沒有阻止科學(xué)的進(jìn)步或者人們對(duì)真理的信仰，無非是那個(gè)絕對(duì)真理的主張，可以是上帝，也可以是自然。人們相信有客觀的、不由人所左右的規(guī)律存在于宇宙中。這一點(diǎn)不難理解，既然上帝不是為人類造了宇宙，那么人也沒有理由成為宇宙的中心或者是宇宙中最重要的物種。但人們有種內(nèi)心的信心，或者說信仰，雖然不是天生的宇宙中心，但可以認(rèn)識(shí)宇宙。
這自然滋生了人類的信心，人定勝天，認(rèn)識(shí)世界是無窮盡的。
如果19世紀(jì)末的科學(xué)家有這樣的信心和勇氣，并不值得驚訝。從牛頓之后的兩百年已經(jīng)取得了從自然到社會(huì)的重大進(jìn)展，人們相信不僅自然可以認(rèn)知，社會(huì)也可以，人心也可以。
在這個(gè)時(shí)候，這些知識(shí)也進(jìn)入了中國，跟中國的傳統(tǒng)文化產(chǎn)生了激烈的斗爭而慢慢進(jìn)入普通人的生活。科學(xué)也成為一個(gè)至高無上的名詞，代表了真理、正義。事實(shí)上它變成一個(gè)形容詞，等價(jià)于正確和不可侵犯，很多與科學(xué)無關(guān)的學(xué)問，也冠以科學(xué)之名并以此為榮。
問題是，一旦標(biāo)榜自己為真理，事實(shí)上就成為它致命的弱點(diǎn)。一個(gè)反例就讓人們失去對(duì)它的信心，也讓本來陳舊的東西、本來該進(jìn)入歷史塵灰的東西死灰復(fù)燃。20世紀(jì)初，當(dāng)“李約瑟之問”提出時(shí)，科學(xué)或者被捧殺，或者被揚(yáng)棄，艱難地在這個(gè)文明古國中開啟啟蒙之路。
但也就在這個(gè)時(shí)候，科學(xué)迎來了第二次革命，進(jìn)入第二個(gè)階段。這次革命與上一次一樣，似乎開始只是在科學(xué)界，但這一百年來，它的影響已經(jīng)滲透出去，彌散到人類的整個(gè)認(rèn)知領(lǐng)域。
然而，由于中國還在糾纏于第一階段的科學(xué)革命和傳統(tǒng)文化的爭執(zhí)中，對(duì)第二次革命的科學(xué)浪潮視而不見，而生生錯(cuò)過了。
但這由不得你的緩慢而停下來等，一場轟轟烈烈的舊科學(xué)的革命在20世紀(jì)二三十年代又開始了。這場革命以愛因斯坦對(duì)量子力學(xué)的建立和反對(duì)，以哥德爾對(duì)經(jīng)典數(shù)學(xué)的擁護(hù)和反對(duì)為起始點(diǎn)。這兩個(gè)本應(yīng)該學(xué)術(shù)觀點(diǎn)對(duì)立的人成了莫逆之交，他們也從人類曠古爍今中呈現(xiàn)出來，他們倆自high，根本不在乎別人怎么看他們。
事實(shí)上，海森堡不確定性原理和哥德爾的不完備定理，都指向人類認(rèn)知過程中的不確定性。雖然哥德爾本人對(duì)此毫不關(guān)心，甚至他受愛因斯坦影響，對(duì)量子力學(xué)沒有半點(diǎn)好感。
但只有這一片補(bǔ)上之后，我們才理解了科學(xué)為什么是這個(gè)樣子。首先，科學(xué)不代表絕對(duì)真理。哥德爾不完備定理證明了任何一個(gè)有限的理論體系，都會(huì)存在無法被證明的問題，直覺上我們可以認(rèn)知的問題，未必能夠被理性證明或證偽。任何一個(gè)可以認(rèn)為是真的判定，都必然有有限的前提，而這些前提無法證明其本身是正確的。
而可能最讓女性讀者開心的是，直覺無法從人類的認(rèn)知中排除出去，甚至是在人類的認(rèn)知中更重要的部分。這一切結(jié)論似乎跟人們從亞里士多德時(shí)代努力建立起來的理性主義、客觀唯物主義不同，甚至有些離經(jīng)叛道，但似乎這樣的認(rèn)知才更符合人類認(rèn)識(shí)的真實(shí)感覺。
是的，對(duì)宇宙的認(rèn)知到底是怎樣的過程、宇宙是怎樣的，我們至今沒有一個(gè)好的結(jié)論，甚至這個(gè)結(jié)論本身就不存在。因?yàn)檫@個(gè)結(jié)論也是宇宙的一部分。
我們?cè)?jīng)以為哥德爾不完備定理只是描述了一個(gè)小問題，但歷史的經(jīng)驗(yàn)告訴我們，一個(gè)偉大的理論的大廈，往往傾覆于一兩個(gè)反例。而以哥德爾為精神領(lǐng)袖的圖靈，把這個(gè)定理的適用范圍放大了。當(dāng)我們用圖靈機(jī)來實(shí)現(xiàn)人工智能的任何一個(gè)算法的時(shí)候，并且圖靈宣稱每一個(gè)可描述算法都可以用圖靈機(jī)來實(shí)現(xiàn)的時(shí)候，不完備定理如幽靈般擴(kuò)展到了每一個(gè)可描述的問題背后。可以說，圖靈機(jī)的應(yīng)用有多廣泛，哥德爾不完備所涵蓋的范圍就有多廣泛。這一點(diǎn)，如同哥德爾第二不完備定理所講，是無窮盡的。
需要指出的是，現(xiàn)在學(xué)校教授的課程，還停留在第一代所謂經(jīng)典科學(xué)的范疇之內(nèi)，即19世紀(jì)的科學(xué)理論。
這樣的理論與人的認(rèn)知發(fā)生沖突的時(shí)候，第一是讓以科學(xué)為新真理代言的人臉上難堪，進(jìn)而憤怒，認(rèn)為科學(xué)所不能解釋的問題更多，而科學(xué)本身也不可靠。第二是讓本來就沒有了解科學(xué)基本思想的人重新去抱殘守缺，搬出老祖宗，他們覺得還是祖?zhèn)鞯目煽俊?/p>
然而敵人的敵人未必是你的朋友，在20世紀(jì)二三十年代，現(xiàn)代科學(xué)又一次革命了，對(duì)這次革命，我們的中學(xué)教育、大學(xué)教育都幾乎不去碰觸、不講，甚至是不知道。
回到人工智能本身，只有知道了人工智能的“不能”，對(duì)人工智能的了解才算全面。正如我們知道了理性的不能，對(duì)人類通過理性來認(rèn)知世界才更全面。這才是更貼近常識(shí)的科學(xué)，它不是靜止的結(jié)論，它的結(jié)論是演進(jìn)變化的。科學(xué)工作者也不是秉持真理的圣徒，他們只是秉持著對(duì)宇宙和人的奧秘的好奇心而探索的人類中的一分子。知其不能而能，“學(xué)問之道無他，求其放心而已矣”。
愛因斯坦評(píng)價(jià)哥德爾說，“與哥德爾交談，我才知道了數(shù)學(xué)中有跟物理一樣重要的東西”。如果說物理學(xué)是人類探索自然世界的第一道邊界，數(shù)學(xué)便是人類理性工具高度濃縮的精華。這兩者在20世紀(jì)二三十年代的發(fā)展，都告訴我們?nèi)祟悓?duì)世界認(rèn)知的極限。這個(gè)極限超越了工具，但也鼓勵(lì)人們不再為工具擔(dān)憂。
在《人工智能之不能》中談到了“人識(shí)原理”：圖靈機(jī)保證了所有我們可認(rèn)識(shí)、可描述的問題圖靈機(jī)都能做到，而我們不能描述的問題，圖靈機(jī)也做不到，但我們不能描述的問題，我們也不懂啊！因此，從理性邏輯角度講，我們不比圖靈機(jī)強(qiáng)多少，但它們也不會(huì)比我們強(qiáng)。但我們有直覺，至少這一點(diǎn)是不同的，無法用理性邏輯來取代。
當(dāng)然，我們討論的不僅是數(shù)學(xué)哲學(xué)。最近二三十年的物理學(xué)和數(shù)學(xué)進(jìn)展，同樣告訴人們，更多的問題超越了圖靈機(jī)，量子計(jì)算和計(jì)算復(fù)雜性問題，都超越了這一代圖靈機(jī)和它延伸出來的人工智能的能力。我們還遠(yuǎn)遠(yuǎn)不能夠描述人類的直覺來源、感情的產(chǎn)生，好在科學(xué)本身只是日拱一卒的努力，不求包羅萬象的萬能理論，只是“進(jìn)一寸有一寸的歡喜”地慢慢來，日子久了，定然就有長足的進(jìn)步了。
《量子大嘮嗑》和《人工智能之不能》這兩本書寫作了五年，這兩本書一本從物理出發(fā)，一本從數(shù)學(xué)出發(fā)，都在闡述什么是現(xiàn)代的科學(xué)認(rèn)知和科學(xué)方法，一定意義上，是胡適那一代人科學(xué)啟蒙的繼續(xù)——我們不僅要用科學(xué)武裝我們的生產(chǎn)力，更要用科學(xué)令我們的頭腦現(xiàn)代化。
科學(xué)不代表靜止的真理，它是我們迄今能夠了解世界的最好的工具。
來源：《中國科學(xué)報(bào)》
