關(guān)于我們
???????旗下品牌刊物《文化縱橫》為國(guó)內(nèi)最具影響力的思想評(píng)論雜志。
???????修遠(yuǎn)基金會(huì)的研究項(xiàng)目，涉及思想、政治、社會(huì)、媒介、可持續(xù)發(fā)展等多個(gè)研究領(lǐng)域，匯集了來(lái)自中國(guó)社會(huì)政治學(xué)所、社會(huì)學(xué)所、新聞傳播所，北京大學(xué)法治研究中心、馬克思主義學(xué)院、清華大學(xué)人文學(xué)院，復(fù)旦大學(xué)思想史研究中心、華中科技大學(xué)鄉(xiāng)村治理研究中心的多個(gè)研究團(tuán)隊(duì)和近50位研究人員。修遠(yuǎn)基金會(huì)每年推出一期年度研究報(bào)告，探討文化重建、社會(huì)治理、國(guó)際戰(zhàn)略等方面的重大問(wèn)題，在政商學(xué)界頗具影響。?
???????修遠(yuǎn)認(rèn)為，中國(guó)社會(huì)文化之建設(shè)，任重而道遠(yuǎn)，需要有識(shí)之士自覺(jué)擔(dān)當(dāng)與共同努力。
???????修遠(yuǎn)愿意在此過(guò)程中貢獻(xiàn)自己的綿薄之力，竭力推動(dòng)社會(huì)和諧與文化復(fù)興之目標(biāo)的實(shí)現(xiàn)。
????
? 陳自富 | 上海交通大學(xué)科學(xué)史與科學(xué)文化研究院
【導(dǎo)讀】近年來(lái)，互聯(lián)網(wǎng)、宇航工程、人工智能、基因工程等新技術(shù)的迅速發(fā)展，不僅顛覆了人類社會(huì)現(xiàn)有的組織、生產(chǎn)和生活形態(tài)，而且前所未有地重塑了人類的精神世界。但技術(shù)并不總是作為工具為我們帶來(lái)知識(shí)擴(kuò)展、力量增長(zhǎng)和精神愉悅，“阿爾法狗”的誕生和人類對(duì)自身基因組的修飾，意味著本輪技術(shù)革命的高潮對(duì)人類認(rèn)識(shí)論正構(gòu)成根本性挑戰(zhàn)，迫使我們重新思考何以“人之為人”，在技術(shù)霸權(quán)下維護(hù)人類的尊嚴(yán)？申而論之，對(duì)于人工智能、生命科技，以及更大范圍的加速發(fā)展的新技術(shù)革命，是否可以形成一種新的社會(huì)反思和制約機(jī)制？近期，在《文化縱橫》與南都觀察合作舉辦的《賽先生的夢(mèng)魘》新書(shū)發(fā)布會(huì)上，陳自富先生就這些問(wèn)題分享了研究心得，特此編發(fā)，供諸君參考。
▍普通人能不能討論前沿科技？
首先是普通大眾有沒(méi)有必要和資格參與專業(yè)科技工作者的討論。比如“轉(zhuǎn)基因”，這已經(jīng)從知識(shí)論上的技術(shù)問(wèn)題演變成了社會(huì)問(wèn)題，有時(shí)候會(huì)產(chǎn)生很激烈的對(duì)抗。普通大眾在知識(shí)上有沒(méi)有能力與轉(zhuǎn)基因?qū)W者、生物科學(xué)家去討論、辨析？這種討論、辨析有什么目的或意義？
第二是跨專業(yè)的問(wèn)題。在專業(yè)技術(shù)革命中，專業(yè)人士和目標(biāo)受眾的話語(yǔ)權(quán)如何平衡。比如在醫(yī)院里，如果醫(yī)生、操縱CT設(shè)備的分析師和病患都接受過(guò)高等教育，他們誰(shuí)有話語(yǔ)權(quán)？病患能不能參與進(jìn)醫(yī)療方案的討論和決策？
第三是在同一個(gè)專業(yè)內(nèi)部的分歧。無(wú)論在生物科學(xué)還是人工智能領(lǐng)域，學(xué)者和前沿的技術(shù)工作者之間都可能存在分歧，他們之間有沒(méi)有資格去討論和辨析這些問(wèn)題？
這三個(gè)角度都反映出一個(gè)問(wèn)題——不同背景的人之間，有沒(méi)有資格或能力去參與那些既前沿、又對(duì)人類未來(lái)影響重大的技術(shù)討論。在我看來(lái)，關(guān)于任何技術(shù)變革的討論、反思都有它的必要性和充分性。這其中又會(huì)產(chǎn)生兩種反思，一個(gè)是“硬反思”，主要針對(duì)技術(shù)發(fā)展中某些特定的知識(shí)；另一個(gè)是“軟反思”，不討論技術(shù)本身的核心內(nèi)容，而是關(guān)注技術(shù)對(duì)社會(huì)的影響等其他維度。
比如無(wú)人駕駛，在部分礦山、物流等特定的場(chǎng)景下，因?yàn)檫\(yùn)輸環(huán)境比較簡(jiǎn)單，未來(lái)兩三年可能會(huì)發(fā)生巨大的變化。硬反思關(guān)注的是現(xiàn)在的技術(shù)能不能支持無(wú)人駕駛，能支持到何種程度。軟反思則關(guān)注這一技術(shù)可能造成的社會(huì)影響。美國(guó)大約700萬(wàn)貨車司機(jī)，中國(guó)包括司機(jī)在內(nèi)的從業(yè)人員大約2000萬(wàn)以上，如果無(wú)人駕駛延續(xù)到貨運(yùn)，對(duì)這一群體會(huì)有怎樣多影響？
其實(shí)不存在那種脫離了社會(huì)和人文的純技術(shù)。我們現(xiàn)在正在享受信息文明的成果，大數(shù)據(jù)帶來(lái)了諸多變革和進(jìn)步，但同時(shí)，它也和能源消耗、數(shù)據(jù)隱私等問(wèn)題糾纏在一起。
這種人文反思的意義在于，可以形成和強(qiáng)化我們“拓展邊界”的問(wèn)題意識(shí)，從“人與自然相處”的關(guān)系問(wèn)題意識(shí)到“技術(shù)重新定義人類”的反思性問(wèn)題意識(shí)。
技術(shù)的最終產(chǎn)出結(jié)果是“人造物”，在沒(méi)有技術(shù)或技術(shù)比較薄弱的時(shí)候，人類與自然的關(guān)系很簡(jiǎn)單。但是技術(shù)革命到來(lái)，我們迎來(lái)了一個(gè)“人造物”的世界，很多人工設(shè)備都不是自然世界里天生存在的，這也意味著人類的邊界在擴(kuò)充。駕駛一個(gè)龐大的設(shè)備，就像是人的四肢得到了擴(kuò)充，電腦的儲(chǔ)存、檢索可以處理浩繁的信息，我們的體力邊界、腦力邊界，甚至是社會(huì)邊界都在迅速擴(kuò)張。
在技術(shù)發(fā)展的早中期，人類和“人造物”的關(guān)系還比較淺顯，比如對(duì)手機(jī)的濫用、過(guò)度沉溺于電子游戲、依賴導(dǎo)航設(shè)備……這是一種“關(guān)系意識(shí)”——人與“人造物”之間是什么關(guān)系。但現(xiàn)在，我們面臨著人工智能、生物科技這些新的重大技術(shù)，構(gòu)成了新的“反身性問(wèn)題意識(shí)”。我們開(kāi)始重新思考人類本身的定義是不是會(huì)發(fā)生改變——將來(lái)人的視覺(jué)、聽(tīng)覺(jué)，甚至部分記憶器官都有可能被機(jī)器取代，生殖細(xì)胞也可能被修飾，發(fā)生重大變化。技術(shù)漸漸和人融合在一起，產(chǎn)生了對(duì)技術(shù)革命的人文反思。
無(wú)論是在追求知識(shí)增長(zhǎng)的自然科學(xué)探索，還是通過(guò)知識(shí)進(jìn)行的工程技術(shù)探索，“如何提出問(wèn)題”和“提出怎樣的問(wèn)題”都是驅(qū)動(dòng)我們向前發(fā)展的引擎。此外，在這過(guò)程中還有關(guān)于如何謀求人類平等和幸福的思考。
曾經(jīng)有人寫(xiě)信給NASA，說(shuō)目前地球上還有這么多孩子吃不上飯，NASA怎么能舍得為遠(yuǎn)在火星的項(xiàng)目花費(fèi)數(shù)十億美元。NASA寫(xiě)了一封很長(zhǎng)的回信，其中一個(gè)解釋是太空探索有利于人類科技的發(fā)展，而科技水平的整體提升有助于解決地球上的貧困、疾病等問(wèn)題，“太空探索不僅僅給人類提供一面審視自己的鏡子，它還能給我們帶來(lái)全新的技術(shù)，全新的挑戰(zhàn)和進(jìn)取精神，以及面對(duì)嚴(yán)峻現(xiàn)實(shí)問(wèn)題時(shí)依然樂(lè)觀自信的心態(tài)”。
關(guān)于技術(shù)革命的討論和反思，除了“如何提問(wèn)題”，還有另一個(gè)角度——問(wèn)題的邊界。其實(shí)我們并不知道邊界在哪里，但是因?yàn)榻⒘藛?wèn)題意識(shí)，所以討論不是封閉的。人類在尋求如何擴(kuò)大這些問(wèn)題的外延，將技術(shù)開(kāi)發(fā)、立法等等相關(guān)的問(wèn)題和群體包括其中，進(jìn)而更多角度、完整地審視現(xiàn)在的技術(shù)發(fā)展，真正服務(wù)于整個(gè)社會(huì)和整個(gè)人類。
▍技術(shù)并不等于科學(xué)，人也可能并不是理性的
有人將我們現(xiàn)在所面臨的技術(shù)革命稱為第四次工業(yè)革命，或“智能革命”。過(guò)去幾次重大的技術(shù)革命，雖然不一定依賴科學(xué)知識(shí)，但是都帶了重大的變革。
在第一次工業(yè)革命之前，人類始終處于一種人口增長(zhǎng)和戰(zhàn)爭(zhēng)、瘟疫之間的反復(fù)過(guò)程中。蒙昧?xí)r代對(duì)火的使用；畜牧業(yè)和農(nóng)業(yè)的分離；農(nóng)業(yè)和手工業(yè)的分離、商人出現(xiàn)……生產(chǎn)力發(fā)展帶來(lái)了私有制和定居文明，但人口增長(zhǎng)很緩慢，一旦增長(zhǎng)到一定程度，就可能會(huì)出現(xiàn)戰(zhàn)爭(zhēng)。
第一次工業(yè)革命是一場(chǎng)蒸汽革命，用于生產(chǎn)的“動(dòng)力”發(fā)生了改變，燒煤產(chǎn)生的蒸汽動(dòng)力取代了畜力和水力。冶金和機(jī)械制造勃興，出現(xiàn)了真正的資本家。這是一種單源性的工業(yè)革命，以英國(guó)為核心，以工匠文化和商品輸出為主。
第二次工業(yè)革命是電力革命，最大的變化是動(dòng)力傳輸發(fā)生了變化。動(dòng)力傳送不再依賴于蒸汽機(jī)所捆綁的軸承、皮帶，在電力出現(xiàn)之后，才有可能大規(guī)模的部署工業(yè)。德國(guó)就產(chǎn)生了化學(xué)工業(yè)，出現(xiàn)了汽車……革命不再局限在英國(guó)，城市化在加快。
也是在這一過(guò)程中，技術(shù)和科學(xué)的關(guān)系出現(xiàn)了變化。在第一次工業(yè)革命中的瓦特并不是一個(gè)科學(xué)家，只是一個(gè)工匠，那是一個(gè)技術(shù)和科學(xué)并行的時(shí)代。到了第二次工業(yè)革命，特別是化學(xué)和冶金技術(shù)方面的革命，科學(xué)就已經(jīng)占據(jù)主要作用。
第三次工業(yè)革命是“信息革命”，我們享受到了現(xiàn)代通訊等等成果。它的主體是信息革命，但是實(shí)際上包括了核技術(shù)和航空航天技術(shù)（對(duì)核能的利用，登月、發(fā)射行星探索器等外太空探測(cè)）。
容易被忽視的是則是農(nóng)業(yè)革命或綠色革命。二戰(zhàn)結(jié)束以來(lái)，地球的人口增長(zhǎng)了一倍以上，雖然還存在著發(fā)展、分配所造成貧困和饑餓，但從總量上來(lái)講，我們的農(nóng)業(yè)和糧食增長(zhǎng)能夠應(yīng)對(duì)這次的人口爆炸。
現(xiàn)在，我們面臨著第四次工業(yè)革命，也有人稱之為“智能革命”，其中提得最多的就是人工智能和生物科技，此外還有航空航天、清潔能源（因此我認(rèn)為單純把它叫做“智能革命”其實(shí)并不準(zhǔn)確），這是一個(gè)跨領(lǐng)域之間加速融合發(fā)展的過(guò)程。
各種技術(shù)之間交錯(cuò)關(guān)聯(lián)，一個(gè)專業(yè)領(lǐng)域的技術(shù)很快能傳導(dǎo)到另一個(gè)專業(yè)。比如人工智能和機(jī)器人，當(dāng)火星和地球之間存在長(zhǎng)時(shí)間的“信號(hào)延遲”時(shí)，人類沒(méi)有辦法像在地球上一樣操縱火星機(jī)器人，因此就必須賦予火星上機(jī)器人一種獨(dú)立自主判斷環(huán)境的能力。這種技術(shù)非常容易擴(kuò)展到地球上來(lái)。
和前三次工業(yè)革命不同的是，跨領(lǐng)域的技術(shù)出現(xiàn)了“正反饋”的關(guān)系。它主要體現(xiàn)在技術(shù)發(fā)展速度特別快、適用人口的范圍特別廣；隨著技術(shù)進(jìn)步和資本推動(dòng)，一項(xiàng)技術(shù)很容易推廣到另一個(gè)領(lǐng)域中。這可能是人類的認(rèn)知邊界改變最大的時(shí)期，向外我們?nèi)サ搅送馓?，向?nèi)則拓展到了分子層面，甚至基因編輯層面。但同時(shí)，很多準(zhǔn)備工作還沒(méi)有做好，很多未知領(lǐng)域還沒(méi)得到理解。
當(dāng)技術(shù)革命缺乏科學(xué)支撐的時(shí)候，其邊界和影響也會(huì)比較盲目，我們可能會(huì)不清楚它如何解決實(shí)際問(wèn)題，難以解釋它的原理、預(yù)測(cè)它的發(fā)展軌跡。比如在蒸汽革命時(shí)期，人們想到的只是煤炭帶來(lái)的好處，卻忽略了它帶來(lái)的巨大的污染問(wèn)題?；剡^(guò)頭來(lái)看，在最初的兩次工業(yè)革命中，無(wú)論能源、材料還是運(yùn)載工具，都是基于工程需要而誕生的，帶來(lái)的影響是具象的、盲目的。
如果具備更強(qiáng)的科學(xué)理論基礎(chǔ)，這些邊界就更容易澄清。如果沒(méi)有廣義相對(duì)論，就沒(méi)有辦法去發(fā)展核技術(shù)；沒(méi)有科學(xué)原理和技術(shù)背景，人工智能就不能進(jìn)行大量的運(yùn)算……但是在早期，即使不懂力學(xué)定理，也可以發(fā)明蒸汽機(jī)、也可能先把飛機(jī)造出來(lái)。
從這里可以看出來(lái)，如果先知道了科學(xué)原理，再發(fā)展具體的技術(shù)，比如核能、水電、火電，我們就能從機(jī)器、原理上有更多的選擇。所以科學(xué)并不等于技術(shù)。假設(shè)科學(xué)是理性的代名詞，科學(xué)是理性的，那么也許一向以技術(shù)為優(yōu)先的人類并不是理性的，在技術(shù)革命的過(guò)程中，有時(shí)候我們其實(shí)并不知道其中的科學(xué)原理。
▍人工智能還存在非常多的問(wèn)題
現(xiàn)在人工智能很火，但是到目前為止，我們的認(rèn)知科學(xué)尚未解釋清楚人類自己的智能原理；已經(jīng)有人開(kāi)始嘗試做生殖基因組的修飾，但是人類的基因圖譜才繪制了兩三年。我們常常對(duì)技術(shù)的發(fā)展做科學(xué)的算計(jì)，在技術(shù)決策當(dāng)中“兩害相權(quán)取其輕，兩利相權(quán)取其重”。這是一種價(jià)值的比較，但在沒(méi)有知識(shí)體系的支撐下，我們對(duì)技術(shù)的決策容易出現(xiàn)盲目。公眾和跨行業(yè)專業(yè)者確實(shí)會(huì)有這種擔(dān)心，但是我們技術(shù)的發(fā)展其實(shí)不受這些擔(dān)心的約束。
“阿爾法狗” 在實(shí)踐上戰(zhàn)勝了所有人類棋手，但可以明確的一點(diǎn)是，它沒(méi)有基于人類的生物智能功能原理，因?yàn)槿祟愖约憾疾磺宄竽X是怎么工作的（或者說(shuō)解釋層面還非常的抽象）。“阿爾法狗”受到了人類在神經(jīng)學(xué)上的啟發(fā)，所以它有神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)，但和人類相比還差十萬(wàn)八千里，所以我并不認(rèn)為它是擬人化的工作。
過(guò)去人在模仿動(dòng)物上產(chǎn)出了很多科技，比如用雷達(dá)模仿蝙蝠，但是反過(guò)來(lái)，用“人造物”來(lái)模仿人本身，目前看來(lái)還非常少。包括“阿爾法狗”在內(nèi)的人工智能程序面臨著這樣一個(gè)問(wèn)題——它還是一種在理論上缺乏足夠知識(shí)基礎(chǔ)的工程實(shí)踐，我們很難預(yù)測(cè)它會(huì)發(fā)展成什么樣子。
美國(guó)計(jì)劃在本世紀(jì)中葉前，能夠大致繪出猴子這類靈長(zhǎng)類動(dòng)物的大腦神經(jīng)網(wǎng)絡(luò)。但繪出了之后怎么解釋、怎么做，都還很難講。其實(shí)在短時(shí)間里，我們還很難理解人類大腦的工作原理，我把這定義為“難以解釋的生物智能或人工智能”，這也就意味著我們并不清楚人工智能會(huì)產(chǎn)生什么樣的邊界效應(yīng)。在這種缺乏足夠的原理解釋的前提下，人工智能發(fā)展所面臨的問(wèn)題非常多。
培根說(shuō)過(guò)，“知識(shí)就是力量”，意思是知識(shí)是智能的來(lái)源。但是知識(shí)和智能的關(guān)系沒(méi)有這么簡(jiǎn)單。如果百科知識(shí)競(jìng)答比賽，現(xiàn)在的計(jì)算機(jī)一定比人類的表現(xiàn)好，但是這里體現(xiàn)出的知識(shí)和我們所理解的知識(shí)并不完全相同?，F(xiàn)在“阿爾法狗”在深度學(xué)習(xí)時(shí)所依賴的路徑其實(shí)和知識(shí)沒(méi)有太多的關(guān)系。如果說(shuō)知識(shí)是人工智能的來(lái)源的話，人工智能就必須研究知識(shí)是怎么產(chǎn)生的、是什么結(jié)構(gòu)、什么樣的知識(shí)是真知識(shí)、知識(shí)怎么檢驗(yàn)……這些目前都還沒(méi)能完全實(shí)現(xiàn)。
但在另外一些領(lǐng)域，特別是腦力活動(dòng)的領(lǐng)域，比如博弈游戲（例如圍棋）、定理證明、圖像識(shí)別……人工智能已經(jīng)取得了突飛猛進(jìn)的發(fā)展，現(xiàn)在識(shí)別車牌、人臉識(shí)別等技術(shù)已經(jīng)在廣泛應(yīng)用了。另外在中高考閱卷等標(biāo)準(zhǔn)化考試中，甚至包括識(shí)別、判斷手寫(xiě)體的題型，人工智能閱卷已經(jīng)具有壓倒性的優(yōu)勢(shì)。
▍人類的本質(zhì)是什么？會(huì)被人工智能取代嗎？
在過(guò)去的工業(yè)革命中，機(jī)器取代勞工，造成了勞動(dòng)結(jié)構(gòu)變化和失業(yè)，“盧德運(yùn)動(dòng)”成為人類面對(duì)科技革命的一種反抗形式，通過(guò)破壞機(jī)器來(lái)反對(duì)工廠主的壓迫和剝削。這也成為了一種進(jìn)步的悖論。
到了這個(gè)時(shí)代，這種擔(dān)心和恐懼還是存在（比如人工智能未來(lái)可能會(huì)取代會(huì)計(jì)、接線員、打字員、銀行職員等職業(yè)），有人會(huì)想，“我的工作會(huì)不會(huì)被取代？我會(huì)不會(huì)變成一個(gè)廢人，天天什么事都不干？”確實(shí)，現(xiàn)在人工智能技術(shù)已經(jīng)不僅可以完成那種重復(fù)性的勞動(dòng)，甚至有快速分析文本的能力，做科研的產(chǎn)出效率可能比人還快。
過(guò)去，人類定義自己，尋找人類的特性，有人說(shuō)人會(huì)制造、利用工具，能處理符號(hào)，但其實(shí)這些其他動(dòng)物也能實(shí)現(xiàn)。我們用了很多“防火墻”來(lái)保護(hù)我們作為人類的唯一性，想證明技術(shù)永遠(yuǎn)沒(méi)有辦法代替人類。我們總是去想“人的本質(zhì)是什么”，想基于本質(zhì)來(lái)定義一個(gè)物體，也許這種出發(fā)點(diǎn)就錯(cuò)了。比如基于本質(zhì)來(lái)定義桌子——一張完美的桌子，最上方有一張桌面，四角向下接著四條桌腿——其他的桌子都是對(duì)它的不完整的理念的分享。
如果非得找一個(gè)完美定義，我們每一個(gè)人就都是“人”這個(gè)完美定義當(dāng)中的摹本。所以我們做了很多退縮：符號(hào)的、理性的定義，將它作為一種認(rèn)知，去尋找這種本質(zhì)定義或者范本。但這會(huì)出現(xiàn)兩個(gè)問(wèn)題，首先會(huì)出現(xiàn)一個(gè)遞歸，會(huì)永遠(yuǎn)找不到最終“什么是真正人類”的定義，只能一層一層牽連下去；另一個(gè)問(wèn)題就是會(huì)出現(xiàn)這種概念對(duì)我們?nèi)祟惾怏w的超越。
我認(rèn)為一種比較符合實(shí)際的觀點(diǎn)是，智能和知識(shí)是一種過(guò)程，是人類生物體和周邊環(huán)境交互的過(guò)程，但我們無(wú)法定義這個(gè)過(guò)程或概念，硬要去定義的話可能會(huì)滑入人工智能挑戰(zhàn)定義的困境。第一，因?yàn)槿祟惥蜎](méi)有本質(zhì)定義；第二，智能也沒(méi)有本質(zhì)定義，所以智能并不代表人類。我們沒(méi)有一個(gè)靜態(tài)物種概念，勞動(dòng)、符號(hào)、理性、文化等都只刻劃了人的某個(gè)方面。“人類”這個(gè)詞匯代表著具有獨(dú)特基因組的人類，因?yàn)槿祟惡推渌叩壬锊灰粯樱覀兪腔蚝铜h(huán)境組合的產(chǎn)物，由于環(huán)境的變化，從而導(dǎo)致了不同歷史階段的人類有不同的內(nèi)涵和外延。也就是說(shuō)我們有特定的時(shí)空范圍。
其實(shí)當(dāng)代生物學(xué)當(dāng)中，“物種”這個(gè)概念都還沒(méi)有明確。最初將物種，就是一種本質(zhì)主義的探尋；后來(lái)達(dá)爾文說(shuō)是基于形態(tài)，分為哺乳動(dòng)物、爬行動(dòng)物等；再后來(lái)又有基于基因分類的……可以這么講，到目前為止，生物學(xué)界對(duì)什么叫物種沒(méi)有清晰概念，所以也沒(méi)有必要在乎“人類”是否真的是一個(gè)物種。如果一開(kāi)始問(wèn)題就提錯(cuò)了，那些關(guān)于人工智能取代人類的問(wèn)題就是不存在的問(wèn)題。
人工智能或者機(jī)器人沒(méi)有生物那種有性生殖變異的基礎(chǔ)，不能通過(guò)有性生殖去繁衍世代，產(chǎn)生變異?，F(xiàn)在的生命經(jīng)歷了漫長(zhǎng)的進(jìn)化過(guò)程，在這個(gè)層面和人工智能或機(jī)器人相比較是沒(méi)有意義的。而且，現(xiàn)在再?gòu)?fù)雜的人工智能或者機(jī)器人都比不上人類大腦平常的一個(gè)功能模塊，它們的復(fù)雜數(shù)量級(jí)不在一個(gè)層面上。人工智能現(xiàn)在還沒(méi)有辦法成為獨(dú)立的主體，因?yàn)檫@中間存在著生命和非生命的差別，生命要承擔(dān)責(zé)任，而人工智能責(zé)任是由設(shè)計(jì)者承擔(dān)的?？偨Y(jié)下來(lái)，有性的生殖、社會(huì)性、語(yǔ)言能力、倫理責(zé)任是人類作為高等生命的主要特征，人工智能現(xiàn)在還不具備這些。
再延伸下來(lái)就是圖靈測(cè)試、維納（Norbert Wiener）和莫拉維克（Hans Moravec）問(wèn)題。維納在1940年代寫(xiě)過(guò)《人有人的用處》，里面一個(gè)假設(shè)是把一個(gè)人儲(chǔ)存起來(lái)，在物理上，他可以在一個(gè)地方消失，通過(guò)信息渠道，傳送到另一個(gè)地方。莫拉維克則試著去實(shí)現(xiàn)維納的設(shè)想。如果說(shuō)圖靈測(cè)試是機(jī)器模擬人（計(jì)算機(jī)的擬人化），維納問(wèn)題就是人類的機(jī)器化，它們之間的共同點(diǎn)是把信息作為人的本質(zhì)。將信息作為人的本質(zhì)是否恰當(dāng)？現(xiàn)在流行的認(rèn)知是每個(gè)人都有獨(dú)一無(wú)二的基因，用一段基因序列作為一個(gè)人唯一的標(biāo)志，這也許是人類和人工智能在信息上的聯(lián)系。
18世紀(jì)有一本書(shū)叫《人是機(jī)器》，里面在結(jié)構(gòu)上將心臟比喻為動(dòng)力來(lái)源或發(fā)動(dòng)機(jī)，手是傳動(dòng)軸，這種比喻反映了經(jīng)典物理的時(shí)空觀，這種機(jī)械世界觀的背后是一種實(shí)證主義的哲學(xué)觀。
▍人類還面臨著哪些挑戰(zhàn)？
人工智能還帶來(lái)了“DeepNude”和“Deepfake”（深度偽造），典型的場(chǎng)景有虛擬裸照、模擬他人打電話等等。這再次說(shuō)明技術(shù)是可以作惡的。
另外還可能存在算法歧視，通過(guò)算法強(qiáng)化社會(huì)偏見(jiàn)或不公，有的人甚至還在研究通過(guò)算法計(jì)算那些人更具有犯罪分子的面相特征，甚至宣稱已經(jīng)有80%的準(zhǔn)確率。這其實(shí)很可怕，因?yàn)楝F(xiàn)在我們可能上班、取錢、坐火車或飛機(jī)都要刷臉，算法如何定義我是不是犯罪分子呢？
另外人類已經(jīng)發(fā)展了數(shù)百萬(wàn)年，從生物原理上來(lái)說(shuō)，這是自然選擇和淘汰之后能出現(xiàn)的最好的基因，但是我們還是會(huì)感冒，還是可能得胃癌。發(fā)展到這一步，大多數(shù)人已經(jīng)不再面臨食物短缺和自然環(huán)境的壓力了，甚至我們現(xiàn)在可以主動(dòng)去編輯基因。有種說(shuō)法是基因編輯會(huì)污染人類的基因池，但是如果經(jīng)基因編輯之后的孩子不能再自然地繁衍下去，這個(gè)擔(dān)憂的意義就不大了。我們面臨的更大的壓力還是在于技術(shù)“人造物”，現(xiàn)在還沒(méi)有辦法從生物學(xué)去討論這個(gè)問(wèn)題，不知道它將來(lái)會(huì)變成什么樣。
還有體細(xì)胞基因治療。這里最大的問(wèn)題在于人體有著復(fù)雜的基因，圍繞一種罕見(jiàn)病去開(kāi)發(fā)基因治療，可能會(huì)有很高昂的成本，這就涉及到資源投入的問(wèn)題。
這么多問(wèn)題，有的我能回答，有的其實(shí)我也回答不了。有一種解決辦法是問(wèn)題消解，就是不說(shuō)“我回答不了這個(gè)問(wèn)題”，而是說(shuō)“這個(gè)問(wèn)題不能這么提”。人類看著挺慈善的，但是偏偏最喜歡拿生命做試驗(yàn)。所有的藥物，從小白鼠到靈長(zhǎng)類，都得拿動(dòng)物試驗(yàn)，很多藥物不做動(dòng)物試驗(yàn)的話，根本沒(méi)有辦法投入到市場(chǎng)。從這角度來(lái)看，人類其實(shí)就是一個(gè)比較自私的種族。所以在這個(gè)意義上來(lái)看，很多事情我們也許不能這樣做，但還是希望這樣做能服務(wù)于人類。
還有一個(gè)算法的可解釋性，包括算法的歧視問(wèn)題。主要是資本主義社會(huì)下，缺乏一個(gè)透明的技術(shù)治理結(jié)構(gòu)。比如算法能不能公開(kāi)？關(guān)鍵技術(shù)的應(yīng)用是否需要公開(kāi)或者立法？這其中也許有一些方法和場(chǎng)景，比如打通全國(guó)的不動(dòng)產(chǎn)和銀行賬戶查詢；打通用戶和投資人員、開(kāi)發(fā)人員的溝通；去除哲學(xué)上的本質(zhì)主義，等等。如果技術(shù)更公開(kāi)透明，討論更充分的話，也許新興科技會(huì)得到更好的發(fā)展。
當(dāng)人在沒(méi)有自然選擇的情況下，繼續(xù)去嘗試技術(shù)的選擇，營(yíng)造出和自然并行的技術(shù)“人造物”，這個(gè)嶄新的世界可能比自然界更大。在我們面臨技術(shù)的發(fā)展和眼前的茫然時(shí)，能夠在這壓力和挑戰(zhàn)面前做出選擇嗎？在新興技術(shù)面前，我們對(duì)技術(shù)要有更多的思考，要有新的提問(wèn)方法，才能更好應(yīng)對(duì)技術(shù)快速發(fā)展的變革。
最終的看法是說(shuō)，我們?nèi)祟愒跊](méi)有傳統(tǒng)自然選擇的情況下，取決于我們自己對(duì)技術(shù)的選擇。因?yàn)闋I(yíng)造的是跟自然并行的技術(shù)人造物，技術(shù)人造物的世界比自然界可能更大，它決定我們的選擇壓力，所以這才是我們真正所關(guān)心的問(wèn)題。
