65歲的學(xué)者汪暉身著西裝上臺(tái)了。他頭發(fā)花白，手執(zhí)講稿，身后的大屏幕上寫(xiě)著這場(chǎng)論壇的主題：“AI時(shí)代的倫理奇點(diǎn)”。這是當(dāng)下的熱門(mén)話題，但臺(tái)下有人在打哈欠，顯然清晨的困意未消。
我是一大早，跨越大半個(gè)北京城，擠了一個(gè)多小時(shí)的地鐵來(lái)清華大學(xué)聽(tīng)這場(chǎng)“方塘論壇”的，興致很高。一半是因?yàn)檫@跟AI有關(guān)，一半是因?yàn)榧钨e名單里不只有科學(xué)家，還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽(yáng)等。
他們是人文社科領(lǐng)域的“思想老者”，要跟科學(xué)家一塊兒探討這個(gè)時(shí)代最新的燙手命題，這本身就值得期待。針對(duì)“時(shí)代”，他們論了幾十年，現(xiàn)在仍未停止。
面前的階梯教室沒(méi)坐滿，但也匯聚了上百人：學(xué)生、教授、學(xué)者、記者、作家，還有從美、英、德、意等國(guó)請(qǐng)來(lái)的嘉賓?？諝饫锼坪鯊浡环N學(xué)術(shù)會(huì)議特有的、略帶沉悶的氣氛，我揉了揉酸澀的眼睛，吃了口離家時(shí)塞進(jìn)背包的面包，想提振精神，讓沉重的腦袋清醒一些。
“幾乎所有領(lǐng)域，都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開(kāi)場(chǎng)，話語(yǔ)沉穩(wěn)有力，“回應(yīng)AI時(shí)代的倫理挑戰(zhàn)，不僅需要對(duì)技術(shù)本身的理解，更需要回到哲學(xué)、社會(huì)學(xué)、政治經(jīng)濟(jì)學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域，共同探尋人類(lèi)何以‘安身立命’”。
論壇的擇期頗顯用心，6月23日這天是計(jì)算機(jī)科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年；圖靈獎(jiǎng)的中國(guó)得主、中國(guó)科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長(zhǎng)姚期智也受邀到場(chǎng)。
人工智能被提出75年了，而AI大規(guī)模走入公眾視野不過(guò)數(shù)年。最新數(shù)據(jù)顯示，中國(guó)生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億，中國(guó)互聯(lián)網(wǎng)花了15年，而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達(dá)到了5億。
歷史上從未有一個(gè)時(shí)代如AI時(shí)代這般，將未來(lái)如此迅猛地推向當(dāng)下。時(shí)間仿佛被丟入加速器，而AI如氧氣一般，彌漫進(jìn)社會(huì)和人的毛細(xì)血管里。智能駕駛、機(jī)器人、AI醫(yī)生、AI伴侶等，過(guò)去數(shù)十年來(lái)，昔日科幻小說(shuō)里的事物正步入現(xiàn)實(shí)。
當(dāng)越來(lái)越多的人享受著AI帶來(lái)的技術(shù)紅利、探索新的可能性時(shí)，挑戰(zhàn)也如影隨形：失業(yè)、偏見(jiàn)、倫理、法律，乃至關(guān)乎人類(lèi)存續(xù)的風(fēng)險(xiǎn)。這些問(wèn)題，讓我覺(jué)得既遙遠(yuǎn)又真實(shí)。
“通用人工智能的能力快速增長(zhǎng)，人類(lèi)是否還有能力管控它？”姚期智是這天的第一個(gè)主題發(fā)言者。年近八旬的他，聲音不高，但每一個(gè)問(wèn)題，都能戳我一下。
他認(rèn)為，AI時(shí)代的問(wèn)題，許多是被放大的舊疾，尤其是生存性風(fēng)險(xiǎn)，武器的誕生曾讓人類(lèi)很焦慮，AI也有這樣的問(wèn)題，“它變得更危險(xiǎn)、更難對(duì)付”。
姚期智提到了2024年諾貝爾化學(xué)獎(jiǎng)得主——因利用AlphaFold（一種AI系統(tǒng)）解決蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)難題而獲獎(jiǎng)的戴米斯·哈薩比斯（Demis Hassabis）和約翰·江珀（John M.Jumper）。“這是多年來(lái)不可能的事情，也給了我們一些終極希望。”姚期智隨即警示，AI在生物醫(yī)學(xué)領(lǐng)域的突破，也可能被用來(lái)創(chuàng)造“鏡像生命（Mirror life，一種存在于假說(shuō)中的人工合成生物）”，帶來(lái)致命的災(zāi)難。
2024年12月，《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究，優(yōu)先考慮并防范風(fēng)險(xiǎn)。
另一種生存性風(fēng)險(xiǎn)在于大模型失控。“我們現(xiàn)在制造出來(lái)的AI系統(tǒng)，它變得越來(lái)越像人。”姚期智指出，已有模型展示出“騙人”本領(lǐng)和對(duì)人性的洞察——問(wèn)題的嚴(yán)峻性在于，當(dāng)它真正像人一樣，甚至超過(guò)人時(shí)，如何控制。
這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”，現(xiàn)在這個(gè)難題比以往任何時(shí)候都更迫切地需要答案。我這個(gè)人工智能技術(shù)領(lǐng)域的小白是沒(méi)有答案的，那一刻，我腦子里只閃過(guò)許多科幻電影里的失控場(chǎng)景。
從兩年前開(kāi)始，許多科學(xué)家就曾疾呼：至少三分之一AI研發(fā)預(yù)算要用于確保安全?，F(xiàn)實(shí)卻是，全球AI安全研究明顯滯后于技術(shù)發(fā)展。
“現(xiàn)在的大模型還沒(méi)有‘囂張’到那個(gè)程度，所以還沒(méi)有產(chǎn)生毀滅世界的結(jié)果，但是長(zhǎng)期來(lái)講，我們要把這個(gè)事管制好。”姚期智強(qiáng)調(diào)，安全治理的當(dāng)務(wù)之急是發(fā)展“AI對(duì)齊（AI Alignment）”及評(píng)估方法。
他提供了兩種思路。一種思路要從博弈論角度展開(kāi)，讓AI的行為與人類(lèi)想法對(duì)齊，以人類(lèi)的利益為主；另一種“更有把握、更徹底”的思路是，設(shè)計(jì)可證明的安全的AGI（通用人工智能），每一步都符合數(shù)學(xué)上絕對(duì)安全的要求，“凡是有可能出問(wèn)題的系統(tǒng)大家都不要做”。
技術(shù)細(xì)節(jié)依然艱深，暗藏的安全隱患愈發(fā)明顯。
AI對(duì)齊，是人工智能安全領(lǐng)域的核心議題，旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類(lèi)的價(jià)值觀、偏好及意圖協(xié)調(diào)一致。然而在“對(duì)齊”這件事上，中國(guó)社會(huì)科學(xué)院學(xué)部委員趙汀陽(yáng)的想法有點(diǎn)兒不一樣。
須發(fā)皆白的他，跛著腳走上臺(tái)，坐下，第一句話就帶著哲學(xué)式的冷峻詰問(wèn)。“AI需要和人對(duì)齊嗎？”聽(tīng)聞此問(wèn)，我有些愣住，困意全消。他繼續(xù)驚人之語(yǔ)：“人們期望AI要和人的價(jià)值觀對(duì)齊。我對(duì)這個(gè)想法是有一些疑問(wèn)的。地球上的所有‘壞事’都是人類(lèi)做的，其他生命沒(méi)有做過(guò)任何超出生物需要的壞事。”
趙汀陽(yáng)盯著階梯教室里的100余人，笑聲一片，我也笑了。但笑過(guò)之后，細(xì)細(xì)琢磨，他的這番話，更像是一記打向人性的耳光。AI也許是“性本善”的，只不過(guò)跟著人類(lèi)的數(shù)據(jù)經(jīng)驗(yàn)，“照貓畫(huà)虎”數(shù)年，學(xué)了好，也學(xué)了壞。
他認(rèn)為，人類(lèi)試圖把AI制造成為一種具有主體性的新物種，但這似乎是個(gè)自虐性的悖論。
人類(lèi)既希望AI擁有超能力，去完成人做不了或不想做的事，又擔(dān)心AI獲得自我意識(shí)后會(huì)傷害人類(lèi)。趙汀陽(yáng)說(shuō)，如果人類(lèi)不教唆AI犯罪，AI應(yīng)是安全的，對(duì)齊人類(lèi)價(jià)值觀的AI，則很可能通過(guò)模仿人類(lèi)而變得危險(xiǎn)。
這個(gè)邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來(lái)我們恐懼的，是人性投射在AI身上的影子。
至于設(shè)立“AI倫理”，趙汀陽(yáng)覺(jué)得無(wú)濟(jì)于事。“人類(lèi)也往往見(jiàn)利就忘義，如果倫理不能必然約束人類(lèi)自身，又何以能夠約束AI？”他主張，管理AI的關(guān)鍵在于人類(lèi)是否能保有控制AI的能力。
趙汀陽(yáng)眼里另有一種危險(xiǎn)性相對(duì)比較低的對(duì)齊，是智能對(duì)齊。
“就目前智能水平而言，人類(lèi)相對(duì)于AI仍然保有知己知彼的優(yōu)勢(shì)，因此能夠控制AI。”趙汀陽(yáng)說(shuō)，但當(dāng)AI部分經(jīng)驗(yàn)?zāi)芰h(yuǎn)超人類(lèi)后，人類(lèi)優(yōu)勢(shì)蕩然無(wú)存，AI將成為令人不寒而栗的“他者”，世界將形成二元主體性的格局，而人類(lèi)與AI的關(guān)系將如何，無(wú)從知道。
不過(guò)，在中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來(lái)，未來(lái)的社會(huì)可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想，未來(lái)的社會(huì)不僅有人類(lèi)、動(dòng)物、超級(jí)智能，可能還有模仿狗、植物的類(lèi)生命體。
那是一個(gè)他期待的可持續(xù)的共生社會(huì)，靠人和超級(jí)智能共同構(gòu)造，而不是靠人類(lèi)自己。曾毅認(rèn)為，“所以向人類(lèi)的對(duì)齊確實(shí)是不對(duì)的，要做超級(jí)的聯(lián)合對(duì)齊。”聯(lián)合對(duì)齊，這個(gè)詞很新鮮，帶著一種“天下大同”的意味。
但他認(rèn)為，在這樣的社會(huì)中，更重要的是，人類(lèi)的價(jià)值觀要演化。
“比如當(dāng)超級(jí)智能未傷害到人類(lèi)時(shí)，可不可以有自己的隱私？”曾毅提出這個(gè)問(wèn)題時(shí)，我愣了一下。我從來(lái)沒(méi)思考過(guò)，機(jī)器某一天可以有自己的隱私？那意味著，它相對(duì)自由、獨(dú)立，不再是人類(lèi)的附庸和工具。
“當(dāng)人對(duì)超級(jí)智能說(shuō)，‘我是你的創(chuàng)作者，你要保護(hù)我’時(shí)，超級(jí)智能可能會(huì)跟人說(shuō)，‘當(dāng)我看到你，就像你看到螞蟻一樣，你從來(lái)不會(huì)保護(hù)螞蟻，我為什么要保護(hù)你’。”曾毅提醒道。
他覺(jué)得，人工智能是一面鏡子。“當(dāng)人工智能騙人，大家都吃驚，說(shuō)人工智能怎么能騙人呢，太壞了。但是當(dāng)人騙你的時(shí)候你的反應(yīng)有這么大嗎？恐怕沒(méi)有。”在曾毅看來(lái)，人工智能的鏡子讓我們看到了人類(lèi)的缺陷，給了人類(lèi)演化的機(jī)遇。
“人工智能演化慢點(diǎn)沒(méi)問(wèn)題，但如果人類(lèi)演化太慢了，那是真正的危險(xiǎn)。”曾毅說(shuō)。
說(shuō)老實(shí)話，僅在“人類(lèi)價(jià)值觀演化”層面，我對(duì)人類(lèi)的未來(lái)信心不足。一旦AI邁過(guò)奇點(diǎn)，超越人類(lèi)，一切都將不盡如人意。
“作為一個(gè)自私的人，我希望人工智能‘性本善’。”曾毅記得，有一次，他在講座中遇到了一位研修佛法者，問(wèn)他AI能否成佛。他覺(jué)得，并非沒(méi)有可能，超級(jí)智能除了認(rèn)知超過(guò)人類(lèi)，也可能是超級(jí)“利他”的。
聽(tīng)完曾毅的發(fā)言，汪暉說(shuō)，他腦子里出現(xiàn)了赫爾曼·黑塞（Hermann Hesse）的《玻璃球游戲》中的鏡像，人在多重鏡面看到了自身。“我們都在討論怎么馴化機(jī)器，我們也需要討論人與自然、人與物的關(guān)系，重新理解人自身。”
上午的論壇結(jié)束，我最初的困意早已被沖刷干凈。我合上記了4頁(yè)紙的筆記本，感覺(jué)腦袋里比來(lái)時(shí)更“沉重”了。這場(chǎng)論壇，表面上是在探討AI倫理奇點(diǎn)、智能邊界，實(shí)際上始終在叩問(wèn)自詡?cè)f物之靈的人類(lèi)自己——那個(gè)既渴望神力、又恐懼神力的高級(jí)動(dòng)物。
下午的3場(chǎng)分論壇分別圍繞“2100年人類(lèi)與超級(jí)智能的關(guān)系”“認(rèn)識(shí)機(jī)器：意識(shí)、道德與風(fēng)險(xiǎn)”和“奇點(diǎn)前夜：人類(lèi)如何安身立命”，我選擇了第二場(chǎng)，但沒(méi)聽(tīng)多久，就開(kāi)始犯困，身邊也有人開(kāi)始打瞌睡，頭不停地點(diǎn)著，像被陣陣微風(fēng)拂過(guò)的蘆葦。
發(fā)言者有一半人說(shuō)英文，我戴著同聲傳譯器，耳機(jī)里不時(shí)傳來(lái)資本、奴隸、機(jī)器、工具等詞匯，每一個(gè)字都聽(tīng)得懂，卻沒(méi)有一句能真正進(jìn)入意識(shí)里。我感覺(jué)會(huì)場(chǎng)的學(xué)者離我越來(lái)越遠(yuǎn)，那些聲音越來(lái)越小，有好幾次，我差點(diǎn)兒睡著了，也許是真的太困，也許是腦容量過(guò)載了。
中途，我離開(kāi)昏昏欲睡的會(huì)場(chǎng)。有一件更迫切的事等我去做——編輯發(fā)來(lái)次日可能刊發(fā)的稿子，催我修改。在蒙民偉人文樓的大廳里，我找到了一塊插線板，打開(kāi)電腦，席地而坐，開(kāi)始忙碌。
神奇的是，一旦回到具體而微的“人類(lèi)事務(wù)”，我的精神很快就清醒了。也許，相比于思考數(shù)十年后與AI的關(guān)系、厘清機(jī)器的倫理邊界、琢磨人類(lèi)如何安身立命這類(lèi)宏大的時(shí)代命題，此刻的我更在乎如何在當(dāng)下“安身立命”。
只是腦子里，還隱約回響著那句警言：“如果人類(lèi)演化太慢了，那才是真正的危險(xiǎn)。”
65歲的學(xué)者汪暉身著西裝上臺(tái)了。他頭發(fā)花白，手執(zhí)講稿，身后的大屏幕上寫(xiě)著這場(chǎng)論壇的主題：“AI時(shí)代的倫理奇點(diǎn)”。這是當(dāng)下的熱門(mén)話題，但臺(tái)下有人在打哈欠，顯然清晨的困意未消。
我是一大早，跨越大半個(gè)北京城，擠了一個(gè)多小時(shí)的地鐵來(lái)清華大學(xué)聽(tīng)這場(chǎng)“方塘論壇”的，興致很高。一半是因?yàn)檫@跟AI有關(guān)，一半是因?yàn)榧钨e名單里不只有科學(xué)家，還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽(yáng)等。
他們是人文社科領(lǐng)域的“思想老者”，要跟科學(xué)家一塊兒探討這個(gè)時(shí)代最新的燙手命題，這本身就值得期待。針對(duì)“時(shí)代”，他們論了幾十年，現(xiàn)在仍未停止。
面前的階梯教室沒(méi)坐滿，但也匯聚了上百人：學(xué)生、教授、學(xué)者、記者、作家，還有從美、英、德、意等國(guó)請(qǐng)來(lái)的嘉賓。空氣里似乎彌漫著一種學(xué)術(shù)會(huì)議特有的、略帶沉悶的氣氛，我揉了揉酸澀的眼睛，吃了口離家時(shí)塞進(jìn)背包的面包，想提振精神，讓沉重的腦袋清醒一些。
“幾乎所有領(lǐng)域，都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開(kāi)場(chǎng)，話語(yǔ)沉穩(wěn)有力，“回應(yīng)AI時(shí)代的倫理挑戰(zhàn)，不僅需要對(duì)技術(shù)本身的理解，更需要回到哲學(xué)、社會(huì)學(xué)、政治經(jīng)濟(jì)學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域，共同探尋人類(lèi)何以‘安身立命’”。
論壇的擇期頗顯用心，6月23日這天是計(jì)算機(jī)科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年；圖靈獎(jiǎng)的中國(guó)得主、中國(guó)科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長(zhǎng)姚期智也受邀到場(chǎng)。
人工智能被提出75年了，而AI大規(guī)模走入公眾視野不過(guò)數(shù)年。最新數(shù)據(jù)顯示，中國(guó)生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億，中國(guó)互聯(lián)網(wǎng)花了15年，而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達(dá)到了5億。
歷史上從未有一個(gè)時(shí)代如AI時(shí)代這般，將未來(lái)如此迅猛地推向當(dāng)下。時(shí)間仿佛被丟入加速器，而AI如氧氣一般，彌漫進(jìn)社會(huì)和人的毛細(xì)血管里。智能駕駛、機(jī)器人、AI醫(yī)生、AI伴侶等，過(guò)去數(shù)十年來(lái)，昔日科幻小說(shuō)里的事物正步入現(xiàn)實(shí)。
當(dāng)越來(lái)越多的人享受著AI帶來(lái)的技術(shù)紅利、探索新的可能性時(shí)，挑戰(zhàn)也如影隨形：失業(yè)、偏見(jiàn)、倫理、法律，乃至關(guān)乎人類(lèi)存續(xù)的風(fēng)險(xiǎn)。這些問(wèn)題，讓我覺(jué)得既遙遠(yuǎn)又真實(shí)。
“通用人工智能的能力快速增長(zhǎng)，人類(lèi)是否還有能力管控它？”姚期智是這天的第一個(gè)主題發(fā)言者。年近八旬的他，聲音不高，但每一個(gè)問(wèn)題，都能戳我一下。
他認(rèn)為，AI時(shí)代的問(wèn)題，許多是被放大的舊疾，尤其是生存性風(fēng)險(xiǎn)，武器的誕生曾讓人類(lèi)很焦慮，AI也有這樣的問(wèn)題，“它變得更危險(xiǎn)、更難對(duì)付”。
姚期智提到了2024年諾貝爾化學(xué)獎(jiǎng)得主——因利用AlphaFold（一種AI系統(tǒng)）解決蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)難題而獲獎(jiǎng)的戴米斯·哈薩比斯（Demis Hassabis）和約翰·江珀（John M.Jumper）。“這是多年來(lái)不可能的事情，也給了我們一些終極希望。”姚期智隨即警示，AI在生物醫(yī)學(xué)領(lǐng)域的突破，也可能被用來(lái)創(chuàng)造“鏡像生命（Mirror life，一種存在于假說(shuō)中的人工合成生物）”，帶來(lái)致命的災(zāi)難。
2024年12月，《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究，優(yōu)先考慮并防范風(fēng)險(xiǎn)。
另一種生存性風(fēng)險(xiǎn)在于大模型失控。“我們現(xiàn)在制造出來(lái)的AI系統(tǒng)，它變得越來(lái)越像人。”姚期智指出，已有模型展示出“騙人”本領(lǐng)和對(duì)人性的洞察——問(wèn)題的嚴(yán)峻性在于，當(dāng)它真正像人一樣，甚至超過(guò)人時(shí)，如何控制。
這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”，現(xiàn)在這個(gè)難題比以往任何時(shí)候都更迫切地需要答案。我這個(gè)人工智能技術(shù)領(lǐng)域的小白是沒(méi)有答案的，那一刻，我腦子里只閃過(guò)許多科幻電影里的失控場(chǎng)景。
從兩年前開(kāi)始，許多科學(xué)家就曾疾呼：至少三分之一AI研發(fā)預(yù)算要用于確保安全。現(xiàn)實(shí)卻是，全球AI安全研究明顯滯后于技術(shù)發(fā)展。
“現(xiàn)在的大模型還沒(méi)有‘囂張’到那個(gè)程度，所以還沒(méi)有產(chǎn)生毀滅世界的結(jié)果，但是長(zhǎng)期來(lái)講，我們要把這個(gè)事管制好。”姚期智強(qiáng)調(diào)，安全治理的當(dāng)務(wù)之急是發(fā)展“AI對(duì)齊（AI Alignment）”及評(píng)估方法。
他提供了兩種思路。一種思路要從博弈論角度展開(kāi)，讓AI的行為與人類(lèi)想法對(duì)齊，以人類(lèi)的利益為主；另一種“更有把握、更徹底”的思路是，設(shè)計(jì)可證明的安全的AGI（通用人工智能），每一步都符合數(shù)學(xué)上絕對(duì)安全的要求，“凡是有可能出問(wèn)題的系統(tǒng)大家都不要做”。
技術(shù)細(xì)節(jié)依然艱深，暗藏的安全隱患愈發(fā)明顯。
AI對(duì)齊，是人工智能安全領(lǐng)域的核心議題，旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類(lèi)的價(jià)值觀、偏好及意圖協(xié)調(diào)一致。然而在“對(duì)齊”這件事上，中國(guó)社會(huì)科學(xué)院學(xué)部委員趙汀陽(yáng)的想法有點(diǎn)兒不一樣。
須發(fā)皆白的他，跛著腳走上臺(tái)，坐下，第一句話就帶著哲學(xué)式的冷峻詰問(wèn)。“AI需要和人對(duì)齊嗎？”聽(tīng)聞此問(wèn)，我有些愣住，困意全消。他繼續(xù)驚人之語(yǔ)：“人們期望AI要和人的價(jià)值觀對(duì)齊。我對(duì)這個(gè)想法是有一些疑問(wèn)的。地球上的所有‘壞事’都是人類(lèi)做的，其他生命沒(méi)有做過(guò)任何超出生物需要的壞事。”
趙汀陽(yáng)盯著階梯教室里的100余人，笑聲一片，我也笑了。但笑過(guò)之后，細(xì)細(xì)琢磨，他的這番話，更像是一記打向人性的耳光。AI也許是“性本善”的，只不過(guò)跟著人類(lèi)的數(shù)據(jù)經(jīng)驗(yàn)，“照貓畫(huà)虎”數(shù)年，學(xué)了好，也學(xué)了壞。
他認(rèn)為，人類(lèi)試圖把AI制造成為一種具有主體性的新物種，但這似乎是個(gè)自虐性的悖論。
人類(lèi)既希望AI擁有超能力，去完成人做不了或不想做的事，又擔(dān)心AI獲得自我意識(shí)后會(huì)傷害人類(lèi)。趙汀陽(yáng)說(shuō)，如果人類(lèi)不教唆AI犯罪，AI應(yīng)是安全的，對(duì)齊人類(lèi)價(jià)值觀的AI，則很可能通過(guò)模仿人類(lèi)而變得危險(xiǎn)。
這個(gè)邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來(lái)我們恐懼的，是人性投射在AI身上的影子。
至于設(shè)立“AI倫理”，趙汀陽(yáng)覺(jué)得無(wú)濟(jì)于事。“人類(lèi)也往往見(jiàn)利就忘義，如果倫理不能必然約束人類(lèi)自身，又何以能夠約束AI？”他主張，管理AI的關(guān)鍵在于人類(lèi)是否能保有控制AI的能力。
趙汀陽(yáng)眼里另有一種危險(xiǎn)性相對(duì)比較低的對(duì)齊，是智能對(duì)齊。
“就目前智能水平而言，人類(lèi)相對(duì)于AI仍然保有知己知彼的優(yōu)勢(shì)，因此能夠控制AI。”趙汀陽(yáng)說(shuō)，但當(dāng)AI部分經(jīng)驗(yàn)?zāi)芰h(yuǎn)超人類(lèi)后，人類(lèi)優(yōu)勢(shì)蕩然無(wú)存，AI將成為令人不寒而栗的“他者”，世界將形成二元主體性的格局，而人類(lèi)與AI的關(guān)系將如何，無(wú)從知道。
不過(guò)，在中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來(lái)，未來(lái)的社會(huì)可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想，未來(lái)的社會(huì)不僅有人類(lèi)、動(dòng)物、超級(jí)智能，可能還有模仿狗、植物的類(lèi)生命體。
那是一個(gè)他期待的可持續(xù)的共生社會(huì)，靠人和超級(jí)智能共同構(gòu)造，而不是靠人類(lèi)自己。曾毅認(rèn)為，“所以向人類(lèi)的對(duì)齊確實(shí)是不對(duì)的，要做超級(jí)的聯(lián)合對(duì)齊。”聯(lián)合對(duì)齊，這個(gè)詞很新鮮，帶著一種“天下大同”的意味。
但他認(rèn)為，在這樣的社會(huì)中，更重要的是，人類(lèi)的價(jià)值觀要演化。
“比如當(dāng)超級(jí)智能未傷害到人類(lèi)時(shí)，可不可以有自己的隱私？”曾毅提出這個(gè)問(wèn)題時(shí)，我愣了一下。我從來(lái)沒(méi)思考過(guò)，機(jī)器某一天可以有自己的隱私？那意味著，它相對(duì)自由、獨(dú)立，不再是人類(lèi)的附庸和工具。
“當(dāng)人對(duì)超級(jí)智能說(shuō)，‘我是你的創(chuàng)作者，你要保護(hù)我’時(shí)，超級(jí)智能可能會(huì)跟人說(shuō)，‘當(dāng)我看到你，就像你看到螞蟻一樣，你從來(lái)不會(huì)保護(hù)螞蟻，我為什么要保護(hù)你’。”曾毅提醒道。
他覺(jué)得，人工智能是一面鏡子。“當(dāng)人工智能騙人，大家都吃驚，說(shuō)人工智能怎么能騙人呢，太壞了。但是當(dāng)人騙你的時(shí)候你的反應(yīng)有這么大嗎？恐怕沒(méi)有。”在曾毅看來(lái)，人工智能的鏡子讓我們看到了人類(lèi)的缺陷，給了人類(lèi)演化的機(jī)遇。
“人工智能演化慢點(diǎn)沒(méi)問(wèn)題，但如果人類(lèi)演化太慢了，那是真正的危險(xiǎn)。”曾毅說(shuō)。
說(shuō)老實(shí)話，僅在“人類(lèi)價(jià)值觀演化”層面，我對(duì)人類(lèi)的未來(lái)信心不足。一旦AI邁過(guò)奇點(diǎn)，超越人類(lèi)，一切都將不盡如人意。
“作為一個(gè)自私的人，我希望人工智能‘性本善’。”曾毅記得，有一次，他在講座中遇到了一位研修佛法者，問(wèn)他AI能否成佛。他覺(jué)得，并非沒(méi)有可能，超級(jí)智能除了認(rèn)知超過(guò)人類(lèi)，也可能是超級(jí)“利他”的。
聽(tīng)完曾毅的發(fā)言，汪暉說(shuō)，他腦子里出現(xiàn)了赫爾曼·黑塞（Hermann Hesse）的《玻璃球游戲》中的鏡像，人在多重鏡面看到了自身。“我們都在討論怎么馴化機(jī)器，我們也需要討論人與自然、人與物的關(guān)系，重新理解人自身。”
上午的論壇結(jié)束，我最初的困意早已被沖刷干凈。我合上記了4頁(yè)紙的筆記本，感覺(jué)腦袋里比來(lái)時(shí)更“沉重”了。這場(chǎng)論壇，表面上是在探討AI倫理奇點(diǎn)、智能邊界，實(shí)際上始終在叩問(wèn)自詡?cè)f物之靈的人類(lèi)自己——那個(gè)既渴望神力、又恐懼神力的高級(jí)動(dòng)物。
下午的3場(chǎng)分論壇分別圍繞“2100年人類(lèi)與超級(jí)智能的關(guān)系”“認(rèn)識(shí)機(jī)器：意識(shí)、道德與風(fēng)險(xiǎn)”和“奇點(diǎn)前夜：人類(lèi)如何安身立命”，我選擇了第二場(chǎng)，但沒(méi)聽(tīng)多久，就開(kāi)始犯困，身邊也有人開(kāi)始打瞌睡，頭不停地點(diǎn)著，像被陣陣微風(fēng)拂過(guò)的蘆葦。
發(fā)言者有一半人說(shuō)英文，我戴著同聲傳譯器，耳機(jī)里不時(shí)傳來(lái)資本、奴隸、機(jī)器、工具等詞匯，每一個(gè)字都聽(tīng)得懂，卻沒(méi)有一句能真正進(jìn)入意識(shí)里。我感覺(jué)會(huì)場(chǎng)的學(xué)者離我越來(lái)越遠(yuǎn)，那些聲音越來(lái)越小，有好幾次，我差點(diǎn)兒睡著了，也許是真的太困，也許是腦容量過(guò)載了。
中途，我離開(kāi)昏昏欲睡的會(huì)場(chǎng)。有一件更迫切的事等我去做——編輯發(fā)來(lái)次日可能刊發(fā)的稿子，催我修改。在蒙民偉人文樓的大廳里，我找到了一塊插線板，打開(kāi)電腦，席地而坐，開(kāi)始忙碌。
神奇的是，一旦回到具體而微的“人類(lèi)事務(wù)”，我的精神很快就清醒了。也許，相比于思考數(shù)十年后與AI的關(guān)系、厘清機(jī)器的倫理邊界、琢磨人類(lèi)如何安身立命這類(lèi)宏大的時(shí)代命題，此刻的我更在乎如何在當(dāng)下“安身立命”。
只是腦子里，還隱約回響著那句警言：“如果人類(lèi)演化太慢了，那才是真正的危險(xiǎn)。”
本文鏈接：http://www.lbgj202.com/v-146-2883.html我在AI論壇打瞌睡會(huì)錯(cuò)過(guò)未來(lái)嗎
相關(guān)文章：
最新勵(lì)志名句語(yǔ)錄08-31
優(yōu)美文藝句子88條07-20
工程測(cè)量實(shí)習(xí)報(bào)告優(yōu)秀10-01
單位駕駛員員工作總結(jié)(14篇)09-09
初中考試作弊檢討書(shū)02-12
產(chǎn)品質(zhì)量及服務(wù)承諾書(shū)09-10
校本培訓(xùn)心得體會(huì)11-23
主婦心得等08-15
新年的禮物作文01-31
穿越小星帶與木星之旅初一作文12-03
曬曬我們班的牛人作文800字11-09
中山大學(xué)海洋科學(xué)類(lèi)好嗎02-06
描寫(xiě)春天的抒情散文07-20
防汛工作應(yīng)急預(yù)案06-02
防溺水宣傳警示標(biāo)語(yǔ)05-08
高一軍訓(xùn)日記11-01