對話MIT終身教授：AI之路通向何方？ 是人類福利還是滅世之災？

我們已然望見AI時代的曙光。 AI無限的想像空間、人類根深蒂固的恐懼本能，加上流行文化的肆意渲染，AI更像一頭帶來末日的利維坦。 AI究竟意味著什麼？ 人類又該如何自處？ 出自人類之手的AI如何才能為人類謀福利？

麻省理工學院物理系終身教授、未來生命研究所創始人、暢銷書《生命3.0：人工智能時代，人類的進化與重生》作者邁克斯•泰格馬克，分享了一些對於人工智能的理性看法。

以下為採訪實錄：

造就：您在新書開篇提到中國，您認為中國人工智能 的發展會對世界有什麼影響？

泰格馬克： 中國是人工智能製造領域的世界領跑者。

不斷提升的技術能力與使用技術所必需的智慧之間存在一種張力，這是一場競賽，會在很大程度上決定未來AI的發展走向。

中國漫長的歷史積累了豐富的智慧，有助於建立一套良好的人工智能管理體系。 中國技術和中國智慧的結合，很可能讓我們在這場競賽中勝出。

過去智慧的增長一直依賴試錯法，比如我們先發明了火，經歷火災後又發明了滅火器。

但今天，科技的力量已經實現幾何級數的增長，試錯成本變得不可承​​受。 我們必須未雨綢繆，一次就把事情做到位，因為這可能是我們唯一的機會。

造就：90年代美國、歐盟形成了一種保護機制，您對此怎麼看？

泰格馬克： 事實上，我工作的麻省理工學院正在做 安全性研究項目。

有人質疑，對AI風險的討論是不是為時過早，甚至太杞人憂天？ 不是。 安全性研究的宗旨是希望通過規避錯誤，最大程度地降低損失，確保往正確的方向發展。

有人很悲觀，他們想像凡是有可能被濫用於危害人類的科學技術，都會釀出苦果、貽害無窮。 但這很顯然是錯誤的。

想想生物學，本可以用於生化武器，可關於生化恐襲的報導實際上少之又少。

因為20世紀70年代，大部分國家都簽署了國際性的禁止生化武器條約。 大家形成了一種共同的願景，沒有生物學家會以製造生化武器為夢想，而是把精力放在了生物學研究和以醫學發明賺錢上。 生物學確實為人們創造了更健康、更幸福、更長壽的生活。

很多人一直固守一種過時的思維方式，堅信強者通吃，必須鬥得你死我活，才能得利。

比如我的母國瑞典和鄰國丹麥，歷史上戰爭不斷，但近百年卻友好無事。

戰爭中求生存，在古代這似乎無可厚非，畢竟當時的條件下，土地意味著一切。

但在今天， 利益的獲取不必依賴土地，科學技術的發展可以滿足物質財富、生理健康各個層面的全方位提升。 不必再依循弱肉強食的殘酷法則。

科學技術的發展依賴不分國籍、種族、性別的人類的共同努力，科技的客觀有效性也決定了應用足以造福全世界。

例如抗生素，沒人在乎究竟是誰、哪個國家發明了抗生素，重點是它事實上為包括亞非拉和歐美在內的全世界人民帶來了福利。

這才是科學技術的本質。 科技誕生財富和利益，科技的普世性決定了在今天，不是殘酷的競爭而是和平，不是你死我活而是互利共贏，才是提升幸福指數的終極之道。

造就：您認為AI是否有意識？  

泰格馬克： 這是一個很有爭議的話題。

首先， 意識不等於智力。 智力是實現目標的能力。 而意識是我知道自己。

比如開車，我從自己的耳朵、眼睛獲取信息，大腦經過處理，向肌肉發出指令，再落實到具體的駕駛行為上。

無人駕駛汽車可以把這件事做到極致。 但它不可能知道自己在開車。 我卻可以知道這點。

有人說，任何有智力的東西都有意識，把意識和智力劃等號。 這顯然是錯誤的。

意識和智力都跟信息處理有關，但 並不是所有的信息處理都是在有意識的情況下實現的， 比如我不可能察覺到我的大腦是如何調節我的心跳的。 同樣，某些智力活動並不伴隨意識。

也有人說，機器人不可能有主觀體驗，不可能有意識。

我是一名科學家，從科學角度看，構成人類大腦的碳原子並不神秘。 而 之所以神秘學、奇蹟學能有廣闊的市場，我覺得和人類的宗教需求和宗教背景有很大關係。

目前麻省理工學院的研究小組正在做這方面的研究，什麼樣的信息處理是有意識的？ 什麼樣的信息處理僅僅是一種實現目標的應變能力？ 這非常重要。

未來，萬一我們造出和人類一樣有意識的機器人，該如何對待它們？

一旦機器人具備意識，就不再是簡單的技術層面的問題，而是道德倫理問題。

人類一直就有製造他者、虐待其他生命形式的惡習。 無論是自然界的動植物，還是野蠻社會下的奴隸僕役，都被以要么沒有意識、要么是低階生物為由肆意虐待。 但科學和社會的雙重進步一次次證明並非如此。

要想肆意對待有意識的機器人，就必然觸及幾乎不可能解決的道德倫理難題。

某種程度上， 主觀體驗、意識是最有價值的東西 。 比如當我們看世界的時候，是因為我們在看，所以誕生對世界“美”的判斷和感受，相反世界本身談不上美醜好壞。 可以說，意識、主觀體驗就是意義的源泉，是獨一無二的標誌。

製造AI的宗旨是服務人類，將是否具備意識的機器區分開來並且分別製造，這一點就尤其重要。 此外，針對意識的有無，制定相應的對待策略，構建不同性質的人機倫理，也十分重要。

造就：人類大腦和AI能夠完美融合嗎？ 就像鋼鐵俠那樣。

泰格馬克： 可以，也不可以。

某種程度上，我們可以使用科技來強化我們的大腦， 現在的智能手機就是這種的初步應用，撇開手機和人腦的物理連接不談，智能手機的確大幅提升了人腦的各種能力，也給人類生活提供了極大的便利。

未來很可能誕生神經植入技術，超越物理層面的溝壑，使得人成為更完美的人。

絕對意義上的人機融合併不現實。 因為神經元信號的發射速度只有千分之一秒，而今天計算機芯片的處理速度比人腦快100萬倍，受限於生理原因人腦不可能比得過AI，所以人機融合的前景暗淡 。

超級計算機在應用的長遠和廣闊性上，無疑優越於人機融合，而只需要解決AI的價值觀問題，始終保持為人類最高利益服務的宗旨，這種相對意義上的人機融合才是王道。

造就：你在書裡多次提到《終結者》，你覺得未來會是人類成功控制機器，還是機器成為人類的噩夢？ 科幻電影裡你最喜歡哪部？

泰格馬克： 一提到AI的未來，人們很容易想到電影《終結者》，裡面毀天滅地的機器人，讓人們擔憂AI的風險。 我認為這種擔憂是錯誤的。

對人類構成威脅的不是它超強的能力，而是它的程序、它所秉持的價值觀、或者說是它的意識。 當AI的價值觀和目標與人類需要的不一致、甚至相衝突時，這才是風險所在。

‘

保持AI的價值觀和人類高度一致，是AI技術的發展之道，也是人類的福祉所在。

但這面臨 三個尚未解決的棘手難題：

讓AI理解人類的目標和價值觀，並不容易；

讓AI理解和讓AI去執行，是兩回事；

隨著AI技術更成熟、更智能化、更聰明，如何讓AI始終保持和認同人類的價值觀？

有人說，這個研究現在為時過早，因為我們人類連自己的目標是什麼都還不知道，根本談不上去教育AI。 我覺得這只是在為偷懶找藉口。

雖然微觀層面人與人存在差異，但 作為整體人類卻共同分享一套目標。 比如造飛機，每個人都會同意飛機在任何情況下都不應該沖向建築物。

把這類人們都認同的目標和價值觀教給AI，就像父母教育孩子，不僅要教育孩子學習各種技能，這就跟一個好的士兵並不等於一個好人一樣，還必須傳授給他做人的 道理，與人為善的道德規範。

使AI的智能化程度越來越高，越來越聰明，並不等於AI的發展越來越好。 衡量的標準不僅看能力，更要看AI是否服務於人類，是否分享一套和人類一樣的價值觀。 而這是科學領域和認知倫理領域一起攜手去做的事情。 如果AI能與人類共享同一套價值觀和為人類服務的目標，對AI未來的擔憂將不攻自破。

像《終結者》這樣的科幻電影，只是不加區分地展現AI災難性的一面，我不太喜歡。 不過一部電影《她》是例外。 《她》非常有趣，裡面的機器人具有自我意識，這是非常有創意的。

我最喜歡的電影當屬斯坦利·庫布里克的《2001太空漫遊》，裡面很清楚地展示出人工智能最大的風險來自AI強大能力的濫用，而這也並不是AI自主意識的驅使， 而是人類灌輸給AI的程序所致。

如果人類能解決人機之間技術性的信任問題，如果人類能傳遞給AI一套和人類共同價值觀一致、為人服務的宗旨，AI超強的能力和無限的想像空間，必定會是人類未來的助力 。

造就：如何定義生命1.0、2.0、3.0？

泰格馬克 ：我把細菌生命稱為1.0，因為它們沒有自主的學習能力。 現在的人類是2.0。 生命3.0是一種能夠對自己在軟件和硬件方面進行全面提升的存在階段。 或許AI會為我們人類打開生命3.0的大門。

造就：現在有種擔憂，認為AI發展了，人的存在感會被削弱，你怎麼看？

泰格馬克： 我舉三個例子，收入、就業和生活的意義。

AI是科學技術的結晶，而科技可以誕生財富，AI發展最直接的邏輯結果是社會財富總和的大幅增長。

現實層面確實可能造成收入兩極分化，但這 本質上是社會財富的分配問題，不是科技問題。 應該從社會科學層面去解決。

AI無疑會替代一些人類工作，尤其是技術含量低的勞動密集型工作。 但在社會財富總體增加、保證分配公平的前提下，被替代也可以看作是一種人類的解放。

人們也不必擔心因為失去工作、獲得解放而失去生活的意義、存在的價值，我在中國發現很多退休的老年人在含飴弄孫、撫育孫輩的生活中找到了晚年的樂趣和價值。