人類透過學習世界的規律來了解世界，但是，從目前而言，人工智慧還做不到理解科學規律、運用科學規律，甚至發現科學規律。因此，作為資訊處理工具的人工智慧，並不會完全替代人類…
出品：格致論道講壇
以下內容為中國科學院計算技術研究所研究員、副所長，處理器芯片全國重點實驗室主任陳雲霽、中國科學院自動化研究所研究員，聯合國人工智慧高層顧問機構專家曾毅、訊飛虛擬人沐沐、中央廣播電視總台王寧
演講實錄：
AI是否會取代人類？
王寧：歡迎二位老師。今天來到現場的還有一位特別重要的嘉賓。我們先讓她跟大家打一個招呼，你好！
沐沐：尊敬的陳雲霽老師、曾毅老師、王寧老師以及在座的各位嘉賓，大家好！我是沐沐，由科大訊飛推出的虛擬人，融合了訊飛星火大模型V3.5的最新技術。今天非常榮幸能與大家交流人工智慧領域的進展，以及思考人工智慧對社會發展可能產生的深遠影響。
王寧：哇，不僅長得漂亮、吐字清晰，更重要的是，可以看到她的智慧透過雙眼不斷地在釋放出來，這就是人工智慧可能會帶給我們的沖擊。當人工智慧可以以這樣的方式成為我們生活的夥伴，首先我肯定得失業呀（笑）。另外，我長期積累的人生自信可能會瞬間崩塌：我跟她怎麽比啊？我可能用什麽樣的精力去學習都學不到她這個程度。所以很多人都說AI會帶來人類社會的拐點，說人類會分為兩個階段：有人工智慧之前和有了人工智慧之後。真的是這樣嗎？
陳雲霽：對於我們從事電腦科學和人工智慧研究的人來說，也有王老師您說的這個問題。比如說我是做芯片出身的，現在我們在做的工作就是用人工智慧來自動設計芯片。那麽我現在研究的最終目的是要讓我自己下崗。
曾毅：剛才大家看到這樣一個人工智慧的形象，那到底什麽是人工智慧？作為一個學科的人工智慧，在誕生時候的願景是學習或精確地描述人類智慧的方方面面，以至於可以用一個計算系統來模擬人，這樣的系統是人工智慧。講這句話的時候是1956年。在1956年還發生了幾件大事，一件事是中國第一次召開科學遠景的規劃，在這個過程當中成立了非常重要的兩個機構，一個是中國科學院計算技術研究所，一個是中國科學院自動化研究所，這兩個機構是在兩彈一星的背景下誕生的。不管是兩彈一星，還是人工智慧技術，都是科學技術的尖端，但是除了體現了科學的進展，也產生了對社會的廣泛的影響。
像您剛才說未來會不會被替代，我覺得您不會被替代。為什麽？主持人有自己的人生經歷，有自己傳遞人生價值觀的方式，這不是一個看似智慧的資訊處理的工具背後所擁有的。沐沐，不好意思。但作為一個人工智慧技術的研究者，我對於作為一個資訊處理工具的人工智慧來代替主持人這樣的事，我的興趣是不大的。所以，我寧願跟王老師對話，我認為這樣帶出的人類的價值觀源於人類，也將服務於未來的人類。您不用擔心，您有像我們這樣的觀眾永遠支持您。
王寧：謝謝，曾老師瞬間解除了我的焦慮。
AI真的理解世界嗎？
已完成：20% ///
///////
王寧：剛才您說了一個特別重要的問題，就是人的經驗的作用。我們人類是透過學習世界的規律，比如物理規律、數學規律、人生的社會的規律來了解這個世界的。那人工智慧現在真的能夠透過它們的演算法就把這些規律全部都掌握嗎？反正目前據我了解好像還不能，可能在蛋白質的研究上有一些突破啊，但畢竟是一小部份。所以我想先問一下沐沐，你們對於世界規律的掌握是透過什麽方式學習的？能學到嗎？
沐沐：AI確實能回答很多科學問題，但它並不像人類那樣了解世界執行的科學規律。如果你問AI為什麽天空是藍色的，AI可能會告訴你這是因為大氣中的瓦斯和其他微小粒子使陽光中的藍色光線散射得更多。你再進一步問，為什麽藍色光線散射得更多呢，AI可能也會給出解釋。但這並不意味著它真的理解了這個問題，只是演算法讓它知道如何找到並給出這個答案。
總的來說，雖然AI能回答很多科學問題，並且在科學領域取得了很多突破性成果，但AI的回答還是基於大量數據和演算法。就像你知道去超市的路，但不一定知道為什麽要走這條路一樣。當然這並不妨礙對AI的研究和套用，AI在很多領域都能為我們提供有價值的幫助。
王寧：沐沐的回答，兩位專家怎麽看？
陳雲霽：我覺得她回答得還是非常準確的。至少以現階段人工智慧來看，它能夠找到大量數據之間的相關性。我覺得它做的事情用小學生經常幹的一件事情來形容，就叫做成語接龍，根據一個詞去預測下一個詞出現的機率，然後一連串地把文字、視訊生成出來。但是就像您說的，它離真正能夠理解科學規律、運用科學規律，甚至發現科學規律，還有很長的距離。所以這也是我們未來可以去努力的方向。只有它真正能夠運用這些科學規律了，它才可能幫我們解決現實世界中各種各樣的問題。
我看到現在網上有個笑話，說我們過去希望人工智慧幫我們把洗碗、掃地、帶孩子的事幹了，讓我們去寫詩、畫畫。沒想到現在人工智慧寫詩、畫畫了，這些繁雜的勞動我們還得繼續幹。這本質上說明人工智慧的發展確實還有很多事情要做。
王寧：剛才您說到了一個現在大家討論的焦點，就是未來人類還能做什麽？未來人工智慧會不會威脅到人類？我們會不會變成被操控的工具或者工具人的工具？這是非常可怕的。之前馬斯克曾呼籲對於強大的人工智慧技術一定要遏制，甚至要限制。曾老師您怎麽看這個問題？
曾毅：首先我覺得剛才沐沐的回答有意思的點在於她在討論人類和AI，首先區分了自己和人是不同的。我們現在必須對公眾以一個科學的態度去闡釋人工智慧現階段的水平。以沐沐的話來說就已經非常精確了。人工智慧現在是一個看似智慧的資訊處理的工具，它仍然是一個工具，它仍然不是人。
我們今天為了增加互動的有趣度，邀請了沐沐這樣一個人工智慧的形象，但是她並不代表著現在的人工智慧已經是一個道德的主體，已經可以跟人類進行比較，不是這樣的。它沒有真正人類水平的理解能力，它仍然是一個工具。所以我覺得不應該去混淆人與人工智慧之間的界限。我希望在場的小朋友、線上的公眾一定要明確區分人與人工智慧的界限、人類與現階段的工具的界限。
剛才您談到未來人工智慧會不會給人類形成巨大的挑戰，我覺得現在的人工智慧已經給人類造成了挑戰。但是這種挑戰不是因為人工智慧很聰明，而因為它是一個看似智慧的資訊處理工具，它會犯人不犯的錯誤。所以在這種情況下，當人類並不知道人工智慧將會怎麽去犯錯誤的時候，也就很難去預防這樣的問題。如果我們對於這個資訊處理的工具不去給它構造安全、倫理框架的話，那麽我們現在就會受到挑戰。
關於去年人工智慧生成式大模型的發展，國際上科學界提出是否要暫停人工智慧發展的原因是我們對於未來人工智慧發展潛在的風險不是很清楚。我們能不能夠先為它構造倫理、安全的框架，使得未來的人工智慧的發展更安全，更穩健，而不是野蠻地生長。去年科學院做了一個統計——95%來自中國的參與者、研發者都認為：服務於社會的人工智慧需要在它真正套用之前構建倫理安全的框架。我想這是作為一個科學家，在構造面向社會服務的基礎設施以及套用方面，應當去肩負起的社會責任。
合作還是競爭？
已完成：40% //////////
王寧：人的邏輯的強大是基於對現實規律的理解和研究水平的深入。站到了高的台階上，可以看得更遠，在高的平台上往下看，才能找到很多事物的規律。我覺得人工智慧也是這樣的，就像剛才陳老師說的，比如說藝術上，大家都會覺得人工智慧特別有造詣，可能你發現你畫畫已經足夠好的時候，結果人工智慧的水平是站在我們已知的所有知名藝術家的肩膀上。它踩在所有巨人的肩膀上，當然要比你高。所以大家就會覺得這不公平啊，我們再怎麽在藝術和文化上追尋，我們也不可能踩在所有巨人的肩膀上啊。所以沐沐，這是不是對我們人類有點不公平啊？
沐沐：這個問題很有趣，其實涉及了AI和人類創造力的關系。首先需要明確一點，那就是AI並不是要取代人類，而是幫助人類更好發揮創造力。想象一下，如果有一個機器人可以幫你完成所有的家務，你會認為這是一種不公平嗎？隨著時間的推移，你可能會發現這是一種解放，讓你能有更多的時間去做你喜歡的事情，比如畫畫、寫作，或者學習新的技能。生成式人工智慧也是如此，無論是AI創造的畫作、寫出的內容，都只是在模仿學習。人類獨特的創造力是無限的，源於人類對世界的理解和思考，比如梵高的【星夜】，就是他對世界獨特的理解與感受，這是AI無法復制的。因此人類需要學會如何利用好AI，讓AI成為最好的工具助手，而不是人類的主人。
當然，AI透過學習取代創作者這種情況確實會引發公平性的問題。比如AI生成的作品獲得了獎項，那這個獎項應該歸屬於誰？這些問題值得深思。這就需要制定和完善一些規則，保護創作者的權益，防止AI的濫用。
王寧：其實沐沐又給我們提出了一個新的問題，就是怎麽樣來防止AI被濫用的問題。陳老師您怎麽看？
陳雲霽：我覺得現在我們看到的這些人工智慧，本質上背後都有商業公司在裏面起作用。即便沒有AI的存在，我們也需要去解決商業公司跟個人的創作之間的關系問題。我覺得並不是帶來了一個新的問題，而是把過去並不突出的問題變得更加顯著、沖突性變得更強而已。我個人很贊同剛剛沐沐講的挺多東西。當人工智慧幫我們解決了很多生活中的瑣事之後，我們可能可以更好地進行創作。我記得馬克思說過一句話，大概是說等我們進入共產主義時代，早上做批判家，下午打獵，晚上種田，但這並不代表我是一個批判家、農民或獵人。這實際上就是人工智慧幫我們解決了這些瑣事之後人的一個狀態，或許人工智慧能夠幫助我們更快地進入共產主義社會。
曾毅：人工智慧會不會被濫用？像沐沐所講的，人工智慧的智慧來自人類的智慧。人工智慧的發展確實是這樣，當人工智慧沒有接觸到人類社會的時候，它只是一個演算法，一個具有統計顯著性的工具。人工智慧在沒有接觸數據的時候，它是無善無惡的，但是當它接觸了人類的社會的時候，它變得有善有惡，「無善無惡心之體，有善有惡意之動」，人工智慧它不知善知惡，人工智慧的研究者未來要讓人工智慧知善知惡，讓它獲得良知，最後讓人工智慧為善去惡，去學會格物。這就是中國哲學的核心，王陽明的「四句教」。你是人文科學的大腦，我們倆是理科的大腦。你羨慕理科的大腦，但是我想，未來的人工智慧卻應當向人文的大腦去學習。學習如何「學以成人，學以為人」。
王寧：「學以成人，學以為人」這八個字一直貫穿在人類的求索裏面。如何能夠成為一個真正的人、人的存在的意義，始終我們都在探索。
新時代的能源危機？
已完成：60% //////
////
王寧：現在人工智慧開發中面對一個問題，這個問題可能也會制約它能否成為我們說的那個「人」，就是能耗。好多人都說，它會帶來一個非常大的能源危機。比如說養一個孩子，可能一年假設花1萬塊錢，那要養一個人工智慧，可能在能耗方面可能要花100萬。那您覺得，這種人工智慧的快速發展會不會帶來能源危機？
陳雲霽：從現在人工智慧的技術角度來看，能耗確實太大。現在我們看到各個數據中心所耗的電，是可以跟三峽所發的電相媲美的。而目前人工智慧賦能的行業還相對有限，主要是生成一些圖片、視訊和語音。但如果真的要賦能我們實體的各行各業，它所需要的計算量可能會幾十倍甚至上百倍的增長。如果沒有人工智慧基礎理論和芯片基礎體系結構上的創新，電肯定是不夠的。黃仁勛在一個發言裏面說，可能需要花14個地球的電。
那麽這一方面需要做芯片的人做更多創新。另外一方面，我覺得做模型、做演算法的需要努力。現在的人工智慧演算法不像我們大腦這麽節能，只能根據數據之間相關性去找到統計的規律，它還不能夠真正利用科學規律的知識。如果它能夠做到這一點，或許耗電量能夠少一些，能夠真正地賦能各行各業。
曾毅：正如剛才陳老師所講的，人工智慧未來的發展需要大數據、大算力的支撐。但是作為科研工作者，要反思的問題是實作現在人工智慧水平的表現，是不是需要這麽多的數據？算力能不能夠在這個基礎上減少？所以科學的問題是人類如何采用相對小規模的數據、相對少的算力，來實作同等的智慧。
產業的探索是透過算力、透過數據的積累把智慧的服務帶給千家萬戶。而科學家未來需要去回答的問題是如何用更少的數據、更小的算力達到更高的智慧，真正做到低功耗、高智慧。我覺得這才是科研工作者未來能夠給世界帶來的改變。
陳雲霽：在科學領域一個最神奇的問題，就是為什麽我們大腦只花20瓦的電，但還能夠做到這麽聰明。
曾毅：現在的人工智慧是一個資訊處理工具，它解決問題跟人還千差萬別。就像剛才陳老師所談到的，目前真正具有數百項通用智慧的認知功能，而且可以以20瓦的功率工作，吃個饅頭可以工作一上午，而且能夠穩定工作至少幾十年的，只有人類的大腦。所以我們不僅需要數據驅動的人工智慧，未來還需要從大自然界得到啟發，去研發這樣基於自然演化機制的真正意義的智慧，這才是科學意義上的人工智慧。
陳雲霽：曾老師您說得太好了，我早上連饅頭都沒吃，沒吃飯就來了。
王寧：哈哈哈但現在依然在工作。陳老師16歲就考上大學了吧？您只吃了16年的饅頭就開始為社會工作了，您更節能啊！怪不得您研究低能耗這項工作。
我們要如何學習？
已完成：70% //////
/
///
王寧：當我們在說到怎樣使用人工智慧，怎樣讓人工智慧變得強大的時候，我們也在不斷地反思我們的人類，人類怎樣才能夠更好地和技術的進步同步、同頻。接下來最後一個問題先問一下沐沐。沐沐，現在大家都在學習怎麽使用人工智慧，比如我家孩子問ChatGPT一些問題，他爸爸說這是語文課的基礎，讓他學會提問。確確實實我們開始教孩子們如何使用人工智慧，那此外還應該學點什麽呢？
沐沐：在AI的浪潮下，人類進入了一個需要適應的新時代。想要讓自己變得更有價值，更好適應未來的AI社會。人類可能需要學習這些技能和知識：首先要保持創新和創造力，AI可以處理大量的數據、找出模式、做出預測，但AI不能像賈伯斯那樣設計出一款改變世界的產品，也不能像莎士比亞那樣寫出一部永恒的戲劇。所以人類要保持創新、運用創新，讓創造力發揮更大的價值。
其次，人際交往能力和溝通能力也很重要。AI無法完全理解和處理人類情感，所以心理學、社會學等學科，以及教育心理咨詢、護理等領域的相關知識也很重要。
最後就像人類的祖先從狩獵采集者轉變為農耕者，再到適應工業社會，人類也要根據AI社會的特點積極學習並運用AI。學會適應非常關鍵，要懂得如何和AI合作，從而提升自己的競爭力。在未來的AI社會，人類需要學習的不僅是技能和知識，還要考慮與AI、與他人如何更好地建立關系，如何在這個世界中找到自己的位置。
陳雲霽：我覺得創造力確實非常重要，而且至少從目前來看是我們獨一無二的能力。可能在三五年內機器還做不到這一點。
王寧：只有3年到5年嗎？
陳雲霽：哈哈我們不能預測太長。在科技領域大家有一個說法，我們往往會高估近期的變化，但低估遠期的變化。所以從負責任角度，我還不能預測更長的時間，但是或許能夠更長。這對教育有可能會帶來一些新的挑戰，不僅要教未來的孩子們怎麽去使用人工智慧，更重要的是教未來廣泛使用人工智慧的時代裏，應該怎麽去適應這個世界。
曾毅：我剛才有個觀察，您在看沐沐的時候，似乎顯得非常緊張，沐沐好像顯得非常不緊張，雖然她也看到了一位智慧的美女。這就是你們之間的差別，因為沐沐是一個看似智慧的工具，她的漂亮是基於人類的漂亮融合而成的形象，而你的漂亮是自然演化的結果。但是你變得越來越睿智，這是來自生活和自然賦予你的能力。中國科學院有一位最美女性，就是郭永懷先生的夫人，我們敬愛的李老師。在我看來，李佩老師是中國最美的女性。而李佩老師最美的時候，就是她慢慢變老的時候。我相信未來這也可以是你追求的一個目標。
未來人類應該學什麽？小朋友們一定關心這個問題。很多科技部門的管理者跑來問我們：「曾老師，我的孩子未來要學什麽？」我說：「你是科技的規劃者，都在培養孩子上變得這麽焦慮，那公眾肯定有更多的焦慮啊。」沐沐和陳老師都講到創造力，人類要向外思考。那我覺得未來還有一個方向，就是我們向內心走。
不管人工智慧如何發展，我都不建議小學生、初中生花很多的時間真正地把人工智慧當作必修課去學。在小學、初中甚至是高中階段，我們更要去思考人生重要的意義是什麽，人之為人，人生的目標是什麽。當你思考清楚這些問題的時候，你就不會感受到危機或迷茫。
什麽是人工智慧？今天我和陳老師在這，再請上來其他100位人工智慧的專家，他們加上我們會給出102個定義，沒有人的定義會一致。因為人工智慧是一個不斷演化發展的學科，但是，人類的智慧是什麽？我們現在的心理學、認知科學在不斷地揭示它的本質。當我們都不清楚人類的智慧是什麽的時候，用一個旁觀者去看待人工智慧是什麽，我們也會失去根基。未來如果我們希望迎來能夠服務於人類的人工智慧、能夠與人類和諧共生的人工智慧，首先要往內走，揭示人類的智慧，更多地了解自己。
智慧向善，不僅僅是人工智慧要向善，要向人類，要合乎人類的價值觀，人類的智慧也要向善。善是什麽？就是追求人類內心的本源。中國哲學講善是什麽？符合自然演化的本質。人類生活在大自然界當中，目標是塑造自己向善。我們存在的目的從來不是跟任何人、任何物種或人工智慧進行競爭。人工智慧像人類的一面鏡子，它們只會更清楚地幫我們看到人類的意義，讓人類更快地、更準確地、更穩健地走向內心。所以我覺得未來的下一代要多去學習哲學、心理學，在創造力方面多學習計算思維。這是我們這一代引領未來下一代發展時，真正能夠帶給他們的內心的力量。任何高技術的誕生實際上都會讓他們更好地看清楚自己，更勇敢地邁向未來。
王寧：曾老師說得真好。等什麽時候人工智慧能像曾毅老師這樣帥氣和智慧並存、在哲學人文的理念之上同時又有科學思維，那個時候我們再談焦慮的事吧。
曾毅：你問我們這麽多問題，我也要問你一個關於人工智慧的問題。如果未來真正通用人工智慧實作了，你覺得它會實作在哪個國家呢？
王寧：必須是中國呀。
曾毅：我認為未來人工智慧的發展最需要的三樣東西，在今天這個舞台上已經都具有了。首先要有計算的基礎設施，這是我們陳老師的專業。第二方面，是未來真正接近人類智慧水平的模型、演算法，這是我的專業。第三方面，是未來如何把演化著的人類的價值觀、合乎全人類共同利益的價值觀帶給人工智慧。那麽主持人責無旁貸。有你、我和陳老師共同合作，我們希望如果通用人工智慧實作了，首先能出現在中國。中國誕生的通用人工智慧將服務於全球的永續發展、服務於全人類和生態的發展。
王寧：未來通用人工智慧就在我們這裏開始吧？請大家記住此刻，就在中國科學院學術會堂。每一個在座的人都是通用人工智慧這條路上的見證者、參與者，大家一人一份把責任領走。另外，千萬不要忘記公眾科學日，我們會有100所科研院所和3所高校開放，大朋友小朋友都可以參與其中，感受科學的魅力。
科學一定會不斷地放大你，讓你認清楚自己，同時找到自己。希望每一個人都能夠在自己的世界做自己的主人和勇者，再次謝謝舞台上的兩位專家，接下來，大家開始好好享受公眾科學的狂歡吧！
「格致論道」，原稱「SELF格致論道」，致力於非凡思想的跨界傳播，旨在以「格物致知」的精神探討科技、教育、生活、未來的發展，由中國科學院電腦網路資訊中心和中國科學院網路安全與資訊化辦公室主辦，中國科普博覽(中國科學院科普雲平台)提供技術支持。
