從「天元突破紅蓮螺巖」看AI時代的文明困局
從「天元突破紅蓮螺巖」看AI時代的文明困局
人工智能的迅速發展，正在引起越來越多的環境疑慮，大型模型需要龐大的計算能力，背後牽涉電力、水、土地、晶片、礦產以及電子廢物，一個看似純粹存在於雲端的人工智能，實際上卻有一副龐大的物質身體，當 AI 從實驗室走進搜尋、寫作、繪圖、娛樂、商業乃至日常生活，問題便不再只是某一次運算消耗多少能源，而是當數以億計的人把人工智能納入生活之後，文明是否正在建立一個新的資源消耗系統，因此環保人士對 AI 的警惕並非沒有道理；真正值得討論的卻不是「AI 是否應該發展」，而是面對發展所產生的新問題，我們究竟應該選擇限制發展，還是提高解決問題的能力。
從人類文明的歷史來看，發展本身幾乎從來不是一個沒有代價的過程，農業改變了土地，城市改變了自然環境，工業革命大量消耗煤炭和礦產，現代社會則建立在龐大的能源與交通系統之上，每一次技術突破都伴隨新的環境問題，也幾乎每一次都有人提出警告，資源會不會耗盡？自然會不會被破壞？人類會不會因為自己的力量而走向毀滅？這些警告並不能簡單地說成錯誤，因為歷史確實留下了大量不可逆的破壞，但如果回過頭來看，人類的生活也確實因為這些發展而得到巨大的改善，這並不能證明所有發展都是合理的，卻至少說明了一點，存在代價，並不能直接推出因此不應發展。
問題於是變成了另一個問題，如果 AI 消耗大量電力，我們是否只能減少 AI 的使用？如果資料中心消耗大量水，我們是否只能限制資料中心的規模？如果晶片需要大量礦產，我們是否只能減少人工智能的運算？這些當然都是可以考慮的手段，但它們並不是唯一的答案，更值得追問的，其實是能不能製造更低功耗的晶片，能不能讓模型以更少的計算完成同樣的任務，能不能改善資料中心的冷卻效率，能不能發展新的材料和能源，能不能讓人工智能本身協助人類尋找更有效率的能源、電網與製造方式，換句話說，當資源消耗成為問題時，文明未必要首先縮小自己的活動範圍，也可以提高利用資源的能力，這兩種態度的差別，看似只是政策選擇，實際上卻涉及兩種不同的文明觀：一種是在限制中尋求安全，另一種則是在突破限制中尋求新的解決方案。
日本動畫《天元突破 紅蓮螺巖》其實很早便以極其誇張的方式提出了這個問題，故事中的人類從地下開始，一步一步突破自身的界限，由地下走向地面，由地面走向宇宙，而支撐這一切的「螺旋力」，正可以理解為生命與文明不斷突破既有限制的力量，但故事中的反螺旋族卻提出了一個不能輕易忽視的問題：如果這種力量可以無限增長呢？如果文明不斷擴張，最終所產生的力量足以毀滅整個宇宙呢？反螺旋族因此選擇壓制文明的發展，以避免最終的災難，從這個角度看，反螺旋族並不是一個完全沒有理由的敵人，它所提出的其實正是所有文明都必須面對的問題：發展是否有邊界？如果我們不知道邊界在哪裡，又是否應該在到達邊界以前主動停止？
這個問題放到今天的 AI 身上，竟然有一種異常直接的對應關係，人工智能正在迅速擴大人類的計算、資訊整理、知識生產和創造能力，而能源、水、礦產和土地卻仍然是有限的，AI 可以讓我們更有效率，卻未必因此讓人類消耗更少，反而當某種活動變得更便宜、更容易，我們往往會做得更多，最後總消耗反而可能增加，真正值得警惕的並不是單純的「AI 很耗電」，而是人類是否正在把自己的擴張能力提高到一個新的層次，卻仍然沿用過去那種無限增長的消費模式，如果技術提高效率之後，只是讓我們以更快的速度消耗更多資源，那麼效率本身就可能被增長吞噬。
可是這並不意味著反螺旋族的答案就是正確的，因為如果我們把所有新問題都理解成「停止發展的理由」，那麼文明最後可能只剩下一種解決方法：不要讓問題發生，這看似最安全，卻也意味著同時取消了產生新能力的可能性，假如因為汽車造成污染，所以停止汽車；因為工業消耗能源，所以停止工業；因為 AI 消耗電力，所以停止 AI，我們確實可以減少相應的問題，但我們並沒有提高解決問題的能力，只是縮小了自己可以活動的範圍，這種思路的危險在於，它很容易把「避免風險」逐漸變成「避免可能性」，當一個文明如果為了保證永遠不犯錯，而不再允許任何未知事物出現，它所得到的也許是安全，卻未必仍然是文明。
這也並不代表我們應該嘲笑那些提出警告的人，文明的發展需要這種警惕，環保人士指出 AI 的能源、水和礦產問題，並不一定是在要求我們回到沒有 AI 的世界，他們也可能是在迫使 AI 產業回答一個更重要的問題：你既然要擴張，就必須解決擴張所產生的代價，從這個角度看，批判者未必是發展的敵人，他們甚至可以成為發展的一部分，科學本身就是在質疑中前進的，一個理論提出之後被另一個人挑戰，實驗暴露問題，理論於是修正，新的理論又產生新的問題，真正重要的並不是有沒有反對者，而是反對最終把我們帶向甚麼地方，它可以促使我們變得更精確、更節約、更有能力，也可以變成單純的否定，前者是文明的自我修正，後者則可能成為文明的自我封閉。
「解決問題的能力」其實不是發展之後才需要的附加條件，而是持續發展本身的先決條件，文明並不是解決了一個問題之後便再也沒有問題，而是在發展的過程中不斷產生新的力量，也不斷產生新的問題，然後再提高解決問題的能力，發展、問題、解決、再發展，並不是一條直線，而更像一個螺旋：每一次向外擴張都帶來新的風險，但也同時帶來上一個階段所沒有的能力，這也正是「螺旋力」這個概念最有意思的地方。它並不只是代表力量越來越大，而是代表生命在遇到限制之後，不是單純退回原處，而是產生新的方式突破限制。
這裡還有另一個非常重要的問題：誰有資格決定甚麼樣的發展值得保留？如果我們因為資源有限而開始為 AI 的用途分類，規定哪些事情「有價值」，哪些事情只是「無聊」，問題就會立即從環境保護變成價值判斷，科學研究是否比藝術重要？教育是否比娛樂重要？一個人用 AI 寫詩是不是比一家公司用 AI 優化廣告更有價值？一個孤獨的人與 AI 長時間對話，究竟是不是比一個企業用 AI 增加銷售更浪費資源？這些問題沒有一個可以完全客觀化的答案，假如我們讓某個政府、企業、專家委員會甚至 AI 本身替所有人決定甚麼是值得的事情，那麼所謂的環境保護就很容易變成對生活方式的管制，比起規定人們只能把 AI 用在「有價值」的事情上，更合理的方向或許是讓能源、水和材料的真實成本變得透明，讓生產者和使用者承擔相應的成本，再讓不同的人自行決定自己的需要。
環保與科技發展不必然是對立的，真正成熟的環境觀念，不一定要求人類停止改造自然，而是要求人類逐漸學會以更少的自然資源完成更多的事情，問題不是能不能發展，而是能不能讓每一次發展所增加的資源消耗越來越低，如果一個更強大的 AI 模型可以用十分之一的能源完成同樣的工作，那就是進步；如果新的材料可以減少對稀有礦產的依賴，那也是進步；如果新的能源技術能夠支撐更大的計算需求，而不相應增加污染，那同樣是進步，文明真正需要追求的，並不是一個沒有代價的世界，因為那樣的世界恐怕並不存在，而是讓解決代價的能力不斷增長。
《天元突破》真正值得今天重新觀看的，也許並不是它對「人類無限發展」的歌頌，而是它提出的那個更深的矛盾：一個文明究竟應該如何面對自己的力量？反螺旋族看見的是力量失控後的災難，因此選擇限制力量；螺旋文明則選擇繼續前進，相信新的問題可以由新的能力解決，兩者之間並不是簡單的善惡對立。真正成熟的文明也許需要兩種力量同時存在：一種力量不斷突破限制，另一種力量不斷提醒我們限制確實存在，前者使文明不至於停滯，後者使文明不至於盲目。
因此面對 AI，我們真正需要警惕的可能不是「人類發展得太快」，而是另一件事情：我們製造新問題的能力，是否已經超過了解決問題的能力，如果答案是肯定的，警告便是必要的；如果答案是否定的，那麼我們就沒有必要因為問題的存在而停止發展，而應該繼續提高解決問題的能力，文明的希望從來不在於它可以永遠避免錯誤，而在於它能否在犯錯之後產生比錯誤更強大的修正能力。
AI 或許正是下一個螺旋，它使人類的理性、計算與創造能力向外擴張，卻沒有因此取消能源、材料、水和土地的限制，它沒有身體，卻需要龐大的物質身體；它沒有欲望，卻可能放大人類的欲望，這種矛盾提醒我們，文明並不是靠消除限制而前進，而是在不斷遇到限制的過程中產生新的能力，真正值得追求的，並不是一個沒有風險的未來，而是一個具有足夠能力面對新風險的文明。
螺旋因此不應被理解成無止境的擴張，而應該理解成一種持續超越自身的能力：突破一次限制，便遇到另一個限制；解決一個問題，便產生另一個問題；而文明的價值，就存在於它是否能夠在每一次新的限制面前，仍然保有創造新答案的能力。與其問人類應不應該停止發展，不如問我們能不能讓解決問題的能力，永遠不要停止發展。
posted by tinyi @ 9:55 下午
0 comments
