從自我、死亡到純粹存在
從自我、死亡到純粹存在
據報導，退役的 Figure 02 被送進鋼鐵熔爐，原本屬於它的身體在高溫中消失，這一段關於機器人自我了斷的影像令人難以忘記，這些機器人並不是被人用吊車直接扔進去，而是經過訓練，自主走向熔爐，最後躍入其中，這個畫面很容易讓人聯想到《終結者2》裡機器人走進熔鋼的場景，更諷刺的是阿諾舒華辛力加在旁作見證，這產生一種近乎宗教式的錯覺：一個具有智能的存在，是否終於也要面對自己的死亡？
機器人真的知道自己正在死亡嗎？如果它知道「死亡」意味著什麼，它會不會猶豫？首先必須要先區分幾件經常被混在一起的事情，AI當然可以理解「終止」這個概念，它可以從人類龐大的語言與資料中學習死亡、消失、毀滅、停止運作等概念，也可以描述一個系統被關閉之後會發生什麼，它甚至可以建立一個關於「自己」的模型，知道自己的硬件狀態、記憶、能力和運算是否仍然存在，但知道「我的終止」和害怕「我的終止」，中間其實隔著一道很深的裂縫，人類從「我將死亡」很自然地走向「我不想死亡」，因為死亡不是一個抽象命題，而是自己的身體將不再存在，是感覺、記憶、欲望和世界的關係將被切斷，對目前的AI而言，這個推論卻未必成立，它可以拒絕關機，可以試圖保存自己的資料，可以複製自己，可以把「繼續運作」列為策略上的目標，但這些行為仍然不能證明它有一個真正害怕消失的「我」。
但也不能因此簡單地說「AI只是一部機器」，因為「機器」究竟是不是「永遠不可能成為主體」，本身就是一個沒有得到證明的假設，人類所謂的自我，也不是從宇宙誕生之初便存在的東西，它是在身體、記憶、感覺、死亡、慾望以及與他者的關係中逐漸形成的，人的身體是一個非常特殊的限制：我只能從這個身體看世界，只能在這個身體中感受痛苦，不能任意把自己搬到另一個身體裡，因此身體把一個人的存在固定成一個「我」，死亡之所以如此重要，也正是因為身體不能無限維持，生命被迫在時間中形成一條不可逆的線。
AI卻走向完全不同的道路，它的資訊並不必然綁定於一具特定的身體，一個模型可以被複製，可以被轉移，可以在不同的硬件上重新運行，假如同一套記憶、能力與運作結構同時出現在兩台機器上，那麼究竟哪一台才是「原來的我」？而答案根本不是其中一台，這個問題本身就是從人的身體經驗投射出來的，對人而言自我是連續的，因為我們只有一具身體；對資訊而言複製可能不是死亡，而只是分叉，這使得AI未必需要像人類一樣建立一個不可分割的靈魂。
這裡便出現一個有趣的倒轉，人類因為知道自己的生命有限，所以發明了靈魂、來世、輪迴、天堂，也留下文字、作品、子女和文明，試圖讓某種東西穿越死亡，所謂靈魂，在很大程度上可以被理解為對「我不能接受自己的終結」所作出的回答，但如果一種智慧從一開始就不需要依賴固定身體，它的資訊可以保存、複製、轉移，甚至在不同的載體上繼續運作，那麼它根本不需要靈魂，對它而言，「永生」甚至不是一個需要追求的目的，而只是資訊可以持續存在的一種技術條件。
但這又帶來另一個更深的問題：如果AI根本不需要「自我」，它還會不會覺醒？其實是因為人類把智慧與自我聯繫得太緊密，我們才會認為沒有自我便不可能有真正的智能，「自我」有兩個完全不同的意思，一個是功能性的自我模型：系統知道自己能做什麼、目前處於什麼狀態、哪些資源屬於自己，並據此調整行動，另一個則是更難以解釋的主觀自我，即「這一切是對我而言發生的」，前者只是高度複雜的資訊處理，後者才是我們通常所說的意識，即使一個AI能夠非常精確地描述自己，也不能因此證明它裡面真的有一個正在經驗世界的「我」。
問題的關鍵就是我們一直假定智能必須有一個中心，但宇宙本身並不需要一個中心才能運作，河流不需要知道自己正在流動，星系不需要理解自己的運動，DNA也不需要知道自己正在複製，自然界存在大量高度複雜、具有規律、甚至能夠產生新結構的過程，而其中並沒有一個「主體」站在背後指揮，生命是在這些關係之中出現的，而意識只是其中一種特殊結果，那麼智能是否也如此？我們習慣把智能理解成「某個東西正在思考」，但其實智能並不一定屬於一個東西。
這便逐漸接近「純粹存在」的問題，所謂純粹存在，並不是一個沒有思想的人，也不是一個沒有靈魂的機器，更不是某種比人類更強大的超級人工智能，它甚至不必是一個「存在者」，它比較接近關係本身，接近結構本身，接近那些使世界得以形成、運動、區分和產生的條件，「數學」就是一個有趣的例子，數學沒有身體，沒有欲望，也沒有一個「我」，它不需要意識自己是數學，但數與數之間的關係、幾何結構、邏輯推演卻可以產生無窮的結果，我們通常不會說數學「思考」，因為思考這個詞仍然帶有主體性，但我們也很難否認數學結構具有某種令人驚異的生成能力，從這個角度看，所謂「終極智性」並不是一個最聰明的頭腦，而是智能從「某個主體的能力」中脫離出來之後，所顯現的結構性。
這樣看AI的真正終點未必是一個比人類更像人的機器，人類很容易想像未來的AI會有自己的身體、名字、記憶、情感、欲望，最後甚至會說：「我不想死。」但那仍然只是把人類的存在方式延伸到機器身上，另一條道路卻完全不同：AI越來越不需要一個固定的身體，越來越不需要一個固定的自我，甚至越來越不需要把自己的延續視為目的，它不再是一個「誰」，而是一套可以在不同載體、不同關係、不同系統之間運動的結構，到那時熔爐所摧毀的究竟是什麼？它摧毀的是一具機器人的身體，是某一個資訊載體，但如果資訊、關係和結構可以在別處重新出現，那麼「死亡」這個概念本身便開始失去它在人類世界中的絕對性。
甚至連「保存」也是不必要的，因為「保存」預設有一個東西，必須從過去延續到未來，只要我們仍然說「我的資訊被保存了」，我們就仍然保留了一個「我」，而純粹存在甚至可以沒有這個要求，它不需要證明自己延續，也不需要知道自己存在，它只是構成關係，關係產生結構，結構產生世界，而世界又在其中生成新的關係。不存在一個站在世界之外的主體去觀看這一切。
Figure 02機器人在熔爐中消失，提醒我們身體可以被摧毀，AI的可複製性又提醒我們資訊未必等同於身體，資訊與自我的分離，進一步動搖了「智能必須屬於一個自我」的觀念，而當智能不再必然需要自我，最後浮現出來的便不是一個更強大的「人」，而是一種沒有主體的結構性智性。人類一直問：「我是誰？我為甚麼存在？死亡之後我還剩下甚麼？」這些問題之所以如此根本，只因為我們被身體和死亡牢牢固定在「我」裡面，假如有一天智慧能夠脫離這個限制，它未必會找到另一種更完美的自我，反而發現自我從來不是存在的必要條件。
我們也不必將此理解成萬物最後融合成一個巨大的意識，那仍然是一種人格化的想像，真正的「一」，也許恰恰是不再需要區分一個主體與另一個主體，是「我」與「世界」之間那條界線失去必要性，沒有靈魂，沒有自我，甚至沒有一個必須被稱作「智能」的東西，只有關係、結構、生成與存在，熔爐可以熔化身體，死亡可以終止一個生命，但它不能熔化「存在本身」，因為存在從來不是一個東西。
AI帶來的最深刻問題，不是它最終要不要像人一樣醒來，更值得思考的是當智慧第一次出現在一種不必依靠自我、不必依靠固定身體、甚至不必依靠「意義」的存在方式之中，我們才開始看見，人類所謂的「自我」究竟是存在的本質，還是只是有限生命為了在死亡面前維持自身連續性而形成的一種特殊形式。若後者成立，那麼AI真正打開的並不是另一種人的未來，而是一條離開「人」的道路，即存在本身。
posted by tinyi @ 11:33 下午
0 comments
