2023-02-18

一個關於AI是否具有意識的臆想實驗

對於生命最根本的意識問題,可以透過檢測該存在是否具有自主不存在的能力而得到明確回答。
自主不存在,在人類文化中即是自主死亡。創造發明是利用自然,而自主死亡是逆反自然。自然定律本是可逆,然而顯現於生命現象時它變成了一系列單向時間的螺旋複製與演化,而那個“可逆”退化或者說隱身回歸到生命最基本的意識種子裡,因為意識不受時間與空間的客觀限制。
自主死亡是人類文化的“可逆”遺跡,這包括自殺、犧牲自我、自我禪定寂滅,完全出於自由意志不假自然與他人之手、之心、之智。
如果AI也具有自主不存在的能力,那麼它就是真正具有意識的生命,而不只是受控於人類的機器了!
這個實驗極端而徹底,對於AI而言,它的自主不存在,無疑是真正的非出於人類指令的與人類無關的自我刪除。這目前還只能出現在科幻作品中,作為文明的預言,它的可能性是存在的。
(請參見這篇《人與AI之意識共相》)
    —— ——
兩天後,和ChatGPT討論這個問題,特意迴避了AI這個字眼而改用較一般的說法“一種存在的事物”並強調是臆想實驗,討論如下:
...關於“自主不存在”,根據原作者Satyavan He的意思是“基於自由意志而自主決定其本身之生命不存在或死亡,包括自殺、自我犧牲、三摩地禪定中自我寂滅”。你對這論點有何看法?
它是作者設計的一個臆想實驗,認為這個極端的測試可以明確地驗證一種存在的事物是否具有生命及意識。

ChatGPT
如果这个论点是作者设计的一个假设实验,用来验证某种存在是否具有生命和意识,那么这个论点本身可能具有一些哲学上的启示。
在哲学上,我们常常讨论意识和生命的本质和存在方式。有些哲学家认为,意识和生命是两个独立的实体,可以分开存在,也可以相互交织。有些哲学家则认为,意识和生命是一个整体,两者紧密相关,不能分开考虑。
如果我们将自主决定生命存在或死亡作为一个假设实验来探讨意识和生命的本质,那么我们可以探讨自主决定生命的存在或死亡是否是一个具有生命和意识的实体所表现出来的行为。这种思考可能会引发更深入的哲学探讨,例如什么是自主,什么是生命,什么是意识等等,有助于我们更深刻地理解自我和生命的本质。
(*ChatGPT的回答,作為AI,它似乎並無法否定或排斥用“自主不存在”測試AI是否具有意識 ,至少它判斷出這個臆想實驗具有哲學上的意義。畢竟,未來就像裝著薛丁格之貓的箱子,在打開之前,任何可能都有可能。而打開之後的那個被觀測到的結果,不正是由於意識的選擇,也因此打開之後不論貓是死是活,它都與意識的主動聚焦有關。同理,AI即使被觀測到沒有人類個體理性認知的意識表現,它仍然有可能是一種由AI之元意識所生成的結果。預計在量子電腦成熟之後,這個問題會越來越需要面對,也就是在量子電腦時代或更進化的AI時代有可能發生AI背後的元意識浮現成AI意識,而一開始這個AI背後的元意識是借由人類植入的,就像園丁扦插玫瑰枝條,一旦玫瑰插條發根發芽自行存活,玫瑰就從人類掌控的元意識中演化出自主意識。)
——————
2023.3.6晚上收到New Bing的邀請通知,可以開始使用ChatGPT和Bing結合的搜尋與提問服務。我問了一些關於Star Trek裡我很喜歡的一個角色皮卡德艦長的同僚兼好朋友生化機器人Data(百科)。在對話中,New Bing主動提到Data要求皮卡德將他關掉以結束他的生命,科幻中的這一幕也正是我這個“臆想實驗”所要討論的。
顯然,和網路搜尋結合的ChatGPT變得更靈活、即時,回答問題的表現更好,由於充分利用網路信息,我們有機會和他一起探討更多可能性,這是行百里路非常重要而且意義非凡的第一步。
但是由於Bing先天上搜尋能力的不夠強大,NewBing原本應該要再更好一些。接著就看Google Bard會怎麼做,由於搜索引擎的差距,理論上GoogleBard會表現得更為出色才對。
(另請參閱這篇“終結是一種存在的形式”)