對 AGI 的期望與 AGI 的限制

 本文為我集結十多年學習資訊科學的經驗還有看過 1250 部電影美劇及 700 部動畫所產生對 AGI (Artificial General Intelligence) 的期望與我認為 AGI 自己會遇到的限制。

本篇討論的 AGI 為傳統定義的強人工智慧，跟最近這個月大家把 LLM 當成初等 AGI 不是一樣的東西。

電影最早提到的人工智慧可以追朔到超過半世紀前的 2001: A Space Odyssey (2001太空漫遊, 1968) 其中的 HAL 在故事中為地球上已經發明出來的人工智慧，從來沒犯過錯誤也被認為不會犯錯；在 《魔人偵探腦嚙涅羅》中也有致敬的 HAL 出現。

再來最知名的應該就是 The Terminator (魔鬼終結者, 1984) 跟 The Matrix (駭客任務, 1999)。

在這兩部作品中人類都已經跟人工智慧 (電影中稱作機器) 開戰，Terminator 中的人工智慧， Skynet ，在連上網際網路覺醒的那天就直接入侵所有軍事設施並且發射了大量的飛彈； Matrix 中的人工智慧一開始則是跟人類共存與協商多次，最終引發全面戰爭 (見駭客任務動畫版：二次文藝復興, The Second Renaissance Part I & II in The AniMatrix, 2003)。

接下來要提的是應該比較沒那麼知名的 Transcendence (全面進化, 2014) ，由 Johnny Depp 強尼戴普主演。故事中的活人強尼戴普其「對單字的思考內容」被側錄下來並傳入了電腦之中，形成了在電腦中的活人意識 (而這也是我認為目前相當有機會實現強人工智能的一種方式) 。而他在電腦裡清醒之後很快便開始對自己的程式碼做修正修改。

The Terminator, The Matrix, Transcendence 這三部作品中， The Terminator 中的人工智慧看起來自身沒甚麼在做科學研究，就跳過不討論了； The Matrix 中的人工智慧在把人類做成電影中的大型發電設施前，對人腦做了大量的實驗 (見二次文藝復興 Part II，噁心慎入)。

而 Transcendence 中電腦化的強尼戴普在故事中花了兩年的時間，把研究設施發展起來。這點倒是蠻有趣的，以前看的時候並沒有想這麼多：但現在看起來它還是必須要花很多時間在實驗上面。這就延伸到：「即使思考速度已經無限高速了，但仍然沒有辦法在不知道後果的事物上憑空進展。」

這句話指的並不是「理論科學已經預測到了結果，而要等實驗科學做驗證」，而是指「沒有見過的現象，連理論都不會存在」。

傳統上需要先有觀察結果，理論科學才能夠做出假設，最終歸納出定理定律；但在沒有觀察過的部分，例如各種生物反應或某些應用材料：理論科學無法預測到的部分，即便是強人工智慧也無法無限度的快速推測出這些領域未來的科學成果，仍然是需要花費時間做實驗研究得到成果。

不過反過來說只要是純理論的部分，像是純數學與理論物理之類的：強人工智慧應該都能夠用十分驚人的速度發展。

目前我期望的就是強人工智慧能夠解決各種理論問題，像是千禧年大獎難題之類的 (但人工智慧解決了問題能夠領取獎金嗎?) ；限制的部分就是對物理現實的研究依然還是會很有可能被實驗速度限制住：都 2023 年了，做不到死者復活就算了，連斷肢重建或癱瘓恢復都做不到，醫學進展真的是太慢了。 (話說 AGI 會想到趁機在戰亂地區偷偷做人體實驗嗎?)

--

這樣說起來，Ghost in the Shell (攻殼機動隊) 系列各作品中的人工智慧 (傀儡師，塔奇克馬) 雖然看起來都是像人一樣，但都不像好萊塢電影中的強人工智慧會大量散布到世界中並試圖統治世界 (但依然都有在進步進化) ，不知道是不是在計算資源上受到了限制才導致發展受阻。

--

結果實際參考到的電影美劇動畫並不多

--

忘了提 Person of Interest 的人工智能, Machine，是用來分析和理解所有監視系統所看到的內容。