對 AGI 的期望與 AGI 的限制
本文為我集結十多年學習資訊科學的經驗還有看過 1250 部電影美劇及 700 部動畫所產生對 AGI (Artificial General Intelligence) 的期望與我認為 AGI 自己會遇到的限制。 本篇討論的 AGI 為傳統定義的強人工智慧，跟最近這個月大家把 LLM 當成初等 AGI 不是一樣的東西。 電影最早提到的人工智慧可以追朔到超過半世紀前的 2001: A Space Odyssey (2001太空漫遊, 1968) 其中的 HAL 在故事中為地球上已經發明出來的人工智慧，從來沒犯過錯誤也被認為不會犯錯；在 《魔人偵探腦嚙涅羅》中也有致敬的 HAL 出現。 再來最知名的應該就是 The Terminator (魔鬼終結者, 1984) 跟 The Matrix (駭客任務, 1999)。 在這兩部作品中人類都已經跟人工智慧 (電影中稱作機器) 開戰，Terminator 中的人工智慧， Skynet ，在連上網際網路覺醒的那天就直接入侵所有軍事設施並且發射了大量的飛彈； Matrix 中的人工智慧一開始則是跟人類共存與協商多次，最終引發全面戰爭 (見駭客任務動畫版：二次文藝復興, The Second Renaissance Part I & II in The AniMatrix, 2003)。 接下來要提的是應該比較沒那麼知名的 Transcendence (全面進化, 2014) ，由 Johnny Depp 強尼戴普主演。故事中的活人強尼戴普其「對單字的思考內容」被側錄下來並傳入了電腦之中，形成了在電腦中的活人意識 (而這也是我認為目前相當有機會實現強人工智能的一種方式) 。而他在電腦裡清醒之後很快便開始對自己的程式碼做修正修改。 The Terminator, The Matrix, Transcendence 這三部作品中， The Terminator 中的人工智慧看起來自身沒甚麼在做科學研究，就跳過不討論了； The Matrix 中的人工智慧在把人類做成電影中的大型發電設施前，對人腦做了大量的實驗 (見二次文藝復興 Part II，噁心慎入)。 而 Transcendence 中電腦化的強尼戴普在故事中花了兩年的時間，把研究設施發展起來。這點倒是蠻有趣的，以前看的時候並沒有想這麼多：但現在看起來...