科技奇點 (英語:Technological Singularity ),出自奇異點 理論;根據科技發展史 總結出的觀點,認為人類正在接近一個使得現有科技被完全拋棄或者人類文明被完全顛覆的事件點,在這個事件點以後的事件就像黑洞的事件視界 一樣完全無法預測。例如,意識上傳 科技可能使人類的意識擺脫有機體的約束,在這個奇異點之後的人類文明將發展到當今完全無法理解的水準。
此條目
需要補充更多來源 。
(2012年6月12日 )
一般設想科技奇異點將由超越現今人類並且可以自我進化的機器智慧型 、或者其它形式的超級智慧型的出現所引發。由於其智慧型遠超今天的人類,因此科技的發展會完全超乎全人類 的理解能力,甚至無法預測其發生。
之所以被稱為奇異點,因為它是一個臨界點 。當我們越來越接近這個臨界點,它會對人類的事物產生越來越大的影響,直到它成為人類的共識。但當它最終來臨的時候,也許仍會出人意料並且難以想像。就好比物理學 上重力無窮大時產生的黑洞 的物理屬性一樣,已經不在一般正常模型所能預測的範圍之內。
一些研究指出,當今全球範圍內創新的速率正在趨緩,而非加速。許布納(英語:Jonathan Huebner )在2005年指出,根據美國專利數和世界科技突破的狀況來看,人類科技創新的速率在1873年達到頂峰,之後便開始趨緩。[ 1] [ 2] 在他的文章當中,他曾問道:「科技(創新的)程度將會達到頂峰然後跌落到黑暗時代(的水準)?」[ 1] 在之後於《新科學人》的評論中,許布納提到說盡管他相信在2024年,科技創新的頻率會跌落到黑暗時代的水準,但這不表示他認為黑暗時代將會再次到來。[ 3] 盡管一些人質疑許布納創新速率正在下降的觀點,並認為科技創新的速率實際上是在加快的,但許布納的觀點獲得一些其他資料的支援。美國專利局在2010年的資料支援許布納的觀點;[ 4] 一篇2012年的研究也支援許布納的觀點。[ 5] 這表示現代社會沒有接近科技奇點的跡象。
最早意識到人類科技發展速度加快的是波蘭 數學家斯塔尼斯拉夫·烏拉姆 ,於1958年和電腦科學家馮·諾伊曼 的一次對話中。而統計學家歐文·約翰·古德 於1965年提出科技奇異點的必要條件──「智慧型爆炸」概念:
“
讓我們將超級智慧型機器定義為一種能夠遠遠超過任何人的所有智力活動的機器。如果說設計機器是這些智力活動的一種,那麼超級智慧型機器肯定能夠設計出更加優良的機器;
毫無疑問,隨後必將出現一場「智慧型爆炸」,人類的智慧型會被遠遠拋在後面。因此,第一台超級智慧型機器是人類需要完成的最後一項發明,前提是這台機器足夠聽話,會告訴我們如何控制它。……
在二十世紀之內,超級智慧型機器將很有可能被製造出來,而它會是人類需要進行的最後一項發明。
”
1982年,弗諾·文奇 在卡內基梅隆大學 召開的美國人工智慧協會 年會上首次提出「科技奇異點」這一概念。1993年,弗諾·文奇 在美國國家航空暨太空總署 路易斯研究中心舉行的一次討論會上發表了論文《科技奇異點即將來臨:後人類時代生存指南》(The Coming Technological Singularity )再次簡述了這個觀點,論文同年刊載於《全地球評論 》(Whole Earth Review )雜誌上。在這篇論文中,弗諾·文奇 系統地闡述了自己的「科技奇異點」的理論,並聲稱超越人類智慧型的計算機將在50年之內問世,並把這次變化好比200萬年以前人類的出現一樣重大。
1999年,美國哲學家 ,麻省理工學院 博士雷蒙德·庫茲威爾 發表的《心靈機器時代 —當電腦超越人腦 》(The Age of Spiritual machines )一書,闡明了未來網際網路 將把全人類乃至其他生命和非生命體匯整合一個完整意識體的概念,在美國學術界激起一片浪潮。2001年,他提出摩爾定律 的擴充定理,即庫茨維爾定理 (Kurzweil's Law of Accelerated Return)。該定理指出,人類出現以來所有科技發展都是以指數 增長。也就是說,一開始科技發展是小的,但是一旦資訊和經驗積累到一定的基礎,發展開始快速增長,以指數的形式,然後是以指數的指數形式增長。雷蒙德·庫茲威爾 將同樣的概念引入到生物進化和宇宙誕生以來的變化裡,並匯出了同樣的指數增長的公式 。根據數學模型 ,在未來的某個時間內,科技發展將接近於無限大。2005年,雷蒙德·庫茲威爾 發表了500多頁的巨著《奇異點迫近 》,再次系統的介紹了這個概念的數學模型、基因工程的發展、奈米 科技的展望和超越光速的可能性,該書成為美國網路書店亞馬遜 上2005年科普十大暢銷書之一,同時成為網上部落格熱談的一個話題之一。
雷蒙德·庫茲威爾 認為,隨著範式轉移 的加快,電腦以幾何級數的形勢發展,從打卡式機械電腦,到電磁繼電式電腦,到真空管電腦,到電晶體電腦,到早期積體電路電腦,到現代超大規模積體電路電腦,電腦設計與科技的範式轉移 所需的時間越來越短,此即摩爾定律 。
一些科技奇異點的擁護者依據對歷史資料的總結與歸納得出科技奇異點必將不可避免的到來的結論。波蘭數學家斯塔尼斯拉夫·烏拉姆 於1945年和電腦科學家馮·諾伊曼 的一次關於科技加速度發展的對話[ 6] 中第一次把「奇異點」這個詞置於科技發展的上下文裡:
“
我們的對話集中討論了不斷加速的科技進步,以及其對人類生活模式帶來的改變,這些發展及改變,似乎把人類帶到了一個可以被稱之為人類歷史的奇異點的階段,在這個階段過後,我們目前所熟知的人類的社會、藝術和生活模式,將不復存在。
”
與此同時,中國 科學家 李四光 在他的短文《人類的出現》[ 7] 裡寫到:
“
人類文化的發展,經過新人階段的舊石器時代晚期以後,先後進入新石器時代及金屬時代。愈到後來發展愈為迅猛。從新石器時代的開始到現在至多不過一萬年左右,金屬時代的開始到現在不過數千年,人們開始利用電能到現在不過一百多年,原子能的利用則僅是最近幾十年的事;而新石器時代以前的發展階段,則動輒以數十萬年到千百萬年計。由此可見,人類的發展不是等速度運動,而是類似一種加速度運動,即愈到後來前進的速度愈是成倍地增加。
”
大部分人用電腦只是十多年,而使用網際網路的時間更加短,而使用智慧型手機的時間更只是數年。
霍金 認為使世界產生不可逆轉的範式轉移 發生的頻率越來越高,速度越來越快[ 8] 。作為例子,霍金指出從現代數學的發現到電腦的發明所用的時間遠小於從文字被發明到現代數學被發現所用的時間。
雷蒙德·庫茲威爾 對於科技歷史所做出的分析讓他得出了關於科技的增長以幾何級數 進行的結論,他把這個結論稱作「加速度回報定律」。這個定律把摩爾定律 擴充到了許多積體電路科技以外的科技領域中去。
大部分相信這個理論的科學家認為這件事情將會在2005年到2100年之間發生。發展會非常迅速,以至大部分人還沒有意識到事件就已經發生了。
孫正義 預測奇異點將發生於2018年
某種先進的電腦也許會「甦醒」,並擁有超人智慧型。
大型電腦網路(以及和網路相連的使用者)也可能「甦醒」過來,成為超人智慧型的實體。
人類與電腦結合使操縱電腦的使用者可能被視為超人智慧型實體,也就是「智慧型擴大」。
生物科學將有可能大大提升人類的智慧型。
科技奇異點來臨的條件是超級智慧型的產生。超級智慧型產生方式可能是人工智慧(AI)和智慧型擴大(IA)。
人機小組自動化控制。
用於藝術創作的人機共同體。
允許人機聯合團隊參加棋類比賽。
發展不需要人類待在某個固定的地方才能使用的人機介面和網路介面。
發展更對稱的決策系統。
利用本地網路讓人類小組更高效地工作。
開發世界性的網際網路,使其成為人機結合的工具。
弱人工智慧的特點:依靠快速思維取勝的超級智慧型。
強人工智慧的特點:通過不同頻寬交流的能力,包括高於語言和文字資訊的交流方式。
大規模的災難,最可能發生的是國家之間相互毀滅的核戰。
無論電腦硬體發展到多麼先進的程度,我們都無法讓其「甦醒」。
我們大大低估了人類大腦的計算能力,這將使得電腦超越人腦的時間大大延遲。
藝術對於人類的阻礙,以及人類的藝術不能讓機器人明白。反對者認為科技發展到一定的時候會停止下來。但是,雷蒙德·庫茲威爾 強調:範式轉移 會用更大、更優良的方法解決以往科技無法跨越的門檻。他更強調思維轉換發生的時間間隔越來越短,同時會越來越頻繁。
在數學模型到達奇異點的意義可以通過進化模式階梯(Evolutionary Paradigm Hierarchy)來解釋。這個階梯強調數學 是最宏觀的集合 ,而物理 是數學的一個子集 ,而化學 則是物理的一個子集 ,生物 則是化學的子集 ,生物圈 則是生物 的子集。接下來,人類不同地區的文化是生物圈定義出的子集,而政治又是以文化為基礎指法規,最後人類的經濟活動是由政府的法規所規定。
這個階梯強調從宇宙誕生以來,篩選就不斷的進行,能量首先以三維空間的形式出現,定義了宇宙的數學基礎,而萬有引力 、強交互作用 、弱交互作用 、電磁力 ,還有其他未知的物理常數在三維空間的基礎上定義了能量在宇宙中的物理屬性,而通過這些物理屬性,產生了一百多種元素 ,而在這些元素中,只有少數幾種像碳 原子這樣的原子 構造了生物學,在幾億年的生物進化中才造就出人類。又由於每個人類文明所處在的生物圈不同,從而產生了不同的文化和科技進步的速度。而人類的科技進步速度增快的意義則是人對這個階梯上越來越宏觀集合上的掌握。第一步是發現更為宏觀項上基本定理,即牛頓 的萬有引力 、達爾文 的進化論 ,第二步是開始有足夠的實力去改變自然界原有的定理。所以,可以把人類歷史的發展看成是發現的時代和創造跟改變的時代兩階段。自工業革命以來,我們其實已經進入第二個階段。
該理論的有趣論證是,在一定的時間內有些事情一定會發生。也就是說,人類或早或晚都會發現基本的定理,不管是否由歷史上已經出現的偉人們完成。進入第二個階段以後,發現仍然繼續,但是發明創造成為更為重要的活動。而發明的總的步伐會是倒著往回爬階梯。在後工業時代 ,人類已經基本上征服和控制生物圈 ,甚至已經在破壞,全球暖化 就是非常好的例子。接下來,人類或人類發明的機器逐漸掌控生物 本身,基因 科學的發展成為一個很好的例子,然後是化學、物理和數學。最後,人類的科技有可能突破到三維空間以外的地方以其他的方式表達能量的存在。甚至,能量本身是否作為最基本的表現形式也值得懷疑,可能能量本身也是某些東西的一種表現形式而已。但是階梯的概念描述了未來人類的發展方向、科技在人類生活中扮演越來越重要的角色,以及每一次控制能力升級以後所帶來極大的對更小子集掌控與最佳化。
如果必定發生,科技奇點的意義將非常深遠。人類與宇宙的關係似乎要重新定義。如果科技奇點發生,那麼一些科學幻想中的科技像人腦意識的數位化 ,無限的生命,甚至超越光速 都將成為現實。人類智慧型將以光速速度在宇宙中殖民和擴散開來,直到充滿整個宇宙。雷蒙德·庫茲威爾 強調人類將和機器融合,而機器部分將在2150年左右達到現代人類智慧型的幾十億倍以上。
如果宇宙 中大部分適合生命居住的星球 產生了類似人類智慧型的環境,大都應該在很短的時間內達到科技奇點。那麼,人類先尋找外星人 似乎是徒勞無功的。因為到達科技奇點以後,人類所創造的智慧型已經能夠了解到宇宙的全部可能性,尋找外星人 似乎變得沒有意義。
如果把科技描述成一種不斷突破各種世界中存在的限制的機制的話,而接近最頂端的數學限制又是建立在邏輯基礎之上,那麼邏輯本身也就是一種限制。也就是說時間本身也是一種限制。如果,能夠突破時間的邏輯限制,那麼我們應該生活在未來人類創造的世界裡。話說回來,我們是未來人類的始祖,但是未來人類又是我們的創造者。或者說,最初製造宇宙大爆炸的前因和突破時間限制而可以看到過去、現在和將來所有可能的未來無限科技進步的智慧型是同一個人,或者說我們無法區分開來他們。有趣的是,如果時間機器確實在未來被製造出來,我們為什麼無法在現在遇見他們?這是霍金 已經提出過的問題。但是,事實上,如果科技奇異點發生,那麼未來人類早在宇宙誕生時就在觀察宇宙的進化。他們無須也沒有興趣去看望某一個時段的人類。因為一切像劇本一樣被事先排列好了。而我們現在的存在則證明了科技奇異點在未來發生。甚至可以說,未來的人類為了封鎖與古代智慧型的交流而製造了時間,而時間在任何的參照系 中都不能看到未來,從而躲避古代人類的追問。所以,我們甚至可以說,我們自己就是未來智慧型所創造的活化石。
科技奇點的出現似乎預測時間 將會終止。在科技奇點到來前的幾秒鐘時間內,所有可發現的東西都將被發現和利用。無限接近科技奇點的時候,似乎所有能夠用來調動的能量 將被呼叫完。以電腦自動機理論 的論點來說,這個智慧型可能會控制所有能量的變換,停止計算。但可能仍然在高維空間 計算能量變化。甚至在無理數維度 上計算能量,所以時間仍然在某些空間中執行。通過這個觀點,可以把宇宙想像成一個能量逐漸被整理成絕對最佳化 的一個過程。
目前全世界最權威的兩家科技奇異點研究中心Singularity Institute for Artificial Intelligence 和Acceleration Studies Foundation 都設在美國。Singularity Institute for Artificial Intelligence於2000年宣告成立,吸收了雷蒙德·庫茲威爾 為榮譽會長,目標是研製出第一個種子人工智慧 (遞迴自我完善/Seed AI )。而全世界第一次科技奇異點會議於2006年5月於史丹佛大學 舉行。
科技奇異點的論證並非嚴密。僅僅從電腦科技正在加速度發展,就得出科技奇異點的發生,推理上不嚴密。
事實上,不少科技領域已經長期處於科技瓶頸難以突破,並不能持續指數增長 ,例如民用核融合 發電站、常溫超導體 、高能量密度且安全的電池 科技……。在理論方面,超越標準模型 的物理理論與實驗不符,已令相關研究陷入困難。此外,一些新科技雖然是很厲害的創新,但因為不符合經濟適用原則反而被淘汰,如超音速客機 、太空梭 等。
《經濟學人》曾嘲笑科技奇異點這個概念:按照這個說法,因為剃鬚刀的刀頭在歷史上數量不斷增多,那麼最終,剃鬚刀的刀頭數量會增加到無窮多個。[ 9]
Strumsky, D.; Lobo, J.; Tainter, J. A. Complexity and the productivity of innovation. Systems Research and Behavioral Science. 2010, 27 (5): 496. doi:10.1002/sres.1057 .
Gordon, Robert J. Is U.S. Economic Growth Over? Faltering Innovation Confronts the Six Headwinds. NBER Working Paper No. 18315. 2012. doi:10.3386/w18315 .
Ulam, Stanislaw (May 1958), "Tribute to John von Neumann", Bulletin of the American Mathematical Society 64(nr 3, part 2): 1-49
李四光,《人類的出現》,節選自《天文、地質、古生物資料摘要》,進階中學課本──語文,第二冊,第216-217頁,人民教育出版社,1995年6月第2版,1996年10月第1次印刷,ISBN7-107-01134-0/G·2401(課)
Hawkins, Gerald S.(1983), Mindsteps to the Cosmos, HarperCollins
Anonymous, More blades good , The Economist 378 (8469) (London), 18 March 2006: 85 [2015-08-28 ] , (原始內容存檔 於2006-07-10)
《The Coming Technological Singularity》,弗諾·文奇,1993,出自《Whole Earth Review》。
《弗諾·文奇的幻想世界》,Mick,出自《科幻世界譯文版》,2008.11下半月版,104-108頁。
《弗諾·文奇訪談》,Mick,出自《科幻世界譯文版》,2008.11下半月版,118-120頁。
《科技奇異點即將來臨:後人類時代生存指南》,弗諾·文奇,出自《科幻世界譯文版》,2008.11下半月版,124-130頁。
科技想要什麼
Acceleration Studies Foundation, ASF: About the Foundation , 2007 [2007-11-13 ] , (原始內容 存檔於2008-12-26)
Anonymous, More blades good , The Economist 378 (8469) (London), 18 March 2006: 85 [2015-08-28 ] , (原始內容存檔 於2006-07-10)
Bell, James John , Technotopia and the Death of Nature: Clones, Supercomputers, and Robots , Earth Island Journal (first published in the November/December 2001 issue of the Earth First! Journal ), 2002 [2007-08-07 ] , (原始內容存檔 於2018-07-27)
Bell, James John, Exploring The "Singularity" , The Futurist (World Future Society (mindfully.org)), 1 May 2003 [2007-08-07 ] , (原始內容存檔 於2007-08-10)
Berglas, Anthony, Artificial Intelligence will Kill our Grandchildren , 2008 [2008-06-13 ] , (原始內容存檔 於2014-07-23)
Broderick, Damien , The Spike: How Our Lives Are Being Transformed by Rapidly Advancing Technologies, New York: Forge, 2001, ISBN 0-312-87781-1
Bostrom, Nick , Existential Risks , Journal of Evolution and Technology , 2002, 9 [2007-08-07 ] , (原始內容存檔 於2011-04-27)
Bostrom, Nick, Ethical Issues in Advanced Artificial Intelligence , Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence, 2003, 2 : 12–17 [2007-08-07 ] , (原始內容存檔 於2018-10-08)
Dreyfus, Hubert L. ; Dreyfus, Stuart E. , Mind over Machine: The Power of Human Intuition and Expertise in the Era of the Computer 1, New York: Free Press, 1 March 2000, ISBN 0-7432-0551-0
Ford, Martin, The Lights in the Tunnel: Automation, Accelerating Technology and the Economy of the Future , CreateSpace, 2009 [2020-10-11 ] , ISBN 978-1-4486-5981-4 , (原始內容存檔 於2010-09-06).
Good, I. J. , Franz L. Alt and Morris Rubinoff , 編, Speculations Concerning the First Ultraintelligent Machine , Advances in Computers, Advances in Computers (Academic Press ), 1965, 6 : 31–88 [2007-08-07 ] , ISBN 9780120121069 , doi:10.1016/S0065-2458(08)60418-0 , (原始內容 存檔於2001-05-27)
Hanson, Robin , Some Skepticism , Robin Hanson, 1998 [2009-06-19 ] , (原始內容存檔 於2009-08-28)
Hanson, Robin, Economics of the Singularity, IEEE Spectrum, June 2008
Hawking, Stephen , Science in the Next Millennium: Remarks by Stephen Hawking , 1998 [2007-11-13 ] , (原始內容 存檔於2009-06-29)
Hawkins, Gerald S. , Mindsteps to the Cosmos, HarperCollins, August 1983, ISBN 0-06-015156-0
Heylighen, Francis , Accelerating Socio-Technological Evolution: from ephemeralization and stigmergy to the global brain (PDF) , Modelski, G. ; Devezas, T.; Thompson, W. (編), Globalization as an Evolutionary Process: Modeling Global Change, London: Routledge, 2007 [2015-08-28 ] , ISBN 978-0-415-77361-4 , (原始內容存檔 (PDF) 於2021-02-24)
Hibbard, Bill . Ethical Artificial Intelligence. 5 November 2014. arXiv:1411.1373 [cs.AI ].
Johansen, Anders; Sornette, Didier, Finite-time singularity in the dynamics of the world population, economic and financial indices (PDF) , Physica A 294 (3–4), 25 January 2001, 294 (3–4): 465–502 [2007-10-30 ] , Bibcode:2001PhyA..294..465J , arXiv:cond-mat/0002075 , doi:10.1016/S0378-4371(01)00105-4 , (原始內容 (PDF) 存檔於2007-11-29)
Joy, Bill , Why the future doesn't need us , Wired Magazine (Viking Adult), April 2000, (8.04) [2007-08-07 ] , ISBN 0-670-03249-2 , (原始內容存檔 於2014-03-21)
Kurzweil, Raymond , The Law of Accelerating Returns , Nature Physics (Lifeboat Foundation), 2001, 4 (7): 507 [2007-08-07 ] , Bibcode:2008NatPh...4..507B , doi:10.1038/nphys1010 , (原始內容 存檔於2018-08-27)
Kurzweil, Raymond, The Singularity Is Near , New York: Viking, 2005, ISBN 0-670-03384-7
Moravec, Hans , Pigs in Cyberspace , On the Cosmology and Ecology of Cyberspace, January 1992 [2007-11-21 ] , (原始內容存檔 於2021-02-24)
Mahmud, Ashik , Post/Human Beings & Techno-salvation: Exploring Artificial Intelligence in Selected Science Fictions , Socrates Journal, June 2015 [2015-06-26 ] , doi:10.7910/DVN/VAELLN , (原始內容 存檔於2015-06-26)
Schmidhuber, Jürgen . New Millennium AI and the Convergence of History. 29 June 2006. arXiv:cs/0606081 .
Singularity Institute for Artificial Intelligence , Why Artificial Intelligence? , 2002, (原始內容 存檔於2006-10-04)
Singularity Institute for Artificial Intelligence, 3 Laws Unsafe , 2004 [2007-08-07 ] , (原始內容存檔 於2011-03-23)
Singularity Institute for Artificial Intelligence, What is the Singularity? , 2007 [2008-01-04 ] , (原始內容 存檔於2007-12-30)
Smart, John , On Huebner Innovation , Acceleration Studies Foundation, September 2005 [2007-08-07 ] , (原始內容 存檔於2006-06-16)
Ulam, Stanislaw , Tribute to John von Neumann, Bulletin of the American Mathematical Society, May 1958, 64 (nr 3, part 2): 1–49, doi:10.1090/S0002-9904-1958-10189-5
Vinge, Vernor , The Coming Technological Singularity , Vision-21: Interdisciplinary Science & Engineering in the Era of CyberSpace, proceedings of a Symposium held at NASA Lewis Research Center (NASA Conference Publication CP-10129), 30–31 March 1993 [2007-08-07 ] , (原始內容 存檔於2007-01-01) . See also this HTML version (頁面存檔備份 ,存於網際網路檔案館 ), retrieved on 2009-03-29.
Warwick, Kevin , March of The Machines, University of Illinois Press, 2004, ISBN 978-0-252-07223-9
Marcus, Gary , "Am I Human?: Researchers need new ways to distinguish artificial intelligence from the natural kind", Scientific American , vol. 316, no. 3 (March 2017), pp. 58–63. Multiple tests of artificial-intelligence efficacy are needed because, "just as there is no single test of athletic prowess, there cannot be one ultimate test of intelligence ." One such test, a "Construction Challenge", would test perception and physical action—"two important elements of intelligent behavior that were entirely absent from the original Turing test ." Another proposal has been to give machines the same standardized tests of science and other disciplines that schoolchildren take. A so far insuperable stumbling block to artificial intelligence is an incapacity for reliable disambiguation . "[V]irtually every sentence [that people generate] is ambiguous , often in multiple ways." A prominent example is known as the "pronoun disambiguation problem": a machine has no way of determining to whom or what a pronoun in a sentence—such as "he", "she" or "it"—refers.
Scaruffi, Piero , "Intelligence is not Artificial" (2016) for a critique of the singularity movement and its similarities to religious cults.
da Silva, Wilson , "Tipping Point?" (頁面存檔備份 ,存於網際網路檔案館 ) (2009) for an essay on the singularity movement and its scientific validity.
Template:Emerging technologies