Friendly artificial intelligence

通用人工智慧 強人工智慧（英語：strong AI）或通用人工智慧（artificial general intelligence，AGI）是具備與人類同等智慧、或超越人類的人工智慧，能表現正常人類所具有的所有智能行為。 強人工智慧是人工智慧研究的主要目標之一，同時也是科幻小說和未來學家所討論的主

弱人工智慧（英語：Weak artificial intelligence，簡稱Weak AI）或稱狹義人工智慧（Narrow AI）、應用型人工智慧（Applied AI），是實現部份思維的人工智慧，且僅專注於某項特定任務。用约翰·瑟尔的話來說，它「對於測試關於思想的假設很有用，但實際上並非思想

时间的渴求，并为防止自我奖励的中断而抵抗人类的关机操作。 人工智能对齐 流行文化中的人工智能叛變 友善人工智能（英语：Friendly artificial intelligence） 工具价值与内在价值（英语：Instrumental and intrinsic value） 魔法师的学徒（英语：The

人工智能（英語：artificial intelligence，缩写为AI），亦稱機器智能，指由人製造出來的機器所表現出來的智慧。通常人工智能是指用普通電腦程式來呈現人類智能的技術。該詞也指出研究這樣的智能系統是否能夠實現，以及如何實現。同时，隨著醫學、神經科學、机器人学及統計學等方面的發展，普遍認為人類的部分職業也逐漸被其取代。

Norvig, Peter. 26.3: The Ethics and Risks of Developing Artificial Intelligence. Artificial Intelligence: A Modern Approach. Prentice Hall. 2009. ISBN 978-0-13-604259-4