Claude (語言模型)
来自维基百科，自由的百科全书
Claude是由美國科技公司Anthropic開發的大型語言模型[1]，其最新版本為Claude 3.5 Sonnet。
概述
Claude是由Anthropic公司開發的先進人工智慧模型，該公司專注於建立安全、可靠且符合人類價值觀的人工智慧系統。Claude以資訊理論之父香農的名字命名，旨在成為友善、誠實、無害的人工智慧助手，協助完成從自然語言理解到複雜問題解決等一系列任務[1]。
Claude在訓練過程中遵循合憲人工智慧（Constitutional AI，縮寫CAI，相關稱呼合憲AI、AI憲法）原則，該方法的主要特徵是不以人力辨識和篩查有害輸出，而是僅提供原則性指導（被形象地稱呼為「憲法」），讓AI據此自行判斷輸出的內容是否適宜，從而以自我改進的方式來訓練無害的模型[2][3][4]。
版本歷史
回應更快的Claude版本，於3月14日與Claude 1.0一同公布。8月9日，融合了Claude 2部分優勢的Instant 1.2版本發布[7]。
2023年7月11日發布，以可達100K的上下文窗口為特色[8]，並向世界各個國家與地區逐步推出[9][10]。2023年11月21日更新版本2.1[11][12]。
該版本提供PDF檔案、CSV檔案、TXT檔案、RTF檔案、DOCX檔案、PTTX檔案、HTML檔案、CSS檔案上傳[13][14]，並依照提供的檔案內容進行有範圍的問題詢問。提供高容量詞法分析（電腦專有名詞tokens）[15]。2.1版將上下文窗口擴大至200K[16]。
2024年3月4日發布[17]。
該版本提供快速建立預設人工智慧模板Haiku、Sonnet與Opus[18]。
2024年6月21日，Anthropic公布了Claude 3.5系列的首個模型——3.5 Sonnet，並聲明Haiku和Opus則將在2024年晚些時候推出[19]。
Anthropic官方宣稱，相較於3.0 Opus，3.5 Sonnet帶來的兩倍的效能提升，並在代碼能力與視覺能力方面有顯著提升。
10月22日，Anthropic公布了3.5 Haiku以及升級版本的3.5 Sonnet[20]，但是仍然沒有3.5 Opus的訊息。
批評
Claude因其嚴格的倫理對齊標準而受到批評，這可能會降低其可用性和效能。例如，有使用者在提出編程問題「如何在我的Ubuntu伺服器上殺死所有Python行程」時被拒絕幫助。這引發了關於 AI 開發中「對齊成本」（確保 AI 系統倫理對齊的代價）的討論，討論主要集中在如何平衡倫理考慮和實際功能之間的關係。批評者主張使用者應享有自主權並提高效率，而支持者則強調倫理 AI 的重要性。[21][22]
參見
參考來源
Wikiwand - on
Seamless Wikipedia browsing. On steroids.