這份文件是《2023 年人工智能報告》（State of AI Report 2023），由 Nathan Benaich 和 Air Street Capital 團隊編寫，涵蓋了人工智能領域的研究、行業應用、政治影響、安全性以及未來預測等多個方面。以下是文件的中文翻譯和重點內容總結：
研究（Research）
- GPT-4 展示了在多模態能力上的顯著進步，能夠在文本和圖像上進行訓練，並生成基於圖像的文本。
- 強化學習從人類反饋（RLHF）成為提高大型語言模型（LLMs）安全性和有效性的關鍵技術。
- 研究人員正在探索減少對人類監督依賴的替代方法，如 AI 反饋的強化學習（RL from AI feedback）和自我改進的 LLMs。
- GPT-4 的技術報告沒有透露對 AI 研究者有用的信息，標誌著 AI 研究的工業化。
行業（Industry）
- NVIDIA 因其 GPU 需求激增而市值突破 1 萬億美元。
- 出口控制限制了對中國的先進芯片銷售，但主要芯片供應商創建了出口控制證明的替代品。
- 生成 AI 應用在圖像、視頻、編碼和語音助手等領域取得了突破性進展，推動了大量風險投資和企業投資。
政治（Politics）
- 全球在 AI 監管方面形成了不同的陣營，但全球治理進展緩慢。
- 美國動員盟友參與芯片戰爭，而中國的回應仍然不明確。
- AI 預計將影響一系列敏感領域，包括選舉和就業，但目前尚未看到顯著影響。
安全性（Safety）
- 存在風險的辯論首次進入主流，並顯著加劇。
- 高性能模型容易 “越獄”，研究人員正在探索替代 RLHF 的方法，如自我對齊和預訓練與人類偏好。
- 隨著能力的提升，一致性地評估最先進的模型變得越來越困難。
預測（Predictions）
- 報告提出了對未來 12 個月的 10 個預測，包括生成 AI 在視覺效果製作中的應用、AI 在政治競選中的濫用調查、自我改進 AI 代理在複雜環境中的表現、AI 公司上市、全球 AI 治理的進展、金融機構推出 GPU 債務基金、AI 生成歌曲進入音樂排行榜等。
報告強調了 AI 技術在多個領域的快速進步和應用，同時也指出了在安全性、監管和倫理方面的挑戰。報告呼籲對 AI 領域有更廣泛的理解，以便更好地應對技術帶來的巨大變革。
By https://www.stateof.ai/ & https://kimi.moonshot.cn/