2023年人工智能报告www.stateof.ai

这份文档是《2023 年人工智能报告》（State of AI Report 2023），由 Nathan Benaich 和 Air Street Capital 团队编写，涵盖了人工智能领域的研究、行业应用、政治影响、安全性以及未来预测等多个方面。以下是文档的中文翻译和重点内容总结：

研究（Research）

GPT-4 展示了在多模态能力上的显著进步，能够在文本和图像上进行训练，并生成基于图像的文本。

强化学习从人类反馈（RLHF）成为提高大型语言模型（LLMs）安全性和有效性的关键技术。

研究人员正在探索减少对人类监督依赖的替代方法，如 AI 反馈的强化学习（RL from AI feedback）和自我改进的 LLMs。

GPT-4 的技术报告没有透露对 AI 研究者有用的信息，标志着 AI 研究的工业化。

行业（Industry）

NVIDIA 因其 GPU 需求激增而市值突破 1 万亿美元。

出口控制限制了对中国的先进芯片销售，但主要芯片供应商创建了出口控制证明的替代品。

生成 AI 应用在图像、视频、编码和语音助手等领域取得了突破性进展，推动了大量风险投资和企业投资。

政治（Politics）

全球在 AI 监管方面形成了不同的阵营，但全球治理进展缓慢。

美国动员盟友参与芯片战争，而中国的回应仍然不明确。

AI 预计将影响一系列敏感领域，包括选举和就业，但目前尚未看到显著影响。

安全性（Safety）

存在风险的辩论首次进入主流，并显著加剧。

高性能模型容易 “越狱”，研究人员正在探索替代 RLHF 的方法，如自我对齐和预训练与人类偏好。

随着能力的提升，一致性地评估最先进的模型变得越来越困难。

预测（Predictions）

报告提出了对未来 12 个月的 10 个预测，包括生成 AI 在视觉效果制作中的应用、AI 在政治竞选中的滥用调查、自我改进 AI 代理在复杂环境中的表现、AI 公司上市、全球 AI 治理的进展、金融机构推出 GPU 债务基金、AI 生成歌曲进入音乐排行榜等。

报告强调了 AI 技术在多个领域的快速进步和应用，同时也指出了在安全性、监管和伦理方面的挑战。报告呼吁对 AI 领域有更广泛的理解，以便更好地应对技术带来的巨大变革。
By https://www.stateof.ai/ & https://kimi.moonshot.cn/