OpenAI发布通用人工智能路线图

OpenAI 始终坚守着使命——确保通用人工智能，通常比人类更聪明的人工智能系统，造福全人类。近日，OpenAI CEO Sam Altman 提出，“我们的短期计划是使用 AI 来帮助人类评估更复杂模型的输出并监控复杂系统，而从长远来看，使用 AI 来帮助我们提出新的想法以实现更好的对齐技术。”

具体而言从三方面为 AGI 作准备：首先，随着更强大的系统被创建， OpenAI 希望部署它们并获得在现实世界中操作它们的经验。其次，他们正在努力创建更加一致和可控的模型。从 GPT 3 的第一个版本等模型到 InstructGPT 和 ChatGPT 的转变就是一个早期的例子。最后，OpenAI 提出希望就三个关键问题展开全球对话：如何治理这些系统，如何公平分配它们产生的收益，以及如何公平共享访问权限。

人类的未来应该由人类决定，与公众分享有关进步的信息很重要。应该对所有试图建立 AGI 的努力进行严格审查，并对重大决策进行公众咨询。Sam 表示，“可以想象一个人类繁荣到我们任何人都无法完全想象的程度的世界。我们希望为世界贡献一个与这种繁荣相一致的通用人工智能。”

参考链接：

https://openai.com/blog/planning-for-agi-and-beyond/

转自：“学术头条”微信公众号

如有侵权，请联系本站删除！