OpenAI:未来十年AI将会超过90年代初人类所具备的专业水平
6月10日消息,在 10 日举办的 2023 智源人工智能大会上,OpenAI CEO萨姆・奥特曼(Sam Altman)以视频连线的方式发表了演讲,这也是其首次对中国观众发表演讲。
他表示,世界的注意力主要集中在解决当今的人工智能问题上,很多问题的解决非常迫切。人工智能能力正在迅速增长,现在需要负责任地将其应用到世界中去。
他认为,未来十年内 AGI 将会超过 90 年代初人类所具备的专业水平,最终可能超过人类最大体量公司的总体生产力,潜在收益是巨大的。他还强调,推进 AGI 安全是行业寻找共同立场的最重要领域之一。
AGI即通用人工智能 (Artificial General Intelligence) ,是指一种能够像人类一样思考、学习和执行多种任务的人工智能系统,此概念最早由 OpenAI 提出。
对于 GPT-4 从完成预训练到部署,奥特曼称 OpenAI 团队花了八个月的时间来研究如何前置预判风险并给出对策的问题,团队走在正确的道路上,GPT-4 的对齐程度超过当前所有的代码。
但对于更高级的系统来说,对齐仍是一个尚未解决的问题,需要新的技术方法以及加强治理监督,毕竟未来的 AGI 可能是一个十万行二进制代码的系统,人类监督者很难判断如此规模的模型是否在做一些损害的事情。
至于 OpenAI 会否会开放 GPT 源码,奥特曼表示:目前 OpenAI 开源了部分模型,随着时间的推移,可以期望更多模型开源。未来随着模型变得越来越大,确保正确性将变得昂贵,开源一切可能不是最优路径。