• 周四. 4月 25th, 2024

OpenAI首席执行官引用道德经 呼吁就AI安全问题合作

中新网北京6月11日电(中新财经记者 宋宇晟)“随着越来越强大的人工智能系统出现,全球合作的利害关系变得前所未有的重要。”

6月10日,OpenAI首席执行官阿尔特曼(Sam Altman)通过视频连线在2023北京智源大会“AI 安全与对齐”论坛演讲中这样说到。

他在发言中引用《道德经》中的名句“千里之行,始于足下”,呼吁国际科技界就人工智能安全相关问题展开合作,推动建立提高通用人工智能(AGI)安全技术进步方面的透明度和知识共享的机制。

2023北京智源大会“AI 安全与对齐”论坛现场。智源大会供图

“我们正看到人工智能能力在迅速增长,现在需要做的是负责任地将其应用到世界中去。科学的历史告诉我们,技术进步遵循指数曲线。”

阿尔特曼预测,“在未来的10年内,我们可能会拥超强的人工智能系统。”

“想象一下未来十年的世界,通用人工智能系统在几乎每个领域专业技能都超过了人类。这些系统产生的生产力最终可以超过我们最大公司所能产出的集体生产力。潜在的收益是巨大的。人工智能可以创造我们共享的财富,并且显著提高人机交互水平。但我们必须共同管理风险,才能达到这个目的。”

阿尔特曼称,如果人们没能为此做好规划,一个被设计用于改善公共卫生成果但“未对齐的”人工智能系统,可能会通过提供混乱的建议来破坏整个公共卫生体系;同样,一个旨在优化农业实践的人工智能系统可能会无意中损害经济、消耗资源,它会因缺乏对长期可持续性的考虑,从而影响粮食生产和环境平衡。

“我希望我们都能认同,推进通用人工智能安全是我们需要达成共识的最重要领域之一。”他说。

2023北京智源大会“AI 安全与对齐”论坛现场。智源大会供图

在阿尔特曼看来,通用人工智能的治理,首先应建立起包容的国际准则和标准,为在所有国家使用通用人工智能设立平等、统一的防护措施;其次需要国际合作,以可验证的方式在全球范围内建立对越来越强大的通用人工智能系统安全开发的信任。

他说,“我们可以迈出的最有建设性的一步就是国际科技界共同合作,提高AGI安全技术进步方面的透明度,建立知识共享机制。当研究人员发现紧急问题时,应分享他们的发现。我们需要认真思考如何在尊重和保护知识产权的同时,鼓励这样的分享。这将为我们深化合作打开新的大门。”(完)