OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头为人工智能制定全球标准-第1张图片

  OpenAI敦促美国牵头与其他国家共同为前沿人工智能(AI)制定标准 ,以回应对AI潜在危害日益加剧的担忧 。

  OpenAI周一在博客文章中表示,为了安全地发展人工智能,有必要制定世界 技术标准 ,特别是帮助界定涉及AI模型的哪些类事件应当通报,明确各国如何开展AI发展合作,以及改善开发此类技术所需算力的获取。

  “要让AI的持续进步安全有益 ,既需要推进对齐研究,也需要制定共同标准,为各实验室和各国的AI开发提供指引 , ”OpenAI表示。

  OpenAI称 ,其首席执行官Sam Altman计划周三在联合国安理会就AI和世界 安全问题发表讲话 。

  美国财政部长贝森特上周末表示,美国提出建立一套通报机制,涵盖具有国家安全影响的AI事件。

  OpenAI在博客文章中强调 ,各国应共同制定相互补充的国家和世界 标准,用于开发能力最强的AI模型。OpenAI建议,可以通过多个国家现有的AI安全机构推进这项工作 ,包括美国商务部下属的AI标准与创新中心(CAISI),该机构协助测试AI模型并制定相关指引 。

  OpenAI还呼吁制定标准,以应对AI日益增强的自主工作能力 ,并指出不应追求“完全自主”的递归自我改进 —— 即AI 最终能够在无需任何人为干预的情况下修改自身代码或提升其能力 —— “除非且直到能够确保安全”。

©版权声明
THE END