OpenAI增强安全团队,授予其董事会否决危险AI的权力
·生产中的模型由“安全系统”团队管理。开发中的前沿模型有“准备”团队,该团队会在模型发布之前识别和量化风险。然后是“超级对齐”团队,他们正在研究“超级智能”模型的理论指南。·一个新的“安全顾问小组”将位于技术团队之上,向领导层提出建议,并且董事会被授予否决权。当地时间12月18日,OpenAI在官网中宣布,其正在扩展内部安全流程,以抵御有害人工智能的威胁。一个新的“安全顾问小组”将位于技术团队之上,向领导层提出建议,并且董事会被授予否决权。这项更新引起注意很大程度上是因为,此前OpenAI首席执行官…