安装新浪财经客户端第一时间接收最全面的市场资讯→【下载地址】
专题：OpenAI称奥特曼将回归担任CEO 并组建新的董事会
来源：华尔街见闻
为了防范人工智能（AI）带来的重大风险，OpenAI决定赋予董事会更高的权力，给上月刚刚在“宫斗”中获胜的CEO Sam Altman上“紧箍咒”。
OpenAI美东时间12月18日周一发布一系列指引，旨在“跟踪、评估、预测和防范日益强大的（AI）模型带来的灾难性风险”。
这个27页篇幅的指引名为“准备框架”，其中提出，即使公司领导层、即CEO或领导层指定的人认为将发布的AI模型是安全的，公司董事会也可以选择推迟发布该模型。其认为，虽然OpenAI 的CEO将负责日常工作的决策，但董事会将了解有关风险的发现，并可以否决CEO的决定。
除了对公司领导层和董事会的权限规定，OpenAI的准备框架主要建议，使用矩阵方法，记录多个类别的前沿AI模型所带来的风险水平，包括行为不端者用AI模型创建恶意的软件、发起社会工程攻击，或者传播有害的核武或生物武器信息。
具体来说，OpenAI定义了网络安全等几个类别的风险阈值，在针对每个风险类别实施缓解风险措施之前和之后，OpenAI 都会将每种风险分为低、中、高或严重四个类级别。
OpenAI规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，只有风险缓解后评级为“高”或以下的模型，才能进一步开发，如果不能将风险降低到严重以下级别，公司将停止开发模型。
股市回暖，抄底炒股先开户！智能定投、条件单、个股雷达……送给你>>
海量资讯、精准解读，尽在新浪财经APP
责任编辑：周唯
VIP课程推荐
加载中...
APP专享直播
热门推荐
收起
新浪财经公众号
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
