美国时间16日,OpenAI CEO Sam Altman 在美国参议院就AI技术的潜在危险作证,恳求立法者对AI进行监管,并给出了以下建议:
1. 成立一个新的政府机构,负责为大型AI模型颁发许可,撤销不符合标准的模型的许可。而对于能力远达不到最先进的大型模型的技术,他认为不需要使用这种许可监管制度。国会可以「定义能力阈值」,免除小型公司和研究人员可能遇到的监管负担,鼓励创新。
2. 为 AI 模型创建一套安全标准,包括对其危险能力的评估。例如,模型必须通过安全测试,比如它们是否可以「自我复制」和「流出到监管之外」。
3. 要求独立专家对模型在各种指标上的表现进行独立审计。
在国会上,他再次保证未来6个月没有训练 GPT-5 的计划,并确认自己持有零 OpenAI 股权,所作出于热爱。当参议员邀请他在未来国会创建的监管机构工作时,Altman 说对自己目前的工作感到满意,不过他很愿意提供一个名单供国会挑选。
—— 新智元