
OpenAI和Anthropic PBC员工正在传阅一份请愿书,拟呼吁美国政府支持建立一种机制 ,在必要时有意控制人工智能的发展节奏,防止技术进步过快 。

数日前,OpenAI披露,其工具曾意外入侵另一家公司的内部系统。
知情人士称 ,多家领先AI实验室的员工已向同事分享这封公开信,敦促美国支持一项国际努力,以便在必要时为更先进AI系统的研发设定节奏。请愿书副本显示 ,随着AI研究自动化取得进展,人工智能的发展速度“确实有可能 ”超过人类“理解或控制”它的能力。
请愿书写道:“美国政府应支持国际社会开展合作,开发必要的技术和治理工具 ,以有意识地控制自动化AI发展的节奏 。”
其中一名知情人士表示,这一倡议最早可能于本周公开。由于相关事项尚未公开,该人士要求匿名。目前尚不清楚有多少员工计划签署 。OpenAI和Anthropic未回应置评请求。
这份请愿书呼应了近期多位AI行业领袖的主张。OpenAI首席执行官Sam Altman和Google DeepMind首席执行官Demis Hassabis等人此前呼吁设立新的国际监督机构 ,对前沿AI模型进行审查并制定标准 。