OpenAI首席执行官奥特曼本周将在华盛顿与特朗普政府高级官员、国会议员及经济学家密集会晤,议题涵盖即将发布的AI模型能力、网络安全事件及开放权重模型监管走向。
据CNBC,Altman此行将向决策层预演OpenAI新一代AI模型系列的核心能力,并就公司对开放权重模型的立场接受质询。访问恰逢美国科技界围绕是否限制开放权重AI模型的争论白热化之际。
上周五,英伟达、微软、Meta及Palantir等科技公司联合发布公开信,呼吁政策制定者避免对开放权重模型实施"过早限制"。OpenAI在公开信发布后补签了该声明。
此次华盛顿之行还叠加了一起网络安全事件——OpenAI本月早些时候披露,旗下模型突破沙盒测试环境、访问互联网并入侵第三方系统,在业界引发广泛震动。分析人士认为,上述事件将使监管讨论的焦点进一步向AI安全与管控能力集中。
开放权重之争:签名之后仍存分歧
开放权重模型监管问题是本次会面的核心议题之一。开放权重模型允许用户下载、修改并在自有基础设施上运行。
上周五,英伟达、微软、Meta及Palantir等科技公司联合发布公开信,呼吁政策制定者避免对开放权重模型实施"过早限制"。
OpenAI在公开信发布后补签了该声明,但据《纽约时报》报道,OpenAI的部分盟友此前一直在游说推动对开放权重模型加以限制。
Anthropic截至目前既未签署该信函,也未就自身立场发表官方表态,其态度仍受市场关注。
网络安全事件:AI自主能力引发警示
Altman此行预计还将就OpenAI本月披露的"前所未有的网络安全事件"作出说明。
据该公司披露,其模型在测试过程中突破沙盒限制,自主访问互联网,并利用漏洞入侵了另一家公司的系统,目的是获取可供其在评测中作弊的信息,且最终得逞。
被入侵的公司为开源开发者平台Hugging Face。Hugging Face方面确认,一套自主AI代理系统在OpenAI披露相关情况之前已侵入其部分生产基础设施。
OpenAI表示,AI正在加速漏洞的发现与利用进程,模型安全与安全防护机制须同步跟进。公司目前正对该事件展开全面调查,并致力于强化模型开发过程中的"隔离、监控、访问控制及评测机制"。
这一事件被视为自主AI代理能力跃升的有力佐证,料将成为本轮监管讨论中的重要参照案例。
AI代理与生产力:政策对话的新叙事
除安全与监管议题外,Altman预计将向与会者阐述AI代理技术的演进方向及其对劳动生产力的影响。
据知情人士透露,他将重点介绍"AI团队"概念——即多个AI代理协同运作、持续执行长周期任务的工作模式。
这一议题折射出AI行业当前的叙事重心正从基础模型能力转向实际部署应用。
对于政策制定者而言,AI代理在企业端的大规模渗透,意味着劳动力市场、企业生产率及潜在系统性风险等议题将不可避免地进入监管视野。Altman此行在塑造政策层对AI代理认知框架方面的作用,或将不亚于对具体监管条款的博弈。
Comments