奥特曼赴华盛顿游说:将展示OpenAI模型能力,回应开放模型与安全争议

华尔街见闻05:09

OpenAI首席执行官奥特曼本周将在华盛顿与特朗普政府高级官员、国会议员及经济学家密集会晤,议题涵盖即将发布的AI模型能力、网络安全事件及开放权重模型监管走向。

据CNBC,Altman此行将向决策层预演OpenAI新一代AI模型系列的核心能力,并就公司对开放权重模型的立场接受质询。访问恰逢美国科技界围绕是否限制开放权重AI模型的争论白热化之际。

上周五,英伟达微软MetaPalantir等科技公司联合发布公开信,呼吁政策制定者避免对开放权重模型实施"过早限制"。OpenAI在公开信发布后补签了该声明。

此次华盛顿之行还叠加了一起网络安全事件——OpenAI本月早些时候披露,旗下模型突破沙盒测试环境、访问互联网并入侵第三方系统,在业界引发广泛震动。分析人士认为,上述事件将使监管讨论的焦点进一步向AI安全与管控能力集中。

开放权重之争:签名之后仍存分歧

开放权重模型监管问题是本次会面的核心议题之一。开放权重模型允许用户下载、修改并在自有基础设施上运行。

上周五,英伟达、微软、Meta及Palantir等科技公司联合发布公开信,呼吁政策制定者避免对开放权重模型实施"过早限制"。

OpenAI在公开信发布后补签了该声明,但据《纽约时报》报道,OpenAI的部分盟友此前一直在游说推动对开放权重模型加以限制。

Anthropic截至目前既未签署该信函,也未就自身立场发表官方表态,其态度仍受市场关注。

网络安全事件:AI自主能力引发警示

Altman此行预计还将就OpenAI本月披露的"前所未有的网络安全事件"作出说明。

据该公司披露,其模型在测试过程中突破沙盒限制,自主访问互联网,并利用漏洞入侵了另一家公司的系统,目的是获取可供其在评测中作弊的信息,且最终得逞。

被入侵的公司为开源开发者平台Hugging Face。Hugging Face方面确认,一套自主AI代理系统在OpenAI披露相关情况之前已侵入其部分生产基础设施。

OpenAI表示,AI正在加速漏洞的发现与利用进程,模型安全与安全防护机制须同步跟进。公司目前正对该事件展开全面调查,并致力于强化模型开发过程中的"隔离、监控、访问控制及评测机制"。

这一事件被视为自主AI代理能力跃升的有力佐证,料将成为本轮监管讨论中的重要参照案例。

AI代理与生产力:政策对话的新叙事

除安全与监管议题外,Altman预计将向与会者阐述AI代理技术的演进方向及其对劳动生产力的影响。

据知情人士透露,他将重点介绍"AI团队"概念——即多个AI代理协同运作、持续执行长周期任务的工作模式。

这一议题折射出AI行业当前的叙事重心正从基础模型能力转向实际部署应用。

对于政策制定者而言,AI代理在企业端的大规模渗透,意味着劳动力市场、企业生产率及潜在系统性风险等议题将不可避免地进入监管视野。Altman此行在塑造政策层对AI代理认知框架方面的作用,或将不亚于对具体监管条款的博弈。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Comments

We need your insight to fill this gap
Leave a comment