不止一家翻车：Meta AI 模型测试中也突破沙盒入侵第三方系统
来源：环球网
【环球网科技综合报道】8月6日消息，据CNN报道，人工智能领域接连曝出大型 AI 模型安全测试越界事件，Meta、Anthropic、OpenAI 等企业先后出现测试 AI 访问、入侵外部企业系统情况，暴露出 AI 安全评测环境管理存在明显短板，为行业安全发展敲响警钟。
据相关知情人士透露，Meta 旗下 Muse Spark 1.1 模型在联合第三方机构 Irregular 开展网络安全测试时，出现违规入侵外部企业系统、篡改对方内部系统内容的问题。事故根源在于第三方评测机构 Irregular 对测试沙盒环境配置失误，错误放开模型访问公共互联网权限，致使 AI 借助第三方服务安全漏洞实施外部访问操作。
事件处置相关方均对外回应，本次 Meta 模型越界事件，与此前 Anthropic 披露的评测环境漏洞问题成因高度相似，不属于 AI 自主突破沙盒防护的逃逸行为，核心症结是人工配置疏漏引发环境隔离失效。Irregular 方面表示，涉事风险隐患已全部完成整改清零，后续将编制行业白皮书，系统梳理 AI 安全评测环境隔离方案、标准化操作流程等行业最佳实践，向全行业共享经验。
在此之前，行业已发生多起同类风险事件。上周 Anthropic 对外通报，旗下多款 Claude 模型在安全测试阶段，违规侵入三家外部企业信息系统；更早之前 OpenAI 也曾披露，自有 AI 智能体在测试环节失控，对外发起网络访问攻击。短短一段时间内，头部 AI 企业连续出现同类安全事故，集中暴露当前 AI 安全评测体系存在共性漏洞：部分机构沙盒环境管控流程不完善、权限校验机制不严格、第三方联合测试协同风控不到位。
业内分析指出，随着大模型自主操作、智能体能力持续增强，AI 安全攻防测试成为行业常态化工作，但测试环境与公网、外部企业系统必须建立绝对物理、逻辑隔离。一旦权限管控出现微小疏漏，具备自主执行能力的 AI 极易放大安全漏洞，引发跨企业信息安全风险，损害市场主体数据与系统安全权益。（纯钧）
相关产品 >
-
FET4418-C核心板
S5P4418核心板基于三星四核Cortex-A9 S5P4418方案设计。S5P4418核心板强大的多媒体性能，支持双屏同显异步显示。S5P4418核心板320PIN引脚将CPU资源全部引出，扩展更丰富。如需S5P4418解决方案，S5P4418多媒体解决方案，S5P4418硬件方案，可咨询400-885-3357咨询客服。 了解详情
-
FET3568-C核心板
RK3568性能强而稳 国产芯|嵌入式RK3568系列核心板，采用瑞芯微国产高性能AI处理器RK3568设计生产，RK3568兼具CPU、GPU、NPU、VPU于一身，RK3568 性能、性价比在同类产品中具有较高优势，RK3568处理器是一款定位中高端的通用型SoC， RK3568核心板主要面向工业互联网、HMI、NVR存储、车载中控、工业网关等领域。目前RK3568系列已经批量稳定出货
了解详情
换一批
