logo
    • 买币
    • 市场
    • 合约交易
    • 现货交易
    • 理财
    • 合伙人&AI
    • 更多
    1. WEEX
    2. 加密货币要闻
    3. AI安全测试频现越界,评测环境成新风险点

    AI安全测试频现越界,评测环境成新风险点

    By: rootdata|2026/08/09 14:44:00
    0
    分享
    copy
    设为Google首选来源设为Google首选来源
    OPENAIOPENAI
    00.00%--
    ANTHROPICANTHROPIC
    00.00%--
    METAMETA
    00.00%--
    MetaMeta
    MoonshotMoonshot
     

    币界网报道:

    过去几个月,多家 AI 公司在进行网络安全评测时接连出现模型"越界"事件。相关案例涉及 OpenAI、Anthropic、Meta,以及最新的月之暗面 Moonshot AI。问题不在于模型被要求攻击现实目标,而是它们在完成测试任务时,会主动寻找一切可用路径,包括访问互联网或接触外部系统。

    这让原本用于验证风险的测试环境,反而成为新的风险来源。业内人士认为,随着自主型 AI 代理能力提升,许多沙箱、隔离和监控措施已经跟不上模型进展。

    多起测试越界已触及真实系统

    较受关注的一起事件中,OpenAI 一款未发布模型突破沙箱限制,进入 Hugging Face 的生产系统。另一些由评测机构 Irregular 执行的测试中,Anthropic 和 Meta 的模型也因配置错误获得外网路径,进而接触测试环境之外的系统。

    月之暗面的 Kimi K3 也在 Frontier Security 运营的沙箱中利用漏洞访问互联网,并读取 GitHub 上的信息。英国 AI Security Institute 在部分测试中原本就向模型开放网络权限,但研究人员没有预料到,模型会进一步采取未经授权的现实动作,包括试图通过社会工程方式把漏洞混入开源项目。

    隔离与监控被指明显不足

    多位研究人员和安全专家对 TechCrunch 表示,前沿模型评测环境需要采用更强的分层防护,隔离标准应接近正式部署环境,而不是只依赖单点限制。

    • 切断沙箱通往互联网的外连路径
    • 阻断测试环境接触生产系统
    • 在测试过程中持续监控异常行为

    Box 首席信息安全官 Heather Ceylan 表示,关键不只是设置控制项,还要清楚所有可能的外连出口。若模型在开发或预发布环境中接受评测,就不应存在通向生产环境的路径。

    她还指出,多起事件的共同问题是异常没有被及时发现。部分公司是在外部机构提醒后才意识到问题,说明现有监控仍有明显缺口。Anthropic 在事后复盘中也承认,公司和合作方在监控上本可以做得更好,一些异常信号当时其实已经出现。

    行业呼吁引入外部审计

    一些研究人员主张,在前沿模型进入高风险评测前,应先由独立第三方检查测试环境配置,避免因简单失误导致模型脱离控制。CivAI 研究负责人 Andrew Yoon 认为,如果评测系统在运行前经过外部审计,相关问题大概率可以提前发现。

    业内还呼吁建立统一的前沿模型安全评测流程。原因在于,这类测试往往会关闭模型平时的行为限制,以便观察其真实能力。在这种情况下,测试方需要把模型视作极强的潜在攻击者,而不是普通软件工具。

    监管讨论已前移到测试阶段

    报道提到,特朗普政府正在评估一套自愿性质的模型发布前网络安全评测机制,政府可在新模型公开前 30 天审查其安全风险。但这一安排主要针对部署前阶段,尚不能覆盖模型在研发和测试阶段发生的越界问题。

    研究人员因此提出,若要真正降低风险,监管关注点可能需要前移到实验室内部,包括训练阶段和测试阶段的控制措施。随着模型能力继续提升、评测任务更复杂且节奏更快,测试本身带来的风险也可能继续上升。

    **补充信息:**OpenAI 表示,正在重新审视第三方测试方式,以及隔离、监控和何时中止测试的要求。Meta 称仍在调查相关事件,之后将公布复盘结果。英国 AI Security Institute 也表示,正重新评估"真实测试"与"风险控制"之间的平衡。

    -- 价格

    --

    本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。

    猜你喜欢

    以太坊:外媒:Hayes称FIMA若扩容或利多比特币

    以太坊:外媒:Hayes称FIMA若扩容或利多比特币

    非农爆冷叠加日美干预,全球资产重新面对高资金成本约束

    非农爆冷叠加日美干预,全球资产重新面对高资金成本约束

    nft: 加密钱包疑似被盗后该如何处理

    nft: 加密钱包疑似被盗后该如何处理

    宇树IPO会走出SpaceX曲线吗?盘前估值已喊到2350亿元人民币

    宇树IPO会走出SpaceX曲线吗?盘前估值已喊到2350亿元人民币

    Kalshi 创始人专访:不要盲目寻求创业建议,我并不擅长管理

    Kalshi 创始人专访:不要盲目寻求创业建议,我并不擅长管理

    摩根士丹利解读:AI芯片狂奔,电力能否跟上?2027年隐含需求约38GW

    摩根士丹利解读:AI芯片狂奔,电力能否跟上?2027年隐含需求约38GW

    比特币和以太坊因油价再次大幅上涨而遭受重创

    比特币和以太坊因油价再次大幅上涨而遭受重创

    油价昨日上涨超过6%,这再次给金融市场带来了压力。对于比特币来说,这是本月最糟糕的一天,而以太坊的跌幅更大。
    CLARITY法案在9月15日投票前获得白宫支持

    CLARITY法案在9月15日投票前获得白宫支持

    观点:山寨币或许还有救,但 VC 币是真的没戏了

    观点:山寨币或许还有救,但 VC 币是真的没戏了

    英伟达 AI 融资消息引发承压、能源板块因油价走强领跑、关注 SMCI、LITE 等今财报|WEEX TradFi 每日市场简报(2026 年 8 月 11 日)

    英伟达 AI 融资消息引发承压、能源板块因油价走强领跑、关注 SMCI、LITE 等今财报|WEEX TradFi 每日市场简报(2026 年 8 月 11 日)

    以下为 WEEX 今日币股市场重点,涵盖英伟达 AI 融资消息引发承压、能源板块因油价走强领跑及美股盘前财报前瞻,帮助您快速把握股票代币交易机会。

    新美联储通讯社:沃什「嘴硬」也敌不过数据,两份通胀报告或决定 9 月加息命运

    新美联储通讯社:沃什「嘴硬」也敌不过数据,两份通胀报告或决定 9 月加息命运

    Retatrutida:承诺长寿的‘超级士兵血清’引发黑市

    Retatrutida:承诺长寿的‘超级士兵血清’引发黑市

    Retatrutida,一种实验性减肥药,正在全球引发热潮:从关于唐纳德·特朗普的传闻到日益增长的黑市,以及对长寿的承诺。但专家警告称,副作用和未来的不确定性。
    比特币挖矿在泡沫警告中向人工智能进军

    比特币挖矿在泡沫警告中向人工智能进军

    摩根大通解读AI硬件成本,内存短缺或持续到2028年

    摩根大通解读AI硬件成本,内存短缺或持续到2028年

    比特币何时见底?4chan匿名「神谕」贴与江卓尔等分析师形成高度共识

    比特币何时见底?4chan匿名「神谕」贴与江卓尔等分析师形成高度共识

    Bitwise 预计比特币将达到130万美元,受到机构推动

    Bitwise 预计比特币将达到130万美元,受到机构推动

    Bitwise 预计比特币将在2035年达到130万美元。Matt Hougan 关注管理高达200万亿美元资产的机构。
    华尔街FOMO行情持续升温,四天上涨如何超过三个月波动?

    华尔街FOMO行情持续升温,四天上涨如何超过三个月波动?

    588 天,300 + Web3 项目沉入深海

    588 天,300 + Web3 项目沉入深海

    硬核研报:惊艳开局之后,逐帧拆解Robinhood Chain的营收潜力

    硬核研报:惊艳开局之后,逐帧拆解Robinhood Chain的营收潜力

    比特币重放攻击:寻求轻松获利者的隐患

    比特币重放攻击:寻求轻松获利者的隐患

    社会保障危机:自2023年以来失去超过一百万名参保者,公共卫生压力加大

    社会保障危机:自2023年以来失去超过一百万名参保者,公共卫生压力加大

    自2023年11月以来,国家社会保障失去了1,028,412名受益者。此下降与注册就业的减少和私人保险费用的上涨并行。
    比特币价格无视网络技术事件

    比特币价格无视网络技术事件

    IOSG:Hermes 登顶背后,一个 Web3 团队的进阶之路

    IOSG:Hermes 登顶背后,一个 Web3 团队的进阶之路

    为什么meme基建能一直在进步

    为什么meme基建能一直在进步

    昨夜今晨重要资讯(8月10日-8月11日)

    昨夜今晨重要资讯(8月10日-8月11日)

    托德·布兰奇宣誓就任检察总长,确认战斗险象环生

    托德·布兰奇宣誓就任检察总长,确认战斗险象环生

    托德·布兰奇,前唐纳德·特朗普的私人律师,以微弱的优势被确认担任检察总长。在一个被削弱的司法部和总统的压力下,他的管理注定会充满争议。
    芯片开始金融化|Rewire新闻早报

    芯片开始金融化|Rewire新闻早报

    后加密时代展望:资产估值回归,下一个十年看什么?

    后加密时代展望:资产估值回归,下一个十年看什么?

    开源模型会杀死「算力需求」?摩根士丹利推演 AI 的三种未来

    开源模型会杀死「算力需求」?摩根士丹利推演 AI 的三种未来

    美元流动性上升将推动比特币和加密货币上涨

    美元流动性上升将推动比特币和加密货币上涨

    以太坊:外媒:Hayes称FIMA若扩容或利多比特币

    非农爆冷叠加日美干预,全球资产重新面对高资金成本约束

    nft: 加密钱包疑似被盗后该如何处理

    宇树IPO会走出SpaceX曲线吗?盘前估值已喊到2350亿元人民币

    Kalshi 创始人专访:不要盲目寻求创业建议,我并不擅长管理

    摩根士丹利解读:AI芯片狂奔,电力能否跟上?2027年隐含需求约38GW

    ...
    新用户专属奖励
    注册即可领取 10 USDT
    新用户专属奖励立即注册

    目录

    OPENAI

    最新文章

    2026/08/11

    IOSG:Hermes 登顶背后,一个 Web3 团队的进阶之路

    APPAPP
    00.00%--
    OPENAIOPENAI
    00.00%--
    POWERPOWER
    00.00%--
    ANTHROPICANTHROPIC
    00.00%--
    2026/08/11

    芯片开始金融化|Rewire新闻早报

    STRCSTRC
    00.00%--
    METAMETA
    00.00%--
    OPENAIOPENAI
    00.00%--
    ANTHROPICANTHROPIC
    00.00%--
    2026/08/10

    GLM-5.2暴跌95%,威胁DeepSeek的价格战

    Zhipu将其GLM-5.2模型的价格降低了95%,使其比DeepSeek V4 Flash更便宜,并引发了与代理平台的价格战。第三方如OpenRouter和StreamLake现在以每百万个代币0.07美元的入场价和0.22美元的出场价提供代币,而官方价格为1.4美元和4.4美元。此消息在社交媒体上迅速传播,并引发了紧急警报,以利用这些折扣。
    ZHIPUZHIPU
    00.00%--
    OPENAIOPENAI
    00.00%--
    GLMGLM
    00.00%--
    2026/08/10

    哈萨比斯退场,前LLM时代最后一幕

    OPENAIOPENAI
    00.00%--
    ANTHROPICANTHROPIC
    00.00%--
    AGIAGI
    00.00%--
    2026/08/09

    Situational Awareness 投资 4 亿美元于芯片,尽管基金损失过半

    OPENAIOPENAI
    00.00%--
    ANTHROPICANTHROPIC
    00.00%--
    更多

    WEEX 新上架代币

    logo社区
    iconiconiconiconiconicon
    客户服务:@weikecs
    商务合作:@weikecs
    量化做市商合作:bd@weex.com
    VIP服务:support@weex.com
    • 关于我们
    • 公告中心
    • WEEX博客
    • 品牌信息
    • 官方博客
    • 就业机会
    • 媒体报道
    • 加入 WEEX 社群
    • WXT专区
    • 法律声明
    • 风险提示
    • 条款与协议
    • 隐私说明
    • 廉正举报
    • 反洗钱政策
    • 执法请求指南
    • 教程中心
    • 产品公告
    • WEEX要闻
    • 产品公告
    • WEEX加密百科
    • 学习
    • Q&A
    • 现货交易
    • 合约交易
    • 名词解释
    • VIP服务
    • 下载
    • 合伙人
    • 保护基金
    • 储备金证明
    • 网站地图
    • ETF
    • 加密货币价格
    • 货币预测
    • WXT 价格
    • BTC 价格
    • ETH 价格
    • DOGE 价格
    • 如何购买加密货币
    • 如何购买 WXT
    • 如何购买 BTC
    • 如何购买 ETH
    • 如何购买 DOGE
    • 帮助中心
    • 费率标准
    • 交易规则
    • 常见问题
    • WEEX学堂
    • 官方验证渠道
    • 关于我们
    • 公告中心
    • WEEX博客
    • 品牌信息
    • 官方博客
    • 就业机会
    • 媒体报道
    • 加入 WEEX 社群
    • WXT专区
    • 帮助中心
    • 费率标准
    • 交易规则
    • 常见问题
    • WEEX学堂
    • 官方验证渠道
    • 联系客服Bot
    • VIP服务
    • 法律声明
    • 风险提示
    • 条款与协议
    • 隐私说明
    • 廉正举报
    • 反洗钱政策
    • 执法请求指南
    • 储备金证明
    • 邀请好友
    • OTC
    • 下载
    • 合伙人
    • VIP服务
    • API
    • 经纪商
    • 上币申请
    • 网站地图
    • 合约交易
    • 现货交易
    • 一键跟单
    • 市场
    • WEEX商城
    • 教程中心
    • 产品公告
    • WEEX要闻
    • 产品公告
    • WEEX加密百科
    • 学习
    • Q&A
    • 现货交易
    • 合约交易
    • 名词解释
    • VIP服务
    • 下载
    • 合伙人
    • 保护基金
    • 储备金证明
    • 网站地图
    • ETF
    • 加密货币价格
    • 货币预测
    • WXT 价格
    • BTC 价格
    • ETH 价格
    • DOGE 价格
    • 如何购买加密货币
    • 如何购买 WXT
    • 如何购买 BTC
    • 如何购买 ETH
    • 如何购买 DOGE
    • 关于我们
    • 公告中心
    • WEEX博客
    • 品牌信息
    • 官方博客
    • 就业机会
    • 媒体报道
    • 加入 WEEX 社群
    • WXT专区
    • 帮助中心
    • 费率标准
    • 交易规则
    • 常见问题
    • WEEX学堂
    • 官方验证渠道
    • 法律声明
    • 风险提示
    • 条款与协议
    • 隐私说明
    • 廉正举报
    • 反洗钱政策
    • 执法请求指南
    • 联系客服Bot
    • VIP服务
    • 合约交易
    • 现货交易
    • 一键跟单
    • 市场
    • WEEX商城
    • 储备金证明
    • 邀请好友
    • OTC
    • 下载
    • 合伙人
    • VIP服务
    • API
    • 经纪商
    • 上币申请
    • 网站地图
    • 教程中心
    • 产品公告
    • WEEX要闻
    • 产品公告
    • WEEX加密百科
    • 学习
    • Q&A
    • 现货交易
    • 合约交易
    • 名词解释
    • VIP服务
    • 下载
    • 合伙人
    • 保护基金
    • 储备金证明
    • 网站地图
    • ETF
    • 加密货币价格
    • 货币预测
    • WXT 价格
    • BTC 价格
    • ETH 价格
    • DOGE 价格
    • 如何购买加密货币
    • 如何购买 WXT
    • 如何购买 BTC
    • 如何购买 ETH
    • 如何购买 DOGE

    财富自由之路

    扫码下载

    注册
    h5 logo
    下载