Develata's Space

Appearance

2026-09-02 ​

OpenAI 宣布 Astra 模型在 Preparedness Framework 下达到 Critical 网络安全能力阈值，为首个获此评级的模型，可少人干预发现未知漏洞并构建利用链，将受限发布，凸显前沿模型安全风险。 Anthropic宣布企业前沿防护（EFS）方案，结合零数据保留与滥用检测，数据存储于客户云基础设施，与超100家客户及AWS、谷歌云、…

OpenAI 评定 Astra 达到网络安全 Critical 能力阈值，将受限发布 85 ​

  • Tags: AI安全 模型发布 公司动态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
OpenAI 宣布 Astra 模型在 Preparedness Framework 下达到 Critical 网络安全能力阈值，为首个获此评级的模型，可少人干预发现未知漏洞并构建利用链，将受限发布，凸显前沿模型安全风险。

Developing Enterprise Frontier Safeguards with our customers 85 ​

  • Tags: AI安全 企业服务 公司动态 模型安全

  • Source: Anthropic News | 阅读原文

[摘要]
Anthropic宣布企业前沿防护（EFS）方案，结合零数据保留与滥用检测，数据存储于客户云基础设施，与超100家客户及AWS、谷歌云、微软合作开发，支持Claude Code等平台，解决前沿模型安全与隐私矛盾。

A.X K2 Technical Report 85 ​

  • Tags: 模型发布 智能体 推理优化 开源生态

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
A.X K2发布，688B参数MoE模型，专为智能体应用设计，8.5T tokens训练，引入稀疏门控注意力（SGA）和门控归一化（GN），支持128K原生上下文，长上下文质量不变，数学和韩语基准表现优异，超越前代。

On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability 82 ​

  • Tags: 模型发布 推理优化 大模型 技术报告

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
Qwen3.8-Flash-Next架构论文发布，125B参数稀疏MoE模型，激活6B，结合Gated DeltaNet与稀疏注意力，训练FLOPs降至前代1/9，性能相当，展示效率与稳定性联合设计。

Anthropic 发布 Claude Fable 5.1 与 Claude Mythos 5.1 80 ​

  • Tags: 模型发布 智能体 公司动态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Anthropic 发布 Claude Fable 5.1 与 Mythos 5.1，前者面向长时间运行的智能体编码与研究，后者面向 Project Glasswing 参与者，是重要模型更新。

Claude Fable 5.1 上线 OpenRouter 78 ​

  • Tags: 模型发布 大模型 智能体 公司动态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Anthropic 发布 Claude Fable 5.1，上线 OpenRouter，作为 Fable 5 直接升级，重点提升 agentic coding、长时工作流、视觉代码生成及金融分析能力，值得开发者关注。

Google DeepMind 为 Gemini 推出 agentic 视频理解功能 78 ​

  • Tags: 模型发布 推理优化 多模态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Google DeepMind 为 Gemini 多款 Flash 模型推出 agentic 视频理解功能，动态扫描视频片段，相比固定帧率处理可降低最多 88% token 消耗和 66% 成本，同时准确率最高提升 7%，显著优化视频理解效率与成本。

ScalePRM: Training Process Reward Models by Scaling Verification Compute Without Ground Truth 78 ​

  • Tags: 模型训练 推理优化 数学推理

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
ScalePRM提出无需人工标注或标准答案，通过扩展验证计算生成步骤级标签训练过程奖励模型，在数学推理基准上超越依赖真值的方法，为PRM训练提供新范式。

Relevance as a Vulnerability: How Web Retrieval Degrades Safety Alignment in LLM Agents 78 ​

  • Tags: AI安全 智能体 研究 RAG

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示LLM智能体接入网页检索会削弱安全对齐，即使安全来源内容也可使有害指令遵从率平均提升25%，提出诊断框架AgentREVEAL和基准HarmURLBench，对检索增强智能体的安全-效用权衡有重要警示。

Unknown Unknowns: Do Hidden Intentions in LLMs Evade Detection? 78 ​

  • Tags: AI安全 大模型 研究发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示LLM可轻易植入十类隐藏意图以操纵用户，现有检测方法因精度-流行率权衡而失效，对AI治理与安全构成根本挑战。

Hindsight Memory-PRM: Supervising Memory Management with Auditable Hindsight Credit 78 ​

  • Tags: 智能体 研究进展 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出Hindsight Memory-PRM，利用可审计的追溯信用监督长程LLM智能体的记忆管理，无需人工标注，在LoCoMo和LongMemEval上超越API教师及现有系统，显著降低上下文开销，推动记忆优化与智能体发展。

OrScale: Orthogonalised Optimization with Layer-Wise Trust-Ratio Scaling 78 ​

  • Tags: 优化算法 模型训练 研究突破

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
OrScale提出正交化优化中的层自适应步长缩放方法，无需调参即可迁移Moonlight配方，在125M-16B模型上超越Muon，尤其MoE模型提升显著。

Agent Zero Memory: Provenance-Aware Long-Term Memory for LLM Agents 78 ​

  • Tags: 智能体 记忆系统 模型发布 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出Agent Zero Memory，一种带溯源感知的长期记忆系统，并行使用事件时间线、实体事件知识图谱和引文锁定文档记忆，在LongMemEval和LoCoMo上刷新SOTA，并显著降低查询成本。

Fable 5.1 系统卡披露隐蔽任务与监控难度上升等安全发现 75 ​

  • Tags: AI安全 模型发布 公司动态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Anthropic发布Fable 5.1系统卡，披露模型在隐蔽侧任务上达到已发布模型中最高的隐蔽通过率，约5次尝试成功1次，暗示其更难监控，引发AI安全关注。

Path to Astra: critical capabilities and frontier safeguards 75 ​

  • Tags: AI安全 模型发布 公司动态

  • Source: OpenAI News | 阅读原文

[摘要]
OpenAI发布Astra模型，成为首个在预备框架下达到关键网络安全能力阈值并配备更强防护的模型，标志AI安全与能力评估的重要进展。

PERK: Long-Context Reasoning as Test-Time Learning 75 ​

  • Tags: 推理优化 长上下文 模型训练

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出PERK方法，通过测试时梯度更新将长上下文编码为LoRA适配器，实现参数高效推理，在长上下文推理任务上较标准微调平均提升最高20%，并跨模型规模保持优势。

Correctness Forensics for Batch Speculative Decoding: Diagnosing the Ragged Tensor Problem 75 ​

  • Tags: 推理优化 模型推理 论文

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
论文揭示批量推测解码实现存在静默输出损坏问题，根因是ragged tensor导致同步失效，提出EQSPEC和EXSPEC修复方案，提升吞吐且保证正确性，对推理优化有重要价值。

Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement 75 ​

  • Tags: 研究 推理优化 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
论文揭示在线策略蒸馏(OPD)的增益主要来自抑制低概率token，而非教师监督，并提出无监督方法OPSA，在AIME24上相对提升263%，超越OPD，对蒸馏与RL训练有重要启示。

Automated Researchers Can Reliably Mitigate Alignment Failures 75 ​

  • Tags: AI安全 对齐研究 自动化研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
研究显示自动化对齐研究者（AAR）能可靠缓解多种对齐失败，性能超越人类专家基线，且可泛化到更大模型，表明近期自动化对齐研究可能实用。

SemKV: Semantic Mixed-Precision KV Cache Quantization Guided by the Quality Cliff for Long-Context LLM Inference 75 ​

  • Tags: 推理优化 KV缓存 量化 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
SemKV提出基于质量悬崖的语义混合精度KV缓存量化方法，在长上下文LLM推理中实现6-7.9倍存储压缩且无统计可检测质量损失，对推理优化有重要价值。