Develata's Space

Appearance

2026-09-08 ​

Anthropic 据报道签署高达5170亿美元算力协议，锁定至少14.8GW算力并计划自建数据中心，显示其大规模扩张算力布局，影响AI基础设施格局。 新研究揭示极稀疏监督（每轨迹仅1-2个token）即可媲美甚至超越全token训练，显著提升大模型推理能力，挑战了后训练必须密集token的假设，为高效后训练算法开辟新方向。 Scale-QLoRA提出在原生…

Anthropic 据报道签约高达 5170 亿美元算力协议，锁定至少 14.8 GW 算力 85 ​

  • Tags: 算力芯片 公司动态 基础设施

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Anthropic 据报道签署高达5170亿美元算力协议，锁定至少14.8GW算力并计划自建数据中心，显示其大规模扩张算力布局，影响AI基础设施格局。

Extremely Sparse Supervision Incentivizes Reasoning Ability 82 ​

  • Tags: 推理优化 模型训练 研究突破

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示极稀疏监督（每轨迹仅1-2个token）即可媲美甚至超越全token训练，显著提升大模型推理能力，挑战了后训练必须密集token的假设，为高效后训练算法开辟新方向。

Scale-QLoRA: Code-Invariant Adapter Merging for Native 4-bit Microscaling LLMs 78 ​

  • Tags: 推理优化 模型部署 量化 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
Scale-QLoRA提出在原生4位微缩放LLM上仅训练缩放字段并冻结代码平面，实现无损且代码不变的LoRA合并，避免量化重写导致的精度损失，显著提升部署效率。

Moral Competence Before Moral Content: Why LLM Agents Lack the Prerequisites for Coherent Alignment 75 ​

  • Tags: AI安全 大模型 研究发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出评估LLM智能体道德一致性的四项结构条件，测试九大前沿模型发现其行为在表面扰动下极不稳定，质疑当前对齐方法有效性，对AI安全有重要启示。

BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference 75 ​

  • Tags: 推理优化 KV缓存 大模型 论文

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出BeaconKV，一种免训练的KV缓存压缩方法，通过维护信标查询预测长推理中将被重新访问的KV对，实现最高5.8倍内存缩减和4.3倍吞吐提升，几乎不损失精度，对推理优化有重要价值。

GPT-6 Astra爆火后，卡兹克谈执行能力贬值与判断力断层 72 ​

  • Tags: 大模型 产品发布 智能体

  • Source: AI HOT 精选 | 阅读原文

[摘要]
GPT-6 Astra上线后用户用它自主操控专业软件完成复杂创作，引发对执行能力贬值与判断力价值的讨论，反映AI能力边界扩展。

EuroAlpaca: Task-Preserving Localisation of Instruction Data for European Languages 72 ​

  • Tags: 多语言模型 指令微调 数据集 评测基准

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
EuroAlpaca提出任务保持的指令数据本地化流程，覆盖50种欧洲语言，并发布European-IFEval基准，证明直接机器翻译会损害指令跟随能力，而该方法可逆转性能下降，对多语言指令微调有重要价值。

TRILOGUE: A Trilingual Spoken Dialogue Fact-Checking Benchmark with Evidence and Paired Audio 72 ​

  • Tags: 数据集 多语言 事实核查 AI安全

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新发布三语口语对话事实核查基准TRILOGUE，含近1.2万对话、390小时音频，覆盖英俄哈语，支持端到端评测，填补多语言口语核查空白。

What Attention Recalls and Recurrence Controls in Hybrid Language Models 72 ​

  • Tags: 研究 混合模型 推理机制

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究通过缓存干预揭示混合语言模型中注意力与循环状态的功能分工：注意力负责精确检索，循环状态决定输出语言与风格，对理解混合架构有重要价值。

When Do Internal Probes Beat Reading the Answer? Miscalibrated Readouts and Behavior-Concealed Knowledge in Language Models 72 ​

  • Tags: AI安全 可解释性 模型评测

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
研究揭示语言模型内部知识可能被输出阈值偏移掩盖，线性探针可读取高准确率答案，单参数修正可显著提升行为表现，对理解模型可解释性与评测有重要价值。

WearableQA: A Benchmark for Health Reasoning over Real-World Wearable Data 72 ​

  • Tags: 数据集 评测基准 AI医疗 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准WearableQA评估大模型对真实可穿戴数据的健康推理能力，含4084道题和16种题型，测试14个模型表现差异大且多数低于60%，推动AI健康应用评测。

ConsensusBench: Benchmark of Consensus Nodes for LLM Reasoning via Outcome Reward Densifying 72 ​

  • Tags: 推理优化 数据集 强化学习 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
ConsensusBench 提出基于共识节点的规则化过程奖励（ConsensusPR），缓解 GRPO 在长推理轨迹中的奖励稀疏问题，在多个数学推理基准上超越 GRPO，为 LLM 推理强化学习提供新思路。

Compression Beyond the Uncompressed: A Two-Stage Training Recipe for Soft Context Compression in RAG 72 ​

  • Tags: RAG 推理优化 模型训练

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出DEX-Comp两阶段训练方法，通过蒸馏与强化学习实现RAG软上下文压缩，16倍压缩、4-24倍推理加速，性能不降甚至超越未压缩基线，提升RAG效率。

SharedSAE: One Feature Dictionary Across Language Models 72 ​

  • Tags: 模型可解释性 稀疏自编码器 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新方法SharedSAE让多个语言模型共享一个稀疏自编码器字典，保留96.6%解释方差，支持单模型推理，降低解释成本，推动模型可解释性研究。

Harbor Adapters and Harbor-Index: Infrastructure and a Curated Meta-Dataset for Large-Scale Agentic Evaluation 72 ​

  • Tags: 智能体 评测基准 开源生态

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
Harbor发布统一智能体评测基础设施，适配80+基准并推出精选元数据集Harbor-Index，大规模评测8模型54基准，开源以提升智能体评估可靠性。

GEPARD - Generative, Prosody-aware, Autoregressive text-to-speech model for Realtime Dialogue 72 ​

  • Tags: 语音生成 模型发布 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究GEPARD提出基于LLM的流式TTS模型，支持实时对话，推理速度约15倍实时，256并发下204倍加速，并解决短词失败模式，对语音生成与推理优化有参考价值。

ConfRAG: Confidence-Guided Retrieval-Augmenting Generation 72 ​

  • Tags: RAG 推理优化 模型训练 AI安全

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出ConfQA微调策略，将幻觉率从20-40%降至5%以下，并据此设计ConfRAG按需触发RAG，减少超30%不必要检索，兼顾准确率与推理成本。

Quality Recovery for Quantized KV Caches via Low-Rank Attention Adaptation 72 ​

  • Tags: 推理优化 模型压缩 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出低秩注意力适配方法，在固定量化器下恢复量化KV缓存质量，显著降低困惑度并改善长上下文检索，为推理优化提供新思路。

Does Your Agent's Memory Survive a Model Upgrade? A Controlled Study of Memory Portability 72 ​

  • Tags: 智能体 研究 记忆迁移 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
一项关于智能体记忆在模型升级后迁移能力的受控研究：固定知识图谱结构迁移最稳定，压缩笔记和RAG混合嵌入则显著损失性能，强调需保留原始历史并做方向性迁移测试。

Large Language Models with At Most One Spike per Neuron 72 ​

  • Tags: 模型发布 推理优化 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究首次将TTFS编码的脉冲神经网络扩展到15亿参数的大语言模型，实现每神经元最多一次脉冲，能耗极低，性能接近传统模型，为节能LLM提供新路径。