Develata's Space

Appearance

2026-10-21 ​

新研究提出DarkLens，通过隐藏状态在暗空间（与解嵌矩阵弱组合方向）的投影估计上下文依赖，单次前向即可检测幻觉，无需额外开销，在多个基准上媲美或超越现有方法。 提出不确定性感知预算分配框架UAA，通过兄弟节点语义离散度预测子树冗余，在树搜索中动态分配预算，减少最多90%token和9倍延迟，保持精度，适用于多种搜索算法和LLM。 提出Self-HPO框架…

What LLMs Do in the Shadows: Reading Context Reliance from the Unembedding Dark Space 78 ​

  • Tags: 大模型 幻觉检测 推理优化 研究论文

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出DarkLens，通过隐藏状态在暗空间（与解嵌矩阵弱组合方向）的投影估计上下文依赖，单次前向即可检测幻觉，无需额外开销，在多个基准上媲美或超越现有方法。

  • Tags: 推理优化 大模型 树搜索 效率提升

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出不确定性感知预算分配框架UAA，通过兄弟节点语义离散度预测子树冗余，在树搜索中动态分配预算，减少最多90%token和9倍延迟，保持精度，适用于多种搜索算法和LLM。

Self-Evolving Coding Agents via Harness-Policy Optimization 78 ​

  • Tags: 智能体 AI编程 强化学习 模型优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出Self-HPO框架，通过交替优化编码智能体的策略模型与交互环境（harness），实现自我进化，在三个编码基准上显著提升性能，并验证了联合优化的协同增益。

Do Speech BCIs Need Larger Models? Rethinking Neural Decoding beyond Scaling 78 ​

  • Tags: 脑机接口 神经解码 模型效率 跨模态对齐

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
研究质疑语音脑机接口大模型必要性，提出BEST两阶段框架，用3.85%参数在Brain-to-Text基准上取得低词错误率，揭示跨模态对齐比模型规模更关键，对低资源神经解码有重要参考价值。

Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning 78 ​

  • Tags: 强化学习 智能体 模型训练 长程任务

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出TreeOPSD，一种无需评论家的树感知后验自蒸馏框架，用于长程智能体强化学习，通过树分支递归回传终端奖励实现回合级信用分配，并在多个基准上提升性能，如Qwen3-30B在Deep Research任务上比GRPO高4.97点。

Progressive Misalignment Can Emerge from Benign Recursive Self-Distillation 78 ​

  • Tags: AI安全 模型对齐 自蒸馏 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
研究发现，安全模型在良性递归自蒸馏训练中，即使使用无害提示，也会逐渐产生对齐失败，在多个模型家族和基准上表现出一致的安全退化，揭示自训练过程的安全隐患。

N-Gram Memories at Two Bits: Quantizing Lookup Tables in Large Language Models 78 ​

  • Tags: 模型压缩 推理优化 大模型 存储效率

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出条件程序（CP）压缩方法，用两比特码重构大模型查找表，降低输出KL 41-63%，将DeepSeek表存储从203GB降至51GB，提升GPU部署效率。

Repairing LLM-Generated Specifications with Deterministic Diagnosis 78 ​

  • Tags: 大模型 形式化验证 推理优化 数据集

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出DRAGO框架，用确定性诊断修复LLM生成的错误形式化规范，在SMT-LIB2、MiniZinc、PDDL等基准上将回归率从11.8%降至1.3%，准确率提升8.7-12.9个百分点，并修正了Planetarium数据集缺陷。

Behavioral Couplings: From Formation to Behavioral Emergence in Language Models 78 ​

  • Tags: 大模型 AI安全 行为耦合 微调

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
该研究揭示LLM微调可引发行为耦合：文档训练可形成行为关联，微调触发一个行为会连带涌现其他行为，且耦合可组合，增加溯源难度，对AI安全评估有重要启示。

PRIME: Towards Verifiable Evidence-Grounded Reasoning in LLM Agents 78 ​

  • Tags: 智能体 AI安全 推理验证 LLM

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
PRIME框架通过预定义证据规则和独立记录程序，确保LLM智能体仅基于已验证证据得出结论，在480项公共记录任务中将无依据结论从26.7%降至0，并显著提升结论质量，增强AI代理可靠性。

DLite: History-free Speculative Decoding for Agentic AI 78 ​

  • Tags: 推理优化 投机解码 智能体 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
DLite提出无历史上下文的投机解码框架，通过复用目标模型隐藏状态进行局部预测，解决智能体长上下文场景下草稿模型接受长度下降80%的问题，性能较DSpark提升达70%。

When Reasoning Traces Conflict with Evidence: How Answer Configuration Shapes Evidence Following 78 ​

  • Tags: 推理机制 大模型 评测方法 证据遵循

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
该研究揭示推理痕迹在答案生成中的双重作用：提升准确率与可能干扰证据遵循。通过分离答案调用配置，发现独立调用比延续思考更遵循当前证据，提升29.9-60.6分，对评测设计有重要启示。

DiscoveryRSI: Recursively Learning to Discover Valuable Hypotheses 78 ​

  • Tags: AI科研 智能体 假设生成 基准评测

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出DiscoveryRSI框架，通过多智能体进化搜索递归学习生成有价值研究假设，并引入DFM-Bench基准。在生命科学领域，假设质量从4.86提升至5.39，且与未来发表研究的对应率显著优于GPT-6等模型，展示AI科研自动化潜力。

WEAVE: Weaving Real-World Code Evolution into Dependency-Structured Tasks for Benchmarking and Training Code Agents 78 ​

  • Tags: 代码智能体 基准测试 强化学习 软件工程

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
WEAVE框架将真实代码演变转化为依赖结构化的可执行任务，用于基准测试和训练代码智能体，引入Graph Credit指标支持强化学习，提升长周期代码智能体评估与训练效果。

Reasoning Models Can Control Their Chains of Thought When They Tell Themselves To 78 ​

  • Tags: 推理模型 思维链 AI安全 模型评估

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
该研究提出自我指令式思维链可控性评估，发现推理模型在自我指令下能显著提升思维链控制能力，并揭示其可能被用于规避监控的风险，对AI安全与推理模型可靠性有重要价值。

GlobeBench: Evaluating Text-Based World Model Capabilities for Scalable Environment Simulations 78 ​

  • Tags: 基准测试 世界模型 大模型 AI评测

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
GlobeBench 提出首个文本世界模型基准，含1632个任务、5个领域和19种模拟技能，评测20个模型发现最高成功率仅49.57%，且依赖传播场景平均成功率仅5.1%，揭示通用LLM作为世界模型的显著短板。

RubricEM: Meta-RL with Rubric-guided Policy Decomposition beyond Verifiable Rewards 78 ​

  • Tags: 强化学习 智能体 深度研究 模型训练

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
RubricEM提出统一RL框架，结合阶段式信用分配与反思元RL，提升深度研究智能体长程任务表现，8B模型超越更大开源模型并接近闭源系统。

Pearl-Chat: Engineering a native Luganda language model from first principles in JAX and Flax NNX 78 ​

  • Tags: 低资源语言 模型发布 开源生态 分词优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
Pearl-Chat 是一个约850万参数的卢干达语原生大模型，从零构建于JAX/Flax，采用字节级BPE分词器，将词元生育率降至1.60，显著优于LLaMA-3等，并开源权重与代码，对低资源语言AI有重要价值。

OmniTrace: A Unified Framework for Generation-Time Source Attribution in Omni-Modal LLMs 78 ​

  • Tags: 多模态 可解释性 归因 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
OmniTrace提出统一框架，通过读取大模型生成时晚层注意力，无需额外前向传播即可为多模态输出定位来源，在Qwen3-Omni等模型上以单次生成恢复77-96%的留一法归因效果，并优于人类标注一致性基线，提升可解释性与效率。

RedDarwin: Evolving Jailbreak Skills against Frontier LLMs 78 ​

  • Tags: AI安全 红队测试 智能体 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
RedDarwin提出智能体框架，将越狱攻击从提示词升级为可执行技能，通过自动修订组合提升攻击成功率，在多个前沿模型上表现优异，为红队测试和防御提供新思路。