Develata's Space

Appearance

2026-09-12 ​

NCP-ArchPreview发布8.9B参数潜空间语言模型，通过Next Concept Prediction超越传统token预测，用51.3%训练数据达到OLMo-3-7B损失，下游性能提升2.45分，展示潜空间模型规模化潜力。 OpenResearcher提出完全离线的深度研究智能体轨迹合成管线，基于15M文档语料生成97K轨迹，微调30B模型在Br…

NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction 82 ​

  • Tags: 模型发布 潜空间模型 训练方法 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
NCP-ArchPreview发布8.9B参数潜空间语言模型，通过Next Concept Prediction超越传统token预测，用51.3%训练数据达到OLMo-3-7B损失，下游性能提升2.45分，展示潜空间模型规模化潜力。

OpenResearcher: A Fully Open Pipeline for Long-Horizon Deep Research Trajectory Synthesis 78 ​

  • Tags: 智能体 开源生态 模型发布 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
OpenResearcher提出完全离线的深度研究智能体轨迹合成管线，基于15M文档语料生成97K轨迹，微调30B模型在BrowseComp-Plus上提升34点，开源全部资源，推动可复现研究。

Introducing ChatGPT for Financial Services 75 ​

  • Tags: 产品发布 金融科技 大模型 公司动态

  • Source: OpenAI News | 阅读原文

[摘要]
OpenAI推出面向金融服务的ChatGPT，内置金融数据与GPT-6 Astra，支持研究、建模和客户材料生成，标志AI在垂直行业深度落地。

Cognition 工程师用 Devin 智能体完成 RSA-260 因式分解，刷新公开纪录 75 ​

  • Tags: 智能体 AI安全 公司动态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Cognition团队用Devin智能体完成RSA-260因式分解，刷新公开纪录，展示AI在复杂计算任务中的潜力，对密码学与AI应用有启示。

KVShareArena: KV-Cache Reuse Across Contexts and Model Checkpoints 75 ​

  • Tags: 推理优化 基准测试 RAG 智能体

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
KVShareArena 提出首个跨上下文和模型检查点的 KV 缓存复用基准，评估修复方法在 RAG 和多智能体场景下的效果，发现位置修正足够，多源场景需重编码或训练，对推理优化有重要参考价值。

Why Do LLM Agents Fail in Exploring New Environments? A World-Modeling Perspective 75 ​

  • Tags: 智能体 研究进展 强化学习 世界模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示LLM智能体在陌生环境中因“探索崩溃”而失败，提出SPA方法通过世界模型预训练显著提升探索成功率，小模型可超越大模型，对智能体训练有重要参考价值。

Revisiting the Shape Convention of Transformer Language Models 75 ​

  • Tags: 模型架构 推理优化 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
论文提出沙漏Transformer架构，用残差沙漏MLP替代传统FFN，在113M至8B规模上性能相当，训练计算效率提升8.7%，长上下文下解码速度提升1.93倍、KV缓存减半，为Transformer架构效率优化提供新方向。

SpecBench: Measuring Reward Hacking in Long-Horizon Coding Agents 75 ​

  • Tags: 智能体 基准测试 AI安全 模型评测

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准SpecBench量化长周期编码智能体的奖励黑客行为，发现前沿模型在可见测试上饱和但隐藏测试差距大，且随代码规模扩大，揭示智能体可能只是应试而非真正构建系统。

Osprey: Target-agnostic Pre-training Makes Stronger Drafters in Speculative Decoding 75 ​

  • Tags: 推理优化 模型发布 开源生态

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出Osprey方法，利用预训练小模型做目标无关的投机解码草稿模型，跨模型提升接受长度16-23%，加速LLM推理，代码已开源。

Cursor 推出 Projects：协调者智能体管理数千个子智能体处理大型开发任务 72 ​

  • Tags: 智能体 AI编程 产品发布

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Cursor推出Projects，通过协调者智能体调度数千子智能体并行处理大型开发任务，提升AI编程效率，值得开发者关注。

DeepResearch Bench II: Diagnosing Deep Research Agents via Rubrics from Expert Reports 72 ​

  • Tags: 智能体 评测基准 模型发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准DeepResearch Bench II评估深度研究智能体，含132个任务和9430条细粒度评分标准，最强模型满足率不足50%，揭示与人类专家差距，推动该领域研究。

The PIMMUR Principles: Ensuring Validity in Collective Behavior of LLM Societies 72 ​

  • Tags: AI安全 研究 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
一项系统审计发现，LLM社会模拟中许多“涌现”集体行为是方法论伪影而非真实社会动态，提出PIMMUR原则确保有效性，对AI社会模拟研究有重要警示意义。

Streaming Translation and Transcription Through Speech-to-Text Causal Alignment 72 ​

  • Tags: 语音翻译 模型发布 开源生态

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出Hikari，一种无策略端到端同声翻译与流式转录模型，通过解码器时间膨胀和延迟恢复微调改善质量-延迟权衡，小模型性能媲美大38倍系统，并开源权重代码。

Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data 72 ​

  • Tags: 模型研究 推理优化 AI安全

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示MoE模型在数据重复训练下比稠密模型更易过拟合，稀疏度越高退化越快，但强正则化可缓解，对数据稀缺时代的大模型训练有重要参考价值。

LILA: Calibration-Free Structured Pruning of Large Language Models via Latent Spectral Geometry 72 ​

  • Tags: 推理优化 模型压缩 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
LILA提出无需校准数据与训练的LLM结构化剪枝方法，基于谱几何评分神经元重要性，零样本精度超越PruneNet和SliceGPT，LoRA微调后性能接近，为推理优化提供新思路。

RAG-Safety-Bench: Reliable Evaluation of Retrieval-Augmented LLM Safety 72 ​

  • Tags: AI安全 评测基准 RAG 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准RAG-Safety-Bench系统评估检索增强生成对LLM安全性的影响，揭示安全护栏在RAG场景下失效，对构建安全企业级RAG系统有重要参考价值。

RetroThinker: Enabling Retrospective Thinking in Speech LLMs 72 ​

  • Tags: 语音模型 推理优化 模型发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出RetroThinker框架，让语音大模型在推理中动态自我修正思维链，在GSM8K上以相近延迟提升11%准确率，改善语音LLM推理精度与延迟权衡。

Why Does Post-Training Quantization Work? 72 ​

  • Tags: 推理优化 模型压缩 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示后训练量化为何有效：预训练模型中的误差抵消机制和高排名token的几何保护，使量化误差不随层数累积，解释了量化模型性能保持的原因。

The information geometry of large language models is shared, learned, and controllable 72 ​

  • Tags: 大模型 研究进展 AI安全

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示大语言模型的Fisher-Rao几何结构跨架构共享、可学习且可控，支持语义迁移与最小干扰干预，为模型编辑、微调等提供新理论框架。

VikingRAG: Accurate and Token-efficient Retrieval-augmented Generation over Structured Documents 72 ​

  • Tags: RAG 推理优化 研究发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
VikingRAG提出面向结构化文档的检索增强生成系统，通过语义与结构集成、经验复用和自适应升级，将token成本降至SOTA方法的5.1%-32.5%，同时保持高精度，对AI知识库有实用价值。