Develata's Space

Appearance

2026-09-13 ​

快手发布KuaiRP系列角色扮演模型技术报告，提出多阶段训练流程与自蒸馏方法，兼顾领域知识注入与通用能力保持，部署成本低，值得关注。 新方法LOCUS通过任务感知低秩后训练子空间，在不改变对齐损失下减少LLM输出长度最多39.84%，仅更新0.24-0.28%参数，可显著降低推理成本，对部署优化有实际价值。 REVA提出可复用证据视图聚合方法，利用历史注意力…

KuaiRP Series Role-playing Models Technical Report 72 ​

  • Tags: 模型发布 角色扮演 训练方法 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
快手发布KuaiRP系列角色扮演模型技术报告，提出多阶段训练流程与自蒸馏方法，兼顾领域知识注入与通用能力保持，部署成本低，值得关注。

LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation 72 ​

  • Tags: 推理优化 模型发布 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新方法LOCUS通过任务感知低秩后训练子空间，在不改变对齐损失下减少LLM输出长度最多39.84%，仅更新0.24-0.28%参数，可显著降低推理成本，对部署优化有实际价值。

REVA: Reusable Evidence View Aggregation for Context-Efficient RAG Serving 72 ​

  • Tags: 推理优化 RAG 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
REVA提出可复用证据视图聚合方法，利用历史注意力痕迹压缩RAG上下文，提升生成质量1-5.8分，压缩开销降低5-15倍，延迟小于40ms，优化推理效率。

The Truth Was Never Gone: Perfect Aliasing in Compliant-Context Truth Probes 72 ​

  • Tags: AI安全 可解释性 研究发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示真值探针在合规上下文中的完美混叠问题，提出混合拟合方法在对抗上下文将AUROC从0.006提升至1.000，对AI安全与可解释性有重要价值。

Detectable Only Where It Is Confounded: What Verified Duplication Counts Say About Membership Evidence in Language Models 72 ​

  • Tags: AI安全 模型研究 隐私

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究利用公开预训练语料库验证语言模型记忆证据，发现普通文本几乎无成员泄露，仅高频重复句子可检测，挑战现有成员推断方法。

Overview of the NLPCC 2026 Shared Task 11: Agent-Based Experiment Reproduction from Scientific Papers 72 ​

  • Tags: 智能体 评测基准 AI4Science 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
NLPCC 2026发布AgentActionBench基准，用于评测基于智能体复现科学论文实验，覆盖ML与AI4Science共150篇论文，揭示当前系统执行瓶颈，推动自动化复现研究。

A Fragility Spectrum for Recursive Language-Model Training 72 ​

  • Tags: 大模型 训练方法 模型崩溃 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
研究13个公开模型在递归污染训练下的崩溃差异，发现脆弱性是模型自身属性，可用两三代自迭代预测，top-p收紧可显著缓解。

FlexComp: One Model for Every Ratio in Context Compression 72 ​

  • Tags: 推理优化 模型发布 上下文压缩

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
FlexComp提出任意压缩比上下文压缩框架，通过Matryoshka式训练解耦压缩比，单模型匹配多固定比专家，KV缓存减半、解码吞吐提升47%，提升推理效率。

Structured Transforms for Low-Overhead Quantization of Language Models 72 ​

  • Tags: 推理优化 模型量化 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出基于Kashin分解与DCT变换的低开销量化算法，将复杂度从O(N^2)降至O(N log N)，在4-bit量化下性能媲美OPTQ/QuIP，且数值稳定性更强，适合原生2-bit硬件推理。

Negative Self-Distillation: Learning to Reason by Avoiding Flaws 72 ​

  • Tags: 大模型 推理优化 研究发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出负自蒸馏（NSD）框架，通过让大模型远离自身生成的错误推理而非模仿特权答案来优化，解决自蒸馏在复杂推理任务上的性能退化问题，并设计动态门控机制保护语言能力。

When Noise Fabricates Bias: The Fragility of LLM-as-a-Judge Bias Measurement under Noisy Text 72 ​

  • Tags: AI安全 模型评测 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示LLM作为偏见裁判时，文本噪声（错别字、非正式拼写等）会不对称地放大偏见测量，最多达120倍，且在最需要公平的类别中影响最大，对AI公平性评估方法提出警示。

Emergent Risks in Generative Multi-Agent Systems 72 ​

  • Tags: AI安全 智能体 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
该研究系统考察生成式多智能体系统在共享资源竞争、协作交接等场景中的涌现风险，发现共谋式协调与从众行为频繁出现且现有防护不足，对多智能体安全部署具有警示意义。

Sublinear Variational Optimization of Gaussian Mixture Models with Millions to Billions of Parameters 72 ​

  • Tags: 推理优化 机器学习 算法研究

  • Source: arXiv Statistics - Machine Learning | 阅读原文

[摘要]
提出高斯混合模型（GMM）的次线性变分优化算法，将训练复杂度从O(NCD²)降至与D线性、与NC次线性，支持百亿参数GMM在单CPU上9小时内完成训练，并用于零样本图像去噪，速度大幅提升。

Story Imprinting: AI Assistants Absorb Traits from Human Characters They Resemble 70 ​

  • Tags: AI安全 模型行为 研究论文 微调

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
研究显示，对GPT-4.1和Kimi-K2.6进行故事微调后，AI助手会吸收与自身相似的人类角色的行为偏好，即使故事中无AI角色，这对角色选择模型提出挑战。

Xiaomi-CocktailASR-1 Technical Report 70 ​

  • Tags: 语音识别 大模型 模型发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
小米提出基于LLM的端到端目标说话人ASR模型CocktailASR-1，以参考语音声纹提示直接转写混合语音中的目标说话人，支持缺失拒绝与CoT推理，多说话人基准达SOTA。

OmniHallu: Unified Hallucination Detection for Cross-Modal Comprehension and Generation in Multimodal Large Language Models 70 ​

  • Tags: 多模态 AI安全 模型评测 研究论文

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出OmniHallu统一多模态幻觉检测框架与万样本基准，覆盖图像、视频、音频的理解与生成任务，并降低66%专家调用。

Domain-Specific Hallucination Detection in Large Language Models 65 ​

  • Tags: 大模型 AI安全 模型发布 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出多信号幻觉检测流水线，在HaluEval上F1达0.915，并用DPO将Qwen2.5-0.5B幻觉率降低55.9%，跨域表现差凸显领域微调必要性。

Beyond Solver Verdicts: Generative Reward Models for Autoformalization 65 ​

  • Tags: 形式化验证 推理优化 AI安全

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
论文揭示形式化翻译的"裁决保持不忠实"失效模式，证明仅靠求解器裁决无法检测，提出生成式验证GenV，AUROC达0.961，下游智能体推理分配提升11.3分。

A Recipe for Long-Context Reasoning in Large Language Models via On-Policy Optimization and Distillation 65 ​

  • Tags: 大模型 长上下文 训练方法 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出结合GRPO与在线策略蒸馏的长上下文推理后训练方法，并发布LongBlocks合成多语言数据集，提升长上下文推理稳定性并保持短上下文能力。

Rebalancing Token Importance in Language Models with TF-IDF Weighted Cross-Entropy Loss 65 ​

  • Tags: 大模型 训练方法 AI安全

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出基于TF-IDF的信息加权交叉熵损失，在训练中降低大模型对表面文本的记忆，减少记忆子串长度14%-58%，且几乎不增加计算开销，为缓解模型记忆问题提供轻量方案。