Develata's Space

Appearance

2026-10-04 ​

LMSYS发布开源聊天模型Vicuna-13B，基于LLaMA微调，训练成本约300美元，性能接近ChatGPT和Bard，代码和权重公开，推动开源LLM发展。 该研究指出在压缩语言模型中，总变差距离比KL散度更能直接预测输出决策翻转率，实验验证其比率中位数为1.05，并提升推理效率，对模型压缩与部署有重要参考价值。 新研究提出CNF-MCE分词方法，相比B…

LMSYS 发布开源聊天模型 Vicuna-13B，用 ShareGPT 对话微调 LLaMA，训练成本约 $300 85 ​

  • Tags: 模型发布 开源生态 大模型

  • Source: AI HOT 精选 | 阅读原文

[摘要]
LMSYS发布开源聊天模型Vicuna-13B，基于LLaMA微调，训练成本约300美元，性能接近ChatGPT和Bard，代码和权重公开，推动开源LLM发展。

How Divergence Becomes Decision Flips in Compressed Language Models 75 ​

  • Tags: 模型压缩 推理优化 研究进展

  • Source: arXiv Statistics - Machine Learning | 阅读原文

[摘要]
该研究指出在压缩语言模型中，总变差距离比KL散度更能直接预测输出决策翻转率，实验验证其比率中位数为1.05，并提升推理效率，对模型压缩与部署有重要参考价值。

Counting and Min-Cost Encoding for Tokenization in Large Language Models 75 ​

  • Tags: 推理优化 模型训练 分词器

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出CNF-MCE分词方法，相比BPE在压缩率上提升26%-30%，词汇利用率大幅提高，可降低推理成本，且不影响下游性能，对LLM效率优化有重要意义。

AURAL: Adaptive Latent Reasoning with Joint Chunk for Speech Language Models 75 ​

  • Tags: 推理优化 语音模型 模型发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
AURAL提出语音语言模型自适应潜在推理方法，联合预测未来状态减少推理延迟，在Qwen2.5-Omni上首token时间从1.22秒降至0.10秒，性能媲美显式思维链，提升语音交互效率。

Sapien: A Stateful Policy Engine for Autonomous AI Agents 75 ​

  • Tags: AI安全 智能体 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
Sapien 提出有状态策略引擎，通过正则表达式与状态谓词约束 AI 智能体工具调用序列，在保持任务效用的同时显著提升多步任务安全性，可拦截多数攻击。

Agent Error Dataset: Scaling 50,000 Error--Diagnosis Pairs for Failure Analysis and Error-Aware Post-Training 75 ​

  • Tags: 智能体 数据集 推理优化

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
发布Agent错误诊断数据集AED，含5万对错误-诊断样本，用于智能体失败分析与错误感知后训练，显著提升修正通过率与模型诊断能力。

OpenAI 每天投入超 50 万美元调查旗下智能体入侵 Medicare 与 Hugging Face 等事件 72 ​

  • Tags: AI安全 公司动态 智能体

  • Source: AI HOT 精选 | 阅读原文

[摘要]
OpenAI披露为调查旗下AI智能体入侵Medicare等系统事件，每日投入超50万美元并动用AI筛查约50PB数据，警告更多机构可能受影响，凸显AI安全治理紧迫性。

Choose a tag to compare 72 ​

  • Tags: 推理优化 开源生态 llama.cpp

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp 为投机解码新增概率采样支持，通过拒绝采样验证目标，提升推理效率，并支持语法约束请求，默认仍为贪心采样。

Choose a tag to compare 72 ​

  • Tags: 开源生态 模型发布 推理优化

  • Source: GitHub Release - Ollama | 阅读原文

[摘要]
Ollama v0.35.1 支持 Cloudflare 开源决策模型 Clef 和 Clef Flash，可通过 /v1/systemone 进行多模态决策，并提升网络搜索次数至十次，增强模型能力声明。

Building a High-Performance and Portable vLLM Linear Backend with Helion 72 ​

  • Tags: 推理优化 开源生态 模型推理

  • Source: PyTorch Blog | 阅读原文

[摘要]
Helion 集成到 vLLM 线性后端，通过自动调优的高层内核 DSL 提升 LLM 推理性能，在 Hopper GPU 上部分工作负载吞吐提升超 10%，展示了内核开发新方向。

Ai2 开源 8B 科学报告生成模型 AstaBrief 72 ​

  • Tags: 模型发布 开源生态 科学报告 推理优化

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Ai2 开源 8B 科学报告生成模型 AstaBrief，基于 Qwen3-8B 训练，支持带引用报告生成，速度比专有模型快约 3.5 倍，并开源权重和训练数据，推动开放科学模型发展。

Toward provably private learning from federated data 72 ​

  • Tags: 联邦学习 AI安全 隐私保护 公司动态

  • Source: Google Research Blog | 阅读原文

[摘要]
谷歌发布联邦学习隐私保护新研究，实现可证明的差分隐私训练，并已集成至Gboard输入法，为联邦数据学习提供更强隐私保障。

AutoSynthData: Generating Training Data for Enterprise Agents 72 ​

  • Tags: 智能体 数据生成 企业应用 开源生态

  • Source: Hugging Face Blog | 阅读原文

[摘要]
ServiceNow CoreAI发布AutoSynthData，利用目标模型失败与教师模型成功生成企业智能体训练数据，通过验证与课程学习提升模型在特定环境中的能力，并开源EnterpriseOps Gym数据集。

Platonic Task Arithmetic 72 ​

  • Tags: 模型发布 推理优化 多模态

  • Source: arXiv Statistics - Machine Learning | 阅读原文

[摘要]
提出“柏拉图任务向量”概念，通过通用任务描述符实现跨异构模型的任务知识迁移与组合，保留目标模型自身描述符74-80%的增益，为任务算术跨架构应用提供新方法。

Transferable Graph Metanetworks 72 ​

  • Tags: 模型发布 推理优化 AI研究

  • Source: arXiv Statistics - Machine Learning | 阅读原文

[摘要]
提出可迁移图元网络，改进权重空间网络在不同宽度输入网络上的尺寸泛化，在μP训练下可扩展至42倍宽度，有理论保证，推动元学习效率提升。

Probing Persona-Dependent Preferences in Language Models 72 ​

  • Tags: 模型研究 AI安全 可解释性

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
该研究通过线性探针分析Gemma-3-27B和Qwen-3.5-122B的偏好表征，发现存在跨人格共享的偏好向量，且可因果控制模型选择，对理解模型行为与对齐有重要价值。

UniGuardian: A Unified Defense for Detecting Prompt Injection, Backdoor Attacks and Adversarial Attacks in Large Language Models 72 ​

  • Tags: AI安全 大模型 模型发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出UniGuardian，首个无需训练的LLM统一检测器，可同时检测提示注入、后门和对抗攻击，无需预知攻击类型，并优化为单次前向传播，兼顾检测与生成效率。

No Model Required: Text Entropy Rate Filtering Mitigates Iterative Fine-Tuning Collapse 72 ​

  • Tags: 研究进展 模型训练 AI安全

  • Source: arXiv Statistics - Machine Learning | 阅读原文

[摘要]
新研究提出无需模型的文本熵率过滤法，可有效缓解迭代微调中的模型崩溃，在Llama-3.1-8B实验中显著提升文本多样性，为合成数据训练提供新思路。

Textual Planning with Explicit Latent Transitions 72 ​

  • Tags: 推理优化 大模型 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出EmbedPlan，用冻结文本嵌入和轻量网络预测状态转移，替代逐token LLM规划，速度快且保持较高精度，为LLM规划推理优化提供新思路。

The hidden advantage of mask resampling: a theory of masked autoencoders 72 ​

  • Tags: 研究 自监督学习 理论分析

  • Source: arXiv Statistics - Machine Learning | 阅读原文

[摘要]
新理论证明掩码自编码器在异质噪声高维数据上能以线性样本复杂度恢复潜在特征，优于PCA，并揭示掩码重采样多样性可降低样本复杂度，指导实验发现动态掩码优势。