Develata's Space

Appearance

2026-09-17 ​

Meta开源FlashAttention-4的MXFP8端到端块缩放注意力实现，在Blackwell上训练吞吐较BF16提升1.6倍，已用于生产训练，是推理优化与训练加速的重要进展。 NVIDIA TensorRT Edge-LLM在Jetson AGX Thor上完成MLPerf Edge Agentic基准，运行Qwen3.6-27B，速度比llama.…

Low Precision Flash Attention 4: End-to-End Block-Scaled Attention for Blackwell 82 ​

  • Tags: 推理优化 开源生态 模型训练 芯片算力

  • Source: PyTorch Blog | 阅读原文

[摘要]
Meta开源FlashAttention-4的MXFP8端到端块缩放注意力实现，在Blackwell上训练吞吐较BF16提升1.6倍，已用于生产训练，是推理优化与训练加速的重要进展。

TensorRT Edge-LLM Completes the MLPerf Edge Agentic Benchmark 6.4x Faster on Jetson AGX Thor 78 ​

  • Tags: 推理优化 边缘计算 智能体 芯片算力

  • Source: NVIDIA Technical Blog - Generative AI | 阅读原文

[摘要]
NVIDIA TensorRT Edge-LLM在Jetson AGX Thor上完成MLPerf Edge Agentic基准，运行Qwen3.6-27B，速度比llama.cpp快6.4倍，展示边缘设备上智能体推理的性能突破。

Choose a tag to compare 75 ​

  • Tags: AI安全 开源生态 推理优化

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp 修复一个可被未认证远程客户端利用的 use-after-free 漏洞，该漏洞可导致远程代码执行，影响广泛部署的推理框架，需及时更新。

BLINDSPOT: A Benchmark for Safety and Refusal Calibration in Long-Horizon Tool-Using Agents 75 ​

  • Tags: AI安全 智能体 评测基准

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准BLINDSPOT评估长时程工具使用智能体的安全性与拒绝校准，覆盖22种攻击家族、2500多条轨迹，揭示安全失败可能仅在多轮交互后出现，推动智能体安全评估从单轮转向轨迹级。

TAME: Token Attribution and Masking for Emergent misalignment 75 ​

  • Tags: AI安全 研究 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出TAME框架，通过令牌归因与掩码定位并缓解大模型微调中的涌现性错位，可将有害行为降低23-36倍，为AI安全对齐提供新方法。

Nameless Tokenization: A Lossless Tokenizer-Level Defense Against Control-Token Forgery in Open-Weight LLMs 75 ​

  • Tags: AI安全 大模型 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究提出无名称分词法，防御开放权重LLM的令牌伪造攻击，审计256个分词器均存在漏洞，新方法在攻击数据上准确率大幅提升。

Beyond Cultural Knowledge: Evaluating Arabic Cultural Appropriateness of Large Language Models 75 ​

  • Tags: 评测基准 大模型 AI安全 多语言

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准AraBehave评估LLM阿拉伯文化适宜性，发现其分为规范立场与文化准确性两个独立维度，通用模型与阿拉伯语模型失败原因不同，且文化指令可显著提升表现，揭示现有安全基准盲区。

Open Research, Tooling & Optimization at PyTorch Conference North America 2026 72 ​

  • Tags: 开源生态 推理优化 框架更新 技术会议

  • Source: PyTorch Blog | 阅读原文

[摘要]
PyTorch Conference North America 2026将于10月20-21日在圣何塞举行，聚焦编译器、内核、分布式训练、低精度量化等开源研究与工具优化，涉及torch.compile改进、动态形状、FP4量化等关键技术进展。

Grok Build 推出记忆功能，可跨会话保留项目约定与决策 72 ​

  • Tags: 产品发布 智能体 AI编程

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Grok Build推出记忆功能，可跨会话保存项目约定与决策，自动记录并整理笔记，提升开发效率。

Translating CUDA Tile Operations from Python to Rust Using Agentic AI 72 ​

  • Tags: AI编程 GPU编程 开源生态 推理优化

  • Source: NVIDIA Technical Blog - Generative AI | 阅读原文

[摘要]
TileGym团队用多智能体AI将CUDA Tile Python和Triton-TileIR内核翻译为Rust，移植24个算子达99.5%性能，验证了AI辅助GPU内核迁移的可行性。

Anthropic 将 Claude Cowork 与聊天合并为统一的 Claude，并推出 Docs、Slides 等功能 72 ​

  • Tags: 产品发布 公司动态 智能体

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Anthropic 将 Claude Cowork 与聊天合并为统一 Claude，并推出 Docs、Slides 功能，简化任务入口，提升产品整合度，未来几周向 Pro 和 Max 用户推出。

Claude Docs、Claude Slides 与 Claude Design 直接嵌入对话，可导出 PowerPoint 或 PDF 72 ​

  • Tags: 产品发布 公司动态 大模型

  • Source: AI HOT 精选 | 阅读原文

[摘要]
Anthropic 将 Claude Docs、Slides 和 Design 直接嵌入对话，用户可在聊天中生成演示、文档和设计，并导出为 PowerPoint 或 PDF，简化工作流，提升 Claude 实用性。

OpenAI 推出 ChatGPT Ads 新功能：Sponsored Agents 测试并集成 HubSpot 与 Shopify 72 ​

  • Tags: 产品发布 公司动态 智能体 广告平台

  • Source: AI HOT 精选 | 阅读原文

[摘要]
OpenAI 推出 ChatGPT Ads 新功能，测试 Sponsored Agents 广告智能体对话，并集成 HubSpot 与 Shopify，推动 AI 原生广告平台发展，影响企业营销生态。

Choose a tag to compare 72 ​

  • Tags: 推理优化 开源生态 模型推理

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp修复Metal后端MoE模型激活值超f16范围导致NaN的bug，影响Mistral Small 4等模型，修复后性能开销极小，提升推理稳定性。

Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration 72 ​

  • Tags: AI安全 模型防御 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出一种针对LLM拒绝方向消融攻击的快速后处理防御方法DDO，通过注入非线性诱饵信号保护安全机制，成本远低于微调，在多个模型上显著降低攻击成功率。

Japanese Stroke LLM Evaluation: A Conversational Benchmark for Safe Stroke Care in Japanese Using Large Language Models 72 ​

  • Tags: AI安全 医疗AI 基准测试 大模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新基准测试评估LLM在日语卒中诊疗中的多轮对话能力与安全性，Claude Fable 5得分最高且无致命错误，11个模型出现17次关键失误，凸显医疗AI安全评估重要性。

Persistent Recurrent Memory Between Transformer Layers - Improves Language Model Generalization 72 ​

  • Tags: 模型架构 研究进展 语言模型

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出在Transformer层间插入持久循环记忆模块，仅增3.7%参数使语言模型评估损失降28.5%，显著提升泛化能力，为架构改进提供新思路。

Where Should a Document Live: Context, Representations, or Parameters? 72 ​

  • Tags: 推理优化 大模型 研究进展

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
该研究对比了上下文、参数和潜在表示三种让LLM获取新知识的方法，发现基于KV缓存的Cartridges在多数存储预算下准确率最高，但存在灾难性遗忘问题，对推理优化和知识注入有参考价值。

Cascade: Hierarchical Recoverability Control for Large Language Model Unlearning 72 ​

  • Tags: AI安全 大模型 研究发布

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
提出Cascade框架，通过路径路由、表征压缩和解码干预三层控制，降低大模型遗忘目标知识的可恢复性，在TOFU等基准上兼顾遗忘效果与模型能力。

Benchmarking Factual Robustness of LLMs via Multi-conversation Persuasion 72 ​

  • Tags: AI安全 大模型 研究

  • Source: arXiv Computation and Language | 阅读原文

[摘要]
新研究揭示LLM在无记忆场景下极易被多轮说服攻击误导，简单策略成功率高达96%，暴露冷启动防御脆弱性，对AI安全有重要参考价值。