hiw3c 日报精选

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

已收录 422 条 · 近 30 天 296 条 · 第 1 / 22 页

arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:58快照

你的Transformer秘密有弹性

作者:Walter Simoncini、Dheeraj Varghese、Gertjan J. Burghouts|扩展变压器产生了具有广泛功能的模型,部署在不同的硬件和波动的工作负载中。然而,型号系列仅提供少数固定尺寸(例如,S、B、L),迫使用户根据硬件和延迟限制承诺模型。在不同的查询负载下,这种刚性通常不是最佳的。我们引入了一种免重新训练的方法,可以弹

arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:57快照

持续关注

作者:Afshin Khadangi|我们引入Continuum Attention(CA),这是一种因果Transformer注意力操作符,用连续、分段线性记忆曲线上的积分取代离散的键和值查找。每个查询都会沿着曲线引发指数级相关性密度。对密度和插值进行积分,从封闭形式指数时刻(包括半令牌)中产生精确的规范化关注

arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:57快照

测试时培训的潜在压实

作者:陈英发、申星宇、肖朝军|长上下文扩大了关键值(KV)缓存,增加了生成期间的内存使用和注意力成本。压缩这些缓存必须为不可见的问题保留信息。我们引入了 ** 潜在压缩 **,它通过测试时训练学习紧凑的文档特定缓存。我们使用重建重要性、教师注意力和密钥空间多样性来初始化缓存条目。Trai

BestBlogs·AI 高分精选BestBlogs 精选20:56中文原文

GitHub - enkiruntime/enki_llm

📌 One-Sentence Summary Enki LLM 是一款纯 Rust 推理引擎,可在 Nvidia T4 上以 ~40 标记/秒的速度运行 Llama-3.2 1B,并具有在生成过程中实现 GPU 显存与 CPU 内存间实时脑迁移的能力。 📝 Summary 该项目实现了一个高性能、零 CUDA 的纯 Rust Transformer 推理引擎

BestBlogs·AI 高分精选BestBlogs 精选14:43中文快照

你的 AI 评分者仅有其答案金表般可靠

📌 One-Sentence Summary 一项涵盖 77 项研究的综合分析表明,AI 评分者在未能正确回答的问题上表现出最高的不可靠性,并呈现显著的假阳性偏差;实施一个经过验证的答案金表至关重要,以减轻这些错误。 📝 Summary AI 评分者的可靠性从根本上取决于其解决底层问题的能力。如果没有经过验证的答案金表,评分者会出现强烈的倾向,错误地通过那些

BestBlogs·每日早报BestBlogs 精选14:00中文原文

EP205 · Argon 解难题、Anthropic 重设计源控、Meta 发布 Muse Wonder

📝 今日导语 Argon 解难题,Anthropic 重设计源控,Meta 发布 Muse Wonder:判断模型与系统如何配合。 🏷 今日关键词: Gemini 4 Argon Scion 源码控制 Muse Wonder AI 自我复制 开放 AI 网络 📰 今日精选内容 Gemini 4 Argon:为解决棘手难题而生 Google DeepMind

arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

DoubtLess:无需训练的对比解码以实现高效推理

作者:Luo Minghao, 陈亮 | 推理模型通过长时间的思维过程来实现高效的计算,但往往需要消耗过多的计算资源来解决这个问题。目前已有的缩短CoT长度的方法都需要对每个模型进行额外的训练,或者需要在模型的隐藏状态中添加一个固定的引导向量,或者使用一些启发式解码方法,比如提前终止计算或禁止使用某些词汇,但这些方法都会降低模型的准确性。我们提出了Doubt

arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

混合推理代理

作者:Ziaru Zou Jiaru,Qun Zheng,Sirui Chen|我们如何才能构建一个超越人类语言思考的代理人,但仍然通过人类语言在外部环境中行动?现代LLM代理仍然通过文本进行推理和交互,而潜在推理提供了高效的内部媒介,但缺乏原生工具访问和推理透明度。我们通过混合推理代理(HybridAgents)连接这两个方向,它在之间动态导航

BestBlogs·AI 高分精选BestBlogs 精选00:21中文快照

Gemini 4 Argon:为解决棘手难题而生

📌 One-Sentence Summary Google DeepMind 推出了 Gemini 4 Argon,这是一款专为代码、科学和网络安全领域的深度推理设计的前沿模型,拥有行业领先的 1M token 输出限制。 📝 Summary Google DeepMind 发布了 Gemini 4 Argon,这是其最新的前沿模型,针对软件工程、科学研究和