像物理学家一样剪枝 LLM:将模块移除视为伊辛优化问题
📌 One-Sentence Summary 本文提出了一种 LLM 模块移除方法,将其重新表述为映射到伊辛玻璃的约束二元优化问题,从而实现高效、高性能的深度剪枝,并考虑了模块间的相互作用。 📝 Summary 作者提出了一种新颖的 LLM 深度剪枝方法,将模块选择视为约束二元优化(CBO)问题,并直接映射到伊辛玻璃模型。与将 Transformer 模块视
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
已收录 422 条 · 近 30 天 296 条 · 第 11 / 18 页
📌 One-Sentence Summary 本文提出了一种 LLM 模块移除方法,将其重新表述为映射到伊辛玻璃的约束二元优化问题,从而实现高效、高性能的深度剪枝,并考虑了模块间的相互作用。 📝 Summary 作者提出了一种新颖的 LLM 深度剪枝方法,将模块选择视为约束二元优化(CBO)问题,并直接映射到伊辛玻璃模型。与将 Transformer 模块视
📝 今日导语 从 Step 5 的长任务取舍,到 Bun 的 AI 迁移治理与快手实时字幕链路,读者可据此审视模型、工程和延迟的取舍。 🏷 今日关键词: Step 5 Preview Bun 迁移治理 实时字幕 100 万 Token PTS 对齐 语义回归 📰 今日精选内容 阶跃发布旗舰模型 Step 5 Preview:向前一步,智能效率的新一代「帕累托
刷屏全网的 Jev,是 AI 革命,还是营销噱头? 作者丨 高允毅 编辑丨岑 峰 这几天,全网都被 Jev 刷屏。 说它是这周最火的大模型,一点也不夸张。推特上诸多大佬用它打马里奥,过滤垃圾信息,炒币,称它为“Agent时代的系统1”;也有人说这就是一个 JSON 分类器,值得吹? 有人说它比 DeepSeek 还快,做同一个任务,28 秒 Jev 已经刷完
📝 今日导语 Muse 衔接工程交付,OpenAI 重构推理路由,领英用 MCP 管理组织知识,校准 AI 落地条件。 🏷 今日关键词: Muse Agentic 架构 LLM 推理路由 MCP 上下文工程 企业 Agent 治理 KV 缓存调度 Claude Code Projects 📰 今日精选内容 AI 写代码飞快,为何交付没有变快?小红书 Muse
9 月 20 日,阶跃星辰发布新一代旗舰基座模型 Step 5 Preview ,重点面向 AI 编程、软件工程、专业知识工作、金融等场景,提升模型在真实世界 Agentic 任务中的综合表现,并进一步拓展智能与成本之间的最优边界。在最新的全球权威榜单 Artificial Analysis Intelligence Index ( AA 综合智能指数)中,
📌 One-Sentence Summary LangChain 对 TypeSafe AI 的「系统一」决策模型 Jev 进行了评估,发现其在智能体测试中比传统的 LLM-as-judge 评估器更快、更便宜且更一致。 📝 Summary 本文探讨了 Jev(一种非自回归的「系统一」模型)作为 AI 智能体评估的第三种选择,旨在替代基于代码和 LLM-as
📌 One-Sentence Summary OpenRouter 的基准测试显示,TypeSafe AI 的决策模型 Jev 比其他领先 LLM 快 5 倍以上,其最慢响应时间也超过了竞争对手的中位数。 📝 Summary 使用 Ori Eval 进行的对比测试表明,Jev 在执行速度上具有显著优势,处理速度比次优模型快 5 倍。数据显示,Jev 在所有请
TypeSafe AI发布了Jev,这是一个System One模型,它用概率回答键入的问题,而不是生成文本。每100万个代币的输入成本为0.042美元,输出代币是免费的。我们涵盖了API、供应商基准测试及其警告、开发人员已经在构建的内容以及记录的限制。TypeSafe AI发布Jev:一个返回类型化,校准决策而不是文本的系统模型
📌 One-Sentence Summary OpenAI 推理工程师 Lu Zhang 与 Qianru Lao 介绍 IRB 如何从反馈环负载均衡器演进为控制面与数据面架构,并通过全局优化器在容量、健康度和缓存约束下分配路由权重,以降低端到端延迟并保持生产稳定性。 📝 Summary Lu Zhang 与 Qianru Lao 介绍 OpenAI 的推理
AI能否提出相对论?
谷歌和Deepmind的Dream-RTI让人工智能代理在过去的搜索运行中“梦想”,以测试新策略,而无需进行昂贵的重新计算。在测试中,它匹配或击败了现有结果,将迭代次数减少了高达2.43倍。只有搜索策略会适应,而底层人工智能模型保持不变。Google Deepmind的Dream-RTI文章首先出现在The Decoder上,帮助人工智能代理通过“梦想”过去
HN ð1040· 240 评论
HN125· 61 评论
HN57· 11 评论
Jev是一种新型人工智能模型,正在向开发人员展示一条更便宜、更快的软件智能之路。