在美国人工智能（AI）企业专注价格昂贵的闭源模型之际，DeepSeek将自己的技术“家底”向外界开放，赢得海外网友称赞。
该框架是DeepSeek在面临美国尖端芯片出口限制下，确保大模型紧追美国顶尖AI模型的核心。推理框架负责管理模型如何使用计算资源来处理用户请求，其设计会影响延迟、吞吐量以及运行模型所需的硬件，因此是影响AI运营成本的重要因素。
美国彭博社21日指出，推理技术通常被AI公司视为核心竞争力，较少对外公开，而DeepSeek此次公开推理框架，让外界得以一窥其是如何在压低运行成本的同时，确保AI模型性能的。
即使是同一款AI模型，实际运行成本也可能因所采用的软件不同而存在较大差异。更加高效的软件能够降低每次请求所需的计算资源，并有望进一步减少能源消耗。
DeepInfer整合了分布式推理、投机解码等多项技术，能够让AI工作负载分配到不同硬件上，从而让模型在更短时间内生成更多输出，并进一步挖掘芯片的性能。目前，该框架已兼容英伟达SM100 GPU和华为昇腾950 NPU。
这其中不少的底层技术已被业界广泛采用，但DeepSeek针对自身模型进行了专门的优化，使这些技术能够更加高效地协同运行。
美媒称，对于AI托管服务商而言，更低的推理成本意味着更大的利润空间，并有可能进一步转化为更低的AI服务价格。对于企业用户来说，如果选择在自有基础设施上运行DeepSeek模型，DeepInfer也可能帮助其降低算力成本。
不仅如此，DeepSeek开源DeepInfer后，其他开发者也可以研究其中的技术方案，并将部分方法应用到自己的模型推理系统中。
在DeepSeek宣布开源DeepInfer的帖子下方，美国加州一家专注于大语言模型与AI开源优化、本地训练和推理的公司Unsloth AI公开感谢DeepSeek称，其已经借助Dynamic GGUFs，让DeepSeek-V4.1-Flash-1017能够在配备128GB内存的设备上实现本地运行。
评论区还出现了大量海外开发者和AI从业者的积极反馈。一名来自印度的社交媒体博主直接用“Real OPEN AI”（真正的开放AI）评价DeepSeek，并配上一段调侃OpenAI首席执行官山姆·奥尔特曼的视频。
欧洲AI从业者也用漫画嘲讽美国AI公司的闭源模型仅限特定“朋友圈”，与之相对的是中国公司通过降低成本，让AI模型更普惠。
一名来自孟加拉国的软件开发者赞叹说，DeepSeek可能是对开源大语言模型生态贡献最大的公司之一。
当然，DeepSeek此次发布的并不是一套完整的推理技术栈。其文档提到，要构建完整的服务，还需要KV缓存系统、Prefill/Decode解耦，以及在数据并行副本之间进行负载均衡等功能，这些内容并未完全包含在此次开源项目中。不过，大部分核心的解耦功能已经实现。
AI基础设施初创公司Requesty首席执行官蒂博·杰古（Thibault Jaigu）表示，DeepInfer降低了部署DeepSeek模型的门槛，但企业仍需要具备相应的算力和技术能力。他认为，DeepSeek实际上是在告诉外界，“任何人都可以自行托管我们的模型，不过要实现高效的管理，还是有一些技巧需要注意”。
在广大海外网友看来，DeepSeek所做的已不仅仅是发布一个开源推理框架，而是它正在把越来越多原本属于企业内部的技术公开出来，让更多人能够参与进来。这与美国AI行业越来越强调闭源模型、庞大的算力投入和商业护城河的路线形成鲜明对比。
OpenAI的名字里虽然带着“开放”，但其核心模型长期采取闭源策略，反倒是来自中国的DeepSeek正用实际行动践行“开放”一词。
“为善与众行之，为巧与众能之。”正如DeepSeek所说，“我们期待着在不远的未来，能够看到全球AI服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费。”
长鑫宣布技术突破，美光提不同意见 2026-10-22 18:46 观网财经-科创 产经 科创
苹果开卡免费，安卓却要多缴15元？“武汉通”区别对待引争议 2026-10-22 18:39
年产300部AI短剧纯空谈？南威软件三度涨停后被要求整改 2026-10-22 18:37
英国出手，要撬开苹果支付“围墙”并大幅降低收费 2026-10-22 18:34 观网财经-科创 产经 科创
裁员80%退出中国市场？eBay回应 2026-10-22 17:32 观网财经-海外
以大欺小？野人先生加盟商怒砸自家门店 2026-10-22 15:34 观网财经-消费
“DeepSeek才是真正的OpenAI” 2026-10-22 14:26 观网财经-科创 产经 科创
腾讯云、谷歌紧急预警，PHP高危漏洞波及全球互联网 2026-10-22 13:47 观网财经-科创 产经 科创
DeepSeek被曝完成千亿融资，腾讯、宁德时代参与 2026-10-22 13:47 观网财经-科创 产经 科创
高管引发中蒙边境大火，蒙古最大运营商为何被日本控制？ 2026-10-22 12:12
勠力同心百年强军目标：企业社会国家共谱时代答卷 2026-10-22 11:15
硬科技早报|华为称L3安全要求更高；宇树发新机器人；Meta被判罚250亿美元 2026-10-22 07:12 观网财经-科创 产经 科创
消费日报｜辛选虚假宣传连续被罚；家乐福因法国骚乱下调全年盈利预期 2026-10-22 07:06 观网财经-消费
长江存储份额已近40%，韩国存储双雄计划升级在华工厂 2026-10-21 21:07 观网财经-科创 产经 科创
印度手机出货创十年新低，OV小米均跌超20% 2026-10-21 20:54 观网财经-科创 产经 科创
超出安全标准近百倍，“省气神器”致多人死亡后仍在热卖 2026-10-21 20:39 观网财经-消费
只为诉赢大厂？爱奇艺疑“钓鱼取证”将小公司送上法庭 2026-10-21 20:29
苹果全球限购折叠屏，应用适配被吐槽 2026-10-21 18:19 观网财经-科创 产经 科创
盗版APP可关闭GPS、解除120米限高，大疆回应 2026-10-21 16:51 观网财经-科创 产经 科创
在华“关店提效”，优衣库称暂不涨价 2026-10-21 16:31
搜索 观察者头条 查看全部 对话马克·力文：90年后，长征精神何以跨越国界与时间 评论 12 间谍要伪装成商人卧底中国？美国防部忙否认 评论 96 默茨找补：对华政策，我们跟特朗普不一样 评论 111 韩国国博大乌龙：亲日分子当成抗日义士，一查更不得了 评论 69 高市执政一年，强势背后的尴尬藏不住了 评论 46 风闻 · 24小时最热 查看全部 1 张雪公开求助如何让食堂的米饭好吃，“不是米的问题”，食堂做米饭有哪些技术难点？ 评论 120 赞 3 2 血淋淋的一堂课！美国对乌克兰关闭北约大门！ 评论 119 赞 67 3 再来看看美国人民过得怎么样 评论 114 赞 7 4 香港人的傲慢，得治一治了 评论 81 赞 40 5 官方公开宣布，中国核潜艇已发展到第三代，09V攻击核潜艇终于要出现？ 评论 77 赞 14 6 男子称乘火车吸二手烟不适，起诉铁路部门被法院驳回，你支持普速列车全面禁烟吗？ 评论 76 赞 1 7 今夏看到老太太被撵出家，住在楼下小树林中，就是儿子儿媳嫌弃老太太往家里捡破烂 评论 66 赞 3 8 金灿荣：普京想把三国峰会在中国主场落地，这算计太精妙了 评论 58 赞 10 9 孤独就是我们自己的错 评论 56 赞 26 10 沙特这次真的有麻烦了，有消息称也门胡塞武装已经攻入沙特本土 评论 52 赞 16 最新视频 查看全部 又喝大了？高市早苗被指疑因醉酒缺席G7线上峰会 山西朔州一供热管道破裂，热水外溢，附近车辆被泡，当地：暂无人员受伤，抢修进行中 吓人！男子正常行驶遇大爷在马路上趴地俯卧撑，当事人：下坡弯道有视线盲区，所幸车速不快 外交部：台湾问题上没有“灰色地带”，菲方应当以实际行动恪守一个中国原则 最新闻 Hot 对话马克·力文：90年后，长征精神何以跨越国界与时间
安全是底座、智能是引擎、出海是纵深，世界智能网联汽车大会释放三重信号
Copyright © 2010-2026 观察者 All rights reserved。 沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号 广播电视节目制作经营许可证：（沪）字第03952号 增值电信业务经营许可证：沪B2-20210968 互联网宗教信息服务许可证：沪（2024）0000009 违法及不良信息举报电话：021-62376571 沪公网安备 31010502000027号 中国互联网举报中心 上海市互联网违法与不良信息举报中心