快速扩展在线存储，为超过10亿ChatGPT用户提供服务
了解OpenAI如何将Habitat从Python库发展为全球分布式存储平台，为10亿ChatGPT用户和每秒2200万次请求提供服务。
-
-
通过Amazon SageMaker Infference上的前置感知路由减少LLM延迟
Amazon SageMaker Infession现在提供了感知前置的路由，这是一种路由策略，可以将共享相同提示前置的请求发送到同一实例，以便KV缓存保持温暖。在Llama 3.1 70 B的基准测试中，它将P50首次代币的时间减少了77%，并将KV缓存命中率从约25%提高到80%以上。
-
通过模型缓存减少Amazon SageMaker HyperPod上的推理冷启动
Amazon SageMaker HyperPod现在支持模型缓存以进行推理，它将模型权重和容器图像预加载到集群节点上，以便Pod从本地NVMe存储读取，而不是通过网络下载。了解模型缓存如何将冷启动时间从几十分钟到几秒、它的工作原理以及如何启用它。
-
使用Marengo 3.0在Amazon Bedrock知识库中搜索视频和图像
DeliverveLabs Marengo Embed 3.0现在作为嵌入模型普遍适用于Amazon Bedrock知识库，为视频、图像和音频内容带来完全托管的自然语言搜索。此演练展示了如何构建由Marengo 3.0支持的知识库并针对媒体运行语义查询。
-
Amazon Quick现已普遍在桌面上提供
您的团队将获得一个人工智能助理，该助理可以处理实际工作，同时您的数据保留在您的环境中，并且您的对话保持私密性。今天，Amazon Quick桌面应用程序通常可在macOS和Windows上使用。我们还为iOS和Android上的移动体验添加了新的活动提要，该提要整合了电子邮件、日历、CRM、[.]
-
Skild人工智能利用NVIDIA物理人工智能通过单个视频教授机器人新任务
制造车间、仓库和生产线很少保持固定--任务发生变化、布局发生变化、新产品到达，如果不进行重大重新编程，大多数机器人就无法跟上。Skild AI的新S1机器人基础模型有助于解决这一问题，旨在通过单个视频演示学习以前从未见过的长期任务。该模型于上周推出，使用[.]
-
使用Amazon Quick Automate构建端到端RTI调查问卷工作流程
了解如何使用Amazon Quick Automate构建端到端RTI调查问卷工作流程。阅读Amazon S3中的多选项卡RTI工作簿，使用自然语言提示提取和结构调查问卷数据，通过对话改进工作流程，并将干净的CSV输出写回Amazon S3 -将开发时间从几天缩短到几小时。
-
使用LLM进行模型不可知的PRI检测
一个可配置的、模型不可知的检测器，可以将Amazon Bedrock上的任何大型语言模型转变为PRI检测器。由于要检测的实体以提示方式而不是以代码形式存在，因此一个检测器无需重新训练即可适应新的实体类型，并且它在五个公共数据库和九个基于LLM的检测器中的性能优于现成工具。
-
物理人工智能掌舵：世界机器人出租车领导者如何利用NVIDIA技术进行建设
全球机器人出租车市场--物理人工智能的第一个商业突破--预计到2035年将达到4000亿美元，有超过600万辆商用车在运营，因为无人驾驶车队已经在运送人们穿过世界上一些最繁忙、最复杂的街道。部署无人驾驶车辆是一项挑战。扩大舰队规模是[.]
-
研究人员如何使用Codex和ChatGPT寻找新的抗菌分子
César de la Fuente的实验室使用Codex和ChatGPT来搜索活的和灭绝的基因组中的抗菌素候选物，以对抗耐药感染。
-
通过Search为下一场大型比赛做准备的3种方法
蓝色背景插图，彩色跑步者，放大镜和双子座火花覆盖