开发者工具

NVIDIA汇总本地AI生态进展:开放模型与智能体工具加速适配个人计算设备

NVIDIA于8月11日发布并持续更新本地AI专题,集中介绍开放模型、智能体应用及其硬件适配进展。8月25日新增的Perplexity Portable Computer成为该系列最新动态。

NVIDIA汇总本地AI生态进展:开放模型与智能体工具加速适配个人计算设备的新闻配图
美国全球
开发者工具

NVIDIA于2026年8月11日在官方博客发布本地AI专题,并于8月25日追加更新。文章介绍开放模型、本地智能体与开发工具在RTX GPU、DGX Spark、DGX Station和Jetson上的适配,是项目的阶段性汇总。

8月25日更新显示,Perplexity推出为DGX Spark优化的Portable Computer本地智能体应用。按NVIDIA说法,该应用可连接Google Drive、Gmail、Slack和GitHub,并在本地模型与云端模型之间切换;本地工作流不计入云端令牌限额。当前方案采用后训练的Qwen3.8-27B。GeForce RTX、RTX PRO GPU、Windows和DGX Station支持仍在开发,Nemotron 3.5 Lightning微调版也尚未推出。

专题还称,270亿参数的Qwen3.8-27B面向本地编程、工具调用及项目上下文处理,可通过llama.cpp、Ollama、Unsloth和LM Studio Bionic使用。在配备Intel Core Ultra 9 285K、64GB内存、Windows 11及GeForce RTX 5090的系统上,采用Q4_K_M检查点和多令牌预测时,速度达到每秒131个令牌。该结果来自指定配置与speedbench基准,不能外推为其他设备或实际项目的普遍表现。

8月11日条目还列出多种开放模型与工具:Cosmos 3 Edge面向机器人、自动驾驶和视觉AI;MiniMax-H3可生成视频及同步立体声音频;Laguna S 2.1是智能体编程模型;DeepSeek-V4-Flash可借助社区GGUF版本在DGX Station运行;Inkling-Small支持文本、图像和音频推理;Unsloth Desktop则整合本地推理、微调、图像视频生成、智能体集成和代码执行。

这篇官方汇总显示,NVIDIA正以硬件支持、推理优化和开发生态连接多类本地AI项目。不过,文章未披露用户规模、企业采用率、收入贡献或生产环境成效,也没有独立第三方测试。因此,它能确认产品发布、兼容范围和厂商测试条件,却不足以证明相关模型与应用已经广泛部署,或上述性能可在不同工作负载中稳定复现。