编者注:本文属于《解码 AI》系列栏目,该系列的目的是让技术更加简单易懂,从而解密 AI,同时向 RTX PC 用户展示全新硬件、软件、工具和加速特性。
NVIDIA 的 RTX AI 平台包括工具和软件开发工具包,可帮助 Windows 开发人员创建领先的生成式AI功能,并令AI PC和工作站上能提供最佳性能支持。
在 GTC 大会 (NVIDIA 年度技术会议) 上,一支由业内杰出人士、开发者和研究人员组成的“梦之队”齐聚一堂,以期互相取经,携手推动 AI 和加速计算领域的发展。
《解码 AI》的 GTC 大会特别版重点介绍了现已推出的数款出色 AI 工具,更向 1 亿 RTX PC 和工作站用户及开发者展示了值得期待的前景。
作为一个技术演示程序和供开发者参考的项目,Chat with RTX 可令用户能轻松快速地将功能强大的LLM链接到自己的数据。在GTC的展厅中,您可以看到该软件集成了更多模型,提供了更多功能
NVIDIA NIM 推理微服务即将登陆 RTX PC 和工作站,他们提供预构建的容器,配备行业标准的 API,使开发人员能够在 RTX PC和工作站上加速部署。NVIDIA AI Workbench 是一款易于使用的开发者工具包,可用于管理 AI 模型定制和优化工作流。该工具包现已向 RTX 开发者全面推出。
这些生态系统集成和工具可加速全新 Windows 应用和功能的开发。今天的这些大赛获奖者,让我们对未来有了更多期待,这真是振奋人心!
除了目前对文本的支持外,ChatRTX 很快还会添加对语音、图像和新模型的支持。
Whisper 是一种 AI 自动语音语言识别系统,用户将能够通过它与 ChatRTX 进行交谈。在该功能推出后,ChatRTX 将能够“理解”口述语言并以文本提供回应。
作品评选采用了三项标准,包括在社交媒体上发布的简短演示视频、项目产生的影响及其易用性,以及项目对 NVIDIA 技术堆栈的有效使用率。大赛的三名获奖者均获得了 GTC 通行证(其中包括 NVIDIA 深度学习培训中心生成式 AI/LLM 课程的名额),以及用于支持后续开发工作的 GeForce RTX 4090 GPU。
Rocket League BotChat 是热门游戏“火箭联盟 (Rocket League)”的一个插件,该插件让机器人玩家能够根据游戏事件日志(例如进球或扑救)在游戏内发送与上下文相关的聊天消息。该插件只能用于与机器人玩家对抗的离线游戏模式,用户可通过设置菜单对其进行多种配置。
“我发现,如果与玩家对抗的机器人玩家能够以近乎实时的方式使用游戏内消息对游戏事件作出回应,玩家可以获得更多游戏乐趣。此外,我很高兴能以本次开发者大赛参赛者的身份与大家分享我将 AI 融入游戏的方法。希望我的项目可以造福所有使用 RTX 硬件的火箭联盟 (Rocket League)玩家。”
CLARA (“使用 RTX 加速的命令行助手”的简称) 旨在将简单的英语指令转换为可操作的命令,从而优化 PowerShell 的命令行界面。该扩展程序可在本地快速运行,且始终令用户处于其上下文环境中。启用 CLARA 后,用户输入英文指令并按 Tab 键即可调用 CLARA。CLARA 的安装非常简单,用户还可以选择使用脚本或手动对其进行设置。
GTC 大会与会人员可于 3 月 20 日(星期三)参加在生成式 AI 剧场举办的三场《解码 AI》讲座。这些时长 15 分钟左右的讲座将涉及以下内容:引导观众了解 ChatRTX 以及开发者产品化自己的个性聊天机器人;三名大赛获奖者将分别展示在 RTX 系统上开发生成式 AI 应用;鉴赏NVIDIA 技术如何通过全新工具和方式方法来帮助艺术家。
Anadol还将在现场做演示,该演示既包含了可视化数据,更有基于这些数据创建的图像。
NVIDIA 正在和国内深受用户喜爱的剪辑软件剪映专业版共同探索推进生成式 AI 在 PC 端的落地。目前,NVIDIA 已通过 TensorRT 推动剪映 AI 艺术字功能上线,并正在通过 RTX AI 平台加速生成式 AI 在剪映产品功能中的应用。
剪映产品经理表示:“长期以来剪映和NVIDIA一直都是非常紧密的合作伙伴,在 RTX GPU 的加速下剪映专业版可以实现更高的性能表现。我们期待 RTX AI PC 强大的性能表现以及加速优化对 AI 模型的处理能力能帮助剪映的用户更高效、智能地进行创作。”
开发者可充分利用 NIM 微服务这些配备了行业标准 API 的预构建AI容器,提供了优化过的解决方案,有助于将部署时间从几周缩短到几分钟这些“容器”可与 来自 NVIDIA、Getty Images、Google、Meta、Microsoft、Shutterstock 等公司的超过二十款热门模型一起使用。
NVIDIA AI Workbench 现已就绪,可帮助开发者快速创建、测试和自定义预训练的生成式 AI 模型和 LLM,而这只需要PC级的性能和内存占用即可实现开发者可通过 NVIDIA AI Workbench 简化对 Hugging Face、GitHub 和 NVIDIA NGC 等热门存储库的访问,并且能够通过简化的用户界面轻松地再现和迁移项目,以及进行项目协作。
当有额外的性能需求时,项目还可轻松扩展(无论是到数据中心、公有云还是 NVIDIA DGX),然后再将其带回本地 RTX 系统,用于推理和轻量化定制 AI Workbench 免费下载,他同时提供了示例项目以帮助开发者快速入门上述及GTC 大会上公布和展示的许多其他工具,将助力开发者创新AI 解决方案。
从 Blackwell 平台的发布,到适用于地球气候研究的数字孪生,各种精彩内容使这届 GTC 大会令人难忘。RTX PC 和工作站的用户及开发者,亦可通过本次大会感受到生成式AI的未来可期!CQ9传奇电子 CQ9电子
