Nvidia выводит генеративный ИИ на новый уровень на ПК с RTX

Благодаря интеграции TensorRT для RTX и Windows ML компания NVIDIA производит революцию в экосистеме ИИ в Windows 11 благодаря ускоренной производительности, готовым моделям, инструментам без написания кода и поддержке разработчиков, упрощая внедрение генеративного ИИ на более чем 100 миллионах ПК с RTX.

Генеративный ИИ меняет подход к программному обеспечению ПК, предлагая широкий спектр возможностей: от интеллектуальных помощников до создания контента и взаимодействия с помощью цифровых аватаров. В основе этой трансформации лежат ПК с графическими процессорами NVIDIA RTX, разработанными для обеспечения высокой производительности и более легкого доступа к технологиям ИИ в Windows 11. На конференции Microsoft Build компания NVIDIA представила новую версию TensorRT для RTX — оптимизированную библиотеку, которая позволяет оперативно выполнять модели ИИ непосредственно на устройстве, значительно сокращая размер пакета и повышая производительность. Этот выпуск, изначально интегрированный с Windows ML, позволяет разработчикам более гибко развертывать приложения ИИ с расширенной совместимостью с оборудованием, используя инфраструктуру ONNX Runtime для автоматической оптимизации выполнения на наиболее подходящих компонентах, будь то графический процессор, центральный процессор или нейронный процессор.

Платформа TensorRT для RTX обеспечивает производительность до 50% выше, чем DirectML при выполнении задач ИИ, обеспечивая динамическую оптимизацию моделей на основе графического процессора RTX пользователя и непрерывные обновления без необходимости включения файлов в приложения. NVIDIA также расширила свою программную экосистему, выпустив ряд специализированных SDK, разработанных для реализации расширенных возможностей в областях рендеринга, мультимедиа и генеративного ИИ. К приложениям, которые недавно внедрили или обновили эти технологии, относятся Autodesk VRED, Chaos Enscape, LM Studio, Topaz Labs и Bilibili, каждое из которых работает над улучшением графической производительности или аудиовизуального качества с помощью ускорения графического процессора и фирменных инструментов, таких как DLSS, CUDA и RTX Video.

Чтобы упростить внедрение ИИ даже для самых начинающих пользователей, NVIDIA представила микросервисы NIM — контейнеризированные пакеты, включающие модели ИИ, уже оптимизированные для графических процессоров RTX. Эти шаблоны доступны для прямой интеграции в такие инструменты, как Microsoft Visual Studio Code, ComfyUI и AnythingLLM. Одним из примеров является новая модель генерации изображений FLUX.1-schnell, разработанная для обеспечения высокой производительности и развернутая в качестве микросервиса NIM во время Computex. Совместимость также расширена на серии GeForce RTX 50 и 40, а на графических процессорах Blackwell производительность увеличена более чем вдвое по сравнению с традиционными методами благодаря комбинированному использованию формата FP4 и оптимизаций, специфичных для RTX.

Для поддержки быстрой разработки NVIDIA также предлагает так называемые «AI Blueprints»: демонстрационные проекты с открытым исходным кодом, демонстрирующие готовые к использованию рабочие процессы ИИ. Среди них выделяется система генерации изображений на основе 3D-сцены, полезная для управления композицией и углом визуального вывода. Другая часть инициативы касается Project G-Assist — помощника на основе искусственного интеллекта, интегрированного в приложение NVIDIA и призванного упростить взаимодействие с системой посредством голосовых и текстовых команд. G-Assist позволяет не только управлять вашей системой RTX, но и создавать пользовательские плагины для управления периферийными устройствами и приложениями. Среда разработки, также доступная в режиме без написания кода через конструктор на основе ChatGPT, позволяет быстро создавать расширения ИИ, например, для Spotify, Discord, Twitch или IFTTT, общедоступные на GitHub. Наконец, G-Assist вскоре можно будет интегрировать в Langflow — платформу для создания агентов ИИ с минимальным кодированием, что еще больше расширит возможности настройки ИИ на ПК.