Veea объявила о запуске своего ПО для агентов ИИ на серверах NVIDIA Jetson и x86

Текст статьи доступен на языке оригинала.
Нажмите кнопку «Перевести статью» выше, чтобы сгенерировать перевод с помощью ИИ.
Технические детали обнаружения, сопоставления и связывания статьи
«Veea запуск ПО для агентов ИИ на серверах NVIDIA Jetson и x86»
Разбираем самостоятельный хостинг AI-приложений на Jetson Orin Nano: от установки до безопасности. Узнайте, как запустить Ollama и защитить сервер.
Поговорим про установку среды, загрузку модели и ее запуск. А как именно ее потом использовать - подключать как агента, крутить на своем сервере или просто общаться в чате - решать уже вам. Программ для запуска ИИ на своем железе много. Вот три самых популярных варианта:
Поскольку у нас почти всё живёт в Docker, задача свелась к тому, чтобы выполнить docker ps, вытащить список контейнеров, их образы и порты, и записать это в JSON.
Компания NVIDIA объявила о расширении семейства вычислительных модулей Jetson Thor: дебютировали изделия T2000 и T3000, предназначенные для создания робототехнических систем и запуска ИИ-приложений на периферии сети. Обе новинки построены на архитектуре Blackwell.
Работа с CUDA сегодня — фактически предпосылка для AI: на ней работает экосистема фреймворков, и именно поэтому Jetson тянет нейросетевой инференс там, где обычная плата захлёбывается.
Отдельно я экспериментировал с видео: собирали ролики про XelaGroup, AI-агентов, визуальный образ XelaBot, озвучку, сцены, переходы и русские панели в интерфейсе.
Локальные нейросети (для запуска на своём железе) | Здесь обсуждается возможность запуска локальных нейросетей на различном железе: от тв приставок до игровых пк
Мы расскажем о ключевых компонентах сервера для ИИ, объясним, в чем особенность платформ для ИИ, покажем, как выбирать «железо» для запуска нейросетей и дадим несколько примеров ...