Дженсен Хуанг и более 100 партнеров представили NVIDIA Open Agent Safety Platform
Дженсен Хуанг совместно с более чем 100 партнерами анонсировал NVIDIA Open Agent Safety Platform. Это система для контроля и ограничения ИИ-агентов, которая отслеживает их работу на программном и аппаратном уровнях.
Платформа технически состоит из двух компонентов, первым из которых является OpenShell. Это открытый рантайм с лицензией Apache 2.0, запускающий агента в песочнице с изоляцией на уровне ядра. Оператор заранее описывает доступ агента к файлам, сетям, инструментам и учетным данным, а система принудительно проверяет эту политику до запуска и во время работы.
Второй компонент под названием Sentry представляет собой независимый слой контроля, работающий на DPU BlueField-4. Он собирает данные о действиях агента, фиксирует попытки отхода от задачи и проверяет соответствие выданным полномочиям. Поскольку BlueField-4 находится на единственном пути между узлом и моделью, DPU отслеживает все обращения и может прервать работу в реальном времени, оставаясь изолированным от хоста и вне досягаемости агента.
Программное обеспечение платформы будет открытым, а стандарт безопасности декларируется как общий. Лучше всего система работает на аппаратном обеспечении NVIDIA. В число партнеров вошли Anthropic, SpaceX, HuggingFace, Perplexity и другие компании, тогда как OpenAI к участию не привлекли.
Добавить комментарий