Selon le fabricant américain de puces, cette plateforme est conçue pour contrôler les ressources auxquelles un agent peut accéder et l’isoler en quelques millisecondes s’il dépasse les limites autorisées.
Nvidia déploie une plateforme de sécurité pour les agents d’intelligence artificielle (IA) avec laquelle collaborent plus de 100 organisations, dont Anthropic, SpaceXAI et JPMorgan Chase.
Baptisée Nvidia Open Agent Safety Platform, elle est conçue pour définir des limites d’accès pour les agents et les placer en quarantaine en quelques millisecondes s’ils les dépassent, d’après un communiqué du fabricant américain.
La plateforme est compatible avec les logiciels et le matériel, ainsi qu’avec les systèmes de calcul et de robotique exécutant des agents.
« Le potentiel extraordinaire de l’IA pour la société ne se concrétisera que si nous garantissons sa sécurité », a déclaré Jensen Huang, PDG et fondateur de Nvidia.
La plateforme est conçue pour contrôler les ressources auxquelles un agent peut accéder et l’isoler en quelques millisecondes s’il dépasse les limites fixées, selon le fabricant américain de puces.
Nvidia déploie une plateforme de sécurité pour les agents d’intelligence artificielle (IA) avec laquelle collaborent plus de 100 organisations, dont Anthropic, SpaceXAI et JPMorgan Chase.
Baptisée Nvidia Open Agent Safety Platform, elle est conçue pour définir des limites d’accès pour les agents et les placer en quarantaine en quelques millisecondes s’ils les dépassent, d’après une annonce du fabricant américain.
La plateforme est compatible avec les logiciels et le matériel, ainsi qu’avec les systèmes de calcul et de robotique exécutant des agents.
« Le potentiel extraordinaire de l’IA pour la société ne se concrétisera que si nous garantissons sa sécurité », a déclaré Jensen Huang, PDG et fondateur de Nvidia.
« Alors que nous continuons d’explorer les frontières des capacités de l’IA, nous devons accélérer nos recherches sur sa sécurité… Ensemble, nous pouvons rehausser les normes de sécurité mondiales pour l’IA. »
La plateforme de sécurité Open Agent de Nvidia comprend deux outils : OpenShell et Sentry.
OpenShell s’exécute sur les unités centrales de traitement (CPU), les puces qui gèrent la plupart des tâches nécessaires au fonctionnement des agents d’IA. Nvidia indique que le système fonctionne efficacement sur Vera, son dernier processeur conçu pour les agents d’IA, et qu’il peut également être adapté aux puces d’autres fabricants.
Sentry est un système de surveillance supplémentaire destiné à fonctionner sur une puce Nvidia distincte, afin de détecter les agents qui parviendraient à contourner les contrôles logiciels.
Selon Nvidia, les organisations qui collaborent avec l’entreprise utilisent ou développent cette technologie de différentes manières.
Leave a comment