Un pas supplémentaire vient d’être franchi dans cette révolution technologique en cours.
Guide NVIDIA SkillSpector : analyse des compétences en IA pour détecter les risques de sécurité à l’aide de l’analyse statique et des rapports SARIF
Dans ce tutoriel, nous allons découvrir comment NVIDIA SkillSpector nous aide à évaluer les risques de sécurité liés aux compétences d’IA avant leur utilisation dans des flux de travail réels. Nous allons créer un corpus contrôlé contenant à la fois des compétences inoffensives et d’autres délibérément vulnérables, les analyser à l’aide du flux de travail programmatique LangGraph de SkillSpector, puis organiser les scores de risque et les retombées obtenus à l’aide de pandas. Nous visualisons ensuite les distributions de gravité et de catégorie, exportons les résultats au format SARIF, étendons le cadre avec un analyseur personnalisé et, si nécessaire, appliquons une analyse sémantique basée sur un modèle de langage de grande envergure (LLM) pour une validation plus approfondie.
Précisons, nous installons SkillSpector et ses bibliothèques associées avant de préparer un répertoire de travail vierge pour le tutoriel. Nous créons quatre compétences de démonstration représentant respectivement un comportement sûr, l’exfiltration de variables d’environnement, l’exécution de code dynamique et l’injection d’invite. Nous utilisons ces exemples contrôlés pour constituer un corpus varié permettant d’évaluer les capacités de détection des failles de sécurité de SkillSpector.
Nous utilisons ces exemples contrôlés pour constituer un corpus varié permettant d’évaluer les capacités de détection des failles de sécurité de SkillSpector.
Nous définissons des fonctions d’aide qui convertissent les résultats en dictionnaires et lancent le workflow LangGraph de SkillSpector, une fois compilé. Nous configurons le scanner pour qu’il prenne en charge plusieurs formats de sortie et supprime les répertoires temporaires après chaque analyse. Nous analysons ensuite la compétence « environment-harvesting » et examinons son rapport, son score de risque, son niveau de gravité et ses recommandations.
Parallèlement, nous analysons chaque compétence du corpus et organisons les informations agrégées sur les risques ainsi que les résultats individuels dans des DataFrames pandas. Nous examinons la répartition des résultats par catégorie et par niveau de gravité afin de comprendre les menaces détectées dans l’ensemble du corpus. Nous visualisons les scores de risque, le nombre de cas par niveau de gravité et les principales catégories de résultats sur un tableau de bord, que nous enregistrons également sous forme d’image.
Nous exportons les résultats relatifs à la compétence d’exécution dynamique de code sous la forme d’un rapport SARIF 2.1.0 compatible avec les systèmes CI/CD et les outils de développement. Nous étendons ensuite SkillSpector en enregistrant un analyseur personnalisé qui détecte les occurrences du mot « mot de passe » dans le contenu de la compétence. Nous reconstruisons le graphe d’analyse, analysons une dernière compétence de démonstration et vérifions que notre règle CUSTOM1 produit le résultat attendu.
Autre élément, nous vérifions le fournisseur SkillSpector sélectionné et déterminons si la clé API correspondante est disponible dans l’environnement. Nous exécutons l’analyse sémantique LLM (facultative) sur la compétence d’extraction de informations de l’environnement lorsque des identifiants valides sont présents. Nous comparons les résultats statiques et ceux filtrés par le LLM, ou nous sautons cette étape en douceur lorsqu’aucune clé API n’est configurée.
En conclusion, nous avons développé un workflow de bout en bout pour l’audit des compétences en IA, reposant sur l’analyse statique, la génération de rapports structurés, la visualisation et une logique de détection personnalisée. Nous avons pu constater comment SkillSpector identifie les menaces telles que l’exfiltration d’identifiants, l’exécution de code non sécurisé, l’injection de prompts et la fuite de prompts mécanisme, tout en produisant des résultats que nous pouvons intégrer dans nos processus de sécurité et de CI/CD. Nous avons également appris à étendre son graphique d’analyse avec nos propres règles et à enrichir les retombées statiques grâce à un passage sémantique optionnel via un modèle de langage de grande capacité (LLM), ce qui nous offre une base flexible pour créer des écosystèmes de compétences plus sûrs.
Vous souhaitez collaborer avec nous pour promouvoir votre dépôt GitHub, votre page Hugging Face, le sortie d’un produit, un webinaire, etc. ? Contactez-nous.
L’avenir dira si cette annonce tient toutes ses promesses.
Pour aller plus loin :
- Des agents de programmation basés sur l’IA ont appris à des robots à installer des GPU et à couper des attaches de serrage
- Comment créer des modèles Transformers économes en mémoire avec xFormers à l’aide de séquences compactées, de GQA, d’ALiBi, de SwiGLU et de l’attention causale
Couverture originale : MarkTechPost : MarkTechPost