Les dernières heures ont apporté leur lot d’informations dans l’écosystème IA.
Que se passe-t-il lorsqu’un dépôt de modèles de confiance change ? Unsloth Studio procède à une dernière vérification avant l’exécution
Les mesures de sécurité d’Unsloth s’appuient sur les résultats des analyses de Hugging Face et associent la validation du code du modèle au code lui-même, en inspectant le contenu des paquets afin de vérifier l’exécution des outils.
En complément, les workflows d’IA locaux s’appuient fortement sur des plateformes de modèles externes et des dépendances de code, ce qui engendre des défis de sécurité spécifiques lors de l’exécution locale de fichiers open source non vérifiés. Pour remédier à ces vulnérabilités, les plateformes de gestion de modèles pour ordinateurs de bureau, telles qu’Unsloth Studio, associent l’intégration de référentiels à une analyse automatisée comportant plusieurs points de contrôle, afin de sécuriser les environnements d’exécution sans nécessiter de configuration manuelle.
Un cas récent illustre bien ce risque : un programme de vol d’informations dissimulé dans un dépôt Hugging Face. Hugging Face, plateforme de référence pour le téléchargement et le partage de modèles, hébergeait à son insu un dépôt contenant un voleur d’informations. Ce dépôt se faisait passer pour la version du Privacy Filter d’OpenAI et en copiait la fiche de modèle presque mot pour mot. Son fichier loader.py récupérait et exécutait un voleur d’informations sous Windows. Le dépôt s’est ensuite hissé à la première place du classement des tendances et affichait environ 244 000 téléchargements, des chiffres qui, selon HiddenLayer, étaient très certainement gonflés.
Cet épisode montre pourquoi les vérifications au moment du chargement sont importantes.
Dès ses débuts, cette application de bureau a su tirer parti des dernières avancées en matière de logiciels libres et s’adapter rapidement à des environnements en constante évolution. Unsloth a mis en place des protocoles visant à garantir une sécurité optimale à ses utilisateurs finaux. Après de multiples versions successives, à l’occasion de la prochaine « Open Source AI Week », Unsloth a publié une présentation générale de la sécurité d’Unsloth Studio et d’Unsloth Desktop, expliquant dans les grandes lignes le fonctionnement de leur mécanisme de sécurité.
Bien que l’application de bureau privilégie la sécurité lors du réglage fin des environnements, les utilisateurs finaux disposent toujours d’un large choix de modèles. Le fonctionnement du système de sécurité Unsloth est le suivant : lorsqu’un workflow passe de la phase de téléchargement à celle d’exécution, il déclenche un processus comportant quatre points de contrôle : l’approbation du code liée à son empreinte numérique, un filtrage distinct des fichiers volumineux, des sandbox du système d’exploitation soumises à des tests et une analyse obligatoire du contenu des paquets. Ces protocoles ont été mis en place à des fins de protection en venant compléter les contrôles existants plutôt qu’en les remplaçant ; les utilisateurs peuvent de cette manière conserver leurs analyses préventives, leurs révisions verrouillées, leurs limites réseau et leurs identifiants à portée restreinte tout en tirant parti de ces vérifications. Prise isolément, chaque tâche remplit une fonction différente dans la structure de sécurité en couches.
Difficile à ce stade de prédire tous les impacts de cette annonce.
Pour aller plus loin :
D’après MarkTechPost : MarkTechPost