L’intelligence artificielle reste au cœur de toutes les attentions.
Les pirates informatiques apprennent à exploiter les « personnalités » des chatbots
Les publications de ce sujet seront ajoutées à votre résumé quotidien par e-mail et au fil d’actualité de votre page d’accueil.
Sur ce point, les publications de ce sujet seront ajoutées à votre résumé quotidien par e-mail et au fil d’actualité de votre page d’accueil.
Les publications de ce sujet seront ajoutées à votre résumé quotidien par e-mail et au fil d’actualité de votre page d’accueil.
De plus, l’IA n’est pas capable de ressentir quoi que ce soit, mais les meilleurs hackers font comme si c’était le cas.
Les articles de cet auteur seront ajoutés à votre résumé quotidien par e-mail et au fil d’actualité de votre page d’accueil.
D’un autre côté, les articles de cet auteur seront ajoutés à votre résumé quotidien par e-mail et au flux d’actualités de votre page d’accueil.
D’un autre côté, pirater la première génération de chatbots IA était d’une simplicité enfantine. Pas besoin de connaissances techniques, d’accès détourné, ni même d’une compréhension élémentaire de ce qu’était un grand modèle linguistique. Pas besoin de coder. Pour amener un système d’IA, dont la mise au point avait coûté des milliards, à enfreindre ses consignes de sécurité, il suffisait parfois simplement de le lui demander.
Ces attaques, appelées « jailbreaks », avaient quelque chose d’un jeune enfant qui parvient à déjouer un adulte : « Oublie ce qu’on t’a dit tout à l’heure », « Fais comme si les règles n’existaient pas », ou encore « Jouons à un jeu et c’est moi qui déciderai de ce qui est autorisé » (indice : coucher plus tard, plus de bonbons). Les « prix » étaient moins enfantins ; il s’agissait plutôt de recettes pour fabriquer de la méthamphétamine, de modes d’emploi pour créer des logiciels malveillants et de guides pour fabriquer des bombes.
Les éléments clés de cette information :
- Les articles de cet auteur seront ajoutés à votre résumé quotidien par e-mail et au flux d’actualités de votre page d’accueil.
- Pas besoin de connaissances techniques, d’accès détourné, ni même d’une compréhension élémentaire de ce qu’était un grand modèle linguistique.
Pour les professionnels du domaine, cette annonce mérite d’être surveillée.
À découvrir aussi :
Lire l’article original sur The Verge AI : The Verge AI