L’écosystème de l’intelligence artificielle continue sa progression à un rythme soutenu.
Un survivant d’une fusillade dans une école poursuit en justice une entreprise spécialisée dans la détection d’armes à feu par IA, le mécanisme n’ayant pas repéré l’arme
L’adolescent blessé qui a survécu à la fusillade survenue en janvier 2025 dans un lycée de Nashville, dans le Tennessee, a récemment intenté un procès contre le fabricant d’un dispositif de « détection d’armes à feu par IA » qui n’a pas détecté l’arme de poing ayant causé la mort de deux personnes, dont le tireur.
Selon la plainte, déposée le mois dernier devant le tribunal du comté de Davidson, la société de sécurité Omnilert savait ou aurait dû savoir qu’il existait « d’importantes limites opérationnelles dans son mécanisme de détection d’armes à feu, susceptibles d’entraîner des défaillances de détection lors de situations d’urgence réelles, notamment des limites liées à l’emplacement des caméras, à la proximité de l’arme par rapport aux capteurs des caméras, à l’angle de prise de vue, à l’éclairage et à la visibilité de l’arme.»
D’un autre côté, ara Bagdasarian, cofondateur d’Omnilert, a décliné l’invitation d’Ars à répondre à des questions concernant le procès. System Integrations, l’autre partie défenderesse dans cette affaire, qui revendait le système Omnilert, n’a pas non plus répondu à la demande de commentaires d’Ars.
En 2023, le conseil d’administration des écoles publiques métropolitaines de Nashville (MNPS) a approuvé un contrat d’une valeur de plus d’un million de dollars visant à mettre en place un système de détection par intelligence artificielle sur l’ensemble de son réseau de caméras et de ses infrastructures de sécurité à l’échelle du district.
Sean Braisted, porte-parole du MNPS, a déclaré lors d’une conférence de presse organisée à la suite de la fusillade de janvier 2025 qu’en raison de la position du tireur par rapport aux caméras, les images « n’étaient pas suffisamment nettes pour permettre une identification précise et déclencher l’alarme ».
Notons par ailleurs, la plainte cite fréquemment des extraits des textes promotionnels figurant sur le site web d’Omnilert (tels qu’ils ont été archivés sur Internet Archive quelques jours avant la fusillade), alléguant que l’entreprise a exagéré ses capacités :
Ce développement s’ajoute à une longue série d’évolutions dans le secteur.
Pour aller plus loin :
- Le maire de Shelbyville, dans l’Indiana, affirme que seules les personnes qui vivent dans des « maisons minables » s’opposent au centre de données
- Meta a créé son propre fil d’actualité généré par l’IA et conçu pour attirer les clics
Couverture originale : Ars Technica AI : Ars Technica AI