Voici une annonce qui mérite l’attention des observateurs du secteur.
Google DeepMind lance un institut pour élargir le débat sur l’IA générale (AGI) | TechCrunch
Les chercheurs de Google et de Google DeepMind ont inauguré mercredi le DeepMind Institute afin de faire avancer le débat sur l’intelligence artificielle générale (AGI). L’institut compte parmi ses administrateurs Shane Legg, cofondateur de DeepMind, James Manyika, cadre chez Google, et Demis Hassabis, président de Google DeepMind, Shane Legg occupant le poste de rédacteur en chef.
Ce nouvel institut a pour objectif de mettre en lumière les divergences de points de vue entre Google, Google DeepMind et la communauté scientifique mondiale au sujet de l’IA générale (AGI). « Ils ne seront pas toujours d’accord et changeront probablement d’avis à mesure que de nouvelles informations et informations seront mises au jour dans ce domaine en constante évolution », peut-on lire dans le communiqué.
Ce premier recueil, composé de quatre essais, aborde divers sujets : les politiques économiques visant à gérer les perturbations potentielles liées à l’IA générale (AGI), la préservation d’un raisonnement des modèles compréhensible par l’humain, les principes favorisant l’épanouissement humain, ainsi qu’un cadre d’évaluation des modèles d’IA de pointe.
Un essai, rédigé par Rohin Shah et Anca Dragan, scientifiques en sécurité chez DeepMind, soutient que la diminution de la « fenêtre de transparence » de l’IA — c’est-à-dire la capacité à observer et à vérifier le raisonnement étape par étape d’un modèle — n’est pas inévitable. Alors que les nouvelles architectures rendent les modèles les plus puissants plus difficiles à surveiller, les auteurs estiment que les développeurs et les régulateurs devraient aborder de front les compromis en matière de sécurité. Cela pourrait impliquer de limiter la « profondeur séquentielle opaque » — c’est-à-dire le nombre de calculs séquentiels qu’un modèle peut effectuer sans produire une trace de raisonnement lisible — ou d’exiger des développeurs qu’ils démontrent que les systèmes moins transparents restent tout aussi contrôlables.
Dans un autre essai, Hassabis propose la création d’un organisme de normalisation de l’IA de pointe, dirigé par les États-Unis, chargé d’évaluer les modèles d’IA les plus avancés. Selon son cadre, les développeuses et développeurs soumettraient dans un premier temps leurs modèles à l’examen de manière volontaire, jusqu’à 30 jours avant leur mise sur le marché. Une fois l’efficacité du système d’évaluation démontrée, la réussite de ces tests pourrait devenir une condition préalable au déploiement de modèles de pointe aux États-Unis.
Dans un premier temps, cet organisme concevrait des évaluations en concertation avec les entreprises spécialisées dans l’IA, mais finirait par mettre au point des évaluations indépendantes et non divulguées — ce que l’essai qualifie de « tests de validation » — afin d’empêcher les laboratoires d’adapter leurs modèles à des évaluations connues. M. Hassabis a déclaré que ce cadre pourrait être « renforcé si la gravité de la situation l’exigeait », ce qui pourrait notamment inclure un ralentissement coordonné des activités des développeurs d’IA de pointe.
Ces essais interviennent alors que le débat sur la sécurité dans ce secteur évolue : on passe de déclarations générales exprimant des inquiétudes à des propositions concrètes en matière de transparence, de contrôle externe et, en cas de défaillance des mesures de sécurité, de ralentissement coordonné. Cette évolution s’est accélérée cette semaine, lorsque les dirigeants du segment ont approuvé certains éléments de l’appel lancé par Dario Amodei, PDG d’Anthropic, en faveur d’un « ralentissement » du développement de l’IA de pointe.
L’avenir dira si cette annonce tient toutes ses promesses.
Pour aller plus loin :
- Exclusivité : investir dans des modèles d’IA de pointe permet de gagner 4 mois d’avance, pour un coût cinq fois plus élevé
- Ce qu’en disent les dirigeants d’entreprise et les responsables politiques au sujet du ralentissement du développement de l’IA
- Jensen Huang, PDG de Nvidia, déclare à Trump : « Nous ne laisserons pas [un ralentissement dans le domaine de l’IA] se produire » | TechCrunch
Lire l’article original sur TechCrunch AI : TechCrunch AI