Un esprit extraterrestre

Cette semaine apporte son nouveau chapitre dans le grand livre de l’IA.

Un esprit extraterrestre

Au milieu de l’année 2023, dans le cadre du projet de recherche « RLSlow », nous avons obtenu les premiers résultats qui nous ont convaincus que nous serions en mesure de faire évoluer à grande échelle l’entraînement des modèles de raisonnement, permettant par conséquent aux modèles pré-entraînés de développer leur propre capacité à construire des chaînes de raisonnement. Szymon et moi avons passé cette nuit-là au bureau, non pas à réfléchir aux chiffres de référence incroyables, aux produits ou aux résultats scientifiques que cette technologie permettra d’obtenir, toutefois plutôt à essayer d’assimiler cette réalité qui donne à réfléchir : nous verrons effectivement, de notre vivant, des machines nettement plus intelligentes que nous, et nous entrevoyons déjà la forme que prendront ces systèmes ; en nous demandant comment sensibiliser les gens à l’importance de cette évolution.

Trois ans plus tard, les modèles linguistiques dotés de capacités de raisonnement constituent un segment de l’économie en pleine expansion et commencent à repousser les limites de la science. Ils sont capables de faire fonctionner des ordinateurs et des interfaces graphiques, de collaborer avec des humains et entre eux, et de mener à bien des projets de travaux de recherche. Elles sont aussi en train de bouleverser le paysage de la sécurité informatique, ce qui fait naître de nouveaux dangers évidents.

De nombreuses nouvelles recherches ont été menées au cours de cette période, et notre compréhension de ces systèmes a encore légèrement évolué par rapport à ce qu’elle était en 2023. D’après nos résultats internes, je suis convaincu que ce rythme de progrès pourrait se maintenir et déboucher sur une auto-amélioration récursive. Si le progression de l’IA se poursuit sur sa lancée actuelle, les systèmes qui verront le jour dans les prochaines années devraient connaître de nouveaux bonds en avant d’une ampleur égale, voire supérieure, et contribueront de plus en plus à leur propre progression.

La situation actuelle exige la plus grande prudence. Je crains que personne ne soit préparé aux conséquences d’une progression rapide et continue de l’intelligence artificielle. OpenAI continuera à rechercher des solutions techniques en matière d’alignement et de surveillance, à mettre en place des systèmes de défense et à suspendre unilatéralement toute dernière expansion si nécessaire ; toutefois, je pense que des interventions de plus grande envergure s’imposent.

Il faut souligner, d’un point de vue général, les progrès en matière d’intelligence artificielle sont portés par l’augmentation de la puissance de calcul. Chez OpenAI, nous en avons pris pleinement conscience vers 2017, après avoir constaté que l’augmentation de l’échelle de calcul produisait systématiquement des résultats positifs dans de multiples projets de recherche¹. En conséquence, nous avons cherché à disposer d’une puissance de calcul bien supérieure à celle que nous avions initialement prévue, et nous avons de plus en plus orienté nos recherches vers un petit nombre de pistes offrant un fort potentiel d’évolutivité. Nous étions convaincus que c’était là le seul moyen pour nous d’être à la pointe de la recherche en IA et d’influencer les répercussions de l’IA générale.

De nouveaux algorithmes ont été développés au fil du temps, fruits de l’ingéniosité des équipes et des chercheurs individuels. Je les considère pour l’essentiel comme des découvertes sur la voie de la mise à l’échelle ; la science de l’apprentissage profond en est encore à ses balbutiements, et les progrès algorithmiques significatifs sont généralement liés à l’accès à la puissance de calcul. Si l’on prend du recul pour considérer un horizon de divers années, on constate que l’IA ne cesse de gagner en intelligence à mesure qu’elle est déployée sur des ordinateurs de plus en plus puissants.

Les éléments clés de cette information :

Je crains que personne ne soit préparé aux conséquences d’une progression rapide et continue de l’intelligence artificielle.
D’un point de vue général, les progrès en matière d’intelligence artificielle sont portés par l’augmentation de la puissance de calcul.
De nouveaux algorithmes ont été développés au fil du temps, fruits de l’ingéniosité des équipes et des chercheurs individuels.

Le contexte technologique évolue, et ce type d’annonce en témoigne.

À lire également :

Via OpenAI : OpenAI