Interprétabilité des IAs

Intervenant : Léo Dana, membre du Centre pour la Sécurité de l'IA
Le Séminaire Turing offre une introduction à la sécurité de l'intelligence artificielle, en particulier des IA génératives. Les compétences de ces systèmes ont récemment connu une croissance rapide dans des domaines tels que le langage, la création d'images photoréalistes et la programmation. Cette évolution permet aux modèles d'atteindre des objectifs de plus en plus sophistiqués, autrefois hors de portée. Ces progrès présentent des risques techniques (comment interpréter et contrôler un grand modèle de langage?) et sociaux (comment encadrer leur usage?). Ce cours, accrédité au sein de l'Union Européenne, se base sur le manuel "AI Safety Atlas" de Segerie, Grey et al., pour explorer ces enjeux et les défis à venir.
Ce séminaire se décline en deux formats : une version en petit comité, organisée au département d’informatique de l’ENS Ulm (salle Noether, 45 rue d’Ulm) les jeudis de 18h à 20h ; et une version magistrale, pour les étudiant·es du master MVA de l'ENS Paris-Saclay, les lundis de 16h30 à 18h30, à un emplacement variable.
Contact : [e-mail]