#4 - Toutes les raisons pour lesquelles nous devons craindre l'IA

Dans cette vidéo, quatrième épisode d'un cours en 8 parties pour les étudiant·es des différents masters de la HES-SO (Suisse), Richard-Emmanuel Eastes examine les problématiques complexes soulevées par l’IA et les décline en différents enjeux éthiques et sociétaux, du plus global au plus particulier.
Il commence par rappeler certains concepts fondamentaux abordés lors des cours précédents, tels que les biais algorithmiques et les failles dans la conception des IA, qui peuvent résulter en des productions stéréotypées ou en des décisions influencées par des données incomplètes. L'accent est mis sur les biais d’entraînement, l’anthropomorphisation des machines, et les effets de la diversité limitée dans les métiers du numérique. En exposant les risques liés à l’illusion de l’humanité dans les chatbots, notamment à partir de l'exemple de la pornographie en ligne, il souligne les dangers d’une surconfiance dans des systèmes conçus pour paraître humains.
Le cours explore également la non-détermination des IA, mettant en avant les défis que posent les réseaux de neurones et leur caractère partiellement opaque, soulevant ainsi des questions cruciales sur l’interprétabilité et la transparence des décisions. La scalabilité de l’IA est également abordée, avec un débat sur l’IA faible (spécifique à certaines tâches) et l’hypothétique IA forte, dotée d'une intelligence générale.
Richard-Emmanuel met en lumière le problème de l'alignement de l'IA, soulignant la nécessité de programmer ces systèmes de manière à ce qu'ils poursuivent des objectifs en accord avec les valeurs humaines, un enjeu d’autant plus critique dans la perspective de l'existence de super IA. Les implications métaphysiques et éthiques de l'IA sont également discutées, notamment en matière de justice sociale et d'impact de l’IA sur des activités humaines comme l’art et la science.
Le cours se poursuit par une analyse des enjeux techno-scientifiques et macroéconomiques de l'IA, en examinant notamment l'industrialisation de l’IA et sa dépendance aux semi-conducteurs, ainsi que les efforts des grandes entreprises pour répondre aux besoins énergétiques croissants des data centers, avec des exemples comme les investissements de Microsoft dans l’énergie nucléaire. Les impacts environnementaux de l’IA, directs et indirects, sont abordés, des effets énergétiques de l’entraînement de modèles d’IA à l'accroissement des processus d'extraction et de production de l'industrie.
Enfin, le cours met en lumière les enjeux sociaux et politiques, en abordant l’exploitation des travailleurs dans le digital labor et les risques pour la démocratie, la manipulation de l’opinion publique et l’affaiblissement des critères de vérité. Sur le plan pédagogique, Richard-Emmanuel conclut sur l’importance de garantir un accès équitable aux outils d'IA, de former les étudiant·es à leur utilisation responsable et de développer leurs capacités analytiques.
Ce cours offre ainsi des clés essentielles pour comprendre les enjeux profonds et souvent contradictoires posés par l'IA, et pour envisager ses impacts dans nos vies et nos sociétés.
Testez vos connaissances sur la vidéo avec Wooflash : app.wooflash.c...