La parole est aux speakers : Vincent Bontems

Jusqu’au Forum PHP 2024, retrouvez nos interviews de speakers pour mieux comprendre leur parcours et le sujet qu’ils ou elles aborderont lors de leur conférence !

La conférence

En tant qu’auteur de livres et d’articles, est-ce que toutes les inquiétudes liées à l’IA par rapport à la création artistique (par ex, qu’elle puisse générer des images, des paroles de chanson, des textes) vous semblent justifiées ?

Du point de vue économique, surtout tant que continuera le dumping des promoteurs de cette technologie, il est évident que la génération artificielle de textes et, surtout, d’images, représente une menace importante pour des professions artistiques souvent déjà précaires. D’une manière générale, il faut s’attendre à une baisse de crédibilité des textes et des images circulant dans la cybersphère et à la mise en place de nouveaux systèmes d’authentification et de traçabilité. En outre, la pression inflationniste des moulins-à-articles s’exerce dans de nombreux champs scientifiques et entraînera à moyen-terme des risques de corruption des bases de données. Le programme SPREADS (Scenarios of Potential Risks Evolution through Algorithms and Data in Sciences) financé par l’Agence de l’Innovation de Défense (AID) auquel je participe est justement conçu pour explorer ces risques. En allant un pas plus loin, on peut se demander quelles seront les conséquences de l’introduction des IA dans les processus de décision des entreprises et des institutions. Faut-il, comme le prédisait déjà l’auteur de science-fiction polonais Stanislaw Lem dans son Encyclopedia Technologiae en 1964, s’attendre à un nouveau système de gouvernance fondé sur des processus de décision effectués par des boites noires ? Le rôle des IA est cependant amené à s’accroître du fait de la nécessité de gérer des systèmes de plus en plus complexes.

Dans les oeuvres de science-fiction, l’IA est souvent opposée à l’humain, que ça soit pour son bien ou non. Croyez-vous cet avenir possible ?

Il ne faut pas céder à la tentation de comprendre les IA à travers le seul mythe du robot double et rival de l’humain. Je constate d’ailleurs qu’entre 2001, l’Odyssée de l’espace, où HAL était conforme à ce stéréotype, et Her, où l’IA a changé d’échelle, la fiction a changé de registre: l’IA n’est plus une rivale du héros, mais une gestionnaire de toute une société. Le risque devient plutôt celui de la dépendance et l’imaginaire devient moins manichéen : dans le dessin-animé Wall-e, l’IA qui gère le vaisseau a rendu les humains complètement ventripotents mais elle agit de manière responsable en les tenants à l’écart d’une Terre dévastée (c’est plutôt Wall-e et sa « fiancée » qui sont prisonniers de leur programmation !). Plus sérieusement, nos sociétés rechignent à soulever les questions politiques contemporaines : à quel type de régime correspondrait une société qui voterait pour fixer des priorités à une IA dirigeante ? Ne serait-ce pas un progrès si la politique était ainsi libérée de la compétition humaine pour le pouvoir ? Dans Dosadi, Frank Herbert proposait, par exemple, deux règles pour qu’une cyberdémocratie fonctionne : que les sondages soient interdits et que la date à laquelle les cyber-citoyens seront interrogés soit déterminée aléatoirement. Quand nous nous interrogeons pour protéger la démocratie des fake-news, nous sommes encore très loin d’envisager comme lui d’instaurer des règles pour éviter que la démocratie ne devienne une fake-news…

Selon vous, quelle sera la prochaine révolution de l’IA ?

Pour l’instant l’IA est dans une phase encore fondée sur la subversion des institutions existantes. Cette technologie de réseau se contente pour l’instant (si j’ose dire) de provoquer la subversion de ce qui existe. Viendra un moment où d’authentiques sociétés humain-machine (voire impliquant de non-humains) émergeront et viendront gérer radicalement différemment nos relations avec le monde. Cela pourra prendre des tournures régressives et réactionnaires, encourageant une soumission religieuse à des IA gourous, ou au contraire des schémas ultra-réflexifs, avec des individus totalement connectés à leur environnement et en dialogue constant avec les autres pour agir toujours dans une sorte d’harmonie avec l’environnement. Il me semble que nous n’avons pas encore commencé à explorer les voies intelligentes, et plus subtiles, d’hybridation de la conscience avec les réseaux informatiques, mais que pour celles-ci émergent, il faudra passer d’abord par une phase de « domestication », voire de « désintoxication », en admettant que nos sociétés aient un problème avec leur dépendance aux stimulations neuronales produites artificiellement. L’intelligence de l’intelligence artificielle reste à développer.

Une conférence présentée par

Vincent BONTEMS

Vincent Bontems est philosophe des sciences et des techniques, directeur de recherche au CEA et professeur à l'INSTN. Il co-dirige le master Management de la Technique et de l'Innovation (MTI) et dirige la collection L'Âne d'or au Belles Lettres. Spécialiste de Gaston Bachelard et de Gilbert Simondon, ses travaux portent sur l"innovation, l'éco-technologie et les relations entre science et science-fiction. Il a publié l'année dernière Au nom de l'innovation. Finalités et modalités de la recherche au XXIe siècle.

Autres intervenants