La parole est aux speakers : Gilles Dowek

Jusqu’au Forum PHP 2020, retrouvez nos interviews de speakers pour mieux comprendre leur parcours et le sujet qu’ils ou elles aborderont lors de leur conférence !

La conférence

Selon vous, est-ce que le sujet de l’éthique dans le milieu IT a été trop longtemps reporté et laissé de côté ?

Les questions éthiques n’ont sans doute pas été « reportées » ou « laissées de côté », ce qui laisserait entendre qu’elles ont été ignorées intentionnellement. Mais, il est vrai que nous avons mis du temps à prendre conscience de leur importance : alors que les premiers ordinateurs datent des années 1940, ce n’est que dans les années 2000 que le sujet s’est imposé. Cela dit, ce retard est assez facile à expliquer : quand les informaticiens concevaient des algorithmes de parcours de graphes, ces questions n’étaient pas si centrales. C’est le développement des réseaux et du web qui ont mis en avant les questions de la protection des données personnelles, du droit à l’oubli ou des risques et bénéfices d’une application comme StopCovid.

Toujours selon vous, qui doit porter la responsabilité de l’éthique dans une entreprise IT ? Que peut faire un·e dev si on lui demande de faire quelque chose qu’il/elle considère comme contraire à sa propre éthique ?

Un risque est de nommer un.e responsable des questions d’éthique, ou un comité d’éthique, et que tout le monde, dans l’entreprise, s’en remette à sa sagesse, c’est-à-dire se désintéresse personnellement de ces questions. Au contraire, il faut que chacun·e dans l’entreprise se sente concerné·e, à un niveau individuel, mais aussi à un niveau collectif – car les applications sont rarement développées par une personne unique.

Un·e développeur·se à qui l’on demande de faire quelque chose qu’il/qu’elle considère comme contraire à sa propre éthique a une marge de manœuvre limitée – surtout s’il/si elle veut garder son emploi – mais pas inexistante. La première chose à faire est d’exprimer ses doutes et ses interrogations, car il se peut que le caractère malveillant de ce qu’on lui demande de faire ne soit pas perçu par sa hiérarchie, ou qu’une petite modification – par exemple l’information ou le recueil du consentement de l’utilisateur final – rendre le développement beaucoup moins malveillant. Ensuite, il/lle peut échanger avec ses collègues, dans un cadre informel ou formel : syndicat, comité d’éthique, etc. Car si un grand nombre de collègues partagent un même point de vue, il est plus facile de se faire entendre. Enfin, si la situation est vraiment insupportable, il faut en assumer les conséquences et chercher un autre emploi. Un·e pacifiste qui travaille dans une usine d’armement, ou un·e végétalien·ne qui travaille dans un abattoir, ferait mieux de changer d’employeur, car les dilemmes éthiques risquent d’être nombreux.

Lors de questions éthiques, un « Serment d’Hippocrate des développeurs » est souvent évoqué. Cela existe-t-il ou y a t-il des projets de création d’un tel texte ?

L’inconvénient de l’éthique normative avec ses lois, ses règlements, ses serments, etc. est qu’elle évolue lentement, alors que les questions éthiques se renouvellent sans cesse, car l’informatique elle-même se transforme. Une « Serment d’Hippocrate des développeurs » aurait sans doute une utilité, mais plus utile encore est que chacun·e s’interroge sur les valeurs qu’il/elle souhaite défendre, sur les conséquences de ses propres actions et sur les personnes – notamment les utilisateurs – qu’il/elle a en face d’elle/de lui.

Une conférence présentée par

Gilles DOWEK

Gilles Dowek est chercheur à Inria et professeur attaché à l'École normale de Paris-Saclay. Ses travaux portent sur la formalisation des mathématiques, les systèmes de traitement des démonstrations, la physique du calcul, la sûreté des systèmes aéronautiques et spatiaux, et l'épistémologie et l'éthique de l'informatique. Il est membre du Comité National Pilote d'Éthique du Numérique et du Conseil Scientifique de la Société Informatique de France. Il est l'auteur de Le temps des algorithmes (Le Pommier, 2017, avec Serge Abiteboul) et Ce dont on ne peut parler, il faut l'écrire (Le Pommier, 2019).

Autres interviews

• La parole est aux speakers : Samuel Rozé
• La parole est aux speakers : Kévin Dunglas
• La parole est aux speakers : Sarah Haïm-Lubczanski
• La parole est aux speakers : Hélène Maître-Marchois
• La parole est aux speakers : Estelle Landry
• La parole est aux speakers : Pascal Martin et Martin Supiot
• La parole est aux speakers : Lucas Legname & Maxime Richard
• La parole est aux speakers : Maxime Veber
• La parole est aux speakers : Agnès Haasser
• La parole est aux speakers : Mikael Randy
• La parole est aux speakers : Mathieu Girard
• La parole est aux speakers : Antti Rössi
• La parole est aux speakers : Frédéric Bouchery
• La parole est aux speakers : Jean-Pierre Vincent
• La parole est aux speakers : Benoit Jacquemont
• La parole est aux speakers : Ben Smith
• La parole est aux speakers : Antoine Bluchet
• La parole est aux speakers : Jonathan Van Belle
• La parole est aux speakers : Olivier Dolbeau
• La parole est aux speakers : Karim Pinchon
• La parole est aux speakers : Damien Alexandre
• La parole est aux speakers : Gabriel Caruso