Facebook lance un centre de recherche consacré à l’éthique de l’intelligence artificielle

Facebook a annoncé, dimanche 20 janvier, la création d’un centre de recherche dédié à l’éthique de l’intelligence artificielle (IA) en partenariat avec l’Université technique de Munich, en Allemagne, qui devrait voir le jour au printemps. L’entreprise injectera sur cinq ans 7,5 millions de dollars, soit 6,6 millions d’euros, dans cet « Institute for ethics in artificial intelligence » (« Institut pour l’éthique de l’intelligence artificielle »).

Objectif : mener des « recherches indépendantes et scientifiques pour apporter des connaissances et des conseils à la société, l’industrie, les législateurs et les décisionnaires des secteurs privé et public », explique Facebook dans un communiqué. Ce centre vise aussi à participer à la mise en œuvre de « cadres, méthodologies et approches algorithmiques » dont pourraient s’emparer les développeurs d’IA.

« Facebook n’imposera pas les sujets de recherche »

Si l’entreprise américaine apporte le financement, Joaquin Quiñonero Candela, directeur de l’apprentissage automatique appliqué chez Facebook, insiste sur le caractère « complètement indépendant » de cet institut, et souligne que celui-ci sera « encouragé » à chercher d’autres sources de financement. « Nous n’aurons pas d’autorité exécutive, nous n’imposerons pas les sujets de recherche. Nous apportons le financement, et nous sommes disponibles pour donner notre avis. »

Le nombre exact de personnes qu’emploiera ce centre n’est pas encore déterminé – autour d’une dizaine pour commencer, espère Joaquin Quiñonero Candela –, mais elles viendront de différentes disciplines. « Les problèmes éthiques ne doivent pas être résolus uniquement par des chercheurs en IA, explique-t-il. Comprendre l’impact de ces technologies sur la société nécessite un groupe de personnes très varié. »

Cet institut travaillera avec un comité consultatif composé de représentants du monde académique, de la société civile et de l’industrie. Il sera dirigé par Christoph Lütge, chercheur à l’Université technique de Munich, à la fois spécialiste de la philosophie, de l’informatique et de l’économie.

Joaquin Quiñonero Candela précise qu’aucun chercheur de Facebook, l’une des entreprises les plus avancées dans la recherche en IA, ne travaillera dans cet institut : « Le risque serait qu’ils influencent, volontairement ou non, la direction et les conclusions des recherches. » Facebook fera toutefois appel de temps en temps aux conseils de cet institut, notamment avant de lancer de nouveaux services :

« Quand on crée un produit, on a des mécanismes de consultation. On invite des experts de différents domaines qui nous donnent leur avis. Evidemment que nous demanderons celui de cet institut, mais il n’y aura pas que lui à nous conseiller. »

Le choix de l’Europe

Si l’entreprise participe déjà à des initiatives comme Partnership on AI, un groupe réunissant les grands acteurs du secteur comme Google, Apple, Amazon ou encore Microsoft, autour des questions d’éthique et d’IA, elle juge cela insuffisant. « L’IA pose des problèmes complexes auxquels l’industrie ne peut pas répondre seule », écrit Facebook dans son communiqué. D’où la volonté de mettre en place cet institut. Qui plus est, souligne Joaquin Quiñonero Candela, rares sont les centres de recherche réunissant suffisamment de disciplines pour aborder efficacement les questions d’éthique et d’IA.

Pourquoi Facebook, une entreprise américaine, décide-t-elle de lancer un tel projet en Europe ? « Il est essentiel que ce ne soit pas une vision uniquement américaine », estime le chercheur :

« Aux Etats-Unis, il y a moins de régulation, ce qui génère un état d’esprit différent. Ce serait une erreur de travailler seulement avec des instituts d’éthique américains. De plus, l’Europe est un des lieux d’expertise en philosophie et en éthique, avec son histoire bien plus longue que les Etats-Unis. Et elle ouvre la voie sur la régulation, avec le RGPD par exemple, sur la protection des données. »

La problématique de l’éthique dans l’intelligence prend de plus en plus d’importance ces dernières années, alors que ces technologies progressent de façon considérable. Des entreprises comme Facebook, Google, Amazon ou encore Microsoft, qui investissent massivement dans l’IA, sont régulièrement interpellées sur les questions éthiques que soulèvent les technologies qu’elles développent. Des initiatives comme le Partnership on AI ou l’Institute for ethics in artificial intelligence sont une manière, pour ces entreprises, d’apporter un début de réponse et d’affirmer qu’elles font preuve de bonne volonté.