(Re)Construire la confiance dans les technologies
(Re)Construire la confiance dans les technologies
"Surmonter une crainte en orientant les nouvelles technologies dans le sens du bien commun"
Audrey AZOULAY, Directrice générale de l’UNESCO.
Depuis la maîtrise du feu jusqu’à celle de l’atome en passant par l’imprimerie et la machine à vapeur, chaque avancée technique de l’humanité a suscité son lot d’espoirs et d’inquiétudes. Le numérique d’abord et l’Intelligence artificielle aujourd’hui n’échappent pas à cette règle et nous devons travailler pour arrimer au bien commun les possibilités nouvelles offertes par le progrès technologique.
Notre imaginaire collectif est marqué par une immense production culturelle – des films, des livres, des dystopies de toutes sortes qui traduisent nos craintes d’être dépassés par notre propre création. Stephen Hawking lui-même prédisait que l’Intelligence artificielle pourrait détruire le monde.
Dès aujourd’hui, nous nous trouvons au moment où nous devons articuler d’une part la radicalité de choix d’innovation technologique, sociale, économique, et d’autre part la responsabilité de choix éthiques. Il ne s’agit pas d’avoir peur, ni d’être naïfs : il s’agit d’être pleinement conscients de notre responsabilité.
Une responsabilité double : comprendre ce qui est à l’œuvre, puis définir le chemin de crête qui nous permettra de mettre l'intelligence artificielle au service du bien commun, tel que nous l’avons collectivement défini dans l’Agenda 2030 des Nations unies.
Les craintes que nous nourrissons trouvent leur terreau dans la conviction unanime qu’avec l’Intelligence artificielle, comme avec les autres avancées technologiques émergentes comme la robotique, l’analyse de méga données ou l’Internet des objets, l’humanité entre dans une nouvelle ère, se confronte à l’inconnu.
L’Intelligence artificielle n’est pas un questionnement de la technologie, c’est un questionnement de notre propre humanité. Un questionnement politique, philosophique, éthique.
C’est une véritable révolution anthropologique que nous vivons, dans tous les domaines de notre vie, dans notre rapport au travail, au temps, à l’espace, aux autres, à l’humain.
C’est pour cela que cette révolution technologique nous interroge. Parce qu’en choisissant la façon dont nous développons ces technologies, dont nous les encadrons, dont nous les orientons, nous choisissons comment nous forgeons le monde de demain.
D’ores et déjà, les innovations accomplies nous donnent à voir des situations qui interrogent.
La voiture autonome par exemple pose la question de savoir qui est responsable en cas d’accident, et sur quels critères programmer une décision lorsqu’un choix qui peut être fatal doit être fait.
Certains systèmes de diagnostic médical fondés sur l’Intelligence artificielle ont prouvé leur rapidité et leur fiabilité, mais à nouveau, en cas d’erreur, qui est responsable ? Quels sont les biais imbriqués dans les 4 algorithmes ? Nous devons envisager sérieusement cette question de la responsabilité qui ultimement est la nôtre, puisque nous conférons ce pouvoir aux machines.
Avant de comprendre quelles sont les limites de l’Intelligence artificielle et si elles existent, avant même d’envisager des Intelligences artificielles fortes et conscientes d’elles-mêmes, nous devons déjà répondre aux questions éthiques essentielles que posent les Intelligences artificielles actuelles : qui décide des priorités et des valeurs programmées dans les algorithmes des machines ? Jusqu’où pousser l’autonomie et le pouvoir de prise de décision d’une machine ?
Dans un monde où l’accès à ces nouvelles technologies est très inégal, comment nous assurer qu’elles ne creusent pas les inégalités de développement entre les pays, entre les genres ? Sachant que l’apprentissage profond se fonde sur des données historiques, comment faire en sorte que les décisions qui en découlent n’intensifient pas les biais du passé ? Comment s’assurer que le pouvoir et les informations qu’offrent les programmes d’Intelligence artificielle ne servent pas à opprimer ?
Les inégalités, les abus de pouvoir, les discriminations, toutes les dérives dont nous pouvons craindre que les nouvelles technologies les nourrissent et les renforcent, préexistent à ces technologies. Ces dérives, ces abus, ces inégalités sont les nôtres. Dès lors, la question devient celle-ci : comment faire en sorte que les nouvelles technologies ne reproduisent et n’exacerbent pas nos propres faiblesses, mais plutôt nous servent à renforcer le bien commun, au service des valeurs humanistes, de la dignité humaine ?
De merveilleux outils potentiels pour répondre aux objectifs de développement durable de l’Agenda 2030
Les nouvelles technologies offrent également des possibilités inédites de développement des sociétés, du savoir, du progrès humain. Elles peuvent être des outils pour remédier à certains des problèmes les plus cruciaux de nos sociétés.
Je pense par exemple à certains projets inspirants, venus du monde entier et présentés à l’UNESCO. Ils visent à utiliser les nouvelles technologies sur des sujets aussi vastes et divers que le suivi de l’évolution de la biodiversité des forêts tropicales, le développement d’une agriculture durable en Afrique, la lutte contre les mutilations génitales et la violence domestique contre les femmes, la communication de l’expérience de la musique aux sourds et malentendants, ou encore la personnalisation de l’éducation en analysant en temps réel l’apprentissage de l’élève…
Nous devons réfléchir et agir collectivement pour nous assurer que les nouvelles technologies qui restent toujours au service du développement durable et du bien commun.
L’UNESCO dans son rôle de laboratoire d’idées
Pour entretenir le débat sur les nouvelles technologies, l’UNESCO dispose d’atouts considérables, et s’appuie avant tout sur de sa vocation universelle au sein du système multilatéral des Nations unies.
L’UNESCO est une passerelle entre ses États membres et la société civile, la communauté technique et scientifique, le milieu universitaire et le secteur privé, et leur offre une plateforme d’échanges et de débats.
Les perspectives offertes par les nouvelles technologies, et notamment l’Intelligence artificielle, bouleversent par ailleurs l’ensemble des domaines du mandat de l’Organisation, la Science, l’Éducation, la Culture, la Communication et l’Information. Son expertise pluridisciplinaire lui garantit une appréhension complète des problématiques.
L’UNESCO a donc joué son rôle de laboratoire d’idées sur l’Intelligence Artificielle. Une série de rencontres a eu lieu sur l’Intelligence artificielle à Paris en 2018, avec, par exemple, le débat « L’Intelligence artificielle au service des droits humains et des Objectifs de développement durable : Promouvoir des approches multi-acteurs, inclusives et ouvertes » dans le cadre du Forum sur la gouvernance d’Internet (novembre 2018). Une première conférence régionale sur l’Intelligence artificielle au service du développement en Afrique s’est également tenue au Maroc en décembre 2018 : le sujet est universel, et l’UNESCO peut l’accompagner partout dans le monde, dans une réflexion à plusieurs échelles.
La réflexion conduite a été approfondie en mars dernier avec la première conférence internationale à l'UNESCO intitulée « Principes pour l’Intelligence artificielle : vers une approche humaniste ? ».
Réduire les inégalités d’accès à l’IA
Notre premier enjeu est de chercher à réduire les inégalités liées à l’accès à l’Intelligence artificielle et aux nouvelles technologies.
Les États membres de l’UNESCO ont adopté, lors de la 38ème Conférence générale de l’Organisation, quatre principes pour garantir l’universalité d’Internet, que l’on appelle les « principes DOAM » – D-O-A-M : Droits de l’homme, Ouverture, Accessibilité à tous et Multiplicité des acteurs. Notre action sur Internet et l’Intelligence artificielle doit être bâtie sur le socle de ces principes.
Ils sont au coeur de nos programmes pour enseigner aux filles et jeunes femmes à coder dans des pays africains, de la promotion des femmes en sciences, à la croisée de nos priorités Afrique et égalités des genres, ou de l’organisation de formations à l’Intelligence artificielle en partenariat avec le secteur privé. C’est également l’enjeu de la promotion des sciences ouvertes, de l’innovation libre et de l’accès universel au savoir qui permettent de réduire les écarts entre pays dans les avancées technologiques.
Des questions soulevées dans tous les secteurs
S’il est essentiel de garantir des compétences au plus grand nombre pour s’emparer des possibilités de l’Intelligence artificielle, il faut aussi développer un regard critique sur ses conséquences.
Elle en a dans tous les domaines, qu’il faut penser et accompagner : l’IA change les méthodes d’expérimentation d’explication scientifique des sciences sociales et naturelles et a un impact sur les raisonnements menés. La création artistique par IA met en question le statut de l’auteur, les algorithmes de recommandation posent un risque pour la préservation et la promotion de la diversité culturelle.
Dans le domaine de la communication et de l’information, l’Intelligence artificielle suscite de l'espoir pour le renforcement d’un journalisme de qualité et pour un filtrage des propos haineux. Cependant, elle soulève, dans le même temps, des préoccupations en matière de liberté d’expression, et pourrait accentuer la dissémination de la désinformation si elle n’était pas développée autour des droits humains et nourrie par un engagement multipartite : l’UNESCO développe des programmes de formation aux médias et à l’information pour sensibiliser à ces risques et aux algorithmes.
Utilisation de l’Intelligence artificielle dans les différents secteurs
Dans l’ensemble de nos secteurs d’action et pour l’ensemble de nos objectifs, les nouvelles technologies présentent également des opportunités et des applications positives que nous cherchons à identifier et à exploiter avec notre réseau de partenaires publics et privés.
Une Conférence Internationale se tiendra dans les jours prochains à Pékin sur les possibilités que l’Intelligence artificielle offre pour l’éducation, l’accessibilité de l’apprentissage, la personnalisation du parcours… L’IA est désormais un acteur indispensable à prendre en compte pour atteindre l’objectif d’une éducation de qualité pour tous.
Nous travaillons d’ailleurs avec Microsoft à assurer que les décisions prises sur le rôle de l’Intelligence Artificielle dans l’éducation soient bien informées.
Les applications de l’Intelligence artificielle sont innombrables. L’analyse d’images de drones, par exemple, nous permet de lutter contre le braconnage des chimpanzés dans la Réserve naturelle intégrale du Mont Nimba en Guinée.
Nous utilisons également les images de drones et leur traitement par IA dans le domaine culturel, en partenariat avec la société ICONEM, qui produit de telles images, notamment de sites en péril comme à Mossoul. L’Intelligence artificielle et les nouvelles technologies jouent ainsi un rôle important dans notre initiative « Reconstruire l’esprit de Mossoul » par laquelle l’UNESCO coordonne les efforts internationaux de restauration et de réhabilitation du patrimoine culturel et la relance des institutions éducatives et culturelles en Irak.
La nécessité d’orienter les nouvelles technologies dans le sens du bien commun
Il suffit d’évoquer ces perspectives pour se sentir inspiré et confiant dans les opportunités ouvertes pour l’avenir. Mais une intelligence artificielle n’est rien d’autre que le projet qu’elle sert, dans les conditions définies par ceux qui l’ont programmée, sur la base des données qui auront été fournies.
Et en la matière, nous devons faire ces choix les yeux ouverts, si nous ne voulons pas vivre la « fin des Lumières », pour reprendre les mots et l’inquiétude d’Henry Kissinger, jeune homme de 95 ans.
Les nouvelles technologies ont la valeur que nous leur donnons par l’utilisation que nous en faisons, et cette valeur peut être immense.
Rebâtir la confiance dans les nouvelles technologies suppose d’être conscients des choix qu’elles impliquent et de prendre des mesures pour nous assurer que lorsque nous les développons, nous le faisons pour le bien commun, en s’assurant que chacun, partout, bénéficie de cette révolution technologique qui traverse les frontières.
Pour cela, il est essentiel de réfléchir aux implications de ces nouvelles technologies, et de déterminer des politiques publiques pour les orienter et en assurer des principes éthiques.
Le rôle normatif de l’UNESCO : expertise et décision sur l’IA
Depuis plus de 25 ans, l’UNESCO a développé une expertise sans équivalent en la matière et travaille sur les questions d’éthique des sciences et des technologies, sur des sujets aussi décisifs que le génome humain, les données génétiques ou le changement climatique. Sa fonction normative lui permet d’adopter des textes qui engagent ses Etats membres.
Au travers de la Commission mondiale d’éthique des connaissances scientifiques et des technologies de l’UNESCO, des travaux importants ont déjà été menés sur l’Internet des objets. L’UNESCO s’apprête donc à jouer pleinement son rôle dans le domaine de l’Intelligence artificielle et de ses questions éthiques.
Un rapport préliminaire élaboré par cette Commission a été présenté le mois dernier aux 57 Etats Membres du Conseil exécutif de l’UNESCO. Ce rapport a souligné la validité du mandat de l’Organisation pour adopter l’objectif de travailler à l’élaboration de principes directeurs sur l’éthique de l’Intelligence artificielle, sous la forme d’une Recommandation de l’UNESCO.
Ce point est désormais inscrit à l’ordre du jour de la 40e session de la Conférence Générale de l’UNESCO. Il s’agit de la première étape d’un processus qui s’étendra jusqu’en 2021 pour aboutir à l’élaboration d’un nouvel instrument normatif, après une conversation mondiale qui permettra une meilleur prise de conscience sur le sujet.
Conclusion : bâtir collectivement la confiance
Par ces actions, cette réflexion et l'élaboration normative, l'UNESCO cherche à orienter l'usage des nouvelles technologies pour en faire un facteur de paix et de développement durable, au bénéfice de toutes et tous.
Pour y parvenir, nous devons définir les principes et les orientations du développement des nouvelles technologies et bâtir collectivement l'engagement de toutes les parties prenantes, des gouvernements, des acteurs du secteur privé, de la communauté scientifique et de la société civile, à ce qu'il se fasse dans le respect des droits humains fondamentaux et contribue au développement durable.
Il en va de notre responsabilité collective, envers les générations présentes et futures.
titre documents joints