samedi 20 avril 2024
AccueilActualité« L’IA, c’est nous. Elle porte en elle les biais de l’humanité…...

« L’IA, c’est nous. Elle porte en elle les biais de l’humanité… », Trois questions à Hervé SAULIGNAC

Hervé Saulignac est député socialiste de l’Ardèche, et membre de la Commission des Lois. Le mardi 4 avril dernier, à l’Assemblée nationale, il a posé au ministre délégué au numérique une question écrite… rédigée par l’outil ChatGPT, utilisant l’Intelligence artificielle (IA). Son objectif était d’en montrer les possibilités et d’inviter le Gouvernement à prendre les mesures nécessaires pour répondre concrètement aux enjeux soulevés par le développement de l’IA. Il répond… lui même dans ce numéro à nos trois questions.

Qu’est-ce que l’IA, et que représente-elle par rapport aux différentes innovations technologiques récentes et les nouveaux comportements humains qu’elles produisent ?

L’Intelligence artificielle a commencé à alimenter les débats de quelques scientifiques prédictifs dès le début des années 1950, avec l’arrivée des premiers calculateurs numériques. Chercheurs et ingénieurs prophétisent alors des « ordinateurs qui pourront penser » pour se substituer à l’intelligence humaine et effectuer un certain nombre de tâches complexes.

L’augmentation de la puissance de calculs informatiques puis l’avènement des algorithmes numériques vont préfigurer l’intelligence artificielle. Plus tard viendront les objets connectés du quotidien, l’IA dans un certain nombre d’applications d’usage courant et bon nombre d’outils dans nos entreprises, nos véhicules, notre électroménager. 

La recherche sur l’IA s’est développée sans véritable cadre et quasi exclusivement par l’initiative privée. Pendant près de vingt cinq ans, au service d’enjeux militaires d’abord, puis de tous les pans des grandes économies de ce monde, l’IA s’est déployée en toute liberté. Dès 2009, des membres de la communauté High Tech ont bien tiré la sonnette d’alarme sur les risques que pourrait nous faire courir l’intelligence artificielle. En vain.

Ce qui est remarquable, c’est donc la croissance à bas bruit de cette technologie – qui tranche singulièrement avec le tsunami médiatique déclenché par l’intelligence artificielle générative et grand public apparue à l’automne 2022. Pourtant, l’IA ne constitue pas une rupture technologique. Elle est le fruit d’un processus évolutif d’une technologie qui a mobilisé d’énormes moyens financiers. C’est Open AI, avec son désormais célèbre ChatGPT, qui a sorti la technologie du monde des experts pour la mettre à disposition du grand public, entretenant l’illusion d’une révolution soudaine.

Ce qui doit nous interpeller en réalité, c’est la fulgurance avec laquelle cette technologie s’impose au monde, corrélée aux bouleversements de toute nature qu’elle implique. Mais le plus remarquable réside probablement dans une vitesse de déploiement inversement proportionnelle à l’inertie du temps politique. Devant ce monde incertain qui s’ouvre, les États sont pris de vitesse, presque exclusivement préoccupés par la dimension sécuritaire ou l’enjeu de compétitivité économique. 

Et pourtant, l’IA interroge notre rapport au travail, à la production massive de richesses d’un nouveau genre, et donc à leur redistribution. Elle interroge également la montée en puissance phénoménale de la productivité, et par conséquent l’usage du temps libéré, la reconversion de certains métiers, les conséquences sur nos libertés, l’éducation, l’emploi, l’information, la démocratie et les rapports de force des grandes puissances du monde. 

L’onde de choc à venir est évidente. Elle est à la fois vertigineuse et fascinante. La prise de conscience est brouillonne, désordonnée, oscillant entre fantasmes déclinistes et enthousiasmes béats. Nous entrons lentement dans un processus d’acculturation majeur dont nul ne peut prédire la durée. 

Plus généralement, nous observons dans le domaine des nouvelles technologies numériques un mouvement de légifération européen. Comment comprendre ces nouvelles législations, quels progrès constituent-elles et quelles sont leurs limites, alors que ces nouvelles technologies numériques et algorithmiques sont présentées comme « neutres » ?

L’Union européenne a toujours fait figure de précurseur en matière de régulation du numérique. Elle s’est dotée dès 2000 d’une directive sur le e-commerce, a adopté le Règlement général sur la protection des données (RGPD) en 2018 et vient tout juste de se doter d’un nouvel arsenal de réglementation du numérique (règlements DSA, DMA et DGA). L’Union a ainsi démontré sa pro-activité en matière de protection des données, des consommateurs, et surtout de la libre concurrence.

Car ce mouvement de réglementation est indissociable du contexte économique dans lequel évoluent les entreprises de la tech, celui d’un marché numérique dominé par les GAFAM et marqué depuis quelques années par l’essor de la Chine. Conséquence logique de cette situation, le marché fait la loi, générant un certain nombre d’effets économiques, sociaux et politiques. On retiendra des modèles qui s’imposent aux consommateurs (non-portabilité des données d’un service à un autre), un manque de transparence des plateformes (notamment concernant le fonctionnement des algorithmes de recommandation), une perte de souveraineté des États, incapables de s’opposer au poids des plateformes.

Dans ce contexte, l’UE est la première démocratie à s’être dotée d’outils inédits. Avec les règlements DSA et DMA, elle a pris l’initiative d’un arsenal répressif à destination des entreprises qui ne respecteraient pas ses règles. La Commission peut ainsi imposer des sanctions financières très lourdes à l’encontre des plateformes qui ne souscriraient pas à leurs obligations en matière de modération de contenu ou qui abuseraient de leur position dominante.

Mais, si l’UE se veut protectrice du consommateur, son champ d’action reste limité à sa raison d’être primaire : assurer le libre fonctionnement du marché économique européen. À ce titre, le développement de l’IA et des technologies algorithmiques place l’UE à un carrefour. Doit-elle se limiter à édicter des règles générales visant à assurer la viabilité du système économique ou doit-t-elle aller plus loin ? Si l’UE travaille actuellement à l’adoption d’un règlement sur l’IA qui prône la mise en œuvre d’une approche éthique et la nécessité d’une évaluation des risques, il faut souligner la limite de cette démarche qui demeure presque exclusivement centrée sur des questions de sécurité et néglige les bouleversements économiques et sociaux que le développement des systèmes d’IA provoque déjà.

Dans ce contexte, la France doit prendre les devants et doper sa stratégie qui méconnaît des pans entiers du défi multiforme que nous avons à relever. Il nous revient d’encadrer des usages, de prévenir des dérives et de penser des outils de progrès social, économique et politique. Ainsi la France doit-elle œuvrer plus encore à la recherche d’un équilibre délicat entre les promesses de l’IA et un usage raisonné des donnés. 

Ces nouvelles technologies réveillent à la fois les espoirs en termes d’émancipation individuelle et les craintes de dérive autoritaire. Quelle(s) évolution(s) est-il possible d’imaginer, dans nos vies personnelles et professionnelles ?

La méconnaissance des uns et l’aveuglement des autres conduisent souvent à des approches binaires qui enferment le débat entre dangers et progrès. Il faut dépasser cette appréhension du sujet et délaisser les technolâtres comme les technophobes. 

L’IA c’est nous. Elle porte en elle les biais de l’humanité, ceux qui résultent de notre histoire, de nos croyances, de notre éthique personnelle. Le vrai problème, ça n’est pas l’IA. C’est nous-mêmes. Pris de la sorte, le défi est immense mais l’espoir est permis puisque l’IA sera ce que nous en ferons. Ou pas. 

Les dérives autoritaires sont déjà à l’œuvre. Le système de crédit social chinois qui note les citoyens, n’aurait jamais vu le jour sans les technologies d’analyse du big data et un usage poussé de l’IA. 

Lentement, l’opinion prend donc la mesure des possibles manipulations de masse, des dangers pour la démocratie comme de ceux qui pèsent sur certains emplois menacés à terme de disparition. Les bonnes raisons de se faire peur s’égrènent quotidiennement dans les médias. 

Mais l’IA est aussi capable d’écourter des tâches répétitives et fastidieuses. En tant qu’outil de coproduction, elle peut favoriser des prises de décisions mieux éclairées. Elle peut procéder à des analyses complexes, aider à des diagnostics – et possiblement se nourrir de ses paradoxes puisque le terrain de prédilection des producteurs de fake news peut aussi devenir une arme puissante au service de la chasse à la désinformation. 

L’accélération que nous vivons nous commande d’élargir le champ d’une stratégie nationale que la France s’est donnée en précurseur dès 2018. 

En effet, cette stratégie a d’abord comme objectif de renforcer la compétitivité et l’attractivité de la France. Elle n’est donc pas de nature à armer les institutions et les consciences, alors même que cet objectif devrait figurait au rang de priorité absolue. L’IA progresse, s’insinue dans les interstices de nos existences et prospère en partie sur l’ignorance dans laquelle sont tenus les citoyens et leurs représentants. 

Une approche éclairée suppose que chaque secteur composant l’ensemble des politiques publiques appréhende son propre avenir à l’aune de l’IA. Mais les évolutions imposeront de conforter aussi des garde-fous et des outils existants : la CNIL dans ses moyens comme dans ses missions de contrôle et de répression, le Laboratoire National et d’Essai dans ses fonctions d’évaluation et de conseil, ou bien encore les 3IA (Instituts Interdisciplinaires sur l’Intelligence artificielle) en matière de recherche et de formation. 

Ces questions arrivent tard, dès lors que l’IA s’est déjà emparée de nos vies quotidiennes dans bien de ses aspects. Il convient de cesser d’évoquer des innovations comme étant à venir alors qu’elles prospèrent au quotidien. À trop longtemps considérer ces sujets comme des perspectives en devenir, ils demeurent quasiment absents du débat politique alors qu’il s’agit bien de défis immédiats et majeurs. 

Propos recueillis par Thibault Delamare
L’Ours 529, juin 2023

RELATED ARTICLES

Most Popular

Recent Comments