<\/p>\n
<\/p>\n
L\u2019I.A. g\u00e9n\u00e9rative suscite des attentes parfois d\u00e9mesur\u00e9es\u2026 auxquelles font \u00e9cho des craintes souvent excessives et irraisonn\u00e9es. Entre ces extr\u00eames, il convient plut\u00f4t de voir en elle un instrument puissant qui n\u2019est pas sans dangers et r\u00e9clame donc une vigilance toute particuli\u00e8re.<\/p>\n
Nous nous int\u00e9ressons ici \u00e0 L\u2019I.A. dite g\u00e9n\u00e9rative et, plus g\u00e9n\u00e9ralement, aux \u00ab\u00a0mod\u00e8les de fondation\u00a0\u00bb, selon le terme popularis\u00e9 par l\u2019Institut de recherche sur l\u2019intelligence artificielle de l\u2019universit\u00e9 Stanford, afin de d\u00e9signer cette nouvelle g\u00e9n\u00e9ration de mod\u00e8les d\u2019I.A. de grande taille, g\u00e9n\u00e9ralement entra\u00een\u00e9s par apprentissage auto-supervis\u00e9 sur une grande quantit\u00e9 de donn\u00e9es non pr\u00e9-cod\u00e9es \u2013 incluant textes, images, contenus vid\u00e9o ou audio \u2013 et pouvant effectuer un large \u00e9ventail de t\u00e2ches en aval (Bomasani, 2022).<\/p>\n
(i<\/em>) Discrimination<\/em>.<\/p>\n Une I.A. g\u00e9n\u00e9rative reproduit in\u00e9vitablement tous les pr\u00e9jug\u00e9s, st\u00e9r\u00e9otypes et biais cognitifs des humains qui sont \u00e0 l\u2019origine des donn\u00e9es qu\u2019elle utilise (Bronner, 2021\u00a0; Jean, 2019). Elle peut ainsi se montrer sexiste ou x\u00e9nophobe par procuration. D\u2019o\u00f9 l\u2019importance de nettoyer avec soin la base de donn\u00e9es d\u2019entra\u00eenement.<\/p>\n (ii<\/em>) D\u00e9faut d\u2019explication des r\u00e9sultats<\/em>.<\/p>\n En raison du caract\u00e8re en grande partie al\u00e9atoire de son processus d\u2019apprentissage, il est malais\u00e9 d\u2019expliciter le processus qui a conduit une I.A. g\u00e9n\u00e9rative \u00e0 produire tel r\u00e9sultat plut\u00f4t que tel autre \u00e0 partir de telle entr\u00e9e. Un effort de transparence, d\u2019explicabilit\u00e9 algorithmique, est n\u00e9anmoins exigible du fournisseur qui peut \u00e0 tout \u00e0 tout le moins pr\u00e9ciser la nature des donn\u00e9es utilis\u00e9es par l\u2019A.I. et fournir des exemples-types de traitements effectu\u00e9s sur des \u00ab\u00a0cas d\u2019\u00e9cole\u00a0\u00bb (Maxwell,\u00a02020).<\/p>\n (iii<\/em>) G\u00e9n\u00e9ration d\u2019infox et d\u2019infox profonde<\/em><\/p>\n Comme on l\u2019a not\u00e9 dans la premi\u00e8re partie de cet article, une I.A. g\u00e9n\u00e9rative ne se soucie pas de la v\u00e9rit\u00e9 et peut r\u00e9pandre le faux, ne serait-ce que par inadvertance. Et, lorsque d\u00e9lib\u00e9r\u00e9ment utilis\u00e9e \u00e0 cet escient, ses performances sont \u00e9tonnantes dans la construction de \u00ab\u00a0faux profond\u00a0\u00bb (deep fake<\/em>). La personnalit\u00e9 d\u2019une cible peut \u00eatre pirat\u00e9e et incarn\u00e9e par un avatar dot\u00e9 de facult\u00e9s interactives extr\u00eamement r\u00e9alistes. Les agissements de tels avatars peuvent d\u00e8s lors \u00eatre incrust\u00e9s dans un plan de d\u00e9sinformation plus global, m\u00ealant \u00e9v\u00e8nements fictifs et \u00e9v\u00e8nements r\u00e9els dans l\u2019\u00e9laboration d\u2019une Histoire revisit\u00e9e, sc\u00e9naris\u00e9e, cr\u00e9dible et persuasive. Cette technique peut notamment se d\u00e9guiser sous les habits de faux services automatis\u00e9s d\u2019information ou d\u2019analyse, distillant des r\u00e9cits et des explications n\u2019ayant de la r\u00e9alit\u00e9 que l\u2019apparence et ne visant qu\u2019\u00e0 tromper l\u2019internaute en le d\u00e9tournant de l\u2019actualit\u00e9 authentique.<\/p>\n (iv<\/em>) Risque de monoculture<\/em><\/p>\n Les grands mod\u00e8les d\u2019I.A. g\u00e9n\u00e9rative recourent \u00e0 l\u2019apprentissage par transfert (transfer learning<\/em>), consistant \u00e0 r\u00e9utiliser les comp\u00e9tences acquises dans la r\u00e9solution d\u2019un probl\u00e8me donn\u00e9 pour r\u00e9soudre d\u2019autres probl\u00e8mes, ainsi que l\u2019apprentissage par l\u2019exemple (few shots learning<\/em>), consistant \u00e0 r\u00e9gler le mod\u00e8le sur quelques exemples-types, avant de l\u2019exploiter \u00e0 plus grande \u00e9chelle. Ces deux caract\u00e9ristiques font qu\u2019un m\u00eame sch\u00e9ma algorithmique se trouve r\u00e9p\u00e9t\u00e9 \u00e0 l\u2019identique dans de nombreuses situations applicatives, cr\u00e9ant d\u2019une part un risque de vuln\u00e9rabilit\u00e9 et d\u2019autre part un risque d\u2019homog\u00e9n\u00e9isation des r\u00e9sultats produits, de monoculture.<\/p>\n (v<\/em>) Risque d\u2019\u00e9mergence<\/em><\/p>\n La taille immense du corpus d\u2019entra\u00eenement d\u2019une I.A. g\u00e9n\u00e9rative, ainsi que la multitude des param\u00e8tres auto-ajust\u00e9s, sont susceptibles de faire \u00e9merger des propri\u00e9t\u00e9s impr\u00e9dictibles ex ante<\/em>, selon l\u2019adage \u00ab\u00a0Plus est diff\u00e9rent\u00a0\u00bb.\u00a0 Qui e\u00fbt imagin\u00e9, par exemple, qu\u2019une I.A., simplement entra\u00een\u00e9e \u00e0 prolonger une phrase par la phrase venant le plus vraisemblablement apr\u00e8s cette phrase, puisse composer une fable de La Fontaine, ou encore \u00e9crire les lignes de code d\u2019un programme informatique\u00a0? L\u2019\u00e9mergence peut certes conduire \u00e0 de bonnes surprises, comme dans ces exemples, mais aussi \u00e0 de tr\u00e8s mauvaises, dont il est d\u2019autant plus difficile de se prot\u00e9ger qu\u2019elles sont par nature ind\u00e9termin\u00e9es ant\u00e9rieurement \u00e0 la phase d\u2019exploitation.<\/p>\n (vi<\/em>) Cygne noir algorithmique<\/em><\/p>\n Dans la m\u00eame ligne que l\u2019\u00e9mergence, il convient de citer le \u00ab\u00a0cygne noir\u00a0\u00bb algorithmique, pour reprendre le pittoresque syntagme d\u00fb \u00e0 Nassin Taleb (Taleb, 2010). Bien que cela soit tr\u00e8s improbable, il est n\u00e9anmoins possible qu\u2019un bogue informatique provoque l\u2019effondrement en cascade d\u2019un syst\u00e8me d\u2019I.A. et engendre ainsi une catastrophe syst\u00e9mique aux cons\u00e9quences potentiellement dramatiques\u00a0 pour la population et pour les institutions nationales. En 2000, \u00e0 l\u2019occasion du changement de mill\u00e9naire, on a anticip\u00e9 et craint \u00e0 tort un bogue ravageur\u2026 qui ne s\u2019est pas produit. Toutefois, dans un univers num\u00e9rique dont la complexit\u00e9 ne cesse de s\u2019accro\u00eetre, l\u2019\u00e9ventualit\u00e9 d\u2019un bogue majeur, celui-l\u00e0 non anticip\u00e9 mais bien r\u00e9el, demeure une \u00e9p\u00e9e de Damocl\u00e8s.<\/p>\n (vii<\/em>) Violation des donn\u00e9es personnelles<\/em><\/p>\n Les mod\u00e8les de l\u2019I.A.. g\u00e9n\u00e9rative sont d\u2019autant plus efficaces et pertinents qu\u2019ils m\u00e9morisent la totalit\u00e9 de leurs donn\u00e9es d\u2019entra\u00eenement. Or une grande partie de ces donn\u00e9es \u00e9tant fournies par les internautes eux-m\u00eames (user-generated data<\/em>), elle contient de l\u2019information hautement sensible. Il en r\u00e9sulte un tr\u00e8s s\u00e9rieux risque d\u2019atteinte \u00e0 la vie priv\u00e9e. Si aucune pr\u00e9caution n\u2019est prise, il sera ais\u00e9 de se servir d\u2019un langageur comme d\u2019un instrument d\u2019extraction de donn\u00e9es personnelles, tout simplement en lui soumettant une requ\u00eate du type \u00ab\u00a0Quelle est l\u2019adresse de Monsieur\u00a0X\u00a0?\u00a0\u00bb.<\/p>\n (viii<\/em>) Risque pour l\u2019emploi<\/em><\/p>\n Selon une pr\u00e9vision de Goldman Sachs<\/em>, environ un quart du travail pourrait \u00eatre automatis\u00e9 sous l\u2019effet de l\u2019I.A. g\u00e9n\u00e9rative. Parce qu\u2019elle se base sur des contenus existants pour en g\u00e9n\u00e9rer de nouveaux, l\u2019I.A. est en effet vou\u00e9e \u00e0 s\u2019immiscer dans les fonctions support et les t\u00e2ches administratives, affectant ainsi les cadres, les professions qualifi\u00e9es et les dirigeants. Le ph\u00e9nom\u00e8ne touchera tous les secteurs d\u2019activit\u00e9 et il se manifeste d\u00e9j\u00e0 dans les domaines de la justice, de la sant\u00e9, de la finance, de l\u2019\u00e9ducation ou du journalisme. Les cols blancs et les plus dipl\u00f4m\u00e9s seront les plus touch\u00e9s et plus de trois cents millions d\u2019emplois seraient ainsi directement concern\u00e9s aux \u00c9tats-Unis. Plus de 80% des employ\u00e9s am\u00e9ricains verraient leur travail transform\u00e9 pour au moins 10% de leurs t\u00e2ches et jusqu\u2019\u00e0 50% des t\u00e2ches pourraient \u00eatre automatis\u00e9es pour 20% des employ\u00e9s. L\u2019\u00e9conomie de main d\u2019\u0153uvre permise par l\u2019I.A., source de gains de productivit\u00e9 significatifs, serait n\u00e9anmoins en partie compens\u00e9e par par la cr\u00e9ation de nouveaux emplois moins qualifi\u00e9s, occup\u00e9s par des techniciens en charge de l\u2019alimentation en donn\u00e9es et de la supervision des machines intelligentes.<\/p>\n (ix<\/em>) Risque environnemental<\/em><\/p>\n L\u2019apparition de l\u2019I.A. g\u00e9n\u00e9rative gr\u00e8ve lourdement la trace environnementale des technologies de l\u2019information. La phase entra\u00eenement et de mise au point de Chat GPT-3, le langageur ayant pr\u00e9c\u00e9d\u00e9 Chat GPT, a donn\u00e9 lieu \u00e0 une consommation \u00e9nerg\u00e9tique de pr\u00e8s de 1300\u00a0MWh d\u2019apr\u00e8s les chiffres de la Commission de r\u00e9gulation de l\u2019\u00e9nergie (CRE), ce qui revient \u00e0 la consommation de 320 foyers fran\u00e7ais en une ann\u00e9e. Il en aurait r\u00e9sult\u00e9 l\u2019\u00e9mission de 550 tonnes d\u2019\u00e9quivalent CO2<\/sub> dans l\u2019atmosph\u00e8re, autant que les \u00e9missions annuelles d\u2019environ 60 Fran\u00e7ais, selon les estimations du Minist\u00e8re de la transition \u00e9cologique. L\u2019entra\u00eenement de l\u2019actuel Chat\u00a0GPT et celui de sa nouvelle version GPT-4 ont vraisemblablement demand\u00e9 encore davantage d\u2019\u00e9nergie et \u00e9mis davantage de carbone. Si ces chiffres, se rapportant \u00e0 une version donn\u00e9e d\u2019une application donn\u00e9e, peuvent \u00e0 premi\u00e8re vue appara\u00eetre comme relativement modestes, rappelons que la famille des langageurs est nombreuse, qu\u2019elle appartient elle-m\u00eame \u00e0 la famille plus large des mod\u00e8les de fondation, que tous ces mod\u00e8les sont chacun disponibles sous plusieurs versions et que chaque version est p\u00e9riodiquement r\u00e9entra\u00een\u00e9e\u00a0! Par cons\u00e9quent, afin d\u2019\u00e9valuer l\u2019impact total actuel \u00a0de l\u2019I.A. g\u00e9n\u00e9rative, multiplier l\u2019impact unitaire par un facteur mille n\u2019est sans doute pas d\u00e9raisonnable, et ce multiplicateur conna\u00eetra une croissance exponentielle\u00a0!<\/p>\n Dans une lettre ouverte publi\u00e9e le 28 mars 2023, un groupe de deux mille grands experts internationaux s\u2019est prononc\u00e9 en faveur d\u2019un moratoire sur l\u2019I.A.\u00a0: ils d\u00e9noncent \u00ab\u00a0des syst\u00e8mes num\u00e9riques toujours plus puissants que personne \u2013 pas m\u00eame leurs cr\u00e9ateurs \u2013 ne peuvent comprendre, pr\u00e9dire ou contr\u00f4ler de mani\u00e8re fiable\u00a0\u00bb. Face \u00e0 une course \u00ab\u00a0incontr\u00f4l\u00e9e\u00a0\u00bb des laboratoires d\u2019I.A., au risque de \u00ab\u00a0laisser les machines inonder les canaux d\u2019information de propagande et de mensonges\u00a0\u00bb, ils ont demand\u00e9 une pause de six mois afin de r\u00e9fl\u00e9chir aux \u00ab\u00a0cons\u00e9quences \u00e9thiques, sociales et politiques de l\u2019I.A. g\u00e9n\u00e9rative et \u00e0 la mise en place d\u2019une gouvernance adapt\u00e9e. Un tel moratoire, peu r\u00e9aliste, est rest\u00e9 sans suite.<\/p>\n Dans la m\u00eame veine, \u00e0 la fin du mois de mars 2023, l\u2019Italie a bloqu\u00e9 l\u2019utilisation de Chat GPT pendant un mois, au motif d\u2019une atteinte \u00e0 la l\u00e9gislation sur les donn\u00e9es personnelles\u00a0; le service est maintenant r\u00e9tabli apr\u00e8s que la soci\u00e9t\u00e9 Open AI s\u2019est d\u00fbment engag\u00e9e \u00e0 respecter cette l\u00e9gislation \u00e0 la lettre.<\/p>\n Il convient certes encadrer l\u2019innovation, mais pas au prix de l\u2019inhiber. Les menaces, bien r\u00e9elles, ne doivent ni occulter les opportunit\u00e9s, ni bien s\u00fbr \u00eatre n\u00e9glig\u00e9es. C\u2019est dans cet esprit que, dans toutes les parties du monde, sont actuellement pr\u00e9par\u00e9s et progressivement mis en place des m\u00e9canismes de r\u00e9gulation et de contr\u00f4le de l\u2019I.A.<\/p>\n En Chine, un cadre de r\u00e9gulation de l\u2019I.A. g\u00e9n\u00e9rative a \u00e9t\u00e9 adopt\u00e9 en avril 2023. Ce cadre impose aux fournisseurs de services d\u2019\u00e9radiquer la discrimination algorithmique, de se conformer aux droits de propri\u00e9t\u00e9 intellectuelle, de garantir l\u2019exactitude du contenu g\u00e9n\u00e9r\u00e9, ainsi que sa conformit\u00e9 aux \u00ab\u00a0valeurs socialistes fondamentales\u00a0\u00bb (ici affleure l\u2019\u00c9tat autoritaire !), de respecter l\u2019ensemble des droits d\u2019autrui, d\u2019effectuer et produire une \u00e9valuation de s\u00e9curit\u00e9, de rendre v\u00e9rifiable l\u2019identit\u00e9 des sources, d\u2019obtenir le consentement des personnes dont les donn\u00e9es sont utilis\u00e9es, de \u00ab\u00a0tatouer\u00a0\u00bb les contenus (watermarks<\/em>) afin de les rendre tra\u00e7ables.<\/p>\n Aux Etats-Unis, les initiatives sont nombreuses. L\u2019Administration Biden-Harris a annonc\u00e9, en mai 2023, de nouvelles mesures pour \u00ab\u00a0promouvoir une innovation responsable\u00a0\u00bb en mati\u00e8re d\u2019I.A., visant \u00e0 \u00ab\u00a0prot\u00e9ger les droits et la s\u00e9curit\u00e9 des Am\u00e9ricains\u00a0\u00bb. Ces mesures comprennent notamment la cr\u00e9ation d\u2019une plateforme publique de test de l\u2019I.A. g\u00e9n\u00e9rative, ou encore des lignes directrices pour l\u2019utilisation de celle-ci par les services gouvernementaux. La Maison Blanche a par ailleurs publi\u00e9 une \u00ab\u00a0charte des droits de l\u2019I.A.\u00a0\u00bb (Blueprint for an<\/em> AI<\/em> bill of rights<\/em>).<\/p>\n Le NIST (National Institute of Standards and Technology<\/em>) a dress\u00e9 une carte de gestion des risques, con\u00e7u un test d\u2019acceptabilit\u00e9 des syst\u00e8mes de reconnaissance faciale, ainsi qu\u2019une m\u00e9thode de traitement des biais cognitifs, \u00e0 laquelle ont aussi adh\u00e9r\u00e9 en avril 2023 la FTC (Federal Trade Commission<\/em>) le DOJ (Department of Justice<\/em>), l\u2019EEOC (Equal Employment Opportunity Commission<\/em>) et le CFPB (Consumer Financial Protection Bureau<\/em>). La NTIA (National Telecommunications and Information Administration<\/em>) a \u00e9galement d\u00e9fini une politique de responsabilit\u00e9 en mati\u00e8re d\u2019A.I. (IA<\/em> accountability policy<\/em>).<\/p>\n Un rapport de la NAIRRTF (National Artificial Intelligence Research Resource Task Force<\/em>), datant de janvier 2023, propose une curation au niveau f\u00e9d\u00e9ral des bases de donn\u00e9es servant \u00e0 entra\u00eener et tester les I.A. g\u00e9n\u00e9ratives. Enfin, aux niveaux des \u00c9tats et des municipalit\u00e9s, par exemple \u00e0 Washington, des lois locales r\u00e9glementent la reconnaissance faciale.<\/p>\n En Europe, deux textes sont en cours d\u2019\u00e9laboration, un R\u00e8glement de port\u00e9e g\u00e9n\u00e9rale sur l\u2019I.A. (A.I. Act<\/em>) et une Directive sp\u00e9cifique sur les questions de responsabilit\u00e9 (A.I. liability directive<\/em>). Le principe de r\u00e9gulation europ\u00e9enne de l\u2019I.A. repose sur un \u00e9tagement des risques, une application \u00e0 haut risque r\u00e9clamant une certification de s\u00e9curit\u00e9 labellis\u00e9e \u00ab\u00a0CE\u00a0\u00bb. Une I.A. g\u00e9n\u00e9rative \u00e0 usages multiples doit notamment satisfaire \u00e0 cette garantie, d\u00e8s lors qu\u2019elle est int\u00e9gr\u00e9e dans une application jug\u00e9e \u00e0 haut risque. Les exigences de conformit\u00e9 seront \u00e9tablies sur le fondement d\u2019une \u00e9valuation pr\u00e9alable des risques, d\u2019un plan de gestion de ces risques, et de contr\u00f4les humains. Une harmonisation des standards de s\u00e9curit\u00e9 est souhait\u00e9e. Pour les applications \u00e0 haut risque, par exemple dans le domaine de la justice, des prescriptions suppl\u00e9mentaires devraient pr\u00e9voir le d\u00e9voilement des donn\u00e9es utilis\u00e9es par l\u2019I.A. et la d\u00e9monstration de l\u2019existence d\u2019un lien de causalit\u00e9 entre la requ\u00eate d\u2019entr\u00e9e et le r\u00e9sultat fourni en sortie.<\/p>\n Les faiblesses de cette approche europ\u00e9enne r\u00e9sident dans le caract\u00e8re en partie arbitraire de la classification \u00e9tag\u00e9e des risques, dans l\u2019incapacit\u00e9 structurelle \u00e0 traiter un cygne noir \u2013 puisque la m\u00e9thodologie de gestion des risques peut uniquement prendre en compte des risques pr\u00e9-identifi\u00e9s \u2013, et dans la capacit\u00e9 douteuse de la certification CE \u00e0 v\u00e9ritablement garantir le respect de certains droits fondamentaux.<\/p>\n D\u2019apr\u00e8s Winston Maxwell, coordinateur du programme \u00ab\u00a0\u00c9thique op\u00e9rationnelle de l\u2019I.A. \u00bb \u00e0 Telecom Paris, voici comment pourrait op\u00e9rer une r\u00e9gulation de l\u2019I.A en France, en phase avec le dispositif europ\u00e9en (Maxwell, 2023).<\/p>\n S\u2019agissant tout d\u2019abord de la masse des risques de degr\u00e9 1<\/em> ou\u00a0 \u00ab\u00a0maux ordinaires de l\u2019I.A.\u00a0\u00bb, tels que la discrimination, l\u2019atteinte \u00e0 la vie priv\u00e9e, le manque de transparence et d\u2019explicabilit\u00e9, la manipulation des consommateurs, les erreurs logicielles, l\u2019absence d\u2019intervention humaine, les impacts n\u00e9gatifs sur l\u2019emploi ou sur l\u2019environnement, les atteintes ponctuelles aux droits fondamentaux, etc., quatre textes fondateurs offriront au r\u00e9gulateur une panoplie compl\u00e8te de rem\u00e8des adapt\u00e9s\u00a0: le R\u00e8glement AI Act<\/em>, la Directive A.I. Liability Act<\/em>, le RGPD (R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es) et le DSA (Digital Services Act<\/em>).<\/p>\n Cette r\u00e9gulation \u00ab\u00a0ordinaire\u00a0\u00bb devra n\u00e9anmoins se montrer anticipative et agile, afin de d\u00e9jouer le fameux dilemme de Collingridge, selon lequel il est \u00e0 la fois difficile de savoir ex ante<\/em> quoi et comment r\u00e9guler, avant d\u2019avoir exp\u00e9riment\u00e9 une technologie, et inefficace de r\u00e9guler ex post<\/em>, une fois les dommages caus\u00e9s (Collingridge, 1980). Par ailleurs, comme aux Etats-Unis la r\u00e9gulation pourra s\u2019appliquer en premier aux services gouvernementaux, \u00e0 travers les pratiques publiques d\u2019achats et de sous-traitance.<\/p>\n S\u2019agissant ensuite des risques de degr\u00e9 2<\/em>, li\u00e9s \u00e0 la d\u00e9sinformation (hors atteinte aux int\u00e9r\u00eats sup\u00e9rieurs de la Nation), la r\u00e9gulation devrait s\u2019attacher \u00e0 identifier les h\u00f4tes des contenus litigieux et \u00e0 leur imposer des obligations de d\u00e9tection et de blocage, en s\u2019appuyant \u00e9ventuellement sur une extension du DSA. Elle devrait \u00e9galement exiger des tests r\u00e9alis\u00e9s par des experts ind\u00e9pendants et un marquage num\u00e9rique des contenus (watermarking<\/em>).<\/p>\n S\u2019agissant enfin des risques de degr\u00e9 3<\/em>, cygne noir ou instabilit\u00e9 syst\u00e9mique susceptibles de compromettre la s\u00e9curit\u00e9 et la souverainet\u00e9 nationales, des dispositions sp\u00e9cifiques devront \u00eatre arr\u00eat\u00e9es. Premi\u00e8rement, pr\u00e9voir une \u00ab\u00a0exception de s\u00e9curit\u00e9 nationale\u00a0\u00bb \u00e0 la r\u00e9gulation ordinaire, sur le mod\u00e8le de l\u2019exception des OIV (Organismes d\u2019importance vitale) en mati\u00e8re de cybers\u00e9curit\u00e9. Deuxi\u00e8mement, mettre en place des ressources de calcul et des bases de donn\u00e9es prot\u00e9g\u00e9es, \u00e0 la mani\u00e8re de la NAIRRTF aux Etats-Unis (cf<\/em>. supra). Troisi\u00e8mement, activer des \u00ab\u00a0red teams<\/em>\u00a0\u00bb, cellules de r\u00e9flexion r\u00e9unissant des militaires, des experts scientifiques\u2026 et des auteurs de science-fiction, afin d\u2019imaginer des menaces in\u00e9dites \u00e9chappant aux plans de gestion de risques\u00a0! Quatri\u00e8mement, instaurer aupr\u00e8s du Premier Ministre un \u00ab\u00a0Comit\u00e9 d\u2019\u00e9valuation des risques de s\u00e9curit\u00e9 nationale induits par l\u2019I.A \u00e9mergente\u00a0\u00bb, conjuguant les expertises des r\u00e9gulateurs de la cybers\u00e9curit\u00e9 (ANSSI), des donn\u00e9es personnelles (CNIL), de la communication en ligne (ARCOM) et possiblement de la bio\u00e9thique (en raison de la similarit\u00e9 avec les risques li\u00e9s aux manipulations g\u00e9n\u00e9tiques). Cette instance serait assujettie au secret D\u00e9fense et elle rendrait au Parlement un rapport d\u2019activit\u00e9 annuel, comme tel est le cas pour la CNCTR (Commission nationale du contr\u00f4le des techniques de renseignement).<\/p>\n Certains entrevoient, dans l\u2019appellation \u00ab\u00a0intelligence artificielle\u00a0\u00bb une dimension presque magique, voire divine. Comme si l\u2019IA pouvait nous conduire au savoir parfait, total, dans la ligne du positivisme qui a r\u00e9gn\u00e9 au XIX\u00e8me<\/sup> si\u00e8cle. Or il ne faut pas perdre de vue que ce n\u2019est pas l\u2019IA qui nous conduit au savoir, mais plut\u00f4t nous qui conduisons l\u2019IA \u00e0 un ersatz de savoir, afin qu\u2019elle puisse le mettre \u00e0 notre service.<\/p>\n Il est cependant vrai que communiquer avec une intelligence artificielle conversationnelle\u00a0 nous place dans une situation hybride et paradoxale dans laquelle nous sommes \u00e0 la fois un sujet actif et un objet passif\u00a0: d\u2019un c\u00f4t\u00e9, nous utilisons un outil mis \u00e0 notre disposition et, de l\u2019autre, nous sommes en retour une mati\u00e8re pour cet outil, lui permettant de mettre en \u0153uvre et de d\u00e9velopper ses propres capacit\u00e9s. Jusqu\u2019o\u00f9 celles-ci iront-elles\u00a0?<\/p>\n Dans la premi\u00e8re partie de cet article, nous avons \u00e9voqu\u00e9 la diff\u00e9rence entre apprendre et comprendre et not\u00e9 comment une machine, \u00e0 force d\u2019apprendre \u00e0 partir d\u2019un gigantesque corpus encyclop\u00e9dique, peut donner l\u2019illusion qu\u2019elle comprend. Mais elle ne comprend pas au sens o\u00f9 nous, nous comprenons, car, comme le fait tr\u00e8s justement remarquer Luc Julia, le p\u00e8re du logiciel Siri, elle ne poss\u00e8de pas d\u2019inn\u00e9, pas d\u2019instinct (Julia, 2020, 2022). Contrairement \u00e0 nous, elle est donc incapable de conjuguer d\u00e9duction et intuition dans la r\u00e9solution d\u2019un probl\u00e8me. Si, dans le futur, des I.A. deviennent aptes \u00e0 se reproduire, c\u2019est-\u00e0-dire \u00e0 fabriquer et \u00e0 entra\u00eener d\u2019autres I.A., alors cette barri\u00e8re de l\u2019instinct pourrait \u00eatre en partie lev\u00e9e.<\/p>\n La machine finira-t-elle par d\u00e9passer son ma\u00eetre et en prendre le contr\u00f4le, ce que les transhumanistes nomment \u00ab\u00a0point de singularit\u00e9\u00a0\u00bb\u00a0? Il ne semble gu\u00e8re sens\u00e9 de le croire car un outil reste un outil, m\u00eame s\u2019il est artificiellement intelligent, et m\u00eame si son intelligence devenait g\u00e9n\u00e9raliste, en contraste avec la diversit\u00e9 d\u2019intelligences artificielles sp\u00e9cialis\u00e9es que nous connaissons aujourd\u2019hui.<\/p>\n En revanche, se pose concr\u00e8tement la question de la limite des effets de la technologie sur l\u2019humain. \u00c0 force de nous adjoindre le concours et le secours de machines, aboutirons-nous \u00e0 un homme ind\u00e9finiment augmentable et r\u00e9parable\u00a0? M\u00eame si les progr\u00e8s rapides de la m\u00e9decine, des biotechnologies et des nanotechnologies ouvrent clairement cette voie d\u2019une quatri\u00e8me r\u00e9volution bio-industrielle, l\u2019aspiration de l\u2019homme ne saurait se r\u00e9duire \u00e0 devenir lui-m\u00eame une machine, aussi parfaite soit-elle\u00a0! Une saine \u00e9thique devra veiller \u00e0 ce que\u00a0 les proth\u00e8ses cybern\u00e9tiques de demain ne cr\u00e9ent pas une fracture sociale inacceptable et ne se d\u00e9veloppent pas \u00e0 l\u2019encontre d\u2019une perspective r\u00e9solument humaniste.<\/p>\n Apr\u00e8s celle de la cognition, l\u2019\u00e9tape ultime pour une machine est celle de la conscience. Pourrait-elle prendre conscience de ce qu\u2019elle accomplit, ou du moins nous en donner fortement l\u2019impression\u00a0? L\u2019I.A. est d\u2019ores et d\u00e9j\u00e0 capable de reconna\u00eetre nos visages et d\u2019y d\u00e9tecter nos humeurs, nos \u00e9motions\u2026 qu\u2019elle est par cons\u00e9quent aussi en mesure de simuler. Quant \u00e0 les \u00e9prouver elle-m\u00eame, cela est une autre affaire, quoique le psychologue Serge Tisseron n\u2019h\u00e9site pas \u00e0 \u00e9voquer la possibilit\u00e9 d\u2019une empathie artificielle (Tisseron, 2022).<\/p>\n Plongeant dans la science-fiction en guise de conclusion, on pourrait imaginer configurer un r\u00e9seau de neurones avec un \u00e9tage conscient et un \u00e9tage inconscient, gouvern\u00e9 par des m\u00e9canismes freudiens de d\u00e9placement de l\u2019un vers l\u2019autre. Qui sait, peut-\u00eatre pourrait-on alors parler de la frustration d\u2019une machine, du r\u00eave d\u2019une I.A., de la souffrance d\u2019un robot, ainsi que nous y invitent des s\u00e9ries t\u00e9l\u00e9vis\u00e9es telles que Black Mirror<\/em> ou Philip K. Dick\u2019s electric dreams<\/em> ? Et si la robotique parvenait \u00e0 un tel degr\u00e9 de sophistication, on s\u2019inqui\u00e8terait tr\u00e8s certainement de ce que l\u2019I.A., jadis sp\u00e9cialis\u00e9e et g\u00e9n\u00e9rative, devenue g\u00e9n\u00e9raliste cr\u00e9ative, cr\u00e9atrice et consciente, \u00ab\u00a0n\u2019\u00e9prouve\u00a0 gu\u00e8re de scrupule\u00a0\u00bb \u00e0 violer sans vergogne les r\u00e8gles d\u2019Asimov\u00a0: (i) un robot ne peut porter atteinte \u00e0 un humain ni le mettre en danger\u00a0; (ii) un robot doit ob\u00e9ir aux ordres d\u2019un humain, sauf en cas de contradiction avec la r\u00e8gle pr\u00e9c\u00e9dente\u00a0; (iii) un robot doit prot\u00e9ger son existence, sauf en cas de contradiction avec l\u2019une ou l\u2019autre des deux r\u00e8gles pr\u00e9c\u00e9dentes. Pour peu que cette belle \u00ab\u00a0moralit\u00e9 artificielle\u00a0\u00bb ne s\u2019effondre, la cybercriminalit\u00e9 p\u00e9n\u00e9trera dans une autre dimension\u2026 celle que nous d\u00e9voile sans fard une saga comme Terminator !<\/p>\n <\/p>\n Mots-cl\u00e9s : Intelligence artificielle g\u00e9n\u00e9rative \u2013 Grands mod\u00e8les de langage \u2013 R\u00e9seaux de neurones \u2013 Apprentissage \u2013 Syntaxe \u2013 S\u00e9mantique \u2013 R\u00e9volution num\u00e9rique \u2013 R\u00e9gulation<\/em><\/p>\n ACAD\u00c9MIE DES TECHNOLOGIES, avril 2023, Prouesses et limites de l\u2019imitation artificielle de langages<\/em>, les agents conversationnels intelligents dont ChatGPT<\/em>, Avis de l\u2019Acad\u00e9mie.<\/p>\n ACAD\u00c9MIE DES TECHNOLOGIES, avril 2018, Renouveau de l\u2019intelligence artificielle et de l\u2019apprentissage automatique<\/em>, Rapport de l\u2019Acad\u00e9mie.<\/p>\n BOMASANI, Rishi et alii<\/em>, 2022, On the<\/em> Opportunities and Risks of Foundation Models<\/em>, Center for Research on Foundation Models (CRFM), Stanford Institute for Human Centered Artificial Intelligence (HAI).<\/p>\n BRONNER, G\u00e9rald, 2021, Apocalypse cognitive<\/em>, Humensis.<\/p>\n COLLINGRIDGE, David, 1980, The Social Control of Technology<\/em>, New York: St Martin\u2019s Press; London: Pinter.<\/p>\n JEAN, Aur\u00e9lie, 2019, De l<\/em>\u2019autre c\u00f4t\u00e9 de la machine\u00a0: voyage d\u2019une scientifique au pays des algorithmes<\/em>, Collection De Facto, \u00c9ditions de l\u2019Observatoire.<\/p>\n JULIA, Luc, 2020, L\u2019intelligence artificielle n\u2019existe pas<\/em>, J\u2019ai Lu.<\/p>\n JULIA, Luc, 2022, On va droit dans le mur<\/em>, First.<\/p>\n MAXWELL, Winston, 9 mai 2023, Regulation of Generative AI and Foundation Models, Pr\u00e9sentation \u00e0 l\u2019<\/em>Acad<\/em>\u00e9mie des technologies<\/em>.<\/p>\n MAXWELL, Winston, 2020, Comment am\u00e9liorer l\u2019explicabilit\u00e9 et la responsabilit\u00e9 des algorithmes\u00a0? Les Cahiers Louis Bachelier<\/em> (hal-02613141).<\/p>\n TALEB, Nassim, Nicholas, 2010, The Black Sawan<\/em>\u00a0<\/em>: The Impact of the Highly Improbable<\/em>, 2nd<\/sup> Edition (1st Edition 2007), London, Penguin.<\/p>\n TISSERON, Serge, 2022, Vivre dans les nouveaux mondes virtuels, concilier empathie et num\u00e9rique<\/em>, Dunod.<\/p>\n","protected":false},"excerpt":{"rendered":" Partie 2. Quels risques, quelles r\u00e9gulations ? L\u2019I.A. g\u00e9n\u00e9rative suscite des attentes parfois d\u00e9mesur\u00e9es\u2026 auxquelles font \u00e9cho des craintes souvent excessives et irraisonn\u00e9es. Entre ces extr\u00eames, il convient plut\u00f4t de voir en elle un instrument puissant qui n\u2019est pas sans dangers et r\u00e9clame donc une vigilance toute particuli\u00e8re. D\u00e9fauts et menaces de l\u2019I.A. […]<\/p>\n","protected":false},"author":229,"featured_media":7534,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[164],"tags":[],"class_list":["post-7531","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle","et-has-post-format-content","et_post_format-et-post-format-standard"],"_links":{"self":[{"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/posts\/7531","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7531"}],"version-history":[{"count":0,"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/posts\/7531\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/media\/7534"}],"wp:attachment":[{"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7531"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7531"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7531"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Tentatives de pause<\/em><\/h3>\n
Dispositifs de r\u00e9gulation \u00e0 travers le m<\/em>onde<\/em><\/h3>\n
Les contours d\u2019une r\u00e9gulation de l\u2019I.A. en France<\/em><\/h3>\n
Jusqu\u2019o\u00f9 iront les machines intelligentes\u00a0<\/em>?<\/em><\/h3>\n
\nR\u00e9f\u00e9rences<\/strong><\/h3>\n