{"id":8250,"date":"2024-09-19T07:10:07","date_gmt":"2024-09-19T05:10:07","guid":{"rendered":"https:\/\/variances.eu\/?p=8250"},"modified":"2024-09-19T07:17:15","modified_gmt":"2024-09-19T05:17:15","slug":"faire-face-a-linvasion-du-faux-partie-2-les-remedes-technologiques-et-juridiques","status":"publish","type":"post","link":"https:\/\/variances.eu\/?p=8250","title":{"rendered":"Faire face \u00e0 l\u2019invasion du faux !* – Partie 2. Les rem\u00e8des technologiques et juridiques"},"content":{"rendered":"

Dans la premi\u00e8re partie de cet article<\/a><\/span><\/span>, nous avons dress\u00e9 un tableau des pathologies de l\u2019information, avant d\u2019examiner leurs effets sur la formation des opinions et le comportement des citoyens. Nous avons \u00e9galement discut\u00e9 d\u2019une \u00e9ventuelle mutation du virus \u00ab infox \u00bb, \u00e0 la faveur des d\u00e9veloppements de l\u2019intelligence artificielle, notamment g\u00e9n\u00e9rative. Dans cette seconde partie, nous montrons le r\u00f4le positif inversement jou\u00e9 par l\u2019IA dans la lutte contre l\u2019infox, avant de d\u00e9crire tr\u00e8s succinctement le cadre r\u00e9glementaire fran\u00e7ais et europ\u00e9en.<\/p>\n

Les outils de lutte contre la d\u00e9sinformation<\/strong><\/h3>\n

L\u2019IA, telle le pharm\u00e0kon<\/em> des Grecs anciens, est \u00e0 la fois poison et rem\u00e8de, venin et antidote\u00a0: si elle peut \u00eatre falsificatrice, elle sait aussi se faire r\u00e9paratrice. Du c\u00f4t\u00e9 face de la m\u00e9daille, l\u2019IA permet par exemple de rep\u00e9rer sur les r\u00e9seaux sociaux des \u00ab\u00a0comportements non authentiques coordonn\u00e9s\u00a0\u00bb, r\u00e9v\u00e9lant la pr\u00e9sence d\u2019un nid d\u2019agents conversationnels artificiels (chatbots<\/em>). Elle permet \u00e9galement d\u2019identifier des contenus de synth\u00e8se issus de l\u2019IA g\u00e9n\u00e9rative, quels qu\u2019en soient les supports\u00a0: sur cet aspect, les initiatives se multiplient en Europe et dans le Monde, \u00e9manant de l\u2019industrie comme des institutions publiques.<\/p>\n

Dans le cadre de la Coalition for Content Provenance and Authenticity<\/em> (C2PA)[1]<\/sup><\/a>, groupement professionnel visant \u00e0 instaurer un syst\u00e8me de Content Credentials<\/em>, Adobe a cr\u00e9\u00e9 un symbole pour inciter au marquage des contenus engendr\u00e9s par l\u2019IA (watermarking<\/em>), adopt\u00e9 par les principales plateformes\u00a0: Google, Microsoft ou Meta. Cependant, il est facile d\u2019\u00e9chapper \u00e0 ces d\u00e9marches volontaires et, plus ais\u00e9 encore, d\u2019ajouter de faux watermarks<\/em> \u00e0 d\u2019authentiques images.<\/p>\n

Des organisations \u00e0 but non lucratif, telles que TrueMedia<\/em>[2]<\/sup><\/a>, mettent \u00e0 la disposition des professionnels et des particuliers des outils de d\u00e9tection. Ces outils utilisent l\u2019apprentissage automatique et le traitement du langage naturel. Ils visent principalement \u00e0 rep\u00e9rer ce qui serait \u00ab\u00a0authentiquement\u00a0\u00bb d\u2019origine humaine. Cependant, ils ne fournissent que des conclusions probabilistes, laissant ainsi une grande marge d\u2019interpr\u00e9tation.<\/p>\n

Le projet europ\u00e9en vera.ai<\/em>, lanc\u00e9 en septembre 2022, a pour ambition de d\u00e9velopper de nouveaux outils multilingues de lutte contre la d\u00e9sinformation attach\u00e9e \u00e0 tout type de marqueur \u2013 texte, photo, vid\u00e9o, audio \u2013, en recourant \u00e0 des algorithmes et des m\u00e9thodes d\u2019intelligence artificielle[3]<\/sup><\/a>. Vera.ai d\u00e9veloppe et teste ses outils en collaboration avec des fact checkers<\/em>, dont 130 journalistes d\u2019investigation couvrant 85 pays. L\u2019Agence France-Presse (AFP) est fortement engag\u00e9e dans cette d\u00e9marche\u00a0: elle a cr\u00e9\u00e9 la structure Medialab pour participer \u00e0 des programmes d\u2019innovation et de recherche, notamment le navigateur InVID-WeVerify<\/em>, actuellement utilis\u00e9 par 90\u00a0000 internautes et 224 pays, dont l\u2019objectif est de v\u00e9rifier les contenus du web, singuli\u00e8rement sur les r\u00e9seaux sociaux, par la combinaison d\u2019une approche humaine participative, d\u2019algorithmes en open source<\/em> et de l\u2019apprentissage machine.<\/p>\n

Le papier blanc \u00ab\u00a0Generative AI and Disinformation\u00a0: Recent Advances, Challenges, and Opportunities\u00a0\u00bb<\/em>, co-\u00e9crit par AI4media, AI4TRUST, TITAN et vera.ai, identifie avec clart\u00e9 les d\u00e9fis et les limites de l\u2019IA au service de la lutte contre la m\u00e9sinformation, en distinguant les diff\u00e9rents m\u00e9diums concern\u00e9s (Bontheva, 2024). Qu\u2019en ressort-il principalement\u00a0?<\/p>\n

En premier lieu, les progr\u00e8s dans la d\u00e9tection d\u2019images et vid\u00e9os synth\u00e9tiques, bien que non n\u00e9gligeables, restent limit\u00e9s.<\/p>\n

\n

Vid<\/u>\u00e9os et images.<\/u> La d\u00e9tection d\u2019images et vid\u00e9os synth\u00e9tiques repose sur\u00a0l\u2019entrainement de mod\u00e8les de deep learning<\/em> \u00e0 l\u2019aide des bases de donn\u00e9es publiques les plus populaires, telle FaceForensics<\/em>\u00a0(base de 500 000 images contenant des visages provenant de 1004 vid\u00e9os, utilisable pour reconna\u00eetre des contrefa\u00e7ons d\u2019images ou de vid\u00e9os), ou encore ForgeryNet<\/em> (base de 2,9 millions d\u2019images et 221 247 vid\u00e9os, annot\u00e9es et classifi\u00e9es pour d\u00e9tecter les contrefa\u00e7ons faciales).<\/p>\n

Les architectures de d\u00e9tection sont des r\u00e9seaux convolutifs, tels que ResNets<\/em> (r\u00e9seaux de neurones r\u00e9siduels) ou, plus r\u00e9cemment, VisionTransformers<\/em> (d\u00e9composition d\u2019une image d\u2019entr\u00e9e en une s\u00e9rie de patchs<\/em> pour am\u00e9liorer la classification). Un outil de fragmentation des vid\u00e9os aliment\u00e9 par l\u2019IA, tr\u00e8s utilis\u00e9, permet d\u2019extraire des images cl\u00e9s qui sont ensuite soumises \u00e0 des moteurs de recherche, afin de v\u00e9rifier si elles sont d\u00e9j\u00e0 connues et index\u00e9es.<\/p>\n

Des avanc\u00e9es r\u00e9centes portent sur la scrutation de vid\u00e9os multi-identit\u00e9s, par exemple provenant de t\u00e9l\u00e9phones. Vera.ai s\u2019appuie sur les caract\u00e9ristiques audio et visuelles d\u2019une personne class\u00e9e \u00ab person of interest<\/em>\u00a0\u00bb, pour cr\u00e9er un d\u00e9tecteur de deep fake<\/em>. Si la d\u00e9tection est la plus avanc\u00e9e pour les vid\u00e9os et pour le son, des progr\u00e8s sont \u00e9galement accomplis dans la d\u00e9tection de photos synth\u00e9tiques.<\/p>\n

Cependant, ces diff\u00e9rentes perc\u00e9es demeurent embryonnaires. Certains outils, tel Adobe Firefly, \u00e9chappent encore \u00e0 la d\u00e9tection. Mais, surtout, chaque mod\u00e8le de d\u00e9tection est sp\u00e9cialis\u00e9. Il faudrait donc combiner une batterie de mod\u00e8les au sein d\u2019un syst\u00e8me global, afin de g\u00e9n\u00e9raliser la d\u00e9tection. Par ailleurs, les \u00ab\u00a0faux positifs\u00a0\u00bb, c\u2019est-\u00e0-dire les vid\u00e9os d\u00e9clar\u00e9es comme fausses, alors qu\u2019elles sont vraies, discr\u00e9ditent en partie la d\u00e9marche. Enfin, les d\u00e9fis techniques s\u2019accumulent\u00a0: obsolescence des outils en raison de l\u2019apparition de nouveaux formats d\u2019encodage\u00a0; manque de fiabilit\u00e9 face \u00e0 la faible qualit\u00e9 et le haut niveau de compression qui caract\u00e9risent les contenus sur internet\u00a0; et, tout \u00e0 l\u2019inverse, exigence d\u2019une grande puissance de calcul afin d\u2019examiner des vid\u00e9os longues en haute d\u00e9finition.<\/p>\n<\/div>\n

En deuxi\u00e8me lieu, l\u2019identification de contenus sonores synth\u00e9tiques p\u00e2tit \u00e0 ce stade d\u2019un d\u00e9faut de financement et de la disponibilit\u00e9 de bases de donn\u00e9es d\u2019entrainement, qui entravent la dynamique de cet axe d\u2019innovation.<\/p>\n

\n

Sons<\/u>. La d\u00e9tection de sons synth\u00e9tiques, \u00e0 travers les syst\u00e8mes Text-to-Speech<\/em> (TTS) ou Voice Conversion<\/em> (VC), est r\u00e9cente. Elle n\u2019est en effet devenue une priorit\u00e9 que lorsque sont apparus des premiers discours de synth\u00e8se suffisamment sophistiqu\u00e9s pour \u00eatre jug\u00e9s probl\u00e9matiques. Afin de satisfaire \u00e0 cette priorit\u00e9, il convient urgemment\u00a0: d\u2019une part, de b\u00e2tir un \u00e9cosyst\u00e8me robuste de recherche et de d\u00e9veloppement sur cette th\u00e9matique, au financement assur\u00e9\u00a0; d\u2019autre part, de disposer de bases de donn\u00e9es qui soient \u00e0 la fois conformes \u00e0 la r\u00e9glementation et de taille suffisante pour entrainer et tester les technologies de d\u00e9tection.<\/p>\n

En outre, plut\u00f4t que se concentrer uniquement sur la reconnaissance de l\u2019origine des contenus sonores, il serait pr\u00e9cieux de proc\u00e9der parall\u00e8lement \u00e0 des recherches linguistiques visant \u00e0 mieux cerner les m\u00e9canismes de manipulation par le langage oral, de mieux appr\u00e9hender la culture \u00e9nonciative\u00a0de la falsification.<\/p>\n<\/div>\n

En troisi\u00e8me lieu, la d\u00e9tection d\u2019\u00e9crits de synth\u00e8se s\u2019est jusqu\u2019ici focalis\u00e9e sur des contenus en langue anglaise.<\/p>\n

\n

\u00c9crits<\/u>. La d\u00e9tection de d\u00e9sinformations engendr\u00e9es par l\u2019IA sous un format \u00e9crit est une voie de recherche tr\u00e8s active. Les chercheurs ont montr\u00e9 que les textes de synth\u00e8se sont tellement fluides qu\u2019un humain ne peut gu\u00e8re les identifier, et peut m\u00eame les consid\u00e9rer comme plus fiables que des textes authentiques (Zellers et alii<\/em>, 2020). Les syst\u00e8mes de d\u00e9tection reposent sur la \u00ab\u00a0stylom\u00e9trie\u00a0\u00bb, ou reconnaissance des sp\u00e9cificit\u00e9s stylistiques d\u2019un auteur. Ils utilisent le deep learning<\/em> et la statistique\u00a0: hybrid\u00e9es, ces deux techniques sont performantes et savent tr\u00e8s bien d\u00e9tecter des formats longs, articles ou blogs artificiels.<\/p>\n

En revanche, la d\u00e9tection automatique appliqu\u00e9e \u00e0 des textes courts est d\u00e9faillante. Or elle devrait \u00eatre une priorit\u00e9, dans la mesure o\u00f9 les grands mod\u00e8les de langage (LLM) engendrent des messages courts de plus en plus \u00e9labor\u00e9s et cr\u00e9dibles, et o\u00f9 la multiplication des bots<\/em> pilot\u00e9s par l\u2019IA sur des plateformes telles que X cr\u00e9e un puissant vecteur de d\u00e9sinformation potentielle.<\/p>\n

Dans leur majorit\u00e9, les outils de d\u00e9tection ont \u00e9t\u00e9 exclusivement entrain\u00e9s et test\u00e9s sur des contenus r\u00e9dig\u00e9s en anglais. Les textes engendr\u00e9s par l\u2019IA dans d\u2019autres langues ne sont donc pas d\u00e9tect\u00e9s, ou pi\u00e8trement d\u00e9tect\u00e9s \u00e0 l\u2019aide d\u2019une approche exclusivement statistique. Il est par cons\u00e9quent \u00e0 craindre que les pays dont les langues sont les moins parl\u00e9es, pour lesquels les bases de donn\u00e9es sont les moins fournies, soient les plus cibl\u00e9s par des man\u0153uvres de d\u00e9sinformation. D\u2019o\u00f9 l\u2019ambition des initiatives europ\u00e9ennes VIGILANT et vera.ai de constituer un corpus d\u2019entrainement et une batterie de mod\u00e8les multilingues\u00a0: la cr\u00e9ation de bases de donn\u00e9es dans toutes les langues parl\u00e9es en Europe, dont certaines annot\u00e9es par l\u2019homme afin d\u2019am\u00e9liorer la performance, est d\u00e9sormais une imp\u00e9rieuse n\u00e9cessit\u00e9 pour l\u2019entra\u00eenement de mod\u00e8les europ\u00e9ens.<\/p>\n<\/div>\n

Plusieurs points sensibles sont de nature transversale, c\u2019est-\u00e0-dire ind\u00e9pendants du support\u00a0:<\/p>\n