{"id":5632,"date":"2021-01-21T07:25:20","date_gmt":"2021-01-21T05:25:20","guid":{"rendered":"http:\/\/variances.eu\/?p=5632"},"modified":"2021-01-21T08:49:36","modified_gmt":"2021-01-21T06:49:36","slug":"les-algorithmes-de-generation-de-contenu-servent-ils-uniquement-a-generer-des-deepfakes-comment-mieux-les-encadrer-entretien-avec-emilie-rannou","status":"publish","type":"post","link":"https:\/\/variances.eu\/?p=5632","title":{"rendered":"Les algorithmes de g\u00e9n\u00e9ration de contenu servent-ils uniquement \u00e0 g\u00e9n\u00e9rer des deepfakes ? Comment mieux les encadrer ? – Entretien avec Emilie Rannou"},"content":{"rendered":"

Les\u00a0deepfakes\u00a0sont un outil de manipulation dont\u00a0l’impact sur la soci\u00e9t\u00e9 est encore peu ma\u00eetris\u00e9. Leur existence et leur utilisation soul\u00e8vent de nombreuses questions d\u2019ordre\u00a0l\u00e9gal\u00a0et\u00a0\u00e9thique.\u00a0Alors que la technologie \u00e9volue,\u00a0il s\u2019av\u00e8re \u00e9galement de plus en plus compliqu\u00e9 d\u2019identifier un faux, alors qu\u2019il est urgent de pouvoir reconna\u00eetre le \u00ab\u00a0vrai\u00a0\u00bb. Face \u00e0 ces enjeux, le dernier rapport du Club Praxis, \u00ab\u00a0Deepfakes & Algorithmes\u00a0\u00bb, formule douze recommandations pour d\u00e9velopper une connaissance europ\u00e9enne des outils de d\u00e9tection de faux. Emilie Rannou (ENSAE 2007), qui a encadr\u00e9 l\u2019\u00e9laboration de ce rapport, r\u00e9pond aux questions de variances.eu.<\/p>\n

    \n
  1. Comment est n\u00e9 ce rapport\u00a0? <\/strong><\/li>\n<\/ol>\n

    J\u2019ai travaill\u00e9 quatre ans aux Etats-Unis et ai rejoint un think tank<\/em> franco-am\u00e9ricain, Praxis, fond\u00e9 en 2007 par Yann Coatanlem[1]<\/a> et regroupant des chercheurs, \u00e9conomistes, experts ind\u00e9pendants bas\u00e9s aux Etats-Unis qui se proposent d\u2019analyser des donn\u00e9es pour sugg\u00e9rer des politiques publiques innovantes. Nous avons entre autres publi\u00e9 un rapport sur l\u2019impact du num\u00e9rique sur le secteur de la sant\u00e9.<\/p>\n

    En 2019 j\u2019ai propos\u00e9 l\u2019id\u00e9e d\u2019un rapport sur les algorithmes de g\u00e9n\u00e9ration de contenu \u00e0 Praxis car ces enjeux me paraissaient essentiels pour l\u2019avenir de nos soci\u00e9t\u00e9s. Les aspects techniques sont passionnants et les applications multiples.<\/p>\n

    J\u2019ai donc rassembl\u00e9 un ensemble d\u2019experts int\u00e9ress\u00e9s par ce sujet pour se pencher sur les enjeux li\u00e9s aux algorithmes de g\u00e9n\u00e9ration de contenu et formuler des recommandations qu\u2019il nous paraissait pertinent d\u2019impl\u00e9menter \u00e0 un niveau europ\u00e9en. Le r\u00e9sultat en est un rapport tr\u00e8s d\u00e9taill\u00e9 (https:\/\/www.clubpraxis.com\/deepfakes-et-algorithmes<\/a><\/span><\/span>) , dont l\u2019\u00e9laboration a pris plus d\u2019un an, et qui aborde les questions techniques, \u00e9thiques, l\u00e9gales soulev\u00e9es par les deepfakes<\/em>.<\/p>\n

      \n
    1. Emilie, peux-tu nous dire ce que sont les deepfakes <\/em>? <\/strong><\/li>\n<\/ol>\n

      Ce sont de faux contenus g\u00e9n\u00e9r\u00e9s par des algorithmes d\u2019apprentissage profond, le deep learning<\/em> en anglais, d’o\u00f9 le nom de deepfake<\/em> : deep<\/em> pour profond et fake<\/em> pour faux. Mais peut-\u00eatre me demanderez-vous dans ce cas qu\u2019est-ce que le deep learning<\/em> ? C\u2019est une m\u00e9thode d\u2019apprentissage bas\u00e9e sur ce qu\u2019on appelle les r\u00e9seaux de neurones profonds, c\u2019est-\u00e0-dire des algorithmes d\u2019intelligence artificielle qui s\u2019inspirent du fonctionnement du cerveau, et plus particuli\u00e8rement du \u00a0transfert d\u2019information entre les neurones via les synapses\u00a0: une couche unique de neurones permet \u00e0 l\u2019algorithme d\u2019apprendre des r\u00e8gles simples (par exemple de classifier un mot en f\u00e9minin, masculin ou en neutre \u00e0 l\u2019aide d\u2019un apprentissage sur un dictionnaire) quand un r\u00e9seau de neurones profond se compose de plusieurs couches de neurones, permettant un apprentissage plus complexe, comme celui d\u2019un concept \u2013 par exemple d\u2019identifier une image comme celle d\u2019un chat, d\u2019un chien ou d\u2019un singe.<\/p>\n

      Si les deepfakes<\/em> peuvent \u00eatre de fausses vid\u00e9os, comme dans l\u2019exemple r\u00e9cent de la vid\u00e9o diffus\u00e9e sur Channel 4 o\u00f9 une fausse reine d\u2019Angleterre pr\u00e9sente ses v\u0153ux avant de terminer par une danse, nombreux sont ceux qui oublient que les deepfakes peuvent aussi \u00eatre de faux textes, de faux enregistrements audio, voire de fausses images.<\/p>\n

        \n
      1. On \u00e9voque surtout les deepfakes<\/em> pour souligner leurs applications malveillantes. Peux-tu nous en donner des exemples\u00a0? <\/strong><\/li>\n<\/ol>\n

        Les premi\u00e8res applications malveillantes se sont r\u00e9pandues en 2018. Il s\u2019agissait notamment de vid\u00e9os pornographiques ou humiliantes (deepfake porn<\/em>) reconstitu\u00e9es avec les visages de simples \u00e9tudiantes ou de stars – Scarlett Johansson entre autres a \u00e9t\u00e9 victime de ce genre de deepfake<\/em>.<\/p>\n

        Un autre risque appara\u00eet aujourd\u2019hui de plus en plus pr\u00e9gnant\u00a0: \u00a0la cr\u00e9ation de faux profils post\u00e9s sur Twitter, Facebook ou sur d\u2019autres r\u00e9seaux sociaux comme par exemple celui de \u00ab\u00a0Katie Jones\u00a0\u00bb, d\u00e9tect\u00e9 sur LinkedIn par Associated Press, qui\u00a0 a tr\u00e8s vraisemblablement \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par des GANs (Generative Adversarial Networks<\/em> –\u00a0 techniques de deepfake<\/em> sophistiqu\u00e9es).<\/p>\n

        \"\"<\/p>\n

        Nombre de ces faux profils sont en fait ce qu\u2019on appelle des bots<\/em>, c\u2019est-\u00e0-dire des robots programm\u00e9s pour publier des commentaires\u00a0 et l\u2019actualit\u00e9 r\u00e9cente a encore illustr\u00e9 l\u2019utilisation de ces faux profils pour \u00a0tenter d\u2019influencer des \u00e9lections locales.<\/p>\n

        Cette capacit\u00e9 \u00e0 cr\u00e9er de faux profils est d\u2019autant plus dangereuse que les deepfakes<\/em> s\u2019appliquent \u00e9galement \u00e0 des textes (les algorithmes de g\u00e9n\u00e9ration de texte comme BERT ou GPT3 d\u00e9velopp\u00e9s par Google d\u2019une part et Open AI d\u2019autre part sont les plus avanc\u00e9s aujourd\u2019hui), permettant par exemple de g\u00e9n\u00e9rer des commentaires \u00e0 large \u00e9chelle voire des \u00ab\u00a0discussions\u00a0\u00bb entre faux profils sur un forum \u2013 comme de faux articles de presse, dont le texte copi\u00e9 ci-dessous par exemple\u00a0:<\/p>\n

        \"\"<\/p>\n

        Le site \u00ab\u00a0this person does not exist\u00a0\u00bb<\/em> https:\/\/thispersondoesnotexist.com\/<\/a><\/span><\/span> a vocation \u00e0 sensibiliser \u00e0 ce sujet en montrant des photos de personnes g\u00e9n\u00e9r\u00e9es par de l\u2019IA. Deux \u00ab\u00a0hacktivistes\u00a0\u00bb anglais se sont aussi pench\u00e9s sur le sujet et ont cr\u00e9\u00e9 une vid\u00e9o mettant en sc\u00e8ne Mark Zuckerberg qui avoue avoir compris l\u2019int\u00e9r\u00eat de voler des milliers de donn\u00e9es gr\u00e2ce \u00e0 une organisation secr\u00e8te.<\/p>\n

        \"\"<\/p>\n

          \n
        1. Pourtant, les deepfakes<\/em> peuvent \u00e9galement donner lieu \u00e0 des applications utiles\u00a0?<\/strong><\/li>\n<\/ol>\n

          Il est important de souligner la diversit\u00e9 des applications plus positives pour la soci\u00e9t\u00e9. Ainsi, les premi\u00e8res applications des algorithmes de g\u00e9n\u00e9ration de contenu \u00e9taient ludiques. Par exemple, l\u2019application russe FaceApp permettait de faire vieillir une photo ou d\u2019ajouter un sourire sur un tableau\u00a0:<\/p>\n

          \"\"<\/p>\n

          Gr\u00e2ce \u00e0 cette technologie, des chercheurs de Samsung ont aussi fait revivre le fameux tableau de L\u00e9onard de Vinci, La Joconde.<\/p>\n

          \"\"<\/p>\n

           <\/p>\n

          Dans le domaine de la vid\u00e9o ils peuvent transf\u00e9rer un mouvement et faire danser une personne qui ne sait pas danser (https:\/\/www.youtube.com\/watch?v=TXc6-ZTtlHw<\/a><\/span><\/span>).<\/p>\n

          \"\"<\/p>\n

          Ces technologies de deepfake<\/em> sont utiles pour la restauration d\u2019image. Voici par exemple le r\u00e9sultat obtenu en utilisant des VAEs (Variational Auto Encoders<\/em>, https:\/\/arxiv.org\/pdf\/2009.07047v1.pdf<\/a><\/span><\/span>) :<\/p>\n

          \"\"<\/p>\n

          Elles sont aussi utiles pour remplacer un acteur par un autre, comme ci-dessous dans la s\u00e9rie \u00ab\u00a0Plus belle la vie\u00a0\u00bb (\u00e0 gauche l\u2019actrice r\u00e9elle et \u00e0 droite le r\u00e9sultat du deepfake<\/em>).<\/p>\n

          \"\"<\/p>\n

          D\u2019une mani\u00e8re g\u00e9n\u00e9rale ils permettent aussi de compenser le manque de donn\u00e9es existantes. Ceci peut s\u2019av\u00e9rer tr\u00e8s utile pour mieux pr\u00e9dire ou contr\u00f4ler un ph\u00e9nom\u00e8ne comme en cybers\u00e9curit\u00e9 ou en \u00e9pid\u00e9miologie. Par exemple, Gabriel Turinici, qui a particip\u00e9 au groupe de travail que j\u2019ai encadr\u00e9, m\u00e8ne des recherches sur la mani\u00e8re dont ces algorithmes peuvent \u00eatre utilis\u00e9s pour mieux pr\u00e9dire l\u2019impact d\u2019une \u00e9pid\u00e9mie de grippe.<\/p>\n

            \n
          1. Quelles sont les principales recommandations de ce rapport\u00a0? <\/strong><\/li>\n<\/ol>\n

            Ce rapport se penche sur les enjeux sociaux, l\u00e9gaux mais aussi techniques li\u00e9s aux deepfakes<\/em>, notamment pour lever la difficult\u00e9 de d\u00e9tection de faux.<\/p>\n

            Nous avons publi\u00e9 ce rapport juste avant la publication du DSA Digital Services Act, proposition de texte pour une r\u00e9gulation des g\u00e9ants du num\u00e9rique par la Commission Europ\u00e9enne, et nous avons \u00e9t\u00e9 surpris de voir que le DSA ne mentionnait pas les deepfakes<\/em> alors que le risque d\u2019ing\u00e9rence qu\u2019ils repr\u00e9sentent est significatif.<\/p>\n

            Tout d\u2019abord nous pensons que le plus urgent est d\u2019investir dans la recherche sur le sujet au niveau europ\u00e9en, \u00e0 travers une meilleure coordination europ\u00e9enne, par exemple en cr\u00e9ant une entit\u00e9 de recherche ax\u00e9e sur la compr\u00e9hension des outils de faux et le d\u00e9veloppement de techniques de d\u00e9tection de faux. Cette institution pourrait travailler en coordination avec l\u2019ENISA (Agence de l\u2019Union europ\u00e9enne pour la cyber-s\u00e9curit\u00e9). Un des objectifs de cette institution pourrait \u00eatre de d\u00e9velopper des standards de d\u00e9tection de faux, que les g\u00e9ants du num\u00e9rique seraient oblig\u00e9s d\u2019utiliser.<\/p>\n

            Ensuite, il nous parait essentiel de mettre en place un cadre l\u00e9gal plus clair pour p\u00e9naliser l\u2019utilisation malveillante de deepfakes<\/em>. Selon nous, l\u2019utilisation de deepfakes<\/em> devrait \u00eatre consid\u00e9r\u00e9e comme un facteur aggravant dans toute violation qui concerne le droit \u00e0 l\u2019image et le droit \u00e0 la propri\u00e9t\u00e9 notamment.<\/p>\n

            Enfin, pour prot\u00e9ger les citoyens, il est n\u00e9cessaire de mieux encadrer les plateformes internet et leurs utilisateurs. De nombreuses vid\u00e9os de deepfakes<\/em> ont \u00e9t\u00e9 post\u00e9es r\u00e9cemment pour sensibiliser les citoyens aux deepfakes<\/em> et leur dire de ne pas syst\u00e9matiquement croire ce qu\u2019ils voient\u00a0; mais comment savoir ce qu\u2019on peut croire ou non ?<\/p>\n

            A cette fin nous recommandons que les plateformes fassent preuve de plus de transparence, en imposant aux auteurs des posts de signaler l\u2019utilisation d\u2019un algorithme de g\u00e9n\u00e9ration de faux, que le contenu cr\u00e9\u00e9 soit fait pour un objectif malveillant ou non comme pour une simple parodie, \u00a0mais aussi qu\u2019elles mettent en place des mesures de sanctions dissuasives en cas de d\u00e9tection d\u2019un deepfake<\/em> non signal\u00e9 comme tel (limitation du nombre de posts voire suspension du compte).<\/p>\n

              \n
            1. Quelques mots pour terminer sur ta situation professionnelle actuelle\u00a0: tu travailles au sein d\u2019Ekimetrics, disposez-vous d\u2019outils de d\u00e9tection de faux dans ton entreprise\u00a0? <\/strong><\/li>\n<\/ol>\n

              Ekimetrics est une entreprise de data science fran\u00e7aise fond\u00e9e en 2006 qui accompagne les entreprises dans le d\u00e9veloppement de solutions d\u2019intelligence artificielle. Ekimetrics est leader europ\u00e9en dans ce domaine.\u00a0M\u00eame si nous avons encore aujourd\u2019hui peu de demandes de la part des entreprises sur des sujets li\u00e9s aux deepfakes,<\/em> nous les \u00e9tudions dans le cadre de nos projets de recherche.<\/p>\n

              Par construction, un algorithme de cr\u00e9ation de faux constitue \u00e9galement un outil pr\u00e9cieux pour d\u00e9tecter du faux. Notamment les GANs (Generative Adversarial Networks<\/em>) sont des algorithmes qui sont compos\u00e9s de deux sous-algorithmes, l\u2019un qui g\u00e9n\u00e8re un contenu et l\u2019autre qui d\u00e9tecte si le contenu est faux. Une fois l\u2019algorithme entrain\u00e9 pour g\u00e9n\u00e9rer un contenu r\u00e9aliste, il peut aussi \u00eatre utilis\u00e9 pour d\u00e9tecter si un contenu est faux\u00a0!<\/p>\n

              En plus de la possibilit\u00e9 d\u2019utiliser les algorithmes, nous ma\u00eetrisons des techniques de d\u00e9tection d\u2019anomalies qui permettent de d\u00e9tecter certains faux. Le faux profil LinkedIn d\u00e9crit plus haut a ainsi pu \u00eatre identifi\u00e9 comme faux gr\u00e2ce \u00e0 des incoh\u00e9rences visuelles comme d\u00e9taill\u00e9 ci-dessous.<\/p>\n

              Les algorithmes de g\u00e9n\u00e9ration de faux ne sont heureusement pas encore parfaits\u00a0!<\/p>\n

              \"\"<\/p>\n

               <\/p>\n","protected":false},"excerpt":{"rendered":"

              Les\u00a0deepfakes\u00a0sont un outil de manipulation dont\u00a0l’impact sur la soci\u00e9t\u00e9 est encore peu ma\u00eetris\u00e9. Leur existence et leur utilisation soul\u00e8vent de nombreuses questions d\u2019ordre\u00a0l\u00e9gal\u00a0et\u00a0\u00e9thique.\u00a0Alors que la technologie \u00e9volue,\u00a0il s\u2019av\u00e8re \u00e9galement de plus en plus compliqu\u00e9 d\u2019identifier un faux, alors qu\u2019il est urgent de pouvoir reconna\u00eetre le \u00ab\u00a0vrai\u00a0\u00bb. Face \u00e0 ces enjeux, le dernier rapport du Club […]<\/p>\n","protected":false},"author":340,"featured_media":5650,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[164],"tags":[],"class_list":["post-5632","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle","et-has-post-format-content","et_post_format-et-post-format-standard"],"_links":{"self":[{"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/posts\/5632","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/users\/340"}],"replies":[{"embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=5632"}],"version-history":[{"count":0,"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/posts\/5632\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=\/wp\/v2\/media\/5650"}],"wp:attachment":[{"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=5632"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=5632"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/variances.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=5632"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}