Cyberattaques, deepfake, escroqueries\u2026 Les criminels profitent des nouvelles possibilit\u00e9s offertes par l'intelligence artificielle pour commettre des crimes d'un nouveau genre. Face \u00e0 cette menace, l'\u00c9tat tente de trouver la parade. Au c\u0153ur du quartier d'affaires de La D\u00e9fense \u00e0 Puteaux, dans une tour de verre, rien n'indique le campus cyber de la gendarmerie. Dans une ambiance start-up, les gendarmes et les experts du minist\u00e8re de l'Int\u00e9rieur travaillent dans des open spaces sur des logiciels de derni\u00e8re g\u00e9n\u00e9ration. C'est ici que la gendarmerie \u00e9labore sa strat\u00e9gie sur l'intelligence artificielle (IA) et organise sa riposte face aux criminels. \u00e0 lire aussi Les eurod\u00e9put\u00e9s adoptent une loi encadrant l'intelligence artificielle pour la premi\u00e8re fois dans le monde Cette strat\u00e9gie "repose sur un certain nombre de piliers : la formation, l'acculturation jusqu'\u00e0 la th\u00e8se de doctorat", explique le g\u00e9n\u00e9ral Patrick Perrot, coordonnateur pour l'intelligence artificielle \u00e0 la gendarmerie. Ce g\u00e9n\u00e9ral de gendarmerie, qui dirige le campus, est ing\u00e9nieur de formation. Il travaille aux c\u00f4t\u00e9s de gendarmes sp\u00e9cialis\u00e9s et de scientifiques recrut\u00e9s par le minist\u00e8re de l'Int\u00e9rieur. Une trentaine de personnes d\u00e9veloppent des applications avec un seul but\u00a0: ne pas laisser aux criminels une longueur d'avance en mati\u00e8re d'intelligence artificielle.Des vid\u00e9os d'arnaques r\u00e9alis\u00e9es gr\u00e2ce \u00e0 l'IAParce que les faits sont l\u00e0 : d\u00e9j\u00e0 des crimes et d\u00e9lits sont commis gr\u00e2ce \u00e0 l'IA. Ces criminels ne sont pas que des "geeks" mais des "d\u00e9linquants d'opportunit\u00e9"\u00a0qui profitent des possibilit\u00e9s offertes par l'intelligence artificielle. Ces personnes "n'appartiennent pas \u00e0 la criminalit\u00e9 organis\u00e9e et ont acc\u00e8s \u00e0 des outils [d'IA] pour commettre des m\u00e9faits. La criminalit\u00e9 en la mati\u00e8re n'a pas explos\u00e9 mais on s'attend \u00e0 ce que \u00e7a arrive", analyse Patrick Perrot. Et de prendre l'exemple du Japon o\u00f9 26\u00a0millions d'euros se sont envol\u00e9s via un faux ordre de virement. Le proc\u00e9d\u00e9 : des vid\u00e9os ont \u00e9t\u00e9 envoy\u00e9es aux \u00e9quipes du service de comptabilit\u00e9 d'une grosse soci\u00e9t\u00e9. Dans ces vid\u00e9os, des responsables de la soci\u00e9t\u00e9 en question que les comptables connaissaient. Ces derniers ont demand\u00e9 de faire des versements, sauf qu'il s'agissait d'un deepfake\u00a0: une vid\u00e9o r\u00e9alis\u00e9e gr\u00e2ce \u00e0 des trucages.C'est pourquoi les enqu\u00eateurs "ont le devoir d'anticiper", indique le g\u00e9n\u00e9ral Perrot, gr\u00e2ce donc \u00e0 "des outils sur mesure". Ce jour-l\u00e0, les militaires d\u00e9veloppent un logiciel capable de vieillir \u00e0 la perfection les criminels recherch\u00e9s. Ici \u00e0 l'\u00e9cran, sur dix clich\u00e9s diff\u00e9rents, le visage vieilli progressivement d'un homme bien connu des services de police, recherch\u00e9 pour avoir tu\u00e9 en\u00a02011 \u00e0 Nantes cinq de ses proches. "Vous connaissez certainement Xavier Dupont de Ligonn\u00e8s, qu'on a vieilli de quelques ann\u00e9es, puisque \u00e7a fait quelques ann\u00e9es qu'il a disparu. Les images sont statistiquement probables, on a quelque chose qui est tr\u00e8s vraisemblable, d\u00e9crit le gendarme. Ces m\u00e9thodes de vieillissement de personnes ne sont pas nouvelles mais elles sont beaucoup plus performantes en utilisant ces nouvelles m\u00e9thodes d'IA g\u00e9n\u00e9ratives." Dupont de Ligonn\u00e8s vieilli gr\u00e2ce \u00e0 l'IA, au p\u00f4le cyber du minist\u00e8re de l'Interieur. (AURELIEN THIRARD \/ RADIO FRANCE) Dans ce cyber campus o\u00f9 se m\u00ealent enqu\u00eates et recherche, les gendarmes cherchent \u00e0 r\u00e9pondre \u00e0 des questions qui jusque-l\u00e0 relevaient de la science-fiction : gr\u00e2ce \u00e0 l'IA, pourra-t-on pr\u00e9dire des crimes\u00a0? Pourra-t-on d\u00e9tecter le mensonge lors d'une garde \u00e0 vue\u00a0? "\u00c0\u00a0la vitesse o\u00f9 va l'intelligence artificielle, on peut tout imaginer", sourit Patrick Perrot. "Aujourd'hui on ne peut pas le faire, temporise-t-il. Je crois que sur le mensonge on est sur une telle pluralit\u00e9 d'\u00e9motions, de manipulation intellectuelle que ce ne sera pas forc\u00e9ment facile \u00e0 d\u00e9tecter".Une charte \u00e9thique \u00e9labor\u00e9eEn revanche, il est possible aujourd'hui, selon ce g\u00e9n\u00e9ral, d'infiltrer des groupes criminels gr\u00e2ce \u00e0 l'intelligence artificielle. "On a des exemples d'infiltration dans le domaine cyber, de messageries crypt\u00e9es qu'a r\u00e9alis\u00e9 la gendarmerie et ce sont des beaux succ\u00e8s parce qu'on se rend compte notamment dans le champ cyber que la criminalit\u00e9 est largement internationale", d\u00e9crypte le gendarme. L'IA int\u00e9resse les enqu\u00eateurs souvent confront\u00e9s \u00e0 des heures et des heures d'\u00e9coutes t\u00e9l\u00e9phoniques. "C'est aller \u00e0 l'essentiel. Si on veut savoir \u00e0 quel moment on parle pr\u00e9cis\u00e9ment de stup\u00e9fiants -\u00a0je vous rassure les criminels n'utilisent pas forc\u00e9ment le terme de stup\u00e9fiants mais ils ont des mots-cl\u00e9s\u00a0-,on sera capable de d\u00e9tecter ces mots-cl\u00e9s par l'intelligence artificielle. Et \u00e7a, pour nous c'est un vrai plus parce qu'on va beaucoup plus vite", analyse Patrick Perrot.Et l\u00e0 intervient une question essentielle\u00a0: jusqu'o\u00f9 les forces de l'ordre peuvent-elles utiliser l'intelligence artificielle\u00a0? Une charte \u00e9thique a \u00e9t\u00e9 \u00e9labor\u00e9e, r\u00e9pond la gendarmerie. Une charte \u00e9crite par une juriste pr\u00e9sente sur ce campus et qui met l'humain au c\u0153ur de l'IA, selon Patrick Perrot. "Quand on met un syst\u00e8me d'intelligence artificielle, ce qu'il faut comprendre c'est qu'il ne va pas fonctionner \u00e0 100% de son potentiel. Donc il faut qu'on ait l'humain pour le faire monter en performances, et une fois que c'est le cas, il faut aussi s'assurer qu'il ne diverge pas", pr\u00e9vient-il."On a l'exemple du chabot de Microsoft il y a quelques ann\u00e9es, qui en quelques heures est devenue antis\u00e9mite et raciste parce qu'il a compl\u00e8tement d\u00e9riv\u00e9 par rapport aux donn\u00e9es qu'il a ingurgit\u00e9es. On n'a pas le droit \u00e0 \u00e7a dans le domaine de la s\u00e9curit\u00e9 int\u00e9rieure."Patrick Perrot, coordonnateur pour l'intelligence artificielle \u00e0 la gendarmerie\u00e0 franceinfoAujourd'hui le cyber campus de la gendarmerie \u00e0 La D\u00e9fense compte une trentaine de personnes, un effectif encore loin de ceux des g\u00e9ants du num\u00e9rique, les Gafas, \u00e0 la pointe de l'IA. C'est pourquoi ces logiciels utilis\u00e9s par les gendarmes sont cr\u00e9\u00e9s en partenariat avec des universit\u00e9s, avec des think tanks mais aussi en lien avec des entreprises priv\u00e9es. Les donn\u00e9es, assure-t-on \u00e0 la gendarmerie, restent entre les mains de l'\u00c9tat.