Les usages de l’IA en matière de justice seront amenés à se développer, à condition de pouvoir utiliser de larges bases de données, aujourd’hui lacunaires. Au-delà de ces difficultés techniques, la clé ne réside-t-elle pas dans une meilleure acceptabilité sociale, s’appuyant sur l’éducation ?
C’est très juste : la réussite du déploiement des solutions l’IA est conditionnée par leur acceptabilité sociale. L’échec de StopCovid (la première version déployée pendant le premier confinement) en est un bon exemple : l’application s’est avérée peu efficace car peu de citoyens l’avaient téléchargée, probablement pour des raisons de confiance. Il est d’ailleurs intéressant de noter que le plan pour l’IA de la Commission européenne a pour ambition de faire advenir une « IA de confiance » plutôt que « IA fiable », un changement sémantique révélateur du caractère central de la confiance. Cette confiance en l’IA passe par l’éducation des citoyens tant sur les aspects techniques que sur les enjeux politiques et éthiques.
Vous écrivez que le terme de « police prédictive » peut renvoyer, selon un rapport de la Rand Corporation, à 4 objectifs : la prédiction des crimes ; la prédiction du type de délinquance ; la prédiction du type de délinquant ; la prédiction des victimes probables. Parmi ces objectifs, lesquels vous paraissent-ils les plus atteignables aujourd’hui ?
Cette catégorisation de la RAND Corporation permet d’illustrer le spectre large auquel le terme de « police prédictive » peut faire référence. Dans les faits, ces différents objectifs ne se valent pas ; certains sont carrément écartés des expérimentations menées en France car ils ne répondent pas aux objectifs de la police et de la gendarmerie, ou apparaissent peu efficace voire dangereux. C’est le cas de la prédiction des victimes probables, par exemple, ou de certains types de crimes.
Le plus porteur de ces objectifs car le plus aisément modélisable est celui qui dépend du type de délinquance et du lieu de commission d’une infraction. Nous disposons d’une quantité de donnée sur la délinquance passée, observée, que nous pouvons relier aux lieux où elle a été commise. Il est alors possible d’en tirer des régularités statistiques, qui permettent alors de mieux la comprendre, d’affecter les unités plus efficacement sur le territoire, avec un maillage plus fin, voire de la prévenir.
Dans votre conclusion, vous insistez sur la nécessité de promouvoir activement la souveraineté numérique. Peut-on encore échapper au risque de vassalisation aux Etats-Unis et à la Chine, qui semble presque inévitable à chaque nouvelle crise ?
L’Europe et la France ont pris un retard considérable sur les technologies d’IA en matière de sécurité en raison de positions de principe mais également d’un écosystème d’innovation trop peu développé. Or lorsqu’une menace se matérialise et rend nécessaire l’utilisation de ces technologies, il faut s’en remettre à des alternatives moins souveraines. C’est le cas par exemple de l’expérimentation de la reconnaissance faciale menée à Nice en 2019 avec le concours de la start up israélienne AnyVision, ou encore de l’externalisation par la DGSI du traitement de métadonnées sensibles à des fins de contre-terrorisme à la société américaine Palantir, pourtant financée à l’origine par le fonds de capital-risque de la CIA, In-Q-Tel. Il est regrettable qu’à ce jour, la France ne soit toujours pas parvenue à rectifier la situation en proposant une alternative souveraine, bien que des projets soient en cours (notamment portés par Thalès et Atos).
Il nous semble toutefois qu’il est encore possible et surtout souhaitable d’agir. Ces dernières années ont mené à un surcroît d’efforts dans le domaine de l’innovation, notamment depuis la création de BPI France en 2013, puis du fonds Definvest en 2017 qui associe la BPI et le ministère des armées pour financer des innovations de rupture dans le domaine de la défense. On a pu observer de premiers résultats significatifs, avec l’émergence d’entreprises comme Preligens pour l’analyse d’images, qui vend désormais ses services non seulement au ministère des armées, mais également à l’OTAN et aux États Unis. La France retrouve une volonté de produire des solutions souveraines mais il faudra du temps pour que l’écosystème arrive à maturité.
Enfin, ce devrait aussi être l’objectif de l’Union européenne, qui progresse vers cette idée de souveraineté technologique mais doit assumer une ambition d’ « Europe puissance », qui n’est pas dans sa grammaire habituelle. La France devrait profiter de sa présidence du Conseil de l’UE dès janvier prochain pour avancer dans cette direction.
EurAsia Prospective 