L’utilisation controversée de l’IA par la police face à des preuves erronées dans l’interdiction des supporters de football israéliens

Les forces de police britanniques et l’utilisation controversée de l’IA

Récemment, une enquête a révélé que 21 forces de police à travers l’Angleterre continuent d’utiliser un outil d’intelligence artificielle (IA) développé par un fournisseur majeur, malgré un incident notoire qui a conduit à l’exclusion de supporters israéliens lors d’un match de football. Cette décision controversée a mis en lumière les risques associés à l’utilisation de l’IA dans des contextes critiques.

Un incident marquant : l’exclusion des supporters israéliens

En novembre dernier, la West Midlands Police (WMP) a décidé d’interdire les supporters de Maccabi Tel Aviv d’assister à un match contre Aston Villa, en se basant sur des informations erronées générées par l’IA. Cette décision a été justifiée par des preuves présentées dans un document d’intelligence, lequel contenait des informations sur un match qui n’avait jamais eu lieu. Après des dénégations initiales, la police a admis que cette « hallucination » de l’IA avait influencé sa décision. Cet incident a provoqué un tollé, conduisant à la démission du chef de la police de West Midlands sous la pression du gouvernement.

Les préoccupations des députés

Le week-end dernier, le Comité des affaires intérieures a exprimé des inquiétudes croissantes concernant l’utilisation de l’IA dans la police. Ils ont souligné que l’IA avait également produit des informations erronées concernant des incidents passés liés à un match controversé entre Maccabi Tel Aviv et un autre club à Amsterdam en 2024. Ces erreurs soulèvent des questions sur la fiabilité des outils d’IA dans des situations critiques où des décisions importantes sont prises.

Une approche désordonnée à travers le pays

Malgré les préoccupations soulevées, seulement huit des forces de police interrogées ont déclaré ne pas utiliser cet outil dans le cadre d’enquêtes. Cela souligne un manque de coordination et d’uniformité dans l’application des politiques d’IA à travers le pays. Les forces de police en Écosse et en Irlande du Nord, par exemple, ont choisi de ne pas utiliser cet outil, tandis que d’autres continuent de l’employer, renforçant ainsi une approche disparate.

Les mesures prises par les forces de police

La National Police Chief’s Council a affirmé qu’elle était confiante dans le fait que les avantages potentiels de l’utilisation de l’IA l’emportent sur les risques, à condition que les forces policières restent vigilantes dans leur utilisation. Les experts en IA recommandent une utilisation prudente et appropriée des outils d’IA, laissant aux forces locales la responsabilité de décider de leur application.

Parmi les forces de police qui défendent l’utilisation de l’IA, la Greater Manchester Police a déclaré avoir mis en place une politique robuste pour promouvoir cette technologie, visant à libérer du temps pour que les agents soient plus présents sur le terrain plutôt que derrière un bureau. West Yorkshire Police a également souligné qu’elle forme son personnel à utiliser l’IA de manière responsable.

Un besoin urgent de régulation

Simon Foster, le commissaire de police et de crime des West Midlands, a exprimé ses préoccupations concernant l’utilisation de l’IA par la WMP. Il a indiqué qu’il existait des lacunes significatives dans la gestion réglementaire de l’IA. Des officiers supérieurs n’étaient pas clairs sur la manière dont l’IA avait généré des preuves erronées, ce qui soulève des inquiétudes plus larges sur l’utilisation de cette technologie comme un outil de gain de temps, malgré les risques associés.

Une technologie en évolution

Les forces de police en Écosse, par exemple, mènent actuellement un essai de l’IA, en se concentrant sur l’amélioration de l’efficacité des processus administratifs, plutôt que sur les opérations policières. Cela montre une volonté d’équilibrer les considérations éthiques avec les devoirs de sécurité publique.

Réflexions sur l’avenir de l’IA dans la police

La situation actuelle soulève des questions essentielles sur l’utilisation de l’IA dans le domaine de la sécurité publique. Les forces de police doivent veiller à ce que ces technologies soient utilisées de manière éthique et responsable, tout en assurant la sécurité de la communauté. Un cadre de régulation solide est indispensable pour éviter des erreurs coûteuses et potentiellement préjudiciables.

La nécessité d’un dialogue continu sur l’utilisation de l’IA dans les forces de police est plus urgente que jamais. Les décisions basées sur des données erronées peuvent avoir des conséquences graves, et il est impératif que les forces de police prennent des mesures pour garantir la fiabilité de leurs outils technologiques.

En fin de compte, la technologie doit être un soutien aux décisions humaines, et non un substitut. La vigilance et la régulation sont les clés pour naviguer dans les défis posés par l’IA dans le secteur de la police.