A défaut d’être pionnière en innovation technologique, l’Europe l’est décidément en matière de réglementation. Une position qui pourrait lui faire rater les prochains sauts technologiques selon certains analystes.
- Le 13 février 2024, le Parlement européen a confirmé l’accord sur la loi sur l’intelligence artificielle « AI Act », pour « bâtir l’avenir numérique de l’Europe ».
- Outre la régulation des pratiques à risques, l’AI Act ambitionne de stimuler l’innovation et faire de l’Europe « un leader dans le domaine de l’IA », en passant par la légifération et l’harmonisation.
- Pour certains, ce serait le « RGPD » de l’IA, en ce qu’il engloberait tout opérateur traitant sur le marché unique.
- Une comparaison qui ne plaide pas en faveur des ambitions innovatrices, tant le RGPD a pu être critiqué comme un frein en la matière.
- L’AI Act prohibe certaines applications d’IA tels que :
- les systèmes de catégorisation biométrique basés sur des caractéristiques sensibles, la récupération non ciblée d’images ou vidéos pour la reconnaissance faciale, la reconnaissance des émotions sur le lieu de travail et dans les écoles,
- ainsi que, la notation sociale, la police prédictive, et l’IA qui manipule le comportement humain ou exploite les vulnérabilités des personnes.
- La préoccupation principale : les systèmes d’identification biométrique, dits « RBI » dont l’usage est interdit pour les forces de l’ordre.
- L’utilisation de ces systèmes après coup (« post-remote RBI ») ne peut être appliquée que dans le cadre de la recherche ciblée d’une personne reconnue coupable, ou à l’encontre de laquelle il existe un réel risque d’avoir commis un crime grave.
- L’utilisation de systèmes d’identification biométrique en temps réel (« real-time RBI ») doit être limitée dans le temps et dans le lieu, à des fins énumérées exhaustivement par le texte.
- Textuellement, les dérogations paraissent comme limitant les pouvoirs de surveillance de l’État et contrant les abus de pouvoirs, mais il faudra rester vigilant quant à l’utilisation effective de ces exceptions.
- Toutefois, pour certains spécialistes, c’est un garde-fou trop faible, et il est à craindre que l’AI Act n’empêchera aucune des pratiques liberticides qu’il doit encadrer en amont.