Quel État de droit pour l’IA ? Biométrie, surveillance généralisée, protection des données personnelles, propriété intellectuelle : les IA génératives et le saut technologique qu’elles représentent nous font subitement basculer dans un univers qui jusqu’ici appartenait aux spéculations cyberpunks de la SF, de Gibson à Ph. K. Dick. Alors que la bataille technologique est probablement déjà perdue pour l’Europe, la question se porte sur la réglementation.
- Le Parlement européen doit trancher en plénière le 11 mai prochain sur sa position en la matière.
- Une analyse en profondeur du site spécialisé TechCrunch se penche sur les enjeux et contenus de cette position sur la réglementation de l’IA générative.
- Les députés devraient ainsi privilégier l’ajout d’exigences strictes à la loi elle-même.
- Pour éviter l’inflation législative, ne pas reporter l’IA générative à une législation d’application supplémentaire, comme l’avaient suggéré les États membres.
- Les députés devraient ainsi privilégier l’ajout d’exigences strictes à la loi elle-même.
- Les géants de la Big tech, dont Google et Microsoft, avaient fait pression pour que l’IA générative bénéficie d’une exception réglementaire dans les futures règles de l’UE sur l’IA.
- Selon l’avis actuel des députés, il y aurait trois niveaux de réglementation pour les modèles d’IA.
- Le 1e niveau s’appliquerait à toutes les IA à usage général et réglementerait les relations dans la chaîne de valeur de l’IA.
- Le 2e niveau concernerait les modèles fondamentaux en fixant des obligations spécifiques pour les fabricants de ces modèles de base
- Le 3e niveau ciblerait spécifiquement les IA génératives, telles que les grands modèles de langage ou les IA génératives artistiques et musicales, et fixerait des responsabilités spécifiques pour le type de contenu qu’elles peuvent produire et le matériel protégé par le droit d’auteur utilisé pour les former.
- Le projet de plan de la Commission classe les applications d’IA en fonction des niveaux de risque.
- La plupart des applications étant considérées comme présentant un risque faible et donc exemptées d’obligations légales.
- Toutefois, les applications présentant des risques pour la sécurité et/ou les droits fondamentaux, mais jugées gérables, seraient soumises à des obligations de conformité avant et après la mise sur le marché.
- Elles seraient aussi soumises à des mesures d’atténuation de la discrimination, avec des sanctions en cas de non-conformité.
- Le projet comprend également une catégorie pour les technologies telles que les chatbots et les deepfakes.
- Elles ne seraient pas soumises au même niveau d’exigences de conformité à des exigences de transparence.
- Le processus législatif ne s’arrête évidemment pas à la position du Parlement.
- La question est de savoir si les négociations avec le Conseil et la Commission pourront être conclues sous cette mandature, avant les prochaines élections en 2024.
- Selon l’avis actuel des députés, il y aurait trois niveaux de réglementation pour les modèles d’IA.