L’Europe trouve un accord sur la régulation de l’intelligence artificielle

Au terme de longues négociations, les représentants des Vingt-Sept se sont entendus sur un projet de réglementation encadrant notamment les modèles d’IA générative.

Les négociations tripartites ont été longues mais elles ont bien abouti. Vendredi 8 décembre, le Conseil, la Commission et le Parlement européens ont trouvé un accord sur l’AI Act, le projet de réglementation de l’intelligence artificielle, notamment des modèles d’IA générative.

Les Vingt-Sept n’ont pas publié le texte approuvé par les trois parties. Et donc les compromis consentis pour répondre aux inquiétudes exprimées par plusieurs pays, dont la France et l’Allemagne qui redoutaient des règles trop strictes, pénalisant les start-up du continent au détriment des géants américains.

Règles graduées

En octobre, les négociateurs s’étaient entendus sur le principe de règles graduées, classant les modèles d’IA en trois catégories, selon leur taille et leur popularité. Au premier niveau, tous les modèles seront soumis à des obligations de transparence avant de pouvoir être lancés au sein de l’Union européenne. Leurs concepteurs devront notamment détailler le processus d’entraînement, indiquant quels contenus ont été utilisés. Ils devront aussi réaliser des tests pour s’assurer que les modèles ne dérapent pas trop facilement.

Des règles plus strictes s’appliqueront uniquement aux modèles “très performants” – qui seront déterminés par la puissance de calcul qui a été nécessaire pour les entraîner. Ils devront être testés par des experts extérieurs avant leur lancement. Ils seront ensuite soumis à des audits et à des contrôles menés par les autorités européennes.

Nouvel organisme européen

Enfin, les modèles de “grande échelle” devront également réaliser des études d’impact sur leurs risques et sur les mécanismes mis en place pour les limiter. Les services qui comptent plus de 45 millions d’utilisateurs ou plus de 10 000 clients professionnels sur le continent seront concernés.

La proposition prévoit aussi la création d’un nouvel organisme européen dédié à l’IA, qui sera chargé de faire appliquer la réglementation. Celui-ci aura notamment le droit, en dernier recours, d’interdire un service d’IA sur le continent. Des amendes sont également prévues en cas de non-respect par les sociétés du secteur.

L’identification biométrique restreinte

Au-delà de l’IA générative, le texte adopté en juin par le Parlement européen prévoyait aussi l’interdiction des “usages intrusifs et discriminatoires” de l’intelligence artificielle. Et notamment des systèmes d’identification biométrique en temps réel dans les lieux publics. Aucune exception n’est prévue, quand le projet de la Commission permettait d’utiliser de tels systèmes en cas d’enlèvement ou de menace terroriste.

Le projet limitait par ailleurs l’utilisation a posteriori de l’identification biométrique par les forces de police aux seuls “crimes graves”. Et seulement après l’autorisation d’un juge. Les systèmes de police prédictive sont aussi interdits, tout comme les systèmes de détection des émotions.

Enfin, le texte introduisait une série d’obligations de supervision humaine et d’évaluation pour les applications considérées à “haut risque” – celles qui présentent “un préjudice significatif pour la santé, la sécurité, les droits fondamentaux des personnes ou l’environnement”. Le Parlement avait ajouté dans cette catégorie les systèmes qui pourraient influencer des élections et les algorithmes de recommandation des réseaux sociaux comptant plus de 45 millions d’utilisateurs en Europe.

Source : usine-digitale.fr