1
L'EU AI Act : une réglementation historique
En 2022, ChatGPT fait sa grande entrée en Europe. Depuis son lancement, on ne peut plus le nier : l'intelligence artificielle est une véritable révolution, autant dans le milieu professionnel que personnel. L'IA ouvre un champ des possibles encore à peine exploité, mais son utilisation soulève de nombreuses questions éthiques et des préoccupations relatives à la vie privée et à la sécurité.
Pour répondre à ces défis, l'Union européenne a adopté une législation historique : le Règlement (UE) 2024/1689 sur l'Intelligence Artificielle, dit EU AI Act.
Entré en vigueur le 1er août 2024, l'EU AI Act s'applique progressivement avec des échéances allant jusqu'en août 2027.
2
Pourquoi réglementer l'utilisation de l'IA ?
Face aux inquiétudes qu'a soulevé l'arrivée de l'intelligence artificielle en Europe, l'UE a commencé à discuter d'un projet de loi sur l'IA afin de réglementer son utilisation sur le marché européen. L'objectif principal est de garantir que l'IA est utilisée de manière éthique et respectueuse des droits fondamentaux de l'homme.
Cette nouvelle réglementation vise à créer un cadre juridique clair et cohérent pour promouvoir l'innovation tout en protégeant les intérêts des citoyens européens.
L'EU AI Act ne vise pas à interdire ou à freiner l'utilisation de l'IA, mais plutôt à établir des règles pour garantir son utilisation sûre et éthique.
3
En quoi consiste l'EU AI Act ?
L'EU AI Act a un objectif clair : assurer un développement centré sur l'humain et éthique de l'intelligence artificielle en Union européenne. Pour cela, l'UE introduit un cadre réglementaire et juridique commun qui assure l'utilisation éthique de l'IA sur le marché européen.
Concrètement, le cadre réglementaire de l'EU AI Act est basé sur un classement de l'IA en quatre niveaux de risques où chaque niveau a un degré de réglementation différent. Ce classement permet de cibler la régulation là où elle est le plus nécessaire, sans freiner l'innovation dans les usages à faible impact.
Par ailleurs, certaines pratiques sont strictement interdites car incompatibles avec les valeurs européennes :
- La manipulation du comportement humain
- Le scoring social automatisé
- Les systèmes qui trompent les utilisateurs en leur faisant croire qu'ils interagissent avec un être humain
4
La classification par niveaux de risque
L'EU AI Act organise les systèmes IA en quatre catégories. Chaque catégorie détermine les obligations applicables.
Risque minimal
Aucune obligation spécifique — La majorité des programmes (jeux vidéo, filtres spam…). Pas d'intervention obligatoire.
Risque limité
Obligation de transparence — Chatbots, deepfakes, IA interagissant avec des humains. L'utilisateur doit savoir qu'il a affaire à une IA.
Haut risque
Exigences strictes — IA dans l'éducation, le transport, la justice, la santé… Évaluation de conformité, traçabilité et documentation obligatoires.
Risque inacceptable
Strictement interdit — Notation sociale, manipulation comportementale, identification biométrique en temps réel dans l'espace public.
5
Nexcalia et l'EU AI Act
La plateforme Nexcalia est une solution SaaS d'accueil digital couvrant la prise de rendez-vous en ligne, la gestion des files d'attente et les bornes interactives. Elle est utilisée par des communes, des établissements de santé et des entreprises privées.
Classification de nos systèmes
Les fonctionnalités à caractère automatisé de Nexcalia — suggestion de créneaux, optimisation des flux, chatbot d'orientation, enquêtes de satisfaction — relèvent du risque minimal ou du risque limité au sens de l'EU AI Act.
Aucune fonctionnalité de Nexcalia ne relève du haut risque : notre plateforme ne prend pas de décisions contraignantes sur les droits des personnes. Elle facilite la mise en relation entre un usager et un service — la décision finale reste toujours humaine.
Aucune fonctionnalité ne relève du risque inacceptable : Nexcalia n'utilise ni scoring social, ni manipulation comportementale, ni identification biométrique.
Nexcalia est une solution 100% européenne, hébergée en Europe, conforme au RGPD. L'EU AI Act s'inscrit naturellement dans notre engagement pour un usage responsable de l'IA au service du parcours citoyen, patient et client.
6
Nos obligations concrètes
En tant que fournisseur de systèmes IA à risque limité, Nexcalia respecte les obligations de transparence définies par l'article 50 du règlement.
Transparence envers l'utilisateur
Lorsqu'un usager interagit avec un système automatisé (chatbot, borne), il est clairement informé qu'il a affaire à un traitement par IA et non à un être humain.
Accès à un interlocuteur humain
Chaque flux automatisé propose à l'usager la possibilité d'être orienté vers un agent humain. Aucun usager n'est contraint d'interagir uniquement avec une IA.
Protection des données personnelles
Nexcalia applique le principe de minimisation des données. Les traitements automatisés ne s'appuient que sur les données strictement nécessaires, en conformité avec le RGPD.
Surveillance continue des systèmes
Les performances et le comportement de nos modules automatisés sont monitorés en continu. Nos clients sont informés de tout changement significatif.
Littératie en IA des équipes
Conformément à l'obligation introduite par l'EU AI Act, les équipes Nexcalia qui développent ou supervisent des systèmes IA disposent d'un niveau de compétence adéquat sur les implications du règlement.