Le cadre
Système d’IA à haut risque
Définition
Un système d’IA à haut risque est, au sens de l’AI Act, un système utilisé dans un domaine sensible, comme le recrutement, le crédit, l’éducation ou certaines infrastructures, soumis à des exigences renforcées.
Comment ça fonctionne
Ces exigences portent sur la gestion des risques, la qualité des données, la documentation, la supervision humaine et la robustesse.
Utiliser un assistant pour rédiger ou synthétiser n’en fait pas un système à haut risque. L’usage d’une IA pour trier des candidatures, en revanche, peut l’être.
En entreprise
Cartographiez vos usages : la grande majorité relèvent d’un risque limité. Les quelques cas sensibles méritent un examen juridique dédié.
AI Act et obligation de formationVoir aussi
- AI ActL’AI Act est le règlement européen (UE) 2024/1689 qui encadre la mise sur le marché et l’utilisation des systèmes d’IA dans l’Union, selon une approche par niveaux de risque.
- Vérification humaineLa vérification humaine est le principe selon lequel une personne compétente contrôle et valide le résultat produit par l’IA avant qu’il ne soit utilisé ou diffusé.
- RGPD et IALe RGPD s’applique dès qu’un outil d’IA traite des données personnelles : noms, coordonnées, informations sur des salariés ou des clients. Il impose une finalité claire, la minimisation des données et la sécurité.