En mars 2023, les eurodéputés ont adopté un projet de loi visant à encadrer le développement de l’intelligence artificielle (IA) sur le sol européen : l’IA Act.
Cette première législation mondiale sur l’IA a été officiellement publiée au Journal officiel de l’Union européenne le 12 juillet 2024, résultat d’un processus législatif initié en 2021.
Cette législation harmonise les réglementations déjà existantes en matière d’IA et témoigne de la volonté de l’Union européenne de se doter d’un cadre juridique et législatif essentiel. Ceci en vue d’encadrer le développement et l’adoption de systèmes d’IA éthiques, transparents et sécurisés par les entreprises.
Dans cet article, nous abordons le lien entre l’ISO 42001 et l’IA Act afin de déployer un SMQ efficace qui maîtrise les risques liés à cette nouvelle technologie.
Que comprend cette législation ?
Les entreprises / associations / administrations, etc fournissant, distribuant ou déployant des systèmes ou des modèles d’intelligence artificielle sont directement concernées par cette nouvelle législation, dès lors que :
- Le système d’IA est mis sur le marché ou mis en service dans l’Union Européenne
- L’utilisateur est situé dans l’Union Européenne
- Le résultat est utilisé dans l’Union Européenne
Le règlement adopté par le Conseil européen classe les systèmes d’IA en 4 catégories de risques, qui fait écho aux risques mesurés par les normes ISO :
- Les systèmes d’IA à risque inacceptable (qui posent une menace, peuvent tromper, influencer etc), interdits dans l’Ue.
- Les systèmes d’IA à risque élevé (risque pour la santé, la sécurité ou les droits fondamentaux des personnes) qui traitent des données privées, gouvernementales etc.
- Les systèmes d’IA à risque limité (chatbots, systèmes de recommandations, applis deepfakes) qui doivent être transparentes avec leurs utilisateurs.
- Les systèmes d’IA à risque minimal (par exemple les filtres anti-spam).
Comment l’iso 42001 permet d’être en conformité avec l’IA Act ?
- Grâce à la mise en place d’un système de gestion des risques
- Une politique de gouvernance des contenus et des données
- L’apport d’une documentation technique
- La mise en place d’un système de management basé sur les principes de l’amélioration continue permettant de « structurer et promouvoir des pratiques éthiques et performantes dans le domaine de l’IA tout en minimisant ses éventuelles répercussions néfastes sur les individus et la société » (source AFNOR).
L’iso 42001 repose sur l’évaluation de 3 critères :
1. La Responsabilité
Cette étape est cruciale pour garantir que les décisions prises par les IA soient contrôlées, responsables et éthiques. En effet, les algorithmes peuvent prendre des décisions biaisées s’ils ne sont pas correctement calibrés.
2. La Fiabilité
Comment s’assurer que votre IA fonctionne conformément aux attentes ? Par exemple, vous avez développé un modèle d’IA pour prédire la demande des stocks de vos clients. Mais comment vérifier qu’il est fiable, non biaisé et non influencé par des facteurs externes et internes (malveillants ou non).
3. La Sécurité
La sécurité en intelligence artificielle ne se limite pas à la protection des données. Elle comprend également la protection contre les manipulations et attaques. Pour éviter les problèmes, le référentiel vous donne des clés pour mettre en place des mesures de sécurité robustes.
Quels sont les sanctions en cas de non respect de l’IA ACT ?
Imaginons que vous n’ayez pas déployé les principes de l’ISO 42001. Au-delà d’éventuelles mesures correctives, les autorités nationales et la Commission IA auront un pouvoir de sanction sous forme d’amendes, dont le montant dépendra de la nature des infractions :
- Non-respect des pratiques interdites en matière d’IA : amendes administratives pouvant atteindre 35 millions € ou 7 % du chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu. Pour les PME et les start-up, le montant le plus faible sera retenu.
- Non-respect d’autres dispositions : amendes administratives pouvant atteindre 15 millions € ou 3 % du chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu.
France Certification et l’IA Act
France Certification vous accompagne sur la compréhension de la norme ISO 42001 afin de vous permettre de déployer la norme en toute simplicité. N’hésitez pas à nous appeler au 08 00 20 02 68 afin d’échanger sur votre besoin et recevoir votre devis gratuit.
