Intelligence artificielle
L’IA est un nouvel outil de plus en présent dans nos métiers. Il est donc important d’en maîtriser les usages.
L’ISO 42001 (norme internationale) spécifie les exigences pour établir, mettre en œuvre et améliorer un système de management de l’intelligence artificielle (SMIA) au sein de votre entreprise.
Si votre entreprise propose ou utilise des produits ou des services sollicitant une IA, vous êtes concernés ! Notamment dans le cadre de l’IA Act (voir paragraphe en bas de page).
Cette norme repose sur l’évaluation de 3 critères :
1. La Responsabilité
Avec l’augmentation de l’utilisation de l’intelligence artificielle dans divers secteurs, il est crucial de garantir que les décisions prises par ces systèmes soient contrôlés, responsables et éthiques. En effet, les algorithmes peuvent prendre des décisions biaisées s’ils ne sont pas correctement surveillés.
2. La Fiabilité
Comment s’assurer que votre IA fonctionne conformément aux attentes ? Par exemple, vous avez développé un modèle d’IA pour prédire la demande de vos produits et vos stocks. Mais comment vérifier que ce modèle est fiable et qu’il continuera à fournir des prédictions précises dans des conditions variées ?
3. La Sécurité
La sécurité en intelligence artificielle ne se limite pas à la protection des données. Elle englobe également la protection contre les manipulations et les actes malveillants. Pour éviter les risques, la norme vous donne des clés pour mettre en place des mesures de sécurité robustes contre les tentatives de manipulation qui pourraient entraîner des décisions incorrectes / dangereuses.
Toutes les entreprises, des grands groupes aux TPE-PME, utilisant l’intelligence artificielle ou prévoyant de l’implémenter en interne.
Que vous utilisiez l’IA pour améliorer vos processus internes ou pour fournir des services à vos clients, la norme vous sera utile. Bien entendu, le niveau de contrôle et de sécurité à mettre en place variera en fonction de votre secteur d’activité.
⚠️ Risque inacceptable
Il s’agit des systèmes d’IA utilisés pour manipuler, exploiter des vulnérabilités, faire de la notation sociale, la catégorisation biométrique (ethnie, religion, bord politique…).
⚠️ Haut-risque
La plupart des IA qui rentrent dans cette catégorie sont déjà couvertes par des réglementations européennes (réglementation sur les dispositifs médicaux etc). Mais, de nouveaux domaines sont concernés comme l’éducation, la formation professionnelle, l’accès à des services privés essentiels (crédit, assurance) et les prestations publiques essentielles (santé, appels d’urgence, juridique).
⚠️ Risque spécifique
Il concerne les systèmes d’IA qui interagissent avec de vraies personnes, génèrent des contenus ou détectent des émotions. Il faut alors informer l’utilisateur qu’il interagit avec une IA.
⚠️ Risque associé aux IA d’usage général
Les développeurs doivent fournir un résumé détaillé et transparent des données d’entraînement et des simulations qu’ils ont utilisés, notamment pour s’assurer du respect des droits d’auteur.
⚠️ Risque systémique associé aux IA d’usage général
Pour les IA d’usage général ayant nécessité une puissance de calcul importante, des tests supplémentaires s’ajoutent (évaluation, atténuation des risques, consommation d’énergie, cybersécurité).
C’est ici que l‘ISO 42001 entre en jeu, vous permettant de vous conformer aux nouvelles obligations européennes :
