Mener une appréciation des risques liés à l'IA : la méthode, pas à pas
La norme n'impose aucune méthode : elle impose un processus écrit, reproductible, et des résultats qui tiennent devant un auditeur. Voici un chemin qui y mène, sans matrice décorative ni registre recopié de la sécurité.
La clause 6.1.2 ne dit pas comment apprécier les risques. Elle dit ce que le processus doit garantir, et tout le reste est un choix de méthode — que vous devez écrire, puis tenir.
1. Écrire les critères avant de coter quoi que ce soit
C’est l’exigence de la clause 6.1.1, et c’est la première chose qu’un auditeur demande : sur quel barème ce registre a-t-il été construit ? Un jeu de critères utilisable contient :
- une échelle de gravité, dont chaque niveau est défini par des exemples ;
- une échelle de vraisemblance, pour les risques où elle est estimable ;
- la règle de combinaison qui donne un niveau de risque ;
- le seuil d’acceptation, au-delà duquel un risque doit être traité ;
- qui peut approuver l’acceptation d’un risque résiduel — la norme la confie à la direction désignée ;
- la fréquence de réexamen des critères eux-mêmes.
La gravité doit pouvoir se lire des deux côtés, puisque la clause 6.1.2 demande d’apprécier les conséquences pour l’organisation et pour les personnes. Une échelle en deux colonnes suffit. Celle-ci est un exemple à adapter, pas une échelle de la norme.
| Niveau | Pour l’organisation | Pour les personnes et la société |
|---|---|---|
| 1 · Faible | Gêne interne, sans effet durable | Désagrément réversible, sans effet sur les droits |
| 2 · Modérée | Perte ou retard limités, réclamations | Erreur corrigible touchant une personne, sans effet durable sur sa situation |
| 3 · Grave | Sanction, perte d’un client important, atteinte à la réputation | Décision injustifiée sur une personne — refus, exclusion —, atteinte à la vie privée |
| 4 · Critique | Mise en cause juridique majeure, arrêt d’une activité | Atteinte à la santé, à la sécurité ou à des droits fondamentaux, effets sur un groupe entier |
2. Partir des objectifs et des systèmes
Le point de départ n’est pas une liste de menaces génériques. C’est ce que l’organisation cherche à obtenir de l’IA — ses objectifs, au sens de la clause 6.2 — et les systèmes qui figurent dans son périmètre.
Trois matériaux doivent être sur la table avant la première séance : l’inventaire des systèmes d’IA, les objectifs IA, et les évaluations d’impact déjà réalisées. La norme permet expressément de s’appuyer sur ces dernières pour apprécier les conséquences d’un risque, et exige que leurs résultats soient pris en compte.
3. Repérer les risques
Pour chaque système, une grille de questions évite de n’apprécier que ce qu’on sait déjà craindre.
| Angle | Question à poser |
|---|---|
| Données | Les données d’entraînement, de test ou d’exécution sont-elles représentatives, à jour, d’origine connue ? |
| Automatisation | Le système décide-t-il seul, recommande-t-il, ou assiste-t-il une décision humaine ? |
| Transparence | Peut-on expliquer une sortie à la personne concernée, ou à un auditeur ? |
| Environnement | Le système fonctionne-t-il dans un contexte plus large ou plus changeant que celui qu’il a connu ? |
| Cycle de vie | Qui décide des mises à jour et du retrait, et comment un changement de version est-il repéré ? |
| Tiers | Quelle part du système dépend d’un fournisseur, et que se passe-t-il s’il change quelque chose ? |
| Maturité | La technologie est-elle récente — ou si éprouvée que plus personne ne la surveille ? |
| Usage | Que se passe-t-il si le système est employé en dehors de son usage prévu ? |
L’Annexe C, informative, propose des objectifs à préserver et des sources de risque dont s’inspirer ; c’est un point de départ que les auditeurs connaissent. Elle retient notamment le niveau d’automatisation et, de façon moins intuitive, la maturité d’une technologie : un système éprouvé que plus personne ne surveille est un risque, pas une garantie.
4. Formuler des risques exploitables
Un risque mal formulé ne se cote pas et ne se traite pas. Une formulation en quatre temps suffit : une cause, un événement, ses conséquences pour l’organisation, ses conséquences pour les personnes.
| Trop vague | Exploitable |
|---|---|
| Risque de biais | Parce que les données historiques sous-représentent certains profils, l’outil de présélection peut écarter des candidatures qualifiées d’un groupe donné : discrimination pour ces candidats, contentieux pour l’organisation |
| Hallucinations | Parce que les réponses générées ne sont pas relues avant envoi, un client peut recevoir une information erronée sur ses droits et agir en conséquence : préjudice pour le client, litige pour l’organisation |
| Dépendance au fournisseur | Parce que le modèle est appelé sans version épinglée, une mise à jour du fournisseur peut modifier le comportement du système sans que personne ne le remarque : décisions dégradées pour les personnes, écart de conformité pour l’organisation |
5. Apprécier les conséquences, pour tous
Pour chaque risque, cotez la gravité des deux côtés. Une règle simple, et défendable, consiste à retenir la plus élevée des deux : un risque grave pour les personnes et faible pour l’organisation reste un risque grave.
La vraisemblance se cote lorsqu’elle est estimable. Pour un système nouveau, sans historique, dites-le et argumentez qualitativement plutôt que d’afficher une probabilité inventée. La norme ne demande d’apprécier la vraisemblance que lorsque c’est applicable.
6. Évaluer et hiérarchiser
Comparez chaque niveau au seuil d’acceptation, et classez. Désignez pour chaque risque une personne qui en répond : la norme ne l’exige pas sous ce nom, mais un risque sans responsable n’est traité par personne.
Méfiez-vous de la fausse précision. Un risque coté 12 n’est pas plus grave qu’un risque coté 9 parce qu’on a multiplié deux chiffres : ce qui fait la criticité, c’est souvent la nature de ce qui est touché — une vie, un droit, un groupe. Un commentaire qualitatif dans le registre vaut mieux qu’un score sans justification.
| Système | Risque, en bref | Gravité organisation · personnes | Vraisemblance | Niveau | Décision | Responsable |
|---|---|---|---|---|---|---|
| Outil de présélection | Écart de traitement entre groupes de candidats | 3 · 4 | 2 | Élevé | Réduire : mesures par groupe, validation humaine, évaluation d’impact à jour | Direction des ressources humaines |
| Assistant du service client | Information erronée sur les droits d’un client | 3 · 3 | 3 | Élevé | Réduire : relecture des réponses sur les sujets contractuels | Responsable du service client |
| Traduction de documents internes | Contresens dans un document de travail | 1 · 1 | 3 | Faible | Accepter, avec relecture laissée aux équipes | Responsable IA |
7. Passer au traitement
L’appréciation débouche sur le traitement de la clause 6.1.3 : choisir pour chaque risque à traiter une option de traitement appropriée — la norme n’en dresse pas la liste ; en pratique, on réduit, on évite, on partage ou on accepte —, déterminer les mesures nécessaires, les comparer aux contrôles de l’Annexe A pour vérifier que rien n’a été omis, et établir la déclaration d’applicabilité et le plan de traitement.
Le plan de traitement et l’acceptation des risques résiduels sont tous deux approuvés par la direction désignée. Une acceptation que personne n’a signée n’est pas une acceptation. Le passage du registre à la déclaration d’applicabilité est détaillé dans le guide sur les 38 contrôles.
8. Rejouer l’appréciation
La clause 8.2 demande de refaire l’appréciation à intervalles planifiés, et lors des changements significatifs. Encore faut-il avoir écrit ce qu’est un changement significatif. Une liste de déclencheurs, dans la méthode, rend l’exigence applicable :
- un changement de l’usage prévu, ou un usage non anticipé ;
- un changement du niveau d’automatisation ou de la supervision humaine ;
- une nouvelle version de modèle, y compris imposée par un fournisseur ;
- un réentraînement, ou une modification substantielle des données ;
- une extension à une nouvelle population, un nouveau territoire ou une nouvelle juridiction ;
- le franchissement d’un seuil de surveillance ;
- un incident, ou un quasi-incident ;
- une évolution réglementaire applicable.
Pour que les résultats restent comparables, comme l’exige la clause 6.1.2, gardez la même méthode d’une appréciation à l’autre. Si vous la changez, ce changement de votre système de management se conduit de façon planifiée, au titre de la clause 6.3 — et mieux vaut en garder la trace, même si elle n’y est pas exigée.
Ce que la norme ne demande pas
Aucune méthode, aucune échelle, aucune quantification, aucun logiciel. Une matrice, une approche par scénarios ou une méthode dérivée d’ISO 31000 conviennent, à condition d’être écrites et appliquées de façon constante. La norme renvoie, pour la mise en œuvre du management du risque, aux lignes directrices d’ISO/IEC 23894, qui ne sont pas certifiables.