Vérifier ce que produit une IA : le devoir que l'architecture ne supprime pas
Trois causes d'erreur, nommément
L'hallucination. Le modèle produit un contenu qui n'a pas de fondement dans des données réelles, mais le présente comme un fait. Le risque augmente à mesure que le sujet est peu représenté dans l'entraînement — ce qui vise directement le droit suisse, marginal à l'échelle des corpus mondiaux.
La lacune d'entraînement. Le modèle ignore ce qui n'était pas dans ses données : une jurisprudence postérieure, une révision de loi, un usage local.
La complaisance. Le modèle ajuste sa réponse pour épouser le point de vue de l'utilisateur, même lorsque ce point de vue est objectivement biaisé. C'est la plus insidieuse, parce qu'elle récompense la question mal posée.
S'ajoutent les biais tenant au jeu de données d'entraînement, à la méthode d'entraînement elle-même et aux choix de modélisation.
La règle de responsabilité
Le mandataire répond de la mauvaise exécution de son mandat. Il ne peut pas se retrancher derrière l'outil : « l'IA s'est trompée » n'est pas un moyen de défense.
Lorsque l'IA est employée en accord avec le client — par exemple pour dépouiller un grand volume de pièces —, il est recommandé d'aborder en amont la responsabilité du résultat et de convenir, dans les limites du droit, d'une limitation de responsabilité.
Ce qu'une installation locale change, et ce qu'elle ne change pas
Ce qu'elle change : la source des réponses. Un dispositif qui interroge vos propres documents et cite le passage sur lequel il s'appuie rend la vérification rapide, parce que le lecteur peut remonter à la pièce. Un modèle qui répond de mémoire ne le permet pas.
Ce qu'elle change aussi : la traçabilité. Le journal d'accès permet de reconstituer ce qui a été consulté et quand — ce qui est un élément de preuve, pas seulement de contrôle.
Ce qu'elle ne change pas : le devoir de vérification reste entier. Un modèle installé chez vous hallucine comme un autre. Le gain porte sur la facilité de vérifier, jamais sur la dispense de vérifier.
Les textes cités
Responsabilité du mandataire — Le professionnel répond de la mauvaise exécution de son mandat et ne peut invoquer une erreur du système d'IA.
Chaque référence est donnée avec sa portée, sans interprétation. Le sens à lui donner dans votre situation relève de votre conseil.