Aller au contenu

Confiance et gouvernance de l'IA

Méthode, garanties, limites et documents pour votre établissement

Notre méthode : chaque incident devient un garde-fou

EvalIA est développé par un enseignant, et corrigé comme on corrige une copie : en assumant les erreurs pour les faire disparaître. Quand un cas réel met le correcteur en défaut (une copie illisible, un barème inhabituel, une copie déjà annotée), l'incident est analysé, un garde-fou est conçu, il est vérifié par des tests automatisés qui empêchent sa régression, puis il protège tous les enseignants.

Ce registre présente les principales garanties issues de ce processus. Il ne liste pas tout : une partie de nos protections reste volontairement non documentée publiquement, comme le sont les dispositifs anti-fraude d'une banque.


Le registre des garanties

Lire la copie, pas l'imaginer

Le nom de l'élève est masqué avant l'analyse.

Avant tout envoi au modèle de correction, l'en-tête de la copie (nom, prénom, classe) est détecté et masqué automatiquement. En complément, nous recommandons de masquer le nom de famille sur la copie ; le prénom suffit au suivi.

Une copie illisible produit une abstention, jamais une note inventée.

Si le correcteur ne parvient pas à lire une production, il le dit. La copie est signalée à l'enseignant comme non évaluable, au lieu de recevoir une note plausible mais fabriquée. Nous préférons un « je ne sais pas » honnête à un 11/20 inventé.

Une copie vierge n'est pas notée.

Un sujet rendu sans production d'élève (feuille de sujet déposée telle quelle, copie blanche) est détecté avant notation : l'enseignant est prévenu, aucune note n'est fabriquée. Ce garde-fou est né d'un cas réel de juin 2026, où un dépôt d'élève ne contenait que le sujet.

Une copie déjà corrigée à la main est signalée.

Si une copie porte déjà les annotations d'un correcteur (stylo rouge, points, grille remplie), EvalIA la détecte, avertit l'enseignant, et consigne au correcteur de n'évaluer que la production originale de l'élève, jamais de recopier la correction existante. Ce garde-fou est né d'un incident de juillet 2026 : des copies déjà corrigées importées par erreur.

Respecter le barème de l'enseignant

Le barème de l'enseignant est la seule référence.

Aucun critère hors barème ne peut apparaître dans une note finale, et le total de points de référence est toujours celui du barème d'origine. Si le correcteur reformule un libellé en passant (un pluriel, une parenthèse), le critère reste rattaché au bon endroit du barème : une divergence de formulation ne peut ni effacer ni dédoubler un critère. Garde-fou consolidé après un cas réel de fin mai 2026.

Épreuves à sujets au choix : seul le sujet traité est noté.

Pour les épreuves qui proposent des sujets au choix de l'élève (rédaction du DNB de français, dissertation ou explication au bac de philosophie), seul le volet réellement traité par la copie est noté et affiché. Les critères du sujet non choisi n'apparaissent pas et ne comptent pas dans le total.

Un barème « amélioré » ne peut pas changer de sujet en douce.

Quand l'enseignant demande à l'IA d'améliorer un barème, une amélioration qui changerait le sujet, la discipline ou le niveau est refusée côté serveur, avec un message explicite. Le barème ne peut pas dériver silencieusement entre deux versions.

On peut prouver quel barème a noté quelle copie.

Chaque correction conserve une empreinte cryptographique du barème exactement utilisé. En cas de contestation, on peut établir mathématiquement quelle version du barème a servi à noter, y compris si le barème a été modifié depuis.

Noter juste, ou s'abstenir

Les QCM sont comptés par du code, pas par l'IA.

Quand un corrigé de QCM est fourni, le comptage des points est purement déterministe : un élève qui a dix bonnes réponses obtient exactement le score du barème, sans intervention du modèle au moment du calcul, sans variation possible.

Une note ne peut pas contredire son commentaire.

Des contrôles automatiques vérifient la cohérence interne de chaque correction : le niveau attribué à un critère, la fourchette de points correspondante et le commentaire doivent raconter la même histoire. Une note impossible (au-delà du maximum) est plafonnée, une contradiction est recadrée avant d'atteindre l'enseignant.

La même copie, le même barème, la même note.

Le pipeline de correction est paramétré pour être reproductible : rejouer la même copie avec le même barème produit le même résultat. Une contestation peut donc être vérifiée à l'identique.

L'enseignant d'abord

L'IA propose, l'enseignant décide, et tout est tracé.

Aucune note n'est communiquée à un élève sans validation de l'enseignant, qui peut modifier chaque point et chaque commentaire. Les actions sensibles sont journalisées. L'IA d'EvalIA n'a pas le dernier mot : elle prépare le travail de quelqu'un qui l'a toujours.


Les risques, dits honnêtement

Un modèle d'IA peut se tromper : mal lire une écriture, mal interpréter une consigne, proposer une note discutable. C'est pour cela qu'EvalIA est construit sur trois principes : s'abstenir plutôt qu'inventer quand la lecture est incertaine, recadrer par du code ce que le modèle propose (cohérence, bornes, respect du barème), et tout soumettre à l'enseignant, qui reste l'évaluateur. La correction IA est une proposition de travail, pas un verdict : exactement comme le brouillon d'un collègue qu'on relit.


Supervision humaine et traçabilité

  • Validation obligatoire : aucune note, aucune appréciation n'atteint un élève sans passer par l'enseignant.
  • Édition complète : chaque note, chaque commentaire peut être modifié ou rejeté.
  • Journal d'audit : les actions sensibles sont tracées.

Pour l'exercice des droits des personnes et le détail des mesures de protection des données, consultez la politique de confidentialité.


Documents pour votre établissement

L'usage d'EvalIA sur des données d'élèves s'inscrit dans le cadre de votre établissement, qui reste responsable de traitement. Le kit ci-dessous formalise cette relation (article 28 du RGPD), sans aucun engagement financier pour l'établissement : vous le remettez à votre chef d'établissement, et le dossier est conçu pour être validé avec le DPO académique.

L'AIPD complète de l'éditeur et l'annexe de classification au titre du règlement européen sur l'IA sont communicables sur demande à contact.EvalIA@oriantation.fr. Pour l'offre Établissement, consultez l'accord de sous-traitance.


Où nous en sommes avec le règlement européen sur l'IA

Nous considérons la correction de copies comme relevant des systèmes « à haut risque » du règlement européen sur l'IA (évaluation des acquis d'apprentissage) et nous l'assumons. Les obligations déjà applicables sont mises en œuvre : nos assistants conversationnels se présentent explicitement comme des IA aux élèves, et les images générées portent un marquage lisible par machine. Nous préparons les obligations des systèmes à haut risque, attendues pour décembre 2027, avec une analyse dédiée communicable sur demande.