Utiliser l'IA de façon responsable¶
online:academy dispose de fonctions IA — l'assistant d'apprentissage IA (tuteur), l'évaluation assistée par IA des réponses en texte libre et la vérification qualité par IA des cours. Cette page est ton introduction obligatoire en tant que formateur:rice ou Customer-Admin (formation au règlement européen sur l'IA, Issue #221). Elle explique ce que l'IA sait faire, où sont ses limites et quelle responsabilité te reste.
Pourquoi c'est important¶
Dans le domaine de la formation, les évaluations sont considérées comme un usage à haut risque par le règlement européen sur l'IA. Cela ne veut pas dire que l'évaluation par IA est interdite — mais la décision finale doit revenir à un être humain, et les apprenant:es doivent savoir qu'une IA est intervenue. C'est exactement à cela que servent les fonctions ci-dessous.
Comment notre IA travaille¶
- Auto-hébergée, en Allemagne. Le modèle de langue tourne sur notre propre serveur dans le centre de données Hetzner. Aucune réponse de tes apprenant:es ne part chez OpenAI, Google ou d'autres services externes.
- Aucun entraînement avec vos données. Le modèle n'apprend pas à partir des réponses — il ne fait que les évaluer.
- Journalisée. Chaque appel IA est journalisé de façon infalsifiable (sans enregistrer le texte en clair, seulement une empreinte cryptographique).
Les trois fonctions et leurs limites¶
1. Évaluation IA des réponses en texte libre¶
L'IA propose un nombre de points et un retour. C'est une proposition, pas une note.
- ⚠️ L'IA peut se tromper — pour des réponses correctes sur le fond mais formulées de façon inhabituelle, en cas d'ironie, chez des personnes non natives ou pour des réponses très laconiques.
- ✅ Ta mission : vérifie les évaluations IA sous « Évaluations IA » dans le menu. Tu peux filtrer par plage de points (par ex. tous les cas limites 60-70 %) et valider ou remplacer chaque évaluation (modifier le nombre de points + le retour).
- 🔒 Pour les cours donnant lieu à un certificat, tu peux activer dans le cours « Les évaluations IA nécessitent la validation du formateur ». Ainsi, aucune évaluation IA ne compte pour l'achèvement avant que tu ne l'aies validée.
Règle : ne laisse pas passer les évaluations sans les avoir vérifiées. L'erreur la plus fréquente est de faire aveuglément confiance à l'IA — c'est précisément ce que la validation doit empêcher.
2. Assistant d'apprentissage IA (tuteur)¶
Un assistant de chat qui aide les apprenant:es sur les questions de compréhension.
- Il est identifié comme IA ; les apprenant:es voient un avertissement au premier appel.
- Il n'évalue pas et ne prend aucune décision.
- Les réponses peuvent être imprécises ou inventées (« hallucination »). Signale à tes apprenant:es qu'il faut recouper les affirmations importantes.
- Les conversations sont privées — toi, en tant que formateur:rice, tu ne les vois pas.
3. Vérification qualité par IA des cours¶
Évalue uniquement la structure et les métadonnées de ton cours (titre, description, construction des leçons) — pas la qualité médiatique des vidéos ou des contenus intégrés. Utilise-la comme source d'indices, pas comme un jugement.
Ce que tu dois à tes apprenant:es¶
- Transparence : l'identification se fait automatiquement — ne la contourne pas (par ex. en faisant passer un retour de l'IA pour le tien).
- Droit à une vérification humaine : si des apprenant:es contestent une évaluation IA, examine-la et corrige-la si besoin. C'est leur droit.
- Minimisation des données : demande aux apprenant:es de ne pas indiquer de données personnelles sensibles dans les réponses en texte libre.
Quand quelque chose ne va pas¶
- Évaluations IA systématiquement mauvaises/biaisées (par ex. toujours plus sévères pour certains groupes) → signaler à l'administration de la plateforme.
- Réponses du tuteur inappropriées ou fausses → les signaler également ; nous vérifions le modèle.
En bref¶
| L'IA propose | L'humain décide |
|---|---|
| Nombre de points + retour | Tu valides ou tu remplaces |
| Réponse dans le chat du tuteur | Les apprenant:es vérifient les affirmations importantes |
| Score de qualité | Tu juges le cours |
L'IA te décharge d'une partie du travail — la responsabilité te reste.