Ces obligations sont prévues par le règlement européen sur l’intelligence artificielle du 13 juin 2024 (AI Act).

Les équipes doivent être formées à l’utilisation de l’IA sur le volet pratique et sur le volet législatif.

Les organismes de formation sont ainsi amenés à identifier le niveau de risque d’usage de l’IA notamment pour les systèmes utilisés pour les évaluations automatisées des apprenants ou encore les chatbots pédagogiques.

Ils doivent également identifier et recenser leurs outils d’IA en décrivant leur usage ainsi que les données mobilisées.

Ce règlement précise qu’un contrôle humain est systématique. Les organismes doivent ainsi désigner un référent qui assurera cette mission.

Le document prévoit aussi que les apprenants doivent être informés lorsqu’ils interagissent avec l’IA.

Enfin, des bonnes pratiques de conformité sont proposées par le règlement avec la mise en place d’outils tels qu’une fiche de conformité IA par exemple.

---