Les fonctionnalités d'IA ManageBac+ permettent aux établissements scolaires de gérer l'accès des utilisateurs finaux aux grands modèles de langage, ou LLM.

Cette présentation technique explique les principaux principes qui sous-tendent l'utilisation responsable de l'IA dans ManageBac+ , notamment la manière dont les données sont gérées, dont les invites sont traitées et dont les mesures de protection sont appliquées.

Aperçu

ManageBac+ et Faria Education Group ont privilégié l'utilisation responsable et la sécurité lors de l'introduction de fonctionnalités d'intelligence artificielle générative.

• ManageBac+ ne partage pas d'informations personnelles identifiables avec les modèles LLM tiers.
• Les modèles LLM tiers ne peuvent accéder qu'aux données explicitement sélectionnées ou saisies par les utilisateurs finaux.
• Les invites des utilisateurs et les réponses de l'IA ne sont pas prises en compte pour l'entraînement des modèles LLM.
• Les accords de licence de tiers empêchent l'utilisation des invites utilisateur pour entraîner les modèles LLM.
• Les requêtes et les réponses sont enregistrées et ne sont accessibles qu'aux spécialistes formés, à des fins d'amélioration du service.

Concepts clés / Nouveautés

Protection des données

ManageBac+ AI est conçu de manière à ce que les informations personnelles ne soient pas partagées avec les modèles LLM tiers. Ces modèles externes ne peuvent accéder qu'au contenu explicitement sélectionné ou saisi par l'utilisateur final.

• Les informations permettant d'identifier une personne ne sont pas partagées avec les modèles LLM tiers.
• Seul le contenu sélectionné ou saisi par l'utilisateur est accessible aux modèles LLM tiers.
• Les invites et les réponses ne sont pas utilisées pour entraîner les modèles LLM.

Informatique

ManageBac+ ne transfère aucune donnée personnelle ou sensible entre les régions lors de l'application ou de l'utilisation des modèles LLM. La durée de conservation des données pour le service hébergeant le ou les modèles LLM est d'environ 30 jours.

protection

Toutes les requêtes envoyées aux modèles LLM sont soumises à des filtres qui utilisent des capacités de raisonnement basées sur l'IA afin de protéger les utilisateurs contre les contenus incendiaires ou nuisibles.

Si un utilisateur saisit une requête qui produirait un contenu en violation de ces mesures de protection, ManageBac+ AI renvoie un message indiquant qu'il ne peut pas satisfaire la demande.

Seul l'utilisateur final ayant soumis l'invite reçoit ce message. Aucune autre alerte ou notification n'est envoyée aux autres utilisateurs finaux ni au personnel de support ManageBac+ .

Ces filtres de protection étant également pris en charge par un modèle LLM, leurs performances sont soumises aux variations normales associées à cette technologie.

Ingénierie rapide

Les fonctionnalités basées sur l'IA sont complétées par du contenu additionnel géré par des équipes spécialisées afin de garantir une production de qualité. ManageBac+ AI peut ajuster les paramètres d'automatisation et les paramètres associés, tels que la température, pour améliorer la production au fil du temps.

Les informations transmises aux modèles LLM et qui influencent leur raisonnement comprennent :

• Messages utilisateur saisis directement en tapant ou en cliquant
• Messages système prédéterminés par les ingénieurs en messages système
• Les valeurs des paramètres, telles que la température

bûches

Toutes les requêtes soumises par les utilisateurs finaux aux modèles LLM, ainsi que les réponses correspondantes, sont enregistrées et accessibles uniquement aux spécialistes formés. Leur examen vise exclusivement à améliorer la réactivité du développement et l'expérience utilisateur.

Avertissements et notes importantes

• Les informations permettant d'identifier une personne ne sont pas partagées avec les modèles LLM tiers.
• La durée de conservation des données pour le service hébergeant le ou les modèles LLM est d'environ 30 jours.
• Seul l'utilisateur final qui soumet une invite sécurisée reçoit le message de refus.
• Aucune alerte ou notification supplémentaire n'est envoyée aux autres utilisateurs finaux ni au personnel de support ManageBac+ .
• Les performances de la protection peuvent varier car elle repose sur la technologie LLM.
• Les requêtes et les réponses ne sont accessibles qu'aux spécialistes formés et ne sont examinées que dans le but d'améliorer la réactivité technique et l'expérience utilisateur.