Las funciones de ManageBac+ AI permiten a los colegios gestionar el acceso de los usuarios finales a modelos de lenguaje de gran tamaño, o LLM.

Este resumen técnico explica los principios principales que respaldan el uso responsable de la IA en ManageBac+, incluyendo cómo se gestionan los datos, cómo se procesan los prompts y cómo se aplican las medidas de protección.

Resumen

ManageBac+ y Faria Education Group han priorizado el uso responsable y la seguridad en la introducción de funciones de inteligencia artificial generativa.

• ManageBac+ no comparte información de identificación personal con modelos LLM de terceros.
• Los modelos LLM de terceros solo pueden acceder a los datos que los usuarios finales hayan seleccionado o introducido explícitamente.
• Los prompts de los usuarios y las respuestas de la IA no se revisan para entrenar modelos LLM.
• Los acuerdos de licencia con terceros impiden que los prompts de los usuarios se utilicen para entrenar modelos LLM.
• Las consultas y respuestas se registran y solo están disponibles para especialistas capacitados con fines de mejora del servicio.

Conceptos clave / Novedades

Protección de datos

ManageBac+ AI está diseñado para que la información de identificación personal no se comparta con modelos LLM de terceros. Los modelos externos solo pueden acceder al contenido que el usuario final haya seleccionado o introducido explícitamente.

• La información de identificación personal no se comparte con modelos LLM de terceros.
• Solo el contenido seleccionado o introducido por el usuario es accesible para modelos LLM de terceros.
• Los prompts y las respuestas no se utilizan para entrenar modelos LLM.

Procesamiento de datos

ManageBac+ no transfiere datos personales o sensibles entre regiones en la aplicación o el uso de modelos LLM. La política de retención de datos del servicio que aloja el modelo o los modelos LLM es de aproximadamente 30 días.

Protección

Todas las consultas enviadas a modelos LLM están sujetas a filtros que utilizan capacidades de razonamiento de IA para ayudar a proteger a los usuarios frente a contenido perjudicial o inflamatorio.

Si un usuario introduce un prompt que produciría contenido que infringe estas medidas de protección, ManageBac+ AI devuelve un mensaje indicando que no puede cumplir la solicitud.

Solo el usuario final que envió el prompt recibe este mensaje. No se envían alertas o notificaciones adicionales a otros usuarios finales ni al personal de soporte de ManageBac+.

Debido a que estos filtros de protección también están respaldados por un modelo LLM, su rendimiento está sujeto a las variaciones normales asociadas con esta tecnología.

Ingeniería de prompts

Las funciones habilitadas con IA se complementan con contenido adicional mantenido por equipos especializados para ayudar a generar resultados de calidad. ManageBac+ AI puede ajustar la ingeniería de prompts y los parámetros asociados, como la temperatura, para mejorar los resultados con el tiempo.

La información que se transmite a los modelos LLM y que afecta a su razonamiento incluye:

• Prompts de usuario introducidos directamente al escribir o hacer clic
• Prompts del sistema predefinidos por ingenieros de prompts
• Valores de parámetros, como la temperatura

Registros

Todas las consultas enviadas por los usuarios finales a los modelos LLM, y las respuestas correspondientes, se registran y solo están disponibles para especialistas capacitados. Solo se revisan con el propósito de mejorar la ingeniería de prompts y la experiencia del usuario.

Advertencias e información importante

• La información de identificación personal no se comparte con modelos LLM de terceros.
• El periodo de retención de datos del servicio que aloja el modelo o los modelos LLM es de aproximadamente 30 días.
• Solo el usuario final que envía un prompt sujeto a protección recibe el mensaje de rechazo.
• No se envían alertas o notificaciones adicionales a otros usuarios finales ni al personal de soporte de ManageBac+.
• El rendimiento de la protección puede variar porque está respaldado por tecnología LLM.
• Las consultas y respuestas solo están disponibles para especialistas capacitados y solo se revisan para mejorar la ingeniería de prompts y la experiencia del usuario.