ManageBac+ AI 功能允许学校管理最终用户对大型语言模型 (LLM) 的访问。

本技术概述解释了支持ManageBac+中负责任地使用 AI 的主要原则，包括如何处理数据、如何处理提示以及如何应用保障措施。

概述

ManageBac+和Faria Education Group在引入生成式人工智能功能时，优先考虑了负责任的使用和安全性。

• ManageBac+不会与第三方 LLM 模型共享个人身份信息。
• 第三方LLM模型只能访问最终用户明确选择或输入的数据。
• 用户提示和 AI 响应不会被用于训练 LLM 模型。
• 第三方许可协议禁止使用用户提示来训练 LLM 模型。
• 查询和回复都会被记录下来，并且只有经过培训的专家才能出于服务改进的目的查看这些记录。

关键概念/最新动态

数据保护

ManageBac+ AI 的设计确保不会与第三方 LLM 模型共享个人身份信息。外部模型只能访问最终用户明确选择或输入的内容。

• 不会与第三方LLM模型共享个人身份信息。
• 只有用户选择或用户输入的内容才能被第三方LLM模型访问。
• 提示和响应不用于训练 LLM 模型。

数据处理

ManageBac+在 LLM 模型应用或使用过程中不会跨区域传输个人或敏感数据。托管 LLM 模型的服务的数据保留期限约为 30 天。

保障

所有发送给 LLM 模型的查询都会经过过滤器，这些过滤器利用人工智能推理能力来帮助保护用户免受煽动性或有害内容的侵害。

如果用户输入的提示会生成违反这些安全措施的内容， ManageBac+ AI 将返回一条消息，表明它无法满足该请求。

只有提交此提示的最终用户才会收到此消息。不会向其他最终用户或ManageBac+支持人员发送任何其他警报或通知。

由于这些安全过滤器也由 LLM 模型支持，因此它们的性能会受到与该技术相关的正常变化的影响。

快捷工程

人工智能功能辅以专业团队维护的额外内容，以帮助产出高质量的产品。ManageBac ManageBac+ AI 可根据需要调整工程设置及相关参数（例如温度），以持续提升产品性能。

影响LLM模型推理的信息包括：

• 用户提示信息可通过直接输入或点击的方式输入
• 系统提示由提示工程师预先设定。
• 参数值，例如温度

日志

所有最终用户向LLM模型提交的查询及其相应的响应都会被记录，并且只有经过培训的专家才能查看。这些记录仅用于改进响应式工程和用户体验。

警告和重要提示

• 不会与第三方LLM模型共享个人身份信息。
• 托管 LLM 模型或多个模型的服务的数据保留期约为 30 天。
• 只有提交安全提示的最终用户才会收到拒绝消息。
• 不会向其他最终用户或ManageBac+支持人员发送任何额外的警报或通知。
• 由于 LLM 技术的支持，安全防护性能可能会有所不同。
• 只有经过培训的专家才能查看查询和回复，并且仅出于改进快速工程和用户体验的目的进行审核。