ManageBac+ AI 기능은 학교에서 대규모 언어 모델(LLM)에 대한 최종 사용자 접근 권한을 관리할 수 있도록 지원합니다.

이 기술 개요에서는 ManageBac+ 에서 AI를 책임감 있게 사용하는 데 도움이 되는 주요 원칙을 설명합니다. 여기에는 데이터 처리 방식, 프롬프트 처리 방식 및 보호 조치 적용 방식이 포함됩니다.

개요

ManageBac+ 와 Faria Education Group 생성형 인공지능 기능을 도입함에 있어 책임감 있는 사용과 안전을 최우선으로 고려했습니다.

• ManageBac+ 개인 식별 정보를 제3자 LLM 모델과 공유하지 않습니다.
• 타사 LLM 모델은 최종 사용자가 명시적으로 선택하거나 입력한 데이터에만 접근할 수 있습니다.
• 사용자 입력 내용과 AI 응답은 LLM 모델 학습에 사용되지 않습니다.
• 제3자 라이선스 계약으로 인해 사용자 프롬프트를 LLM 모델 학습에 사용할 수 없습니다.
• 문의 및 답변은 ​​기록되며, 서비스 개선 목적으로 교육을 받은 전문가만 열람할 수 있습니다.

핵심 개념 / 새로운 소식

데이터 보호

ManageBac+ AI는 개인 식별 정보가 제3자 LLM 모델과 공유되지 않도록 설계되었습니다. 외부 모델은 최종 사용자가 명시적으로 선택하거나 입력한 콘텐츠에만 접근할 수 있습니다.

• 개인 식별 정보는 제3자 LLM 모델과 공유되지 않습니다.
• 타사 LLM 모델은 사용자가 선택하거나 입력한 콘텐츠에만 접근할 수 있습니다.
• 프롬프트와 응답은 LLM 모델 학습에 사용되지 않습니다.

데이터 처리

ManageBac+ LLM 모델의 적용 또는 사용 과정에서 개인 정보나 민감한 데이터를 지역 간에 전송하지 않습니다. LLM 모델을 호스팅하는 서비스의 데이터 보존 기간은 약 30일입니다.

보호

LLM 모델로 전송되는 모든 쿼리는 AI 추론 기능을 사용하는 필터를 거쳐 사용자를 자극적이거나 유해한 콘텐츠로부터 보호합니다.

사용자가 이러한 보호 조치를 위반하는 콘텐츠를 생성하는 프롬프트를 입력하면 ManageBac+ AI는 요청을 처리할 수 없음을 나타내는 메시지를 반환합니다.

이 메시지는 프롬프트를 제출한 최종 사용자에게만 전송됩니다. 다른 최종 사용자나 ManageBac+ 지원 담당자에게는 추가 알림이나 공지가 전송되지 않습니다.

이러한 보호 필터는 LLM 모델에서도 지원되므로 해당 기술의 일반적인 변동 사항에 따라 성능이 달라질 수 있습니다.

프롬프트 엔지니어링

AI 기반 기능은 전문 팀이 관리하는 추가 콘텐츠로 보완되어 고품질 결과물을 생성합니다. ManageBac+ AI는 시간이 지남에 따라 결과물을 개선하기 위해 온도와 같은 관련 매개변수를 조정할 수 있습니다.

LLM 모델의 추론에 영향을 미치는 정보는 다음과 같습니다.

• 사용자가 직접 입력하거나 클릭하여 프롬프트를 입력합니다.
• 프롬프트 엔지니어가 미리 설정한 시스템 프롬프트
• 온도와 같은 매개변수 값

로그

최종 사용자가 LLM 모델에 제출하는 모든 질의와 그에 대한 응답은 기록되며, 교육을 받은 전문가만 열람할 수 있습니다. 이러한 정보는 신속한 엔지니어링 및 사용자 경험 개선 목적으로만 검토됩니다.

경고 및 중요 사항

• 개인 식별 정보는 제3자 LLM 모델과 공유되지 않습니다.
• LLM 모델을 호스팅하는 서비스의 데이터 보존 기간은 약 30일입니다.
• 보호된 프롬프트를 제출한 최종 사용자만 거부 메시지를 받습니다.
• 다른 최종 사용자나 ManageBac+ 지원 담당자에게는 추가적인 알림이나 공지가 전송되지 않습니다.
• LLM 기술의 지원 여부에 따라 보호 성능이 달라질 수 있습니다.
• 문의 및 답변은 ​​교육을 받은 전문가만 이용할 수 있으며, 신속한 엔지니어링 작업과 사용자 경험 개선을 위해서만 검토됩니다.