Miro AI 모더레이션을 통해 회사 관리자는 잠재적으로 유해하거나 부적절한 출력을 초래할 수 있는 필터링 프롬프트의 수준을 조정할 수 있습니다. 조직 전체에서 Miro AI 모더레이션의 민감도를 제어하고 혐오, 성적 콘텐츠, 폭력, 자해 등의 카테고리를 필터링할 수 있습니다. 이를 통해 조직의 요구 사항, 정책 및 위험 감수성과 Miro AI 사용을 조정할 수 있습니다.
참고: 조직이 자체 LLM 제공업체(예: OpenAI와의 직접 통합)를 연결하는 경우 모더레이션 선택기가 비활성화되며 해당 통합에 대해 이전에 선택한 수준은 무시됩니다.
사전 요구 사항
- Enterprise Guard 애드온을 보유하고 있는지 확인하세요.
- 구성하려는 조직의 회사 관리자인지 확인하세요.
- 적절한 시작 수준을 선택할 수 있도록 거버넌스 및 정책 요구 사항을 검토하세요. 대부분의 조직에는 기본값이 권장됩니다.
Miro AI 모더레이션 수준 설정 또는 업데이트
- Miro에서 조직 설정을 엽니다.
- Miro AI > 모더레이션 으로 이동합니다.
- 단계를 선택합니다:
- 엄격: 기본 옵션에 포함된 모든 콘텐츠와 더불어 낮거나 중간 위험의 콘텐츠 (예: 암묵적 또는 암호화된 증오, 성적으로 암시하는 콘텐츠, 비그래픽적 폭력, 명시적이지 않은 자해 언급)를 차단합니다.
- 기본 (권장): 중간에서 고위험 콘텐츠 (예: 명시적 증오, 명시적 성적 콘텐츠, 그래픽적 폭력, 자해 권장)를 차단합니다.
- 최소: 심각한 해악만 차단합니다.
- 확인을 클릭합니다.
변경 사항은 즉시 조직 내 모든 이들에게 적용되며, 감사 로그에 기록됩니다.
모더레이션 수준 검증 (선택 사항)
- 파일럿 그룹에게 일반적인 프롬프트를 테스트하고 과도한 필터링이나 부족한 필터링이 있는지 보고하도록 요청하십시오.
- 변경 후 첫 주 동안 지원 또는 에스컬레이션 채널에서 허위 긍정 또는 놓친 유해 콘텐츠를 모니터링하십시오.
팁과 모범 사례
- 처음에는 기본값으로 설정하고, 이후에는 시범 운행 피드백과 문제 발생 검토 결과에 따라 조정합니다.
- 사용자가 너무 많은 프롬프트 차단을 보고할 경우, 기본값 (엄격에서) 또는 최소값 (기본값에서)으로 설정하고, 허용되는 프롬프트 사례를 공개합니다.
- 경계선상 콘텐츠가 통과될 경우, 엄격으로 설정하고 내부 지침을 추가하여 마찰을 줄입니다.
- 정책, 규제, 사용 사례가 변경될 때마다 수준을 재검토합니다.
문제 해결
조정 컨트롤 비활성화됨
커스텀 LLM 통합이 연결되어 있습니다. 이를 해제하면 선택기를 재활성화할 수 있습니다. 연결된 상태에서는 이전에 선택한 수준이 해당 통합에 대해 무시됩니다.
과도한 오탐
엄격함 → 기본으로 변경하고 사용 가능 예시를 공유하세요. 감사 로그에서 최근의 변경 사항을 검토하여 시간을 확인하세요.
유해 콘텐츠 노출
레벨이 최소가 아닌지 확인하세요. 위험 수용도에 따라 기본 또는 엄격함을 고려하세요.
사용자들이 프롬프트가 차단되는 이유를 모름
선택한 레벨, 예시 프롬프트, 그리고 확장 경로를 제시하는 내부 지침을 게시하세요.