Miro AI 모더레이션을 통해, 회사 관리자는 잠재적으로 유해하거나 부적절한 텍스트를 포함할 수 있는 프롬프트의 필터 수준을 조정할 수 있습니다. 조직 전반에 걸쳐 Miro AI 모더레이션 민감도를 설정하여 증오, 성적 콘텐츠, 폭력, 자해를 포함한 콘텐츠를 필터링할 수 있습니다. 이를 통해 Miro AI 사용을 조직의 요구 사항, 정책 및 위험 허용 수준에 맞출 수 있습니다.
✏️ 조직이 자체적으로 LLM 제공업체를 연결하는 경우(예: 직접적인 OpenAI 통합), 모더레이션 선택기가 비활성화되고 해당 통합에 대해서는 이전에 선택한 수준이 무시됩니다.
모더레이션 레벨
Miro AI 모더레이션으로 조직 전체의 Miro AI 콘텐츠를 제어하세요. 프롬프트 차단 여부를 결정하기 위해 필터링 수준을 Strict, Default, Minimal로 설정하세요. 아래 테이블을 참조하여 수준을 빠르게 비교한 후, 보다 자세한 내용을 위해 상세 섹션을 살펴보세요.
| 수준 | 기능 | 적합한 대상 | 트레이드오프 |
|---|---|---|---|
| 엄격 | 기본 + 낮음에서 중간 위험 콘텐츠 차단. | 규제가 엄격한 조직, 교육. | 거짓 긍정 경향 증가; 과도한 필터링 가능성. |
| 기본 (추천) | 중간에서 심각한 유해 콘텐츠 차단. | 대부분의 비즈니스 사용 사례. | 경계선에 있는 콘텐츠가 통과할 수 있습니다. |
| 최소한 | 심각한 유해 콘텐츠만 차단합니다. |
창작/게임/미디어 환경. |
낮거나 중간 수준의 유해성에 더 노출됩니다. |
✏️ 대부분의 조직에는 기본 설정이 권장됩니다. 이 설정은 사용자들이 부적절하거나 유해하다고 여기는 콘텐츠를 필터링하면서도 넓은 사용성을 유지합니다.
엄격한 수준
필터링 내용
기본 필터 수준에서 저위험부터 중위험 콘텐츠 (예: 미묘하거나 암시적인 혐오 발언, 성적으로 유혹적인 콘텐츠, 비유혈적 폭력, 비구체적인 자해 언급)를 추가로 필터합니다.
언제 사용해야 하나요
- 규제 산업 또는 위험 회피 지향의 조직 정책
- 교육 또는 청소년 중심 프로그램
- 낮은 위험 수용도를 가진 파일럿 프로젝트
트레이드오프
- 거짓 양성이 많고 경계선 요청이 차단됨
- 사용자 마찰을 줄이기 위한 지침 필요
기본 수준 (권장됨)
필터링 내용
중간에서 심각한 수준의 유해 콘텐츠(명백한 증오 발언, 노골적인 성적 콘텐츠, 묘사적인 폭력, 자해를 부추기는 행위).
사용 시기
- 안전성과 사용성의 균형을 추구하는 대부분의 조직
상충점
- 상황적이거나 경계선상의 프롬프트가 통과될 가능성 있음
최소 수준
필터링 내용
심각하게 유해한 콘텐츠만.
사용 시기
- 광범위한 표현이 필요한 창의적 팀(게임, 미디어)
- 명확한 대응 경로가 있는 내부 아이디어 도출
상충점
- 출력물에 저해부터 중간까지의 해로운 콘텐츠에 더 많이 노출됩니다
감사 및 규정 준수
모더레이션 수준 변경 사항은 이전 값, 새 값, 변경한 사람 및 변경 시점 등 조직 감사 로그에 기록됩니다. 자세한 내용은 감사 로그 문서를 참조하세요.
모범 사례
- 기본값으로 시작한 후, 파일럿 피드백 및 에스컬레이션 리뷰를 기반으로 조정하세요.
- 잘못된 긍정을 줄이기 위해 명확한 내부 프롬프트 지침과 함께 엄격을 짝지어 사용하세요.
- 최소 수준이 필요할 경우, 팀이 문제적 출력을 에스컬레이트하거나 보고해야 할 시점을 정의하세요.
- 주요 정책이나 규제 업데이트 후 설정을 재검토하세요.
- AI 모더레이션 개요
- 모더레이션 레벨
- 엄격 수준
- 기본 수준 (추천)
- 최소 수준
- 감사 및 규정 준수
- 모범 사례