AI 모더레이션 개요

Miro AI 모더레이션을 통해 회사 관리자는 잠재적으로 유해하거나 부적절한 텍스트가 포함된 프롬프트의 필터링 수준을 조정할 수 있습니다. 증오 표현, 성적 콘텐츠, 폭력, 자해와 같은 콘텐츠를 필터링하도록 조직 전체의 Miro AI 모더레이션 민감도를 설정할 수 있습니다. 이를 통해 Miro AI 사용을 조직의 요건, 정책, 위험 허용 범위에 맞출 수 있습니다.

✏️ 만약 귀하의 조직이 자체 LLM 제공자(예: 직통 OpenAI 통합)를 연결한 경우, 모더레이션 선택기가 비활성화되며, 해당 통합에 대해 이전에 선택된 레벨은 무시됩니다.

모더레이션 수준

조직 전반의 Miro AI 콘텐츠를 Miro AI 모더레이션으로 제어하세요. 필터링 수준을 "Strict", "Default", 또는 "Minimal"로 설정하여 어떤 프롬프트가 차단될지를 결정할 수 있습니다. 아래 표를 검토하여 각 수준을 빠르게 비교한 후, 자세한 안내를 위해 상세한 항목을 확인하세요.

✏️ 대부분의 조직에는 기본이 추천됩니다. 많은 사람들이 부적절하거나 유해하다고 생각하는 콘텐츠를 필터링하면서 폭넓은 사용성을 유지합니다.

엄격 수준

필터링하는 것

기본 설정에서 차단하는 것 외에도 낮음~중간 위험의 콘텐츠(예: 미묘하거나 암호화된 증오 발언, 성적으로 암시적인 콘텐츠, 비노골적 폭력, 명시적이지 않은 자해 언급)를 차단합니다.

언제 사용해야 하는지

• 규제 산업 또는 위험 회피형 조직 정책 경우
• 교육 또는 청소년 대상 프로그램 경우
• 위험 허용도가 낮은 파일럿 경우

절충안

• 오탐지 발생률이 높아질 수 있고 경계선에 있는 프롬프트가 차단될 수 있습니다
• 사용자의 불편을 줄이기 위한 지침이 필요합니다

기본 수준 (권장)

차단하는 항목

중간에서 심각한 정도의 유해 콘텐츠 (명확한 증오 발언, 노골적인 성적 내용, 잔인한 폭력, 자해 조장의 경우).

사용 시점

• 안전성과 사용성을 균형있게 추구하는 대부분의 조직

이점과 단점

• 맥락적이거나 경계선상의 프롬프트가 통과할 수도 있음

최소 레벨

필터링 내용

매우 심각한 유해 콘텐츠만 필터링.

사용 시점

• 게임, 미디어 등 더 넓은 표현이 필요한 창작 팀
• 명확한 고도화 경로가 있는 내부 아이디어 도출

이점과 단점

• 결과물에서의 낮은 수준에서 중간 수준의 유해 콘텐츠에 대한 노출 증가

감사와 규정 준수

모더레이션 수준의 변경은 조직 감사 로그에 이전 값, 새 값, 변경한 사람 및 변경된 시간이 기록됩니다. 자세한 내용은 감사 로그에 관한 문서를 참조하세요.

모범 사례

• 기본 설정으로 시작한 후, 파일럿 테스트 결과와 인식된 위험을 바탕으로 조정하세요.
• 오탐지를 줄이기 위해 내부에서 허용되는 프롬프트에 대한 명확한 지침을 Strict 레벨과 함께 제공하세요.
• Minimal 레벨을 사용할 경우, 팀이 문제 있는 결과를 언제 보고하고 에스컬레이트해야 하는지 정의하세요.
• 주요 정책이나 규제 업데이트 후 설정을 재검토하세요.

• AI 모더레이션 개요
• 모더레이션 수준
• 엄격 수준
• 기본 수준 (권장)
• 최소 수준
• 감사 및 규정 준수
• 모범 사례

참고: Miro AI는 Confluence, Jira 또는 비즈니스 인텔리전스(BI) 시스템처럼 임베드된 통합 위젯 내부에 렌더링된 콘텐츠를 포함하여 Miro 캔버스에 실제로 표시되는 콘텐츠에서만 작동합니다. Miro AI는 외부 API를 호출하지 않지만, 일부 통합에 대해서는 위젯 뒤의 전체 문서, 프로젝트 또는 데이터 세트를 액세스할 수 있습니다. Miro AI는 예를 들어 광학 문자 인식(OCR) 스타일의 처리를 통해 캔버스에 렌더링된 콘텐츠를 분석하고, 이러한 제한된 보기를 처리에 사용합니다. 원본 데이터는 외부 도구 자체에 의해 관리됩니다. 예외적으로, 워크플로는 렌더링된 보드 콘텐츠에 액세스하지 않습니다.