Personalizer의 통합 및 책임 있는 사용을 위한 지침

Microsoft는 고객이 Azure AI Personalizer를 사용하여 책임감 있게 솔루션을 개발하고 배포할 수 있도록 돕기 위해 노력하고 있습니다. 당사의 원칙에 입각한 접근 방식은 AI 시스템의 다음 사항을 고려하여 개인 기관 및 존엄성을 유지합니다.

• 공정성, 신뢰성 및 안전성.
• 개인 정보 보호 및 보안.
• 포괄성.
• 투명성.
• 인간의 책임.

이러한 고려 사항은 책임 있는 AI를 개발하려는 당사의 노력을 반영합니다.

통합 및 책임 있는 사용 원칙에 대한 일반 지침

AI 기반 제품 또는 기능을 통합하고 책임감 있게 사용할 준비가 되면 다음 활동을 통해 성공을 준비할 수 있습니다.

• 수행할 수 있는 작업 이해. Personalizer의 잠재력을 완전히 평가하여 해당 기능과 제한 사항을 이해합니다. 실제 조건과 데이터로 철저히 테스트하여 특정 시나리오와 컨텍스트에서 어떻게 수행되는지 이해합니다.

• 개인의 프라이버시 권리 존중. 합법적이고 정당한 목적을 위해서만 개인으로부터 데이터와 정보를 수집합니다. 이 용도로 사용하는 데 동의한 데이터 및 정보만 사용합니다.

• 법적 검토 받기. Personalizer 및 솔루션에서 Personalizer를 사용하는 방식을 검토하기 위해(특히 민감하거나 고위험 애플리케이션에서 사용할 경우) 적절한 법률 자문을 구합니다. 어떤 제한 내에서 작업해야 하는지를 이해하고 미래에 발생할 수 있는 문제를 해결해야 할 책임을 이해합니다.

• 인간 참여형(Human-in-the-loop) 방식. 사람의 감독을 살펴볼 일관된 패턴 영역으로 포함시킵니다. AI 기반 제품이나 기능에 대한 사람의 지속적인 감독을 보장합니다. 의사 결정에서 사람의 역할을 유지합니다. AI 시스템이 예상대로 작동하지 않을 때 피해를 예방하고 상황을 관리하기 위해 솔루션에 사람이 실시간으로 개입할 수 있는지 확인합니다.

• 영향을 받는 관련자와 신뢰 구축. 영향을 받는 이해 관계자에게 예상되는 이점과 잠재적 위험을 전달합니다. 데이터가 필요한 이유와 데이터 사용이 어떻게 도움이 되는지를 사람이 이해하도록 돕습니다. 이해하기 쉬운 방식으로 데이터 처리를 설명합니다.

• 고객 피드백 루프 생성. 서비스 배포 후 사용자와 개인이 서비스 관련 문제를 보고할 수 있는 피드백 채널을 제공합니다. AI 기반 제품 또는 기능을 배포한 후에는 지속적인 모니터링과 개선이 필요합니다. 개선을 위한 피드백과 제안을 구현할 준비가 되어 있어야 합니다. 영향을 받는 관련자로부터 질문과 우려를 수집할 수 있는 채널을 구축합니다. 시스템에 의해 직접 또는 간접적으로 영향을 받을 수 있는 사람은 직원, 방문객 및 일반 대중을 포함합니다.

• 피드백: 개발 및 평가 과정에서 커뮤니티의 다양한 샘플링을 통해 피드백을 구합니다(예: 역사적으로 소외된 그룹, 장애가 있는 사람들, 서비스 종사자). 자세한 내용은 Community 배심원단을 참조하세요.

• 사용자 연구: 모든 동의 또는 공개 권장 사항은 사용자 연구에서 결정되어야 합니다. 커뮤니티의 대표적인 샘플로 첫 번째 및 지속적인 사용 환경을 평가하여 디자인 선택이 효과적인 공개로 이어지는지 확인합니다. 10~20명의 커뮤니티 구성원(영향을 받는 관련자)과 함께 사용자 조사를 수행하여 정보에 대한 이해도를 평가하고 기대치가 충족되는지 확인합니다.

• 투명도 및 설명: Personalizer의 유추 설명 기능을 사용하도록 설정하면 각 순위 호출에서 어떤 기능이 Personalizer의 의사 결정에 중요한 역할을 하는지 보다 잘 이해할 수 있습니다. 이 기능을 통해 사용자는 데이터가 권장되는 최상의 작업을 생성하는 데 어떤 역할을 했는지를 투명하게 알 수 있습니다. 예를 들어 사용자에게 “이 제안이 필요한 이유”라는 단추를 제공하여 Personalizer 결과를 생성하는 데 역할을 한 주요 기능을 보여 줄 수 있습니다. 또한 이 정보를 사용하여 Personalizer의 최상의 선택 작업에 가장 적합하거나, 적합하지 않거나, 거의 또는 전혀 영향을 미치지 않을 수 있는 사용자, 컨텍스트 및 작업에 대한 데이터 특성을 더 잘 이해할 수 있습니다. 또한 이 기능은 사용자 세그먼트에 대한 인사이트를 제공하고 잠재적 편견을 식별하고 해결하는 데 도움이 될 수 있습니다.

• 적대적 사용: 악의적인 조작을 감지하고 조치를 취하는 프로세스를 구축하는 것이 좋습니다. 기계 학습과 AI 시스템의 환경 학습 역량을 활용하는 행위자가 있습니다. 이들은 연합 공격을 통해 데이터 및 AI 모델을 목표로 전환하는 행동 패턴을 인위적으로 위조할 수 있습니다. Personalizer 사용이 중요한 선택에 영향을 줄 수 있다면, 이러한 유형의 공격을 감지하고 완화할 수 있는 적절한 수단이 있어야 합니다.

• 옵트아웃: 사용자가 개인 설정된 권장 사항 수신을 옵트아웃할 수 있는 컨트롤을 제공하는 것이 좋습니다. 이러한 사용자의 경우 Personalizer Rank API는 애플리케이션에서 호출되지 않습니다. 대신 애플리케이션은 수행되는 작업을 결정하는 대체 메커니즘을 사용할 수 있습니다. 예를 들어 개인 설정된 권장 사항을 옵트아웃하고 기본 또는 기준 작업을 선택하면 사용자는 Personalizer의 권장 사항 없이 수행되는 작업을 경험하게 됩니다. 또는 애플리케이션은 집계 또는 인구 기반 측정값(예: 현재 추세, 가장 인기 있는 상위 10개 등)에 따라 권장 사항을 사용할 수 있습니다.

책임

책임 있는 구현에 대한 모든 지침은 사회에서 이러한 알고리즘을 사용하는 효과와 관련하여 Personalizer를 사용하는 개발자와 회사에서 책임을 져야 한다는 사실에 기초하여 작성됩니다. 조직에서 배포하는 애플리케이션을 개발하는 경우 작업에 대한 역할과 책임 및 이로 인해 사람들에게 미치는 영향을 인식해야 합니다. 타사가 배포할 애플리케이션을 설계할 경우 애플리케이션의 동작에 대한 궁극적인 책임이 누구에게 있는지에 대한 공통된 이해에 도달해야 합니다. 이러한 이해를 문서화해야 합니다.

질문 및 피드백

Microsoft는 이러한 책임을 이행하는 데 도움을 주기 위해 지속적으로 도구와 문서를 업그레이드하고 있습니다. 다른 도구, 제품 기능 및 문서가 Personalizer 사용과 관련된 이러한 지침을 구현하는 데 도움이 된다고 생각하는 경우 Microsoft에 피드백을 제공해 주세요.

추천 자료

• 2018년 1월 간행의 미래 컴퓨팅 도서에서 발표한 AI 개발 책임에 대한 Microsoft의 6가지 원칙을 참조하세요.

다음 단계

Personalizer API가 기능을 수신하는 방법 이해: 기능: 작업 및 컨텍스트