Kişiselleştirme'nin tümleştirilmesi ve sorumlu kullanımı için rehberlik

Microsoft, müşterilerin Azure AI Kişiselleştirme'yi kullanarak sorumlu bir şekilde çözüm geliştirmesine ve dağıtmasına yardımcı olmak için çalışır. Ilkeli yaklaşımımız, yapay zeka sisteminin aşağıdakilerini göz önünde bulundurarak kişisel ajansı ve saygınlığı destekler:

• Eşitlik, güvenilirlik ve güvenlik.
• Gizlilik ve güvenlik.
• Kapsayıcılık.
• Saydamlık.
• İnsan sorumluluğu.

Bu önemli noktalar, sorumlu yapay zeka geliştirme taahhüdümüzü yansıtır.

Tümleştirme ve sorumlu kullanım ilkeleri için genel yönergeler

Yapay zeka destekli ürün veya özellikleri tümleştirmeye ve sorumlu bir şekilde kullanmaya hazır olduğunuzda, aşağıdaki etkinlikler başarıya hazırlanmanıza yardımcı olacaktır:

• Neler yapabileceğini anlayın. Kişiselleştirici'nin özelliklerini ve sınırlamalarını anlama potansiyelini tam olarak değerlendirin. Gerçek hayattaki koşullar ve verilerle kapsamlı bir şekilde test ederek kendi senaryonuzda ve bağlamınızda nasıl performans göstereceğini anlayın.

• Bir kişinin gizlilik hakkına saygı gösterin. Yalnızca yasal ve haklı amaçlarla bireylerden veri ve bilgi toplayın. Yalnızca bu amaçla kullanma iznine sahip olduğunuz verileri ve bilgileri kullanın.

• Yasal inceleme alın. Özellikle hassas veya yüksek riskli uygulamalarda kullanacaksanız, Kişiselleştirme'yi ve çözümünüzde nasıl kullandığınızı gözden geçirmek için uygun yasal öneriler alın. Gelecekte ortaya çıkacak sorunları çözmek için hangi kısıtlamaların içinde çalışmanız gerekebileceğini ve sorumluluğunuzu anlayın.

• Döngüde bir insan var. İnsan gözetimlerini keşfedilecek tutarlı bir desen alanı olarak ekleyin. Yapay zeka destekli ürün veya özelliğin sürekli insan gözetiminde olduğundan emin olun. Karar alma sürecinde insanların rolünü koruma. Yapay zeka sisteminin beklendiği gibi çalışmadığı durumlarda zarar görmesini önlemek ve durumları yönetmek için çözüme gerçek zamanlı insan müdahalesi gerçekleştirebileceğinizden emin olun.

• Etkilenen paydaşlarla güven oluşturun. Etkilenen paydaşlara beklenen avantajları ve olası riskleri bildirin. Kişilerin verilerin neden gerekli olduğunu ve verilerin kullanımının avantajlarını nasıl sağlayacağını anlamasına yardımcı olun. Veri işlemeyi anlaşılır bir şekilde açıklama.

• Müşteri geri bildirim döngüsü oluşturma. Kullanıcıların ve kişilerin dağıtıldıktan sonra hizmetle ilgili sorunları bildirmesine olanak tanıyan bir geri bildirim kanalı sağlayın. Yapay zeka destekli bir ürün veya özellik dağıttıktan sonra sürekli izleme ve iyileştirme gerektirir. İyileştirmeye yönelik geri bildirimleri ve önerileri uygulamaya hazır olun. Etkilenen paydaşlardan soru ve endişe toplamak için kanallar oluşturun. Sistemden doğrudan veya dolaylı olarak etkilenebilecek Kişiler çalışanlar, ziyaretçiler ve genel halktır.

• Geri Bildirim: Geliştirme ve değerlendirme sürecinde (örneğin, geçmişte marjinalleştirilmiş gruplar, engelli kişiler ve hizmet çalışanları) topluluğun çeşitli örneklemelerinden geri bildirim alın. Daha fazla bilgi için bkz. Topluluk jürisi.

• Kullanıcı Çalışması: Tüm onay veya açıklama önerileri bir kullanıcı çalışmasında çerçevelendirilmelidir. Tasarım seçimlerinin etkili bir şekilde açığa çıkmasına yol açtığını doğrulamak için topluluğun temsili bir örneğiyle ilk ve sürekli kullanım deneyimini değerlendirin. Bilgilerin anlaşılmasını değerlendirmek ve beklentilerinin karşılanıp karşılanmadığını belirlemek için 10-20 topluluk üyesiyle (etkilenen paydaşlar) kullanıcı araştırması yapın.

• Saydamlık ve Açıklanabilirlik: Kişiselleştirme'nin çıkarımı açıklanabilirlik özelliğini etkinleştirerek ve kullanarak her Derece çağrısında Kişiselleştirme'nin karar seçiminde önemli bir rol oynayan özellikleri daha iyi anlayabilirsiniz. Bu özellik, kullanıcılarınıza, verilerinin önerilen en iyi eylemi oluşturmada nasıl bir rol oynadığı konusunda saydamlık sağlamanıza olanak sağlar. Örneğin, kullanıcılarınıza Kişiselleştirme sonuçlarının üretilmesinde hangi en önemli özelliklerin rol oynadığını gösteren "Neden Bu Öneriler?" etiketli bir düğme verebilirsiniz. Bu bilgiler, kullanıcılarınızla, bağlamlarınızla ve eylemlerinizle ilgili hangi veri özniteliklerinin Kişiselleştirici'nin en iyi eylem seçimine uygun olarak çalıştığını, buna karşı çalışan ve çok az etkisi olup olmadığını daha iyi anlamak için de kullanılabilir. Bu özellik ayrıca kullanıcı segmentleriniz hakkında içgörüler sağlayabilir ve olası yanlılıkları belirlemenize ve gidermenize yardımcı olabilir.

• Saldırgan kullanım: Kötü amaçlı işlemeyi algılamak ve üzerinde işlem yapmak için bir süreç oluşturmayı göz önünde bulundurun. Makine öğrenmesi ve yapay zeka sistemlerinin ortamlarından öğrenme yeteneğinden yararlanacak aktörler vardır. Eşgüdümlü saldırılarla verileri ve yapay zeka modellerini hedeflerine doğru kaydıran yapay olarak sahte davranış desenleri oluşturabilirler. Kişiselleştirici kullanımınız önemli seçimleri etkileyebilirse, bu tür saldırıları tespit etmek ve azaltmak için uygun araçlara sahip olduğunuzdan emin olun.

• Geri çevirme: Kullanıcıların kişiselleştirilmiş öneriler almayı geri çevirmesi için bir denetim sağlamayı göz önünde bulundurun. Bu kullanıcılar için Kişiselleştirme Derecelendirme API'si uygulamanızdan çağrılmaz. Bunun yerine, uygulamanız hangi eylemin gerçekleştirilecek olduğuna karar vermek için alternatif bir mekanizma kullanabilir. Örneğin, kişiselleştirilmiş önerileri geri çevirerek ve varsayılan veya temel eylemi seçerek, kullanıcı Kişiselleştirici'nin önerisi olmadan gerçekleştirilecek eylemle karşılaşır. Alternatif olarak, uygulamanız toplama veya popülasyon tabanlı ölçülere dayalı öneriler kullanabilir (örneğin, şu anda popüler olan, en popüler 10 kişi vb.).

Sizin sorumluluğunuzda

Sorumlu uygulamayla ilgili tüm yönergeler, Kişiselleştirme kullanan geliştiricilerin ve işletmelerin bu algoritmaları toplumdaki etkilerinden sorumlu ve sorumlu oldukları temeli temel alır. Kuruluşunuzun dağıtacağı bir uygulama geliştiriyorsanız, bu uygulamanın çalışması ve kişileri nasıl etkilediğiyle ilgili rolünüzü ve sorumluluğunuzu tanımanız gerekir. Bir uygulamayı üçüncü taraf tarafından dağıtılacak şekilde tasarlarsanız, uygulamanın davranışından nihai olarak kimin sorumlu olduğuna ilişkin paylaşılan bir anlayışa gelin. Bu anlayışı belgelediğinden emin olun.

Sorular ve geri bildirim

Microsoft, bu sorumlulukları işlemenize yardımcı olmak için araçları ve belgeleri sürekli olarak yükseltmektedir. Diğer araçların, ürün özelliklerinin ve belgelerin Kişiselleştirme'yi kullanmaya yönelik bu yönergeleri uygulamanıza yardımcı olacağına inanıyorsanız ekibimiz sizi Microsoft'a geri bildirim sağlamaya davet ediyor.

Önerilen okuma

• Ocak 2018'de yayımlanan The Future Computed kitabında yayımlanan Microsoft'un yapay zekanın sorumlu gelişimine yönelik altı ilkesine bakın.

Sonraki adımlar

Kişiselleştirme API'sinin özellikleri nasıl aldığını anlama: Özellikler: Eylem ve Bağlam