Vägledning för integrering och ansvarsfull användning av Personanpassning

Microsoft arbetar för att hjälpa kunder att på ett ansvarsfullt sätt utveckla och distribuera lösningar med hjälp av Azure AI Personalizer. Vårt principiella tillvägagångssätt upprätthåller personlig handlingsfrihet och värdighet genom att beakta AI-systemets:

• Rättvisa, tillförlitlighet och säkerhet.
• Sekretess och säkerhet.
• Delaktighet.
• Öppenhet.
• Mänsklig ansvarsskyldighet.

Dessa överväganden återspeglar vårt åtagande att utveckla ansvarsfull AI.

Allmänna riktlinjer för integrering och ansvarsfulla användningsprinciper

När du gör dig redo att integrera och på ett ansvarsfullt sätt använda AI-baserade produkter eller funktioner hjälper följande aktiviteter dig att konfigurera dig för framgång:

• Förstå vad det kan göra. Utvärdera personaliserarens potential fullt ut för att förstå dess funktioner och begränsningar. Förstå hur det kommer att fungera i ditt specifika scenario och kontext genom att noggrant testa det med verkliga förhållanden och data.

• Respektera en individs rätt till privatliv. Samla endast in data och information från individer för lagliga och berättigade ändamål. Använd endast data och information som du har medgivande att använda för detta ändamål.

• Få juridisk granskning. Få lämplig juridisk rådgivning för att granska Personanpassning och hur du använder den i din lösning, särskilt om du kommer att använda den i känsliga eller högriskprogram. Förstå vilka begränsningar du kan behöva arbeta inom och ditt ansvar för att lösa eventuella problem som kan uppstå i framtiden.

• Ha en människa i slingan. Inkludera mänsklig tillsyn som ett konsekvent mönsterområde att utforska. Säkerställ ständig mänsklig tillsyn över den AI-baserade produkten eller funktionen. Behåll människans roll i beslutsfattandet. Se till att du kan vidta mänskliga åtgärder i realtid i lösningen för att förhindra skador och hantera situationer när AI-systemet inte presterar som förväntat.

• Skapa förtroende med berörda intressenter. Förmedla förväntade fördelar och potentiella risker till berörda intressenter. Hjälp användarna att förstå varför data behövs och hur användningen av data kommer att leda till deras fördelar. Beskriva datahantering på ett begripligt sätt.

• Skapa en feedbackloop för kunder. Ange en feedbackkanal som gör det möjligt för användare och individer att rapportera problem med tjänsten när den har distribuerats. När du har distribuerat en AI-baserad produkt eller funktion kräver den kontinuerlig övervakning och förbättring. Var redo att implementera feedback och förslag på förbättringar. Upprätta kanaler för att samla in frågor och problem från berörda intressenter. Personer som kan påverkas direkt eller indirekt av systemet är anställda, besökare och allmänheten.

• Feedback: Sök feedback från ett varierat urval av communityn under utveckling och utvärdering (till exempel historiskt marginaliserade grupper, personer med funktionshinder och servicearbetare). Mer information finns i Community-juryn.

• Användarstudie: Eventuella rekommendationer om medgivande eller avslöjande bör utformas i en användarstudie. Utvärdera den första och kontinuerliga användningsupplevelsen med ett representativt urval av communityn för att verifiera att designvalen leder till ett effektivt avslöjande. Genomför användarundersökningar med 10–20 communitymedlemmar (berörda intressenter) för att utvärdera deras förståelse av informationen och för att avgöra om deras förväntningar uppfylls.

• Transparens och förklaring: Överväg att aktivera och använda personaliserarens slutsatsdragningsförklarbarhet för att bättre förstå vilka funktioner som spelar en viktig roll i Personanpassningens beslutsval i varje Rankningsanrop. Med den här funktionen kan du ge användarna insyn i hur deras data har spelat en roll när det gäller att skapa den rekommenderade bästa åtgärden. Du kan till exempel ge användarna en knapp med etiketten "Varför de här förslagen?" som visar vilka funktioner som har spelat en roll när det gäller att producera personanpassningsresultatet. Den här informationen kan också användas för att bättre förstå vilka dataattribut om dina användare, kontexter och åtgärder som fungerar till förmån för personanpassningens val av bästa åtgärd, som fungerar mot den och som kan ha liten eller ingen effekt. Den här funktionen kan också ge insikter om dina användarsegment och hjälpa dig att identifiera och åtgärda potentiella fördomar.

• Kontradiktorisk användning: överväg att upprätta en process för att identifiera och agera mot skadlig manipulation. Det finns aktörer som kan dra nytta av maskininlärning och AI-systemens förmåga att lära sig av sin miljö. Med samordnade attacker kan de artificiellt falska beteendemönster som flyttar data- och AI-modeller mot sina mål. Om din användning av Personanpassning kan påverka viktiga val kontrollerar du att du har rätt sätt att identifiera och minimera dessa typer av attacker på plats.

• Avregistrera dig: Överväg att tillhandahålla en kontroll för användare att välja bort att ta emot anpassade rekommendationer. För dessa användare anropas inte API:et för personanpassningsrankning från ditt program. I stället kan ditt program använda en alternativ mekanism för att bestämma vilka åtgärder som ska vidtas. Genom att till exempel välja bort anpassade rekommendationer och välja standardåtgärden eller baslinjeåtgärden skulle användaren uppleva den åtgärd som skulle vidtas utan personaliserarens rekommendation. Alternativt kan ditt program använda rekommendationer baserat på aggregerade eller befolkningsbaserade mått (t.ex. trendande, topp 10 mest populära osv.).

Ditt ansvar

Alla riktlinjer för ansvarsfull implementering bygger på grunden att utvecklare och företag som använder Personalizer ansvarar för effekterna av att använda dessa algoritmer i samhället. Om du utvecklar ett program som din organisation ska distribuera bör du känna igen din roll och ditt ansvar för dess drift och hur det påverkar människor. Om du utformar ett program som ska distribueras av en tredje part får du en delad förståelse för vem som är ytterst ansvarig för programmets beteende. Se till att dokumentera den förståelsen.

Frågor och feedback

Microsoft uppgraderar kontinuerligt verktyg och dokument som hjälper dig att hantera dessa ansvarsområden. Vårt team uppmanar dig att ge feedback till Microsoft om du tror att andra verktyg, produktfunktioner och dokument skulle hjälpa dig att implementera dessa riktlinjer för att använda Personanpassning.

Rekommenderad läsning

• Se Microsofts sex principer för ansvarsfull utveckling av AI som publicerades i januari 2018-boken The Future Computed.

Nästa steg

Förstå hur Personanpassnings-API:et tar emot funktioner: Funktioner: Åtgärd och kontext