Útmutató a Personalizer integrációjához és felelős használatához

A Microsoft az Azure AI Personalizer használatával segít az ügyfeleknek a megoldások felelős fejlesztésében és üzembe helyezésében. Elvi megközelítésünk a személyes önrendelkezést és a méltóságot tartja fenn az AI-rendszer figyelembevételével:

• Méltányosság, megbízhatóság és biztonság.
• Adatvédelem és biztonság.
• Befogadóság.
• Átláthatóság.
• Emberi elszámoltathatóság.

Ezek a szempontok tükrözik a felelős mesterséges intelligencia fejlesztése iránti elkötelezettségünket.

Az integráció és a felelős használat alapelveinek általános irányelvei

Ha készen áll az AI-alapú termékek vagy szolgáltatások integrálására és felelősségteljes használatára, az alábbi tevékenységek segítenek a sikeres működésben:

• Ismerje meg, hogy mire képes. A Personalizer képességeinek és korlátainak teljes körű felmérése. A valós körülmények és adatok alapos tesztelésével megtudhatja, hogyan fog az adott forgatókönyvben és kontextusban teljesíteni.

• Tiszteletben tartja az egyén magánélethez való jogát. Csak jogszerű és igazolható célból gyűjtsön adatokat és információkat magánszemélyektől. Csak olyan adatokat és információkat használjon fel, amelyek használatához Ön hozzájárult.

• Szerezze be a jogi felülvizsgálatot. Szerezze be a megfelelő jogi tanácsokat a Personalizer áttekintéséhez és a megoldásban való használathoz, különösen akkor, ha bizalmas vagy magas kockázatú alkalmazásokban fogja használni. Ismerje meg, hogy milyen korlátozásokra lehet szükség, és milyen felelősséget kell vállalnia a jövőben felmerülő problémák megoldásáért.

• Legyen egy ember a hurokban. Az emberi felügyelet egységes mintaterületként való beépítése a vizsgálathoz. Az AI-alapú termék vagy szolgáltatás folyamatos emberi felügyeletének biztosítása. Az emberek szerepének fenntartása a döntéshozatalban. Győződjön meg arról, hogy valós idejű emberi beavatkozást végezhet a megoldásban, hogy megelőzze a károkat és kezelje azokat a helyzeteket, amikor az AI-rendszer nem a várt módon teljesít.

• Bizalmi kapcsolat kiépítése az érintett érdekelt felekkel. Tájékoztassa az érintett érdekelt feleket a várható előnyökről és a lehetséges kockázatokról. Segítsen a felhasználóknak megérteni, hogy miért van szükség az adatokra, és hogy az adatok használata hogyan vezet az előnyükhöz. Az adatkezelés érthető leírása.

• Hozzon létre egy ügyfél-visszajelzési ciklust. Adjon meg egy visszajelzési csatornát, amely lehetővé teszi a felhasználók és a felhasználók számára a szolgáltatással kapcsolatos problémák jelentését az üzembe helyezés után. Miután üzembe helyezett egy AI-alapú terméket vagy szolgáltatást, az folyamatos figyelést és fejlesztést igényel. Legyen készen arra, hogy bármilyen visszajelzést és fejlesztési javaslatot megvalósítson. Csatornák létrehozása az érintett érdekelt felektől érkező kérdések és aggodalmak gyűjtéséhez. Kapcsolatok, akiket a rendszer közvetlenül vagy közvetve érinthet, az alkalmazottak, a látogatók és a nyilvánosság.

• Visszajelzés: Kérjen visszajelzést a közösség különböző mintavételezéséből a fejlesztési és értékelési folyamat során (például a korábban marginalizált csoportok, a fogyatékkal élők és a szolgáltatásban dolgozók). További információ: Közösségi zsűri.

• Felhasználói tanulmány: Minden hozzájárulási vagy közzétételi javaslatot egy felhasználói tanulmányban kell keretbe helyezni. Értékelje ki az első és folyamatos használatot a közösség reprezentatív mintájával annak ellenőrzéséhez, hogy a tervezési döntések hatékony közzétételhez vezetnek-e. Végezzen felhasználói kutatást 10-20 közösségtaggal (érintett érdekelt felekkel) annak érdekében, hogy értékelje az információk megértését, és megállapítsa, teljesülnek-e az elvárásaik.

• Átláthatóság és magyarázhatóság: Fontolja meg a Personalizer következtetési magyarázó funkciójának engedélyezését és használatát annak érdekében, hogy jobban megértse, mely funkciók játszanak jelentős szerepet a Personalizer döntési döntési döntésében az egyes Rang-hívásokban. Ez a képesség lehetővé teszi, hogy a felhasználók számára átláthatóságot biztosítson azzal kapcsolatban, hogy adataik milyen szerepet játszottak az ajánlott legjobb művelet elkészítésében. Megadhat például egy "Miért ezek a javaslatok?" feliratú gombot a felhasználóknak, amely megmutatja, hogy mely főbb funkciók játszottak szerepet a Personalizer-eredmények előállításában. Ezek az információk arra is felhasználhatók, hogy jobban megértsék, milyen adatattribútumok működnek a felhasználókról, környezetekről és műveletekről a Personalizer által választott legjobb művelet mellett, amelyek ellenük dolgoznak, és amelyek nem feltétlenül vagy egyáltalán nem lesznek hatással. Ez a képesség a felhasználói szegmensekre vonatkozó elemzéseket is biztosít, és segít azonosítani és kezelni a lehetséges torzításokat.

• Támadók általi használat: fontolja meg a rosszindulatú manipuláció észlelésére és kezelésére irányuló folyamat létrehozását. Vannak olyan szereplők, amelyek kihasználják a gépi tanulás és az AI-rendszerek tanulási képességét a környezetükből. Összehangolt támadásokkal mesterségesen hamis viselkedésmintákat hozhatnak létre, amelyek az adatokat és az AI-modelleket céljuk felé irányítják. Ha a Personalizer használata befolyásolhatja a fontos döntéseket, győződjön meg arról, hogy rendelkezik a megfelelő eszközökkel az ilyen típusú támadások észlelésére és enyhítésére.

• Elutasítás: Fontolja meg, hogy a felhasználók letilthatják a személyre szabott javaslatok fogadását. Ezen felhasználók esetében a Personalizer Rank API nem lesz meghívva az alkalmazásból. Ehelyett az alkalmazás alternatív mechanizmust használhat a művelet eldöntéséhez. Ha például kikapcsolja a személyre szabott javaslatokat, és kiválasztja az alapértelmezett vagy alapkonfigurációs műveletet, a felhasználó azt a műveletet tapasztalná, amelyet a Personalizer javaslata nélkül hajtanak végre. Azt is megteheti, hogy az alkalmazás aggregátum- vagy népességalapú mértékek alapján javaslatokat is használhat (például most már trendi, top 10 legnépszerűbb stb.).

Az Ön felelőssége

A felelős megvalósításra vonatkozó irányelvek arra épülnek, hogy a Personalizert használó fejlesztők és vállalkozások felelősek és elszámoltathatók ezeknek az algoritmusoknak a társadalomban való használatának hatásaiért. Ha olyan alkalmazást fejleszt, amelyet a szervezet üzembe fog helyezni, ismernie kell a szerepkörét és a működéséért való felelősségét, valamint azt, hogy az hogyan érinti az embereket. Ha egy harmadik fél által üzembe helyezendő alkalmazást tervez, annak közös megértése, hogy végül ki felelős az alkalmazás viselkedéséért. Mindenképpen dokumentálja ezt a megértést.

Kérdések és visszajelzés

A Microsoft folyamatosan frissíti az eszközöket és dokumentumokat, hogy segítsen önnek eljárni ezen feladatkörökben. Csapatunk arra kéri Önt, hogy küldjön visszajelzést a Microsoftnak , ha úgy véli, hogy más eszközök, termékfunkciók és dokumentumok segítenek megvalósítani ezeket az irányelveket a Personalizer használatához.

Ajánlott olvasás

• Tekintse meg a Microsoft 2018. januári könyvében, a The Future Computedben közzétett, a mesterséges intelligencia felelős fejlesztésére vonatkozó hat alapelvét.

További lépések

A Personalizer API funkcióinak megismerése: Funkciók: Művelet és környezet