Share via

Kontrafaktuális elemzés és lehetőségelemzés

  • Cikk

A lehetőségelemzési számlálók arra a kérdésre ad választ, hogy a modell mit jelezne előre, ha módosítaná a művelet bemenetét. Lehetővé teszik a gépi tanulási modellek megértését és hibakeresését a bemeneti (funkció-) változásokra való reagálás szempontjából.

A szabványos értelmezhetőségi technikák prediktív jelentőségük alapján közelítik meg a gépi tanulási modelleket vagy rangsorolják a jellemzőket. Ezzel szemben a kontrafaktuális elemzés "kikérdez" egy modellt annak meghatározására, hogy egy adott adatpont milyen változásai tükröznék a modell döntését.

Egy ilyen elemzés segít elkülöníteni a korrelált jellemzők hatását. Emellett részletesebben is megismerheti, hogy mennyi funkciómódosításra van szükség a besorolási modellek modelldöntési tükrözésének és a regressziós modellek döntési módosításának megtekintéséhez.

A Felelős AI-irányítópultkontrafaktuális elemzése és lehetőségelemzési összetevője két funkcióval rendelkezik:

  • Hozzon létre egy példakészletet egy adott pont minimális módosításával, hogy megváltoztassa a modell előrejelzését (a legközelebbi adatpontokat ellentétes modell-előrejelzésekkel).
  • Lehetővé teszi, hogy a felhasználók saját lehetőségelemzési zavarokat generáljanak, hogy megértsék, hogyan reagál a modell a funkcióváltozásokra.

A Felelős AI-irányítópult számlálóelemzési összetevőjének egyik legfontosabb különbsége az a tény, hogy az érvényes és logikai ellenfaktuális példákhoz meg lehet határozni, hogy mely funkciók változnak, és melyek azok megengedett tartományai.

Ennek az összetevőnek a képességei a DiCE-csomagból származnak.

Használjon lehetőségelemzési ellenfaktuálisokat, ha az alábbiakra van szüksége:

  • Vizsgálja meg a méltányossági és megbízhatósági kritériumokat döntésértékelőként az olyan bizalmas attribútumok, mint a nemek és az etnikumok kiértékelésével, majd figyelje meg, hogy változnak-e a modell-előrejelzések.
  • Adott bemeneti példányok részletes hibakeresése.
  • Megoldásokat nyújthat a felhasználóknak, és meghatározhatja, hogy mit tehetnek, hogy a modellből kívánatos eredményt érhessenek el.

Hogyan jönnek létre az ellenfaktuális példák?

Az ellenfaktuálisok létrehozásához a DiCE implementál néhány modellfüggetlen technikát. Ezek a módszerek minden átlátszatlan dobozos osztályozóra vagy regresszorra vonatkoznak. Ezek a közeli pontok bemeneti pontokhoz való mintavételén alapulnak, miközben a veszteségfüggvényt a közelség (és opcionálisan a ritkaság, a sokféleség és a megvalósíthatóság) alapján optimalizálják. Jelenleg a következő módszerek támogatottak:

  • Véletlenszerű keresés: Ez a metódus véletlenszerűen egy lekérdezési pont közelében szúrja be a pontokat, és olyan pontokként ad vissza ellenfaktuális értékeket, amelyek előrejelzett címkéje a kívánt osztály.
  • Genetikai keresés: Ez a módszer genetikai algoritmus használatával mutat be pontokat, figyelembe véve a lekérdezési ponthoz való közelség optimalizálásának, a lehető legkevesebb jellemző módosításának és a létrehozott ellenfaktuálisok közötti sokféleség keresésének együttes célját.
  • KD-fakeresés: Ez az algoritmus a betanítási adathalmaz számlálóit adja vissza. Létrehoz egy KD-fát a betanítási adatpontok fölé egy távolságfüggvény alapján, majd visszaadja a legközelebbi pontokat egy adott lekérdezési ponthoz, amely a kívánt előrejelzett címkét adja vissza.

Következő lépések