AI rendszerek: A torzított algoritmusok elleni védelem versenyelőny

A technológiai fejlődés elősegíti a jólétet és a jóllétet a lényegeken túl. A globális bruttó hazai termék 23-szor magasabb, mint az első ipari forradalom előtt, a várható élettartam 245 százalékkal, a munkaidő pedig 49 százalékkal csökkent. A technológiai fejlődés ugyanakkor új kockázatokat is magával hoz, amelyekkel azonos módon kell foglalkozni.

A mesterséges intelligencia (AI) különféle okokból áll, különösen az égő üveg alatt. Amikor egy hitelkártya-társaság AI-technológiát alkalmaz a csalások valós időben történő felismerésére és a közvetlen válaszadásra, ez segíti az ügyfeleket és a vállalkozásokat. De mi van, ha az algoritmus nem úgy működik, ahogy kellene? Mi lenne, ha sokkal gyorsabban blokkolja a megadott névvel, lakóhellyel vagy egy adott nemmel rendelkező embereket, mint mások? A következmények súlyosak lehetnek.

Letiltja a tudatos előítéleteket

Az AI rendszereknek két alapvető gyengesége van: a tényleges algoritmusok és az adatbázis, amelyen a programok önállóan fejlődnek. Mindkettő hajlamos ugyanazon problémára: (nem) tudatos előítéletek és egyensúlyhiányok, úgynevezett elfogultság. A szervezeteknek hatékony AI kockázatkezeléssel kell kezelni ezt a kihívást, ha nem akarják elhagyni a pályát versenytársaik előtt.

kijelző

A legtöbb vezetõnek kevés tapasztalata van arról, hogy a KI miként befolyásolja szervezetük különbözõ elemeit – a szoftveroldaltól az adatvagyonig az emberek és a mûszaki rendszerek együttmûködéséig. Emiatt a C-szintek gyakran nehezen tudják azonosítani az AI-rendszerek lehetséges kockázatait és gyengeségeit. Ennek végzetes következményei lehetnek. Az torzított algoritmusok és torzulások megakadályozása érdekében az adatbázisban mindenekelőtt a következőkre van szükség: Annak megértése, hogy a téma mennyire összetett, árnyékos és hálózati.

Sok potenciál – mindkét irányban

Az AI rendszereknek lehetősége van a döntéshozatal tisztességesebbé és objektívebbé tételére minden szinten. Ez nem csak elmélet: például egy 2018-as tanulmány megállapította, hogy az AI rendszerek alapján hozott bírósági határozatok csökkenthetik a bőr színének különbségeit.

Az a tény, hogy az AI rendszerek megakadályozzák az emberi hibákat, nem automatikus. Az AI rendszerek reprodukálhatják az emberi és társadalmi előítéleteket, ha nem mentesek a torzulásoktól – gyorsabban, mint az emberek képesek lennének. Ennek elkerülése érdekében ezért fontos a stratégiai kockázatkezelés az előítéletek és az elfogultság szempontjából az AI rendszerekben.

Szintén érdekes: Állítsa le az AI-félelmet!

Az AI kockázatkezelésének alapelvei

A vezérigazgatóknak, a szakértőknek és más döntéshozóknak mindenekelőtt tisztázniuk kell a torz AI rendszerek kockázatát és azok következményeit – és meg kell határozniuk az előre látható gyengeségeket és a hiba forrásait ezen a ponton. Ehhez multidiszciplináris megközelítésre van szükség, amely magában foglalja a szervezet minden releváns részének perspektíváit.

Például bemutatjuk egy kiemelkedő – és ebben az esetben anonimizált – európai banknak, amely AI rendszereket használ a telefonos ügyfélszolgálat, jelzálogkölcsönök és pénzgazdálkodás optimalizálására AI rendszerek segítségével, hogyan működhet ez a gyakorlatban. A Bank COO az üzleti, informatikai, biztonsági és kockázati iparági szakértőket hozta össze a kockázatok felmérése és rangsorolása céljából. Az eredmény egy strukturált kockázat-azonosítás, amely lehetővé tette az idő és erőforrások értelmi elosztását a rangsorolás alapján. Ez csak a kezdet.

Vigye magával az egész szervezetet

Amikor világossá válik, hogy mely sürgős kérdésekkel kell foglalkozni, másodlagos – robusztus kontrollrendszerekre van szükség – az egész szervezetben. Az AI rendszerek fejlesztését sürgősen érthető és ellenőrizhető módon kell irányítani – belső iránymutatásokkal, tesztelési eljárásokkal és készenléti tervekkel, valamint megfelelő képzési és fejlesztési lehetőségekkel kombinálva.

A fent említett európai bank határozott döntéshozatali alapelveket fogalmazott meg egyértelmű célkitűzéssel: meghatározni, hogy mikor és miként lehet használni az AI rendszereket, ha azok befolyásolják a banki ügyfelek pénzügyi helyzetét. Például bizonyos helyzetekben előfordulhat, hogy egy emberi alkalmazottat szabadon kell bocsátani, mielőtt az AI ajánlását továbbadnák az ügyfeleknek. Ezenkívül a Bank korábbi kockázatkezelését alapos felülvizsgálatnak vetette alá a lehetséges sebezhetőségek kiküszöbölése és a szükséges biztosítékok kialakítása és megerősítése érdekében.

Fontos, hogy a kockázatalapú rendelkezéseket az AI rendszerek torzításaival szemben a kockázatokhoz igazítsuk, és a szükséges mélységben behatoljunk az alanyba. A használt algoritmusok bonyolultságától, attól függ, hogy mennyire kiterjedtek és sokrétűek a felhasznált adatok, valamint hogy hol és hogyan beavatkoznak az emberek. Ennek megfelelően az óvintézkedéseket mindig egyénre kell szabni, ez tovább igazolva az ilyen kockázatelemzés stratégiai tervezésének követelményét.

Az elfogultság megelőzése versenyelőnyré válik

Végül még mindig sok a tanulás az AI rendszerek hatékony kockázatkezeléséről – és ez egyelőre így marad. A technológia még mindig viszonylag új és folyamatosan fejlődik. Azonban egy dolog már előre látható: A 21. századi vállalkozások egyik kulcsfontosságú sikertényezőjének biztosítása az AI rendszerek eredményeinek kiegyensúlyozottsága, tisztességessége és torzítása nélkül. A következő hat lépés nyújthat első, hatékony impulzusokat:

  • Az AI rendszerek lehetőségeit és kockázatait már a kezdetektől kezdve bele kell építeni a stratégiai szempontokba.
  • Hozzon létre folyamatokat és intézkedéseket az AI rendszerek torzulásának tesztelésére, és hajtsa végre a szükséges kiigazításokat.
  • Ösztönözni kell az emberi döntéshozatalban elfogultsággal kapcsolatos tényszerű megbeszéléseket.
  • Beszélje meg, hogy az emberek és a gépek hogyan tudnak a lehető legjobban együttműködni.
  • Több beruházás az elfogultság multidiszciplináris kutatásába, és több adat hozzáférhetõvé tétele.
  • Ösztönözze az AI ágazat sokszínűségét a társadalmi sokféleség tükrözésére, ezáltal hatékonyabban megelőzve az elfogultságot és az előítéleteket.

A szervezetek ne habozzanak erre a témára fordítani. Minél drágábbá válnak a hibás AI rendszerek következményei, és minél több szervezetnek kell kezelnie a kockázatokat, annál inkább az eltérések felismerésének és megakadályozásának képessége új versenyelőnyt jelent. Nincs alternatíva ennek stratégiai elfogadására.

Ön is érdekli ezt: A mesterséges intelligencia kreatív intelligenciát igényel

Peter Breuer a McKinsey vállalati és stratégiai tanácsadás vezető partnere. A nagy adatanalitika kiemelkedő szakértőjeként segíti az ügyfeleket a kiválóság elérésében a teljes értékláncban.

Vélemény, hozzászólás?

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük