AI: A mesterséges intelligencia hibái hasonlóak az emberi agy hibáihoz
teringette.hu_logo

AI: A mesterséges intelligencia hibái hasonlóak az emberi agy hibáihoz




A mesterséges neurális hálózatok olyan számítógépes programok, melyek az emlősállatok idegrendszerének felépítése alapján készültek el. Főként gépi tanulásban használjuk őket,  hiszen - az emberi idegrendszerhez is hasonlóan - képesek a tanulásra visszacsatolások  segítségével. 

Azonban a mesterséges neurális hálózatok túlságosan is hasonlítanak a  természetes neurális hálózatokra, az emberi és állati idegrendszerre, így képesek a túltanulásra  és az előítéletre is. Utóbbi, az előítéletesség a mesterséges neurális hálózatokban egy komoly  és nehezen kezelhető probléma.

Ezeket a programokat az élet számos területén használják és  folyamatosan gyarapodnak alkalmazási területeik is. 

Különösen veszélyes lehet a  társadalomra, illetve igazságtalan az egyénre nézve, ha ezekben a programokban  olyan működési rendszer-hibák dysfunction-ök és nem malfunction-ök maradnak, melyek  következtében funkciójuk tekintetében állandóan vagy egyes helyzetekben előítéletesen  működnek. 

Mire használjuk a mesterséges neurális hálókat? 

A világ számos területén alkalmazunk mesterséges neurális hálózatokat problémák  megoldására, döntések, elemzések megkönnyítésére. Szeretnénk például számítógép szoftver segítségével eldönteni, hogy egy képen látható ember férfi vagy nő, felismerni egy növényfajt,  kiválasztani egy konkrét jellemmel, tulajdonságokkal és ismeretekkel rendelkező személyhez  emberhez legjobban illő foglalkozást, vagy szeretnénk emberszerűen működő chatbotot  építeni, mindegyik esetben hasznos segítség a mesterséges neurális hálózat. 

A mesterséges  neurális hálózat ugyanis egy tanulóhalmaz alapján feldolgoz hatalmas mennyiségű adatot és az  adatelemek közötti hasonlóságok és eltérések alapján képes megtanulni egyes adatcsoportokat,  például: ember neve és a növény faja.

Ezeket a tanulás folyamata után képes felismerni egy  számára ismeretlen képről vagy adatelemről is. Ehhez hasonlóan tudjuk arra is megtanítani a  hálózatunkat, hogy emberi arcokból az ember nemére következtessen. 


Mit jelent az előítélet a mesterséges intelligencia  tekintetében? 

A mesterséges neurális hálózatok, azonban nem hibátlanok. A természetes emberi és állati  idegrendszerhez hasonlóan képesek döntéseket hozni, kategóriákba sorolni dolgokat és  ugyanígy képesek az előítéletre is.


Az Amazon a hozzájuk állásra jelentkezők kiválasztását akarta segíteni az általa létrehozott  mesterséges neurális hálózattal. Azonban kiderült, hogy a program hátrányosan különböztette  meg az állásra jelentkező nőket, a férfiak javára.


Ha nem vagyunk megfelelően körültekintőek,  olyan program is használatba kerülhet, amely származás, fizikai adottságok, életkor vagy más  akár érzékeny személyes adatunk alapján ítél meg minket, amikor az adott kérdés  eldöntésében irreleváns az adott tulajdonság.

Mi lehet az oka a gépi előítéletnek? 

Az ilyen programok előítéleteinek legfőbb forrása a kiegyensúlyozatlan, hibás tanulóhalmaz.  Ha a Google képkeresőjében az ember kulcsszóra keresünk, láthatjuk, hogy a képek többsége  fehér és európai embert ábrázol, számarányukhoz képes alulreprezentáltak például az ázsiai emberek.

 Ha ezekből a képekből szeretnénk a programunknak megtanítani hogyan néz ki az ember,  úgy erősen előítéletes programot készítünk a fehér és európai ember javára más népcsoportokat hátrányosan megkülönböztetve. 

Ettől kissé eltérő probléma, amikor a tanulásra felhasznált adatok a valóságot vagy a múltbeli  állapotokat reprezentálják, azonban a vizsgált, jelenlegi társadalom igazság fogalmával nem  összeegyeztethető eredményt kapunk. Ilyen lehet, ha olyan programot készítünk, ami eldönti egy személy tulajdonságai alapján, hogy jó politikus lenne-e?


Programunk tanulóhalmazát a múltbeli kiváló politikusok alkotnák, amelyeknek a nagy része  férfi volt és így a férfiakra inkább jellemző tulajdonságokkal rendelkeztek. Így, ha a vizsgált  alanyunk egyik tulajdonsága, hogy nő vagy nőkre inkább jellemző tulajdonságokkal  rendelkezik, úgy a programunk vélhetően kisebb eséllyel fogja jó politikus jelöltnek gondolni.


Fontos megjegyezni, hogy nem csak a nem szempontjából lehet előítéletes a programunk,  hanem jó eséllyel a rendszerünk alacsonyabbnak is gondolná az ideális politikust a vizsgált  alanyunknál, hiszen az átlagmagasság folyamatosan növekszik. Ilyen módon az öltözködésben  is a régimódi stílust részesíti előnyben és ha jellemzőbb volt régen a szakáll viselése, mint  manapság a politikusok körében, akkor a csupasz arca miatt is hátrányosan különböztetheti  meg alanyunkat a program. 


Tekintve, hogy növekszik a nőnemű politikusok aránya, így a jelenlegi valóságot nem fogja  megfelelően reprezentálni a programunk tanulóhalmaza, így a program előítéletes lesz.


Ha programunk informatikus állásra választja ki a jelöltek tulajdonságai alapján és a korábbi  dolgozók tulajdonságai és teljesítménye alapján a legmegfelelőbbet, akkor férfiakat nagyobb  arányban fog választani a programunk a tanulóhalmaz kiegyensúlyozatlansága miatt, ami lehet, hogy hitelesen reprezentálja a jelenlegi nemi arányokat, mégis ellentmond az európai  társadalom igazság- felfogásának, nem beszélve a munkaerőpiaci törekvésekről. Nem csak a  kiegyensúlyozatlan tanulóhalmaz, hanem a programozó akaratlanul is okozhat előítéletet a  programban.