2009-ben az Air France egyik járata az óceánba csapódott, a fedélzeten mindenki meghalt. Leállt a robotpilóta, az igazi pilóták pedig már annyira hozzászoktak a segítségéhez, hogy egyedül, manuálisan nem tudták megoldani a helyzetet. 2015-ben egy buszsofőr rossz út úti célt írt be a GPS-be, és vidáman elvitt egy belga turistacsoportot egy 1200 kilométeres kerülőútra. 2017-ben egy - később fellebbezéssel hatályon kívül helyezett - döntés értelmében az amerikai ügyészek, akik korábban beleegyeztek egy tinédzser feltételes szabadlábra helyezésébe, hirtelen meggondolták magukat, mivel egy algoritmus a vádlottat "magas kockázatúnak" minősítette.
Elfelejtjük a megszerzett tudást
A fentiek extrém példák, de egyáltalán nem egyedi esetek. Egyre több kutatás támasztja alá, hogy ha a mesterséges intelligenciára bízunk egy-egy kognitív feladatot, akkor azokat egy idő nem tudjuk mi magunk megoldani. Már arra is van kifejezés, amikor az interneten elérhető információkat gyakorlatilag azonnal elfelejtjük, miután megkerestük azokat: ez a Google-hatás.
Mivel egyre több területen jelenik meg a mesterséges intelligencia, egyre több készségünk "erodálódhat". Egy kutatás során egy könyvelőirodát vizsgáltak meg ebből a szempontból - olvasható a The Conversation oldalán. A cég a közelmúltban abbahagyta a szoftver használatát, amellyel a könyvelés nagy részét automatizálták. A könyvelőknek azonban rá kellett jönniük, hogy e nélkül képtelenek ellátni a feladataikat. A szoftvertől való túlzott függés évei aláásták a szakértelmüket, és végül újra kellett tanulniuk az ismereteiket.
Bár a szoftver nem használt mesterséges intelligenciát, ahhoz elég "okos" volt, hogy nyomon kövesse az értékcsökkenést, illetve jelentéseket készítsen számos adózási és pénzügyi célra. Ezek olyan feladatok voltak, amelyeket a könyvelők nagyon összetettnek és fárasztónak találtak. A vállalat csak akkor jött rá, hogy megkopott a dolgozók tudása, amikor egy ügyfél hibákat talált a könyvelőcsapat által készített jelentésekben. Mivel könyvelői nem rendelkeztek megfelelő szakértelemmel ahhoz, hogy helyrehozzák azokat, a cégnek a szoftverszolgáltatót kellett megbíznia a hibák kijavításával.
A kutatók megállapították, hogy az automatizálással támogatott feladatra való odafigyelés hiánya a készségek eróziójához vezetett. Az intenzív kognitív munkára való képességünk ugyanúgy el tud kopni, mint más olyan tudás, amelyet nem használunk aktívan. A könyvelők nem aggódtak amiatt, hogy a gondolkodást is igénylő feladataikat kiszervezik a szoftvernek, mivel az szinte hibátlanul működött. Más szóval, áldozatul estek az "automatizálási önelégültségnek": annak a feltételezésnek, hogy "minden rendben van", miközben figyelmen kívül hagyják a lehetséges kockázatokat.
Ennek három súlyos következménye volt:
- a könyvelők nem figyeltek arra, hogy mit csinál a szoftver,
- már nem éreztek késztetést arra, hogy csiszolják a tudásukat (például hogy megismerjék a legújabb adóügyi szabályozásokat), mert a szoftver mindent megcsinált helyettük,
- mivel a szoftver megbízható volt, nem ellenőrizték, hogy a munkája pontos volt-e.
Hogyan lehet ezt elkerülni?
Íme néhány tipp arra vonatkozólag, hogyan óvjuk meg készségeinket az elkopástól.
- Figyeljünk arra, hogy mit csinál a rendszer: milyen információkat használ, milyen célra, és mi befolyásolhatja a javaslatait!
- Tartsuk naprakészen a kompetenciáinkat (különösen, ha jogilag felelős vagyunk a kész munkáért).
- Kritikusan értékeljük a rendszer munkáját, még akkor is, ha a végeredmény kielégítőnek tűnik.
Erre jó példa lehet, ha nem követjük vakon a GPS-t vezetés közben, hanem jobban odafigyelünk az útra, a lámpákra, a táblákra, az épületekre, és arra, amit csinálunk.
Tanulmányozzuk a térképet és a javasolt útvonalat vezetés előtt, hogy növeljük területi ismereteinket, vagyis hogy jobban megértsük, mi található az útvonal körül. Ez segít abban, hogy az utat el tudjuk helyezni a tágabb környezetében, ami hasznos lesz, ha eltévedünk, vagy ha alternatív útvonalakat szeretnénk találni. Érkezés után pedig gondolkodjunk el az alkalmazás által javasolt útvonalon. Gyors, biztonságos, élvezetes volt-e? Ha nem, legközelebb másikat válasszunk, bármit is javasol az alkalmazás.
Szükséges társ a mesterséges intelligencia?
Felmerül a kérdés, hogy a mesterséges intelligencia korában milyen készségeket kell fejlesztenünk, és milyen feladatokat adhatunk át nyugodtan. Erre nincs általános, minden területre érvényes válasz, de érdemes fontolóra vennünk újra és újra, mikor egy-egy feladatot automatizálni akarunk.
A fent említett könyvelőiroda vezetője a tapasztaltak ellenére úgy gondolja, hogy az automatizált szoftver rendkívül hasznos a munkájukhoz. Véleménye szerint csapata csak túlzott önelégültség hibájába esett. A hatékonyságra és az éves vagy negyedéves célokra összpontosító világban a cégek azokat a megoldásokat részesítik előnyben, amelyek rövid távon eredményesek, akkor is, ha hosszú távon negatív mellékhatásaik vannak. Ez történt itt is, de ez nem jelenti azt, hogy kerülnünk kellene a mesterséges intelligenciát, az általa kínált lehetőségeket nem lehet figyelmen kívül hagyni. Ugyanakkor tisztában kell lenni a szakértelem elkopásának kockázatával is.
