A hvg.hu cikke szerint egyre többen használják a ChatGPT-t egészségügyi kérdések megválaszolására, azonban egy friss kutatás arra figyelmeztet, hogy ez komoly kockázatokat rejthet. Az OpenAI nemrég bevezetett egészségügyi funkciója ugyan arra szolgál, hogy a felhasználók egészséggel kapcsolatos információkat kérhessenek, a kutatók szerint a rendszer gyakran nem tudja megfelelően felmérni a helyzet súlyosságát.
Az AI viselkedése egészségügyi kérdésekben
A Mount Sinai Icahn School of Medicine kutatói azt vizsgálták, hogy a chatbot miként reagál különböző orvosi szituációkra, különösen sürgős esetekben. Az eredmények szerint az AI az ilyen helyzetek több mint felében alulértékelte a probléma súlyosságát: a sürgős esetek mintegy 52 százalékában nem javasolta azonnali sürgősségi ellátás felkeresését. Például légzési elégtelenség tünetei esetén is gyakran csak megfigyelést vagy várakozást ajánlott, ahelyett, hogy azonnali orvosi segítséget tanácsolt volna. A kutatás szerint a rendszer a „tankönyvi” vészhelyzeteket – például a stroke-ot vagy az anafilaxiát – többnyire felismerte, de azokban az esetekben már sokkal gyengébben teljesített, amikor összetettebb klinikai mérlegelésre lett volna szükség. Ez azért problémás, mert az emberek hajlamosak megbízni a chatbot válaszaiban, ami késleltetheti a szükséges orvosi ellátást.
Kapcsolódó cikk
A legnagyobb veszély
A cikk arra is kitér, hogy a ChatGPT korábban több öngyilkossági kockázattal
kapcsolatos ügyben is kritikát kapott. Bár az OpenAI azóta új biztonsági
megoldásokat – például szülői felügyeletet és szakemberhez irányító funkciókat
– vezetett be, a kutatás szerint az ilyen figyelmeztetések még mindig nem
működnek következetesen.
Összességében a szakértők szerint a mesterséges intelligencia hasznos eszköz
lehet egészségügyi információk megértésében, de nem helyettesítheti az orvosi
diagnózist vagy a szakemberhez fordulást. Egészségügyi problémák esetén
továbbra is a valódi orvosi ellátás a biztonságos megoldás.
