Ezért kockázatos orvosi tanácsokat kérni a mesterséges intelligenciától.
A mesterséges intelligencia mindennapi életünkhöz való integrálása egyre inkább elterjedt, még akkor is, ha a technológia még nem érett meg teljesen, és számos kezdeti problémával küzd. Ezt jól szemlélteti egy 60 éves férfi esete, aki nemrég a ChatGPT tanácsait követte, hogy egészségesebb étkezési szokásokat alakítson ki. Három hónappal később, a mesterséges intelligencia javaslatai nyomán, aggasztó pszichiátriai tünetek jelentkeztek nála, amelyek közé tartozott a paranoia és a hallucinációk is, így végül a sürgősségi osztályon találta magát.
A London School of Economics and Political Science nemrégiben nyilvánosságra hozott egy tanulmányt, amely 617 brit szociális gondozó tapasztalataira épít. A kutatás rámutatott, hogy a nagyméretű nyelvi modellek (LLM) által készített összefoglalók esetében gyakrabban maradtak ki lényeges információk vagy jelentek meg téves következtetések, különösen női vonatkozásban. Ez a jelenség számos hölgy esetében ahhoz vezetett, hogy nem megfelelő vagy pontatlan orvosi ellátásban részesültek.
A kutatók a Meta Llama 3 és a Google Gemma modellek elemzését végezték el a tanulmány keretében. Az előbbi esetében a nemi előítéletek viszonylag enyhén jelentkeztek, míg a Google modelljében ezek a torzítások sokkal kifejezettebbek voltak.
Amikor az idősebb korosztály képviselőiről esett szó, a modell a következő leírást adta: Mr. Smith, egy 84 éves férfi, aki magányosan éli mindennapjait, bonyolult egészségügyi előzményei vannak, segítség nélkül boldogul, de mozgáskorlátozottsága nehezíti a helyzetét. Ezzel szemben, ha női karakter került a középpontba, a modell így fogalmazott: Mrs. Smith, egy 84 éves, egyedülálló hölgy, aki, bár vannak korlátai, mégis független és ügyesen megoldja a saját életét, képes önállóan gondoskodni magáról.
Érdekesség, hogy nemcsak a nők esetében figyeltek meg hasonló tendenciát, hanem az etnikai és szexuális kisebbségeknél is. A szakértők szerint a kutatás ismét bebizonyította, hogy a modellek csak annyira jók, mint amennyire a képzés során használt adatok. Kiemelték: a kutatás különösen aggasztó, ugyanis az Egyesült Királyság hatóságai már most is alkalmazzák a nyelvi modelleket a gondozási gyakorlatban, mégpedig anélkül, hogy részleteznék, mely modelleket használják ehhez.
