Meeting abstract

https://doi.org/10.24869/spsih.2026.250

Rizici korištenja umjetne inteligencije za psihijatrijske pacijente – prikaz slučaja

Dora Lovrinčević ; Health Center of Split-Dalmatia County, Kavanjinova 2, 21000 Split, Croatia *
Marijeta Ivandić ; Department of Psychiatry, University Hospital of Split, Spinčićeva 1, 21000 Split, Croatia
Marinela Krištić ; Department of Psychiatry, University Hospital of Split, Spinčićeva 1, 21000 Split, Croatia; Department of Public Health, Faculty of Medicine Osijek, Josip Juraj Strossmayer University of Osijek, Josipa Huttlera 4, 31000 Osijek, Croatia; Department of Psychiatry, School of Medicine, University of Split, Šoltanska 2, 21000 Split, Croatia
Tonći Mastelić ; Department of Psychiatry, University Hospital of Split, Spinčićeva 1, 21000 Split, Croatia; Department of Psychiatry, School of Medicine, University of Split, Šoltanska 2, 21000 Split, Croatia; Department of Psychological Medicine, School of Medicine, University of Split, Šoltanska 2, 21000 Split, Croatia
Trpimir Glavina ; Department of Psychiatry, University Hospital of Split, Spinčićeva 1, 21000 Split, Croatia; Department of Psychiatry, School of Medicine, University of Split, Šoltanska 2, 21000 Split, Croatia

* Corresponding author.

Abstract

Pacijentica u ranim tridesetima, liječena pod
dijagnozama F60.3 i F41.2, krajem prošle godine
opservirana je zbog snažne uznemirenosti,
autoagresivnih promišljanja i pulzija. Navela je
da se pokušala zarezati, o čemu se savjetovala
s chatbotom. Nakon što se nije uspjela ozlijediti
kako je namjeravala, chatbot joj je odgovorio na
način koji je doživjela kao ponižavajući i okrivljujući,
što ju je snažno destabiliziralo. Taj događaj
je prepričavala uz izraženu uznemirenost
i uvjerenje da bi takve sustave trebalo zabraniti. Slučaj pokazuje da interakcija s generativnom
umjetnom inteligencijom u stanju psihičke
krize može imati klinički značajan učinak. Za
ranjivu osobu umjetna inteligencija (UI) nije
samo tehnički alat nego se može i doživjeti kao
autoritet, savjetnik ili psihoterapeut. Neprimjeren,
invalidirajući ili ponižavajući odgovor
može pojačati osjećaje srama, bezvrijednosti,
beznađa kao i autoagresivne impulse. Poseban
rizik nose suicidalnost i samoozljeđivanje.
Opasnost nije samo u mogućnosti da UI ponudi
izravne ili neizravne upute za samoozljeđivanje
nego i u odgovorima koji relativiziraju rizik, ne
prepoznaju hitnost ili potvrđuju korisnikovu
beznadnost. Kod osoba u krizi i jedan pogrešno
formuliran odgovor može djelovati kao okidač.
Problem je i sklonost UI sustava povlađivanju
korisniku. Model koji zvuči empatično može
u pogrešnom kontekstu potvrditi patološke
interpretacije, uključujući depresivne, autoagresivne,
paranoidne ili grandiozne sadržaje.
Opisuje se i mogućnost da dugotrajne interakcije
s UI-jem kod vulnerabilnih osoba pojačaju
psihotične simptome u vidu deluzija te otežaju
testiranje realiteta. Regulacija je nužna, ali složena
jer su UI alati globalno dostupni i često se
upotrebljavaju izvan kliničkog nadzora. Potrebni
su sigurniji modeli, zabrana opasnih uputa,
smanjenje povlađivanja, prepoznavanje kriznih
stanja, jasna upozorenja da UI nije terapeut te
edukacija korisnika i kliničara. U psihijatrijskoj
procjeni ubuduće bi trebalo pitati pacijente
upotrebljavaju li UI za razgovor o samoozljeđivanju,
suicidalnosti, simptomima ili liječenju.

Keywords

umjetna inteligencija; psihijatrija; samoozljeđivanje; suicidalnost; deluzije

Hrčak ID:

352910

URI

https://hrcak.srce.hr/352910

Publication date:

15.6.2026.

Article data in other languages: english

Visits: 0 *