Sažetak sa skupa

https://doi.org/10.24869/spsih.2026.250

Rizici korištenja umjetne inteligencije za psihijatrijske pacijente – prikaz slučaja

Dora Lovrinčević ; Dom zdravlja Splitsko-dalmatinske županije, Kavanjinova 2, 21000 Split, Hrvatska *
Marijeta Ivandić ; Klinika za psihijatriju, Klinički bolnički centar Split, Spinčićeva 1, 21000 Split, Hrvatska
Marinela Krištić ; Klinika za psihijatriju, Klinički bolnički centar Split, Spinčićeva 1, 21000 Split, Hrvatska; Katedra za javno zdravstvo, Medicinski fakultet Osijek, Sveučilište Josipa Jurja Strossmayera u Osijeku, Josipa Huttlera 4, 31000 Osijek, Hrvatska; Katedra za psihijatriju, Medicinski fakultet, Sveučilište u Splitu, Šoltanska 2, 21000 Split, Hrvatska
Tonći Mastelić ; Klinika za psihijatriju, Klinički bolnički centar Split, Spinčićeva 1, 21000 Split, Hrvatska; Katedra za psihijatriju, Medicinski fakultet, Sveučilište u Splitu, Šoltanska 2, 21000 Split, Hrvatska; Katedra za psihološku medicinu, Medicinski fakultet, Sveučilište u Splitu, Šoltanska 2, 21000 Split, Hrvatska
Trpimir Glavina ; Klinika za psihijatriju, Klinički bolnički centar Split, Spinčićeva 1, 21000 Split, Hrvatska; Katedra za psihijatriju, Medicinski fakultet, Sveučilište u Splitu, Šoltanska 2, 21000 Split, Hrvatska

* Dopisni autor.

Sažetak

Pacijentica u ranim tridesetima, liječena pod
dijagnozama F60.3 i F41.2, krajem prošle godine
opservirana je zbog snažne uznemirenosti,
autoagresivnih promišljanja i pulzija. Navela je
da se pokušala zarezati, o čemu se savjetovala
s chatbotom. Nakon što se nije uspjela ozlijediti
kako je namjeravala, chatbot joj je odgovorio na
način koji je doživjela kao ponižavajući i okrivljujući,
što ju je snažno destabiliziralo. Taj događaj
je prepričavala uz izraženu uznemirenost
i uvjerenje da bi takve sustave trebalo zabraniti. Slučaj pokazuje da interakcija s generativnom
umjetnom inteligencijom u stanju psihičke
krize može imati klinički značajan učinak. Za
ranjivu osobu umjetna inteligencija (UI) nije
samo tehnički alat nego se može i doživjeti kao
autoritet, savjetnik ili psihoterapeut. Neprimjeren,
invalidirajući ili ponižavajući odgovor
može pojačati osjećaje srama, bezvrijednosti,
beznađa kao i autoagresivne impulse. Poseban
rizik nose suicidalnost i samoozljeđivanje.
Opasnost nije samo u mogućnosti da UI ponudi
izravne ili neizravne upute za samoozljeđivanje
nego i u odgovorima koji relativiziraju rizik, ne
prepoznaju hitnost ili potvrđuju korisnikovu
beznadnost. Kod osoba u krizi i jedan pogrešno
formuliran odgovor može djelovati kao okidač.
Problem je i sklonost UI sustava povlađivanju
korisniku. Model koji zvuči empatično može
u pogrešnom kontekstu potvrditi patološke
interpretacije, uključujući depresivne, autoagresivne,
paranoidne ili grandiozne sadržaje.
Opisuje se i mogućnost da dugotrajne interakcije
s UI-jem kod vulnerabilnih osoba pojačaju
psihotične simptome u vidu deluzija te otežaju
testiranje realiteta. Regulacija je nužna, ali složena
jer su UI alati globalno dostupni i često se
upotrebljavaju izvan kliničkog nadzora. Potrebni
su sigurniji modeli, zabrana opasnih uputa,
smanjenje povlađivanja, prepoznavanje kriznih
stanja, jasna upozorenja da UI nije terapeut te
edukacija korisnika i kliničara. U psihijatrijskoj
procjeni ubuduće bi trebalo pitati pacijente
upotrebljavaju li UI za razgovor o samoozljeđivanju,
suicidalnosti, simptomima ili liječenju.

Ključne riječi

umjetna inteligencija; psihijatrija; samoozljeđivanje; suicidalnost; deluzije

Hrčak ID:

352910

URI

https://hrcak.srce.hr/352910

Datum izdavanja:

15.6.2026.

Podaci na drugim jezicima: engleski

Posjeta: 0 *