Original scientific paper

Sigurnost strojnog učenja

Stjepan Picek ; Sveučilište u Zagrebu Fakultet elektrotehnike i računarstva, Unska 3, 10000 Zagreb; Radboud University, Houtlaan 4, 6525 XZ Nijmegen, Nizozemska; University of Bergen, Muséplassen 1, 5007 Bergen, Norveška

Abstract

Strojno učenje brzo prelazi iz istraživačke domene u temeljni element moderne digitalne infrastrukture. Pritom sustavi strojnog učenja postaju i meta sve sofisticiranijih napada, čime se otvara nova i rastuća površina rizika. Ovaj pregledni rad analizira sigurnost strojnog učenja s naglaskom na ranjivosti svojstvene sustavima temeljenima na podacima te na protivnike koji ih iskorištavaju. Nakon razgraničenja sigurnosti umjetne inteligencije i umjetne inteligencije za sigurnost, fokus stavljamo na prvi pristup te razlikujemo namjerne napade od nenamjernih pogrešaka i kvarova modela. Namjerne napade klasificiramo prema fazi životnog ciklusa strojnog učenja na koju su usmjereni, odnosno prema treniranju i inferenciji, te prema ciljevima napada u okviru CIA trijade. Nadalje, razmatramo sigurnost velikih jezičnih modela, osobito prompt injection i jailbreak napade. U završnom dijelu razmatramo regulatorni kontekst, posebno AI Act Europske unije i GDPR.

Keywords

sigurnost strojnog učenja, adversarijalno strojno učenje, prompt injection, jailbreak, AI Act

Hrčak ID:

347750

URI

https://hrcak.srce.hr/347750

Publication date:

8.6.2026.

Visits: 0 *