Izvorni znanstveni članak
Sigurnost strojnog učenja
Stjepan Picek
; Sveučilište u Zagrebu Fakultet elektrotehnike i računarstva, Unska 3, 10000 Zagreb; Radboud University, Houtlaan 4, 6525 XZ Nijmegen, Nizozemska; University of Bergen, Muséplassen 1, 5007 Bergen, Norveška
Sažetak
Strojno učenje brzo prelazi iz istraživačke domene u temeljni element moderne digitalne infrastrukture. Pritom sustavi strojnog učenja postaju i meta sve sofisticiranijih napada, čime se otvara nova i rastuća površina rizika. Ovaj pregledni rad analizira sigurnost strojnog učenja s naglaskom na ranjivosti svojstvene sustavima temeljenima na podacima te na protivnike koji ih iskorištavaju. Nakon razgraničenja sigurnosti umjetne inteligencije i umjetne inteligencije za sigurnost, fokus stavljamo na prvi pristup te razlikujemo namjerne napade od nenamjernih pogrešaka i kvarova modela. Namjerne napade klasificiramo prema fazi životnog ciklusa strojnog učenja na koju su usmjereni, odnosno prema treniranju i inferenciji, te prema ciljevima napada u okviru CIA trijade. Nadalje, razmatramo sigurnost velikih jezičnih modela, osobito prompt injection i jailbreak napade. U završnom dijelu razmatramo regulatorni kontekst, posebno AI Act Europske unije i GDPR.
Ključne riječi
sigurnost strojnog učenja, adversarijalno strojno učenje, prompt injection, jailbreak, AI Act
Hrčak ID:
347750
URI
Datum izdavanja:
8.6.2026.
Posjeta: 0 *