Posljednjih godina svjedočimo pravoj tehnološkoj revoluciji. Umjetna inteligencija ušla je u gotovo svaki kutak života, od posla do zabave. Ona danas programira, piše, računa, predlaže ideje i pretražuje internet brže nego ikada prije. Ono što je nekad zahtijevalo tehničke vještine i sate rada, danas se može proizvesti u nekoliko klikova: realistične slike i videozapisi koji izgledaju stvarno, a zapravo su stvoreni uz pomoć AI-ja. Nekad je sve ovo bilo rezervirano samo za tehnološke gigante, a sada je dostupno svima – doslovno na dlanu, u pametnom telefonu.
Dok mnogi umjetnu inteligenciju doživljavaju isključivo kao alat koji olakšava svakodnevicu, njezin razvoj otvara i jedno mračno poglavlje. Ista tehnologija koja omogućuje napredak i kreativnost, u pogrešnim se rukama pretvara u moćno oružje te koristi u zlonamjerne svrhe, koje mogu imati razorne posljedice, osobito za djecu i mlade. Od stvaranja potpuno umjetnog materijala do manipulacije postojećim fotografijama djece, čime se briše granica između stvarnog i izmišljenog.
To predstavlja ogroman izazov u borbi protiv seksualnog zlostavljanja djece, jer sadržaj može biti potpuno umjetan ili pak nastati kombiniranjem stvarnih fotografija s digitalnim manipulacijama.
Ovakvi slučajevi nisu više rezervirani samo za holivudske filmove i u realnosti se događaju češće nego što mislite. Možda čak nekome koga poznajete... A nažalost, danas su na meti napada najmlađi.
Opasnosti za djecu
Chris Hughes, direktor hotlinea IWF-a (Internet Watch Foundation) naglašava kako su rizici brojni...
– Proizvodnja AI sadržaja može biti potpuno umjetna ili djelomično sintetička (kombinacija stvarne slike djeteta izmijenjene pomoću AI-ja). AI otežava identifikaciju i zaštitu žrtava seksualnog zlostavljanja, a njegov razvoj stvara prilike za kriminalce da zarađuju na proizvodnji CSAM-a. Postoje i dokazi da AI sadržaj povećava želju seksualnih prijestupnika i potiče ih da počine stvarno zlostavljanje. AI stvara veću potražnju za CSAM-om – upozorava Hughes te dodaje kako sve veća dostupnost tzv. nudifying aplikacija dovodi do situacija u kojima djeca, koja inače ne bi bila izložena zlostavljanju, završavaju s izmijenjenim i distribuiranim nevinim slikama.
– Šteta koju uzrokuju AI slike proteže se daleko izvan samog stvaranja materijala. Razvoj AI-ja zasigurno je nanio udarac borbi protiv nasilja nad ženama i djevojčicama. Iako AI CSAM nije rodno specifičan, velika većina sadržaja koje vidimo odnosi se na žene i djevojčice, a ne na dječake. Postoji još mnogo štetnih aspekata razvoja AI CSAM-a – govori.
Zabrinjavajuće brojke
Brojke su alarmantne. Samo u prvih sedam mjeseci 2025. IWF je uvrstio 1286 AI slika i videa u svoje izvještaje, što je porast od 400 posto u odnosu na prethodnu godinu. Još su dramatičniji podaci iz SAD-a: partneri u NCMEC-u izvijestili su o rastu AI prijava od čak 1325 posto, s 4700 na 67.000 u samo godinu dana.
Prema riječima stručnjaka, broj prijava povezanih s umjetnom inteligencijom povećao se upravo zbog AI-ja, ali zabilježeni brojevi ne odražavaju stvarnu razinu dostupnosti AI sadržaja.
– Stvoreni sadržaj postaje sve ekstremniji i realističniji. Posebno zabrinjava nagli porast AI videosadržaja u vrlo kratkom vremenu, što predstavlja dodatni problem u području generativne umjetne inteligencije – kaže Hughes.
Hrvatski odgovor na globalne izazove
Upravo o ovim temama raspravljalo se na konferenciji CyberGuard 2025, koju su organizirali A1 Hrvatska i Centar za sigurniji internet te je jedan od govornika bio upravo Chris Hughes.
Drugo izdanje konferencije održalo se 2. listopada u zagrebačkom MOZAIK centru i ponovno okupilo vodeće domaće i međunarodne stručnjake iz područja digitalne sigurnosti, zaštite djece i poslovne otpornosti. Konferencija se odvila kroz dva paralelna streama, jedan posvećen kibernetičkoj sigurnosti za poslovnu zajednicu, a drugi stručnjacima koji rade s djecom: nastavnicima, pedagozima, psiholozima i socijalnim radnicima.
Ovogodišnji CyberGuard privukao je više od 300 sudionika, uz predavače iz Velike Britanije, Irske, Belgije, UNICEFa, Europske komisije, ali i velikih kompanija poput IBM, SPAN-a, Fortineta i Infiga.
Naša stvarnost: djeca traže pomoć više nego ikad
Podaci Centra za sigurniji internet otkrivaju koliko je problem ozbiljan i kod nas, ne samo "vani". Njihova anonimna i besplatna helpline linija u protekloj godini zaprimila je čak 993 upita, što je dvostruko više nego godinu prije. Djeca, roditelji i stručnjaci najčešće prijavljuju slučajeve kada su privatne snimke ili fotografije iskorištene za izrugivanje ili za otvaranje lažnih profila.
Posebno zabrinjavaju i phishing prijevare, hakirani računi te ucjene na platformama koje koriste djeca, poput Robloxa. U takvom okruženju rizik od kontakta s nepoznatim odraslim osobama, izlaganja neprimjerenom sadržaju ili gubitka kontrole nad vlastitim podacima postaje svakodnevna prijetnja.
Istraživanje o vršnjačkom nasilju
U sklopu konferencije, izv. prof. dr. sc. Lucija Vejmelka s Pravnog fakulteta Sveučilišta u Zagrebu predstavila je rezultate istraživanja o vršnjačkom i online nasilju među osnovnoškolcima u Hrvatskoj koji su pokazali da je više od trećine djece (34,2 posto) barem jednom mjesečno izloženo elektroničkom nasilju, a četvrtina (24,1 posto) ga u istom periodu počini. Posebno zabrinjava činjenica da je više od četvrtine učenika barem jednom primilo seksualne ili neprimjerene sadržaje od nepoznatih osoba putem interneta te da je gotovo svako sedmo dijete (14,8 posto) u osnovnoj školi barem jednom putem interneta dogovorilo susret uživo s nepoznatom osobom. Rezultatima istraživanja uslijedila je panel rasprava koja je otvorila pitanja prevencije, društvene odgovornosti i uloge zajednice u zaštiti mladih
Umjetna inteligencija je tehnologija budućnosti, ali u pogrešnim rukama postaje oružje koje može razoriti živote djece i obitelji. Konferencije poput CyberGuard 2025 podsjećaju da borba protiv online zlostavljanja zahtijeva stalnu suradnju stručnjaka, institucija, industrije i društva jer digitalna sigurnost nije samo tehnološko, nego i duboko ljudsko pitanje.
Sponzorirani sadržaj nastao u suradnji Native Ad Studija Slobodne Dalmacije i A1 Hrvatska.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....