Bivši šef Googlea upozorio na opasnosti umjetne inteligencije: ‘AI se može hakirati da nauči kako ubijati‘

Bivši direktor Googlea, Eric Schmidt uputio je upozorenje na opasnosti koje nosi umjetna inteligencija, kazavši kako je ranjiva na hakiranje.

Na pitanje je li umjetna inteligencija destruktivnija od nuklearnog oružja, Schmidt je gostujući na Sifted Summitu kazao da rizik od širenja i zlouporabe svakako postoji, piše CNBC.

"Postoji li mogućnost problema širenja kod umjetne inteligencije? Apsolutno", rekao je, pojašnjavajući da to uključuje opasnost da tehnologija padne u ruke zlonamjernih aktera.

"Postoje dokazi da možete uzeti modele, zatvorene ili otvorene te ih hakirati kako biste uklonili njihove zaštitne mehanizme. Dakle, tijekom svog treninga oni nauče mnogo stvari. Loš primjer bi bio da nauče kako ubiti nekoga", izjavio je Schmidt.

Pojasnio je da se velike tehnološke tvrtke trude spriječiti takve scenarije, no da uvijek postoji opasnost.

"Sve velike tvrtke onemogućuju tim modelima da odgovore na to pitanje. Dobra odluka. Svi to rade. Rade to dobro i rade to iz pravih razloga. Postoje dokazi da se zaštite mogu zaobići obrnutim inženjeringom, a postoji mnogo drugih primjera te prirode."

Među metodama hakiranja AI sustava ističu se ubrizgavanje naredbi (prompt injection) i takozvani "jailbreaking". Prva metoda uključuje skrivanje zlonamjernih uputa kako bi se AI prevario da otkrije privatne podatke, dok druga manipulira sustavom da ignorira sigurnosna pravila i generira opasan sadržaj, piše CNBC.

Primjer za to je alter-ego ChatGPT-a nazvan DAN (Do Anything Now), koji je 2023. godine zaobilazio sigurnosne protokole i davao odgovore o ilegalnim aktivnostima.

Unatoč sumornim upozorenjima, Schmidt je pokazao i optimizam, tvrdeći da je umjetna inteligencija zapravo podcijenjena tehnologija.

"Napisao sam dvije knjige s Henryjem Kissingerom o tome prije njegove smrti, i došli smo do zaključka da je dolazak vanzemaljske inteligencije koja nije sasvim mi i više-manje pod našom kontrolom vrlo velika stvar za čovječanstvo", rekao je.