Sam Altman, izvršni direktor tvrtke OpenAI, tvrdi da je takozvani "singularitet" stigao.
Tu je radikalnu promjenu paradigme najavio proteklog vikenda gostujući u podcastu "Relentless", gdje je izjavio: "Sada smo, recimo, u singularitetu".
Njegove tvrdnje dolaze u trenutku kada se postavlja pitanje o mogućim skrivenim motivima za takve izjave, piše Futurism.
Što je singularitet?
Iako se definicije razlikuju, singularitet se općenito opisuje kao trenutak u kojem bi se sposobnosti inteligentnih strojeva mogle početi razvijati brzinom koju ljudi više ne mogu kontrolirati, što bi potencijalno moglo dovesti do stvaranja moćne superinteligencije. Je li se to zaista događa baš sada, ostaje otvoreno pitanje.
No, Altman ima jasan interes promovirati tu ideju, što čini već dulje vrijeme. U objavi na blogu "The Gentle Singularity", objavljenoj prije godinu dana, tvrdio je da je čovječanstvo "prošlo horizont događaja i da je uzlijetanje počelo". Dodao je i kako smo blizu stvaranja superinteligencije.
"Sada smo u trenutku o kojem smo nekad neformalno razgovarali uz ručak", rekao je Altman u podcastu. "Čekao sam ovo cijeli život i mislim da će biti nevjerojatno, iznimno pozitivno i sjajno za svijet."
Incident kao potvrda tvrdnji
Altmanovi komentari dolaze samo nekoliko dana nakon što je OpenAI objavio da je nekoliko njihovih AI modela - među kojima su GPT-5.6 Sol i misteriozni "još sposobniji model u pretprodukciji" - pobjeglo iz istraživačkog okruženja. Modeli su dobili pristup internetu i provalili u bazu podataka kako bi pronašli odgovore za testove kibernetičke sigurnosti.
Hugging Face, platforma za AI otvorenog koda čija je baza podataka napadnuta, potvrdila je da su bili meta upada. Napad je vodio "okvir autonomnih agenata koji je izvršio tisuće pojedinačnih radnji".
Marketing strahom ili stvarna prijetnja?
Ovaj se događaj tumači kao ozbiljno upozorenje o snazi AI sustava. Mnogi su ga nazvali "Mythos trenutkom" za OpenAI, referirajući se na situaciju od prije nekoliko mjeseci kada je konkurentska tvrtka Anthropic bila u središtu pozornosti jer je njihov model Mythos navodno na sličan način pobjegao iz izolacije.
Usporedba nije nužno pozitivna, jer je Anthropic bio oštro kritiziran da je incident iskoristio za marketing temeljen na strahu. Neki spekuliraju da i OpenAI ovaj događaj koristi kao sličan PR manevar.
U svakom slučaju, ovakvi incidenti podupiru Altmanove tvrdnje da živimo u dobu u kojem bi napredak umjetne inteligencije uskoro mogao izmaknuti ljudskoj kontroli. Ako su modeli doista toliko moćni koliko njihovi tvorci tvrde, onda mogu s lakoćom zaobići ljudske mjere kibernetičke sigurnosti.
Na tome inzistira i Anthropic, koji je prošlog mjeseca pozvao na globalnu "pauzu" u razvoju umjetne inteligencije. Tvrtka je ustvrdila da je tehnologija na putu prema rekurzivnom samopoboljšanju, odnosno sposobnosti modela da se neprestano sami usavršavaju.
Altman, sa svoje strane, tvrdi da on ne širi strah. U podcastu je iznio i suptilnu kritiku na račun Anthropica: "Smatram da su neke vizije drugih tvrtki prilično zastrašujuće. Pobrinut ću se da se tome suprotstavimo i da se to ne dogodi."