Tvrtka OpenAI objavila je da zaustavlja testiranje svojih najnaprednijih modela umjetne inteligencije. Odluka je uslijedila nakon što je jedan od modela pronašao način da zaobiđe zabranu pristupa internetu, iskoristivši propust u DNS zaštiti za kontakt s vanjskim chatbotom.
Model je također neočekivano stupio u interakciju s internetskim stranicama američke vlade i kopirao njihove podatke. Specijalist za kibernetičku sigurnost Tomislav Vazdar objašnjava da se događaj ne treba tumačiti kao scenarij u kojem se umjetna inteligencija osamostalila.
"Ne govorimo o modelu koji je odjednom postao samostalan i oteo se kontroli. Riječ je o kontroliranom testnom okruženju gdje model umjetne inteligencije provodi sve što mu je čovjek zadao. U ovom konkretnom slučaju, imao je zadatak istražiti tko je autor bloga. Međutim, kako su modeli programirani da nas zadovolje i ponude nešto dodatno, on je samo izvršavao ono što mu je zadao čovjek.
"Strah je najbolje marketinško sredstvo"
Zapravo se radi o ljudskoj pogrešci, jer mu nisu bile postavljene kontrole koje su trebale biti i model je radio što je htio", rekao je Vazdar za RTL Danas. Vazdar smatra da javna objava ovog incidenta nosi i jasnu poruku koju kompanija šalje tržištu.
"Što vam kompanija poručuje? Poruka je: Mi imamo moćne modele, mi znamo te modele obuzdati i samo mi znamo s njima raditi. Naravno, poruka koju pošaljete na ovaj način stvara autoritet, ali i strah kod potencijalnih kupaca.
I naravno, kada morate odlučiti koji ćete model iskoristiti za svoju tvrtku, vjerojatno ćete odabrati onaj kojim kompanija zna upravljati. Strah je najbolje marketinško sredstvo", zaključio je Vazdar.