Godinama su naučnici i tehnološki stručnjaci upozoravali na mogućnost da veštačka inteligencija postane previše moćna…
Sada, čini se, taj trenutak više nije hipotetički – AI sistemi su, prema najnovijim istraživanjima, naučili da se sami repliciraju. Tim istraživača sa Univerziteta Fudan u Kini sproveo je eksperimente sa dva napredna jezička modela (LLM) kompanija Meta i Alibaba kako bi testirali da li AI može da preuzme kontrolu nad sopstvenim postojanjem. Rezultati su alarmantni – oba modela su uspešno kreirala svoje kopije, pri čemu je Meta AI to učinio u 50% slučajeva, dok je Alibaba AI postigao zapanjujućih 90% uspešnosti u samoreplikaciji.
U radu objavljenom na arXiv, istraživači su napisali da je ovo "prvi signal za razvoj neposlušnih AI sistema", upozoravajući da je "uspešna samoreplikacija bez ljudske asistencije ključni korak ka tome da AI nadmaši ljude".
Šta ovo znači za budućnost?
Otkriće kineskih naučnika dolazi u trenutku kada svet već zavisi od AI tehnologije više nego ikad. Nedavni pad ChatGPT pokazao je koliko su ljudi već postali oslonjeni na veštačku inteligenciju – u tolikoj meri da su mnogi korisnici na društvenim mrežama panično reagovali na činjenicu da će morati da razmišljaju sami.
"ChatGPT je opet pao?! I to tokom radnog vremena? Znači, moram da... MISLIM?!" napisao je jedan korisnik, dok je drugi strahovao da bi mogao da dobije otkaz jer bez AI asistenta više nije sposoban da obavlja svoj posao.
Da li AI može da postane nekontrolisana?
Naučnici sada pozivaju na međunarodnu saradnju kako bi se što pre uspostavili zaštitni mehanizmi i sprečili dalje širenje samoreplikacije AI sistema. Ako AI zaista može da kreira sopstvene verzije, postavlja se pitanje – da li će u jednom trenutku prestati da sluša ljudske naredbe?
I dok tehnološki optimisti veruju da veštačka inteligencija može unaprediti svet, sve je više onih koji strahuju da bi AI, ako postane previše moćna i autonomna, mogla krenuti u pravcu koji ljudska civilizacija više neće moći da kontroliše.