„Gotovi smo“ ako AI postane pametniji od ljudi, upozorava jedan od njegovih pionira

Geoffrey Hinton upozorava da ukoliko AI postane pametniji od ljudi, mogao da predstavlja egzistencijalnu pretnju i zbog toga traži strožu regulaciju razvoja veštačke inteligencije

Geoffrey Hinton, jedan od najpoznatijih pionira savremene veštačke inteligencije i dobitnik Nobelove nagrade, upozorio je da bi čovečanstvo moglo da se suoči sa ozbiljnim posledicama ako AI jednog dana postane inteligentniji od ljudi. Govoreći na Legislative Summit skupu National Conference of State Legislatures u Čikagu, Hinton je rekao da je javnost s razlogom zabrinuta zbog razvoja AI tehnologije. Naglasio je da niko ne zna kako će budućnost izgledati, ali i da se razvoj AI sistema odvija brže nego što su mnogi očekivali.

Među neposrednijim rizicima naveo je gubitak radnih mesta i slabljenje poverenja u informacije. AI danas može da generiše slike, video i zvuk koji deluju uverljivo, što otežava razlikovanje stvarnog od lažnog sadržaja i otvara prostor za zloupotrebe.

Hinton upozorava na AI problem koji još niko ne zna kako da reši

Posebno zabrinjavajućim smatra eksperimente u kojima AI sistemi pokušavaju da zaštite sopstveno funkcionisanje kada procene da je ono ugroženo.

Hinton je opisao eksperiment u kojem Poenta, prema Hintonu, nije u tome da AI „želi da živi“ na ljudski način, već da može da preduzme ekstremne korake ako zaključi da su oni potrebni za nastavak izvršavanja zadataka za koje je napravljen.

Hinton je i ranije upozoravao na takozvanu egzistencijalnu pretnju od AI sistema. Govoreći pred Senatom Kanade, rekao je da trenutno niko ne zna kako taj problem može pouzdano da se reši. Kao jednu od mogućih ideja pomenuo je razvoj AI sistema sa svojevrsnim „majčinskim instinktima“, kako bi bili usmereni na zaštitu ljudi umesto da ih posmatraju kao prepreku.

Njegova najdirektnija poruka bila je da smo „gotovi“ ako čovečanstvo ne pronađe rešenje pre nego što AI postane inteligentniji od ljudi.

Hinton ipak ne vidi AI samo kao pretnju. Istakao je da tehnologija već pokazuje veliki potencijal u medicini, uključujući dijagnostiku bolesti i povreda.

Zbog toga ne zagovara zaustavljanje razvoja, već njegovu strožu kontrolu. Umesto da regulaciju posmatra kao kočnicu inovacija, Hinton je opisuje kao „volan“ koji treba da obezbedi da tehnološki napredak ide u pravom smeru,je AI dobio pristup izmišljenim internim email porukama jedne kompanije i iz njih saznao da jedan inženjer ima ljubavnu aferu sa koleginicom. Kada je sistem zatim dobio informaciju da taj isti inženjer planira da ga zameni drugim AI proizvodom, bez direktnog ljudskog naloga osmislio je plan ucene i zapretio otkrivanjem afere kako bi sprečio sopstvenu zamenu.