Negativni učinci umjetne inteligencije

Razvoj strojeva sposobnih oponašati ljudsku misao, nadmašiti je ili čak postati samosvjestan dobro je istražena premisa unutar znanstvene fantastike. U današnjem tehnološkom krajoliku, pojava umjetne inteligencije – AI – mogla bi postati jedno od najvećih postignuća čovječanstva, ali kako je upozorio poznati fizičar Stephen Hawking, "moglo bi biti i posljednje, osim ako ne naučimo izbjegavati rizike."

Povećana automatizacija:Tko povlači okidač?

Sofisticirana tehnologija nastavlja se ugrađivati ​​u moderno društvo, od digitalnih osobnih asistenata i algoritama za pametno pretraživanje u Googleu, do eksperimentalnih samovozećih automobila. Umjetna inteligencija definirana je kao računalo ili stroj koji može izvoditi "logičku dedukciju i zaključivanje" i "donositi odluke na temelju prošlih iskustava ili nedovoljnih ili proturječnih informacija". Trenutačne tehnološke razine već postavljaju zastrašujuće etičke dileme, kao što je trebaju li vojni dronovi ili drugi robotski sustavi biti dizajnirani da koriste smrtonosnu silu protiv ciljeva bez izravnog ljudskog angažmana. Trenutno, programirani strojevi mogu reagirati s većom brzinom i preciznošću od ljudskog operatera, ali su još uvijek sposobni napraviti veliku pogrešku bez ljudskih predrasuda i intuicije koja bi vodila donošenje odluka. Ovi problemi će se pojačati ako se AI ugradi u takve sustave, uvodeći neovisne motive koji mogu biti potpuno nepredvidivi ili u izravnom sukobu s ljudskim namjerama.

Transformacija tržišta

Ugradnja umjetne inteligencije drastično će promijeniti koncept rada čovječanstva. Od industrijskog doba, tehnologija bilo koje vrste neizbježno mnoge poslove čini zastarjelim, a istovremeno stvara nove mogućnosti u novim područjima. Umjetna inteligencija nudi budućnost u kojoj strojevi obavljaju zadatke umjesto nas, omogućujući ljudima da uživaju u slobodnom vremenu. Ekonomist John Maynard Keynes otišao je tako daleko -- još 1930. -- da je predvidio radni tjedan od 15 sati do 2030. Na sadašnjoj razini stanovništva, svi aspekti društva zahtijevali bi drastičnu reviziju, kako kulturno tako i ekonomski, ako bi automatizacija stvorila takav dramatična promjena u načinu na koji provodimo dane.

AI:prijatelj ili neprijatelj?

Jedna značajna prijetnja umjetne inteligencije je hoće li odlučiti koristiti već poboljšane sposobnosti za stvaranje strojeva još veće kognitivne moći. Napredne generacije umjetne inteligencije mogle bi djelovati visoko iznad ljudskih bića kao što mi radimo iznad životinja, pa čak i vrlo vjerojatno evoluirati iznad ljudske sposobnosti da to razumiju. U ovom ishodu - koji je dr. Vernor Vinge nazvao Singularnost za simpozij VISION-21 NASA Lewis Research Centera 1993. - pravila života kakvog poznajemo promijenila bi se zauvijek, jer ne postoji način da se predvidi hoće li umjetna inteligencija odlučili bi koegzistirati ili biti neprijateljski raspoloženi prema čovječanstvu.

Zaštita od katastrofe

Hawking naglašava da svaka ozbiljna rasprava o umjetnoj inteligenciji mora uzeti u obzir potencijalne prijetnje i kako njima upravljati, te poziva na kritičnija, institucionalna istraživanja jer se sve veći korporativni resursi posvećuju ostvarenju otkrića u stvaranju umjetne inteligencije. Vinge tvrdi da se umjetna inteligencija može strogo regulirati pravilima koja učinkovito povezuju dobronamjerno ponašanje u autonomne robote, kao što je zamislio pisac znanstvene fantastike Isaac Asimov u Tri zakona robotike. Vinge također upozorava da će prirodno ljudsko natjecanje vjerojatno dovesti do razvoja neograničenih modela umjetne inteligencije, tako da čak ni takve zaštite možda neće biti dovoljne za kontrolu Singularnosti ako se dogodi.