Când unii dintre cei mai cunoscuți oameni din lume semnează o scrisoare deschisă prin care cer o pauză în dezvoltarea inteligenței artificiale, cât de teamă ar trebui să-ți fie?
Povestim sâmbătă, de la ora 12:00, la Vocea Nației, cu Dragoș Pătraru.
În episodul 183 din Vocea Nației: – Ar trebui să ne gândim la inteligența artificială ca la energia nucleară. Nu știm dacă va fi folosită ca să alimenteze cu energie miliarde de oameni sau ca să-i anihileze cu o bombă atomică.
Un cercetător care lucra în 2016 la un program de inteligență artificială folosit pentru jocuri pe calculator și-a dat seama că programul lui se blocase într-o cursă pentru bărci. În loc să încerce să câștige cursa, programul lui se învârtea într-un cerc.
De ce?
– Problema nu e că inteligența artificială vrea să ne facă rău în mod intenționat, problema e că poate să devine mult prea competentă și mult prea bună în a-și atinge scopurile, chiar dacă acele scopuri nu sunt aliniate cu scopurile oamenilor.
– Ce este experimentul camerei chinezești?
– Cum învățăm roboții să fie etici? Și mai ales, cum îi învățăm să fie etici și morali când încă nu știm nici noi prea bine ce înseamnă asta? ___ Resurse:
– Scrisoare deschisă: https://futureoflife.org/open-letter/…
– The Alignment Problem – Brian Christian, https://brianchristian.org/the-alignm…
– AI cu conștiință sau doar un chatbot care a învățat filosofie?
– https://mindcraftstories.ro/ai-roboti… ___
Raspunsul la intrebarea cat de teama ar trebui sa ne-o fim de dezvoltarea inteligentei artificiale este: o cantitate echilibrata si cumpatata de teama. In special in momentul de fata cand nu avem cum sa ne dam seama cu exactitate ce si cum pot face programele de inteligenta artificiala si inteligenta artificiala in sine. In aceste conditii, ar fi bine sa ne indreptam atentia si sa consacram timpul si energia pentru a intelege corect directia in care programele de inteligenta artificiala evolueaza si ce implicatii pot avea asupra vietii noastre sau chiar asupra intregii planete. Parerea mea este ca unii dintre cei mai cunoscuti oameni din lume au facut o actiune buna cand au semnat aceasta scrisoare deschisa si ca, de fapt, preocuparea noastra pentru dezvoltarea inteligentei artificiale ar trebui sa fie una prudenta si responsabila.