Индустрија

Робот који је одлучио да нанесе бол, изазива расправу о системима интелигенције

Робот који је одлучио да нанесе бол, изазива расправу о системима интелигенције

Робот који је направио роботичар Александер Ребен са Универзитета у Берклију, у Калифорнији, има способност да одлучи користећи АИ да ли ће нанети бол или не.

Робот има за циљ да покрене расправу о томе може ли АИ систем измаћи контроли, што подсећа на терминатор. Дизајн робота је невероватно једноставан, дизајниран да служи само једној сврси; да одлучи да ли ће нанети бол или не. Робота је пројектовао Александар Ребен са Универзитета Беркелеи, а објављен је у научном часопису чији је циљ да покрене расправу о томе да ли вештачки интелигентни роботи могу да измакну контроли ако им се укаже прилика.

„Права забринутост око АИ је та што она измиче контроли“,

рекао је.

"[Технички гиганти] кажу да је то напољу, али хајде да размислимо о томе пре него што буде прекасно. Доказујем да [штетни роботи] сада могу да постоје. Морамо се апсолутно супротставити томе."

Ребен истражује врло стварну могућност да би робот програмиран са алгоритмом који учи на искуству и људској интеракцији могао покупити негативне особине које су наметнули неки људи, што представља потенцијални пад система АИ који би могао постати опасан.

У пракси, када се прст стави близу робота, он може да га боцка, вадећи крв. Ребен објашњава да заиста нема појма када ће робот ударити.

„Робот доноси одлуку коју ја као творац не могу да предвидим“,

рекао је,

"Не знам коме ће или неће наштетити. То је интригантно, изазива бол који није у корисне сврхе - прелазимо на етичко питање, роботи који су посебно направљени да раде ствари које су етички сумњиве."

Машина кошта око 200 америчких долара и неће бити доступан за малопродају. Његов примарни фокус је истраживање филозофије три роботска закона која је предложио Исаац Асимов 1942. године - од којих први робот можда неће наштетити човеку. Након што га је Ребеново истраживање навело да закључи да би АИ „прекидач за убијање“ сличан оном који тренутно развијају инжењери из Гоогле-овог одељења за вештачку интелигенцију, ДеепМинд и Универзитета Окфорд, могао постати невероватно важан у блиској будућности.

Ребенов робот боцка прст[Извор слике: Александар Ребен]

Главна брига је осигурати да је алгоритам робота дизајниран на такав начин да не може надјачати прекидач за убијање како би спречио његово искључивање - невероватно опасан сценарио. Иако су тренутни роботи дизајнирани у практичне сврхе, јер добијају више интелигенције и више алгоритама учења сличних човеку, постаће императив осигурати да постоје значајне мере безбедности како би се спречило да се робот претвори у терминатор, боцкајући прст, или још горе.

ВИДИ ТАКОЂЕ: Вештачку интелигенцију треба заштитити људским правима

Написао Маверицк Бакер


Погледајте видео: Umjetna inteligencija potencijalno opasna (Септембар 2021).