Научниците се согласуваат дека развојот на суперинтелигенција е неизбежен, но исто така предупредуваат дека веројатно воопшто нема да бидеме свесни дека таа еволуирала.
Дискусии за тоа што може и што не може да направи вештачката интелигенција и во која мера започна да се развива вештачката интелигенција. Она што секогаш предизвикувало страв и сомнеж е прашањето – до кој момент човекот може да ја контролира вештачката интелигенција и дали е можно да излезе од контрола?
Ова е токму она што го разгледуваа истражувачите од Институтот за луѓе и машини Max-Planck. Во своето истражување тие истакнаа дека не е можно, во теорија, да се предвидат потезите на вештачката интелигенција.
Суперинтелигентна машина што го контролира светот звучи како нешто надвор од научна фантастика. Но, веќе има машини кои извршуваат многу важни задачи без програмерите да можат целосно да разберат како го научиле тоа, рече еден од авторите на студијата, Мануел Чебријан.
Тој додава дека, за да се предвидат потезите на суперинтелигенцијата, прво треба да се направи суперинтелигенција, и тоа нема да се случи за некое време. Од друга страна, научниците веќе дискутираат за методите што можат да се користат за контрола на вештачката интелигенција и суперинтелигенцијата. Едно од споменатите решенија е изградбата на „виртуелно игралиште“ што ќе биде ограничено со „виртуелни sидови“ над кои суперинтелигенцијата не може да излезе. Поточно, суперинтелигенцијата може да функционира во контролирани услови, без пристап до Интернет, за да не „отстапува“.
Друга опција е да се создаде „виртуелен полицаец“ или алгоритам што би ја запрел вештачката интелигенција во случај да започне да прави нешто што ќе им наштети на луѓето.
Но, истражувачите истакнуваат дека секое решение за ограничување на суперинтелигенцијата засновано врз принципите на роботска етика би било проблематично. Вештачката интелигенција се создава или „учи“ со користење на постојните роботски закони. Но, суперинтелигенцијата може да започне да развива свои, независни заклучоци за време на ова учење, како да се заобиколат тие закони.
Способноста на современите компјутери да се прилагодат со користење на софистицирани алгоритми за машинско учење го прави уште потешко правењето претпоставки за можното однесување на суперинтелигенцијата, додаде истражувачот Ијад Рахван
Истражувачите предупредуваат на друг проблем поврзан со суперинтелигенцијата. Имено, веројатно нема да бидеме воопшто свесни дека се развила суперинтелигенцијата, бидејќи ќе биде тешко да се тестира и утврди такво нешто.
Сепак, истражувачите се согласуваат за една работа – прашање на време е кога ќе се развие суперинтелигенцијата, и во која насока ќе се движи после тоа, никој (во моментов) не може да предвиди.
