Motyw sztucznej inteligencji, która niszczy ludzkość i przejmuje władzę nad światem nie jest szczególnie nowy. I wygląda na to, że jest w nim odrobina prawdy.
Reguły takie, jak np. nieszkodzenie ludziom, są w zasadzie niemożliwe do ustalenia, ponieważ nie ma pewności co do tego, jakie scenariusze może wymyślić SI. Kiedy taki algorytm zacznie funkcjonować na poziomie przekraczającym możliwości programistów, nie będą oni w stanie ustalać dalszych limitów.
Czytaj też: Jak duże promieniowanie emituje inteligentne mieszkanie w sieci 5G
Czytaj też: Sztuczna inteligencja będzie niedługo w stanie odróżnić teorie spiskowe od prawdy
Czytaj też: Dlaczego sztuczna inteligencja potrzebuje dużo energii?
Ustalenia w tej sprawie, opublikowane na łamach Journal of Artificial Intelligence Research, sugerują, że inspiracją dla autorów badania był tzw. problem stopu, sformułowany przez Alana Turinga ponad 80 lat temu. W jego ramach słynny naukowiec zastanawiał się, czy program – poszukując odpowiedzi – w pewnym momencie zatrzyma się czy też zapętli.
Sztuczna inteligencja może w przyszłości wymknąć się spod kontroli
Każdy program napisany po to, by powstrzymać SI przed krzywdzeniem ludzi i zniszczeniem świata może odpowiednio zafunkcjonować i ją powstrzymać. Ale wcale nie musi się tak stać, dlatego nigdy nie zyskamy pewności, że będziemy w stanie na zawsze kontrolować sztuczną inteligencję.
Czytaj też: Sztuczna inteligencja jest na tyle rozwinięta, by nie ufać własnym działaniom
Czytaj też: Te inteligentne okulary zawsze wskażą Wam drogę do domu
Czytaj też: Jak sztuczna inteligencja pomaga w moderowaniu treści na Facebooku?
Co gorsza, możemy nawet nigdy nie dowiedzieć się, kiedy sztuczna inteligencja będzie na tyle zaawansowana, że znajdzie się poza ludzką kontrolą. Oznacza to, iż konieczne stanie się wyznaczenie kierunków, w których zmierzamy jako ludzkość.
