Sztuczna inteligencja z prawdziwego zdarzenia to na tym etapie wciąż jeszcze science-fiction. Niemniej, zważywszy na szybkość rozwoju tej dziedziny, niedługo może stać się ona częścią codziennego życia. W efekcie, Google stara się stworzyć grunt pod sytuację, w której to AI będzie służyć człowiekowi najlepiej, jak to tylko możliwe.

To właśnie to było punktem kluczowym badania przeprowadzonego przez korporację razem ze Uniwersytetem Stanforda, Uniwersytetem Kalifornijskim w Berkeley i OpenAI – firmą założoną przez Elona Muska. Ogólnie rzecz ujmując, sformułowano pięć problemów, od których rozwiązania będzie zależeć, czy dziedzina ta rozwinie się w odpowiednim kierunku.

Trzeba przy tym zauważyć, że to co sformułowano to “pytania badawcze”, których celem jest rozpoczęcie naukowej dyskusji, a nie wskazanie gotowych rozwiązań. Mogą się one wydawać błahe, niemniej według Google, na dłuższą metę są one kluczowe.

Pierwsze pytanie dotyczy środków, jakie należy sprawić, by AI unikała negatywnych skutków ubocznych wykonywanych czynności. Za przykład podano maszynę czyszczącą, która strąca cenną wazę, ponieważ w ten sposób może zakończyć sprzątanie odrobinę szybciej.

W drugim problemie chodzi o tzw. “reward hacking”. Jest to sytuacja, w której maszyna osiągnęła zadany cel tylko formalnie (lub innymi słowy “poszła na skróty”), a istotne elementy czynności w praktyce nie zostały wykonane.

Trzeci problem jest powiązany z nadzorem – chodzi o to, by praca AI nie wymagała zbyt wielkiego wkładu ludzkich operatorów.

Czwarty problem dotyczy bezpieczeństwa maszyny podczas eksploracji – chodzi o sprawienie, by dajmy na to, robot czyszczący wypróbowujący nowe techniki sprzątania wiedział, że pewnych rzeczy – jak choćby wsadzanie mokrych przedmiotów do gniazdka elektrycznego – należy mimo wszystko unikać.

Ostatni problem analizuje różnice pomiędzy środowiskiem, w którym robot by trenował, a jego ostatecznym miejscem pracy. Należy oczekiwać, że pojawią się istotne rozbieżności pomiędzy tymi sytuacjami, a AI musi się do nich dostosować.

Jest tylko kwestią czasu, nim AI zostanie wykorzystane do wykonywania wielu zadań (z początku przynajmniej tych mniej ambitnych). Niemniej, bez wątpienia w procesie tym pojawią się z pozoru problemy, które w praktyce będą wymagać uwagi niejednego inżyniera. Dlatego bardzo dobrze, że zostały one zidentyfikowane już teraz.

[źródło: digitaltrends.com grafika: quinnae.com]