Czego dowiedzieliśmy się z konferencji IBM poświęconej rozwojowi SI?

Aleksandra Mojsilović zajmuje się obszarami związanymi ze sztuczną inteligencją i jest pracownikiem firmy IBM. Pod koniec kwietnia z jej udziałem odbyła się konferencja poświęcona odpowiedzialnemu korzystaniu z SI.

Prelegentka podkreśliła, iż rozwój tej technologii nie powinien być ograniczony jedynie do zwiększania wydajności sztucznej inteligencji. Wręcz przeciwnie, w jej mniemaniu ważne są też kwestie o charakterze etycznym i tym m.in. zajmuje się  IBM Research. Laboratorium inwestuje bowiem w narzędzia wykrywające i ograniczające stronniczość, ujawniające luki bezpieczeństwa, łagodzące ataki i ujawniające procesy dotyczące podejmowania decyzji. Jako że rozwój SI postępuje od lat i obserwuje się coraz wyższą integrację pomiędzy naszym gatunkiem a technologią, to tego typu kwestie będą bardzo ważne.

Czytaj też: IBM Watson w Muzeum Narodowym we Wrocławiu

Reklama

Zanim w ogóle przejdziemy do szczegółowych zagadnień poruszonych w czasie konferencji, należy pokrótce przedstawić sylwetkę A. Mojsilović, będącej autorką ponad 100 publikacji i 16 patentów. Po studiach na Uniwersytecie w Belgradzie oraz dwuletniej pracy w Bell Laboratories, w 2000 roku rozpoczęła współpracę z IBM. Jednym z jej najnowszych osiągnięć jest system przedstawiony w marcu 2021 r., wykorzystujący technologie na bazie SI służące przyspieszaniu wytwarzania nowych peptydów do walki z odpornością na antybiotyki.

Tym, co obecnie zajmuje Mojsilović i jej współpracowników, jest tworzenie zaufanych systemów opartych na sztucznej inteligencji. A żeby takie stworzyć, potrzeba ustalonych filarów, które wyznaczyli eksperci z IMB Research. W ten sposób na „listę” wpisano sprawiedliwość, solidność, przejrzystość i pochodzenie. Warto w kilku słowach wyjaśnić, jakie są ich założenia, choć tych raczej nietrudno się domyślić.

IBM zwraca uwagę na cztery filary warunkujące zaufanie do sztucznej inteligencji

Sprawiedliwość ma spowodować, że stworzone systemy będą zapewniać bezstronne wyniki analiz, w których żadna grupa nie będzie traktowana w niesprawiedliwy bądź szczególnie dogodny sposób. Solidność powinna zapewniać, iż rozwiązania oparte na sztucznej inteligencji będą zarówno bezpiecznym, jak  i pewnym rozwiązaniem, odpornym na manipulacje. Jeśli chodzi o przejrzystość, to w tym przypadku decyzje podejmowane przez SI mają być zrozumiałe nie tylko dla programistów, lecz również ich użytkowników. Ostatni z filarów, czyli pochodzenie, oznacza, że systemy SI powinny zawierać szczegóły na temat ich rozwoju, wdrażania i konserwacji. Umożliwi to ich kontrolowanie przez cały okres użytkowania.

IBM wyraźnie zaznacza swoje aspiracje na rynku sztucznej inteligencji, a z pewnością pomagają w tym obecne trendy. Przed kilkoma dniami pisaliśmy o raporcie, z którego wynika, że w Europie doszło do wyraźnego wzrostu użycia systemów opartych na SI. Zjawisko to było szczególnie widoczne w ostatnich miesiącach, kiedy na terenie Starego Kontynentu rozprzestrzeniał się koronawirus odpowiedzialny za trwającą pandemię. Co ciekawe, rozwiązania opracowana przez tę firmę okazały się przydatne w kontekście zwalczania obecnych problemów. Np. IBM Watson Assistant stanowi element współpracy IBM z firmą CVS Health. Celem jest udzielanie wsparcia w zakresie organizacji opieki zdrowotnej w Stanach Zjednoczonych, szczególnie w czasie kampanii szczepień.

Czytaj też: Sztuczna inteligencja zyskała na pandemii. Potwierdza to nowy raport

Wracając do czterech filarów uznawanych za kluczowe w promowaniu systemów sztucznej inteligencji, to ważna jest obecność wszystkich czterech elementów, a nie tylko jednego czy dwóch. Bo co nam po rozwiązaniu, które jest sprawiedliwe, jeśli będzie ono podatne na ataki hakerów? Podobna zależność pojawi się, jeśli system będzie bezpieczny, lecz jego kontrolowanie będzie utrudnione bądź niemożliwe. Właśnie dlatego Mojsilović  za najważniejszy cel w zdobywaniu zaufania uznaje wzmocnienie wszystkich wymienionych filarów. Ważna ma być również możliwość mierzenia i określania stopni wydajności systemu w każdym z tych wymiarów.