Naukowcy z MIT Lincoln Laboratory Intelligence and Decision Technologies Group przedstawili sieć nauronową, która jest w stanie wyjaśnić swoje rozumowanie. Może to pomóc w rozwiązaniu problemu czarnej skrzynki, która spędza sen z oczu wielu badaczom.
Sieć nazywa się Transparency by Design Network (TbD-net) i została zaprogramowana aby odpowiadać na złożone pytania dotyczące obrazów. Sieć analizuje pytanie i dzieli je na podzadania, które trafiają do odpowiednich modułów. Z jej pomocą naukowcy stworzyli model bazując na 70 000 obrazków szkoleniowych i 700 000 pytaniach. Jej skuteczność, przy zbiorze testowym składającym się z 15 000 obrazów i 15 000 pytań, wyniosła 98,7%. Dzięki odpowiedziom zwrotnym dotyczącym jej rozumowania, naukowcy polepszyli jej skuteczność do 99,1%.
Dzięki takim badaniom poznajemy, w jaki sposób SI myśli i jak to wszystko działa. Odpowiedzi zwrotne mogą pomóc nie tylko w polepszeniu działania sieci neuronowej ale także w zrozumieniu jej zachowania. Pamiętajcie, że sami nie do końca wiemy co się dzieje w pojedynczych neuronach a wiedza ta będzie nam w przyszłości niezbędna.
Źródło: https://thenextweb.com
