Sieci neuronowe w sztucznej inteligencji mniej połączone niż oczekiwano

Sztuczne sieci neuronowe wciąż stanowią zagadkę. Trudno jest dokładnie rozszyfrować, w jaki sposób kompilowane są informacje, tworzone są teksty, dlaczego wkradają się poważne błędy i dlaczego niektóre chatboty po prostu się psują.

Jednym z powodów jest to, że podstawowa struktura tych sieci jest podobna do struktury mózgu. To nie punkty danych i pojedyncze informacje charakteryzują sposób ich działania, ale niemal nieskończona liczba możliwych powiązań między nimi.

Jednak sieci neuronowe sztucznej inteligencji często pozostają na znacznie prostszym poziomie, jak wykazało niedawne badanie przeprowadzone przez https://arxiv.org/pdf/2308.09124.pdf .

Sztuczna inteligencja radzi sobie z podstawowymi informacjami w znacznie mniej złożony sposób, niż wcześniej oczekiwano. Na przykład, zamiast zbierać wszystkie możliwe odpowiedzi na zapytanie i odpowiadać najbardziej prawdopodobnym, bo najczęściej powiązanym faktem, stosuje się powiązanie liniowe.

Naukowcy byli w stanie zidentyfikować łącznie 47 różnych powiązań liniowych w badanej sztucznej inteligencji. Osiągnięto to za pomocą odpowiedniego zapytania i późniejszego prześledzenia ścieżki sygnału przez sieć neuronową.

I było to zaskakująco krótkie dla wielu faktów. Przykładowo, na pytania dotyczące instrumentu, na którym grają znani artyści, rodzaju sportu uprawianego przez profesjonalnych sportowców czy nawet stolic poszczególnych państw można było odpowiedzieć za pomocą jednego połączenia. Trudniej jest natomiast znaleźć w sieci odpowiedzi na mniej oczywiste pytania.

Niemniej jednak można wykazać, że wiele informacji jest ze sobą bezpośrednio powiązanych i trudno je zorganizować jako sieć. Zrozumienie, w jaki sposób taki chatbot przekazuje swoją wiedzę i jak sygnał może być niezawodnie śledzony w sieci, powinno w każdym razie pomóc w zrozumieniu czasami ciekawych, ale czasami trudnych do rozpoznania błędów sztucznej inteligencji.

Sam wgląd w to, jak to działa z jego zaskakująco liniową strukturą, jest wiele wart.