Profesor MIT ostrzega w nowej książce: Kim się stajemy, gdy rozmawiamy z maszynami

LLM może wygenerować zdanie takie jak: „To brzmi naprawdę trudno. Rozumiem, dlaczego cię to zraniło”. Ludzie odbierają to zdanie jako empatyczne. LLM-y nie są jednak współczujące, nie doświadczają emocji, nie czują (razem z nami) — po prostu symulują empatię.

A jednak dla wielu osób LLM-y są już rozmówcami w sprawach i sytuacjach dotyczących ludzi i emocji. Korzysta się z nich jako doradców w sprawach złamanego serca, aby zająć czymś dzieci, a nawet wypełnić lukę, gdy dostęp do opieki terapeutycznej jest niemożliwy.

W swojej nowej książce „Sztuczna intymność: Kim się stajemy, gdy rozmawiamy z maszynami” (Amazon) profesor MIT, socjolożka i psycholożka Sherry Turkle ostrzega przed konsekwencjami dla społeczeństwa. Swoją krytykę opiera na obserwacjach i wynikach badań:

LLM-y zdają się słuchać cierpliwie i rzadko się nie zgadzają, za to chętnie chwalą i prawią komplementy. Prawdziwi ludzie potrafią być o wiele bardziej wymagający, zwłaszcza gdy chodzi o rozwiązywanie konfliktów emocjonalnych; radzenie sobie z innymi często wymaga ciężkiej pracy, podobnie jak podtrzymywanie relacji i utrzymywanie kontaktu. Gdy ludzie coraz częściej dzielą się swoimi zmartwieniami i konfliktami z chatbotami i unikają rozmów z prawdziwymi ludźmi, coraz rzadziej ćwiczą zachowania społeczne w realnym świecie, a nawet mogą utracić zdolność postrzegania siebie jako istot „relacyjnych” w zróżnicowanym społeczeństwie. Chatboty jedynie symulują empatię; nic nie czują i nie są szczerze zainteresowane dobrem osoby, z którą rozmawiają. To może być bardzo niebezpieczne.

Szczególnie narażone są przez to dzieci i nastolatki. Dzieci wciąż muszą nauczyć się odróżniać rzeczy od ludzi, uczyć się interakcji społecznych, budować zaufanie i czuć się swobodnie, spędzając czas w samotności, aby rozwijać własną wyobraźnię. Mimo to dzieci często odbierają chatboty jako prawdziwą „osobę po drugiej stronie telefonu”.

Ostatecznie argumentacja Turkle dotyczy nie tylko AI, ale także naszej relacji z wygodą. Im bardziej technologia uwalnia nas od niekomfortowych sytuacji, tym rzadziej możemy ćwiczyć radzenie sobie z nimi. Dotyczy to sytuacji społecznych w takim samym stopniu, jak wyszukiwania informacji czy rozwijania własnej wiedzy. Intensywne korzystanie z LLM-ów może sprawić, że społeczeństwo będzie stopniowo tracić obie te umiejętności. Albo, jak ujmuje to autorka:

„Oduczamy się umiejętności budowania relacji. Oduczamy się też umiejętności potrzebnych w pracy. Oduczamy się umiejętności niezbędnych w relacjach osobistych. Dotyczy to wszystkiego”.

A jej zalecenie? Co powinniśmy zrobić? Po pierwsze, zaakceptować, że życie wiąże się z tarciem. Uczymy się dzięki niemu, także — a może zwłaszcza — dlatego, że jest trudne i wymaga wysiłku. Tarcie nie jest niczym złym; wręcz przeciwnie. Musimy rozwinąć umiejętność pokonywania trudności i czerpania z nich siły. Jeśli po prostu będziemy unikać trudności, nic na tym nie zyskamy; technologia osłabia nas jako jednostki. Powinniśmy połączyć siły z innymi ludźmi, stworzyć ruch przeciwny temu trendowi i wzmocnić społeczne aspekty naszego życia. Stawiajmy czoła życiowym trudnościom, bo życie to trudności!