Instagram podejmuje działania przeciwko influencerom opartym na sztucznej inteligencji, którzy nie przyznają się do tego, że są fałszywi

Instagram zmienia nazwę etykiety „twórca AI” na „profil wygenerowany przez AI” i zacznie ograniczać zasięg rozpowszechniania nieoznaczonych postaci generowanych przez AI, jeśli konta, które je prowadzą, nie ujawnią, że przedstawiona osoba nie jest prawdziwa.

Pierwotna etykieta, wprowadzona w maju, miała charakter dobrowolny i była nieco niejasna – dotyczyła każdego konta, które regularnie korzystało z narzędzi AI, niezależnie od tego, czy za nim stała prawdziwa osoba. Nowa etykieta ma na celu wyraźne oznaczenie profili, w których przedstawiona osoba jest w całości wygenerowana przez sztuczną inteligencję, a nie tylko wspomagana przez nią, wypełniając lukę, która pozwalała w pełni syntetycznym kontom influencerów wtopić się w grono prawdziwych twórców, którzy po prostu wykorzystywali sztuczną inteligencję w ramach swojego procesu twórczego.

Ograniczony zasięg dla tych, którzy nie przestrzegają zasad

W ramach nowego systemu konta zidentyfikowane przez Instagram jako nieoznaczone profile wygenerowane przez sztuczną inteligencję będą miały ograniczony zasięg, co oznacza, że osoby niebędące obserwującymi nie będą widzieć ich postów w sekcji „Odkrywaj”, „Reels” ani w innych obszarach rekomendacji. Twórcy mogą przywrócić ten zasięg na jeden z dwóch sposobów: samodzielnie i proaktywnie nanosząc etykietę „profil wygenerowany przez sztuczną inteligencję” lub odwołując się od ograniczenia, jeśli uważają, że system wykrywania Instagrama popełnił błąd – co sama firma przyznaje, że jej systemy nie zawsze działają bezbłędnie.

Nowa etykieta działa niezależnie od istniejącego systemu „AI info” firmy Meta, który oznacza poszczególne posty na Instagramie, Facebooku i Threads, gdy wskaźniki techniczne – takie jak metadane C2PA lub znak wodny SynthID firmy Google – wskazują na udział sztucznej inteligencji lub gdy twórca sam to ujawnia. Etykieta na poziomie profilu dotyczy konkretnie tego, czy osoba widoczna w postach, komentarzach i wiadomościach na danym koncie jest prawdziwa, czy też została wygenerowana przez sztuczną inteligencję.

Odpowiedź na frustrację użytkowników

Instagram uzasadnił tę zmianę prostą frustracją, stwierdzając, że użytkownicy nie lubią dowiadywać się po fakcie, iż profil, który wydawał się prowadzony przez człowieka, przez cały czas był generowany przez sztuczną inteligencję. Jak dotąd polityka ta dotyczy wyłącznie kont podszywających się pod konkretną fikcyjną osobę, a nie znacznie większej liczby kont, które publikują treści generowane przez sztuczną inteligencję, nie udając przy tym, że są prowadzone przez prawdziwego influencera.

Postacie w całości wygenerowane przez sztuczną inteligencję stały się powszechne jako nieoficjalni influencerzy marek, a firmy coraz częściej wykorzystują syntetyczne postacie do promowania produktów zamiast płacić prawdziwym osobom; obecnie nie istnieją żadne konkretne przepisy wymagające od reklamodawców ujawniania takich przypadków (za: The Guardian). To, czy nowa etykieta znacząco zmieni tę praktykę, będzie zależało od tego, na ile konsekwentnie systemy wykrywania Instagrama będą wyłapywać konta, które mają wszelkie powody, by całkowicie uniknąć tej etykiety.