Kolejny krok w walce z dezinformacją. TikTok zacznie oznaczać treści generowane przez AI

Kontent tworzony głównie przy pomocy narzędzi AI rozprzestrzenia się z ogromną prędkością, a wraz z nim pojawiają się wyzwania dotyczące identyfikacji treści wygenerowanych przy ich użyciu. W odpowiedzi na ten trend, popularny serwis TikTok, ogłosił plany automatycznego oznaczania wszelkich treści wygenerowanych przez AI.

W przeciągu zaledwie ostatniego roku, wszelkie oprogramowanie skupione wokół wykorzystania sztucznej inteligencji (AI) rozwinęło się w niespodziewanym tępie. Narzędzia do generowania coraz bardziej realistyczniech obrazów, mowy a także video, takie jak RunwayML, ElevenLabs i Midjourney zyskują na coraz większej popularności. Już teraz technologia, której używają jest na tyle zaawansowana, że może rozpowszechniać dezinformacje na coraz większą skalę.

Walka z dezinformacją

Z tego też powodu, TikTok zdecydował się na wprowadzenie automatycznego oznaczania materiałów wytworzonych przez AI, by promować większą przejrzystość na platformie. Dzięki temu użytkownicy będą mogli od razu wiedzieć, czy oglądane przez nich treści powstały w tradycyjny sposób, czy przy udziale sztucznej inteligencji. To ważny krok w przeciwdziałaniu rozprzestrzenianiu się fałszywych informacji, takich jak deepfake – trudne do odróżnienia od autentycznych, spreparowane nagrania.

TikTok rozpoczyna współpracę z Koalicją na Rzecz Pochodzenia i Autentyczności Treści (Coalition for Content Provenance and Authenticity/C2PA), która opracowała technologię opartą na weryfikowaniu wiarygodności treści (Content Credentials). Rozwiązanie to pozwala dołączyć do wygenerowanych plików specjalne znaczniki, zwane inaczej jako metadata. Na tej podstawie platforma jest w stanie błyskawicznie rozpoznać, czy dany materiał powstał z użyciem programów generujących AI.

Pod tym systemem oznaczania treści podpisuje się już wiele kluczowych firm technologicznych, w tym Microsoft, Adobe, Google oraz OpenAI.

Oznacza, że większość generatorów AI będzie automatycznie dołączać odpowiednie znaczniki do tworzonych treści. Ułatwi to TikTokowi oraz innym platformom wychwytywanie takich materiałów nawet jeśli nie zostały wcześniej oznaczone przez użytkowników.