AI bywa leniwe, podsunęło naukowcom obrazki z sieci

W ostatnim czasie głośno zrobiło się w mediach o systemach generowania obrazów AI takich jak Stable Diffusion, Imagen oraz Dall-E 2, które potrafią stworzyć praktycznie dowolną grafikę. Nie chodzi jednak o ich możliwości, lecz o często bezprawne wykorzystywanie pracy artystów. Sztuczną inteligencję szkoli się bowiem na podstawie prawdziwych obrazów tworzonych przez ludzi z całego świata, co już samo w sobie nie podoba się ich twórcom, którzy pozywają firmy stojące za generatorami, zarzucając im naruszanie praw autorskich.

Powiązane:Nasza-Klasa, Gadu-Gadu i Blip. Opowieść o polskim Twitterze, który miał szansę na sukces, ale przepadł

Wygląda na to, że artyści mogą mieć w tej kwestii rację. Zespół naukowców z Google, DeepMind, Politechniki Federalnej w Zurychu, Uniwersytetu Princeton oraz Uniwersytetu Kalifornia w Berkeley odkrył bowiem, że systemy generowania obrazów AI mogą czasem tworzyć kopie grafik wykorzystywanych do ich szkolenia.

Naukowcy opublikowali artykuł, w którym opisują wyniki badań kilku popularnych systemów generowania obrazów. Wnioski są bardzo interesujące, gdyż odkryto, że czasami zamiast generować nowy obraz, po prostu wykorzystują jedną z wcześniej użytych grafik. Wbrew pozorom zdarza się to często, ponieważ na 1000 stworzonych obrazów odkryto ponad 100 takich przypadków. Badania wykazały również, że jedynie około 35 procent skopiowanych obrazów zawierało informacje o prawach autorskich, natomiast w pozostałych tego nie uwzględniono. Jest to niewątpliwie olbrzymi problem, gdyż generowane obrazy mogą je naruszać.

AI kopiuje istniejące obrazy

Co ciekawe, sztuczna inteligencja potrafi ukryć fakt, że generowany przez nią obraz jest kopią już istniejącego. Większość tego typu systemów na etapie przetwarzania danych dodaje do nich szum, który ma uniemożliwić wykorzystanie grafik użytych podczas szkolenia. Testy wykazały jednak, że szum dodawany jest również do kopiowanego obrazu, co utrudnia wykrycie, że mamy do czynienia z kopią zamiast oryginalnego dzieła.

Po lewej obraz treningowy Stable Diffusion. Po prawej wygenerowany frazą „Ann Graham Lotz". Źródło: arXiv (2023)/CC BY-SA 3.0.

Twórcy generatorów muszą więc wprowadzić w nich niezbędne zmiany, aby w przyszłości zapobiec takim sytuacjom. W przeciwnym wypadku narzędzia staną się bezużyteczne, gdyż nie będzie można wykorzystywać ich twórczości.

Czytaj więcej:Pracownicy błagali Google, by nie wypuszczać chatbota AI Bard

Marek Pluta

Marek Pluta

Od lat związany z serwisami internetowymi zajmującymi się tematyką gier oraz nowoczesnych technologii. Przez wiele lat współpracował m.in. z portalami Onet i Wirtualna Polska, a także innymi serwisami oraz czasopismami, gdzie zajmował się m.in. pisaniem newsów i recenzowaniem popularnych gier, jak również testowaniem najnowszych akcesoriów komputerowych. Wolne chwile lubi spędzać na rowerze, zaś podczas złej pogody rozrywkę zapewnia mu dobra książka z gatunku sci-fi. Do jego ulubionych gatunków należą strzelanki oraz produkcje MMO.