ChatGPT nigdy nie zastąpi naukowców

Sztuczna inteligencja to temat ostatnich miesięcy. Tworzy grafikę (jak choćby Midjurney, Lensa i kolejne wersje cyfrowych artystów), muzykę (Riffusion), a wreszcie teksty czy nawet programy komputerowe. Do tych ostatnich czynności zaprzęgnięto ChatGPT, o którym napisano już niemal wszystko. I tak jak w przypadku innych sztucznych inteligencji, także i tu po pierwszym zachwycie pojawiły się pytania dość dużego kalibru – o prawa autorskie, o plagiat, o propagandę (czy też cenzurę) i wreszcie o etyczność jego wykorzystywania.

ChatGPT to niezły bajerant i o to właśnie chodzi

Czym tak właściwie jest sztuczna inteligencja generująca tekst? Czy to samoświadomy, niezwykle inteligentny cyfrowy byt wykorzystujący całą dostępną ludzkości wiedzę? Na szczęście nie.

Powiązane:Pracownicy błagali Google, by nie wypuszczać chatbota AI Bard

ChatGPT i inne podobnie działające AI to w zasadzie… pozerzy. Nie rozumieją dokładnego znaczenia produkowanych treści i nie potrafią świadomie dojść do przełomowych wniosków. ChatGPT przypomina trochę człowieka, który siedzi i obserwuje, jak inni grają w piłkę. Następnie sam wychodzi na boisko i stara się naśladować to, co podpatrzył, strzelając przy tym piękną bramkę. Często – samobójczą. Trochę jak dziecko, powtarzające słowa, których znaczenia nie rozumie, nie jest w stanie ustrzec się błędów. Przekonał się o tym Phil Davis, któremu ChatGPT skłamał prosto w ekran, a potem gęsto się tłumaczył.

Oburzanie się na takie zachowanie AI wynika jednak z niezrozumienia, z czym tak naprawdę mamy do czynienia. Dobrze i prosto tłumaczy to profesor Politechniki Warszawskiej, dr hab. inż. Piotr Gawrysiak w rozmowie z Markiem Mataczem:

ChatGPT nigdy nie zastąpi naukowców, ale sprawi że będziemy w stanie ich zrozumieć

Próba naśladowania znanych już treści dość sprawnie ukrywa fakt, że tak właściwie ChatGPT nie ma pojęcia o czym mówi. Gdy jednak dodamy do tego trening jedynie na danych do 2021 roku i brak stałego „doszkalania”, raczej nie ma wątpliwości – w takiej formie ChatGPT nigdy nie zastąpi naukowców. Będzie w stanie przygotować całkiem przekonujące wystąpienie czy nawet artykuł, ale nie zawsze, nie w każdej dyscyplinie i z dużym ryzykiem popełnienia poważnego błędu merytorycznego.

Sztuczna inteligencja pisząca tekst może za to być świetnym asystentem. Oddajmy zresztą głos samemu botowi:

Po co tak właściwie potrzebny jest naukowcom wygadany i tworzący zgrabne zdania bot? Może ułatwić komunikację z innymi. Nie chodzi tu tylko o szeroko rozumianą nienaukową publikę, ale także innych naukowców z danej dyscypliny. Tworząc zawiłe, trudne do zrozumienia i często po prostu nieporadne językowo teksty, naukowcy nie ułatwiają zrozumienia tego, czym się zajmują. To z kolei może przełożyć się na mniej cytowani i wolniejszy rozwój projektów badawczych. Zmniejsza też szanse na zainteresowanie badaniami mediów, a czasem bez tego trudno o dodatkowe fundusze czy zwrócenie uwagi polityków na ważne kwestie.

Bariera językowa to pieśń przeszłości

Boty w rodzaju ChatGPT mogą też dodatkowo ułatwić pracę ludziom, których językiem ojczystym nie jest angielski. Znajomość języka to jedno, ale umiejętność tworzenia zrozumiałych i łatwych w odbiorze treści to zupełnie inna, dużo trudniejsza kwestia.

W ostatnich latach spopularyzowały się różnego rodzaju produkty redagujące tekst pod kątem gramatycznym i stylistycznym (np. Grammarly czy Redaktor pakietu Microsoft Office). Tłumaczenie także idzie coraz lepiej i Google Translate ma sporą konkurencję np. w postaci DeepL. To wszystko jednak są narzędzia, które poprawią coś, co już zostało napisane. ChatGPT pozwala pracować w odwrotnej kolejności – stworzyć ramy tekstu, które następnie możemy uzupełnić o dodatkowe informacje (np. dane, daty, odwołania).

Czy korzystanie z AI jest etyczne?

Todd A Carpenter przeprowadził wywiad z ChatGPT, który został opublikowany na jednym z najbardziej opiniotwórczych blogów świata naukowego, The Scholarly Kitchen. W rozmowie wprost zapytał o kwestie etyczne i dostał dość dyplomatyczną odpowiedź:

ChatGPT może być przedstawiany jako ogromne zagrożenie dla nauki, jednak takie zachowanie to raczej próby przeniesienia odpowiedzialności z oszustów na narzędzie, którym się posługują. Nieetycznie działający naukowcy byli zawsze i już teraz mają całkiem pokaźny arsenał do fałszowania badań. Często wybierają też te najprostsze, jak modyfikacja wykresów w programach graficznych czy generowanie danych w arkuszach kalkulacyjnych. Przykłady możecie zobaczyć np. tutaj.

Sztuczna inteligencja a cenzura, propaganda i jedyna słuszna racja

Jedną ze sporych obaw, jakie pojawiają się w przypadku automatycznych procesów jest niejawność ich przebiegu. Wkładamy coś do pudełka i wyjmujemy gotowy efekt. A co, jeśli w środku siedzi wredny ludzik, naginający wszystko dla własnych, zapewne niecnych, celów?

Obawy dotyczą dwóch sytuacji: uprzedzeń zaszczepionych na etapie treningu przez twórców oraz sprowadzenia bota na złą drogę przez użytkowników.

Drugi scenariusz wymaga, by bot na bieżąco uczył się na podstawie wprowadzanych treści. Jeżeli nie ma przygotowanych zabezpieczeń, wówczas odpowiednio duża i intensywna dawka rozmów na temat np. polityki może doprowadzić do wykształcenia wzorca odpowiedzi faworyzującego konkretną partię czy poglądy.

Niebezpieczniejszy wydaje się jednak pierwszy scenariusz, w którym to sami twórcy zaszywają w bocie swoje uprzedzenia lub poglądy. Może do tego dość nieświadomie, gdy zespół jest dość hermetyczny i niezróżnicowany i po prostu nie dostrzega pewnych stereotypów i uprzedzeń. Mogą to być też działania celowe i świadome, wykonywane na zlecenie rządu czy służb, tak aby subtelnie i zgrabnie odciągać uwagę użytkownika od pewnych treści albo modyfikować wszystkie wypowiedzi zgodnie z linią politycznej propagandy. Jeżeli jednak bot nie działa autonomicznie i ktoś ten tekst czyta i redaguje przed publikacją, ryzyko jest raczej zbliżone do tego w przypadku tekstów pisanych ludzką ręką, gdzie autorzy też bywają tendencyjni.

Czy jest się czego bać?

Nie.

Wizja przejmującej władzę nad światem sztucznej inteligencji jest niezwykle pociągająca, ale to (jeszcze) nie ten moment. Mamy za to do czynienia z rewolucją w sposobie myślenia o tworzeniu nauki i definiowaniu kto tak właściwie jest autorem. Gdy jednak przyjrzymy się temu bliżej, zmiany są dużo mniej znaczące, niż może się wydawać.

Strach przed tym, że naukowiec nie będzie samodzielnie wprowadzał treści do edytora tekstu zdaje się być trochę oderwany od automatyzacji wszystkich pozostałych, znacznie ważniejszych procesów w prowadzeniu badań. Większość naukowców nie prowadzi sama obliczeń na kartce, a stosuje zaawansowane pakiety statystyczne, które przeprowadzają często całe skomplikowane procesy automatycznie, oferując gotowe wyniki. Grupują obserwacje, rysują wykresy i mapy, zaznaczają odstające obserwacje i wyznaczają trendy.

Algorytmy w bazach indeksujących i u wydawców podsuwają artykuły z podobnymi badaniami, na bazie których może zostać zaprojektowane kolejne. A w niektórych przypadkach sugerują też naukowców, którzy daną pracę mogą zrecenzować.

Cały proces już teraz silnie opiera się na automatycznych procesach i to w obszarach, które są znacznie bardziej istotne dla wyników badań. Zastosowanie sztucznej inteligencji wydaje się naturalnym kolejnym krokiem. Krokiem, który powinniśmy wykonać bez większych obaw.

Czytaj więcej:Po CPU i GPU przychodzi czas na NPU - czym jest i co potrafi?