1140 fałszywych kont na X, w tle ChatGPT i kryptowaluty

Liczne obawy stały się rzeczywistością. Serwis Wired informuje, że ChatGPT posłużył oszustom do stworzenia potężnego bota na popularnym serwisie społecznościowym, który zachęcał ludzi do zakupu kryptowalut. W założeniu pomocne narzędzie wykorzystano do niecnych celów. Chatbot przysłużył się dezinformacji i oszustwie na sporą skalę.

Powiązane:Odbierasz telefon, a głos w słuchawce brzmi znajomo? To może być złowrogie AI - jak rozpoznać oszusta?

Fox8 – taki kryptonim dostał botnet zlokalizowany na X, dawnym Twitterze, przez badaczy z Indiana University Bloomington. To, co zdradziło oszustów, to brak dbałości o szczegóły.

Naukowcy przeszukiwali portal po dobrze znanej frazie: „Jako model języka sztucznej inteligencji…”. Efekt wyszukiwania był zaskakujący – odkryto aż 1140 kont posługujących się frazą w komunikacji. Następnie badacze wzięli pod lupę każdy profil i ocenili jego autentyczność.

ChatGPT wykorzystany do oszustwa

Za pomocą ChatGPT upozorowano istnienie aktywnych użytkowników, którzy dzielili się postami i wzajemnie komentowali swoje publikacje, plasując się tym jako treści priorytetowe dla algorytmu serwisu. Wszystko po to, by w zawoalowany sposób, nakłonić prawdziwych odbiorców do klikania w podejrzane linki promujące kryptowaluty. Treści tekstowe, wygenerowane za pomocą AI, brzmią bardzo przekonująco i są trudne do odróżnienia od ludzkich opinii. Niczego nieświadomy użytkownik może poczuć się zachęcony do zakupu konkretnej usługi, mimo tego, że twórcą postów nie jest realna osoba.

Dla chatbotów nie stanowi żadnej trudności wygenerowanie tekstu zgodnego z poleceniem. AI nie dokona przecież oceny moralnej tego co wytwarza ani tego jak udzielona odpowiedź zostanie później wykorzystana. Naukowcy z Uniwersytetu Kalifornijskiego w Santa Barbara pracują nad narzędziem będącym w stanie sprawnie segregować pismo ludzkie od tego stworzonego za pomocą AI. Niestety, udostępnienie narzędzia wiąże się z wysokimi kosztami związanymi z wykorzystaniem interfejsu API OpenAI.

Wierzchołek góry lodowej

ChatGPT został zaprojektowany do samodoskonalenia się. Jeśli „nauczy się”, że ma pozostać niewykrywalny, może samodzielnie opracować techniki dodatkowo kamuflujące przedsięwzięcie. Dlatego walka z botami opartymi na AI to istna walka z wiatrakami. Osoby, zarabiające krocie na szerzeniu dezinformacji, pewnie już teraz opracowują nowe taktyki na ominięcie zasad i etyki.

Jest to oczywiście zupełnie sprzeczne z polityką OpenAI, która nie zezwala na wykorzystywanie modelu językowego w celu oszukania odbiorcy czy szerzenia dezinformacji. Trudno jednak liczyć, że słowne ostrzeżenie powstrzyma oszustów przed tego typu działaniami. Na ten moment OpenAI nie wydało żadnego komunikatu w sprawie Fox8 botnet.

Na X bot został już unieszkodliwiony, ale możemy spodziewać się, że ten przypadek nie jest wyjątkiem. Sytuacja powinna dać do myślenia samemu OpenAI jak i właścicielom serwisów. Konieczne są skuteczne formy odstraszania od takich praktyk, a nie jedynie czcze pogróżki.

Czytaj więcej:AI wykorzystuje słabość naszej percepcji - część ludzi nie dostrzega oszustw