Rozszerzenie do przeglądarki może być narzędziem hakera? Nowa metoda wykradania danych uderza w chatboty AI

Nierozłączonym elementem Internetu jest konflikt pomiędzy hakerami a specjalistami do spraw bezpieczeństwa, który rozwija się wraz z postępem technologicznym. Oszuści cały czas szukają nowych metod, aby wykraść wrażliwe dane w mniejszych lub większych atakach hakerskich.

Całkiem niedawno opisaliśmy jedną z popularnych metod cyberprzestępców, która polega na spamowaniu elektronicznych skrzynek pocztowych. Działanie to ma na celu sprawdzić między innymi, czy dany adres jest aktywny, aby następnie przejść do bardziej wyrafinowanych metod.

Na tym jednak hakerzy nie poprzestali, bowiem teraz do wykradania danych mogą się posłużyć rozszerzeniem do przeglądarki i chatGPT. Przedsiębiorstwo zajmujące się cyberbezpieczeństwem zdradza tajniki nowej metody wykradania danych, która może uderzyć w tysiące pracowników.

Rozszerzenie przeglądarek jako poważne zagrożenie dla narzędzi Gen-AI?

Firma LayerX zajmująca się między innymi bezpieczeństwem przeglądarek poinformowała świat o nowej metodzie wykradania danych, którą nazwano „Man-in-the-Prompt”. Dokładniej mówiąc przedsiębiorstwo udowodniło, że każde rozszerzenie przeglądarki (nawet takie bez specjalnych uprawnień) może uzyskać dostęp do narzędzi sztucznej inteligencji w celu wyświetlenia monitów z poleceniem podania poufnych danych.

Metoda „Man-in-the-Prompt” stanowi zagrożenie dla systemów LLM stworzonych i dostosowanych przez przedsiębiorców do użytku wewnętrznego firmy. Takowe modele AI za zdanie mają przetwarzanie bardzo wrażliwych danych, które są związane z własnością intelektualną, danymi osobowymi, dokumentami finansowymi i korporacyjnymi. Systemy LLM wewnątrz firm mogą także odpowiadać za komunikację w przedsiębiorstwie i przechowywać dane kadrowe.

Źródło: Clint Patterson | Unsplash

LayerX zaznacza jednak, że atak hakerski metodą „Man-in-the-Prompt” jest możliwy tylko w przypadku, kiedy dany użytkownik zainstaluje złośliwe rozszerzenie do przeglądarki, które umożliwi hakerowi dostęp do narzędzi AI. Zdaniem LayerX dla samych hakerów nie będzie to trudne zadaniem, bowiem według ich analizy blisko 99% przedsiębiorstw korzysta z co najmniej jednego rozszerzenia przeglądarki, a 50% z nich nawet z ponad dziesięciu.

Oznacza to, że cyberprzestępcy nie będą mieli bardzo trudnego zadania, aby nakłonić ofiarę do zainstalowania na pozór niewinnego rozszerzenia. Z tego też powodu LayerX o nowym zagrożeniu zdecydowało się poinformować Google. Jednak gigant technologiczny ostatecznie ocenił, że nie ma tutaj mowy o luce w zabezpieczeniach oprogramowania, z czym również zgadza się LayerX. Firma do spraw cyberbezpieczeństwa zwraca uwagę na ogólną słabość niskich uprawnień wymaganych do interakcji z LLM.

LayerX zaleca przedsiębiorstwom monitorowanie interakcji DOM z narzędziami GenAI w celu poszukiwania nasłuchiwaczy i webhooków, które wchodzą w interakcje z monitami AI. Zaleca się również blokowanie rozszerzeń przeglądarek. Warto tutaj wspomnieć, że nie są to pierwsze próby wykradania danych użytkowników poprzez sztuczną inteligencję. Wcześniej informowaliśmy, że cyberprzestępcy sprzedają niefiltrowane modele AI, których zadaniem jest wyłudzanie danych.

Luna Jarosz

Luna Jarosz

Pasjonatka konsol i komputerów. Obecnie pochłonięta rozwojem branży IT, poluje na nowinki technologiczne. Interesuje się również grami strategicznymi, ale lubi też pograć w Dark Souls. Swój czas poświęca także na gry e-sportowe. Jej hobby to kolekcjonowanie gier na PlayStation 2 i eksperymenty na owej konsoli w celu rozbudowy jej funkcjonalności. Przyjemność czerpie z naprawy komputerów. Wieczorami zaś przyszło jej spędzać czas na oglądaniu filmów, czy seriali anime. Kocha górskie klimaty i spacery wieczorami. Wielką radość sprawia jej czytanie książek fantasy.