Znany komunikator mógł wykorzystywać wiadomości użytkowników w trenowaniu AI

Slack może wykorzystywać dane użytkownika i konwersacji do trenowania narzędzi opartych na AI – takie obawy pojawiły się po dość niecodziennej wymianie zdań pomiędzy menedżerem jednej z firm, a obsługą komunikatora. Wtedy problem został nieco szerzej nagłośniony, a wytłumaczenia pracowników Slacka niestety nie pomagają w uspokojeniu nastrojów. Na pewno w jakiś sposób modele językowe (LLM) obecne na platformie są trenowane poprzez treści użytkowników, pytanie zasadnicze pozostaje – w jakim zakresie to się odbywa?

Slack trenuje AI danymi użytkowników?

Kontrowersje pojawiły się po publicznym komentarzu Coreya Quinna, menedżera firmy DuckBill. Wykrył on wykorzystywanie danych wiadomości i użytkowników, zagłębiając się w warunki prywatności Slacka (brawo, wreszcie ktoś to dokładnie przeczytał). Okazało się, że jest tam mowa o wykorzystywaniu danych do trenowania wewnętrznych mechanizmów LLM.

Obsługa Slacka udzieliła mu odpowiedzi, która chyba więcej zaciemnia, niż rozjaśnia:

Od razu warto wyjaśnić, zanim wszyscy zaczną się trwożyć – tak, to jest możliwe w trenowaniu LLM. Sposób w jaki przebiega uczenie się sztucznych inteligencji nie oznacza, że pochłaniają one te wszystkie procesowane informacje i mogą je potem wykorzystać. Można to sobie wyobrazić jako naukę pożądanych reakcji na ekspozycję określonych treści i zapytań. Do tego LLM używany przez Slack nie jest narzędziem generatywnym.

Uprzednio wytrenowane AI jest w stanie działać na zwykłym PC ze standardowej pojemności dyskiem, choć wskazane jest posiadanie procesora z chipem NPU (Neural Processing Unit). Mimo wszystko Slack powinien zająć ujednolicone stanowisko w określaniu zakresu danych, do jakich dostęp ma LLM. Komunikator umożliwia wyłączenie zgody na udostępnianie, ale wymaga to interwencji administratora, nie jest możliwe dla każdego użytkownika. To raczej także powinno zostać ułatwione.

Jak informuje serwis TechSpot, niespójności można znaleźć już w zasadach prywatności. Nietrudno jest znaleźć informację o trenowaniu AI, ale w niektórych fragmentach tekst zaprzecza wykorzystaniu jakichkolwiek danych, a według innych pewne informacje mogą brać udział w pracy z LLM. W jednym z wpisów Threads inżynier Slacka miał przyznać, że obecne zasady wymagają gruntownej modyfikacji, bo zostały one zapisane jeszcze przed wejściem programu w świat sztucznych inteligencji. Cóż, może warto zrobić to jak najszybciej, zanim nagromadzi się zbyt dużo kontrowersji.