Znany komunikator mógł wykorzystywać wiadomości użytkowników w trenowaniu AI

Slack to znany program do komunikacji firmowej. Od pewnego czasu korzysta on ze sztucznej inteligencji. To AI może być trenowane przy użyciu niektórych informacji użytkowników, jednak pojawiają się nieścisłości w zakresie dostępu do tych danych.

tech
Arkadiusz Strzała21 maja 2024
Źrodło fot. Midjourney
i

Slack może wykorzystywać dane użytkownika i konwersacji do trenowania narzędzi opartych na AI – takie obawy pojawiły się po dość niecodziennej wymianie zdań pomiędzy menedżerem jednej z firm, a obsługą komunikatora. Wtedy problem został nieco szerzej nagłośniony, a wytłumaczenia pracowników Slacka niestety nie pomagają w uspokojeniu nastrojów. Na pewno w jakiś sposób modele językowe (LLM) obecne na platformie są trenowane poprzez treści użytkowników, pytanie zasadnicze pozostaje – w jakim zakresie to się odbywa?

Slack trenuje AI danymi użytkowników?

Kontrowersje pojawiły się po publicznym komentarzu Coreya Quinna, menedżera firmy DuckBill. Wykrył on wykorzystywanie danych wiadomości i użytkowników, zagłębiając się w warunki prywatności Slacka (brawo, wreszcie ktoś to dokładnie przeczytał). Okazało się, że jest tam mowa o wykorzystywaniu danych do trenowania wewnętrznych mechanizmów LLM.

Przepraszam, Slack, CO robisz z wiadomościami, plikami użytkowników itp.? Jestem pewien, że nie czytam tego poprawnie – Corey Quinn, Główny ekonomista ds. chmury w DuckBill.

Obsługa Slacka udzieliła mu odpowiedzi, która chyba więcej zaciemnia, niż rozjaśnia:

Slack ma modele uczenia maszynowego na poziomie platformy, dotyczące takich rzeczy, jak rekomendacje kanałów i emoji oraz wyniki wyszukiwania. I tak, klienci mogą wykluczyć swoje dane z pomocy w szkoleniu tych (niegeneratywnych) modeli uczenia maszynowego. Dane klienta należą do klienta. Nie budujemy ani nie szkolimy tych modeli w taki sposób, aby mogły się uczyć, zapamiętywać lub móc odtworzyć jakąś część tych danych.

Od razu warto wyjaśnić, zanim wszyscy zaczną się trwożyć – tak, to jest możliwe w trenowaniu LLM. Sposób w jaki przebiega uczenie się sztucznych inteligencji nie oznacza, że pochłaniają one te wszystkie procesowane informacje i mogą je potem wykorzystać. Można to sobie wyobrazić jako naukę pożądanych reakcji na ekspozycję określonych treści i zapytań. Do tego LLM używany przez Slack nie jest narzędziem generatywnym.

Uprzednio wytrenowane AI jest w stanie działać na zwykłym PC ze standardowej pojemności dyskiem, choć wskazane jest posiadanie procesora z chipem NPU (Neural Processing Unit). Mimo wszystko Slack powinien zająć ujednolicone stanowisko w określaniu zakresu danych, do jakich dostęp ma LLM. Komunikator umożliwia wyłączenie zgody na udostępnianie, ale wymaga to interwencji administratora, nie jest możliwe dla każdego użytkownika. To raczej także powinno zostać ułatwione.

Jak informuje serwis TechSpot, niespójności można znaleźć już w zasadach prywatności. Nietrudno jest znaleźć informację o trenowaniu AI, ale w niektórych fragmentach tekst zaprzecza wykorzystaniu jakichkolwiek danych, a według innych pewne informacje mogą brać udział w pracy z LLM. W jednym z wpisów Threads inżynier Slacka miał przyznać, że obecne zasady wymagają gruntownej modyfikacji, bo zostały one zapisane jeszcze przed wejściem programu w świat sztucznych inteligencji. Cóż, może warto zrobić to jak najszybciej, zanim nagromadzi się zbyt dużo kontrowersji.

Arkadiusz Strzała

Arkadiusz Strzała

Swoją przygodę z pisaniem zaczynał od własnego bloga i jednego z wczesnych forum (stworzonego jeszcze w technologii WAP). Z wykształcenia jest elektrotechnikiem, posiada zamiłowanie do technologii, konstruowania różnych rzeczy i rzecz jasna – grania w gry komputerowe. Obecnie na GOL-u jest newsmanem i autorem publicystyki, a współpracę z serwisem rozpoczął w kwietniu 2020 roku. Specjalizuje się w tekstach o energetyce i kosmosie. Nie stroni jednak od tematów luźniejszych lub z innych dziedzin. Uwielbia oglądać filmy science fiction i motoryzacyjne vlogi na YouTube. Gry uruchamia głównie na komputerze PC, aczkolwiek posiada krótki staż konsolowy. Preferuje strategie czasu rzeczywistego, FPS-y i wszelkie symulatory.

iPhone 17 Pro i Pro Max. Wszystko, co trzeba wiedzieć - cena, termin premiery, ekran, aparat, kolory

iPhone 17 Pro i Pro Max. Wszystko, co trzeba wiedzieć - cena, termin premiery, ekran, aparat, kolory

Błędy, znikające tekstury i pikujące fps-y. Recenzja techniczna Microsoft Flight Simulator 2024

Błędy, znikające tekstury i pikujące fps-y. Recenzja techniczna Microsoft Flight Simulator 2024

Kiedy startuje podsumowanie roku Spotify Wrapped 2024? (Aktualizacja: już jest)

Kiedy startuje podsumowanie roku Spotify Wrapped 2024? (Aktualizacja: już jest)

Nowa aplikacja i generator klatek - Intel wykłada na stół wszystkie karty i goni konkurencję

Nowa aplikacja i generator klatek - Intel wykłada na stół wszystkie karty i goni konkurencję

„Zachowanie równowagi między AI a ludzkim podejściem będzie kluczowe” - twierdzi szef PlayStation

„Zachowanie równowagi między AI a ludzkim podejściem będzie kluczowe” - twierdzi szef PlayStation