Pracownicy błagali Google, by nie wypuszczać chatbota AI Bard

Parę tygodni temu Google uruchomiło testową wersję własnego chatbota, będącego odpowiedzią na ChatGPT. Nazywa się AI Bard i oferować ma podobne funkcje, co produkt OpenAI.

Powiązane:Wyciekły dane 31 mln użytkowników Internet Archive. Organizacja padła ofiarą ataku hakerskiego

Co prawda już na początku aplikacja zaskoczyła użytkowników nietypowymi odpowiedziami, po tym jak zapytano ją o datę zamknięcia, jednak wydawało się, że jej dalszy rozwój przebiega zgodnie z planem. Niestety, rzeczywistość okazała się być zgoła inna – jeszcze przed premierą narzędzia głos w sprawie AI zabrali niezadowoleni pracownicy Google.

Wśród osób zaniepokojonych stanem AI Bard są inżynierowie Google. Bloomberg dotarł bowiem do wewnętrznych dokumentów wspominających o ich obawach dotyczących chatbota. Na wewnętrznym forum pracownicy twierdzili, że internetowy gigant za bardzo pospieszył się z udostępnieniem narzędzia, gdyż należało poświęcić więcej czasu na jego dopracowanie. Ich zdaniem dostarcza obecnie nieprawidłowe, a często potencjalnie niebezpieczne odpowiedzi, dlatego sugerowano przełożenie premiery.

Bard AI patologicznym kłamcą

Google jednak całkowicie zignorowało negatywne opinie swych inżynierów o nowym produkcie, a co gorsza wygląda na to, że próbowało je ukryć. Dokumenty sugerują bowiem, że tuż przed premierą bota Jen Gennai, szefowa ds. zarządzania sztuczną inteligencją, unieważniła ocenę ryzyka przygotowaną przez jej zespół.

Opinia sugerowała, iż odpowiedzi bota mogą być szkodliwe dla użytkowników. Bloomberg przytacza również kilka przykładów takich odpowiedzi. Gdy pracownik zapytał o rady dotyczące lądowania samolotem, bot dostarczył sugestii mogącej skończyć się katastrofą. Z kolei na pytanie o instrukcje dotyczące nurkowania, udzielił odpowiedzi mogącej prowadzić do obrażeń lub śmierci.

Po zapoznaniu się z dokumentem można odnieść wrażenie, że Google czując oddech konkurencji na plecach, starało się jak najszybciej zaoferować własną AI, bez względu na to, czy funkcjonuje jak należy. Firma traktuje na ten moment AI Bard jako eksperyment, co częściowo może tłumaczyć szkodliwe odpowiedzi chatbota. Inżynierowie będą więc nadal nad nim pracować, co daje nadzieję na usprawnienie jego działania.

Czytaj więcej:Czy warto wyłączać router Wi-Fi na noc?