Dziwne porady w wyszukiwaniu to nie halucynacje. Google uważa, że jej AI działa dobrze, a winne są niuanse językowe

Google uruchomiło testowo swoją sztuczną inteligencję – model językowy (LLM) pomagający w wyszukiwaniu treści internetowych. Trzeba przyznać jednak, że szybko okazał się on co najmniej niewiarygodny. Niektóre porady w stylu użycia kleju do pizzy można uznać za wręcz niebezpieczne. Dobrze, że Google ostrzega przed eksperymentalnością tej funkcji. Co więcej, te pomyłki to nie „halucynacje” AI, jak wielu je nazwało. Google uważa, że te nietrafione wyniki to wina „pustych danych”, a także ludzi wymyślających dziwne pytania.

Nie AI, to „język jest zły”

W swoim wpisie Google odpowiada na zarzuty pojawiające się pod adresem wyszukiwania wspomaganego AI. Firma jest świadoma, że sytuacje te faktycznie mogły mieć miejsce, choć powątpiewa w niektóre z nich, uważając, iż zrzuty ekranu zostały sfabrykowane. Za błędne wyniki obwinia raczej niuanse językowe, oraz treści internetowe stworzone w niezrozumiały lub skrajny sposób.

Modele językowe używane w wyszukiwaniu treści działają nieco inaczej, niż pozostałe AI. Owszem, są wytrenowane na zawartości sieci, podobnie jak inne LLM, ale nie są izolowane i mają dostęp do Internetu. Toteż mogą być podatne na błędne interpretacje rzeczy z kategorii, których nie spotkały podczas uczenia.

Wiadomo, że obecne AI raczej należy jeszcze kwalifikować jako eksperyment. Ale potrafią być przydatne i nie są sobie równe. Jeśli Google chce nadążać za OpenAI i pozostałymi konkurentami, czeka je sporo pracy. Firma tego nie ukrywa i uważa, że już w tej chwili prawdopodobieństwo uzyskania dziwnych odpowiedzi jest mniejsze. Być może nie przeczytamy już, że nasz kot chce nas zjeść, jeśli lubi lizać po ręce. Miejmy nadzieję… Warto mieć dystans do tego co odpisuje nam AI.