Chatbot miał pomagać mieszkańcom Nowego Jorku. Zamiast tego podaje im błędne informacje

Sztuczna inteligencja rozwija się w niesamowitym tempie, a firmy zajmujące się jej obsługą starają się zaoferować użytkownikom jak najlepsze rozwiązania. Niestety, AI dalej musi mierzyć się z licznymi problemami. Jednym z nich jest podawanie przez nią fałszywych informacji. Mogły się o tym przekonać władze Nowego Jorku, które zdecydowały się udostępnić czatbota MyCity. Miał on w teorii oferować szyki dostęp do informacji o mieście i obowiązujących w nim zasadach. Jednak w praktyce okazało się, że część z nich była wymyślona przez bota.

Według raportu opublikowanego przez dziennik The Markup i organizację The City, czatbot MyCity podaje błędne informacje na temat niektórych dość podstawowych zasad panujących w mieście. Na przykład sztuczna inteligencja podawała fałszywe dane odnośnie wynagrodzeń oraz czasu pracy pracowników. Oprócz tego miała trudności z określeniem cen niektórych usług.

Jest to dość zaskakujące, biorąc pod uwagę, że czatbot może korzystać z ponad 2000 stron internetowych związanych z Nowym Jorkiem. Dodatkowo ma on dostęp do artykułów odnoszących się do prawa i przepisów obowiązujących w mieście.

Nie jest to jednak jedyny taki przypadek. W lutym, linie lotnicze Air Canada zostały zmuszone do usunięcia ze strony czatbota, który podawał klientom fałszywe informacje odnośnie zwrotów pieniędzy za bilety.

Biorąc pod uwagę doświadczenia z czatbotami, możemy spodziewać się, że dalej będą pojawiać się przypadki podawania fałszywych informacji przez sztuczną inteligencję. Twórcom ciężko jest wprowadzić zabezpieczenia, które mogłyby zapobiec temu w przyszłości. Dlatego niektórzy programiści decydują się na tworzenie mniejszych AI, stworzonych do pomocy przy konkretnych problemach, zamiast tworzyć czatboty oparte o duże modele językowe (LLM).