Karton może oszukać robota; Hideo Kojima miał rację

Sztuczna inteligencja zarządzająca wojskowymi robotami wymaga jeszcze dopracowania. Okazuje się bowiem, że można ją bardzo łatwo oszukać sztuczką znaną z popularnej serii Metal Gear Solid, zakładającą wykorzystanie kartonowego pudła.

nauka
Marek Pluta19 stycznia 2023
14
Źrodło fot. Unsplash | Michael Schiffer
i

Sztuczna inteligencja przydaje się w zastosowaniach cywilnych, np. naprawiając zniszczone zdjęcia czy też zajmując się generowaniem obrazów. Nie da się jednak ukryć, że ma również duży potencjał militarny i coraz chętniej stosowana jest przez wojskowych. Może bowiem nie tylko podejmować decyzje o kolejności leczenia rannych na polu bitwy, ale także kontrolować bojowe roboty. W tej ostatniej kwestii może mieć jednak sporo do nadrobienia.

Shashank Joshi, redaktor The Economist, zamieścił na swoim koncie na Twitterze obszerne fragmenty najnowszej książki Paula Scharre zatytułowanej Four Battlegrounds: Power in the Age of Artificial Intelligence, dotyczącej zastosowania AI w wojsku. Szczególnie interesujący jest opis działań mających na celu ulepszenie algorytmu wykrywania ludzi przez roboty, do którego wykorzystano grupę marines.

Żołnierze chodzili wokół robota przez kilka dni, zaś inżynierowie wykorzystali pozyskane w ten sposób dane do ulepszenia systemu. W pewnym momencie poproszono ich, by spróbowali oszukać maszynę. Robota ustawiono w kręgu, zaś żołnierze musieli dotrzeć do niego bez wykrycia, co udało się każdemu z nich. Wykorzystali w tym celu różne metody – np. jeden z nich udawał drzewo z gałęziami w dłoniach i powoli zbliżał się do maszyny, cały czas się śmiejąc.

AI oszukane kartonowym pudłem

Karton może oszukać robota; Hideo Kojima miał rację - ilustracja #1
Sztuczka z gry sprawdziła się w wojsku. Źródło: PlayStation Europe/YouTube.

Najlepszą taktyką okazało się jednak ukrywanie pod kartonowym pudłem, co całkowicie ogłupiło algorytmy. Nawiasem mówiąc, ta sztuczka nie jest nowa. Wykorzystał ją już Hideo Kojima w popularnej serii Metal Gear Solid, umożliwiając bohaterowi ukrywanie się przed wrogiem w taki sposób. Wydawałoby się, że w rzeczywistym świecie ten pomysł nie ma szans powodzenia.

Autor książki wyjaśnia, że AI wyszkolono tak, by wykrywać chodzących lub biegnących ludzi. System gubi się jednak, gdy wykonują oni inne ruchy, takie jak turlanie się lub ukrywanie w pudłach. Proste sztuczki, które człowiek z łatwością by przejrzał, jak widać pozwoliły oszukać komputerowe algorytmy. To dowód na to, że sztuczna inteligencja nadal wymaga jeszcze sporo pracy, gdyż ciągle polega na zbieranych danych oraz algorytmach.

Marek Pluta

Marek Pluta

Od lat związany z serwisami internetowymi zajmującymi się tematyką gier oraz nowoczesnych technologii. Przez wiele lat współpracował m.in. z portalami Onet i Wirtualna Polska, a także innymi serwisami oraz czasopismami, gdzie zajmował się m.in. pisaniem newsów i recenzowaniem popularnych gier, jak również testowaniem najnowszych akcesoriów komputerowych. Wolne chwile lubi spędzać na rowerze, zaś podczas złej pogody rozrywkę zapewnia mu dobra książka z gatunku sci-fi. Do jego ulubionych gatunków należą strzelanki oraz produkcje MMO.

AMD bije rekordy; Radeon RX 9070 zapewnił firmie 45% rynku GPU w Japonii

AMD bije rekordy; Radeon RX 9070 zapewnił firmie 45% rynku GPU w Japonii

Pewien sklep zrezygnował z tych płyt głównych: miał zanotować aż 16 przypadków spalonego Ryzena 9800X3D

Pewien sklep zrezygnował z tych płyt głównych: miał zanotować aż 16 przypadków spalonego Ryzena 9800X3D

iPhone 17 Air miał nie mieć żadnego portu; Apple rozważa przyszłość bez kabli

iPhone 17 Air miał nie mieć żadnego portu; Apple rozważa przyszłość bez kabli

RTX 5090 i RX 9070 będą droższe; Asus podnosi ceny najnowszych kart graficznych

RTX 5090 i RX 9070 będą droższe; Asus podnosi ceny najnowszych kart graficznych

Minęło 41 lat, a ten sklep dalej dostarcza części do sprzętu legendarnej marki sprzed dekad

Minęło 41 lat, a ten sklep dalej dostarcza części do sprzętu legendarnej marki sprzed dekad