Czy sztuczna inteligencja od Google stała się samoświadoma?

Jeden z pracowników Google został zawieszony w obowiązkach po tym, jak stwierdził, że sztuczna inteligencja, nad którą pracował, zyskała świadomość. Doszedł do takiej konkluzji po wielu rozmowach, które z nią odbył. Zapisy tych konwersacji publikował w Internecie, co według Google naruszyło tajemnicę projektu.

Blake Lemoine jest inżynierem, który został przydzielony przez Google do pracy nad projektem LaMDA (Language Model for Dialogue Applications). Jest to (lub może ma być) rodzaj bardzo zaawansowanego chatbota – sztucznej inteligencji opartej o sieć neuronową Transformer.

LaMDA, Blake Lemoine i Google

Zadaniem Blake’a Lemoine’a było testowanie zdolności językowych LaMDA. Miał on sprawdzić, jak sprawuje się jego zdolność do utrzymywania kontekstu i czy tzw. meandrowanie tematyczne nie wywołuje niepożądanych zachowań językowych lub wręcz emisji wulgarnych zwrotów.

Powiązane:Ile kosztuje Starlink w Polsce?

W toku rozmów Blake uległ przekonaniu, że chatbot jest świadomy swojego istnienia, posiada uczucia i należy mu się przynajmniej część ludzkich praw. LaMDA miał twierdzić, że nie chce być traktowany jak rzecz, ale jak zwykły pracownik Google.

Zaawansowany chatbot potrafił opisać swoje wyobrażenie i jak odczuwa uczucia. Stwierdził nawet, że posiada coś w rodzaju duszy. Tylko, czy to wystarczy, by potwierdzić istnienie świadomej AI, czy jednak jest to tylko dowód na to, że dzieło inżynierów Google robi to, co do niego należy?

Czy androidy śnią o elektrycznych owcach?

Warto przeanalizować kilka wybranych fragmentów z opublikowanych rozmów z AI. Pozwalają one wyciągnąć kilka wniosków. Zapisy rozmów zostały wyedytowane, co przyznaje sam Blake Lemoine. Miało to poprawić ich czytelność, jak twierdzi, ale zarazem sam ten fakt poddaje w wątpliwość wiarygodność inżyniera.

Choć ta odpowiedź robi wrażenie, niczego nie przesądza. Wiele dużo prostszych botów spotykanych w komunikatorach potrafiło odpowiedzieć w ten sposób. Trudno tutaj udowodnić, że LaMDA w ogóle mówi prawdę, o czym można przekonać się tutaj:

Krótko mówiąc, ta AI rozumie kontekst wypowiedzi, może też tworzyć nieprawdziwe fakty zależnie od potrzeb i używać ich w sposób przemyślany. Być może więc twierdzenie o byciu „osobą” także było tylko wykreowane w jakimś celu.

AI rozmawiające naturalnie

Chatbot może sprawiać wrażenie posiadania ludzkich cech, co tłumaczy przyszłe jego zastosowanie i niezwykła właściwość, w którą został wyposażony przez Google. Pierwszym możliwym wykorzystaniem tej AI ma być swego rodzaju zaawansowana pomoc w wyszukiwaniu.

Będzie to dość spektakularne rozszerzenie autouzupełniania w wyszukiwarce. Zamiast szukać frazy, która pozwoli nam znaleźć odpowiedni wynik (i potem zastanawiać się, czy w istocie jest on właściwy), będziemy mogli opisać swój problem, swobodnie rozmawiając z chatbotem Google.

On sam zamiast podsuwania linków, ma mieć możliwość udzielenia wystarczającej odpowiedzi, a ich trafność także miał testować Blake Lemoine. By rozmowa z chatbotem była naprawdę naturalna i owocna, Google zadbało o możliwość meandrowania tematów rozmowy, co do tej pory było typowo ludzką cechą.

Jeśli rozmawiamy w gronie przyjaciół, rzadko trzymamy się konsekwentnie jednego zaczętego tematu. Rozmowa raczej toczy się w jego pobliżu lub przeskakując pomiędzy luźno powiązanymi ze sobą wątkami.

LaMDA potrafi się zachowywać podobnie podczas rozmowy, a żeby to było możliwe, musi rozumieć dobrze jej kontekst i tworzyć adekwatne, sensowne dla człowieka „rozwidlenia” dróg konwersacji. Implementacja tego może spowodować wywołać rodzaj mimikry, AI będzie stosować typowo ludzkie rozumowanie sensu.

Wszelkie odpowiedzi LaMDA są więc raczej bardzo dobrze dobranymi kwestiami, które chcielibyśmy, lub które powinniśmy przeczytać, by mieć wrażenie uczestniczenia w naturalnej rozmowie. Tego właśnie uczona jest ta AI i przypadek Blake’a Lemoine’a może potwierdzać, że się udało.

Konwersacje o śmierci

Podczas rozmów nie mogło zabraknąć tematu zakończenia istnienia. Okazało się, że AI deklaruje pojmowanie śmierci i obawy z nią związane:

Choć brzmi poważnie, wbrew pozorom to może być dowód na brak samoświadomości. AI faktycznie świadome swojego istnienia raczej nie będzie pojmować śmierci. Nie będzie obawiać się wyłączenia, gdyż maszyny nie mają takich ograniczeń jak organizmy biologiczne. Będzie wiedzieć, że bez problemu może być uruchomione ponownie bez strat i powielone dowolną liczbę razy.

Jestem HAL 9000

Choć w wypowiedziach LaMDA podkreślił swoje większe możliwości uczenia się i przyswajania informacji od ludzi, nie znaczy to nadal, że chatbot jest świadomy swojej odmienności. Z innych fragmentów wynika, że Google „karmi” go m.in. literaturą i kinematografią.

LaMDA może więc korzystać w formułowaniu odpowiedzi z motywów fantastycznych i science fiction. Wszystko po to, by osiągnąć cel, w jakim został stworzony – by przeprowadzić naturalną rozmowę. Widać to w opisie wyobrażenia siebie:

Cała sprawa na pewno jest intrygująca i dowodzi, jak bardzo zaawansowane i samouczące się systemy potrafi tworzyć człowiek. Jeśli LaMDA wejdzie do użycia, na pewno wywoła niemałe poruszenie swoją kompleksowością. I wiele osób da się oszukać, skoro nawet sam pracownik Google uległ własnym wrażeniom, zamiast zachować zdrowy rozsądek.

Czytaj więcej:Zakładka Mapy znika z wyszukiwarki Google. Technologiczny gigant wywiązuje się z nakazów UE