Użytkownicy nowego ChatGPT-4o przywiązują się emocjonalnie do bota. Firma OpenAI jest zaniepokojona

Relacja emocjonalna oraz romantyczna pomiędzy człowiekiem i maszyną jest znanym tematem w gatunku science-fiction. Aktualnie możemy być coraz bliżej zrealizowania wspomnianej wizji w rzeczywistości, co pokazuje dokument udostępniony przez OpenAI. Firmę zaniepokoiło zbytnie przywiązanie użytkowników programu ChatGPT-4o do sztucznej inteligencji (vide OpenAI).

Miłość od pierwszego prompta

W opublikowanym 8 sierpnia dokumencie OpenAI porusza kilka wątków, dotyczących działania i wykorzystania sztucznej inteligencji firmy. ChatGPT-4o posiada większe możliwości od poprzednich wersji i może się wydawać, że są nawet zbyt duże. Ujawnia to rozdział zatytułowany Anthropomorphization and emotional reliance, który opisuje przywiązanie emocjonalne użytkowników do bota.

Powiązane:Pracownicy błagali Google, by nie wypuszczać chatbota AI Bard

W trakcie testów zwrócono uwagę na słowa, których użytkownicy używali podczas rozmowy ze sztuczną inteligencją. Część z nich zdradzał emocjonalne zabarwienie, jak zdania „To nasz ostatni dzień razem”. Takie zachowanie może być niebezpieczne dla relacji międzyludzkich. Osoby przywiązujące się do sztucznej inteligencji w dłuższym terminie mogłyby minimalizować swoją potrzebę kontaktu z drugim człowiekiem.

Dyskusje ze sztuczną inteligencją mogą także w negatywny sposób rozwijać umiejętność konwersacji. W rozmowie z botem to użytkownik decyduje o wszystkim i jeśli chce, może przerwać, żeby przekierować wymianę zdań w inną stronę. W trakcie dyskusji z prawdziwym człowiekiem takie zachowanie mogłoby zostać uznane za przynajmniej niegrzeczne.

ChatGPT-4o posiada funkcję, która pozwala mu w sztuczny sposób zapamiętywać poprzednie konwersacje z użytkownikiem. Dzięki temu między innymi jest w stanie kończyć zadania za rozmówcę, ale i wpływa to na emocjonalne przywiązanie do bota. OpenAI planuje długotrwałe obserwacje, które pozwolą wyciągnąć dokładniejsze wnioski związane z tworzeniem relacji pomiędzy człowiekiem, a botem.

Czytaj więcej:Po CPU i GPU przychodzi czas na NPU - czym jest i co potrafi?