Działanie ChatGPT kosztuje setki tysięcy dolarów dziennie

Pogawędki z AI ChatGPT, na stronie OpenAI, lub za pośrednictwem przeglądarki Edge i Binga, stały się dość popularne w ostatnim czasie. Skoro chaty ze sztuczną inteligencją są tak rozchwytywane, to ciekawe jest, jakie są jej koszty działania? Dylan Patel, szef firmy analitycznej SemiAnalisys twierdzi, że dzień pracy ChatGPT pochłania niemal 700 tys. dolarów.

Ile kosztuje ChatGPT

Na początek kilka interesujących faktów o ChatGPT:

• ChatGPT obecnie działa na 3617 serwerach HGX A100.
• Model językowy ChatGPT wymaga mocy obliczeniowej 28936 kart graficznych (głównie Nvidia A100 i H100) do działania.
• Średni dzienny koszt działania ChatGPT to ok. 694,5 tys. dolarów.
• Średni koszt jednego wyszukiwania przy użyciu AI to 0,36 centa (0,0036 dolara).

Firma SemiAnalysis przeprowadziła też symulację, o ile wzrosły by koszty działania wyszukiwarki Google, gdyby wyszukiwania były wspomagane przez AI ChatGPT.

Przychody Google, gdyby wyszukiwania były wspomagane przez ChatGPT. Źródło: SemiAnalysis

W przypadku 320 tys. wyszukiwań na sekundę roczne dochody Google spadną z 55 miliardów dolarów do 19,5 miliarda dolarów. Tak stanie się, jeśli do kosztu każdego wyszukania (0,0106 dolara) dodamy te 0,36 centa kosztu pracy ChatGPT. Aby to AI podołało takiej liczbie zapytań, potrzebowałoby ponad 512 tysięcy serwerów A100 HGX.

Powiązane:Przyszłość Wi-Fi to nie prędkość, a stabilność połączenia

Google rozwija własne AI Bard, oparte na modelu językowym LaMDA. Firma twierdzi jednak, że Bard jest znacznie mniej skomplikowany, więc można założyć, że jego koszty operowania będą mniejsze:

Tymczasem Bard jednak miewa problemy z trafnością odpowiedzi, na co może mieć wpływ jego uproszczenie w stosunku do modeli GPT. Biorąc pod uwagę stale rosnące zapotrzebowanie na rozwój AI takich jak ChatGPT, możemy założyć, że przedstawione powyżej koszty to dopiero początek wydatków i jest to naprawdę ciekawe, jak sytuacja zmieni się w ciągu najbliższych miesięcy.

Czytaj więcej:Ile kosztuje Starlink w Polsce?

Arkadiusz Strzała

Arkadiusz Strzała

Swoją przygodę z pisaniem zaczynał od własnego bloga i jednego z wczesnych forum (stworzonego jeszcze w technologii WAP). Z wykształcenia jest elektrotechnikiem, posiada zamiłowanie do technologii, konstruowania różnych rzeczy i rzecz jasna – grania w gry komputerowe. Obecnie na GOL-u jest newsmanem i autorem publicystyki, a współpracę z serwisem rozpoczął w kwietniu 2020 roku. Specjalizuje się w tekstach o energetyce i kosmosie. Nie stroni jednak od tematów luźniejszych lub z innych dziedzin. Uwielbia oglądać filmy science fiction i motoryzacyjne vlogi na YouTube. Gry uruchamia głównie na komputerze PC, aczkolwiek posiada krótki staż konsolowy. Preferuje strategie czasu rzeczywistego, FPS-y i wszelkie symulatory.