Następca RAM-u może zwiększyć wydajność sztucznej inteligencji 1000 razy

W dzienniku Nature journal Unconventional Computing pojawił się interesujący artykuł, dotyczący badań amerykańskich naukowców, nad zupełnie nowym typem pamięci komputerowej. Zespół inżynierów z Uniwersytetu Minnesoty Twin Cities opracował bowiem technologię, która pozwoli w dużym stopniu ograniczyć zużycie energii systemów sztucznej inteligencji.

AI zużywa coraz więcej zasobów

Rozwijająca się w szybkim tempie sztuczna inteligencja, przynosi ludzkości wiele korzyści, ale równocześnie szkodzi naszej planecie. Według najnowszych badań, ogromne zapotrzebowanie systemów AI na energię i wodę wykorzystywaną do chłodzenia serwerów, powoduje, że tego typu technologia stanowi duże zagrożenie. Prowadzi bowiem do znacznego wzrostu emisji gazów cieplarnianych. Amerykańscy inżynierowie opracowali jednak technologię, która może to zmienić, nawet 1000 razy zwiększając efektywność systemów AI.

Powiązane:Szach-mat dla sztucznej inteligencji. Atari sprzed 47 lat „zniszczyło” ChatGPT w partii szachów

Należy tu najpierw wyjaśnić, że większość nowoczesnych systemów komputerowych zbudowana jest w oparciu o tzw. architekturę Von Neumanna, w której podsystemy logiczne i pamięciowe są od siebie oddzielone. Podczas działania, dane wielokrotnie przesyłane są pomiędzy procesorem i modułami pamięci, co stanowi wąskie gardło, zarówno pod względem szybkości przetwarzania, jak i zużycia energii. Takie przenoszenie danych pomiędzy pamięcią i procesorem, wymaga bowiem aż 200 razy więcej mocy, niż zużywają same obliczenia.

Nowa pamięć zmniejszy zużycie zasobów

Inżynierowie z Uniwersytetu Minnesoty Twin Cities obeszli jednak ten problem, opracowując nowy typ pamięci, zwany obliczeniową pamięcią o dostępie swobodnym (CRAM). Mówiąc w uproszczeniu, operacje są wykonywane bezpośrednio w komórkach pamięci, więc danych nie trzeba już przesyłać do procesora. Pozwala to nawet 1000-krotnie zmniejszyć zapotrzebowanie na energię, niezbędną do wykonywania operacji, w porównaniu do obecnie stosowanych rozwiązań. Przy czym jest to jedynie wartość wyjściowa, gdyż podczas testów udało się ograniczyć zużycie energii nawet 1700-2500 razy.

Osiągnięcie inżynierów jest kluczowe dla dalszego rozwoju sztucznej inteligencji, która już teraz boryka się z ogromnymi problemami związanymi z zasobami. Na przykład topowy procesor Blackwell B200 firmy Nvidia, wykorzystywany w systemach AI, zużywa aż 1200 W energii i generuje tak dużo ciepła, że trzeba go chłodzić wodą, co dodatkowo zwiększa zużycie zasobów.

Pamięć CRAM może więc być prawdziwą rewolucją dla rozwijającej się branży, ponieważ nie tylko zwiększy jej rentowność, ale również pomoże chronić naszą planetę. Gdybyście chcieli zapoznać się z wynikami badań, to zapraszam na tę stronę.

Czytaj więcej:Przeciętne zapytanie do ChatGPT zużywa „około jednej piętnastej łyżeczki” wody - tak twierdzi szef OpenAI