futurebeat.pl NEWSROOM Udowadniają, że wystarczy 27-letni komputer i tylko 128 MB pamięci RAM, aby uruchomić potężny model AI; to magia BitNet Udowadniają, że wystarczy 27-letni komputer i tylko 128 MB pamięci RAM, aby uruchomić potężny model AI; to magia BitNet Pasjonatom udało się uruchomić model językowy na starym komputerze PC. Pomogła w tym architektura BitNet. techJulia Sobasz14 stycznia 2025 2 Źrodło fot. Midnight Geek | YouTubei Spis treści:Wiekowy komputer vs. sztuczna inteligencjaBitNet, czyli AI niezależnie od parametrów Grupie badaczy udało się uruchomić zaawansowany model językowy AI oparty na Llama na PC z systemem Windows 98. Komputer wyposażony był w procesor Pentium II i jedynie 128 MB pamięci RAM. Wiekowy komputer vs. sztuczna inteligencjaWymagania sprzętowe stale rosną i aż trudno uwierzyć, że z modelem AI poradzi sobie sprzęt sprzed 26 lat. EXO Labs, czyli grupa składająca się z pasjonatów-inżynierów z Uniwersytetu Oksfordzkiego udowodniła jednak, że to możliwe. Powiązane:Kilkanaście lat temu komputery PC miały przycisk Turbo. Wielu myślało, że przyspieszy on działanie komputera, ale w rzeczywistości działał odwrotnie Film opublikowany na X ukazuje, jak Panowie uruchomili model językowy na pececie z procesorem Elonex Pentium II o częstotliwości 350 MHz, systemem operacyjnym Windows 98 i z zaledwie 128 MB pamięci RAM. Model został oparty na kodzie Llama2.c Andreja Karpathy'ego, analityka danych związanego z OpenAI i Teslą. BitNet, czyli AI niezależnie od parametrówEksperyment wykazał, że Panom udało się osiągnąć przepustowość 39,31 tokenów na sekundę w modelu o ok. 260 tysiącach parametrów, dzięki czemu maszyna była w stanie szybko i sprawnie generować historie. Aby to osiągnąć, wykorzystano BitNet, czyli architekturę, która bazuje na procesorach i wykorzystując techniki kompresji danych, zmniejsza rozmiar modeli AI. To pozwala na znaczną redukcję wymagań sprzętowych. Po uruchomieniu modelu przeprowadzono szereg testów, aby upewnić się, że działa on poprawnie i efektywnie wykorzystuje dostępne zasoby. Zdaniem badaczy, przy tej architekturze model z 7 miliardami parametrów potrzebowałby jedynie 1,38 GB pamięci, co byłoby możliwe do wykonania na większości skromnych pecetów. Model był wstanie wygenerować spójne historyjki. Źródło: EXOLabs Proces uruchamiania modelu został szczegółowo opisany na blogu EXO Labs. Ich ambitną misją jest „demokratyzacja dostępu do AI” i zapobieganie monopolizacji sztucznej inteligencji w miejscach, gdzie dostęp do zaawansowanych sprzętowo komputerów jest ograniczony. Czytaj więcej:Ten dziwny gadżet z reklamy za 100 zł naprawdę działa. Chińska dmuchawka uratowała mi komputer i nerwy POWIĄZANE TEMATY: tech komputery AI / sztuczna inteligencja Julia Sobasz Julia Sobasz Z wykształcenia dziennikarka, z powołania metińczyk. Pasja do pisania pojawiła się u niej gdzieś między kartkowaniem starego numeru czasopisma „Przekrój“ a zarywaniem nocy na czytaniu reportaży Wydawnictwa Czarne. Oprócz grania w MMO-rpgi kolekcjonuje retro sprzęt, który jest dla niej sposobem na zachowanie kawałka historii technologii. Niepohamowana fanka i teoretyczka polskich seriali z przełomu lat 90. i 00. Poznaliśmy wymagania sprzętowe Mafia: The Old Country. W minimalnych znajdziemy kartę Nvidia RTX Poznaliśmy wymagania sprzętowe Mafia: The Old Country. W minimalnych znajdziemy kartę Nvidia RTX Straciłem połowę klatek, a nie widzę różnicy. Recenzja techniczna Doom: The Dark Ages Straciłem połowę klatek, a nie widzę różnicy. Recenzja techniczna Doom: The Dark Ages Gracz tak naprawdę chciał tylko odebrać narzędzia od sąsiadów, ale w prezencie dostał PS2 Gracz tak naprawdę chciał tylko odebrać narzędzia od sąsiadów, ale w prezencie dostał PS2 Premiera GTA 6 na PC: Przygotuj się na rozczarowanie - eksperci nie mają dla graczy dobrych wieści Premiera GTA 6 na PC: Przygotuj się na rozczarowanie - eksperci nie mają dla graczy dobrych wieści Youtuber ma luksusowy samochód za 17 milionów złotych - ale aby nim jeździć, musi płacić 30000 złotych za każde 58 kilometrów Youtuber ma luksusowy samochód za 17 milionów złotych - ale aby nim jeździć, musi płacić 30000 złotych za każde 58 kilometrów