Microsoft Copilot zajrzy do naszych plików na dysku OneDrive bez obciążania komputera

Microsoft zamierza uruchomić Copilota dla plików w usłudze OneDrive. To potężne narzędzie jest w planach firmy i może być bardzo pomocne, ale rodzi obawy o prywatność. Sztuczna inteligencja będzie miała bowiem dostęp do prywatnych danych. Czy wobec tego można uruchomić model językowy AI lokalnie na komputerze?

Copilot w OneDrive

Teoretycznie da się uruchomić, np. chatbota AI, na komputerze lokalnym i całkiem dobrze on funkcjonuje. Jednak na modele językowe składają się dwie aktywności, lub moduły. Pierwsza, dobrze nam znana to wnioskowanie, czyli interakcja i obsługa zapytań. To działa w czasie rzeczywistym na komputerze z procesorem posiadającym sprzętowe wspomaganie AI. Jednak aby czegokolwiek dowiedzieć się od sztucznej inteligencji, musi ona posiadać wiedzę. Temu służy proces uczenia maszynowego, który wymaga potężnej mocy obliczeniowej.

Serwis PCWorld podaje przykład, gdy nowoczesnemu laptopowi z uruchomioną lokalnie AI, powierzono zadanie nauczenia się 113-stronicowego dokumenty o przepisach prawa. O ile sam model językowy działa sprawnie, to proces poznawania tego jednego pliku trwał dwie godziny. A nie był to słaby sprzęt – posiadał procesor Intela 14. generacji i kartę graficzną RTX 4090. Więc być może naukę zawartości własnych danych powierzyć Copilotowi Microsoftu w chmurze?

Copilot w OneDrive ma być dostępny w ramach licencji Microsoft Copilot dla Microsoft 365, tylko dla przedsiębiorstw lub placówek szkolno-naukowych. Nie wiadomo, czy z tej funkcji będą mogli skorzystać subskrybenci Copilot Pro. AI Microsoftu dla plików w chmurze ma wystartować w maju tego roku i kosztować ok. 30 dolarów miesięcznie. Obawy o prywatność są uzasadnione, choć nie jest tajemnicą, że treść plików w chmurze i tak jest analizowana, przynajmniej ze względów bezpieczeństwa. Alternatywą jest uruchamianie AI na lokalnym komputerze, ale to pochłonie znaczne moce obliczeniowe i energię.