futurebeat.pl NEWSROOM OpenAI chce chronić ludzkość przed zagrożeniem ze strony AI OpenAI chce chronić ludzkość przed zagrożeniem ze strony AI OpenAI bardzo poważnie traktuje ryzyko związane ze sztuczną inteligencją. Powołuje więc do życia nowy zespół, który zajmie się ochroną przed zagrożeniami związanymi z AI. techMarek Pluta27 października 2023 2 Źrodło fot. Unsplash | julien Tromeuri Na oficjalnej stronie OpenAI, możemy przeczytać o nowej inicjatywie, której celem jest ochrona ludzkości przed zagrożeniami, płynącymi ze strony AI. Firma powołała właśnie do życia specjalny zespół ekspertów o nazwie Preparedness, a jego zadaniem będzie śledzenie, prognozowanie i ochrona przed zagrożeniami związanymi z przyszłymi systemami sztucznej inteligencji. OpenAI chce badać ryzyko związane z AIObecnie sztuczna inteligencja postrzegana jest jako użyteczne narzędzie, ale nie można też zapominać o zagrożeniach, jakie niesie ze sobą jej rozwój. A tych jest bardzo wiele, takie jak pisanie złośliwego kodu, skuteczniejszy phishing czy generowanie obrazów, wykorzystywanych do kreowania fałszywej rzeczywistości. Tymczasem to tylko przykłady pierwsze z brzegu, bo gdy technologia stanie się bardziej zaawansowana, może posłużyć do znacznie groźniejszych działań. Powiązane:CriticGPT wyłapuje błędy, krytykuje, punktuje nieścisłości i jest bezwzględne dla ChatGPT. W OpenAI stworzyli AI do kontroli AI Firma OpenAI, odpowiedzialna za czatbota ChatGPT, doskonale zdaje sobie sprawę z istniejącego ryzyka, dlatego tworzy zespół ekspertów, który zajmie się tą kwestią. Pokieruje nim Aleksander Madry, dyrektor Centrum wdrażania uczenia maszynowego na MIT, a jego zadaniem będzie śledzenie, ocenianie, prognozowanie i ochrona przed katastrofalnym ryzykiem, obejmującymi wiele kategorii. Są to: Zindywidualizowana perswazja, Bezpieczeństwo cybernetyczne, Zagrożenia chemiczne, biologiczne, radiologiczne i nuklearne (CBRN) oraz Autonomiczna replikacja i adaptacja (ARA). Zespół na razie jest w fazie tworzenia, zaś OpenAI zaprasza wszystkich chętnych, którzy chcieliby do niego dołączyć. W tym celu stworzono wyzwanie AI Preparedness Challenge, którego celem jest znalezienie najlepszych pomysłów na zapobiegnięcie katastrofalnym nadużyciom z wykorzystaniem sztucznej inteligencji. Autorzy 10 najlepszych koncepcji, mogą liczyć na 25 tys. dolarów nagrody, a także szansę zostania członkiem zespołu Preparedness. Firma uważa, że modele AI mają potencjał, aby przynieść korzyści całej ludzkości. Stwarzają również poważne ryzyko, dlatego trzeba upewnić się, że istnieje infrastruktura oraz narzędzia niezbędne do zapewnienia bezpieczeństwa i w razie potrzeby ograniczenia ich możliwości. Czytaj więcej:Twórca ChatGPT przeznaczył miliony dolarów na największe badanie na temat dochodu podstawowego POWIĄZANE TEMATY: tech AI / sztuczna inteligencja OpenAI chatboty / ChatGPT Marek Pluta Marek Pluta Od lat związany z serwisami internetowymi zajmującymi się tematyką gier oraz nowoczesnych technologii. Przez wiele lat współpracował m.in. z portalami Onet i Wirtualna Polska, a także innymi serwisami oraz czasopismami, gdzie zajmował się m.in. pisaniem newsów i recenzowaniem popularnych gier, jak również testowaniem najnowszych akcesoriów komputerowych. Wolne chwile lubi spędzać na rowerze, zaś podczas złej pogody rozrywkę zapewnia mu dobra książka z gatunku sci-fi. Do jego ulubionych gatunków należą strzelanki oraz produkcje MMO. Kontroluje warunki pogodowe, jakość powietrza i hałas - stacja pogodowa Netatmo to gadżet, który powinien zagościć w każdym polskim domu. Teraz dostępna jest ponad 200 zł taniej Kontroluje warunki pogodowe, jakość powietrza i hałas - stacja pogodowa Netatmo to gadżet, który powinien zagościć w każdym polskim domu. Teraz dostępna jest ponad 200 zł taniej Znudziły Was plastikowe obudowy laptopów? Jest dla nich alternatywa w postaci kartonu Znudziły Was plastikowe obudowy laptopów? Jest dla nich alternatywa w postaci kartonu Korzystanie z tej funkcji na Steam pozwala oszczędzić dużo pieniędzy, jeśli macie taką możliwość Korzystanie z tej funkcji na Steam pozwala oszczędzić dużo pieniędzy, jeśli macie taką możliwość PS5 Pro tchnie nowe życie w Twoje stare gry. Sony obiecuje automatyczne ulepszenia dla tysięcy tytułów PS5 Pro tchnie nowe życie w Twoje stare gry. Sony obiecuje automatyczne ulepszenia dla tysięcy tytułów Amerykańskie wojsko ratunkiem dla Intela? Firma znalazła chętnego na swoje procesory Amerykańskie wojsko ratunkiem dla Intela? Firma znalazła chętnego na swoje procesory