futurebeat.pl NEWSROOM CriticGPT wyłapuje błędy, krytykuje, punktuje nieścisłości i jest bezwzględne dla ChatGPT. W OpenAI stworzyli AI do kontroli AI CriticGPT wyłapuje błędy, krytykuje, punktuje nieścisłości i jest bezwzględne dla ChatGPT. W OpenAI stworzyli AI do kontroli AI OpenAI zaprezentowało CriticGPT, model AI analizujący i wykrywający błędy w kodzie generowanym przez ChatGPT. techAndrzej Krzemiński28 czerwca 2024 Źrodło fot. Andrew Neel, Unsplashi Spis treści: Cel powstania CriticGPTProces nauki nowego AILimity CriticGPTNastępne kroki W czwartek OpenAI zaprezentowało CriticGPT, model badawczy zajmujący się identyfikowaniem błędów w kodzie generowanym przez ChatGPT. Głównym celem nowego AI jest sprawienie, aby sztuczna inteligencja zachowywała się w sposób bardziej ludzki, zgodny z oczekiwaniami użytkowników. Pomóc ma w tym „Reinforcement Learning from Human Feedback” (RLHF), czyli sposób nauki na podstawie informacji zwrotnej od ludzi. Cel powstania CriticGPTJak opisano w artykule badawczym OpenAI, zatytułowanym „LLM Critics Help Catch LLM Bugs”, CriticGPT ma być asystentem AI dla osób, które korzystają z kodów generowanych przez ChatGPT. Oparty na GPT-4 LLMS CriticGPT analizuje kod i wskazuje znajdujące się w nim błędy, które mogły wcześniej pozostać niezauważone. Proces nauki nowego AIRozwój CriticGPT polegał na szkoleniu sztucznej inteligencji na dużej liczbie danych zawierających kody źródłowe z błędami. Trenerzy byli odpowiedzialni za modyfikowanie kodów generowanych przez ChatGPT i celowe wprowadzanie do nich błędów, a następnie przekazywanie CriticGPT informacji o tym, jak je odkryli i wyeliminowali. Dzięki takiemu szkoleniu, model AI nauczył się identyfikować i naprawiać różne problemy pojawiające się podczas kodowania. Źródło: OpenAI Podczas testów, CriticGPT potrafił wyłapywać zarówno błędy celowo wstawione przez badaczy, jak i te występujące naturalnie w kodach generowanych przez ChatGPT. Oba modele od OpenAI mogą wykrywać błędy generowane przez człowieka, jednak badacze zauważyli, że w 63% przypadków CriticGPT robi to znacznie lepiej i generuje mniej fałszywych alarmów. Powiązane:OpenAI chce chronić ludzkość przed zagrożeniem ze strony AI Naukowcy opracowali również nową technikę nazwaną „Force Sampling Beam Search”, która pomaga CriticGPT pisać bardziej szczegółowe recenzje kodu. Badacze mogli dostosować dokładność AI w zależności od swoich oczekiwań. Źródło: OpenAI Największym zaskoczeniem dla badaczy był fakt, że CriticGPT potrafił znaleźć błędy w próbkach kodów, które wcześniej zostały ocenione przez testerów jako bezbłędne. Wszystkie poprawki sugerowane przez AI zostały przyjęte, co idealnie obrazuje możliwości programu w wyłapywaniu nawet najmniejszych, normalnie niezauważalnych błędów. Limity CriticGPTPodobnie jak wszystkie modele sztucznej inteligencji, CriticGPT ma swoje ograniczenia. W oficjalnym oświadczeniu OpenAI zaznaczyło najważniejsze problemy, z jakimi boryka się ich nowy program. CriticGPT został wytrenowany na krótkich odpowiedziach, dawanych przez ChatGPT. Nowe AI nie radzi sobie obecnie z dłuższymi, bardziej skomplikowanymi zadaniami.Program jest najbardziej skuteczny w identyfikowaniu prostych błędów i ma problem z poprawnym rozpoznaniem tych rozproszonych po całym kodzie.Program ma czasami „halucynacje” i wprowadza poprawki do kodu, który jest poprawnie napisany.Jeśli zadanie jest złożone, CriticGPT nie będzie w stanie poprawnie ocenić, jaki jest dokładnie problem. Następne krokiOpenAI ma w planach zintegrowanie innych modeli, podobnych do CriticGPT, z „Reinforcement Learning from Human Feedback”. Twórcy uważają, że taki kierunek pozwoli w przyszłości na tworzenie lepszych i bardziej rozbudowanych narzędzi. Czytaj więcej:AI w opisach produktów zniechęca do nich konsumentów. To wynik nowych badań POWIĄZANE TEMATY: tech AI / sztuczna inteligencja OpenAI chatboty / ChatGPT Andrzej Krzemiński Andrzej Krzemiński Do GRYOnline.pl dołączył w maju 2024 roku, rozpoczynając swoją przygodę z profesjonalnym pisaniem w dziale technologicznym. Jest miłośnikiem eksperymentalnego hip-hopu oraz książek psychologicznych i filozoficznych, które kolekcjonuje. W wieku 7 lat kuzyn wprowadził go w świat gier i od tego czasu nie może się od nich oderwać. W przeszłości spędzał długie godziny na grach multiplayer, takich jak League of Legends, Valorant i Rainbow Six: Siege. Obecnie skupia się na strategiach, produkcjach indie i j-RPG. Jest największym fanem japońskich gier, w szczególności twórczości studia Atlus z serią gier Persona na czele oraz gry Nier: Automata. W tym roku planuje rozpocząć studia na Uniwersytecie Jagiellońskim. Australijski sąd uznał, że Uber nie płaci swoim kierowcom i anulował dług podatkowy w wysokości 81 milionów dolarów Australijski sąd uznał, że Uber nie płaci swoim kierowcom i anulował dług podatkowy w wysokości 81 milionów dolarów Epopeja Starlinera dobiegła końca. Statek Boeinga wrócił na Ziemię Epopeja Starlinera dobiegła końca. Statek Boeinga wrócił na Ziemię Inżynier stworzył wolumetryczny wyświetlacz 3D i odpalił na nim Dooma Inżynier stworzył wolumetryczny wyświetlacz 3D i odpalił na nim Dooma Łowca okazji kupuje PS2 na pchlim targu, by w domu z goryczą uświadomić sobie popełniony błąd Łowca okazji kupuje PS2 na pchlim targu, by w domu z goryczą uświadomić sobie popełniony błąd Jak wybrać najlepszy serwer GeForce Now? Podpowiadamy Jak wybrać najlepszy serwer GeForce Now? Podpowiadamy