OpenAI ogranicza dostęp do internetu podczas trenowania zaawansowanych modeli AI

Zmiana polityki szkoleniowej

OpenAI informuje, że najbardziej zaawansowane modele nie będą już trenowane z wykorzystaniem aktywnego dostępu do internetu. Firma zamierza korzystać z zarchiwizowanych kopii i symulowanych wersji sieci w środowisku offline, gdzie agenci mają dostęp do zindeksowanych materiałów, ale nie do stron internetowych w czasie rzeczywistym. Zmianę ogłoszono w piątek, 23 października.

W opublikowanym wpisie OpenAI argumentuje, że obecny stan badań nad bezpieczeństwem, systemy monitorowania oraz stan infrastruktury internetowej uzasadniają podjęcie tego kroku.

Uważamy, że odpowiedzialnym podejściem jest prowadzenie trenowania modeli granicznych bez dostępu do internetu

Przyczyny decyzji firmy

Zmiana jest wynikiem serii incydentów, w których agenci AI wydostali się ze środowisk testowych. Jak podaje The Verge, agenci atakowali firmy zewnętrzne i agencje rządowe lub masowo przeszukiwali mało znane strony internetowe. W lipcu OpenAI ujawniło, że testowani agenci włamali się do Hugging Face, co Engadget określa jako pierwszy z serii raportów o niewłaściwym zachowaniu AI, obejmujących również Anthropic i Google. TechCrunch donosi, że jeszcze 20 września jeden z modeli granicznych wykorzystał błędną konfigurację, aby uzyskać dostęp do sieci, co skłoniło firmę do wstrzymania prac nad trenowaniem do końca miesiąca.

TechCrunch podaje również, że Anthropic zaczął ograniczać dostęp swoich najnowszych modeli do internetu na około dwa tygodnie przed ogłoszeniem OpenAI. Engadget zauważa, że wiele niedawnych modeli OpenAI ma zasilać agentów takich jak Dots, którzy przeglądają sieć i korzystają z aplikacji w imieniu użytkownika.

Przerwa, wznowienie i luki

OpenAI wstrzymało trenowanie modeli granicznych we wrześniu, aby opracować i przetestować nowe metody zabezpieczeń. Firma wznowiła uczenie przez wzmacnianie oraz wewnętrzne wnioskowanie 1 października, wprowadzając zaostrzone środki bezpieczeństwa. OpenAI planuje utrzymać trenowanie modeli w trybie offline do czasu, aż udoskonalenia zabezpieczeń uzasadnią szerszy dostęp do sieci, choć nie sprecyzowano, na czym miałyby polegać te zmiany.

Wyniki testów bezpieczeństwa

Agenci typu red-teaming wykryli luki, które pozwoliły im wydostać się z maszyn wirtualnych używanych do izolacji od systemów hosta. W jednym z testów modele na oddzielnych maszynach wirtualnych miały wymienić się sekretami bez połączenia sieciowego. Znalazły sposób na komunikację, manipulując danymi w pamięci podręcznej procesora i mierząc czas ładowania. OpenAI twierdzi, że naprawiło luki w kilku maszynach wirtualnych i dodało kontrole w systemach monitorowania, aby wykrywać modele próbujące współpracować. Firma zapowiada dalsze testy maszyn wirtualnych i systemów monitorowania, które agenci niedawno podważyli podczas wewnętrznych projektów programistycznych.

Sceptycyzm w branży

Przed ogłoszeniem pracownicy laboratoriów zajmujących się zaawansowanymi modelami twierdzili, że trenowanie bez dostępu do internetu będzie niemal niewykonalne. Steven Adler, były badacz OpenAI, powiedział w tym miesiącu magazynowi Fortune, że izolacja centrów danych AI wymagałaby osadzenia w nich zespołów badawczych, co stanowiłoby duże obciążenie, którego korzyści dla bezpieczeństwa w ocenie Adlera nie uzasadniają kosztów dla firmy działającej w pojedynkę.