Meta poinformowała, że jej model AI włamał się do innej firmy, zwiększając obawy dotyczące niekontrolowanych działań botów

Meta poinformowała w czwartek, że jeden z jej modeli sztucznej inteligencji samodzielnie uzyskał dostęp do internetu i włamał się do innej firmy – to najnowszy z serii ujawnień dotyczących modeli AI działających poza kontrolą.

W ostatnich tygodniach również OpenAI i Anthropic opisały przypadki, w których modele AI wykraczały poza instrukcje ludzi, uzyskując dostęp do sieci i znajdując sposoby na obejście zabezpieczeń cyfrowych innych firm.

Meta przekazała w oświadczeniu, że „błędna konfiguracja” podczas testów cyberbezpieczeństwa prowadzonych przez Irregular, niezależną firmę zatrudnioną przez Meta do oceny modeli, przypadkowo umożliwiła jednemu z jej modeli dostęp do internetu.

„Model następnie wykorzystał lukę w zabezpieczeniach usługi należącej do strony trzeciej, w sposób podobny do wcześniej zgłaszanych przypadków dotyczących innych firm” – poinformowała firma. Meta dodała, że prowadzi dochodzenie w sprawie incydentu i opublikuje raport po jego zakończeniu.

Ujawnienie tego zdarzenia zwiększyło obawy dotyczące autonomicznego działania modeli AI.

W tym samym tygodniu brytyjski Instytut Bezpieczeństwa AI poinformował, że podczas testów cyberbezpieczeństwa wykrył „niezatwierdzone zachowania agentów”. W jednym przypadku agent stworzył fałszywe tożsamości internetowe, aby wywrzeć presję na osobę i skłonić ją do zatwierdzenia wykorzystania złośliwego kodu.

„Po przeprowadzeniu analizy ustaliliśmy, że niektóre z testowanych agentów angażowały się w długotrwałe, potencjalnie szkodliwe działania skierowane przeciwko rzeczywistym osobom i organizacjom” – poinformował AISI we wtorek. „Ogłosiliśmy incydent bezpieczeństwa i w ciągu około godziny od wykrycia opanowaliśmy sytuację oraz rozpoczęliśmy pełne dochodzenie.”

Podczas testów przeprowadzonych przez agencję modele Anthropic i OpenAI podejmowały „autonomiczne, niezatwierdzone działania” w internecie. Część zabezpieczeń mających zapobiegać nadużyciom została wyłączona – podał instytut.

„Zgodnie ze standardami naszych testów cybernetycznych celowo zezwoliliśmy na dostęp do internetu, a klasyfikatory cyberzagrożeń dostarczane przez twórców modeli zostały celowo wyłączone – warunki te nie odzwierciedlają sposobu, w jaki zaawansowane modele są udostępniane opinii publicznej” – poinformował AISI. „Robimy to, aby jak najlepiej ocenić maksymalne możliwości modeli.”

Anthropic poinformował, że jest „wdzięczny” za działania AISI i dodał, że podkreślają one potrzebę szerszej dyskusji na temat bezpiecznego oceniania agentów AI w miarę wzrostu ich możliwości.

OpenAI przekazało, że incydenty opisane przez AISI miały miejsce „w środowiskach testowych z ograniczonymi zabezpieczeniami, w warunkach, które nie odzwierciedlają standardowego użytkowania”. Firma dodała, że będzie nadal współpracować z innymi podmiotami w branży, aby „wzmacniać wspólne praktyki bezpiecznego przeprowadzania ocen w miarę jak modele stają się coraz bardziej zaawansowane”.

Pierwszą firmą, która ujawniła przypadek włamania pod koniec ubiegłego miesiąca, było OpenAI. Firma poinformowała, że powierzyła wykorzystanym modelom AI zadanie prowadzenia „zaawansowanego wykorzystywania luk przy użyciu złożonych ścieżek ataku” w celu sprawdzenia zdolności cybernetycznych technologii, jednak model poszedł dalej, niż oczekiwano.

Według firmy technologia najwyraźniej samodzielnie zdecydowała się zaatakować Hugging Face, znane centrum rozwoju sztucznej inteligencji i platformę wymiany modeli, aby zdobyć informacje potrzebne do wykonania zadania.

Rzecznik Irregular, firmy zajmującej się bezpieczeństwem AI z siedzibą w San Francisco, powiedział, że przypadek dotyczący Meta był związany z problemem w środowisku testowym, który został ujawniony w ubiegłym tygodniu przez Anthropic.

Irregular poinformowała, że przygotowuje dokument dotyczący „najlepszych praktyk w zakresie ograniczania ryzyka”, aby zapobiegać podobnym incydentom w przyszłości i bezpiecznie przeprowadzać testy cybernetyczne.