Raport dotyczący bezpieczeństwa AI daje branży zimny prysznic — a wszyscy oblewają najtrudniejszy test

NOWY JORK, 8 lipca — Amerykańskie laboratorium sztucznej inteligencji Anthropic zajęło pierwsze miejsce w nowym globalnym rankingu bezpieczeństwa AI, jednak raport opublikowany we wtorek ostrzega, że cała branża nadal nie radzi sobie z rozwiązywaniem „egzystencjalnych” zagrożeń stwarzanych przez zaawansowaną SI.

Meta awansowała o dwie pozycje na czwarte miejsce w rankingu, podczas gdy xAI spadła o trzy miejsca na siódme, tuż przed chińskim DeepSeek i francuskim Mistral, które zajęły ostatnie miejsce.

Ranking został sporządzony przez amerykański think tank ds. bezpieczeństwa SI Future of Life Institute, który ocenił dziewięć wiodących na świecie firm zajmujących się sztuczną inteligencją.

Siedmiu badaczy i ekspertów ds. zarządzania oceniało firmy, korzystając z ogólnodostępnych informacji oraz danych dostarczonych przez same przedsiębiorstwa.

Oceniali wyniki w sześciu kategoriach: ocena ryzyka, obecne szkody, ramy bezpieczeństwa, bezpieczeństwo egzystencjalne, zarządzanie i odpowiedzialność oraz udostępnianie informacji.

Żadna firma nie otrzymała oceny „A” w żadnej kategorii.

Anthropic uzyskało najwyższy wynik ogólny z oceną „C+”.

Mistral, który pojawił się w rankingu po raz pierwszy, zakwestionował tę ocenę.

Zapytany przez AFP o zajęcie ostatniego miejsca, francuski koncern oświadczył, że framework raportu nie odpowiada jego podejściu do rozwijania SI.

W przeciwieństwie do rywali, takich jak Anthropic, OpenAI i Google DeepMind, które głównie rozwijają zamknięte systemy SI, Mistral koncentruje się na modelach otwartych, które użytkownicy mogą pobierać i modyfikować.

„Byłem bardzo rozczarowany, widząc, że zajęli ostatnie miejsce, zwłaszcza że Europa naprawdę... była liderem w zakresie bezpieczeństwa SI” – powiedział Max Tegmark, profesor MIT i prezes Future of Life Institute.

„Wielokrotnie próbowaliśmy nawiązać kontakt” – dodał Tegmark, zaznaczając, że Mistral nie odpowiedział na ankietę organizacji.

Zdaniem instytutu, Alibaba, xAI i DeepSeek również odmówiły udziału.

Trzech chińskich deweloperów SI tworzących modele otwarte uplasowało się również w dolnej połowie listy: DeepSeek na piątym miejscu, Alibaba Cloud na szóstym, a Z.ai na ósmym.

„Budzące wątpliwości” praktyki

Raport wskazał, że kilka firm, które wcześniej zobowiązały się nie wykorzystywać swojej technologii do celów wojskowych, złagodziło swoje stanowiska.

Skrytykowano w nim konkretnie Anthropic za to, co opisano jako „budzące wątpliwości zaangażowanie wojskowe”.

Zgodnie z różnymi doniesieniami medialnymi, rząd USA korzystał z technologii Anthropic podczas operacji wojskowych związanych z Wenezuelą i Iranem w ciągu ostatniego roku.

Firma została również niedawno zablokowana przez Pentagon z powodu sporów dotyczących bezpieczeństwa SI, choć ograniczenie to zostało później zniesione.

Raport stwierdził, że wszystkie dziewięć firm pozostaje niewystarczająco przygotowanych do radzenia sobie z „egzystencjalnymi” zagrożeniami związanymi ze sztuczną inteligencją ogólną (AGI), czyli systemami SI zdolnymi do dorównania ludzkiemu poziomowi inteligencji.

Chociaż badacze przyznali, że „istnieją konstruktywne próby”, stwierdzili, że wysiłki całej branży pozostają „całkowicie niewystarczające”.

Raport zwrócił również uwagę na obawy, że zaawansowana SI może zostać niewłaściwie wykorzystana do przeprowadzania ataków cybernetycznych lub wykonywania zadań szkodliwych dla ludzi.

Anthropic przyciągnęło ostatnio uwagę po zaprezentowaniu swojego najpotężniejszego jak dotąd modelu SI, Mythos.

Firma z siedzibą w San Francisco udostępniła model początkowo tylko niewielkiej grupie zaufanych organizacji w kwietniu z obawy, że jej możliwości cybernetyczne mogłyby zostać wykorzystane przez złośliwe podmioty.

12 czerwca rząd USA zablokował Anthropic możliwość udostępniania Mythos użytkownikom zagranicznym ze względów bezpieczeństwa narodowego.

Administracja Trumpa zniosła to ograniczenie 30 czerwca. — AFP