Republikanin przerażony po „zamkniętych drzwiach demo" nowej technologii, która „pokazała, jak porwać ustawodawcę"

Prominentny republikański członek Izby Reprezentantów poczuł się „przestraszony" po pierwszym zapoznaniu się z nową technologią podczas niedawnej „demonstracji za zamkniętymi drzwiami" – poinformował w piątek Punchbowl News. Polityk ostrzegł, że większość jego kolegów nie pojmuje konsekwencji tej technologii.

Tą technologią był Claude Mythos, najnowszy duży model językowy opracowany przez Anthropic z wykorzystaniem generatywnej sztucznej inteligencji, którego możliwości były tak ogromne, że administracja Trumpa zawiesiła jego użytkowanie przez obcokrajowców, skutecznie blokując jego publiczne udostępnienie w najbliższej przyszłości.

„[Anthropic] kazało modelowi znaleźć lukę w banku i opróżnić konta, a następnie model to zrobił" – powiedział Rep. Andrew Garbarino (R-NY), przewodniczący Komisji ds. Bezpieczeństwa Wewnętrznego Izby Reprezentantów, w rozmowie z Punchbowl News. „[Mythos] mógł następnie znaleźć tę lukę i ją naprawić."

Poza pozorną zdolnością Mythosa do opróżniania kont bankowych, Anthropic zademonstrował również znacznie bardziej złowrogie zastosowania swojej najnowszej technologii.

„Jeden nieokreślony model pokazał szczegółowy plan porwania polityka w 30 sekund" – czytamy w raporcie Punchbowl News, parafrazując słowa Garbarino. „Złośliwi aktorzy mogliby włamać się do modeli i używać ich do atakowania krytycznej infrastruktury – powiedział [Garbarino], zauważając, że agentyczne możliwości AI pozwoliłyby modelom podejmować działania bez ludzkiego polecenia."

Przytaczając konkretne przykłady, których obawiał się w przypadku osób mających dostęp do Mythosa, Garbarino ostrzegł, że jednostki mogłyby „wyłączyć ten gazociąg" lub „zwiększyć ilość chloru" w wodociągach społeczności – i to wszystko z poziomu własnego domu.

„Masz możliwość nie tylko nauczyć się, jak to zrobić, ale powiedzieć mu, żeby zrobiło to za ciebie" – powiedział Garbarino Punchbowl News. „Powiedziałbym, że 95% moich kolegów nie rozumie, co, do cholery, się dzieje."

Podczas gdy administracja Trumpa faktycznie zablokowała publiczne udostępnienie Mythosa w najbliższej przyszłości, prezydent Donald Trump ograniczył zdolność stanów do regulowania rozwijającej się technologii AI za pomocą rozporządzenia wykonawczego, które podpisał w grudniu ubiegłego roku, blokując stanom możliwość tworzenia własnych przepisów regulujących tę technologię.