"Grupa dzieciaków" zhakowała giganta AI. Wystarczyło 12 godzin

Do włamania doszło w ramach programu Anthropic, który zaprasza zewnętrznych ekspertów ds. cyberbezpieczeństwa do testowania swoich systemów. Jak podaje firma Cathedral w niepublikowanym jeszcze raporcie, miała ona uzyskać dostęp do "wrażliwych danych wewnętrznych" oraz wewnętrznego czatu pracowników firmy Anthropic.

Cathedral to firma założona przez byłych członków zespołu DOGE, czyli organu doradczego powołanego przez administrację prezydenta USA Donalda Trumpa w 2025 roku, który istniał tylko kilka miesięcy i którego twarzą był miliarder Elon Musk. Cathedral oferuje klientom rządowym i korporacyjnym narzędzia cyberbezpieczeństwa oparte na sztucznej inteligencji. Używając do tego agentów AI, miała w 12 godzin znaleźć luki w zabezpieczeniach programu biznesowego czołowej firmy AI.

Badacze mieli znaleźć ścieżki dostępu do wewnętrznych danych Anthropic, w tym zapisów spotkań, informacji o wynagrodzeniach i ofertach pracy oraz wiadomości na Slacku omawiające zaawansowane modele AI. Anthropic potwierdził w oświadczeniu, że ludzie z Cathedral uzyskali dostęp do "ograniczonego zestawu" systemów sprzedażowych, kadrowych i informatycznych. Dodała, że luki w systemach zostały załatane.

Przypadek ten jest kolejnym przykładem ryzyka dla cyberbezpieczeństwa związanego z zaawansowanymi systemami AI, a także podatności samych czołowych firm, które są cennym celem dla obcych wywiadów. "Washington Post" przypomina, że na początku października FBI aresztowała saudyjskiego pracownika OpenAI podejrzanego o pracę dla saudyjskich służb. Mężczyzna założył podsłuch w sali konferencyjnej giganta AI.

Wysoki rangą urzędnik administracji Trumpa powiedział w rozmowie z "Washington Post", że raport Cathedral dotyczący dostępu do Anthropica był czytany wewnątrz administracji i wywołał znaczne obawy. - Skoro grupa dzieciaków, które dopiero co założyły firmę, jest w stanie to zrobić, to potencjalnie Chińczycy nie są daleko z tyłu – stwierdził. Dodał, że jest zaskoczony "tym, jak szybko zajęło im włamanie się do wrażliwych systemów firmy kontrolującej materiały niemalże klasy broni jądrowej".