Отбрана

Хутите експлоатират Claude за разработване на ракети

Anthropic е открила група в Северен Йемен, която е използвала Claude Code при разработването на софтуер за управляема ракета и още две оръжейни програми. Компанията не назовава хутите по име, но групата е действала в северната част на страната, голяма част от която е под техен контрол.

Случаят е описан в нов доклад на Anthropic за злоупотребите с изкуствен интелект и новите заплахи, свързани с него. Той е един от шестте случая, които компанията посочва като опити за използване на Claude в разработването на конвенционални оръжия. Докладът описва и други злоупотреби с модела, свързани с Русия и Китай.

Йеменската група е работила едновременно по три проекта: управляема ракета с бордови компютър, базиран на хардуер от смартфонен клас, и система за насочване в последната фаза на полета; многостепенна балистична ракета с обявен целеви обсег над 2000 километра; и семейство ракети, обозначено като R2000, включващо вариант с хиперзвуков апарат.

Claude не е бил използван само за справки или за писане на отделни части от програмен код. Anthropic казва, че операторите са го използвали вместо човешки софтуерни инженери при разработването на системите за насочване, навигация и управление на ракетите. Няколко отделни инстанции на Claude са работили паралелно: една е изпълнявала задачи по програмирането, друга е извършвала техническо проучване, а трета е преглеждала резултатите. Хората са разпределяли задачите и са събирали работата им.

Процесът е стигнал до реални изпитания. Групата е използвала Claude при свързването на софтуера с бордови компютър, при разработването на програмите за управление и определяне на позицията, при създаването на фърмуер и при компютърни симулации на полети. В един от проектите са използвани компютърни модели с шест степени на свобода, които описват едновременно движението на ракетата и въртенето ѝ около трите оси.

След това е дошъл реалният тест.

Хути с ракетно оръжие в планински район на Йемен
Хути с ракетно оръжие в планински район на Йемен. Изображение: TechBulgaria

Групата е изстреляла управляема ракета. Изпитанието е било неуспешно. В рамките на часове участниците са се върнали към Claude, за да анализират причината за провала с данните от теста. Anthropic посочва, че няма доказателства групата да е успяла да въведе в експлоатация работещо оръжие.

Защитите на Claude са блокирали част от заявките. Според Anthropic операторите са разделяли задачите между различни чат прозорци и са опитали да прикрият крайната цел на заявките. Така нито един разговор не е разкривал целия проект.

Междувременно групата е изградила собствен набор от инструменти за компютърни симулации, който е бил независим от Claude и други инженерни среди. Anthropic съобщава и за използване на метод, при който компютърна система се усъвършенства чрез многократни опити и оценка на резултатите, за настройване на управлението на полета и калибриране на цифровите модели.

Софтуерът за насочване, навигация и управление е специализирана инженерна работа, която обединява програмиране, авионика, системи за управление и компютърни симулации. В този случай част от нея е била възложена на AI модел. Хората са определяли задачите, проверявали са резултатите и са свързвали отделните части от работата.

Anthropic е спряла свързаните акаунти и е споделила информацията с партньори. Но групата вече е разполагала със собствен набор от инструменти за симулации, който може да работи без Claude.

Anthropic подчертава, че видимостта ѝ върху цялостната оръжейна програма на хутите е била ограничена.

Anthropic е прекъснала достъпа. Инструментите, създадени междувременно, са останали.

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *