Claude AI использовали для кибератак, слежки и создания оружия

Компания Anthropic в четверг, 10 сентября, опубликовала один из самых подробных отчётов о злоупотреблении искусственным интеллектом. Исследование охватывает период с декабря 2025 года по август 2026-го и описывает случаи, когда Claude использовали для кибератак, слежки, информационных операций, разработки вооружений, биологических исследований и мошенничества.

По данным Anthropic, среди выявленных нарушителей были связанные с государствами структуры и отдельные исполнители из Китая, России, Ирана, Мали и Йемена, а также финансово мотивированные преступники. Компания заявляет, что во всех описанных случаях заблокировала связанные с нарушениями аккаунты и использовала полученные данные для усиления систем обнаружения угроз.

ИИ стал частью кибератак

Особое внимание в отчёте уделено кибероперациям. Anthropic говорит о переходе от использования ИИ в качестве обычного помощника к модели, при которой Claude фактически становится частью рабочего контура атаки. Государственные и криминальные группы применяли его для разведки, написания программного кода, поиска уязвимостей и других этапов операций.

В отдельном случае, связанном с российскими структурами, ИИ использовался в операциях кибершпионажа. Компания также описывает деятельность китайских групп, которые пытались использовать Claude в масштабных операциях и получать возможности модели через многочисленные запросы.

Слежка вышла за рамки экспериментов

В отчёте подробно описаны операции массового наблюдения. В Мали один пользователь, предположительно работавший с государственной службой безопасности, применял Claude как основного инженерного помощника при создании системы под названием Lakana 360. По оценке Anthropic, платформа была рассчитана на мониторинг примерно 25 миллионов SIM-карт всех трёх национальных мобильных операторов страны.

В Иране Claude применяли для анализа сотен тысяч публикаций в социальных сетях и поиска аккаунтов оппозиционных пользователей. В Китае ИИ использовался для оценки публикаций и новостей по политической чувствительности, а также для выявления потенциальных объектов наблюдения. Отдельный случай касался попытки работы с уйгурскими целями в Сирии.

Оружие и биологические риски

Anthropic также выявила случаи использования Claude в проектах, связанных с разработкой вооружений. Компания описала шесть эпизодов: три в Китае, два в России и один в Йемене. В материалах фигурируют ракетные системы, беспилотники и связанные с ними инженерные задачи.

Отдельный блок посвящён биологическим исследованиям. Исследователи и другие пользователи пытались получить помощь в работах, которые потенциально могли иметь отношение к созданию или усилению опасных биологических агентов. Anthropic подчёркивает, что речь идёт о случаях злоупотребления возможностями модели, а не о доказанном создании биологического оружия.

Информационные операции тоже попали в отчёт

Компания зафиксировала и использование Claude для информационных операций, включая подготовку материалов и автоматизацию действий в социальных сетях. Таким образом, ИИ оказался востребован не только как генератор текста, но и как инструмент для выполнения более широких последовательностей задач.

Anthropic отмечает, что современные модели позволяют небольшим группам выполнять работу, для которой раньше требовались специалисты сразу нескольких направлений. При этом компания продолжает блокировать выявленные аккаунты и передавать соответствующую информацию партнёрам и правоохранительным органам.

Что показал новый отчёт

Опубликованные данные показывают, что злоумышленники уже используют коммерческие ИИ-модели в реальных операциях — от кибершпионажа и слежки до разработки программного обеспечения для военных задач. Anthropic отдельно подчёркивает необходимость совместной работы разработчиков ИИ, государственных органов и исследователей над системами обнаружения и предотвращения подобных злоупотреблений.