Иран неоднократно использовал созданные в США системы искусственного интеллекта для сбора информации о военно-морских силах США в регионе, израильских организациях и организациях еврейской диаспоры, а также для разработки стратегий фишинговых атак внутри страны. Об этом говорится в опубликованном в четверг отчете Anthropic.

Anthropic описала деятельность структуры, которую компания назвала "связанным с Ираном субъектом угрозы" и которая использовала Claude, флагманский продукт компании, для разработки рекомендаций по выбору целей среди объектов ВМС США.

По данным Anthropic, эта структура использовала ИИ для определения и отслеживания местоположения военно-морских сил и сбора информации, включая "список американских военнослужащих, составленный на основе подписей к опубликованным военным фотографиям; находящиеся в открытом доступе идентификаторы транспондеров кораблей и самолетов; скрипты для поиска коммерческих спутниковых снимков; а также перечень общедоступных сайтов, раскрывавших передвижения американских военно-морских сил".

Согласно отчету, неназванная организация также использовала ИИ для изучения уязвимостей корабельных систем, в том числе "морских терминалов VSAT, коммуникационного оборудования Cisco и систем промышленного управления".

Это лишь один из многочисленных выводов, представленных в 154-страничном отчете гиганта индустрии искусственного интеллекта. В нем описываются угрозы, связанные с использованием этой технологии противниками США и Запада, такими как Иран, Китай и Россия.

Отчет появился на фоне продолжающихся среди политиков и сотрудников ИИ-компаний острых споров об опасностях этой технологии. При этом в феврале Anthropic отказалась выполнить требование Пентагона снять ограничения безопасности, касающиеся массовой слежки внутри страны и полностью автономного оружия.

В опубликованном в пятницу материале Wall Street Journal сообщалось, что на прошлой неделе один из ведущих исследователей Anthropic уволился из компании, объяснив свое решение опасениями, что ИИ-компании создают системы, которые невозможно будет контролировать.

"ИИ может убить всех людей", - заявил ведущий ученый Anthropic

Эван Хубингер, один из ведущих ученых Anthropic, написал в социальной сети: "Мы действительно совершенно серьезно считаем, что ИИ может убить всех людей!"

"Лично я считаю, что вероятность этого в течение следующего десятилетия превышает 10%. Я считаю, что Anthropic делает все возможное, но у нас пока нет плана решения проблемы согласования сверхинтеллекта с человеческими целями, и нельзя сказать, что мы уверенно движемся к такому решению", - приводит WSJ его слова.

Отчет Anthropic показал, что все эти группы действовали по схожей методике. "Они проводили кампании против множества целей с использованием автономно действующего ИИ, для которых раньше потребовались бы целые команды специалистов. Они создавали собственные инструменты, осуществляли вторжения в системы и обрабатывали похищенные данные в объемах, с которыми ни один человек не смог бы справиться вручную", - пояснила компания.

Помимо американских военных объектов, Иран также создал "автоматизированную систему составления профилей на основе разведки по открытым источникам", которая была нацелена на сотни представителей израильских государственных и негосударственных структур, а также на организации еврейской диаспоры.

Эта структура использовала систему для сбора и анализа данных из открытых источников, создав процесс обработки данных, позволявший затруднить обнаружение вредоносного программного обеспечения.

Иран использует ИИ для слежки за иранцами и составления их профилей

Еще две "связанные с Ираном структуры" использовали модель компании для наблюдения за 6388 иранцами и составления их профилей в течение одного года. По утверждению компании, Иран создал своего рода "аналитическую и производственную студию", которая использовалась для анализа социальных связей на основе более чем 155 216 твитов.

Среди других методов внутренней слежки были автоматическое распознавание автомобильных номеров, перехват идентификаторов мобильных устройств и анализ закрытых данных Telegram.

Согласно отчету, эти операции были направлены против иранских меньшинств, диссидентов и противников иранского режима, находящихся за рубежом.

Связанные с Ираном структуры также использовали ИИ для проведения кампаний в рамках "Джихад ат-Табйин", или "разъяснительного джихада", создавая пропагандистские материалы для программы, которую они называли "мягкой войной" или "когнитивной войной", - невоенной кампании, направленной на формирование общественного мнения внутри страны и за рубежом, говорится в отчете.

Как утверждается в отчете, несколько иранских организаций, включая Организацию исламской культуры и связей (ICCO), использовали ИИ для распространения нарративов, соответствующих линии Корпуса стражей исламской революции (КСИР).

Эти организации использовали технологию для разработки оперативных инструкций, создания систем виртуальных персонажей, разработки контент-стратегий и преобразования официальных материалов властей в сообщения, рассчитанные на конкретную аудиторию.

Йеменская группировка разрабатывает ракеты с помощью ИИ

Anthropic также утверждает, что группировка на севере Йемена использовала Claude для разработки программного обеспечения систем наведения высокотехнологичного оружия, включая многоступенчатую баллистическую ракету.

Это происходит на фоне укрепления поддерживаемыми Ираном хуситами контроля над Баб-эль-Мандебским проливом. Anthropic сообщила, что встроенные механизмы безопасности заблокировали многие запросы группировки, связанные с разработкой оружия, "но не все".

Компания подтвердила, что приняла необходимые меры: заблокировала учетную запись, разработала механизмы выявления подобных попыток для предотвращения использования системы в будущем и передала полученную информацию государственным органам.

"Мы надеемся, что выводы этого отчета помогут другим разработчикам выявлять аналогичные схемы на своих платформах, дадут государственным органам и гражданскому обществу более ясное представление о том, как формируются новые угрозы, и помогут укрепить коллективные механизмы защиты", - заявила компания.

Источник: The Jerusalem Post