Ошибочный разведывательный доклад, подготовленный с помощью искусственного интеллекта, едва не привел к военному столкновению между США и Китаем во время войны с Ираном. Об этом вечером в пятницу сообщил CNN со ссылкой на источники, знакомые с подробностями инцидента.

Согласно сообщению, в разведывательном документе американских военных утверждалось, что китайское судно перевозит компоненты, предназначенные для иранской программы создания ядерного оружия. Получив эту информацию, американские военные начали готовиться к захвату судна и даже рассматривали возможность того, что операция перерастет в вооруженное столкновение.

Однако прежде чем американцы предприняли действия против судна, выяснилось, что информация, на которой основывалась подготовка операции, была ошибочной. Доклад был создан с помощью системы искусственного интеллекта, а находившийся на борту судна груз оказался совершенно иного характера и не содержал указанных компонентов.

Один из источников CNN назвал доклад "полностью ложным". При этом он подчеркнул серьезность произошедшего, заявив, что доклад "едва не развязал войну".

Действия США против китайского судна могли спровоцировать острый кризис в отношениях с Пекином, особенно если бы экипаж или китайские военные оказали сопротивление попытке захвата. Такой сценарий мог в короткие сроки привести к столкновению двух держав - одновременно с войной, которую США уже вели против Ирана.

Этот инцидент наглядно показывает риски, связанные с использованием искусственного интеллекта при подготовке оперативной разведывательной информации. Такие системы способны быстро обрабатывать огромные объемы данных и выявлять возможные связи между ними, но в то же время могут представлять ошибочную или необоснованную информацию как достоверный вывод. В данном случае ложное утверждение не осталось лишь разведывательной оценкой, а привело к реальной подготовке военной операции.

По данным CNN, произошедшее вызывает вопросы о механизмах контроля, применяемых американскими военными, способах проверки разведывательной информации и степени человеческого контроля за материалами, создаваемыми системами искусственного интеллекта. Неясно, каким образом был подготовлен доклад, какая именно система использовалась и на каком этапе американцы обнаружили, что информация неверна.

Инцидент произошел на фоне высокой напряженности в отношениях между Вашингтоном и Пекином и растущих подозрений США относительно военных и экономических связей между Китаем и Ираном. Во время войны Соединенные Штаты отслеживали суда и грузы, направлявшиеся из Китая в Иран, подозревая, что они могут перевозить материалы, компоненты или системы, предназначенные для ракетных и оружейных программ Тегерана.

Однако в данном случае нет никаких свидетельств того, что судно действительно перевозило оборудование для иранской ядерной программы. Напротив, согласно источникам, на которые ссылается CNN, это утверждение появилось в ложном разведывательном докладе и было опровергнуто до того, как американские военные приступили к операции по захвату судна.

Публикация появилась в период, когда представители силовых структур США и Китая предупреждают об опасности бесконтрольного использования искусственного интеллекта в военных системах. Одним из главных рисков эксперты называют возможность того, что ошибочная информация, быстро создаваемая и распространяемая такими системами, сократит время, которым располагают лица, принимающие решения, и приведет к военным действиям прежде, чем разведданные успеют пройти полноценную проверку человеком.

Источник: Walla