Тезисы статьи в The Economist

▪Компьютер был рожден на войне и войной. Colossus был создан в 1944 году для взлома нацистских кодов. К 1950-м годам компьютеры организовывали противовоздушную оборону США. В последующие десятилетия машинный интеллект играл незначительную роль в военных действиях. Теперь же он становится ключевым.

▪Подобно тому, как в гражданском мире наблюдается стремительный прогресс в развитии и распространении ИИ, военный мир тоже должен готовиться к наплыву инноваций. Как бы они ни меняли характер войны, они также могут оказаться дестабилизирующими.

▪У сегодняшних быстрых изменений есть несколько причин. Одна из них — это горнило самой войны, в первую очередь на Украине. Небольшие и недорогие чипы регулярно направляют российские и украинские беспилотники к целям, расширяя масштабы технологии, которая когда-то ограничивалась ракетами сверхдержав.

▪Вторая — это экспоненциальный прогресс в области информатики, позволяющий добиться удивительных результатов в распознавании объектов и решении задач высшего порядка.

Подписывайтесь на наш телеграм-канал: zahav.ru - события в Израиле и мире

▪Третья — соперничество между Америкой и Китаем, в котором обе стороны видят в ИИ ключ к военному превосходству.

▪Результаты наиболее заметны в развитии интеллектуальных машин для убийства. Воздушные и морские беспилотники были жизненно необходимы обеим сторонам на Украине для обнаружения и атаки целей. Роль ИИ заключается в решении проблемы глушения, поскольку он позволяет дрону навестись на цель, даже если сигналы GPS или связь с пилотом прерваны.

▪Разрыв связи между пилотом и летательным аппаратом должен вскоре позволить армиям развернуть гораздо большее количество недорогих устройств. В конце концов, самонаводящиеся рои будут созданы для того, чтобы уничтожить оборону.

▪Но то, что наиболее заметно в военном ИИ, не является самым важным. Как объясняется в нашем брифинге, эта технология также революционизирует командование и управление, которые военные используют для организации войн.

▪На передовой беспилотники являются лишь последним и наиболее драматичным звеном в цепи поражения — серии шагов, начинающихся с поиска цели и заканчивающихся атакой. Более глубокое значение ИИ заключается в том, что он может сделать до того, как беспилотник нанесет удар.

▪Поскольку ИИ сортирует и обрабатывает данные со сверхчеловеческой скоростью, он может вычленить каждый танк из тысячи спутниковых снимков или интерпретировать свет, тепло, звук и радиоволны, чтобы отличить ложные цели от настоящих.

▪Вдали от линии фронта ИИ может решать гораздо более масштабные задачи, чем те, с которыми сталкивается один беспилотник. Сегодня речь идет о простых задачах, например, о том, чтобы определить, какое оружие лучше всего подходит для уничтожения угрозы. Со временем "системы поддержки принятия решений" смогут быстро и на большой территории — возможно, на всем поле боя — постигать всю сложность войны.

▪Последствия этого только сейчас становятся ясными. Системы ИИ в сочетании с автономными роботами на суше, море и в воздухе, вероятно, будут находить и уничтожать цели с беспрецедентной скоростью и в огромных масштабах.

▪Скорость такой войны изменит баланс между солдатом и программным обеспечением. Сегодня в армиях человек находится "в курсе всех событий", утверждая каждое смертоносное решение. Когда поиск и поражение целей сократятся до нескольких минут или секунд, люди будут только следить за работой системы, не вмешиваясь в каждое ее действие.

▪Парадокс заключается в том, что, даже когда искусственный интеллект дает более четкое представление о поле боя, война рискует стать более непрозрачной для людей, которые в ней участвуют. Будет меньше времени на то, чтобы остановиться и подумать. Армии будут бояться, что если они не дадут своим ИИ-советникам более длинный поводок, то будут побеждены противником, который это сделает.

▪Более быстрые бои и меньшее количество пауз усложнят переговоры о перемирии или остановке эскалации. Это может сыграть на руку защитникам, которые смогут затаиться, пока атакующие будут ломать укрытия при наступлении. Или же это может побудить атакующих нанести упреждающий и массированный удар, чтобы вывести из строя сенсоры и сети, от которых будут зависеть армии, оснащенные ИИ.

▪Масштабы войны, основанной на использовании искусственного интеллекта, означают, что масса и промышленная мощь, вероятно, станут еще более важными, чем сегодня. Вы можете подумать, что новые технологии позволят армиям стать более компактными. Но если программное обеспечение может выбирать десятки тысяч целей, армиям понадобятся десятки тысяч единиц оружия для нанесения по ним ударов. А если у обороняющихся будет преимущество, атакующим понадобится еще больше оружия, чтобы прорваться.

▪Это не единственная причина, по которой ИИ-война выгодна крупным странам. Беспилотники могут подешеветь, но цифровые системы, объединяющие поле боя в единое целое, будут стоить чудовищно дорого. Создание армий, оснащенных ИИ, потребует огромных инвестиций в облачные серверы, способные обрабатывать секретные данные. Обучение моделей потребует доступа к огромным массивам информации.

▪К какой крупной стране больше всего благоволит ИИ? Когда-то считалось, что Китай имеет преимущество, благодаря своему пулу данных, контролю над частной промышленностью и более мягким этическим ограничениям. Однако сейчас Америка, похоже, опережает другие страны в создании передовых моделей, которые могут сформировать следующее поколение военного ИИ.

▪И идеология имеет значение: неясно, смогут ли армии авторитарных государств, которые предпочитают централизованный контроль, использовать преимущества технологии, которая продвигает интеллект и проницательность на самые низкие тактические уровни.

▪Если по трагическому стечению обстоятельств первая война с использованием ИИ все же разразится, международное право, скорее всего, будет отодвинуто на задний план. Тем больше оснований уже сегодня задуматься, как ограничить разрушения. Например, Китай должен прислушаться к призыву США исключить контроль ИИ над ядерным оружием.

▪В ИИ-системах, созданных для достижения максимального военного преимущества, должны быть закодированы ценности и ограничения, которые человеческие командиры считают само собой разумеющимися. К ним относятся неявная оценка человеческой жизни — сколько гражданских лиц допустимо убить, преследуя ценную цель — и отказ от некоторых дестабилизирующих ударов, например по спутникам раннего предупреждения о ядерном нападении.

▪Неопределенность очень велика. Единственное, что можно сказать с уверенностью — это то, что грядущие перемены не за горами. Армии, которые раньше всех предвидят и эффективнее всех освоят технологический прогресс, вероятно, одержат победу. Все остальные, скорее всего, станут жертвами.