Faiblesses de l'armée russe

  • Украина: Как искусственный интеллект подслушивает российских военных в Украине

    Imprimer

    Одной из самых странных отличительных черт войны с Украиной стало обилие прослушек переговоров российских войск, публикуемых в СМИ и социальных сетях. Зашифрованной радиосвязи не оказалось у многих частей, а в отдельных случаях и у командования, поэтому на поле боя военным пришлось переговариваться на частотах, которые можно легко прослушать.

    Автоматический анализ содержания радиоперехватов проводился частной американской компанией Primer.

    Образцы сообщений:
    - «Восток, я Снег 02. Нам на шоссе налево, бля», — говорит военный, используя позывные. «Я понял. Дальше и не надо. К обороне переходим. Прием», — получает он в ответ.

    Позже еще один военный пытается связаться с сослуживцем: «Юг 95, есть [со старшим] связь? Выйди на старшего, предупреди: на шоссе обстрел артиллерии. На шоссе обстрел артиллерии. В рамках колонны не выступать. Пускай аккуратно двигается. Пускай двигается аккуратно».

    Далее он продолжает еще более взволнованным голосом: «Как слышите? Как обстановка и местонахождение артиллерии, предположительно из какого орудия [ведут стрельбу]?». И позже: «Обозначьте ваш сектор. Юг 95, отвечайте на мои вопросы. Обозначьте название своего сектора!».

    Образцы сообщений:
    Растерянные русские солдаты в панике отступают, попав под артиллерийский обстрел. Они обмениваются короткими сообщениями по радио - по незащищенному каналу.
    - "Привет, я Сноу 02. Мы на шоссе в левой полосе, мать вашу, - говорит солдат. "Я понимаю. Вам не нужно идти дальше. Давайте перейдем к обороне. Принимаю", - приходит ответ.

    - Другой солдат пытается связаться с коллегой: "Юг-95, есть ли связь [с начальником]? Сообщите начальству: артиллерийский обстрел автострады. Артиллерийский обстрел автострады. Не проводите на колонне. Пусть он развивается медленно. Давайте двигаться вперед осторожно". Затем он продолжил еще более взволнованным голосом: "Вы слышите? Какова ситуация и расположение артиллерии. Из какой пушки они стреляют? И позже: "Назовите свой сектор. Юг 95, ответьте на мои вопросы. Назовите свой сектор!

    искусственный интеллект
    Пока военные переговариваются, их слушает искусственный интеллект: их речь автоматически перехватывается, расшифровывается, переводится и анализируется при помощи сразу нескольких алгоритмов искусственного интеллекта американской компании Primer, которая разрабатывает решения для разведки. Мы не знаем, удается ли украинским войскам перехватывать тот же радиообмен собственными силами, но широкое использование систем искусственного интеллекта для наблюдения за действиями российской армии показывает, насколько полезной может иметь разведка по открытым данным.

    Перехваты радиообмена по незащищенным каналам связи публикуются в открытом доступе, переводятся на английский и анализируются. Столь же тщательно изучаются прочие данные, от видеозаписей со смартфонов до сообщений в соцсетях. Принципиальным новшеством стало использование технологий автоматической обработки речи, чтобы анализировать содержание радиообмена между российскими военными. В украинской армии обработкой перехватов как правило занимаются живые люди, которые сидят где-то, расшифровывают и анализируют сообщения.

    Успех Primer показывает ценность машинного обучения для анализа разведданных. За последнее десятилетие искусственный интеллект стал значительно лучше распознавать изображения, транскрибировать устную речь, переводить и анализировать содержание благодаря нейронным сетям, которые тренируют на больших массивах данных. Уже имеющиеся на рынке программные решения могут покрыть запросы по расшифровке речи, распознаванию лиц и выполнению аналогичных задач с довольно высокой точностью. Перехват радиообмена может отчасти компенсировать численное превосходство российской армии и ее преимущество в военной технике.

    Гражданским клиентам Primer предлагает алгоритмы искусственного интеллекта для анализа телефонных звонков, умеющие вычленять ключевые термины и фразы. Генеральный директор компании Шон Гурли говорит, что разработчики модифицировали эти инструменты для четырех новых задач: для захвата аудио из интернет-каналов, транслирующих перехваты, удаления шумов, в том числе фоновых разговоров и музыки, расшифровки и перевода русской речи и вычленения ключевых фраз, касающихся ситуации на поле боя. Для этого в том числе потребовалось переобучить модели машинного обучения, чтобы они понимали разговорные обозначения боевых машин и оружия, которые используются российскими военными.

    Гурли уверен, что возможность обучать и переучивать модели искусственного интеллекта на ходу даст армиям-участницам будущих войн ощутимое преимущество. Он добавляет, что доступ к программе открыли и для «третьих сторон», но не называет их. «Мы не будем раскрывать, кто и для чего эти алгоритмы использует», — подчеркивает он. Известно, что по ходу вторжения еще несколько других американских компаний начали делиться с украинской стороной своими технологиями, данными и навыками.

    Зарубежных военных аналитиков шокировало использование некоторыми российскими частями незащищенных каналов связи. По словам специалиста по современным методам ведения войны Питера Сингера, старшего научного сотрудника аналитического центра New America, это свидетельствует о нехватке оборудования и неподготовленности самой операции.

    «Российские военные раньше сами использовали перехваты переговоров по незащищенным каналам для наводки ударов по вражеским целям, например, в Чечне, так что уж им-то все риски должны были быть хорошо известны», — говорит Сингер. Он добавляет, что украинцы могли получить преимущество благодаря перехватам, даже если анализ данных проводился вручную.

    «Это говорит о технических сбоях в оборудовании [для шифрованной связи], некоторой самонадеянности российских военных и, возможно, об уровне отчаяния среди военного командования», — добавляет австралийский генерал в отставке Мик Райан.

    По мнению Колдера Уолтона, историка шпионажа из Гарвардского университета, развитие событий в Украине подчеркивает ценность информации из открытых источников для разведок. Он отмечает, что алгоритмы для распознавания лиц уже используются для идентификации людей на видео военного времени. «Наступает абсолютно новая эпоха в части сбора разведданных и их доступности», — считет Уолтон.

    Война в Украине подсветила и важность поиска различных источников разведывательной информации, говорит он. Так, по некоторым сообщениям, число погибших российских генералов может объясняться тем, что украинские военные охотятся на седовласых мужчин, которых видят на спутниковых снимках рядом с антеннами , на фотографиях с беспилотников и прочих изображениях. Российские военнослужащие часто используют мобильные телефоны, временами выдавая свое местонахождение и даже боевые задачи, и раскрывают данные об общем уровне деморализации.

    Уолтон уверен, что Агентство национальной безопасности США (NSA) и их британские коллеги из Центра правительственной связи (GCHQ) располагают инструментарием, аналогичным тому, который используют в Primer, но важно и то, что число таких компаний растет, и технологии становятся все более и более доступными для военных и частного бизнеса. При этом вовлеченность частных компаний в военный конфликт — например, тех, что предоставляют услуги спутниковой связи и спутниковые снимки, — поднимает вопрос о том, какую ответственость они несут в ситуации, когда есть реальная опасность международного конфликта.

    Сбор разведданных по открытым источникам требует просеивания большого количества информации. «Такие объемы никому не под силу охватить целиком», — говорит Эмили Хардинг, старший научный сотрудник организации Center for Strategic and International Studies, некоммерческой организации, занимающейся политическими исследованиями (в январе 2022 года у нее вышел доклад на эту тему). Хардинг говорит, что разведсообщество уже далеко продвинулось в анализе изображений с помощью инструментов машинного обучения, это был первый шаг в использовании современных ИИ-разработок. Теперь же, говорит Хардинг, появились разработки вроде Primer, которые отличаются высоким качеством распознавания речи.

    Успех разработок в области искусственного интеллекта привел к появлению мощных инструментов по анализу текста и речи. С появлением трансформеров ИИ научился вычленять главное из текста или отвечать на вопросы. Трансформеры лежат в основе программ, генерирующих связные новостные заметки или даже пишущих программный код под конкретные задачи.

    Впрочем, отмечает Хардинг, при работе с искусственным интеллектом разведкам придется столкнуться с теми же проблемами, которые мешают внедрению этих алгоритмов в других сферах — например, с их «предвзятостью», обусловленной низким качеством или нерепрезентативностью входных данных. «Хлам на входе — хлам на выходе», — говорит она. А поскольку прозрачность алгоритмов машинного обучения зачастую оставляет желать лучшего, разведкам придется искать способы оптимизации программ таким образом, чтобы их выдаче можно было доверять. Неправильно расшифрованное сообщение может иметь фатальные последствия на поле боя — например, отправить солдат по опасному маршруту или неверно направить ракетный удар.

    Американские военные вкладывают миллионы в разработку ИИ, способного принимать и анализировать различные сигналы в полевых условиях. Программа армии США под названием TITAN предполагает создание единого пункта по сбору и анализу информации с множества различных источников на поле боя. Если вторжение России в Украину проходит по привычным сценариям — танковые атаки и артобстрелы, — то будущие войны, к которым готовятся США и другие страны, могут в значительной степени опираться на новые технологии, в том числе ИИ.

    Хотя такие разработки могут дать военным серьезное преимущество, специалисты предупреждают, что в соперничество за превосходство по искусственному интеллекту могут влючиться обе противоборствующие стороны, и тогда на первое место выйдут умения обманывать и запутывать алгоритмы. «Мы твердо убеждены: с каким алгоритмом ни начинай войну, закончишь ее с совершенно другим», — рассуждает Гурли из Primer.

    (Уилл Найт)

  • Ukraine : L'intelligence artificielle écoute l'armée russe en Ukraine

    Imprimer

    L'une des caractéristiques les plus étranges de l'armée russe en guerre avec l'Ukraine est l'abondance des écoutes téléphoniques des communications militaires russes publiées dans les médias et les réseaux sociaux. De nombreuses unités, et dans certains cas même le commandement, n'avaient pas de moyens de communication radio cryptée. Donc, sur le champ de bataille, les militaires devaient parler sur des fréquences qui pouvaient être facilement écoutées.

    L'analyse automatique du contenu des interceptions radio a été réalisée par la société privée américaine Primer.

    ExempleS de messages :
    Les militaires russes confus se retirent dans la panique, étant tombés sous le feu de l'artillerie. Ils échangent de courts messages par radio - sur un canal non sécurisé.
    - "Eh, je suis Snow 02. Nous sommes sur l'autoroute sur la putain de voie gauche", dit un militaire. "Je comprends. Vous n'avez pas besoin d'aller plus loin. Passons à la défensive. Réception », lui répond-on.

    - Un autre militaire tente de contacter un collègue : « Sud 95, y a-t-il un contact [avec un supérieur] ? Avertissez le supérieur : bombardements d'artillerie sur l'autoroute. Pilonnage d'artillerie sur l'autoroute. Ne pas effectuer sur la colonne. Laissez-le progresser doucement. Avançons prudemment." Puis il poursuit d'une voix encore plus excitée : « Vous entendez ? Quelle est la situation et l'emplacement de l'artillerie. A partir de quel canon [tirent-ils] ? Et plus tard : « Nommez votre secteur. Sud 95, répondez à mes questions. Nommez votre secteur !

    Intelligence artificielle
    Pendant que les militaires parlent, l'intelligence artificielle les écoute.  leurs messages sont automatiquement interceptés, décodés, traduits et analysés à l'aide de plusieurs algorithmes d'intelligence artificielle à la fois par la société américaine Primer qui développe des solutions de renseignement. 

    Nous ne savons pas si les forces ukrainiennes parviennent à intercepter le même trafic radio par elles-mêmes, mais l'utilisation généralisée des systèmes d'intelligence artificielle pour surveiller les actions de l'armée russe montre à quel point les renseignements obtenus  à partir des messages non cryptés peuvent être utiles.

    Les interceptions de trafic radio sur des canaux de communication non sécurisés sont publiées dans le domaine public, traduites en anglais et analysées. D'autres données sont examinées avec autant de soin, comme les vidéos sur smartphone et publiées sur les réseaux sociaux. La principale innovation a été l'utilisation de technologies de traitement automatique de la parole pour analyser le contenu des communications radio entre les militaires russes. Dans l'armée ukrainienne, les interceptions sont généralement traitées par des personnes réelles qui sont assises quelque part, déchiffrant et analysant les messages.

    Le succès de Primer montre la valeur de l'enregistrement automatique pour l'analyse du renseignement. Au cours de la dernière décennie, l'intelligence artificielle est devenue bien meilleure pour reconnaître les images, transcrire le langage parlé, traduire et analyser le contenu grâce à des réseaux de neurones entraînés sur de grandes quantités de données. Les solutions logicielles déjà disponibles sur le marché peuvent couvrir les demandes de transcription vocale, de reconnaissance faciale et de tâches similaires avec une précision assez élevée. L'interception du trafic radio peut compenser en partie la supériorité numérique de l'armée russe et son avantage en équipement militaire.

    Pour les clients civils , Primer propose des algorithmes d'intelligence artificielle pour analyser les appels téléphoniques qui peuvent isoler des termes et des phrases clés. Le PDG de la société, Sean Gurley, explique que les développeurs ont modifié les outils pour quatre nouvelles tâches : capturer l'audio des chaînes Internet qui diffusent des interceptions, supprimer le bruit, y compris les conversations et la musique de fond, transcrire et traduire le discours en russe et isoler les phrases clés liées aux situations sur le champ de bataille. Pour ce faire, il était nécessaire, entre autres, de recycler les modèles d'enregistrement automatique afin qu'ils comprennent les désignations familières des véhicules militaires et des armes utilisées par l'armée russe.

    Gurley est convaincu que la capacité de former et de recycler des modèles d'intelligence artificielle en déplacement donnera aux armées participant aux guerres futures un avantage tangible.

    Les analystes militaires étrangers ont été choqués par l'utilisation de canaux de communication non sécurisés par certaines unités russes. Selon le spécialiste de la guerre moderne Peter Singer, chercheur principal au groupe de réflexion New America, cela indique un manque d'équipement et un manque de préparation de l'opération elle-même.

    "L'armée russe avait l'habitude d'utiliser des canaux non sécurisés pour diriger des frappes contre des cibles ennemies, par exemple en Tchétchénie. Elles auraient donc dû être déjà conscientes de tous les risques", explique Singer. Il ajoute que les Ukrainiens pouvaient profiter de l'interception de ces message, même si l'analyse des données a été effectuée manuellement.

    "Cela témoigne de défaillances techniques de l'équipement [pour les communications cryptées], d'une certaine arrogance dans l'armée russe et peut-être d'un niveau de désespoir parmi les commandants militaires", ajoute le général australien à la retraite Mick Ryan.

    Selon Calder Walton, historien de l'espionnage à l'Université de Harvard, les développements en Ukraine mettent en évidence la valeur des informations open source pour le renseignement. Il note que des algorithmes de reconnaissance faciale sont déjà utilisés pour identifier les personnes dans les vidéos de guerre. "Une toute nouvelle ère s'ouvre en termes de collecte de renseignements et d'accessibilité", a déclaré Walton.

    La guerre en Ukraine a également mis en évidence l'importance de rechercher diverses sources de renseignements, dit-il. Ainsi, selon certains rapports , le nombre de généraux russes morts peut s'expliquer par le fait que l'armée ukrainienne chasse les hommes aux cheveux gris qui sont vus sur des images satellites près des antennes, sur des photographies de drones et d'autres images. Les militaires russes utilisent souvent des téléphones portables, révélant parfois leur emplacement et même leurs missions de combat, et divulguent des données sur le niveau général de démoralisation.

    Walton est convaincu que la National Security Agency (NSA) des États-Unis et leurs homologues britanniques du Government Communications Center (GCHQ) disposent d'outils similaires à ceux utilisés dans Primer , mais il est également important que le nombre de ces entreprises augmente et que les technologies soient de plus en plus accessible aux militaires et aux entreprises privées. Cependant, l'implication d'entreprises privées dans un conflit militaire - par exemple, celles qui fournissent des services de communications par satellite et d'imagerie par satellite - soulève la question de leur responsabilité dans une situation où il existe un risque réel de conflit international.

    La collecte de renseignements open source nécessite de passer au crible de nombreuses informations. "Ces volumes sont hors de portée de n'importe qui", déclare Emily Harding, chercheuse principale au Center for Strategic and International Studies , une organisation de recherche sur les politiques à but non lucratif (elle avait un rapport sur le sujet en janvier 2022). Harding dit que la communauté du renseignement est déjà bien avancée dans l'analyse d'images avec des outils d'apprentissage automatique, c'était la première étape dans l'utilisation des développements modernes de l'IA. Maintenant, dit Harding, il existe des développements comme Primer, qui se distinguent par une reconnaissance vocale de haute qualité.

    Le succès des développements dans le domaine de l'intelligence artificielle a conduit à l'émergence d'outils puissants d'analyse de texte et de parole. Avec l'avènement des transformateurs, l'IA a appris à isoler l'essentiel du texte ou à répondre aux questions. Les transformateurs sont au cœur des programmes qui génèrent des informations cohérentes ou même écrivent du code de programme pour des tâches spécifiques.

    Cependant, lorsqu'elles travaillent avec l'intelligence artificielle, les agences de renseignement devront faire face aux mêmes problèmes qui entravent la mise en œuvre de ces algorithmes dans d'autres domaines, par exemple, avec leur "biais" dû à des données d'entrée de mauvaise qualité ou non représentatives, note Harding. « Junk in, junk out », dit-elle. Et comme la transparence des algorithmes d'apprentissage automatique laisse souvent à désirer, les agences de renseignement devront trouver des moyens d'optimiser les programmes afin qu'on puisse leur faire confiance pour les émettre. Un message mal interprété peut avoir des conséquences fatales sur le champ de bataille, comme envoyer des soldats sur une route dangereuse ou détourner une attaque de missile.

    L'armée américaine investit des millions dans le développement d'une IA capable de recevoir et d'analyser divers signaux sur le terrain. Le programme de l'armée américaine appelé TITAN implique la création d'un point unique pour la collecte et l'analyse d'informations provenant de nombreuses sources différentes sur le champ de bataille. Si l'invasion de l'Ukraine par la Russie suit des scénarios familiers - attaques de chars et bombardements - les futures guerres auxquelles les États-Unis et d'autres pays se préparent pourraient s'appuyer fortement sur les nouvelles technologies, y compris l'IA.

    Alors que de tels développements pourraient donner à l'armée un avantage significatif, les experts avertissent que les deux parties opposées peuvent se livrer à une compétition pour la supériorité en matière d'intelligence artificielle, et alors la capacité de tromper et d'obscurcir les algorithmes viendra au premier plan. "Nous croyons fermement que quel que soit l'algorithme avec lequel vous commencez une guerre, vous la terminerez avec un complètement différent", déclare Primer's Gurley.

    (Will Knight)