Армия США разрабатывает автономных ИИ-агентов для кибератак

Киберкомандование Армии США (ARCYBER) разрабатывает программу ECHOTRIBBLE — систему автономных ИИ-агентов для проведения наступательных операций в цифровой инфраструктуре противника. Подробности программы стали известны из публичной заявки, обнаруженной изданием The Intercept.

Военные ищут модульных агентов, которые смогут самостоятельно изучать IT-инфраструктуру, находить заданные цели и нейтрализовать угрозы. В документах под нейтрализацией подразумеваются отключение или удаление объекта из системы, а не только его блокировка.

Агенты должны распространяться по сетям

Предполагается, что агенты будут действовать по принципу компьютерных червей: скрытно перемещаться между устройствами, самовоспроизводиться и работать в различных операционных системах. Система должна быть пригодна для использования как в облачной инфраструктуре, так и в изолированных сетях.

После обнаружения и нейтрализации цели агент должен самоуничтожиться. От него ожидают не только удаления собственных компонентов, но и минимизации признаков вмешательства, чтобы атакованный объект не смог обнаружить присутствие программы.

Отдельное требование — способность к «самостоятельному поведению». Это означает, что агенты должны принимать решения и выполнять операции с минимальным участием человека. Таким образом, ECHOTRIBBLE предполагает переход от автоматизированных инструментов к системам, самостоятельно выбирающим последовательность действий внутри чужой инфраструктуры.

Программа находится на стадии прототипирования

ECHOTRIBBLE пока не готова к практическому применению. Программа проходит прототипирование и отраслевую оценку. С 6 по 8 октября Армия США провела конкурс технических предложений, по итогам которого отобрала пять наиболее перспективных вариантов. Один из финалистов получит контракт на разработку прототипов.

Эксперты, опрошенные The Intercept, считают главным риском программы непредсказуемость поведения автономных систем. Даже если агент поразит заданную цель, заранее не всегда можно будет понять, каким маршрутом он к ней доберётся и какие дополнительные системы затронет.

Хайрум Андерсон, соучредитель и генеральный директор компании Abundant, предупредил, что агент по пути к цели может пройти через критически важную инфраструктуру, например систему водоснабжения США, и случайно вывести её из строя. Старший аналитик RAND Уильям Марчеллино также отметил, что современные общедоступные ИИ-технологии не обладают глубоким пониманием окружающего мира и контекста, которое позволяет человеку оценить, каких действий следует избегать.