На сайте МАГАТЭ размещена интересная информация: "How Artificial Intelligence Will Change Information and Computer Security in the Nuclear World".

Искусственный интеллект (ИИ) и технологии машинного обучения потенциально могут произвести революцию в мире, обеспечив беспрецедентный прогресс и инновации. По мере того как эти технологии становятся все более изощренными, они будут трансформировать отрасли, оптимизировать процессы и влиять на нашу жизнь. Ядерный сектор не является исключением. Преимущества ИИ ожидаются на ядерных и радиологических объектах. В то же время быстрое развитие ИИ сопряжено с множеством рисков. Злоумышленники могут использовать ИИ для запуска более совершенных и целенаправленных атак или использовать его для нарушения целостности сетей, систем и конфиденциальной информации на таких объектах.

Возможно, наиболее значительным преимуществом ИИ в информационной и компьютерной безопасности является меньшая зависимость от человеческого анализа и вмешательства. Системы с ИИ могут работать круглосуточно для мониторинга сетей и систем на наличие угроз. Автоматизируя эти задачи, у специалистов по ядерной безопасности появляется время, чтобы сосредоточиться на стратегических задачах и более эффективно реагировать на инциденты.

Сегодня ученые говорят, что возможности адаптивного обучения ИИ можно использовать для повышения информационной и компьютерной безопасности за счет быстрого выявления угроз и автоматического предоставления экспертам-людям информации для координации действий по реагированию. ИИ не заменит рабочую силу, а скорее создаст ресурсы и идеи, которые сделают раннее обнаружение и реагирование в области компьютерной безопасности реалистично достижимыми.

Используя передовые алгоритмы машинного обучения, ИИ также может помочь ядерным и радиологическим объектам усилить свою защиту от кибератак, выявляя аномальные данные в компьютерных системах. Системы безопасности с ИИ могут постоянно отслеживать и анализировать огромные объемы данных. Кибератаки могут передавать поддельные данные, чтобы злонамеренно ввести в заблуждение операторов ядерных установок. В этом случае системы с поддержкой ИИ можно использовать для оповещения тех, кто управляет АЭС, даже о малейших отклонениях от нормальной работы. Предлагая повышенную ситуационную осведомленность, ИИ также позволяет заблаговременно обнаруживать преступные действия и предлагать необходимые меры реагирования на инциденты.

Преимущества, предлагаемые ИИ на таких объектах, во многом зависят от того, как была обучена система ИИ. ИИ настолько же умен, насколько умны данные, с которыми он работает. Им можно манипулировать, чтобы он давал ложные показания и результаты, если он не имеет правильных входных данных. Это остается серьезным препятствием для использования ИИ в целях физической ядерной безопасности. Даже с учетом последних достижений в области технологий ИИ использование его в качестве замены человека невозможно. Физическая защита, учет и контроль материалов, а также прямые измерения — основные виды деятельности по обеспечению физической ядерной безопасности — требуют человеческого вклада. Дополнительная проблема с ИИ заключается в понимании того, как и почему модель ИИ приняла конкретное решение или прогноз. Это затрудняет доверие к их результатам, что станет особенно проблематичным, если эти модели заменят датчики, обеспечивающие прямые измерения и накопленный человеческий опыт с уникальными характеристиками каждого объекта.

МАГАТЭ готовится к преобразованиям, вызванным ИИ, путем развития международного сотрудничества в этой области, одновременно готовясь к снижению рисков, развивая передовой опыт в области сдержек и противовесов, осуществляемых человеком, чтобы помочь ему понять, какие процессы могут быть автоматизированы с помощью ИИ, а какие должны оставаться под контролем человека, по крайней мере до тех пор, пока риски не будут устранены.