Опубликована первая в России модель угроз для кибербезопасности AI

Сбер разработал первую версию модели угроз для систем искусственного интеллекта (AI). Она представляет собой документ, в котором описано 70 угроз. Он пригодится организациям, которые внедряют в свои бизнес-процессы искусственный интеллект.

Эксперты по кибербезопасности Сбера проанализировали угрозы на каждом этапе жизненного цикла AI-системы — от подготовки данных и разработки AI-модели до интеграции в приложение. В описании каждой из угроз они пояснили:

• что именно может пострадать — например, обучающие данные или используемые модели;
• какие свойства информации становятся уязвимыми — например, конфиденциальность или доступность;
• какие могут быть последствия.

Документ размещён на портале по киберграмотности Сбера — «Кибрарий».

О том, как технологии искусственного интеллекта Сбера помогают сохранять биоразнообразие и не только, читайте в интервью с исполнительным директором центра развития технологий AI во благо общества Олегом Артюгиным.