Европейский институт телекоммуникационных технологий издал справочник по защите систем на основе AI
Европейский институт телекоммуникационных стандартов (ETSI), являющийся разработчиком мировых стандартов для систем, приложений и сервисов, использующих информационно-коммуникационные технологии, выпустил аналитический отчет о мерах по предотвращению угроз для систем на основе искусственного интеллекта (AI).
В опубликованном документе под названием ETSI GR SAI 005 говорится о существующих и потенциальных мерах, которые можно предпринять, чтобы повысить кибербезопасность систем на базе AI. Знание всего ландшафта угроз и понимание способов их предотвращения должно способствовать повсеместному развертыванию таких систем, утверждают аналитики организации. Авторы документа отталкиваются от исследования на тему ландшафта угроз кибербезопасности, проведенного Агенством по кибербезопасности Евросоюза (ENISA) и на своем же исследовании, результаты которого отражены в отчете ETSI GR SAI 004.
В центре внимание ETSI – глубокое обучение – то, что двигает вперед искусственный интеллект, поскольку широко применяется в классификации изображений, детекции объектов, языковом переводе, распознавании речи и в целом имеет широкое поле применения. Понимая рабочий процесс модели машинного обучения, как разработку и развертывание, аналитики суммировали все возможные и потенциальные способы предотвращения атак на обучающий процесс – меры по защиты модели машинного обучения от заражения вирусами, от атак типа «бэкдор» и от атак логического вывод, в том числе от уклонения, кражи модели и извлечения данных.
Суммированные меры по смягчению угроз подразделены на меры по улучшению модели машинного обучения, и на модель-агностические меры. Далее эти меры были распределены по группам в зависимости от аргументации.
В ETSI считают, что предложенные ими средства защиты систем на базе AI, по мере развития технологий атак на них будут со временем устаревать, но подходы к защите и их аргументация будут сохраняться. Большинство из представленных подходов основаны на академических выводах и носят характер предположений, которые могут быть использованы на практике. Таким образом – ETSI GR SAI 005 является неким справочником для планирования, проектирования, разработки, развертывания, эксплуатации и обслуживания AI-систем.
По заявлению ETSI, им необходимо будет провести дальнейшие исследования в области автоматической верификации и валидации, целесообразности и прозрачности, и изучить новейшие техники безопасности по противодействию угрозам для AI.