Как нейросети помогают Makves DCAP защищать корпоративные данные

Последние несколько лет особое внимание в сфере информационных технологий уделяется развитию искусственного интеллекта и нейросетей. Широкие возможности нейросетей позволяют применять их во множестве сфер и отраслей. Так доступные нейросетевые сервисы активно используют для создания реалистичных изображений, написания рекламных текстов и дипломных работ.

Даже люди далёкие от программирования составляют алгоритмы в обыденной жизни. Если ребёнок спросит нас, как посчитать площадь круга, то, взяв учебник, мы вспомним, что для этого радиус круга нужно возвести в квадрат, а потом умножить на число Пи. Этот алгоритм легко запрограммировать. Вот пример кода на языке Python:

А теперь представим себе, что ребёнок спрашивает нас, как отличить фотографию кошки от фотографии собаки. С одной стороны, вопрос очевидный и простой, ведь наш мозг моментально отличает кошек от собак, но объяснить, как именно он это делает, очень сложно. У кошек другая форма ушей и разрез глаз, но даже если на фотографии не будет видно ушей, а глаза животного будут закрыты, то мы всё равно легко поймем, кто это. Наш мозг натренирован визуальными образами животных, которых мы видели миллионы раз, и цельный образ создается в голове очень быстро. А вот придумать алгоритм, позволяющий различать фотографии разных животных, очень сложно. Тут на помощь приходят нейросети.

Приведем сильно упрощенную, но зато наглядную аналогию. Представим школьную задачу по алгебре вида:

X + Y = 10
Y - 2 = 3

Обучить нейросеть можно множеству знаний и умений, поэтому логично использовать их для решения задач и в сфере информационной безопасности. В настоящее время выделяют несколько крупных задач, решаемых нейросетями, в частности задачи CV (computer vision, компьютерное зрение) и NLP (natural language processing, обработка естественного языка). Поговорим о них отдельно.

Нейросети применяются и в системе Makves DCAP, а именно для эффективного выявления и классификации информации на файловых хранилищах. Конфиденциальная информация может храниться в различных форматах, поэтому для ее обнаружения и точного анализа данных применение нейросетей является необходимым.

С помощью методов компьютерного зрения Makves DCAP может выявлять нарушения 152-ФЗ. Например, если где-то в сети появятся отсканированные паспорта сотрудников компании, интеллектуальные алгоритмы системы выявят компрометацию персональных данных, и отдел ИБ сможет решить проблему с наименьшим уроном.


При этом Makves DCAP позволяет реализовать гораздо более гибкий подход. При анализе отсканированных документов можно обнаружить дополнительные признаки, например: наличие печатей и подписей, таблиц, фирменных бланков и многого другого. Комбинируя эти признаки, можно находить среди моря офисных документов те, что соответствуют нужному формату. Предположим, отдел ИБ установил, что сотрудник случайно выложил в сеть скан корпоративного письма с конфиденциальными данными. Система Makves позволяет задать гибкие критерии поиска, чтобы проверить, был ли этот случай единичным.

Если изображение относится к первым 10 классам, то дополнительный анализ не требуется, файлы классифицируются с меткой 152-ФЗ, и микросервис возвращает системе обнаруженный класс и больше с изображением ничего не делает. Если изображение относится к 12 классу, значит, это обычный неделовой файл, например фотография с корпоратива, селфи, обои для рабочего стола. В этом случае анализ также не требуется, и система с изображением ничего не делает.

Все найденные графические элементы мы запоминаем и запускаем третью нейросеть, которая определяет, напечатан ли документ на гербовой бумаге. Если это так, то нейросеть возвращает системе Makves класс документа, найденные графические элементы и пометку о том, что документ на гербовой бумаге. Если нет — только класс и найденные элементы.

С помощью алгоритмов обработки естественного языка система Makves DCAP помогает выделять документы с договорами, квитанциями, годовыми отчетами и прочим. Более того, система анализирует тексты документов и выделяет упоминающихся там людей и организации. Благодаря этой возможности можно легко найти, например, все документы, подписанные первым лицом компании, либо все документы, где упоминаются ключевые заказчики или компании-конкуренты.

Если обнаружена художественная литература, микросервис возвращает системе Makves DCAP обнаруженный класс и больше с текстом ничего не делает.

Во всех остальных случаях он запускает поиск именованных сущностей (named entity recognition или NER), то есть в тексте выявляют все названия организаций и имена людей. Каждое найденное название организации приводят к именительному падежу (Министерства культуры Российской Федерации -> Министерство культуры Российской Федерации). А найденные разделяются на фамилию, имя и отчество и приводятся к виду «Фамилия И О» в именительном падеже.

Затем все дубликаты названий и имён удаляются, микросервис возвращает системе Makves обнаруженный класс и найденные именованные сущности без них.

Нейросети уже сейчас позволяют решать задачи, которые раньше казались фантастикой. При этом прогресс не стоит на месте и в таких условиях давать прогнозы довольно сложно, но очевидно, что нейросети с нами надолго, и они будут брать на себя всё больше задач. Так в сфере информационной безопасности использование нейросетей уже стало необходимостью. Это связано с необходимость обработки большого объема данных и событий в ИТ-инфраструктуре. Способность нейросетей автоматически обучаться и эффективно работать с огромными массивами данных делает их мощным инструментом для задач классификации, включая обработку и защиту конфиденциальной информации.