Как найти баланс между внедрением нейросетей и безопасностью данных

Андрей Тян, генеральный директор «Аметист Кэпитал», рассказал Forbes, как найти баланс между внедрением нейросетей и безопасностью данных.

По его словам, особенно актуальны следующие проблемы, связанные с внедрением ИИ:

• Кибератаки. Нейросети работают с закрытыми документами и персональной информацией пользователей, и эти данные могут представлять интерес для хакеров.
• Использование big data злоумышленниками. Даже если данные хорошо защищены от хакеров, это не исключает их неправомерного использования самими разработчиками. Чувствительные данные согут попасть в руки третьих лиц, которые далее будут продавать их в даркнете лицам четвертым.
• Отсутствие нормативной базы. Законодательство и национальные стандарты для искусственного интеллекта еще очень несовершенны, они только разрабатываются. Из-за этого возникает путаница с правами, качеством данных и их эксплуатацией.
• «Отравление» данных. Такое явление возникает, когда в модель машинного обучения попадает ложная информация, и в результате нейросеть начинает генерировать неправильные и даже опасные решения.
• Человеческий фактор. ИИ по-прежнему работает в одной команде с человеком, и это правильный подход. Но он может приводить к ошибкам, если за дело берутся некомпетентные или недобросовестные сотрудники.