Роскомнадзор оценил перспективы использования ИИ для борьбы с фейками

Но полностью доверить фактчекинг ИИ-моделям пока нельзя, утверждают аналитики

Нейросети в будущем будут использовать для фактчекинга и обнаружения дипфейков, а также для обеспечения безопасности пользователей в сети от мошенников, говорится в исследовании, проведённом Роскомнадзором и Главным радиочастотным центром совместно с MindSmith и «Ростелекомом».

Но пока доверить полноценно ИИ работу в этой области не получится, можно лишь автоматизировать часть процессов, заявляют аналитики. В будущем нейросети смогут анализировать речь и потоковое видео, проверять их, а при обнаружении ложных новостей — поднимать тревогу или оповещать пользователей о недостоверном контенте, но массовое распространение они получат лишь через 3−5 лет. При таком подходе государства смогут влиять на фактчекинг, создадут перечень тегов и программу отслеживания корректности маркировки новостей.

Также аналитики определили 12 приоритетных направлений применения ИИ для обеспечения безопасности интернет-пользователей: обнаружение дипфейков, определение контекста происходящего на видео, автоматизация мониторинга и модерации контента, распознавание лиц, извлечение смысла из текста, поддержка проверки фактов, распознавание символики, извлечение и анализ метаданных, распознавание эмоций, поддержка решений при информационных атаках, генерация контента, рекомендация контента.

Развитие ИИ-технологий происходит так быстро, что в большинстве стран государство не успевает разрабатывать регулятивные акты, говорят авторы исследования. Это относится к большинству кластеров, начиная с генеративных алгоритмов вроде ChatGPT-4 и заканчивая наборами данных для обучения искусственного интеллекта, наполнение и использование которых во многих странах остается на совести самих разработчиков.

Специалисты также считают, что разработка и внедрение российских ИИ-моделей — вопрос национальной безопасности, так как зарубежные акторы способны экспортировать нейросети, которые будут подконтрольны только им. Для отслеживания и поддержки проектов в сфере ИИ государству нужно разработать процедуры тестирования и оценки нейросетей, отмечают исследователи.

В также исследовании указано, что для осуществления этих задач в России достаточно специалистов, но не хватает вычислительных мощностей, инфраструктуры и кооперации между компаниями и государством. Ситуация осложняется тем, что в стране на данный момент недостаточно развито производство мощного вычислительного оборудования. Однако существуют качественные решения отечественных компаний, особенно в области распознавания лиц и работы с информационными атаками.

Источник: sostav.ru