Meta задействует ИИ для защиты подростков в соцсетях

Технологический гигант Meta Platforms официально объявил о развертывании передовой системы на базе искусственного интеллекта, призванной выявлять и оперативно удалять учетные записи пользователей, чей реальный возраст составляет менее 13 лет. Новая масштабная инициатива затронет популярные мировые социальные сети, включая Instagram, Facebook и Threads. 

Согласно официальному заявлению руководства корпорации, ключевая цель внедрения технологического решения — обеспечить гарантированно безопасную, позитивную и строго контролируемую цифровую среду для подрастающего поколения, снизив риски негативного влияния интернета на ранних этапах развития ребенка.

Почему классические методы проверки возраста больше не эффективны?

Долгое время регистрация в популярных приложениях опиралась на честность самих пользователей: при создании профиля достаточно было просто указать любую вымышленную дату рождения. В условиях жесткого давления со стороны регулирующих органов Европейского союза и Конгресса США, обвиняющих ИТ-гиганта в неспособности защитить несовершеннолетних, руководство Meta приняло решение полностью перестроить систему контроля. Обычные декларативные методы уступают место превентивному автоматизированному анализу, за который отвечают новые алгоритмы ИИ.

Как работает искусственный интеллект по распознаванию возраста?

Интеллектуальная система действует комплексно, не ограничиваясь проверкой анкетных данных. Разработчики разделили процесс сканирования пользовательской активности на два ключевых направления:

• Контекстуальный анализ активности: Специальный алгоритм глубоко изучает текстовое наполнение профиля, включая описание учетной записи (био), опубликованные посты, подписи к медиафайлам, а также комментарии под публикациями. ИИ ищет косвенные текстовые подтверждения реального возраста, такие как упоминания о переходе в определенный школьный класс, обсуждение школьных оценок или поздравления от друзей с детским днем рождения.
• Визуальный анализ материалов: Система сканирует фотографии и видеоролики в профиле для выявления физиологических маркеров возраста. Нейросеть оценивает такие параметры, как пропорции лица, структура костей и примерный рост человека на медиафайлах.

Представители компании отдельно подчеркнули, что новая технология визуального сканирования не имеет ничего общего со сбором персональной биометрии. Это не классическое распознавание лиц, а обобщенный анализ физиологических признаков, который исключает идентификацию личности конкретного человека и направлен только на определение возрастной группы.

Меры воздействия: мгновенная деактивация и жесткая верификация

Если искусственный интеллект классифицирует профиль как принадлежащий ребенку младше 13 лет, учетная запись немедленно деактивируется. Чтобы восстановить доступ к своему аккаунту и предотвратить его полное удаление аккаунтов, пользователю придется пройти официальную процедуру подтверждения возраста. Для этого потребуется предоставить официальные документы (например, удостоверение личности) или воспользоваться альтернативными сертифицированными способами верификации.

Защита подростков старшей возрастной группы

Параллельно ИИ будет отслеживать учетные записи подростков в возрасте от 14 до 17 лет, которые при регистрации намеренно завысили свой возраст, чтобы получить доступ к взрослому функционалу. Для этой категории предусмотрены следующие защитные меры:

• Автоматический перевод профилей в статус подростковые аккаунты с жесткими настройками приватности по умолчанию.
• Ограничение доступа к потенциально опасному, деликатному и взрослому контенту в ленте и рекомендациях.
• Блокировка нежелательных входящих сообщений и запросов от незнакомых взрослых пользователей.

Критика технологии и этические вопросы применения ИИ

Несмотря на благие намерения корпорации, эксперты отрасли выражают определенные опасения. Основная критика касается точности работы алгоритмов ИИ при оценке строения тела и черт лица подростков. Существует риск ошибочной блокировки аккаунтов детей, которые развиваются быстрее сверстников, или, напротив, тех, кто выглядит моложе своих лет. Кроме того, правозащитники поднимают вопросы конфиденциальности данных при анализе личных фотографий и переписок пользователей без их явного согласия.

Глобальный контекст и регуляторные требования

Внедрение столь жестких мер контроля со стороны Meta Platforms продиктовано требованиями европейского Закона о цифровых услугах (DSA) и активными дискуссиями в ряде стран о полном ограничении социальных сетей для детей. К примеру, Австралия уже одобрила законодательные инициативы, запрещающие доступ к социальным медиа лицам моложе 16 лет. 

Европейская комиссия также требует от ИТ-индустрии внедрения надежных технических барьеров. Постепенное развертывание ИИ-системы проверки начнется в ближайшее время с последующим масштабированием на весь мир, чтобы гарантировать соблюдение международных стандартов, регулирующих возрастные ограничения и обеспечивающих комплексную безопасность детей в интернете на платформах Instagram и Facebook.