Meta внедряет новые ИИ-инструменты для выявления рекламы, тайно ведущей к материалам о сексуальном насилии над детьми

Что произошло

Meta внедрила новые инструменты на основе искусственного интеллекта, предназначенные для выявления рекламных объявлений, которые внешне выглядят безобидными, но на самом деле ведут пользователей на сторонние ресурсы с материалами о сексуальном насилии над детьми (CSAM). Система анализирует рекламу, размещаемую на платформах компании, и отслеживает переходы на внешние сайты, где может размещаться запрещённый контент, не отображаемый напрямую в соцсетях Meta.

По данным TechCrunch, нововведение нацелено именно на схему, при которой злоумышленники используют рекламные объявления как «воронку», уводящую пользователей за пределы платформы — туда, где модерация Meta не действует напрямую. Таким образом компания расширяет периметр контроля за безопасностью не только на собственный контент, но и на цепочку переходов, инициированных её рекламной системой.

Почему это важно

Для индустрии это значимый шаг в развитии ИИ как инструмента доверия и безопасности (trust & safety), а не только персонализации или монетизации. Технология демонстрирует, как крупные платформы переходят от реактивной модерации контента к проактивному выявлению намерений и схем обхода правил — то есть к анализу поведения и цепочек переходов, а не только текста или изображений.

Это также сигнал регуляторам и обществу: ответственность платформ всё чаще распространяется за пределы их собственной инфраструктуры — на то, куда именно ведёт их реклама. Для компаний, работающих с пользовательским контентом или размещением рекламы, это может означать рост ожиданий в части проактивного контроля цепочек взаимодействия, а не только конечных точек на своей территории.

Взгляд Renascence

Эта новость — не просто история про безопасность детей в интернете, а показательный пример того, как ИИ меняет само определение зоны ответственности платформы.

Большинство компаний по-прежнему мыслят доверие и безопасность как контроль над «своей территорией» — тем, что видно внутри приложения. Но поведенческая реальность пользователя не заканчивается на границе платформы: он кликает, уходит и возвращается. Сервис-дизайн следующего поколения должен проектироваться вокруг всего пути — включая то, что происходит после клика, а не только то, что показано на экране. Организациям, работающим с рекламными экосистемами, стоит уже сейчас задаться вопросом: где заканчивается наша видимость — и где должна заканчиваться наша ответственность.