
© Adobe Stock/Pinkeyes ИИ может и помогать в борьбе с насилием. «Мы проигрываем битву»: ИИ предоставляет преступникам новые возможности для эксплуатации детей Права человека
Искусственный интеллект (ИИ) облегчает задачу для злоумышленников, которые пытаются втереться в доверие к детям, вымогать у них деньги и эксплуатировать их. Принимаемые меры по защите несовершеннолетних не способны предотвращать эти угрозы. С таким предупреждением в четверг выступили представители ООН.
«Мы проиграли битву в социальных сетях, потому что отставали, и теперь проигрываем битву в сфере искусственного интеллекта, потому что по-прежнему отстаем», – заявила Специальный представитель Генерального секретаря по вопросу о насилии в отношении детей Наджат Маалла Мджид.
Она выступила на мероприятии высокого уровня в Генеральной Ассамблее, посвященном угрозам, исходящим от ИИ, и роли, которую эта технология может сыграть в усилиях по борьбе с насилием против детей.
Только за последний год изображения по меньшей мере 1,2 миллиона детей в 11 странах были превращены в дипфейки откровенно сексуального характера. Эти данные недавнего исследования Детского фонда ООН (ЮНИСЕФ) привела Первый заместитель Генерального секретаря Амина Мохаммед.
По данным Национального центра по делам пропавших и эксплуатируемых детей (США), с 2023 по 2024 год число сообщений о материалах с сексуальным насилием над детьми, связанных с генеративным ИИ, выросло на 1325 процентов. Мджид отметила, что большинство преступлений против детей с использованием ИИ остаются незадокументированными, а виновные редко несут ответственность.
Технологии как оружие
По словам Специального представителя, с помощью чат-ботов преступники завоевывают доверие детей, собирают их личные данные и вынуждают присылать откровенные снимки. Дипфейки, созданные в приложениях для «раздевания», используются, чтобы унижать детей, запугивать и эксплуатировать их.
Профилирование и предиктивный таргетинг облегчают злоумышленникам, торговцам людьми и преступным группировкам поиск уязвимых детей.
Джон Тренари, который более 25 лет расследует преступления, связанные с эксплуатацией детей, напомнил, что преступники всегда искали способы обратить технологии против детей. Но поскольку ИИ позволяет легко масштабировать, автоматизировать и создавать полностью синтетический контент, злоупотребления им «самовоспроизводятся», предупредил он. Стоит следователям разобраться с одной схемой, «как появляется что-то новое».
Кей Чау из некоммерческого альянса по защите детей Tech Coalition рассказала, что виновные, вероятно, используют чат-боты для ролевых игр с элементами насилия или для создания сценариев вовлечения детей. Новые риски несут и ИИ-агенты – системы, способные выполнять задачи самостоятельно.
«Лусия – наш агент»
Мариана Росо-Пас из организации Datasphere Initiative вспомнила, как в прошлом году работала с девочками-подростками в сельских районах Колумбии в рамках программы цифровой грамотности. Когда их попросили нарисовать, как выглядит интернет, девочки изобразили Лусию – своего ИИ-агента.
«Мы разговариваем с Лусией каждый день, – рассказали они. – Когда взрослые не хотят отвечать на какие-то вопросы, мы спрашиваем Лусию. Она всегда рядом. У нее есть интимный режим, режим лучшей подруги».
Безопасность прежде всего
«Мы никогда не допустили бы, чтобы детская игрушка попала на рынок без надлежащей проверки безопасности, но системы ИИ доходят до детей без такого контроля, – подчеркнула Амина Мохаммед. – Мы не можем оставлять их безопасность на усмотрение технологических компаний».
В июле Генеральный секретарь ООН Антониу Гутерриш призвал принять «Глобальное обязательство по безопасности детей в сфере искусственного интеллекта». Среди его целей – сертификация безопасности систем ИИ до того, как они попадут к детям, и нулевая терпимость к созданным ИИ материалам с сексуальным насилием над детьми.
Добровольных мер технологического сектора недостаточно, считает Мджид. Она призвала поставить в основу регулирования ИИ глобальные стандарты, в том числе обязательную защиту детей и конфиденциальности, заложенную на этапе разработки.
Первый заместитель Генсека добавила, что ИИ может и помогать в борьбе с насилием: выявлять запрещенные материалы, устанавливать личность пострадавших и замечать первые признаки того, что ребенка пытаются вовлечь в сексуальные отношения.
В исследовании Всемирного фонда детства (World Childhood Foundation) один молодой человек из Швеции сформулировал проблему так: «Технологии – это очень круто. Но видно, что те, кто должен их контролировать, не успевают».
«Дети никогда не должны говорить нам, что взрослые, отвечающие за их безопасность, не успевают, – отметила генеральный секретарь фонда Паула Гийе де Монту. – Наша обязанность – доказать, что мы справляемся».
