"

Apple начнет локально проверять фото на iPhone с помощью нейросети neuralMatch. Цель компании – борьба с детским насилием. Как будет проходить анализ и существует ли угроза реальной слежки – редакция «Слово и Дело» разобралась вместе с экспертом в информационной безопасности Анатолием Голодом.

Apple довел родительский контроль до совершенства – теперь с помощью расширенной защиты детей недобросовестные люди, а по совместительству обычные пользователи iPhone не смогут использовать средства коммуникации для совращения несовершеннолетних и распространения материалов, содержащих сцены насилия над детьми.

Эти функции появятся позже в этом году в обновлениях для iOS 15, iPadOS 15, watchOS 8 и macOS Monterey.

Приложение iMessage с помощью машинного обучения будет распознавать откровенный фотоконтент, автоматически размывая его и предупреждая ребенка о непристойном содержании сообщения. Если все-таки он решит просмотреть вложение или отправить сексуальное фото, то его родителям сразу придет уведомление об этом. При этом все личные сообщения так и останутся нечитаемыми для Apple.

Siri и «Поиск» будут предоставлять информацию для юных пользователей и их родителей о том, как вести себя в небезопасных ситуациях. Кроме того, согласно новым руководствам безопасности помощники будут вмешиваться в случае, если владелец устройства попытается выполнить поиск по темам, связанным с CSAM (Child Sexual Abuse Material – контент с сексуальным насилием над детьми).

В целях предотвращения распространения детской порнографии Apple будет использовать криптографические хэши для сканирования снимков в iCloud на предмет содержания CSAM. В положительном случае, компания будет вправе предоставить информацию о фотографиях правоохранительным органам.

Почему же компания Apple, до сих пор уверенно занимающая позицию о невозможности работы с зашифрованным контентом, решила внедрить новые функции? Во-первых, в Уголовном Кодексе США в параграфе 2258А всегда было закреплено требование по отношению к техническим компаниям, обязывающие их распознавать контент с CSAM и сообщать о нем. Правда, Apple никогда не был в этом смысле законопослушным. Во-вторых, количество интернет-контента с сексуальным насилием над детьми, циркулируемого в онлайн-пространстве американских пользователей, и не только, постоянно растет. Так из статьи двухлетней давности от NY Times видно, что за 10 лет фото- и видеокадров, содержащих сцены жестокого обращения с детьми, выросло в 45 раз, а шифрование и анонимизация называются «надежным цифровым укрытием для преступников». С развитием технологий онлайновым злодеям стало проще делится противозаконным материалом. Это подтвердил и эксперт в информационной безопасности Анатолий Голод:

С ростом числа мессенджеров понятно, что необходим контроль за контентом в целях безопасности общества.

Более того такие поисковые системы и мессенджеры, как Facebook*, Twitter, Google уже давно используют подобную эпловской систему для борьбы с детской порнографией, но большинство пользователей просто не обращают на это внимание.

Нужно понимать, что подобный контроль все равно ведется и со стороны спецслужб, и со стороны антивируса. Но они используют свои технологии, — прокомментировал Анатолий Голод.

Он же блокчейн, который позволяет сжимать большие объемы информации в короткий стандарт сообщений. Суть хэширования состоит в том, что все входные данные выдают детерминированный алгоритм, представляющий собой строку фиксированной длины. При этом изменение даже одного бита на входе приводит к созданию совсем иного хэша.

Блокчейн не совершенен – злоумышленник теоретически способен найти способы генерации входных данных, которые будут хэшироваться одинаковым значением. Поэтому хорошие программы хэширования должны иметь низкую вероятность коллизий и быть устойчивыми к нахождению прообраза со стороны хакеров.

В случае с нововведением Apple алгоритм следующий: на стороне пользователя формируется специальный ваучер безопасности, который согласно технологии «разделения секрета» не может быть расшифрован, если не было совершено нарушений; затем на стороне сервера специальный инструмент сравнивает хэши изображений, расположенный в iCloud пользователя, с хэшами, присвоенными фото в базе NCMEC, которые не сможет прочитать никто. Только в случае нескольких совпадений хэшей специальный сотрудник Apple вручную примется изучать каждый инцидент. Если все подтвердится, то аккаунт будет заблокирован, а данные переданы властям.

Национальный центр по пропавшим без вести и эксплуатируемым детям – некоммерческая организация, созданная в 1984 году Конгрессом США. Ежегодно центр получал 40 миллионов долларов от правительства США в рамках Закона о пропавших без вести детях и Закона о помощи без вести пропавшим детям (о финансировании на текущий период данных нет). Из других направлений уставной деятельности – помощь лицам до 20 лет, подвергшимся физическому и сексуальному насилию. NCMEC владеет национальной централизованной системой онлайн-отчетности CyberTipline, которая занимается обработкой сообщений о сексуальной эксплуатации детей. NCMEC передает собранные данные в правоохранительные органы или целевой группе по борьбе с преступлениями в Интернете, сообщая информацию о геолокации, адрес электронной почты, IP-адрес и другие идентифицирующие сведения о пользователе.

Самый очевидный был назван выше – для проверки изображений необходимо перейти лимит подозрительных фото, что нереально, если у вас хранится коллекция фотокарточек ваших детей, сестер и братьев. Но на всякий случай на сайте Apple сказано о возможной погрешности при анализе - она составляет один шанс к триллиону в год. На этот случай целесообразно, чтобы живая администрация компании получала доступ к данным, считает Анатолий Голод.

«Важно, чтобы реагирование было отлажено в случае, если нужно поправить случайные автоматические действия программ. В это должны вмешиваться живые люди, которые способны модерировать высокоинтеллектуально».

Пользователь не сможет узнать количество запрещенных фотографий, на которых он «попался», но у него будет возможность подать апелляцию.

Второе послабление заключается в том, что анализу нейросети будут подвержены только те изображения, которые были выгружены в iCloud. 

После анонсирования Apple изменений в политике компании, в соцсетях посыпался шквал обвинений в том, что корпорация нарушила приватность, что чревато использованием механизма анализа фото для нахождения в альбомах пользователей другого вида контента, например, политического. Так, организация Фонд электронных рубежей США написала текст, в котором отозвалась об Apple как готовой системе для давления со стороны правительства любого государства. Возглавляет список интересующихся, по мнению ряда журналистов, Китай, которой уже много раз пытался отвоевать право у корпорации Джобса на доступ к данным пользователей (китайское правительство делало более 40 запросов на предоставлении информации).

На вопрос о возможной слежке с помощью технологии Apple ответил глава по приватности компании Эрик Нойеншвандер. Он сказал, что Apple отклонит любые запросы правительств о разработке подобных систем, а новые функции надежно «защищены от злоупотреблений».

Изменение в ПО компании Apple нацелено, в первую очередь, на США. Будут ли нововведения распространятся на другие страны, в том числе, Россию пока неизвестно.

Такой контроль существует: не надо возмущаться, а нужно говорить о том, что его необходимо совершенствовать. Все пользователи мессенджеров заинтересованы в том, чтобы, если у них где-то на соседних волнах общаются маньяки,  спецслужбы с этим разобрались, спасли детей и взрослых нормально-ориентированных. Такой контроль со стороны администрации мессенджеров, можно сказать, что желателен. Важно только, как это будет поставлено, чтобы и не помешало нормальному общению на свободные темы, но при этом способствовало обеспечению общей безопасности, - подытожил эксперт в информационной безопасности Анатолий Голод.
  • * - соцсеть признана экстремистской и запрещена на территории РФ