Apple будет искать запрещенные фото на iPhone и iPаd пользователей

Компания Apple будет проверять переписку и облачный сервис iCloud на наличие изображений с сексуальным насилием над детьми. Новые алгоритмы корпорация пока планирует протестировать только в США, они будут внедряться в операционные системы iOS и iPadOS, сообщает пресс-служба компании.

В Apple подчеркнули, что технология разработана с учетом конфиденциальности пользователей. Вместо сканирования фото, алгоритм будет сопоставлять хэш-суммы (т.е. цифровые отпечатки) фотографии с базой данных известных изображений сексуального насилия над детьми. Соответствующую базу компании предоставили центры, занятые в сфере безопасности несовершеннолетних.

Корпорация подчеркивает, что не сможет интерпретировать проанализированные данные, пока учетная запись не пересечет пороговое значение по числу незаконных изображений. По словам представителей Apple, в этом случае ошибка возможна в одном случае из триллиона. После этого компания проверит каждый отчет, отключит учетную запись пользователя и передаст данные правоохранителям.

Кроме того, компания встроит в приложение Messages программы машинного обучения, которые будут предупреждать о чувствительном контенте, сохраняя конфиденциальность личной переписки. В том числе, если на устройство ребенка будет прислана фотография неподобающего характера, то картинка будет размываться, а пользователь будет получать предостережение.

При этом если ребенок сам попробует отправить фото порнографического характера, то устройство сделает ему предупреждение. Если несовершеннолетний все-таки решит отправить фото, то его родители получат уведомление.

Эксперт по информационной безопасности Института Джонса Хопкинса Мэтью Грин, заявил, что считает инициативу Apple «действительно плохой идеей». По его словам, подобная технология может стать «окном» для потенциальных взломщиков — в том числе, из спецслужб — с помощью которого те смогут не только просматривать уже сохраненные в «облаке» изображения, но и те, которыми пользователи обмениваются в мессенджерах, обходя системы шифрования. «Такой инструмент может быть прорывом для поиска детской порнографии на телефонах пользователей. Но представьте, что будет, если он окажется в руках авторитарного правительства?» — отметил Грин.