/ Медиа

Apple начнет защищать детей от откровенных снимков в «Сообщениях»

Компания объявила о появлении новых функций для защиты детей на всех своих операционных системах. Производитель начнет размывать откровенные снимки в «Сообщениях», предупреждать родителей о получении таких фотографий, сканировать контент в iCloud, а также добавит руководства безопасности в Siri.

Новые функции появятся с выходом iOS и iPadOS 15, watchOS 8 и macOS Monterey, говорится в сообщении Apple. Приложение «Сообщения» добавит инструменты для предупреждения детей и их родителей при получении или отправке фотографий сексуального характера. При получении такого типа контента фотография будет размыта, а сам ребенок будет предупрежден о возможном неприемлемом содержании. То же самое будет происходить и перед отправкой фотографии. Алгоритмы будут локально сканировать фотографии, но сама компания не получит доступ к данным – все будет происходить на устройствах.

Для решения проблемы распространения материалов о сексуальном насилии над детьми в интернете Apple будет сканировать облачные хранилища устройств. Сканирование снимков в iCloud также будет происходить приватно: для этого Apple будет использовать машинное обучение на устройствах. Нейросети начнут сопоставлять изображения из облачных хранилищ с хешами изображений, предоставленных Национальным центром пропавших и эксплуатируемых детей (NCMEC) и другими организациями по детской безопасности.

Компания будет применять технологию «разделения секрета», которая позволит уберечь ваучеры безопасности от расшифровки на стороне сервера до тех пор, пока пользователь не нарушит правила. В компании утверждают, что это гарантирует высокий уровень точности – система будет выдавать меньше одного ложного результата на триллион попыток за год.

Только в случае фиксации нарушений сразу двумя технологиями Apple сможет интерпретировать контент ваучеров безопасности и сравнить изображения самостоятельно. Компания обещает вручную изучать каждый случай, чтобы подтвердить соответствие. В случае подтверждения Apple может отключить аккаунт и сообщить о нем в NCMEC.

Производитель гаджетов также начнет предупреждать и обучать пользователей с помощью Siri. Голосовой помощник вмешается, если пользователь попытается найти данные, связанные с детским сексуальным контентом.

Новые функции станут доступны с выходом новых версий систем осенью 2021 года.

Изображение: Freepik.com

Роскомнадзор начал реализацию проекта «О приземлении зарубежных IT-компаний»
6.08.2021, 13:25
Следующая новость