Что не так с инициативой Apple мониторить активность пользователей

Сооснователь Украинского Киберальянса Андрей Баранович (Шон Таунсенд) объяснил, в чем опасность инициативы Apple по отслеживанию фото пользователей для выявления жесткого обращения с детьми.

Как только кто-то начинает вам рассказывать об очередной замечательной технологии для защиты детей — не цельтесь даже, ориентируйтесь на звук. Криптовойна никогда не меняется. С конца восьмидесятых шифрование используется все чаще и чаще, и с завидным упрямством правительства скиглят, что им кровь из носу нужен черный ход для прослушки. Во-первых, для защиты детей, во-вторых, для анти-террора, потом для всего подряд. Если есть молоток, то все вокруг гвозди. Практически во всех конституциях такая «защита» называется иначе — необоснованный, несанкционированный обыск.

В повсеместном использовании криптографии есть заметный эффект, раз нельзя перехватить data at motion, можно получить те же данные at rest — с устройств пользователей. И банковские трояны и Пегас от NSO все они нацелены на конечное устройство.

Так как технокомпании не хотят портить шифрование, то очередной «компромисс» заключается в том, чтобы сканировать данные к отправке (точно так же как работают спам-фильтры и антивирусы). Apple собирается добавить такой фильтр в телефоны, чтобы искать детскую порнографию.

И никакая это не «скользкая дорожка», мы уже сломя голову скатились с горы в яму массовой прослушки. Никакая machine learning не даст точного результата, а затейники из adversarial ML или просто коллекцией CP пришлют вам такие картинки, что полиция выбьет вам дверь тараном прежде, чем вы поймете что вообще произошло (такое уже было и до Apple).

Не говоря уже о том, что тот же самый поисковый алгоритм можно натренировать на что угодно, на шутки про крупнейших лидеров современности и китайского «Виннипуха». Сейчас китайцы иногда пытаются устанавливать spyware на границе, репрессивные режимы используют софт вроде того, который делает NSO. И здесь Apple открывает им прямой доступ к устройствам пользователей.

Вчера еще потекла внутренняя записка Apple о том, что все, кто противится разрушению тайны личной жизни «скрипучий голос меньшинства», и что «их (борцов из цопе) голос громче». Не понимаю как они собираются обеспечить безопасность системы массовой слежки, если не могут защитить даже внутреннюю переписку. Серые и iCloud я уже отключил, надеюсь, что и планы по сканированию устройств получится сорвать или испортить каким-либо иным образом. Потому что так быть не должно.