Що не так з ініціативою Apple моніторити активність користувачів

Співзасновник Українського Кіберальянсу Андрій Баранович (Шон Таунсенд) пояснив, у чому небезпека ініціативи Apple щодо відстеження фото користувачів для виявлення жорсткого поводження з дітьми.

Як тільки хтось починає вам розповідати про чергову чудову технологію для захисту дітей – не цільтеся навіть, орієнтуйтеся на звук. Криптовійна ніколи не змінюється. З кінця вісімдесятих шифрування використовується все частіше і частіше, і з завидною впертістю уряди скиглять, що їм кров з носу потрібен чорний хід для прослушки. По-перше, для захисту дітей, по-друге, для анти-терору, потім для всього підряд. Якщо є молоток, то всі навколо цвяхи. Практично в усіх конституціях такий “захист” називається інакше – необґрунтований, несанкціонований обшук.

У повсюдного використання криптографії є ​​помітний ефект, раз не можна перехопити data at motion, можна отримати ті ж дані at rest – з пристроїв користувачів. І банківські трояни і Пегас від NSO всі вони націлені на кінцевий пристрій.

Так як технокомпанії не хочуть псувати шифрування, то черговий “компроміс” полягає в тому, щоб сканувати дані до відправки (точно так само як працюють спам-фільтри і антивіруси). Apple збирається додати такий фільтр в телефони, щоб шукати дитячу порнографію.

І ніяка це не “слизька доріжка”, ми вже стрімголов скотилися з гори в яму масової прослушки. Ніяка machine learning не дасть точного результату, а витівники з adversarial ML або просто колекцією CP надішлють вам такі картинки, що поліція виб’є вам двері тараном перш, ніж ви зрозумієте що узагалі сталося (таке вже було і до Apple).

Не кажучи вже про те, що той же самий пошуковий алгоритм можна натренувати на що завгодно, на жарти про найбільших лідерів сучасності та китайського “Вінніпуха”. Зараз китайці іноді намагаються встановлювати spyware на кордоні, репресивні режими використовують софт на кшталт того, який робить NSO. І тут Apple відкриває їм прямий доступ до пристроїв користувачів.

Вчора ще потекла внутрішня записка Apple про те, що всі, хто противиться руйнування таємниці особистого життя “скрипучий голос меншини”, і що “їх (борців з цопе) голос голосніше”. Не розумію як вони збираються забезпечити безпеку системи масового стеження, якщо не можуть захистити навіть внутрішню переписку. Сірі і iCloud я вже відключив, сподіваюся, що і плани по скануванню пристроїв вийде зірвати або зіпсувати яким-небудь іншим чином. Тому що так бути не повинно.