Apple ha anunciado planes para escanear iPhones en busca de imágenes de abuso infantil, lo que genera preocupaciones inmediatas con respecto a la privacidad y la vigilancia del usuario con la medida.
¿Se ha convertido el iPhone de Apple en un iSpy?
Apple dice que su sistema está automatizado, no escanea imágenes reales, usa algún tipo de sistema de datos hash para identificar casos conocidos de pornografía infantil (CSAM) y afirma que tiene algunas medidas de seguridad para proteger la privacidad.
Los defensores de la privacidad advierten que ahora que ha creado un sistema de este tipo, Apple está en un camino difícil hacia una extensión inexorable de escaneo e informes de contenido en el dispositivo que podrían, y probablemente serán, abusados por algunas naciones.
¿Qué está haciendo el sistema de Apple?
Hay tres elementos principales del sistema, que están ocultos dentro de iOS 15, iPadOS 15 y macOS Monterey cuando se envíen a finales de este año.
-
Escanea tus imágenes
El sistema de Apple escanea todas las imágenes almacenadas en iCloud Photos para ver si coinciden con la base de datos CSAM del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC).
Las imágenes se escanean al dispositivo utilizando una base de datos de hash de imágenes CSAM conocida proporcionada por NCMEC y otras organizaciones de seguridad infantil. Apple transforma aún más esta base de datos en un conjunto ilegible de hashes que se almacenan de forma segura en los dispositivos de los usuarios.
Cuando una imagen se almacena en Fotos de iCloud, se lleva a cabo un proceso de coincidencia. En el caso de que una cuenta supere un umbral de varias instancias de contenido CSAM conocido, se notifica a Apple. Si se le advierte, los datos se revisan manualmente, la cuenta se deshabilita y se notifica al NCMEC.
Sin embargo, el sistema no es perfecto. La compañía dice que hay menos de uno entre un billón de posibilidades de informar incorrectamente una cuenta. Apple tiene más de mil millones de usuarios, lo que significa que hay una probabilidad superior a 1 / 1,000 de que alguien sea identificado erróneamente cada año. Los usuarios que crean que se les ha informado por error pueden apelar.
Las imágenes se escanean en el dispositivo.
-
Escanea tus mensajes
El sistema de Apple utiliza el aprendizaje automático en el dispositivo para escanear imágenes en mensajes enviados o recibidos por menores en busca de material sexualmente explícito, alertando a los padres si se identifican tales imágenes. Los padres pueden habilitar o deshabilitar el sistema y cualquier contenido recibido por un niño será borroso.
Si un niño intenta publicar contenido sexualmente explícito, se le notificará y los padres pueden ser notificados. Apple afirma que no tiene acceso a las imágenes, que se escanean en el dispositivo.
-
Mirando lo que estas buscando
La tercera parte consta de actualizaciones de Siri y Search. Apple dice que ahora proporcionarán información ampliada a padres e hijos y ayudarán si se encuentran en situaciones inseguras. Siri y Search también intervendrán cuando las personas realicen lo que se consideran consultas de búsqueda relacionadas con CSAM, explicando que el interés en este tema es problemático.
Apple nos informa amablemente que su programa es «ambicioso» y que los esfuerzos «evolucionarán y expandirán con el tiempo».
Un poco de datos técnicos
La compañía ha publicado un extenso documento técnico que explica un poco más sobre su sistema. En el documento, se encarga de asegurar a los usuarios que no aprende nada sobre las imágenes que no coinciden con la base de datos.
La tecnología de Apple, llamada NeuralHash, analiza imágenes CSAM conocidas y las convierte en un número único específico para cada imagen. Sólo otra imagen que parezca casi idéntica puede producir el mismo número; por ejemplo, las imágenes que difieren en tamaño o calidad de transcodificación seguirán teniendo el mismo valor de NeuralHash.
A medida que se agregan imágenes a Fotos de iCloud, se comparan con esa base de datos para identificar una coincidencia.
Si se encuentra una coincidencia, se crea un vale de seguridad criptográfica que, según tengo entendido, también permitirá a un revisor de Apple descifrar y acceder a la imagen ofensiva en caso de que se alcance el umbral de dicho contenido y se realice una acción.
«Apple solo puede obtener información de imagen relevante cuando la cuenta tiene más de un número umbral de coincidencias CSAM y, nuevamente, solo para imágenes coincidentes», concluye el documento.
Apple no es único, pero los análisis en el dispositivo pueden ser
Apple no es la única que tiene que compartir imágenes CSAM con las autoridades. Por ley, cualquier empresa estadounidense que encuentre dicho material en sus servidores debe trabajar con las fuerzas del orden para investigarlo. Facebook, Microsoft y Google ya tienen tecnologías que escanean dichos materiales compartidos por correo electrónico o plataformas de mensajería.
La diferencia entre estos sistemas y esto es que el análisis se realiza en el dispositivo, no en los servidores de la empresa.
Apple siempre ha afirmado que sus plataformas de mensajería están encriptadas de extremo a extremo, pero esto se convierte en una pequeña declaración semántica si el contenido del dispositivo de una persona se escanea incluso antes de que se lleve a cabo la encriptación.
La protección infantil es, por supuesto, algo que apoya la mayoría de las personas racionales. Pero lo que preocupa a los defensores de la privacidad es que algunos gobiernos ahora pueden intentar obligar a Apple a buscar otros materiales en los dispositivos de las personas.
Por ejemplo, incluso un gobierno que prohíbe la homosexualidad podría requerir tal contenido. ¿Qué pasa si un adolescente en un país que prohíbe la actividad sexual no binaria le pide ayuda a Siri para salir del armario? ¿Y qué hay de los dispositivos discretos de escucha ambiental, como los HomePods? No está claro que el componente de investigación de este sistema esté desplegado allí, pero es plausible que así sea.
Y todavía no está claro cómo Apple podrá protegerse de tales trampas en la misión.
Los defensores de la privacidad están extremadamente alarmados
La mayoría de los defensores de la privacidad creen que existe una posibilidad significativa de insinuar la misión inherente a este plan, que no hace nada para mantener la confianza en el compromiso de Apple con la privacidad del usuario.
¿Cómo puede un usuario sentir que su privacidad está protegida si el propio dispositivo los espía y no tiene control sobre cómo?
La Electronic Frontier Foundation (EFF) advierte que este plan en realidad crea una puerta trasera de seguridad.
“Todo lo que se necesitaría para ampliar la estrecha puerta trasera que Apple está construyendo es una expansión de los parámetros de aprendizaje automático para buscar tipos adicionales de contenido o un cambio en las marcas de configuración para escanear, no solo para niños, sino para cuentas de niños. . No es una pendiente resbaladiza; este es un sistema completamente construido que solo espera la presión externa para hacer el más mínimo cambio «.
“Cuando Apple desarrolla una tecnología que puede escanear contenido cifrado, no se puede simplemente decir: ‘Bueno, me pregunto qué haría el gobierno chino con esa tecnología’. No es teórico ”, advirtió el profesor John Hopkins. Matteo Verde.
Argumentos alternativos
Hay otros argumentos. Uno de los más convincentes es que los servidores de los ISP y los proveedores de correo electrónico ya están escaneados en busca de dicho contenido y que Apple ha creado un sistema que minimiza la participación humana y solo informa un problema si identifica múltiples coincidencias entre la base de datos de CSAM y el contenido. en el dispositivo.
No hay duda de que los niños corren peligro.
De los casi 26.500 fugitivos denunciados al NCMEC en 2020, uno de cada seis probablemente fue víctima de tráfico sexual infantil. La CyberTipline de la organización, (a la que imagino que Apple está conectada en este caso) recibió más de 21,7 millones de informes relacionados con alguna forma de CSAM en 2020.
John Clark, presidente y director ejecutivo de NCMEC, Ella dijo: «Con tanta gente que usa los productos de Apple, estas nuevas medidas de seguridad tienen el potencial de salvar la vida de los niños que se sienten atraídos en línea y cuyas horribles imágenes se difunden por todo el CSAM. En el Centro Nacional para Niños Desaparecidos y Explotados, sabemos que este crimen solo se puede combatir si somos firmes en nuestra dedicación a la protección de los niños. Solo podemos hacerlo porque los socios tecnológicos, como Apple, dan un paso al frente y dan a conocer su dedicación «.
Otros dicen que al crear un sistema para proteger a los niños de delitos tan atroces, Apple está eliminando un argumento que algunos podrían usar para justificar las puertas traseras de los dispositivos en un sentido más amplio.
La mayoría de nosotros estamos de acuerdo en que los niños deben ser protegidos y, al hacerlo, Apple ha erosionado ese argumento que algunos gobiernos represivos podrían usar para forzar las cosas. Ahora debe oponerse a cualquier robo de misión por parte de tales gobiernos.
Este último desafío es el mayor problema, ya que Apple, cuando se le presiona, siempre seguirá las leyes de los gobiernos de los países en los que opera.
«No importa lo bien intencionado que sea, Apple está implementando vigilancia masiva en todo el mundo con esto», advirtió el conocido defensor de la privacidad. Edward Snowden. Si pueden buscar CSAM hoy, «pueden buscar cualquier cosa mañana».
Por favor sígueme Gorjeoo únete a mí en el bar & grill de AppleHolic y en los grupos de discusión de Apple en MeWe.
Copyright © 2021
