Apple anunció una serie de herramientas que le permitirán detectar si alguno de sus usuarios está distribuyendo material de abuso sexual infantil, alertar si se reciben mensajes con contenido sexual explícito e incluso permitir que Siri y Search actúen si alguien solicita información de ese tipo.
Las nuevas funciones utilizan técnicas de criptografía y aprendizaje automático, incluidas en actualizaciones para iOS 15, iPadOS 15, watchOS 8 y macOS Monterey, es decir, en toda su familia de dispositivos: iPhone, iPad, Watch y computadoras Mac.
Inicialmente, el sistema será aplicado en EEUU, pero marca un precedente sobre qué acciones podría tomar la industria para combatir la pornografía infantil.
Apple dividió su anuncio en 3 partes:
– Mensajes: la app utilizará un sistema de aprendizaje automático para advertir a padres y niños sobre la presencia de contenidos sensibles. En caso de detectarlos, difuminará las imágenes y mostrará una advertencia con recursos informativos, explicando que está bien si no se desea verla, e incluso un aviso acerca de que los padres podrán ser notificados si se decide abrir el contenido. Apple asegura que el sistema trabaja respetando la privacidad.
– iPhone y iPad incorporarán un sistema de criptografía para limitar la distribución de material sobre abuso sexual infantil. La herramienta no escanea las fotos de iCloud: se basa en una comparación en el dispositivo de las imágenes de abuso conocidas, proporcionadas por organizaciones de seguridad infantil antes de que sean subidas a la nube.
El sistema no compara la imagen en sí sino una especie de huella digital de cada foto, una tecnología criptográfica llamada ‘intersección de conjuntos privados’ es la que determina si hay una coincidencia sin revelar el resultado, y se adjunta a la imagen una vez subida a iCloud.
La tecnología de ‘umbral de intercambio secreto’ asegura un alto nivel de coincidencia, y es entonces cuando Apple recibe una alerta, para que los equipos humanos la revisen. Si se confirma, se desactiva la cuenta del usuario y se envía un informe a las asociaciones pertinentes y a las autoridades.
– Siri y Search: si una persona busca información sobre abuso sexual infantil, ambas herramientas advertirán que se trata de información dañina y problemática, agregando recursos para ayudarlos.