Apple incorpora un sistema capaz de detectar desnudos en iMessage y FaceTime. Llevaba años preparándose, aunque no se lanzó hasta iOS 26, momento en el que pudimos probarlo y verificar su eficacia. Aunque el problema al final no parece estar en su detección de desnudos, sino en los falsos positivos.
El sistema en está pensado para actuar de forma privada. No hay un empleado de Apple o una de sus subcontratas vigilando lo que enviamos por mensajería o espiando nuestras videollamadas. Ambas plataformas de comunicación permanecen cifradas de extremo a extremo y es un sistema automático y que funciona en local el que analiza el contenido.
Cuando se detecta algún contenido que podría incluir desnudez, la imagen se difumina en iMessage o la videollamada se pausa temporalmente en FaceTime y se muestra una advertencia. A partir de ahí, es el propio usuario quien decide si quiere seguir viendo el contenido o continuar con la llamada.
Mascotas, el blanco de los falsos positivos del sistema
Si hay algo que se le pide a un sistema automático de detección es que, aparte de funcionar cuando debe, es minimizar los falsos positivos. Y ahí es donde la función de Apple ha quedado en entredicho después de que un usuario relatase un caso tan llamativo como inesperado.
La historia la contó Jason Koebler en 404 Media, después de que un amigo intentase enviarle un vídeo de su perro. Antes de que el archivo se enviase, el iPhone mostró la advertencia de contenido sensible que normalmente aparece cuando el sistema cree haber detectado desnudez. Sin embargo, el vídeo únicamente mostraba al animal, sin ningún tipo de contenido sexual.
El caso pone sobre la mesa una limitación inherente a este tipo de modelos de inteligencia artificial. Aunque el análisis se realiza íntegramente en el dispositivo y Apple nunca llega a ver las imágenes, el algoritmo puede equivocarse al interpretar determinadas formas, colores o ángulos de la escena. ¿Protege la privacidad? Sí, pero no es infalible.
En Applesfera
Apple hace grandes cambios para la seguridad infantil con ajustes en Tiempo de uso y Pedir para navegar en iOS 27
Cabe decir que este no parece ser un caso aislado. En los últimos meses han aparecido en foros como Reddit varios usuarios que aseguran haber recibido la misma advertencia al compartir fotografías de perros, gatos o simplemes memes o imágenes que en ningún caso contenían desnudos.
Aunque estos testimonios son anecdóticos, apuntan a que los falsos positivos existen y pueden producirse en situaciones cotidianas. Lo bueno en estos casos es que la función de Apple no elimina el contenido, ni lo comparte con terceros para su revisión. Son simples advertencias ante las cuales actúa el usuario.
En cualquier caso, no parece tratarse de un problema especialmente grave. El principal inconveniente es que estos falsos positivos pueden generar confusión o incluso un susto inicial al hacer creer al usuario que va a recibir un desnudo cuando, en realidad, solo se trata de una imagen o vídeo completamente inocente.
En Applesfera | Nuevo iOS 27 - Todas sus novedades, iPhone compatibles y cómo probarlo antes que nadie
En Applesfera | Cómo conseguir mejores fotografías con tu iPhone cambiando estos ajustes
-
La noticia Te llega un mensaje, el iPhone lo difumina por ser "contenido explícito" y te esperas lo peor. Al final solo era un perro fue publicada originalmente en Applesfera por Álvaro García M. .
Continúar leyendo...