Apple integró un sistema para detectar contenidos prohibidos

La compañía estadounidense de tecnología, Apple, informó sobre la integración a sus dispositivos de una novedosa tecnología que ayudará a detectar contenido indebido.

En este sentido, la firma señaló que esta innovación sigue las normativas de respeto a la privacidad de los usuarios, razón por la cual el sistema no escaneará los materiales que se hallen en la nube iCloud, pero sí comparará las versiones encriptadas de ellos con una base de datos especializada.

En caso de que el sistema detecte material ilegal, el mismo será revisado nuevamente, de forma manual, por la empresa norteamericana.

Si se confirma la presencia de contenido indebido, Apple descontará la cuenta del usuario y la reportará al Centro Nacional para Niños Desaparecidos y Explotados. Sin embargo, los clientes podrán presentar una apelación para restablecer la cuenta, si consideran que se ha producido un error.

Tras este anuncio, algunos expertos creen que el sistema tendrá implicaciones adversas, puesto que los algoritmos usados «no son totalmente fiables y pueden identificar algún contenido como prohibido», aunque en realidad sea adecuado.

«(Estos algoritmos) están diseñados para encontrar imágenes que se parezcan a las malas, incluso si han sido redimensionadas, comprimidas, etc (…) Esto significa que, dependiendo de cómo funcionen, podría ser posible que alguien haga imágenes problemáticas que ‘coincidan’ con imágenes totalmente inofensivas», explicaron.

Finalmente, los especialistas indicaron que aunque el proyecto está avalado por los usuarios, algunos clientes están preocupados de que la función sea usada de forma incorrecta.