Google presenta herramienta para la detección de CSAM

Google ha presentado una herramienta que, mediante inteligencia artificial, ayudará a detectar este tipo de contenido restringido y, sobre todo, supondrá un notable paso adelante conforme a los sistemas de detección de CSAM (en inglés, children sexual abuse material) reinantes.

Debido a que lamentablemente se sigue compartiendo pornografía infantil día a día en Internet y, por ende, las grandes compañías del sector deben hacer frente a tal hecho y centrar sus esfuerzos en eliminarlo.

Ahora bien, la nueva herramienta presentada hoy por Google iría más allá, ayudando en los pasos previos, marcando el material potencialmente controvertido y destacando, de entre todas esas fotos y vídeos, aquel con más posibilidades de considerarse pornografía infantil o CSAM.

Asimismo, PhotoDNA, software desarrollado por Microsoft y utilizado por compañías como Facebook o Twitter centra su funcionalidad en detectar todo aquel contenido marcado previamente como ilegal o prohibido y eliminarlo, impidiendo que se comparta en ambas redes sociales.

Con esto se conseguiría acortar el proceso y hacer que, dependiendo siempre de moderadores humanos, estos tengan una labor más cómoda.

Pero, por contra, esta tecnología es efectiva únicamente al eliminar material que ha sido analizado previamente por moderadores humanos. Es evidente, el trabajo humano sigue siendo necesario en las labores de detección y filtrado.

Al respecto, Fred Langford, delegado de la Internet Watch Foundation, ha afirmado en conversaciones con The Verge que en un momento en el que "el trabajo lo realizamos humanos yendo a través del contenido y diciendo 'sí', 'no', sí, 'no'", esta herramienta ayudará en el proceso de selección.

Además, uno de los moderadores ha afirmado que la herramienta de inteligencia artificial le ha permitido "clasificar un 700% más de material con abusos sexuales a niños un mismo periodo".