Facebook está trabajando en una nueva forma de detectar material ofensivo en los videos que se transmiten en directo. Para ello planea usar inteligencia artificial que pueda monitorear el contenido, dijo Joaquín Candela, uno de los directivos en tecnología aplicada de la la empresa.
La compañía ha estado envuelta en varios casos polémicos que han generado críticas internacionales que han ido desde quitar una icónica fotografía de la Guerra en Vietnam, hasta permitir la circulación de noticias falsas.
Desde siempre, Facebook ha dependido de las denuncias de los usuarios para detectar contenido sensible u ofensivo, cuyos reportes son luego revisados por el equipo de la compañía. Las decisiones en cuanto al cambio de las políticas del sitio, son tomadas por altos ejecutivos de la compañía.
El uso de inteligencia artificial para verificar videos en vivo aún está en la etapa de investigación, y presenta dos retos, explicó Candela. «Uno, el algoritmo tiene que ser rápido, y creo que eso sí lo podemos lograr. Segundo, hay que priorizar las cosas de forma correcta para que un ser humano las vea, un experto que conozca nuestras políticas y así pueda retirar el contenido».
