Las plataformas de redes sociales están plagadas de contenido inapropiado que logra pasar desapercibido, desde videos de víctimas de suicidio en YouTube hasta anuncios dirigidos a “odiadores de judíos” en Facebook. En muchos casos, la respuesta de la plataforma es implementar algoritmos más inteligentes para identificar mejor el contenido inapropiado. Pero, ¿qué es realmente capaz de captar la inteligencia artificial, cuánto debemos confiar en ella y dónde falla miserablemente?
“La inteligencia artificial puede detectar lenguaje ofensivo y reconocer imágenes muy bien. El poder de identificar la imagen está ahí”, dice Winston Binch, director digital de Deutsch, una agencia creativa que utiliza inteligencia artificial en la creación de campañas digitales para marcas como Target y Taco Bell. “La zona gris se convierte en la intención”.
La inteligencia artificial puede leer tanto texto como imágenes, pero la precisión varía. Utilizando el procesamiento del lenguaje natural, la inteligencia artificial puede ser entrenada para reconocer texto en varios idiomas. Por ejemplo, un programa diseñado para detectar publicaciones que violen las pautas de la comunidad puede aprender a detectar insultos raciales o términos asociados con la propaganda extremista. La inteligencia artificial también puede ser entrenada para reconocer imágenes y prevenir algunas formas de desnudez o reconocer símbolos como la esvástica. Funciona bien en muchos casos, pero no es infalible.
Por ejemplo, Google Photos fue criticado por etiquetar imágenes de personas de piel oscura con la palabra clave “gorila”. Años después, Google aún no ha encontrado una solución para este problema, en su lugar, optó por eliminar por completo la capacidad del programa para etiquetar monos y gorilas. Los algoritmos también necesitan actualizarse a medida que el significado de una palabra evoluciona o para comprender cómo se utiliza una palabra en contexto.
La inteligencia artificial también tiene sesgos. Puede parecer extraño pensar que una computadora pueda tener sesgos, pero la inteligencia artificial se entrena observando a las personas completar tareas o ingresando los resultados de esas tareas. Por ejemplo, los programas para identificar objetos en una fotografía a menudo se entrenan alimentando al sistema miles de imágenes que inicialmente fueron etiquetadas a mano.
En resumen, la inteligencia artificial tiene sus limitaciones. Aunque puede captar lenguaje ofensivo y reconocer imágenes, su precisión no es perfecta. Además, está sujeta a sesgos y necesita actualizaciones constantes para adaptarse a los cambios en el significado de las palabras y comprender el contexto. Por lo tanto, debemos ser cautelosos al confiar plenamente en la inteligencia artificial para filtrar y moderar el contenido en las redes sociales.
Fuente del artículo: Digital Trends
