La inteligencia artificial (IA) ha experimentado un rápido desarrollo en los últimos años, lo que plantea tanto oportunidades como desafíos para la sociedad. Uno de los principales desafíos es el aumento de la capacidad de generar falsificaciones de documentos, imágenes, grabaciones de audio, videos e identidades en línea de manera cada vez más realista y automatizada.
Recientemente, la empresa de investigación OpenAI anunció GPT-2, un generador de texto basado en IA que es tan auténtico que decidieron no lanzarlo públicamente por temor a un mal uso. Este avance marca un hito en la capacidad de la IA para generar contenido falso de alta calidad. Sin embargo, es probable que herramientas aún más poderosas sean desarrolladas y utilizadas por actores malintencionados en el futuro.
La falsificación automatizada ya es prevalente en las redes sociales, como se pudo observar durante las elecciones presidenciales de Estados Unidos en 2016. Se descubrió que decenas de miles de cuentas automatizadas en Twitter estaban vinculadas a Rusia en los meses previos a las elecciones, según The Washington Post. Además, Facebook estimó que las noticias falsas difundidas por bots respaldados por Rusia entre enero de 2015 y agosto de 2017 llegaron potencialmente a la mitad de los 250 millones de estadounidenses elegibles para votar.
Ante esta problemática, se han propuesto regulaciones que requieren que los bots revelen que no son humanos. El estado de California incluso ha introducido una ley correspondiente que entrará en vigor en julio de 2019. Si bien estas medidas son un paso valioso, su impacto práctico se ve limitado en el ámbito digital internacional.
El problema de la falsificación va más allá de los bots. Las imágenes manipuladas son comunes y los avances recientes en el procesamiento de imágenes han permitido la creación de videos falsos realistas. Investigadores han demostrado esta nueva capacidad con videos generados por IA en los que el expresidente Barack Obama aparece hablando frases que antes solo eran clips de audio. Luego surgieron los “deepfakes”, videos generados por IA que muestran expresiones faciales completamente nuevas de una persona objetivo, creadas al unir dos rostros de manera sorprendentemente convincente. Esta tecnología de intercambio de rostros está disponible en suficiente medida como para haber comenzado a aparecer en la industria pornográfica, con la adición de los rostros de varias celebridades reconocidas en videos pornográficos. Incluso un video viral en el que Obama advertía sobre los deepfakes resultó ser falso.
Es evidente que la IA plantea desafíos significativos para la sociedad en términos de seguridad, democracia y confianza en la información. Es fundamental que se implementen regulaciones efectivas y se promueva la conciencia pública sobre los riesgos asociados con la falsificación generada por IA. Además, es necesario fomentar la investigación y el desarrollo de contramedidas tecnológicas para detectar y combatir las falsificaciones de manera más efectiva.
En conclusión, la IA tiene el potencial de revolucionar muchos aspectos de nuestra vida, pero también debemos estar preparados para enfrentar los desafíos que conlleva. La colaboración entre gobiernos, empresas y la sociedad en general es fundamental para garantizar que la IA se utilice de manera ética y responsable.
