La historia nos ha demostrado que la innovación y los avances tecnológicos están repletos de consecuencias no deseadas. ¿Quién hubiera imaginado que la adopción generalizada de las redes sociales conduciría a campañas de desinformación destinadas a socavar la democracia liberal, cuando originalmente se pensaba que aumentaría la participación cívica? Después de todo, la IA no solo permite el desarrollo de vehículos autónomos, sino también de armas autónomas. ¿Quién quiere contemplar un posible futuro en el que la IA autoconsciente caiga en una depresión catatónica mientras posee códigos de lanzamiento nuclear?
Mientras esperamos un futuro en el que los humanos utilicen la IA para mejorar nuestra existencia, debemos considerar qué medidas se están tomando para llegar allí. En particular, debemos preocuparnos por el hecho de que se esté desarrollando IA para replicarse a sí misma, lo que podría incrustar sesgos en los algoritmos que sustentarán y conducirán nuestro futuro, repitiéndolos a gran escala. Las consecuencias de esto podrían ser graves. Porque si bien errar es humano, arruinar las cosas de verdad requiere una computadora.
Aprender a aprender: la IA pronto será capaz de autorreplicarse, de aprender de sí misma y crear su propia imagen. Lo que actualmente impide que la IA aprenda “demasiado rápido” y se descontrole es que requiere una gran cantidad de datos en los que entrenarse. Para entrenar un algoritmo de aprendizaje profundo para reconocer un gato con el nivel de experiencia de un amante de los gatos, primero debemos alimentarlo con decenas o incluso cientos de miles de imágenes de felinos, capturando una gran cantidad de variaciones en tamaño, forma, textura, iluminación y orientación. Sería mucho más eficiente si, al igual que una persona, un algoritmo pudiera desarrollar una idea sobre lo que hace que un gato sea un gato a partir de menos ejemplos, tal como los humanos no necesitamos ver 10,000 gatos para reconocer uno paseando por la calle.
Una startup con sede en Boston, Gamalon, ha desarrollado una técnica que llama “síntesis de programas bayesianos” para construir algoritmos capaces de aprender a partir de menos ejemplos. Un programa probabilístico puede determinar, por ejemplo, que es altamente probable que los gatos tengan orejas, bigotes y cola. A medida que se proporcionan más ejemplos, el código detrás del modelo se reescribe y las probabilidades se ajustan. En cierto punto, el programa de IA toma el control y los modelos se crean por sí solos. En otras palabras, está aprendiendo a enseñarse a sí mismo en lugar de que nosotros tengamos que enseñarle.
La capacidad de la IA para aprender y desarrollarse por sí misma plantea desafíos y preocupaciones. Si bien es emocionante pensar en el potencial de la IA para mejorar nuestras vidas, también debemos ser conscientes de las posibles consecuencias negativas. Es fundamental que se tomen medidas para garantizar que la IA se desarrolle de manera ética y segura, evitando la replicación de sesgos y asegurando que los algoritmos sean transparentes y comprensibles.
En conclusión, la capacidad de controlar la IA es un tema crucial que debemos abordar. A medida que avanzamos hacia un futuro cada vez más impulsado por la tecnología, es fundamental que nos aseguremos de que la IA se utilice de manera responsable y se eviten las consecuencias no deseadas. Solo a través de una comprensión profunda y una regulación adecuada podremos aprovechar al máximo el potencial de la IA sin poner en peligro nuestra sociedad y nuestro futuro.
