La inteligencia artificial (IA) es una tecnología que está revolucionando diversos campos, desde la medicina hasta la industria automotriz. Sin embargo, también plantea desafíos y preocupaciones en términos de seguridad nacional. En una audiencia del comité del Senado de los Estados Unidos, el teniente general Paul Nakasone, actual comandante del Comando Cibernético del Ejército de los Estados Unidos, expresó sus inquietudes sobre la IA y su impacto en la seguridad.

El general Nakasone fue interrogado por el senador Ted Cruz sobre sus pensamientos sobre la IA y mencionó la posibilidad de envenenar sistemas con ejemplos adversarios. Esto se refiere a la manipulación de los datos en los conjuntos de datos de IA para que los algoritmos lleguen a resultados incorrectos. La investigación ha demostrado que los sistemas de IA son sorprendentemente frágiles y que pequeños cambios en los datos pueden engañar a las redes neuronales convolucionales.

El general Nakasone reconoció la importancia de asegurar los datos y destacó que “nuestros datos son críticos”. Señaló los peligros de manipular datos en áreas como las finanzas, la salud y la defensa nacional. También mencionó la importancia de verificar la integridad del código de la organización y la necesidad de pensar en estrategias de defensa más amplias en el futuro.

Otra pregunta interesante que planteó el senador Cruz fue cómo la Agencia de Seguridad Nacional (NSA) puede competir con Silicon Valley por el talento en IA. Dado el actual entusiasmo por la IA, hay una escasez de desarrolladores con experiencia en aprendizaje automático para ocupar los numerosos puestos creados.

La IA tiene el potencial de mejorar la seguridad nacional, pero también plantea desafíos. Es fundamental comprender las limitaciones y las consecuencias de esta tecnología. La verificación del código y la integridad de los datos son aspectos clave para garantizar la seguridad en un mundo cada vez más impulsado por la IA.

Fuente del artículo: The Register