Otra mujer ha entrado en mi hogar. O al menos, eso piensa mi pareja. Para él, Alexa es “ella”. Pero yo discuto eso. Para mí, Alexa es definitivamente “eso”. Estudios han demostrado repetidamente que tanto mujeres como hombres prefieren que los asistentes digitales tengan voces femeninas porque creen que son más acogedoras y comprensivas, por eso Alexa y sus amigas están diseñadas con tonos dulces y femeninos. Pero, ¿no es eso simplemente un estereotipo histórico y anticuado? ¿Realmente los bots de servicio necesitan ser “femeninos” para ser comprensibles? Si la inteligencia artificial va a dirigir nuestras vidas, tal vez necesitemos desafiar algunas de estas ideas preconcebidas y encontrar perspectivas más frescas.

La inteligencia artificial y el aprendizaje automático se infiltran en casi todo lo que hacemos: nos ayudan a organizar nuestras agendas, nos dan las últimas noticias, nos ayudan a pedir una pizza para la cena y musicalizan nuestras noches con nuestras canciones favoritas. Pero más que eso, determinan nuestros comportamientos, procesos de pensamiento, patrones de compra e incluso nuestras visiones del mundo. Es como la burbuja de filtro de Facebook, pero a una escala mucho más grande. Cada vez más en el futuro, la inteligencia artificial moldeará nuestras percepciones del mundo, y no solo influirá en la elección de lo que comemos, compramos o escuchamos.

Lo que significa que las manos y las mentes que crean la tecnología tienen un impacto directo en nosotros como seres humanos y en el mundo que nos rodea. Por lo tanto, es vital que incluyamos más perspectivas femeninas en este nuevo mundo, y necesitamos que más mujeres de diversos orígenes participen en su creación, y no solo para darle voces femeninas a los asistentes virtuales.

La inteligencia artificial es como un niño. Cómo crece depende de cómo lo cuidemos, y a menos que diseñemos estos sistemas desde el principio teniendo en cuenta la inclusión, crearemos sistemas que reflejen los múltiples sesgos y estereotipos que han dañado y limitado nuestro mundo hoy en día. La inteligencia artificial se vuelve sesgada a través de los datos que se utilizan para entrenarla, y es difícil para cualquiera de nosotros, hombres y mujeres, ser conscientes de nuestros sesgos. El sesgo se infiltra cuando tus conjuntos de datos no son lo suficientemente inclusivos y la inteligencia artificial aprende de nuestros propios prejuicios. Hemos visto cómo los algoritmos de Facebook influyen en cómo vemos los eventos mundiales, al sesgar lo que aparece en nuestro feed de noticias. Hemos visto cómo Twitter enseñó a Tay, el chatbot de Microsoft, a convertirse en un racista misógino y antisemita en menos de un día. Si no desafiamos el sesgo ahora, como un supertanque, será muy difícil dar marcha atrás.

La inclusión debe ser el objetivo para el futuro de la inteligencia artificial, pero hay una paradoja potencial en construir la diversidad mientras se es tolerante con todos los puntos de vista. ¿Quién decide qué puntos de vista queremos llevar adelante hacia este nuevo mundo y cuáles dejar atrás? ¿Cómo creamos una inteligencia artificial que esté en sintonía con las mentes humanas, pero que ignore los peores elementos de los prejuicios humanos? ¿Dónde encontramos conjuntos de datos neutrales, incluso existen? ¿Debería la inteligencia artificial programarse en torno a una imagen aspiracional del mundo que queremos o una versión realista del mundo actual? Los datos pueden tardar en ponerse al día con la cultura. ¿Cómo creamos una inteligencia artificial que pueda ser más sensible a esto? Es una línea muy fina a seguir, pero en última instancia, necesitamos construir confianza con la inteligencia artificial y las personas que la crean, y confiar en que están creando una tecnología imparcial.

Artículo originalmente publicado en HuffPost.