La Inteligencia Artificial (IA) y la diversidad son dos temas que plantean dilemas desafiantes tanto para las empresas como para los gobiernos. Aunque estos problemas pueden parecer tener poco en común, además de su complejidad, en realidad se superponen. Recientemente, según informes de noticias, Amazon abandonó una herramienta de contratación que utilizaba inteligencia artificial porque favorecía a los hombres. Estos temas fueron objeto de dos grupos de trabajo separados que se reunieron en la conferencia DealBook de la semana pasada. Cada grupo de trabajo, compuesto por unos doce expertos y líderes de la industria, se reunió durante una hora y presentó algunas pautas específicas y áreas de enfoque que se compartieron con la conferencia y podrían ser llevadas de vuelta a las empresas y otras organizaciones para su discusión.
Las empresas de Inteligencia Artificial deben ser conscientes y reconocer que los algoritmos no son neutrales, sino que son creados por humanos con sesgos y creencias, y deben hacer todo lo posible para eliminar esos sesgos. Es demasiado fácil asumir que la tecnología tiene una objetividad que los humanos no tienen. Pero la realidad es que “la inteligencia artificial, el aprendizaje automático y los algoritmos en general son diseñados por nosotros mismos, las personas”, dijo Dipayan Ghosh, miembro del Centro Shorenstein de Medios, Política y Políticas Públicas de la Escuela Kennedy de Harvard. “La IA toma datos de entrada y se apresura a hacer inferencias y tomar decisiones sobre el mundo a una velocidad vertiginosa”, dijo, y esas inferencias incluirán sesgos no reconocidos a menos que las personas estén dispuestas a reconocerlos e invertir tiempo y dinero para eliminarlos.
Frida Polli, cofundadora y directora ejecutiva de Pymetrics, que utiliza IA para reclutar empleados para empresas, mostró cómo podrían surgir sesgos y cómo podrían disminuirse. Los algoritmos utilizados en la IA se crean utilizando conjuntos de datos de entrenamiento. Si un conjunto de datos de entrenamiento tiene una sobre-representación de algún género o etnia, las características que distinguen a ese grupo pueden tener un peso excesivo. Para enfrentar el problema, dijo que su empresa probó un algoritmo en un grupo de referencia de personas de diferentes géneros y etnias para verificar si había sesgos. Si hay un desequilibrio en la prueba, por ejemplo, si se predice que los hombres o los blancos serán buenos candidatos en lugar de las mujeres u otras razas, entonces “podemos analizar la reducción de características”, dijo, lo que altera el algoritmo.
Es fundamental que las empresas y los responsables de la toma de decisiones en el ámbito de la IA comprendan la importancia de la diversidad y la ética en su desarrollo y aplicación. La diversidad en los lugares de trabajo no solo es un imperativo moral, sino que también conduce a una mayor innovación y mejores resultados empresariales. Además, la ética en la IA es esencial para garantizar que las decisiones tomadas por los algoritmos sean justas y no discriminatorias.
En resumen, la IA y la diversidad son temas cruciales en el mundo empresarial y gubernamental. Las empresas deben reconocer que los algoritmos no son neutrales y deben trabajar para eliminar los sesgos en su desarrollo. Al mismo tiempo, es fundamental promover la diversidad en los lugares de trabajo y garantizar que la IA se utilice de manera ética y responsable. Solo así podremos aprovechar al máximo el potencial de la IA y crear un futuro más inclusivo y equitativo.
Crédito del artículo: NY Times
