La inteligencia artificial (IA) está revolucionando la forma en que interactuamos con la tecnología. Desde asistentes virtuales hasta sistemas de recomendación, la IA está presente en muchos aspectos de nuestra vida diaria. Sin embargo, a medida que la IA se vuelve más sofisticada, también surgen preocupaciones éticas sobre su uso.

Recientemente, la empresa alemana SAP ha creado un comité de ética de inteligencia artificial para guiar su uso de la tecnología de aprendizaje automático. Este comité está compuesto por expertos técnicos y especialistas en políticas públicas, ética y bioética. Sin embargo, llama la atención que no haya nadie con experiencia en IA en el comité. En cambio, la experiencia en este campo provendrá de dentro de SAP.

El objetivo de este comité es brindar asesoramiento sobre cómo los casos de uso específicos de la tecnología de IA pueden verse afectados por los principios de derechos humanos aceptados internacionalmente y los propios principios rectores de la inteligencia artificial de SAP. Esto es especialmente importante para evitar el sesgo y la discriminación en los sistemas de IA.

El sesgo puede tener un impacto negativo en el software de IA y, a su vez, en las personas y los clientes de SAP. Esto es especialmente cierto cuando existe el riesgo de causar discriminación o de afectar injustamente a grupos subrepresentados. Para abordar este problema, SAP ha establecido que los equipos técnicos deben comprender a fondo los problemas comerciales que están tratando de resolver y reflexionar sobre la calidad de los datos necesarios.

Además, SAP está investigando formas técnicas de mitigar los sesgos y aumentar la diversidad e interdisciplinariedad de sus equipos técnicos. Cuanto más variados sean los antecedentes de sus desarrolladores, mejor será para detectar sesgos sociales y culturales en los datos de entrenamiento y los algoritmos.

La empresa también se compromete a garantizar que su código de IA se someta a pruebas rigurosas en el mundo real y a dejar claro a los clientes la entrada, las capacidades, el propósito previsto y las limitaciones de sus sistemas para evitar malentendidos o un uso indebido de la tecnología.

Es alentador ver que empresas como SAP están tomando medidas para abordar las preocupaciones éticas en la IA. A medida que la tecnología continúa avanzando, es fundamental que se establezcan estándares éticos sólidos para garantizar que la IA se utilice de manera responsable y justa.

Fuente del artículo: The Register