En la Celebración Grace Hopper 2019, Rebecca Parsons de ThoughtWorks explicó por qué el sesgo de la IA es tan peligroso para las empresas.
En la Celebración Grace Hopper de 2019, Rebecca Parsons, de ThoughtWorks, explicó por qué el sesgo de la IA es tan peligroso para las empresas.
En la Celebración Grace Hopper 2019, Rebecca Parsons de ThoughtWorks habló con Alison DeNisco Rayome, de ConsejoTecnologico.com, sobre por qué el sesgo de la IA es tan peligroso para las empresas. La siguiente es una transcripción editada de la entrevista.
Rebecca Parsons: Con muchos de estos sistemas de IA, es difícil saber sobre qué base están tomando la decisión. Y en muchos países del mundo existen protecciones legales contra la discriminación por motivos de raza, género u orientación sexual. Y si usted no sabe sobre qué base se están tomando las decisiones, ¿cómo puede usted, de hecho, saber que está cumpliendo con la ley?
Cuando piensas en cómo un sistema de IA aprende un modelo, mira los datos que existen del pasado y desarrolla un modelo basado en ellos. Si existe un sesgo sistémico en la creación de esos datos, ya que hay muchas pruebas de que existe, por ejemplo, un sesgo racial en nuestro sistema de justicia penal, ¿cómo pueden estos modelos, que están capacitados en datos históricos, no estar sesgados?
VER: Guía ejecutiva de la IA en los negocios (ebook gratuito)
Hay maneras en las que usted puede pensar en probar estos modelos para ver si muestran sesgo. Hay maneras de pensar sobre el conjunto de datos y analizarlos para tratar de ver si hay sustitutos para cosas como la raza y el género que están entrando en los datos, y analizar los datos de tal manera que tal vez se pueda empezar a mitigar contra ellos. Pero mucho de esto es simplemente ser consciente del tipo de datos de los que se está extrayendo. Y, ¿hay cuestiones en la creación de esos datos que deberíamos tener en cuenta?
También hay técnicas en las que es un poco más fácil entender la base sobre la que se está haciendo una recomendación. Por lo tanto, tal vez pueda entrenar usando diferentes métodos a partir de los mismos datos, y observar el que le dice qué tipos de patrones está recogiendo en los datos, y eso podría darle una idea del sesgo que podría existir en los datos.
Humanos, todos los humanos tienen prejuicios. Y tenemos que reconocer cómo esos prejuicios pueden introducirse, tanto a través de nuestras reacciones inconscientes hacia las personas, como también en la sociedad que nos rodea. Y tenemos que ser conscientes de cuáles son esos prejuicios, porque si no lo somos, no podemos hacer nada al respecto.
Boletín informativo para ejecutivos
Descubra los secretos del éxito del liderazgo en TI con estos consejos sobre gestión de proyectos, presupuestos y cómo enfrentarse a los retos del día a día. Entregado los martes y jueves
mismo