Inhi Cho Suh, Director General de IBM Watson Business Applications, explica cómo la insuficiencia de datos, dispositivos de IO, valores incorrectos y otros factores pueden influir en el sesgo generado por las máquinas dentro de la IA.
CES 2019: Cómo IBM Watson utiliza la IA para descubrir el sesgo oculto – Gerente General de las aplicaciones de negocio de IBM Watson Inhi Cho Suh discute cómo datos insuficientes, dispositivos de IO, valores incorrectos y otros factores pueden influir en el sesgo generado por la máquina dentro de la IA.
En el CES 2019, la escritora Teena Maddox habló con el Director General de aplicaciones de negocio de IBM Watson, Inhi Cho Suh, para hablar sobre las formas en que los sesgos generados por las máquinas pueden influir en la IA. La siguiente es una transcripción editada de la entrevista.
Más de CES 2019
Inhi Cho Suh: Uno de los temas principales en la industria que creo que es increíblemente importante es la confianza en la IA; lo que es más importante, cómo podemos aplicar realmente la IA para descubrir los sesgos. Cuando piense en los prejuicios, piense en todos los tipos diferentes, tanto los prejuicios sociales como los generados por las máquinas.
Lo que quiero decir con eso es que, al pensar en cómo funciona la IA, comienza con los datos. Usted puede tener un sesgo en torno a la falta de datos, por lo que en las áreas de procesamiento de préstamos, donde está aprobando préstamos, puede haber menos empresas propiedad de mujeres como conjunto de datos en el mercado de los EE.UU. que hay empresas propiedad de hombres, y tal vez sea un área en la que haya escasez de datos. Por lo tanto, usted puede tener un sesgo inherente para ello, como ejemplo.
VER: Noticias, fotos, videos y más de CES 2019 (ConsejoTecnologico.com en Flipboard)
Puede haber otros sesgos, como el pensamiento grupal. Podrían ser limitaciones de tiempo en torno a los proyectos, pero también sesgos generados por las máquinas en los datos y la IA. Por ejemplo, los dispositivos de IO, al pensar en la temperatura, el medidor y el control… si esos dispositivos no están capturando el conjunto de datos correctamente para ese entorno, podrían generar toda una serie de desafíos.
Uno de los principales proyectos en los que estamos trabajando se llama AI Trust and Transparency. Es la capacidad de ver los modelos de IA en las operaciones, durante la producción, y ver dónde se puede detectar, ‘Hey, puedo tener un sesgo debido a la sensibilidad en torno a ciertos criterios de decisión’.
VER: CES 2019: Las grandes tendencias para las empresas (ZDNet Special Feature)
Puede haber sesgo porque el conjunto de datos es insuficiente; puede haber sesgo debido a los valores, es decir, cómo se han establecido los criterios de decisión dentro de la estructura de gobierno para tomar una decisión. Una de las cosas en las que estamos trabajando, en términos de un ecosistema abierto, es permitir a los desarrolladores y a las empresas adoptar marcos de trabajo abiertos, marcos de trabajo de aprendizaje de máquinas, en la industria de una variedad de proveedores que proporcionan inteligencia artificial más allá de IBM y ver cómo se ejecutan realmente esas aplicaciones en entornos reales.
Próximo boletín informativo de Big Thing
Conoce las ciudades inteligentes, la IA, la Internet de las cosas, la RV, la conducción autónoma, los aviones no tripulados, la robótica y más de las innovaciones tecnológicas más geniales. Entregado los miércoles y viernes
mismo