Demasiada automatización conduce a más errores humanos, según Rob Keefer, jefe científico de la empresa consultora de software POMIET.
Cómo elegir la cantidad justa de IA para sus usuariosCódigo PaLOUsa 2019, Rob Keefer, científico jefe de la consultora de software POMIET, explicó por qué demasiada automatización conduce a más errores humanos.
Más información sobre la inteligencia artificial
A medida que la inteligencia artificial (IA) se hace más accesible, los ingenieros de software buscan cada vez más incorporar estos algoritmos en diferentes productos y servicios tecnológicos. Sin embargo, los desarrolladores deben tener cuidado con los inconvenientes de esta tecnología, según Rob Keefer, científico jefe de la empresa consultora de software POMIET.
Demasiada automatización puede llevar a más errores humanos, y como tal, los tecnólogos deben trabajar para determinar la cantidad exacta de IA que se mezclará en sus sistemas para ayudar realmente a sus usuarios: la IA Goldilocks.
«A menudo como tecnólogos hacemos de la tecnología el héroe. Como defensor del usuario, me gustaría convertirlo en el héroe», dijo Keefer en una sesión de la conferencia Code PaLOUsa 2019 en Louisville, KY.
Hacer de la tecnología el héroe tiene algunas consecuencias humanas específicas, dijo Keefer:
- Disminución del aprendizaje: Cuando los usuarios confían demasiado en un producto tecnológico, sus propias habilidades comienzan a atrofiarse. Luego, cuando se encuentran en una situación sorprendente en la que necesitan reaccionar, no recuerdan cómo, dijo Keefer. Esta es la razón por la que los pilotos pasan horas cada semana en vuelos simulados perfeccionando sus habilidades, a pesar de que los aviones generalmente vuelan por sí mismos ahora, dijo Keefer.
- Confianza sin fundamento: Cuando los usuarios confían demasiado en la tecnología, ocurren accidentes, dijo Keefer. Por ejemplo, en el reciente accidente automovilístico de Uber que mató a un peatón, el conductor de seguridad estaba al volante, pero confiaba en la tecnología del automóvil para superar los obstáculos. En otro caso, un conductor de autobús siguió su GPS sin prestar atención a las señales que decían que el espacio libre del puente era de nueve pies, y se estrelló contra él.
- Complacencia y parcialidad: Los psicólogos cognitivos acuñaron los términos complacencia en la automatización (no prestar atención debido a la tecnología) y sesgo en la automatización (creer en la tecnología, independientemente del contexto) para describir estos fenómenos. «Estos dos conceptos son cosas que nosotros, como tecnólogos, debemos tener en cuenta al construir y diseñar sistemas», dijo Keefer.
La pregunta, dijo Keefer, es ¿cómo dejamos que la tecnología se convierta en un asesor, en lugar de simplemente hacer tareas para nosotros?
Dio el ejemplo del coche autopropulsado A8 de Audi, que ofrece a los usuarios advertencias cada vez más severas cuando necesitan volver a tomar el volante del modo autónomo. Si el usuario no responde, el coche llamará al 911. «Se trata de hacer la transición de vuelta al usuario de forma adecuada», dijo Keefer.
Los robots son buenos en el aprendizaje cuando se les dan instrucciones precisas, dijo Keefer. Lo difícil es conseguir que estos sistemas proporcionen la cantidad adecuada de información al usuario para que éste pueda tomar una decisión.
«La automatización debe proporcionar conciencia de la situación», dijo Keefer. Dio el ejemplo de las películas de Iron Man, en las que Tony Stark y el asistente digital de su traje, Jarvis, trabajan juntos para resolver problemas. Jarvis recopila datos para Tony, pero luego pasan a través de la información a un ritmo humano. «Queremos desarrollar sistemas que nos asesoren de esa manera y que operen al ritmo de los usuarios, en lugar de simplemente presentarles la conclusión», dijo Keefer.
VER: Investigación: Las empresas carecen de habilidades para implementar y apoyar la IA y el aprendizaje automático (Tech Pro Research)
El objetivo es crear sistemas hombre-máquina que sean mayores que la suma de sus partes, dijo Keefer. Por separado, Tony Stark y su traje son un hombre rico y una prenda de vestir, respectivamente, agregó. Pero cuando están juntos, crean Iron Man.
Una asociación sólida de IA implica lo siguiente, dijo Keefer:
- Visión compartida: Tanto la IA como el ser humano entienden el objetivo, y tienen el mismo objetivo
- Habilidades compatibles/complementarias: La IA y el ser humano contribuyen en áreas en las que son mejores. Por ejemplo, los humanos son mejores en el reconocimiento que en el recuerdo. Los tecnólogos deben trabajar para crear formas de presentar información en los sistemas tecnológicos que sea reconocible para los usuarios, en lugar de forzarlos a recordar ciertas cosas.
- Buenos sistemas de comunicación
- Cooperación: La investigación sobre el trabajo en equipo se puede aplicar a equipos de personas y máquinas, dijo Keefer.
- Comentarios útiles
- Identificación del liderazgo
- Perspectiva holística
Los tecnólogos necesitan pensar en términos de ambos y cuando se trata de humanos y robots, en lugar de uno u otro, dijo Keefer. «El éxito en dominios complejos dependerá de la capacidad de los humanos y la tecnología para trabajar juntos como compañeros de equipo coordinados», añadió.
Próximo boletín informativo de Big Thing
Conoce las ciudades inteligentes, la IA, la Internet de las cosas, la RV, la conducción autónoma, los aviones no tripulados, la robótica y más de las innovaciones tecnológicas más geniales. Entregado los miércoles y viernes
mismo