Alissa Abdullah, de Xerox, habla de cómo la innovación en tecnología y seguridad ha cambiado a lo largo de su carrera.
Los buenos datos entran, los buenos salen: Alissa Abdullah, de CISO de Xerox, habla de cómo la innovación en tecnología y seguridad ha cambiado a lo largo de su carrera.
Dan Patterson, productor principal de CNET y CBS News, se reunió con Alissa Abdullah, de Xerox CISO, para hablar de cómo la innovación en tecnología y seguridad ha cambiado a lo largo de su carrera. La siguiente es una transcripción editada de la entrevista.
Más información sobre ciberseguridad
Dan Patterson: Tu carrera abarca las matemáticas, la política y ahora la ciberseguridad. Antes de que lleguemos al futuro loco e interesante de las impresoras como dispositivos de IO que necesitan ser asegurados, me pregunto si podría ayudarnos a contextualizar dónde comenzó su carrera y un poco de su tiempo en Washington, ¿cómo se informa de dónde se encuentra ahora?
Alissa Abdullah: Claro, así que ahora soy el Director de Seguridad de la Información de Xerox, pero empecé como matemático para una agencia de inteligencia.
Soy un ingeniero criptológico certificado y estoy aprendiendo los pormenores de la criptografía y cómo enlazarla con los sistemas realmente me dio una perspectiva de ciberseguridad, creo que una perspectiva muy diferente de la ciberseguridad. Pero he permanecido en el campo de la tecnología toda mi carrera. Comenzando como matemático e incluso pasando a la tecnología de la información y luego a la ciberseguridad. Cuando empecé a desarrollar sistemas seguros para agencias de inteligencia y dentro del gobierno, en realidad estaba trabajando en el Pentágono cuando recibí la llamada que decía:»Queremos que vengas y te unas a la administración y me quedé total y completamente conmocionado».
Pero, pasando del gobierno, dentro del Departamento de Defensa, en realidad estaba con la NSA, pasando de ahí a la industria, porque yo era el Subdirector de Tecnología de Lockheed Martin, para una de sus unidades de negocio, y el paso a la pequeña empresa porque ese es el contrato que tenía en el Pentágono, realmente me dio experiencia en la industria. Me dio algo de experiencia en el sector privado, me dio experiencia en el sector público. Todo mezclado en una sola persona con todas estas diferentes perspectivas y todas estas diferentes piezas de influencia e información en mis manos, realmente me moldearon y formaron para la Oficina Ejecutiva del Presidente como el CIL Adjunto.
Luego lo tomas y lo embotellas, atascas toda esa información y ahora, el sentido de Xerox, te da una perspectiva diferente de decir no a la innovación porque la seguridad dice no a la tecnología, porque la seguridad y cómo quieres presentar la política y mover la política y, de hecho, sobre la conversación de la ciberseguridad.
VER: Guía del líder de TI sobre el futuro de la inteligencia artificial (Tech Pro Research)
Dan Patterson: Así que creo que una de las cosas que más me fascina de tu carrera es que se extiende, ya que hay matemática muy ingeniosa y dura en criptografía para las pequeñas empresas, para la política y para la empresa. Junto con eso, también has visto esta cadena de innovación, así que me pregunto si podrías decirme, ahora que entendemos tu trayectoria profesional, ¿cómo ha cambiado la innovación en tecnología y cómo ha cambiado la seguridad a medida que ha evolucionado tu carrera?
Alissa Abdullah: Claro, así que empezamos, si pienso en dónde empecé realmente a prestar atención a la tecnología, fue en una época en la que la sociedad se resistía a la tecnología. Si se piensa en las organizaciones de seguridad antes, eran la organización de no. Ellos eran el Dr. No. Si preguntas, quieres hacer algo, no, no vamos a poder hacer eso. El sistema más seguro es el que no está abierto, el que no está conectado.
A partir de ahí, nosotros, creo que a un ritmo muy rápido, saltamos a la consumerización de la TI, ¿verdad? Eso significa ser impulsado por la TI, por los consumidores. Gente que quiere tener más acceso, gente que tiene ese acceso. Aunque las empresas no estaban capitalizando la tecnología, la población de consumidores y sus vidas personales pudieron capitalizar la tecnología.
Eso nos da una sensación diferente en cuanto a trayectoria y ritmo. Mi trayectoria profesional ha abarcado más de 20 años, definitivamente se ha movido muy rápidamente a través de cada una de las fases de la tecnología y ahora, cuando pensamos en cosas de Internet, cuando pensamos en la IA y en el aprendizaje de la máquina y en la posibilidad que tiene para nosotros, no tenemos los mismos límites que solíamos tener antes. No tenemos la misma resistencia que antes porque creo que hemos aprendido que no podemos tener esa cantidad de resistencia.
Dan Patterson: Así que cuando dices, «Cuando solíamos», ponnos en un lugar y tiempo y cómo están las cosas… parece que estás diciendo que hemos llegado a 180 grados de ese lugar en el tiempo.
Alissa Abdullah: Oh, claro.
Dan Patterson: Pero, ¿dónde estábamos y de qué época estamos hablando?
Alissa Abdullah: Creo que probablemente no quiero envejecerme, pero creo que probablemente fue en los años 90 cuando empecé a experimentar resistencia.
Creo que queríamos hacer cosas nuevas, nos estaban presentando…. Google Cloud era Google Cloud antes de convertirse en Google Cloud. Estábamos usando correo web en muchos casos y realmente no teníamos la idea de que era Cloud. Estábamos usando, incluso internet… internet rápido, o probablemente en ese entonces, podría haber sido dial up todavía en ese momento. Sólo recuerdo que había ciertas partes y en ese momento, permitimos que la innovación no la dirigiera el consumidor, porque el consumidor aún estaba aprendiendo, sino que las empresas estaban tratando de penetrar en los pensamientos e ideas. Una vez que el consumidor se dio cuenta de ello, entonces empezó a rodar muy, muy rápidamente y la aceptación de la tecnología comenzó a rodar rápidamente.
Piensa en Netflix. Netflix estaba transmitiendo y haciendo cosas específicas mucho antes de que se enfriara, mucho antes de que se volviera muy, muy popular. Ahora, han crecido eso. Ellos vieron algo y vieron y desarrollaron un producto antes de que se les pidiera. Lo mismo que Apple. Apple desarrolló un producto antes de que se le pidiera. Quién sabe, quién iba a pensar que podríamos tener un teléfono con una cámara y mi agenda al mismo tiempo y todas estas cosas diferentes en un dispositivo modular muy, muy pequeño? Nadie podría ni siquiera pensar en eso. Ahora, realmente estamos hablando de robots que pueden tomar el control y conducir los coches por nosotros y hacer muchas otras cosas diferentes.
Cuando pienso en esas diferentes fases…. Te daré otra experiencia. Cuando el presidente Obama entró en la Casa Blanca, teníamos computadoras de escritorio y disqueteras. ¿Eso fue en 2008 cuando llegó por primera vez? Bueno, fue elegido entonces. Cuando se piensa en eso y todo eso se basaba en nada en contra de cualquier administración, pero es así como estábamos aceptando la tecnología en ese momento. Un presidente vino y dijo:»¿Sabes qué? Quiero tecnología». Quiero que… Es el presidente que ganó con los grandes datos. Es el presidente que ganó en la influencia de la tecnología y cómo usarla realmente. Entonces, hubo un cambio importante y ahora la aceptación de la tecnología dentro de la Casa Blanca. Teníamos un CIO gubernamental que realmente impulsó la tecnología y el cierre de centros de datos y cosas por el estilo. Son esas ideas las que se me ocurren en momentos específicos en el tiempo en los que las cosas sucedieron y que requirieron un cambio importante.
VER: Cybersecurity, AI skills to dominate IT staff hires in 2019 (ZDNet)
Dan Patterson: Cuéntame uno de esos puntos en el tiempo. Hay algunas cosas a las que usted ha dicho que quiero volver, especialmente la resistencia, que supongo que fue en la empresa o la resistencia a la innovación y luego los puntos de inflexión, que suena como el dispositivo móvil.
Antes de que hablemos de eso, cuéntame algunos de estos momentos en el tiempo, que recuerdas como un verdadero sobresaliente, como si las cosas estuvieran cambiando.
Alissa Abdullah: Voy a hablar de una época como la actual, en la que creo que las cosas están cambiando y la gente todavía está luchando con la aceptación de la misma, es decir, los coches eléctricos. Hay mucha discusión sobre si hemos ido demasiado lejos. He estado en algunas discusiones sobre si la IA está tomando el control y estamos perdiendo nuestra capacidad de controlarlo todo. Creo que ese mismo tipo de conversaciones se estaban teniendo cuando empezamos a hablar de la Nube.
Cuando empezamos a hablar de la Nube y a tener nuestros datos en la Nube, algo nebuloso que nadie sabía lo que realmente significaba. Había un montón de…
Dan Patterson: Es sólo la computadora de otra persona.
Alissa Abdullah: Cierto. Hubo mucha conversación, ¿es eso lo que realmente queremos hacer? Estamos acostumbrados a tener nuestros propios datos, estamos acostumbrados a poder entrar en el centro de datos o en nuestro ordenador y ver que sé que está en la unidad C y bla, bla, bla, bla. Vamos a esos lugares específicos y podemos encontrarlo, pero ahora pensamos que no lo quiero. Tengo más capacidad. Tengo más libertad. Puedo acceder a mis datos a través de todos los dispositivos si están en la Nube y no en mi ordenador en casa.
Creo que ese mismo cambio está ocurriendo ahora, cuando pensamos en el avance de la IA, la tecnología moderna y yo saco a relucir los coches eléctricos. No sólo coches eléctricos, sino que he estado en coches que hacen mucho más de lo que piensas. La función de piloto automático es increíble. Creo que es nuestro sentido innato de controlar a los seres humanos. Tenemos que renunciar a parte de ese control y he estado hablando en algunas áreas tecnológicas donde, si renunciamos a ese control, podría ayudar a reducir la escasez de talento. Siempre hablamos de la escasez de talento en tecnología, pero podríamos hablar de la escasez de talento. Probablemente ha hablado con muchas otras industrias y piensan que también hay escasez de talento en su industria.
Creo que necesitamos afinar la IA que nos ayudará a reducir cada vez más la escasez de talentos utilizando los avances de la IA y el aprendizaje automático, pero esa es una conversación totalmente diferente. Creo que estos son puntos fundamentales, porque creo que estamos en un punto fundamental en este momento.
Dan Patterson: ¿Qué es eso?
Alissa Abdullah: El punto central es cómo vamos a aceptar o qué cantidad de IA vamos a aceptar. Es nuestra habilidad para consumirlo y entenderlo y darnos cuenta de que esto está sucediendo. Ese va a ser el ritmo al que hemos adoptado.
Dan Patterson: Bien, tengo preguntas para ti aquí. Quiero llegar a la seguridad en un momento, pero creo que esta conversación sobre el aprendizaje automático y la inteligencia artificial es increíblemente importante porque lo que acabas de decir. Este es un punto de inflexión, como lo era el móvil hace una década. Particularmente, cuando miramos conversaciones más grandes alrededor de la tecnología, específicas con Silicon Valley, pero vemos estas monocultivos que son algoritmos de programación.
¿Qué desafíos tenemos cuando se trata de la brecha tecnológica y de estas monoculturas que programan cosas que influenciarán a millones, si no a miles de millones de personas, como el aprendizaje automático?
Alissa Abdullah: Creo que es el número uno, la brecha de habilidades tecnológicas. No tenemos suficiente gente. No tenemos suficiente gente que, aunque tenemos tanta gente interesada en la tecnología, no tenemos suficiente. Luego, cuando dices que no tienes suficiente, entonces tienes que escalar lo que tienes para escalar lo que tienes en todas las diferentes áreas de la tecnología.
Cuando estuve en PARC, Xerox tiene un centro de investigación llamado PARC, uno de los ingenieros me dijo allí, que un ser humano necesita tres veces para aprender algo. Se necesita una máquina tal vez 3 millones de veces para aprender.
3 millones de veces para aprender que esa cosa es realmente lo que es. Con ese pensamiento, se piensa en la brecha tecnológica y en el aprendizaje y en tratar de capacitar a la gente, aunque puede tomarle 3 millones de veces a una máquina aprender algo, una vez que lo aprende, continúa aprendiendo, continúa creciendo y comienza a aplicarse de inmediato. A veces nos excedemos en el proceso y en la síntesis, y eso es bueno en algunas áreas y no en otras.
Cuando piensas en sobreprocesar y sobre sintetizar ciertas cosas, eso puede ser un obstáculo. Cuando pienso en aplicar la IA…. Hablaré de esto muy rápido, cuando pienso en aplicar la IA en seguridad, son muchas tareas de seguridad de bajo nivel. Lo llevaré un paso más allá, hay un montón de tareas de bajo nivel de tecnología que tal vez no tenemos que tener y sistemas que los hombres hacen. Podemos hacer que algún tipo de robot de IA haga esa tarea por nosotros, para que nosotros como humanos, las personas más inteligentes, trabajemos en el procesamiento superior, las cosas que necesitan una mayor cantidad de inteligencia.
Así es como creo que manejas toda esta brecha de talento o escasez de talento. Usted permite que la IA haga las cosas más pequeñas, el tipo de procesamiento de datos de las cosas. Puedo pensar en ciertas cosas. Cuando pienso en nuestras redes y en cerrar puertos que no necesitan ser abiertos, ningún bot puede hacerlo. No necesito pagarle a un ingeniero… un ingeniero de sistemas o un ingeniero de seguridad para hacer eso.
Dan Patterson: Para cerrar el puerto 80.
Alissa Abdullah: Cierto.
Dan Patterson: Entiendo totalmente lo que estás diciendo y que mecanizaremos y automatizaremos ciertos sistemas, pero cómo lidiaremos con… y sospecho que cuando hagamos zoom y miremos el 2019, 2020, vamos a ver una tonelada de nuevas historias sobre la tecnología de reconocimiento facial que han salido mal o el sesgo de la IA que ha hecho algún daño a algún grupo, en algún lugar. No tiene que ser…. ahora mismo, estamos hablando de hermanos en Silicon Valley. No tiene que ser sólo ese grupo, pero cada vez que consigues una programación de grupo para algo que afecta a mucha gente, consigues que la BIOS se programe en los sistemas.
Cada vez que tengo alguna conversación sobre la IA y especialmente sobre la seguridad de la IA, mis temores siempre van a la BIOS que son inherentes o quizás implícitos o ni siquiera pensamos en esta BIOS, pero terminan en el algoritmo. ¿Cómo nos mantenemos a salvo y seguros? ¿Cómo mantenemos nuestras empresas seguras, nuestro gobierno seguro si nuestros algoritmos están siendo programados por un pequeño puñado de personas?
Alissa Abdullah: Creo que es una conversación de hace mucho tiempo. Los ingenieros de sistemas siempre han dicho que una buena entrada de datos es una buena salida de datos.
Creo que se remonta, cuando realmente se reduce, se remonta a esa base. Buenos datos entran, buenos datos salen porque mi preocupación no es la BIOS, sino todo lo que tienes que hacer…. piensa en ese ejemplo que te di, tres veces para que un humano aprendiera algo, 3 millones de veces para que un bot o algo así o un motor de IA aprendiera algo.
Digamos que he llegado a 2 millones de veces y a 2 millones y uno, obtengo un poco de mala información. Ahora tengo que empezar de nuevo. Así que creo que, cuando se habla de buenos datos de entrada y de buenos datos de salida, tenemos que proteger el conjunto de datos. Creo que la protección del conjunto de datos puede tener un nivel de influencia más importante que el de la BIOS que se puede programar en el bot. Digo esto porque el adversario va tras el conjunto de datos.
Esa es la manera más fácil de penetrar un motor de IA, creo que es penetrar en el conjunto de datos. Agregue una pieza de datos malos y ahora su bot se está volviendo loco y usted está tratando de averiguar por qué y puede que no sea debido a la BIOS pre-programada, pero puede ser debido a un mal conjunto de datos.
Próximo boletín informativo de Big Thing
Conoce las ciudades inteligentes, la IA, la Internet de las cosas, la RV, la conducción autónoma, los aviones no tripulados, la robótica y más de las innovaciones tecnológicas más geniales. Entregado los miércoles y viernes
mismo