#estoyenetopia_

Paloma Llaneza: «Tras los algoritmos siempre hay un humano que toma una decisión»

Entrevista a Paloma Llaneza, abogada y ensayista especializada en ciberseguridad (PARTE I). Por Marta Cambronero

Paloma Llaneza, autora del libro ‘Datanomics‘ (Deusto, 2019), participó en la presentación de La Experiencia de la Sala de Cristal en el Centro de Arte y Tecnología Etopia, en mayo de 2019. Aprovechamos su visita a Zaragoza para hablar con ella y conocer más sobre cómo funciona este mundo en el que vivimos, basado en el análisis de datos que generamos en nuestra vida cotidiana sin ser apenas conscientes de ello. 

¿Crees que somos conscientes de lo que sucede desde el momento en que encendemos nuestro teléfono móvil?

En absoluto. Yo era bastante inconsciente. En el proceso de escritura del libro ‘Datanomics’, consulté muchos estudios, hablé con ingenieros, hice pruebas de concepto… Hasta ese momento tenía una vaga idea de cuánto dato no consciente podía dar un dispositivo aproximadamente. Me quedé muy sorprendida de la brutalidad de datos que generamos.

¿De quién es la responsabilidad?

Nunca del usuario. Hay un discurso de echarte la culpa diciendo que no te has leído las condiciones legales de 45 páginas en una pantalla de teléfono. La tecnología está diseñada para ser extraordinariamente útil, pero también para tener un componente adictivo y de consumo compulsivo. Las condiciones legales las escriben para desanimar. Por tanto, creo que la responsabilidad no se puede poner del lado del usuario. No todavía, quizá un día sí, cuando estemos en un momento de mayor madurez o cuando las empresas faciliten de un vistazo las condiciones de privacidad y de recogida de los datos.

La responsabilidad por ahora se ha de poner del lado del que recoge los datos. Pero, obviamente, cuando tu negocio es la extracción de datos masiva, salvaje, está claro que no vas a ser extraordinariamente transparente en tu comunicación con el consumidor. Este nivel de extracción de datos requiere un nivel de transparencia por parte del que recoge datos que exige que expliques no solo qué recoges sino cómo lo tratas a posteriori; qué tecnología utilizas; si va a haber una persona escuchando conversaciones con inteligencia artificial, como ha pasado con Alexa; cómo funciona esa inteligencia artificial; y, sobre todo, permitir que haya revisiones de esas sociedades mercantiles para saber cómo funcionan y cuál es su modelo de negocio que ahora mismo es completa y absolutamente opaco.

¿Es la Ley de Protección de Datos -y el RGPD- suficiente para velar por la privacidad de los usuarios?

Esta legislación ha introducido un enfoque totalmente distinto. La empresa tiene que tener una actitud proactiva para proteger la privacidad. Desde el punto de vista teórico, está muy bien: que yo como empresa tenga la obligación no solo de obtener el consentimiento expreso sino de tomar todas aquellas medidas necesarias para que la privacidad se garantice desde el diseño de cualquier producto y de cualquier servicio. Pero es muy complicado llevarlo a efecto desde una empresa mediana y pequeña. En las empresas grandes están en mejor disposición de hacerlo.

En segundo lugar, las leyes que incorporan un sistema de sanciones tan duro como el que tiene el Reglamento [por Reglamento General de Protección de Datos] requieren de profesionales que inspeccionen esas empresas para poder poner esas sanciones. Las agencias están limitadas en su capacidad de investigación y, por lo tanto, se tendrá que elegir investigar a aquellas empresas que tienen una mayor trascendencia social, un mayor impacto desde el punto de vista de ejemplaridad. La realidad es que la capacidad inspectora es limitada en relación con el uso que se hace de los datos todos los días por parte de empresas privadas y públicas. Creo que están totalmente desbordados.

Como vemos, se está exigiendo a grandes empresas que manejan una gran cantidad de datos personales una mayor transparencia sobre cómo tratan estos datos. Pero, ¿cómo es esa transparencia en cuanto a los algoritmos que utilizan?

Cuando alguien hace un tratamiento masivo de datos que tiene un impacto en la vida, el patrimonio, en la toma de decisiones de una persona, se tiene que explicar la decisión automatizada que se ha tomado sobre ti. La redacción [de la ley] puede dar lugar a la confusión y dar a entender que la decisión tiene que ser totalmente automatizada. Formalmente, no hay decisiones totalmente automatizadas, sino que tras los algoritmos siempre hay un humano que toma una decisión con base a ese rating que te da una inteligencia artificial. Una IA te puede decir que yo tengo un 85% de probabilidades de tirar esta botella al suelo, de impagar un crédito o de contraer una determinada enfermedad. Pero, al final hay una persona que es la que decide que acepta o deniega un crédito o una póliza de seguros en función de ese rating.

Sí que se dice en el Reglamento que cuando tú vas a coger el dato y vas a utilizar ese dato con la finalidad de tomar decisiones -por ejemplo, con una IA- tienes que explicar la lógica de la toma de decisiones. Qué es la lógica de la toma de decisiones es algo muy difícil de explicar, sobre todo porque muchas veces las IA funcionan como una caja negra y no sabemos qué decisiones están tomando porque están autoaprendiendo. Así que aún estamos a la espera de que alguien nos explique en qué consiste este punto y cómo lo vamos a aplicar las empresas.

Paloma Llaneza en la Sala de Cristal. Foto: Julián Fallas

He leído que no utilizas aplicaciones como Facebook o como Whatsapp. ¿Cómo te las apañas para comunicarte con tus amigos o profesionalmente?

Hay una cosa que se inventó en el siglo XIX que se llama teléfono, que funciona divinamente. Y además tiene una gran ventaja. No es como en el Whatsapp, que la gente deja unos tostones de voz cerrados y luego al rato otro le contesta. La conversación es síncrona. Yo hablo y tú me respondes al mismo tiempo. Es un invento buenísimo, que funciona divinamente y que sobre la marcha en un minuto resuelves lo que en Whatsapp te lleva diez minutos de enviar mensajes. Bien es cierto que yo ya no soy una adolescente que necesite Whatsapp para comunicarme con mi red y comprendo que ya tengo una edad distinta y ya no lo necesito, pero sí veo a mi alrededor a gente completamente enganchada. Creo que hay medios suficientes para comunicarse sin llegar a esto. Tengo un teléfono móvil, varias cuentas de correo electrónico, SMS, estoy en Twitter, en Linkedin… La gente que me quiere encontrar me encuentra siempre. Y sigo el principio un poco de las abuelas: si te quiere, llamará. 

¿Recomendarías otras aplicaciones de mensajería instantánea?

Hay otras aplicaciones que son más respetuosas con la intimidad de las personas y que no pertenecen a una empresa grande como Facebook o Instagram. Son más interesantes, sin duda alguna. Pero, desde un punto de vista práctico, creo que consumen muchísimo tiempo. Además, la información que tienes al final del día en el teléfono móvil no está cifrada y, por tanto, si tienes un sistema operativo que es capaz de hacer un backup de lo que tienes en el teléfono móvil -da igual que la comunicación vaya cifrada de punto a punto-, el backup se hace con los datos descifrados. Yo creo que el gran problema son los sistemas operativos de los teléfonos móviles junto con algunas aplicaciones, que por sí mismas son preocupantes.

Se comenta que la geolocalización de los smartphone se almacena igualmente en los servidores aunque el usuario rechace los permisos. Parece ser que los permisos son una mera formalidad.

De hecho, hubo una noticia hace unos años, que también recoge ‘Datanomics’, en la que se habla de esto. La gente cree que desactivando el geolocalizador ya no se está geoposicionando, aunque en realidad sí lo está haciendo. Hay que hacer una operación muy complicada, nada intuitiva, para que el aparato no te geoposicione. Es un caso muy concreto, el de un sistema operativo que es Android que sale de fábrica a punto para las empresas de telefonía. Es un sistema operativo tremendamente intrusivo y por tanto es complicado no decirle a Google dónde estás.

Esta entrevista la estamos realizando en la Sala de Cristal del Centro de Arte y Tecnología Etopia. ¿Qué te parece la exposición? ¿Cómo crees que puede ayudarnos a tomar conciencia de lo que ocurre con nuestros datos y a protegernos mejor?

Cuando hablo de datos a veces pienso que repito algo que todo el mundo sabe, pero lo que es obvio para la gente que se dedica a la ciberseguridad, que somos una panda de paranoicos, no es obvio para el resto de la gente. No creo que haya que hacer responsable al usuario del atraco de datos al que es sometido pero tampoco le vamos a mantener en la ignorancia para siempre. Esto es un proceso de maduración en el que la gente tiene que saber cuál es la trascendencia de sus actos.

Creo que es muy interesante esta exposición porque lo hace de una manera visual, gráfica, sin tecnología de por medio y sin contar cosas muy complicadas. Cuenta cosas muy sencillas y el propio nombre lo dice. Te coloca en cómo vivirías si en tu casa, en lugar de tener unas paredes sólidas y una puerta, vivieras en una caja de cristal en la que tus vecinos te pudieran ver en el cuarto de baño, ducharte, discutir con tu marido, con tu novia, masturbarte, llorar o tantas y tantas cosas que uno hace envuelto por la protección de las cuatro paredes de su casa. Pues es que esas cuatro paredes de tu casa que te protegen ya no te protegen. Eso es lo que viene a contarnos la Sala de Cristal.

Cultura digital

Línea de cultura contemporánea en el contexto digital, en la que el Centro de Arte y Tecnología busca acercar a la ciudadanía las nuevas narrativas surgidas en el ámbito digital, a partir de la convergencia entre los distintos medios y la aparición de nuevas prácticas sociales y culturales asociadas a la innovación tecnológica y el contexto digital, así como favorecer una “contaminación” entre artistas de muy diversas disciplinas.

Cultura digital

Línea de cultura contemporánea en el contexto digital, en la que el Centro de Arte y Tecnología busca acercar a la ciudadanía las nuevas narrativas surgidas en el ámbito digital, a partir de la convergencia entre los distintos medios y la aparición de nuevas prácticas sociales y culturales asociadas a la innovación tecnológica y el contexto digital, así como favorecer una “contaminación” entre artistas de muy diversas disciplinas.

Slider

¡Síguenos!

Síguenos en las redes sociales para recibir información actualizada de todo lo que ocurre en etopia_

Newsletter

Suscríbete a nuestro newsletter para recibir información sobre los contenidos de estoyenetopia.es.

¡Suscríbete aquí!