¿Alguna vez tuviste la sensación de que alguien espía tus movimientos a través de alguna herramienta digital que usás a diario? ¿Hay compañías oyendo nuestras conversaciones y revisando nuestros hábitos, al otro lado de la pantalla? El temor no es infundado, tampoco una simple paranoia.
De hecho, fue una práctica comprobada en los asistentes virtuales que desarrollan las empresas muy poderosas e incluyen muchos de los dispositivos que usamos habitualmente. Nos referimos al espionaje (¿de qué otro modo llamarlo?) a través de sistemas como Apple Siri, Amazon Alexa y Google Assistant, entre otros; una de las grandes polémicas en la industria tecnológica durante 2019.
Los asistentes indiscretos
Las sospechas se confirmaron a mediados del año pasado. El puntapié lo dio un informe en la televisión de Bélgica, en el que se afirmaba que Google revisaba conversaciones privadas de los usuarios con Assistant, el asistente de voz que se incluye en Android y en dispositivos que comercializa esa empresa, como altavoces inteligentes.
Luego de ese reporte llegaron otros que dieron cuenta de prácticas similares por parte de otras compañías, entre ellas Amazon, Apple, Microsoft y Facebook. Diferentes personas contratadas por aquellas firmas contaron detalles de la tarea que se les encargó: revisar y en ocasiones transcribir las interacciones de los usuarios con esos sistemas.
Algunos contratistas comentaron que no sólo escucharon comandos clásicos, por ejemplo “clima para hoy” o búsquedas comunes y corrientes. En ciertas oportunidades oyeron discusiones de pareja, gemidos sexuales, e incluso charlas de pacientes y médicos en el consultorio. Ocurre que, a veces, el asistente se activa en forma accidental. Eso dijeron.
Con las sospechas confirmadas y el consecuente descontento, las empresas involucradas se vieron obligadas a revisar sus prácticas. En términos generales, prometieron que respetarán la privacidad de los usuarios aunque señalaron que las escuchas (cuando sean consentidas, desde ahora) servirán para mejorar sus sistemas de inteligencia artificial, que indefectiblemente mejoran en base al análisis y la experiencia.
Más allá de esas promesas, la confirmación de las escuchas dejó una marca en 2019. Seguramente, los asistentes virtuales siguen siendo utilizados por la gran mayoría. Pero, acaso, ahora somos más cuidadosos al relacionarnos con esas tecnologías que asisten pero que, al hacerlo, saben cada vez un poco más sobre nosotros.
El crédito machista
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7 2019
Uno de los gestos más innovadores de Apple a lo largo de 2019 ha sido Card, la tarjeta de crédito de la compañía con sede en Cupertino, California. Para desprevenidos, se trata de una solución integrada a la aplicación de pagos Wallet que ofrece una experiencia de uso similar a Apple Pay y que, en este caso, permite administrar la herramienta de crédito directamente desde el dispositivo con iOS.
Pero la innovación se manchó a fines del año pasado por una acusación que derivó en una investigación a cargo del Departamento de Servicios Financieros de Nueva York. ¿Qué ocurrió? Usuarios acusaron a Apple Card de prácticas machistas. En concreto, de ofrecer mayor crédito a hombres que a mujeres, sin importar los avales financieros de los solicitantes, incluso cuando ellas tienen mejores calificaciones financieras.
El debate surgió luego de una serie de tuits que publicó un programador danes y que cobraron gran viralidad, especialmente cuando el mismísimo cofundador de Apple, Steve Wozniak, también reveló el caso suyo y de su esposa.
Desde la compañía señalaron que los límites de crédito no se establecen en base a factores como el género, aunque se espera que la investigación determine si efectivamente se aplicaron mecanismos irregulares y/o algoritmos sesgados, en cualquier caso contrarios a la ley neoyokina.
El Tinder genético
En el epílogo de 2019, a mediados de diciembre, cobró notoriedad un polémico desarrollo a cargo de un genetista estadounidense de la Universidad de Oxford, llamado George Church. Este hombre creó una aplicación de citas que usa el ADN como variable central para los emparejamientos... o para evitarlos.
La intención de DigiD8, tal como bautizó a la app, es evitar que dos personas portadoras de una misma enfermedad hereditaria se conozcan y, luego, tengan hijos. “Sólo revisamos enfermedades clínicamente muy graves”, dijo el investigador en referencia a ciertos trastornos que requieren que, para que surjan en un niño, tanto el padre como la madre presenten la misma mutación en uno de sus genes.
Church presentó su proyecto en el programa 60 Minutes, en la televisión estadounidense, y pronto se desató la polémica. “Demasiado cerca de los intentos de Adolf Hitler”, dijeron en la publicación Popular Mechanics. Por su parte, en Vice consideraron que “una app de citas genética es una cosa horrible que no debería existir”.
Frente al revuelo, el genetista defendió su idea. Dijo que toma como modelo a una reconocida organización para evitar la transmisión de enfermedades hereditarias graves, y enarbola el lema “la ciencia es tu compinche”. Los que quieran usar la app deberán pagar cerca de 45 euros al mes, incluyendo el respectivo análisis genético.
