Por una ética en el uso de los datos

Cuando comenzó a generalizarse el uso de internet, la primera gran preocupación social que apareció en el uso de información personal radicaba en la seguridad de la misma: robo de claves bancarias, espionaje de correos electrónicos... Sin embargo, el paso del tiempo nos demostró que no solo debíamos preocuparnos de los malos, sino que eran precisamente los que considerábamos buenos, especialmente las grandes tecnológicas que tan fácil nos hacían la vida, los que de verdad nos espiaban, y además de forma desmedida, utilizando dicha información para fines no declarados, convirtiéndonos en un rentable producto que vender a terceros, incluso sin nuestro consentimiento.

Por suerte vivimos en una parte del planeta donde las leyes entraron a mitigar parte de estos efectos indeseados. Sin embargo, el hecho de que cumplamos escrupulosamente las leyes no significa necesariamente que tengamos un comportamiento ético, entre otras razones porque las leyes siempre van por detrás de la realidad.

Es por ello que, una vez incluidos en el debate público los dilemas sobre la seguridad y la privacidad, el siguiente paso en la evolución de nuestras preocupaciones lo constituye la llamada ética de los datos, entendida como el respeto de unos determinados principios en el uso de los datos. Estos principios se pueden resumir en uno: la persona siempre debe estar en el centro, es decir, el procesamiento de datos debe ir siempre en beneficio de aquellos de los cuales los hemos capturado y proteger su dignidad, integridad, libertad, privacidad y seguridad.

Realmente se trata de una concepción muy kantiana de la moral, ya que supone considerar a los seres humanos como un fin en sí mismos, y no como un medio para alcanzar un fin. Sospecho que son pocas las corporaciones que incluyen a Kant entre las lecturas recomendadas a sus directivos.

La mayoría de los algoritmos funcionan encontrando patrones en comportamientos pasados y proponiendo una solución para el momento presente. Por ello sucede que, si el pasado ha sido injusto, el algoritmo seguramente propondrá soluciones injustas. Todo esto, lógicamente, si los programadores o quienes los controlan no lo impiden. Veamos algunos ejemplos de lo que podría hacer un algoritmo sin control: el recomendador de puestos de trabajo de LinkedIn puede ofrecer puestos mejor remunerados a los hombres puesto que históricamente los varones han recibido mejores sueldos. Una compañía de seguros puede ofrecer mejores primas a mujeres por haber tenido una menor siniestralidad en el pasado. Un banco puede denegar créditos a personas de una determinada etnia ya que tradicionalmente han sido peores pagadores.

Es decir, la llamada Inteligencia Artificial perpetúa los sesgos del pasado si nadie lo impide. Y lo peor de todo es que, en ocasiones, ni siquiera los programadores son conscientes de ello ya que la complejidad de la solución tecnológica dificulta su trazabilidad. La Ética de los Datos no es solamente una cuestión de repetición de sesgos, sino que en ocasiones el propio uso de los datos coadyuva a un propósito de dudosa moralidad. Pensemos en las compañías de venta de comida basura que utilizan los datos de sus clientes para maximizar el número de visitas a sus restaurantes, sin importar que la ingesta excesiva provoque problemas de salud. O los gobiernos que utilizan la tecnología de reconocimiento facial para perseguir minorías, en lugar de emplearla en promover la equidad hacia las mismas.

Ahora bien: ¿Pueden las empresas hacer algo al respecto, o son simplemente esclavas de un determinismo inevitable al que les conduce la tecnología? La respuesta es meridiana: sí. Las organizaciones pueden y deber evitar las erosiones del bien común derivadas del uso de los datos. Y además pueden hacerlo porque la tecnología les habilita para ello. Si se puede entrenar a un algoritmo para ofrecer a nuestros hijos contenidos anestésicos 'in aeternum', también se puede programar para dificultar el consumo excesivo de contenido multimedia. Si un modelo de Procesamiento del Lenguaje Natural puede entender lo que decimos y escribimos y respondernos razonablemente, también puede controlar la extensión de mensajes de odio en las redes. La cuestión por tanto no es si se puede, técnicamente hablando, controlar el uso de los datos, sino si se quiere hacer.

No nos llevemos a engaño, los datos son una pieza fundamental para que las empresas alcancen sus objetivos estratégicos. La clave reside precisamente en cuáles son esos objetivos estratégicos. Si tus intenciones son exclusivamente generar beneficio para los accionistas, entonces llevarás a cabo una serie de acciones que te conduzcan a ello. Sin embargo, si incluyes dentro de tus objetivos estratégicos el hecho de comportarte de manera ética, entonces estás balanceando todas tus iniciativas organizativas hacia el respeto de una serie de principios morales. Por este motivo, cuando preguntemos a un líder cómo de relevante es la ética en el uso de los datos para su compañía, no nos conformemos solamente con el clásico «es una prioridad para nosotros». Hagámosle una pregunta: ¿qué estrategia está siguiendo su compañía para llevarlo a cabo? O mucho más sencillo, dado que sin indicadores no hay estrategia: ¿qué indicador utiliza para medirlo?

En todo caso, resulta complejo para las compañías balancear sus acciones hacia iniciativas que minoren el beneficio. Por este motivo existen dos grandes incentivos. Por un lado, las leyes, ya que nada hay más incentivador que la posibilidad de incurrir en una buena sanción. Por otro lado, el libre mercado otorga a los consumidores un enorme poder: dejar de contratar un determinado producto o servicio si no cumple con los estándares éticos que consideramos razonables.

El problema en este caso reside en que necesitamos consumidores digitales informados y militantes. Informados para detectar los riesgos que se ocultan en la gestión de los datos y militantes para reaccionar ante quiebras éticas con medidas coercitivas que incentiven a las compañías a controlarse. Como en tantos otros asuntos, cerrar los ojos ante determinados comportamientos, sencillamente los perpetúa. La tecnología no es buena o mala en sí misma, carece de ética. Los dilemas éticos surgen con los usos que le damos a dichas tecnologías. Por ello debemos anticiparnos y dotarnos de un armazón moral suficientemente completo como para afrontar este incierto y apasionante futuro, así como dotar a nuestra ciudadanía de un conocimiento suficiente para poder actuar con decisión ante las erosiones del bien común.