data ethics

Triunfar a largo plazo gracias a priorizar la ética de los datos

Las organizaciones necesitan estándares éticos para seguir siendo competitivas.

La moralidad no es una cuestión sencilla, en especial, cuando se trata del complejo tema de la ética de los datos. Esta nueva área de análisis ético examina cómo las organizaciones usan los datos aplicando el principio de no hacer daño. En un mundo perfecto, los datos se usarían para beneficiar a los consumidores, a los empleados y a otros grupos.

Una variedad de organizaciones, desde gobiernos hasta empresas, usa los datos. Y estas entidades tienen un conjunto diferente de valores. Estos valores deberían ser el punto de partida para establecer un programa de ética de los datos que brinde transparencia con respecto al uso de los datos. Un programa de ética de los datos bien definido le permite a una organización decidir lo que se alinea con sus valores y lo que no.

En los últimos cinco a diez años, las organizaciones se han concentrado en recopilar la mayor cantidad de datos posible. Una vez que se reúnen los datos, se usan para obtener análisis o se utilizan en un flujo de trabajo de machine learning. La acumulación masiva de datos puede suponer un riesgo para la seguridad si no se maneja de manera correcta. Y en el caso de los datos personales, plantea problemas en lo que respecta a la privacidad y a la protección.

Según mi experiencia, la mayoría de las organizaciones no priorizan la ética de los datos, y esto es parte del problema. La atención tiende a estar en cómo una organización puede usar los datos para crear valor para los accionistas o los clientes. Por ejemplo, Facebook extrae de manera continua información de los datos para crear valor para sus anunciantes, pero ¿cumple con los estándares éticos?

Por qué necesita un programa de ética de los datos

Las organizaciones que implementen un programa de ética de los datos obtendrán una ventaja competitiva. Estas organizaciones ganarán la confianza del cliente al demostrar que priorizan la privacidad y pueden brindar una completa transparencia con una cadena de suministro de datos éticos.

En una cadena de suministro de datos éticos, una organización realiza un seguimiento de los datos a lo largo de todo su recorrido y puede explicar lo que sucede en cada etapa, al tiempo que garantiza el cumplimiento de los estándares. Es el recorrido integral de los datos desde la recopilación hasta el destino donde, por ejemplo, se optimiza la experiencia del cliente o se utilizan los datos para tomar una decisión comercial.

Las organizaciones que solo consideren el impacto económico inmediato del uso de datos quedarán rezagadas. Las empresas pansóficas progresistas que cuentan con un programa de ética de los datos y entienden a sus clientes y partes interesadas, así como sus obligaciones con el medioambiente, son más atractivas para los clientes. Asimismo, quienes trabajan en el área de la tecnología buscan organizaciones que se alineen con sus valores. Los candidatos están empezando a estar atentos a la existencia de un programa de ética de los datos cuando consideran trabajar para una empresa.

Apple se atribuyó una ventaja ética en relación con su uso de los datos al afirmar que no recopila datos personales. Además, ha usado este mensaje para diferenciarse de la competencia.

Prácticas recomendadas para el programa de ética de los datos

La explicabilidad de los datos y una cadena de suministro de datos éticos son solos dos elementos de un programa completo de ética de los datos. La explicabilidad de los datos significa proveer transparencia en el uso de los datos y algoritmos. Por ejemplo, provee una comprensión de cómo los modelos de machine learning toman las decisiones, lo que, a su vez, puede ayudar a identificar un sesgo. La aplicación de la explicabilidad de los datos crea los controles y las contramedidas para garantizar que los datos se usen de manera ética. Provee visibilidad en el flujo de datos, lo que permite ver quiénes usan qué datos, cuándo los usan y cómo los usan.

Y para crear una cadena de suministro de datos éticos, las organizaciones están comenzando a pensar en el uso de datos de manera anticipada. ¿Cuál es el problema que intentan resolver los datos? ¿O cuál es la experiencia del cliente que intentan crear los datos en uso? ¿Necesitamos recopilar este conjunto de datos en primer lugar?

Otra consideración es la exposición de los datos. Las organizaciones necesitan establecer qué datos están expuestos a diferentes usuarios y la forma en que se utilizan esos datos. Deben existir medidas de protección para evitar el acceso a los datos por razones éticamente cuestionables. Por ejemplo, un empleado de un comercio de retail no debe poder acceder y ver los hábitos de compra de un cliente individual. La necesidad de proteger los datos a nivel individual ofrece un ejemplo para la anonimización de los datos, en especial de los datos personales, lo que puede superar muchos desafíos éticos.

Cómo implementar un programa de ética de los datos

La aceptación por parte de la organización es el primer paso para establecer un programa de ética de los datos. El liderazgo deberá establecer la expectativa de conservación de los estándares éticos a largo plazo. La capacitación de los empleados debe fijar acciones aceptables y prohibidas con respecto al uso de los datos. Y deberá instaurar una junta de ética de los datos con representantes de las diferentes funciones de la empresa que puedan ayudar a tomar decisiones sobre casos de uso contencioso de datos.

Cuando se trata de proyectos o iniciativas individuales, comience a planificar con antelación, ya que es más fácil implementar controles y contramedidas desde el inicio. Esto incluye mapear exactamente cómo se verá la cadena de suministro de datos para que los datos correctos se recopilen en los momentos adecuados.

Tenga cuidado con el sesgo del machine learning

El machine learning es cada vez más importante para la optimización de procesos en las organizaciones y la creación de valor adicional, entre otras cosas. Un hallazgo clave de nuestro Informe anual de investigación de AI/ML 2022 fue que ahora la AI/ML es la segunda tecnología más importante para la estrategia de TI, solo por detrás de la ciberseguridad. Vemos ejemplos a diario de cuán frecuente se ha vuelto el machine learning en nuestras vidas, desde los asistentes virtuales como Alexa y Siri y las recomendaciones musicales hasta el hecho de poder completar los textos de nuestros correos electrónicos. Las personas crean los algoritmos de machine learning, y aunque es posible aprovechar el código para mejorar el proceso, estas todavía están involucradas.

Al ingresar las personas en la ecuación, existe la posibilidad de que haya sesgo, intencionado o no. Las organizaciones deben tener en cuenta cómo se construyen los modelos de machine learning para protegerse del sesgo. Deben implementarse controles. Por ejemplo, ¿es lo suficientemente grande la muestra de datos? ¿Los datos son representativos de la población? Estos tipos de preguntas evitarán que una organización genere inferencias en sus operaciones.

Cuando las organizaciones no tienen en cuenta estos factores, la falta de una estrategia de datos éticos puede tener una repercusión social. Por ejemplo, las organizaciones de tecnología financiera con modelos sesgados de machine learning pueden rechazar la aprobación de un crédito o préstamo de un candidato adecuado. El sesgo puede basarse en factores como la raza, el género o la condición socioeconómica. La correlación puede tener sentido en algunos casos, pero en otros podría considerarse injusta.

Un ejemplo reciente de esto fue cuando Apple se asoció con Goldman Sachs para lanzar una tarjeta de crédito. Los aportes de un desarrollador de software y su esposa fueron los mismos, pero debido al sesgo de género, al esposo se le otorgó un límite de crédito 20 veces mayor que el de su esposa.

El auge del director de Ética

Muchas organizaciones grandes de tecnología, incluidas Facebook y Google, ahora emplean equipos de ética de los datos. Y algunas empresas incluso han contratado a un director de Ética. Sin embargo, ¿tienen estos equipos y ejecutivos la capacidad de hacer cambios? ¿Cuál es su mandato? ¿O son estos roles una respuesta a las presiones externas? Actualmente, no está claro si estos equipos son efectivos y será interesante ver cómo se desarrollan estos roles.

Responsabilizar a todas las entidades

Es importante que los clientes hagan preguntas sobre el uso de sus datos personales. Creo que las personas se sorprenderían al descubrir todas las formas en que las organizaciones recopilan datos de clics, sitios web y aplicaciones, y potencialmente incluso comparten esos datos con otras organizaciones. Se rastrea todo sitio al que se deba acceder con una contraseña. Las personas deben leer las divulgaciones de datos para comprender cómo las organizaciones aprovechan los datos.

Al comprender y cuestionar el uso de los datos, podemos responsabilizar a todas las entidades. Todos debemos asegurarnos de que las organizaciones sean éticas en cuanto al uso de los datos, ya que no solo afecta a las personas, sino también a la sociedad.

 

Join the Conversation: Find Solve on Twitter and LinkedIn, or follow along via RSS.

Stay on top of what's next in technology

Learn about tech trends, innovations and how technologists are working today.

Subscribe

Modern CDO

La Internet del comportamiento: ¿qué es y qué tan preocupados deberíamos estar?

About the Authors

Nihar Gupta

General Manager, Data Services

Nihar Gupta

With over 10 years of experience working with high-growth SaaS/Tech companies, Nihar helps companies achieve their growth objectives through strategic partnerships, corporate development efforts, and executing cross-functional strategic initiatives. He brings significant breadth of experience across strategy, finance, product, and sales and marketing.

Read more about Nihar Gupta