¿Es la persona contra la máquina?

El nombre de Stephen Normandin nos suena desconocido. Sin embargo, él fue noticia mundial a inicios del mes de julio de este año. Stephen era un conductor contratista de distribución de Amazon bajo el programa Amazon Flex, un programa similar en su funcionamiento a Uber, pero enfocado en “usar su propio vehículo para entregar paquetes para Amazon como una forma de ganar dinero extra”.

Durante cuatro años Stephen entregó paquetes en la ciudad de Phoenix. Un día, a finales de junio, recibió un e-mail donde era despedido del programa Amazon Flex. Lo particular del caso es que fue despedido por un “bot”. Es decir, una máquina, sin supervisión de un humano, tomó la decisión de despedir a Stephen como resultado de su desempeño.

Los algoritmos de Amazon Flex realizan un monitoreo continuo a los desplazamientos de los conductores por medio del GPS, y así mismo, complementan la información con el cumplimiento de las promesas de entrega y las reclamaciones de los consumidores. Con el análisis de esta información se califica el desempeño de los conductores, clasificándolos en cuatro categorías: fantástico, excelente, regular o en riesgo.

Este caso es un reflejo de las tecnologías que están dominando la cuarta revolución industrial. Por un lado, el internet de las cosas que permite una hiperconectividad para capturar datos del mundo físico, lo que denominamos la “big data”, y por otro lado, la inteligencia artificial que analiza esos datos y los convierte en información para la toma de decisiones. En el caso de Stephen, el “bot” no solo analizó los datos y generó la recomendación, sino que estaba programado para automáticamente ejecutar las decisiones.

Dentro del amplio espectro de lo que es la inteligencia artificial, el aprendizaje automático (Machine Learning) está ganando cada vez más espacio, especialmente por la confluencia entre la creciente disponibilidad de datos y la mayor capacidad de procesamiento de los computadores. El aprendizaje automático se realiza mediante la ingesta de grandes cantidades de datos; posteriormente se genera el reconocimiento de patrones, y así el sistema aprende a diferenciar resultados “correctos” e “incorrectos”. El aprendizaje automático es utilizado en múltiples interacciones de nuestra vida cotidiana como por ejemplo en el análisis de riesgo de los usuarios financieros; en la clasificación del correo spam; en el avalúo de propiedades; en recomendaciones de compra en el comercio electrónico; en servicios de atención al cliente por medio de chat; en recomendaciones de películas en servicios como Netflix, y así en múltiples usos más.

Volviendo al caso de Stephen, la portavoz de Amazon indicó que, “las afirmaciones de despido irrazonable eran anecdóticas y afirmó que no representa la experiencia de la mayoría de los conductores de Flex”. Sin embargo, de acuerdo con una investigación de Bloomberg, algunos exejecutivos de la empresa indican que en Amazon “sabían que el delegar el trabajo a las máquinas conduciría a errores y titulares de prensa dañinos, pero decidieron que era más barato confiar en los algoritmos que pagarle a la gente para que investigara los despidos erróneos siempre que los conductores pudieran reemplazarse fácilmente”.

Nos queda un gran dilema ético y práctico: ¿hasta donde automatizar la ejecución de las decisiones sin perder los beneficios de productividad que genera el aprendizaje automático, pero a su vez, sin perder el contacto humano y la empatía?

El Machine Learning no se debe ni se va a detener, pero en nuestras organizaciones debemos introducirlo acompañado de mecanismos de compensación que faciliten un contacto humano oportuno y cercano en casos de discrepancias.