En cumplimiento de la primera Ley de la robótica: Análisis de los riesgos laborales asociados a un algoritmo/inteligencia artificial dirigiendo el trabajo (Complying With the First Law of Robotics: An Analysis of the Occupational Risks Associated With Work Directed by an Algorithm/Artificial Intelligence)

Abstract

Spanish Abstract: Cada vez es más frecuente la utilización por parte de la empresa de mecanismos de inteligencia artificial, más o menos avanzados, para gestionar el trabajo: establecer turnos de trabajo, tiempos en la producción, designar y diseñar tareas para los trabajadores, contratar, evaluar el desempeño y despedir. Las empresas confían en que la tecnología recoja toda la información disponible, la procese y tome las mejores decisiones de gestión –optimización productiva- en beneficio de la misma. Con ello, se sustituye a los supervisores y mandos intermedios humanos, así como a los expertos de recursos humanos dejando la dirección de los trabajadores en manos de procesos automatizados manejados por algoritmos –o en su estado más avanzado, en la inteligencia artificial-.

En este trabajo, se exponen los peligros para la salud que nueva forma de gestión tecnológica puede provocar. En efecto, la monitorización constante a través de sensores, la intensificación del trabajo derivada de las decisiones tomadas por una máquina sin empatía ni conocimiento sobre los límites humanos, la reducción de autonomía del trabajador sometido a las decisiones tomadas por la inteligencia artificial, las discriminaciones bajo un manto de neutralidad algorítmica de esas decisiones, así como los posibles errores de funcionamiento, pueden acabar provocando serios problemas de salud física y psicológica para los trabajadores.

Estos riesgos pueden reducirse si se tienen en cuenta en la programación. En este trabajo, se defiende la necesidad de una correcta programación del algoritmo para que valore los riesgos laborales expuestos. Es decir, de la misma forma que un supervisor debe tener formación en prevención de riesgos para poder realizar su trabajo, el algoritmo deberá ser programado para que sopese los riesgos laborales en el trabajo –y en caso de no contar con esta programación deberá impedirse su utilización para dirigir trabajadores. Concretamente, el algoritmo deberá ser trasparente, adaptado a las capacidades reales del trabajador, deberá dejar algún margen de autonomía al trabajador y respetar su privacidad. En definitiva, el algoritmo deberá valorar cualquier elemento que suponga un riesgo para la seguridad y salud de los trabajadores. Para ello, se defiende que la preceptiva evaluación de riesgos, realizada por los técnicos, sea volcada en la programación del algoritmo para que este la respete en la toma de decisiones en la dirección del trabajo.

English Abstract: The use of Artificial Intelligence mechanisms, more or less advanced, to manage the work is more and more frequent: to establish work shifts, production times, designate and design tasks for workers, hire, evaluate the performance and fire. Companies trust that technology collects all available information, processes it and makes the best management decisions - productive optimization - for the benefit of it. With this, the supervisors and middle managers are replaced, as well as the human resources experts, leaving the direction of the workers in the hands of automated processes managed by algorithms - or in their most advanced state, in Artificial Intelligence.

In this work, the health hazards that new form of technological management can cause are exposed. Indeed, the constant monitoring through sensors, the intensification of work derived from the decisions taken by a machine without empathy or knowledge about human limits, the reduction of autonomy of the worker subjected to the decisions made Artificial Intelligence, discriminations, under a blanket of algorithmic neutrality of these decisions, as well as possible operational errors, they can end up causing serious physical and psychological health problems for workers.

These risks can be reduced if they are taken into account in programming. In this work, the need for a correct programming of the algorithm to assess the exposed occupational risks is defended. That is to say, in the same way that a supervisor must have training in risk prevention to be able to carry out his work, the algorithm must be programmed to weigh the occupational hazards at work - and in case of not having this programming, its use to direct workers should be banned. Specifically, the algorithm must be transparent, adapted to the real capabilities of the worker, must leave some margin of autonomy for the worker and respect their privacy. In short, the algorithm must assess any element that poses a risk to the safety and health of workers. To do this, it is argued that the mandatory risk assessment, carried out by the technicians, should be done focused on programming the algorithm so that it respects it in decision making in the work direction.

Note: Downloadable document is in Spanish.

Keywords: Prevención de riesgos laborales, Inteligencia Artificial para dirigir el trabajo, toma de decisiones automatizadas, people analyitics, Big Data, algoritmos para gestionar el trabajo