La primera vez que descubrí este concepto, y se me quedó bien grabado, fue cuando mi profesor de derecho penal nos explicó esta idea con un ejemplo muy clarificador.
En Alemania no hay límite de velocidad en las autopistas y, por tanto, puedes ir a la velocidad que quieras (y puedas). Pero si sucede un accidente y este se produce a una velocidad elevada, la responsabilidad es del conductor, aun cuando puedan existir otras circunstancias que expliquen el accidente. El conductor, al circular a alta velocidad, asume que la posible culpa ante cualquier imprevisto es suya de forma objetiva y directa, dado que, al tomar ese riesgo, lo hace con todas sus consecuencias.
Si alguien cruza la autopista de forma imprudente, el conductor está considerando ese riesgo al circular a altísima velocidad y no disponer de tiempo de reacción. Por ello la responsabilidad se le asigna, de forma objetiva (no depende del comportamiento del sujeto).
Quizás este ejemplo nos debe servir de reflexión en el ámbito de la inteligencia artificial. Quién implanta y usa un sistema basado en algoritmos y datos para tomar decisiones, debe conocer los límites del sistema que está usando y tomar las medidas pertinentes. Asume de forma objetiva que las decisiones que toma el sistema son personales del que ha decidido su implantación y son su responsabilidad.
En un entorno donde existe un desequilibrio tan enorme entre el usuario y los proveedores de servicio, este mecanismo puede lograr situar a ambas partes en una posición equitativa. Esta medida no pretende frenar el uso de sistemas basados en inteligencia artificial, dado que normalmente quién los construye conoce bien sus limitaciones y riesgos. Lo que se persigue es asegurar un GOBIERNO DILIGENTE en su uso. Es decir, que la capa de dirección que decide su uso se involucre de forma inmersiva en estos temas y se haga consciente de los riesgos. Es su decisión asumirlos o no; lo que no es válido es ampararse en el desconocimiento o la elevada complejidad técnica de la decisión.
Es urgente que los equipos directivos aprendan a CONOCER Y VALORAR LOS RIESGOS de la automatización de procesos, especialmente cuando están basados en algoritmos y datos construidos bajo las diferentes disciplinas que hoy denominamos inteligencia artificial. Este es el primer paso para poder hablar de Inteligencia Artificial Responsable.