Categoría: Radar

  • Evolución de la definición de la IA en Europa

    Evolución de la definición de la IA en Europa

    En otras reflexiones hacíamos referencia a cómo la definición de Inteligencia Artificial adoptada en el reglamento europeo es muy extensiva, dejando un margen muy amplio de interpretación y la propia Comisión Europea hace referencia a posteriores desarrollos.

    Igual de interesante es visualizar como ha ido evolucionando esa definición en el tiempo, pues permite observar el profundo cambio conceptual que se ha producido en la percepción de lo que es la IA y su impacto.

    En 2018 se habla de sistemas inteligentes que deciden acciones. Ya se habla de cierta capacidad de adaptación y autonomía.

    Posteriormente la definición evoluciona a software que, mediante la percepción y el razonamiento, genera la mejor salida (optimización) para cumplir un objetivo.

    En la primera propuesta de reglamento aparece el concepto de generación de salidas en forma de recomendaciones, contenidos, predicciones o decisiones y se incluye el concepto de influencia en el entorno. Sin embargo, desaparece la mención a cómo se logra ese proceso.

    En la versión actual, aflora el concepto de inferencia para explicar el cómo, al tiempo que se retoma el concepto «máquina», dejando atrás la restricción al software.

    Por tanto, son tres los cambios clave que se pueden identificar de forma evolutiva:

    ⭕De sistema a software para finalmente hablar del concepto de máquina, como barrera frente a lo humano, pero más amplio que el mero programa informático.

    ⭕De inteligencia a racionalidad, optimización y, finalmente, inferencia como mecanismo que intenta identificar de forma genérica el proceso interno.

    ⭕De decidir acciones a generar salidas diversas y, finalmente incluyendo el foco en la posible capacidad de influir en el entorno.

    La siguiente infografía ayuda a entender el proceso:

    La historia comienza en una comunicación sobre Inteligencia Artificial para Europa del 25 de abril de 2018, donde se indica que, el término “inteligencia artificial” (IA) se aplica a los sistemas que manifiestan un COMPORTAMIENTO INTELIGENTE, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos. (#678)

    En poco tiempo,  el grupo de expertos de alto nivel designados por la Comisión Europea proponen una modificación de la definición, el 8 de abril de 2019, explicitando que los sistemas de inteligencia artificial (IA) son sistemas de SOFTWARE (y posiblemente también de hardware) DISEÑADOS POR HUMANOS que, dado un objetivo complejo, actúan en la dimensión física o digital percibiendo su entorno a través de la adquisición de datos, INTERPRETANDO los datos estructurados o no estructurados recopilados, RAZONANDO sobre el conocimiento o procesando la información derivada de estos datos y DECIDIENDO la(s) mejor(es) acción(es) a tomar para lograr el objetivo dado. Los sistemas de IA pueden utilizar reglas simbólicas o aprender un modelo numérico, y también pueden ADAPTAR SU COMPORTAMIENTO analizando cómo se ve afectado el entorno por sus acciones anteriores. (#196)

    La propuesta inicial del reglamento de IA, publicada el 21 de abril de 2021, modificaba sustancialmente la definición, indicando que la Inteligencia Artificial es software que puede (…) para un conjunto determinado de OBJETIVOS DEFINIDOS POR SERES HUMANOS, generar información de salida, como contenidos, predicciones, recomendaciones o decisiones que INFLUYAN en los entornos con los que interactúa. (#684)

    La versión que adoptó el Parlamento Europeo antes de iniciar el trílogo, en septiembre de 2023, indicaba que la Inteligencia Artificial es un sistema basado en MÁQUINAS diseñado para operar con diferentes grados de AUTONOMÍA y capaz, para unos objetivos explícitos o implícitos, de generar información de salida -como predicciones, recomendaciones o decisiones- que influya en entornos físicos o virtuales.

    La versión final del reglamento, indica que la Inteligencia Artificial es un sistema basado en una MÁQUINA que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de ADAPTACIÓN tras el despliegue, y que, para objetivos explícitos o implícitos, INFIERE de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.

  • El todavía poco conocido artículo 64.4.d del Estatuto de los Trabajadores

    El todavía poco conocido artículo 64.4.d del Estatuto de los Trabajadores

    La realidad es que las empresas buscan objetivizar y automatizar al máximo los aspectos relacionados con la gestión de personal. Esa objetivización es clave para preservar la meritocracia en la organización, así como la automatización parece imprescindible para lograr incorporar el mayor número de variables posibles y que se tenga en cuenta a todos los trabajadores en los diferentes procesos de evaluación y control.

    Esto implica la incorporación cada vez mayor de algortimos en estos procesos, lo que puede generar dos sensaciones contraproducentes, el exceso de control y la discriminación algorítmica (bajo una aparente objetividad).

    Por ello, en este ámbito hay que reforzar con especial intensidad la transparencia en la medida de lo posible y, al menos, el control y la verificación por parte de terceros que aporten tranquilidad a los afectados. En el largo plazo, la productividad siempre se ve significativamente afectada por la percepción de los trabajadores sobre el entorno de selección, control, remuneración y evolución profesional en la empresa.

    La inmensa relevancia de real decreto, que introduce la obligación de informar al comité de empresa sobre estos algortimos, quedó oculta por el impacto mediático de la asimilación de los llamados riders como asalariados. Del mismo modo, la exposición de motivos del texto legal no hace ningún énfasis en este aspecto. Unicamente encontramos una aproximación cuando señala que «otra de las reflexiones compartidas por la mesa de diálogo social consiste en señalar que no podemos ignorar la incidencia de las nuevas tecnologías en el ámbito laboral y la necesidad de que la legislación laboral tenga en cuenta esta repercusión tanto en los derechos colectivos e individuales de las personas trabajadoras como en la competencia entre las empresas».

    Es fundamental que las empresas entiendan el alcance de este cambio, para evitar poder ser acusados de incumplir con la ley o incluso de oscurantismo consciente.

    Del mismo modo, creemos que los representantes de los trabajadores pueden solicitar legítimamente que participen terceros para apoyar su valoración sobre estos algortimos, dada su posible complejidad técnica.

    Transcribimos aquí de forma literal la normativa en lo que afecta a este punto:

    Artículo 64. Derechos de información y consulta y competencias.

    1. El comité de empresa tendrá derecho a ser informado y consultado por el empresario sobre aquellas cuestiones que puedan afectar a los trabajadores, así como sobre la situación de la empresa y la evolución del empleo en la misma, en los términos previstos en este artículo.

    Se entiende por información la transmisión de datos por el empresario al comité de empresa, a fin de que este tenga conocimiento de una cuestión determinada y pueda proceder a su examen. Por consulta se entiende el intercambio de opiniones y la apertura de un diálogo entre el empresario y el comité de empresa sobre una cuestión determinada, incluyendo, en su caso, la emisión de informe previo por parte del mismo.

    En la definición o aplicación de los procedimientos de información y consulta, el empresario y el comité de empresa actuarán con espíritu de cooperación, en cumplimiento de sus derechos y obligaciones recíprocas, teniendo en cuenta tanto los intereses de la empresa como los de los trabajadores.

    (…)

    4. El comité de empresa, con la periodicidad que proceda en cada caso, tendrá derecho a:

    (…)

    d) Ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles.

    (…)

    El comité de empresa tendrá derecho a emitir informe, con carácter previo a la ejecución por parte del empresario de las decisiones adoptadas por este, sobre las siguientes cuestiones:

    (…)

    f) La implantación y revisión de sistemas de organización y control del trabajo, estudios de tiempos, establecimiento de sistemas de primas e incentivos y valoración de puestos de trabajo.