Categoría: Divulgación

  • Evolución de la definición de la IA en Europa

    Evolución de la definición de la IA en Europa

    En otras reflexiones hacíamos referencia a cómo la definición de Inteligencia Artificial adoptada en el reglamento europeo es muy extensiva, dejando un margen muy amplio de interpretación y la propia Comisión Europea hace referencia a posteriores desarrollos.

    Igual de interesante es visualizar como ha ido evolucionando esa definición en el tiempo, pues permite observar el profundo cambio conceptual que se ha producido en la percepción de lo que es la IA y su impacto.

    En 2018 se habla de sistemas inteligentes que deciden acciones. Ya se habla de cierta capacidad de adaptación y autonomía.

    Posteriormente la definición evoluciona a software que, mediante la percepción y el razonamiento, genera la mejor salida (optimización) para cumplir un objetivo.

    En la primera propuesta de reglamento aparece el concepto de generación de salidas en forma de recomendaciones, contenidos, predicciones o decisiones y se incluye el concepto de influencia en el entorno. Sin embargo, desaparece la mención a cómo se logra ese proceso.

    En la versión actual, aflora el concepto de inferencia para explicar el cómo, al tiempo que se retoma el concepto «máquina», dejando atrás la restricción al software.

    Por tanto, son tres los cambios clave que se pueden identificar de forma evolutiva:

    ⭕De sistema a software para finalmente hablar del concepto de máquina, como barrera frente a lo humano, pero más amplio que el mero programa informático.

    ⭕De inteligencia a racionalidad, optimización y, finalmente, inferencia como mecanismo que intenta identificar de forma genérica el proceso interno.

    ⭕De decidir acciones a generar salidas diversas y, finalmente incluyendo el foco en la posible capacidad de influir en el entorno.

    La siguiente infografía ayuda a entender el proceso:

    La historia comienza en una comunicación sobre Inteligencia Artificial para Europa del 25 de abril de 2018, donde se indica que, el término “inteligencia artificial” (IA) se aplica a los sistemas que manifiestan un COMPORTAMIENTO INTELIGENTE, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos. (#678)

    En poco tiempo,  el grupo de expertos de alto nivel designados por la Comisión Europea proponen una modificación de la definición, el 8 de abril de 2019, explicitando que los sistemas de inteligencia artificial (IA) son sistemas de SOFTWARE (y posiblemente también de hardware) DISEÑADOS POR HUMANOS que, dado un objetivo complejo, actúan en la dimensión física o digital percibiendo su entorno a través de la adquisición de datos, INTERPRETANDO los datos estructurados o no estructurados recopilados, RAZONANDO sobre el conocimiento o procesando la información derivada de estos datos y DECIDIENDO la(s) mejor(es) acción(es) a tomar para lograr el objetivo dado. Los sistemas de IA pueden utilizar reglas simbólicas o aprender un modelo numérico, y también pueden ADAPTAR SU COMPORTAMIENTO analizando cómo se ve afectado el entorno por sus acciones anteriores. (#196)

    La propuesta inicial del reglamento de IA, publicada el 21 de abril de 2021, modificaba sustancialmente la definición, indicando que la Inteligencia Artificial es software que puede (…) para un conjunto determinado de OBJETIVOS DEFINIDOS POR SERES HUMANOS, generar información de salida, como contenidos, predicciones, recomendaciones o decisiones que INFLUYAN en los entornos con los que interactúa. (#684)

    La versión que adoptó el Parlamento Europeo antes de iniciar el trílogo, en septiembre de 2023, indicaba que la Inteligencia Artificial es un sistema basado en MÁQUINAS diseñado para operar con diferentes grados de AUTONOMÍA y capaz, para unos objetivos explícitos o implícitos, de generar información de salida -como predicciones, recomendaciones o decisiones- que influya en entornos físicos o virtuales.

    La versión final del reglamento, indica que la Inteligencia Artificial es un sistema basado en una MÁQUINA que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de ADAPTACIÓN tras el despliegue, y que, para objetivos explícitos o implícitos, INFIERE de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.

  • ¿Es importante pararnos en la definición de la Inteligencia Artificial?

    ¿Es importante pararnos en la definición de la Inteligencia Artificial?

    Podemos decir que la respuesta, aunque pueda parecer evidente, no está exenta de matices.

    ⭕ Por un lado, es imprescindible porque la APLICACIÓN DEL REGLAMENTO EUROPEO y sus consecuencias sólo afecta a los sistemas de IA según están definidos en el mismo.

    ⭕ No obstante, la profundidad y rapidez de los cambios que se producen en este ámbito obligará a INTERPRETACIONES EXTENSIVAS en su aplicación real, especialmente en las decisiones donde los jueces y tribunales tendrán que abordar cuestiones técnicas y fronterizas.

    ⭕ Adicionalmente, las organizaciones que aplican la IA están sujetas a un especial escrutinio por parte de la OPINIÓN PÚBLICA, dado el IMPACTO MEDIÁTICO de cualquier noticia al respecto.

    Por tanto, existe un ámbito más amplio que debe considerarse inexcusablemente en la definición de la estrategia empresarial, especialmente en la medición de oportunidades de negocio frente a los riesgos de imagen y reputacionales. No podemos dejar de lado que, en ciertos casos, el ecosistema interconectado y síncrono en el que se desarrollan los negocios, la propagación de determinadas noticias puede tener efectos inmediatos y devastadores para la organización. Debemos tener presente esta triple óptica en las decisiones clave de las organizaciones.

    Conclusión: la IA hoy es todo aquello que puede ser interpretado como inteligencia artificial, aunque no lo sea.

  • ¿Esta máquina funciona con Inteligencia Artificial?

    ¿Esta máquina funciona con Inteligencia Artificial?

    La definición de Inteligencia Artificial del REGLAMENTO EUROPEO, define esta como:

    “un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”

    Atendiendo a la definición y mirando a nuestra foto:

    ⭕Es una máquina, con elementos mecánicos diseñados con un objetivo explícito.

    ⭕Su resultado depende de las entradas que recibe del entorno: la fuerza del empujón inicial, la posición de partida, las posibles corrientes de aire, la temperatura y humedad ambientas y otros factores que influyen en su resultado.

    ⭕Genera un resultado de salida que tiene un claro impacto en los participantes y los promotores del concurso.

    ⭕Incluso tiene cierto comportamiento adaptativo, ya que los sucesivos movimientos y desgaste y la posición anterior influyen en su comportamiento posterior.

    Puede parecer una broma, pero tenemos que ser conscientes de la definición tan abierta que ha adoptado el reglamento europeo sobre IA. La influencia de la aparición de los modelos de IA generativa durante el proceso de tramitación del reglamento ha obligado a considerar esta VISIÓN EXPANSIVA.

    Desde las organizaciones es posible que debamos considerar un umbral de sensibilidad más amplio de la cuestión de lo que inicialmente podemos pensar.

    Un EJEMPLO muy claro en el mundo financiero. El Banco Central Europeo, en su dictamen de 29 de diciembre de 2021 sobre la propuesta de reglamento, indicaba expresamente en su apartado 3.2 que “sugiere que los sistemas de IA destinados a evaluar la solvencia de las personas físicas o determinar su calificación crediticia y que aprovechan el uso independiente de la regresión lineal o logística o los diagramas de decisiones bajo supervisión humana, no se consideren sistemas de IA de alto riesgo”.

    Sin embargo, el reglamento clasifica como de alto riesgo los sistemas de IA dedicados a la evaluación de crédito de personas físicas o establecer su score de crédito, con excepción de los sistemas para detección de fraude. De hecho, se excluyó del texto la redacción alternativa que propuso el BCE en este sentido (propuesta 7 del documento técnico de respuesta).

    Conseuencia: una simple regresión lineal o logística se considera un sistema de Inteligencia Artificial y, además, al tratarse de decisiones de crédito sobre personas físicas, se considera adicionalmente de alto riesgo.