Nuestra visión y misión
Creemos en la visión de una sociedad donde conviven infinidad de sistemas de ayuda a las personas, basados en el uso masivo de datos e inteligencia artificial, que nos permitan disfrutar de un mundo más sencillo, personalizado, equitativo y sostenible.
Somos conscientes de que estos sistemas de alta capacidad tienen también riesgos inherentes derivados de su uso, incluso bien intencionado. Por ello es imprescindible el desarrollo y cumplimiento de estándares, el incremento de la cultura sobre la materia y la buena gobernanza.
ETHALO, ética algorítmica, tiene como misión ayudar a las organizaciones a implantar una cultura sólida y un buen gobierno en el uso de algoritmos de decisión y sistemas basados en inteligencia artificial, a lo largo de todo su ciclo de vida: captura y uso de datos, construcción de modelos, implantación y uso de algoritmos y el control y seguimiento necesario.
Para ello, promueve el uso eficiente de estas tecnologías, integrando elementos de evaluación ética, buen gobierno y control, que incrementen la confianza de los usuarios, minimicen los riesgos reputacionales y legales asociados, y aporten una cultura de impacto positivo en las organizaciones.
El entorno
¿Por qué hablamos de ética?
Usamos el concepto de ética para responder a una demanda creciente, donde el cumplimiento legal se ve superado por la búsqueda de una contribución positiva a la sociedad y su entorno.
Consideramos que los valores son el punto de partida de una organización comprometida con las personas y el medio en el que se desarrolla.
Somos conscientes de que los valores pueden entenderse desde perspectivas diferentes y, en ocasiones, pueden entrar en conflicto. Por ello, nuestra aproximación a la ética algorítmica se apoya en tres pilares (las 3 ‘C’) que permiten un enfoque sólido y plural al mismo tiempo:
- Coherencia: las acciones derivadas de los algoritmos deben ser coherentes con los valores que defiende la propia organización que los usa y con los valores que sus clientes le atribuyen.
- Consenso: los algoritmos deben respetar aquellos principios y valores de general aceptación, representados en las declaraciones y códigos de conducta de amplio reconocimiento.
- Confluencia: cuando los valores entran en conflicto, enfrentamos el caso a las diversas escuelas de pensamiento ético para determinar dónde se produce mayor convergencia de opiniones, asegurando así una visión plural y complementaria que facilita establecer las fronteras de la cuestión, el nivel de confluencia de opiniones y las posibles alternativas.
Ethalo como tercero independiente
Las empresas consideran estos algoritmos parte de su know-how y, por tanto, preservan estos procesos del escrutinio público. Esta conducta, justificada, genera determinados impactos que es necesario gestionar:
- En los clientes puede producir insatisfacción cuando sus aspiraciones no son cubiertas, derivando en muchas ocasiones en dudas sobre la bondad del algoritmo o posibles sesgos discriminatorios. La comunicación efectiva, inteligible y rápida con el cliente es fundamental para mitigar este riesgo.
- En no pocas ocasiones, saltan a la opinión pública prácticas inadecuadas en el uso de algoritmos. Al ser procesos complejos y poco transparentes, se produce un efecto contagio inmediato, de carácter específico en el sector implicado y de carácter más genérico sobre el control de dichos algoritmos. Disponer de los mecanismos adecuados para posicionarse ante estos eventos es crucial para las empresas.
ETHALO nace como una entidad independiente. No desarrollamos algoritmos para ninguna organización, por lo que la confidencialidad, y la no reutilización del know how de los modelos de los clientes, son nuestra premisa básica de trabajo. Nuestra razón de ser es ayudar a las empresas a disponer de un entorno robusto de gobierno, control y gestión de sus algoritmos, que les permita reforzar la bondad de los modelos desde una perspectiva legal, ética y social.