Sistemas expertos: Guía Completa: qué es, para qué sirven, clasificación

Los sistemas expertos son aplicaciones tecnológicas que pertenecen al gran campo de la inteligencia artificial y pueden identificarse como programas o sistemas informáticos que reproducen la actuación de uno o varios expertos en un campo de actividad determinado (dominio). Estos sistemas están ya bastante maduros y, por lo tanto, son ampliamente aplicables en muchos contextos; un ejemplo es la venta de productos complejos para la que es imprescindible contar con un configurador de productos.

En este servicio, que actualizaremos periódicamente, analizamos en detalle qué son los sistemas expertos, cómo funcionan, cómo se aplican y dónde pueden producir beneficios para las empresas.

¿Qué son los sistemas expertos? Evolución e historia

Su evolución y historia se remontan a las décadas de 1960 y 1970, cuando los pioneros en la IA, como Allen Newell y Herbert A. Simon, desarrollaron los primeros sistemas de razonamiento basados en reglas. Estos sistemas se centraron en la resolución de problemas mediante la aplicación de lógica inductiva y deductiva.

A medida que avanzaba el tiempo, los sistemas de conocimiento experimentaron un crecimiento significativo en la década de 1980, con el desarrollo de herramientas como MYCIN para el diagnóstico médico y Dendral para la identificación de compuestos químicos. Esta era también vio la creación de herramientas de desarrollo de sistemas expertos, como CLIPS. Sin embargo, a medida que avanzaba la década de 1990, los sistemas expertos enfrentaron desafíos debido a su dependencia en la representación de conocimiento y la captura de reglas, lo que llevó a una mayor exploración de otras ramas de la IA, como el aprendizaje automático. A pesar de esto, los sistemas expertos siguen siendo una parte importante de la IA, y con la evolución tecnológica actual, continúan desempeñando un papel relevante en la toma de decisiones automatizada.

Estructura de un sistema experto

Imagen de sistemas de conocimiento: Fundamentos, Metodologías y Aplicaciones. Sebastián Badaró, Leonardo Javier Ibañez y Martín Jorge Agüero

¿Cuál es el objetivo de un sistema experto?

Un sistema experto tiene como objetivo ayuda a encontrar la solución óptima a un problema concreto sin tener que recurrir a un experto en la materia. Un procedimiento que el sistema experto puede llevar a cabo incluso con datos incompletos, trabajando con tipos de  datos cualitativos más que cuantitativos, utilizando la llamada lógica difusa, es decir, un razonamiento “aproximado” que conduce a resultados altamente probables.

Inteligencia artificial y sistemas expertos

Por tanto, es fácil ver por qué los sistemas de conocimiento entran en el amplio mundo de la inteligencia artificial en lugar de ser clasificados como programas informáticos “normales”: dado un conjunto de hechos, los sistemas expertos son capaces de deducir nuevos hechos.

Una peculiaridad de los sistemas expertos tiene que ver con la “explicación” de las decisiones a las que llega el sistema: un sistema experto siempre es capaz de mostrar los pasos lógicos que subyacen a las decisiones tomadas, lo que se llama Glass Box, un aspecto muy importante si se comparan estos sistemas con las redes neuronales y el Deep Learning más modernos, para los que se habla de Black Box, sistemas con los que no es posible trazar el proceso inductivo y deductivo que lleva a una salida, ya sea una acción o una decisión.

Clasificación de los sistemas expertos

En la actualidad, los sistemas de conocimiento pueden dividirse en dos categorías principales:

Sistemas expertos basados en reglas

Se trata de sistemas basados en reglas clásicas bien conocidas por el mundo de la informática en la forma IF (condición) y THEN (acción). Dado un conjunto de hechos, los sistemas de conocimiento son capaces de deducir nuevos hechos gracias a sus reglas.

Pongamos un ejemplo muy claro que explique bien cómo funcionan las reglas: tenemos un problema de salud y para llegar a la respuesta a la pregunta “¿cuál es mi problema de salud?” proporcionamos al sistema experto una serie de informaciones (me duele la cabeza, estoy resfriado, tengo fiebre). El sistema experto llegará a la conclusión de esta manera:

SI DOLOR DE CABEZA + SI FRÍO + SI TEMPERATURA CORPORAL A 38 grados centígrados… ENTONCES GRIPE.

En la práctica, el sistema analiza si se dan todas las condiciones (dolor de cabeza, y resfrío y fiebre) para deducir con alta probabilidad que la conclusión, la respuesta al problema, es la gripe.

Sistemas expertos basados en árboles

En este caso, dado un conjunto de datos y algunas deducciones, el sistema experto crea un árbol (de posibles alternativas) que clasifica los distintos datos. Ante un problema, se analizan nuevos datos del árbol y el nodo final representa la solución.

Un sistema experto basado en un árbol es, en esencia, un software experto capaz de reconocer un problema a partir de una secuencia de hechos, decisiones o acciones. Partiendo de una situación inicial, todas las opciones posibles (las condiciones SI, es decir, las posibles alternativas Y/O) se ramifican en situaciones y acciones hasta llegar a una conclusión.

Sistema experto basado en casos

Son los sistemas que parten de problemas que ya han sido resueltos en un dominio de aplicación y mediante un proceso de adaptación, encuentran la solución óptima a un nuevo problema.

sistemas de conocimiento basado en redes bayesianas

Son sistemas que poseen gráficos de variables conocidas y relaciones de dependencia entre ellas. El objetivo es determinar la probabilidad de aquellas variables que no son conocidas.

Otras clasificaciones

También se pueden clasificar por criterios diferentes:

1. Basados en el dominio de conocimiento:

   • Sistemas Expertos Médicos: Diseñados para diagnosticar enfermedades y ofrecer recomendaciones médicas.
   • Sistemas Expertos Financieros: Ayudan en la toma de decisiones relacionadas con inversiones, préstamos y planificación financiera.
   • Sistemas Expertos de Ingeniería: Utilizados para diseñar y resolver problemas en ingeniería, como diseño de productos y control de calidad.
   • Sistemas Expertos de Diagnóstico: Se enfocan en la detección de fallas y resolución de problemas en sistemas técnicos y mecánicos.

2. Basados en la forma de razonamiento:

   • Sistemas Basados en Reglas: Utilizan reglas if-then para tomar decisiones.
   • Sistemas Basados en Casos: Resuelven problemas comparando la situación actual con casos previamente resueltos.
   • Sistemas Basados en Redes Semánticas: Utilizan representaciones de conocimiento basadas en grafos para el razonamiento.
   • Sistemas Basados en Lógica Difusa: Tratan con la incertidumbre y la imprecisión en el conocimiento.

3. Basados en la interacción con el usuario:

   • Sistemas Expertos Interactivos: Requieren interacción activa del usuario para obtener información y proporcionar recomendaciones.
   • Sistemas Expertos de Asesoramiento: Ofrecen consejos y sugerencias a usuarios en busca de orientación en un área específica.
   • Sistemas Expertos de Diagnóstico Automático: Recopilan datos automáticamente y generan diagnósticos sin intervención activa del usuario.

4. Basados en la naturaleza de las tareas:

   • Sistemas Expertos de Clasificación: Clasifican elementos en categorías o grupos específicos.
   • Sistemas Expertos de Planificación: Ayudan a generar planes y secuencias de acciones.
   • Sistemas Expertos de Control: Controlan sistemas y procesos automatizados utilizando conocimientos expertos.

5. Basados en el alcance de la aplicación:

   • Sistemas Expertos Generales: Tienen conocimientos amplios y pueden aplicarse a una variedad de dominios.
   • Sistemas Expertos Específicos: Se enfocan en dominios de conocimiento altamente especializados y limitados.

6. Basados en la forma de adquisición de conocimiento:

   • Sistemas Expertos de Adquisición Manual de Conocimiento: Los conocimientos son introducidos manualmente por expertos humanos.
   • Sistemas Expertos de Aprendizaje Automático: Utilizan algoritmos de aprendizaje automático para adquirir conocimientos a partir de datos.

¿Cómo funcionan los sistemas expertos?

Los sistemas expertos se estructuran en tres niveles tecnológicos diferentes:

1. Base de conocimiento: podríamos identificarla como la base de datos de información que el sistema necesita para dar respuesta a un determinado problema, como lo haría el ser humano experto que tiene el conocimiento específico de la materia que se va a aplicar a la resolución del problema. Es el repositorio donde se almacena la información y las reglas que permiten al sistema aplicar el razonamiento;
2. Motor inferencial: la base de conocimientos subyacente a un sistema experto también contiene la información específica de un conjunto de reglas If-Then o Si-Entonces: si se da una determinada condición -por ejemplo, se hace una determinada pregunta- se aplica una regla específica -por ejemplo, se hace una segunda pregunta o se da una respuesta específica o se inicia una acción específica, etc. Este “motor de reglas” es, de hecho, el componente de software que, analizando y procesando la información contenida en la base de conocimientos, entiende el problema y propone una solución.
3. Interfaz de usuario: es la parte del software que permite al usuario explotar el motor de inferencia; suele ser una interfaz web, a veces muy simplificada (una página en la que el usuario introduce una pregunta de forma escrita y recibe la respuesta elaborada por el sistema experto en la pantalla) a veces más estructurada (hoy en día también puede integrarse con otros sistemas basados en la inteligencia artificial como el reconocimiento y la comprensión del lenguaje natural).

Reglas Heurísticas, Lógica Difusa y Redes Bayesianas como Pilares del Conocimiento

La tecnología subyacente que impulsa a los sistemas expertos se basa en varios conceptos fundamentales, entre los que se incluyen:

1. Reglas Heurísticas: Las reglas heurísticas son pautas o principios empíricos que guían el razonamiento humano. En los sistemas expertos, se utilizan reglas heurísticas para codificar el conocimiento de expertos en forma de “si-entonces”. Por ejemplo, “Si los síntomas A, B y C están presentes, entonces el diagnóstico es X”. Estas reglas permiten que el sistema experto tome decisiones basadas en la experiencia acumulada.
2. Lógica Difusa: La lógica difusa es un enfoque que permite manejar la incertidumbre y la imprecisión en el razonamiento. A diferencia de la lógica binaria convencional (verdadero o falso), la lógica difusa permite representar grados de verdad. Esto es especialmente útil cuando se trata con conceptos vagos o subjetivos. Por ejemplo, en un sistema médico, la lógica difusa puede expresar que un síntoma es “muy probable” en lugar de simplemente “verdadero” o “falso”.
3. Redes Bayesianas: Las redes bayesianas son modelos probabilísticos que utilizan teoremas de probabilidad bayesiana para representar y actualizar la incertidumbre en un sistema. Son especialmente útiles cuando se deben tomar decisiones basadas en evidencia acumulada. Por ejemplo, en medicina, una red bayesiana puede ayudar a calcular la probabilidad de que un paciente tenga una enfermedad en función de múltiples factores, como síntomas, historial médico y resultados de pruebas.

Lógica difusa: tercera generación de sistemas expertos

En lugar de basarse en una estructura predefinida para la toma de decisiones, los sistemas expertos son capaces de proponer al usuario la mejor alternativa posible al encontrar la solución óptima al problema entre todas las disponibles (utilizando la lógica difusa).

La lógica difusa es una teoría matemática que se ocupa de modelar la incertidumbre y constituye una extensión de la lógica clásica. En la lógica clásica, un concepto es verdadero o falso, no se aceptan “matices” (si lo analizamos en el contexto de la teoría de conjuntos, si algo no pertenece al conjunto A, debe pertenecer al conjunto B). En la realidad humana, las cosas no funcionan de forma binaria, dado que nuestra propia mente no funciona definiendo todo en función de verdadero/falso, blanco/negro, sí/no, etc., y un concepto puede ser parcialmente verdadero o parcialmente falso. Es aquí donde entra en juego la lógica difusa.

La lógica difusa es especialmente útil para tratar la incertidumbre y la aproximación presentes en la realidad, y, por lo tanto, es fundamental en los sistemas expertos. La lógica difusa es capaz de representar las situaciones típicas en las que actuaría un ser humano y, por tanto, puede utilizarse en aplicaciones informáticas como los sistemas expertos, que son capaces de responder de manera similar a un experto humano.

Ejemplo de lógica difusa:

Imagen de: Conference: III Jornadas Costarricenses de Computación e Informática

Los sistemas expertos de primera generación, que surgieron a finales de los años 60 y principios de los 70, se basaban en la lógica booleana (verdadero/falso) y el razonamiento lógico en condiciones de certeza mediante un modelo determinista (causa-efecto). Sin embargo, pronto se hizo evidente su mayor limitación: el razonamiento artificial chocaba con la lógica, de modo que el experto humano superaba ampliamente al sistema experto artificial.

Los sistemas expertos de segunda generación introdujeron el modelo probabilístico, superando así las limitaciones de la lógica que habían interrumpido la evolución de los sistemas expertos de primera generación. El modelo probabilístico, a diferencia del determinista, razona en términos de “causa-posible-efecto”. Siguiendo este modelo, los sistemas expertos avanzaron considerablemente, pero se encontraron con el hecho de que la respuesta más probable no siempre es la más útil, lo que representó un problema importante al abordar problemas complejos.

Por ello, en los años 80 y 90, se introdujo la lógica difusa en los procesos inferenciales, dando lugar a la tercera generación de sistemas expertos. Fue a partir de esta generación cuando se empezó a hablar de sistemas de apoyo a la decisión (DSS). A diferencia de los sistemas expertos clásicos, que eran capaces de proporcionar respuestas a preguntas concretas, gracias a la introducción y uso de las redes bayesianas y las redes de decisión, estos sistemas evolucionaron y dejaron de ofrecer respuestas “simples”, pero sí información útil para el proceso de toma de decisiones.

Tareas de los sistemas expertos

Como hemos explicado en los párrafos anteriores, los sistemas expertos se utilizan para encontrar respuestas a problemas complejos que, si se delegaran en el ser humano, requerirían la intervención de expertos en una materia o dominio determinado.

Precisamente por estas características, los sistemas expertos se utilizan en todos los procesos de resolución de problemas a través de tareas

Interpretación

los sistemas expertos analizan datos complejos y potencialmente “ruidosos” para determinar su significado (el sistema experto puede aplicarse en los casos en que es necesario disponer de descripciones de situaciones a partir de datos procedentes de diversas fuentes, por ejemplo, en el ámbito del IoT con datos procedentes de sensores);

Diagnóstico

en algunos casos, los sistemas expertos analizan los datos para determinar una enfermedad y, por tanto, “sugieren” un diagnóstico; en otros, el sistema experto deduce las anomalías o el mal funcionamiento mediante la observación (útil, por ejemplo, en el ámbito del mantenimiento predictivo);

Supervisión

los sistemas expertos analizan los datos para definir si existen condiciones de alarma y, por tanto, si es necesario crear alertas en tiempo real en situaciones críticas (lo que hace el sistema experto es comparar las observaciones en tiempo real para identificar las situaciones de alarma);

Planificación y programación

los sistemas expertos se utilizan aquí porque determinan una secuencia inteligente de acciones para lograr un objetivo determinado;

Predicción

en este caso, el sistema experto se convierte en el elemento a través del cual, aplicando un modelo adecuado del pasado y el presente, se pueden predecir patrones futuros (por ejemplo, en el ámbito económico o político);

Diseño y configuración

en este caso, los sistemas son capaces de diseñar y configurar soluciones/respuestas sobre la base de determinadas especificaciones (el sistema experto configura “objetos”, propuestas, soluciones de acuerdo con las restricciones).

Diseños expertos aplicados por sectores

• Ventas: Para comprender mejor el funcionamiento de los sistemas expertos, hemos elegido el ámbito de aplicación de las ventas, especialmente las “complejas”, aquellas en las que la oferta depende de la elección, el tamaño y la configuración de un producto “variable” y complejo, que se estructura sobre la base de varios componentes y múltiples listas de precios diferentes. Los sistemas expertos aplicados a este ámbito empresarial concreto entran en el ámbito del diseño y la configuración. En particular, situados dentro de soluciones como los configuradores de productos comerciales (soluciones utilizadas por los comerciales en modelos de negocio donde la propuesta es especialmente compleja por la propia naturaleza de los productos comercializados, las posibles combinaciones de soluciones, las variables que afectan al resultado final y, por tanto, a la propia realización del producto y su precio), los sistemas expertos representan el eslabón tecnológico que permite definir los criterios de configuración.
• Diseño: En general, un configurador de productos debe cumplir la tarea de simplificar la elección de los bienes que se van a comprar; un proceso que no siempre es inmediato cuando hay numerosas variables en juego (dimensionamiento, gran número de componentes, uso de materiales particulares, combinación de materias primas y materiales diversos con el consiguiente impacto en las propiedades físicas, mecánicas o químicas, etc.). Cuando es necesario configurar productos que deben insertarse en proyectos complejos (por ejemplo, plantas de fabricación o sistemas y maquinaria que deben funcionar en condiciones climáticas particulares o entornos industriales “críticos”), los configuradores de productos deben ser “expertos e inteligentes” hasta el punto de permitir a los usuarios buscar, identificar, evaluar y solicitar lo que necesitan de forma independiente, sin recurrir a un experto técnico. Este es quizás uno de los ámbitos más maduros en los que la inteligencia artificial, mediante el uso de sistemas expertos, puede demostrar los enormes beneficios empresariales de la tecnología. Los sistemas expertos aplicados a los configuradores de productos comerciales pueden actuar como herramientas de diseño y de venta

Cuando se utiliza internamente en la empresa

El sistema experto integrado en un configurador de productos puede actuar como una herramienta de diseño (por ejemplo, para configurar plantas según reglas o cantidades físicas que no están necesariamente predeterminadas en un entorno complejo).

Cuando se utiliza para las ventas

El sistema experto dentro del configurador de productos se convierte en el elemento que permite a los usuarios configurar los productos existentes de catálogos muy amplios, dimensionar los productos que no figuran en la lista, comprender las especificaciones para el diseño de productos que aún no están en el catálogo.

• Medicina: Los sistemas expertos médicos se utilizan para ayudar en el diagnóstico y el tratamiento de enfermedades. Pueden analizar síntomas, : historias clínicas y resultados de pruebas para ofrecer recomendaciones a médicos y pacientes.
• Ingeniería:En la ingeniería, los sistemas expertos ayudan en el diseño y la resolución de problemas técnicos. Por ejemplo, en la ingeniería civil, pueden asistir en el diseño de estructuras seguras.
• Finanzas: En el sector financiero, los sistemas expertos se utilizan para la toma de decisiones de inversión, la gestión de riesgos y el análisis de datos financieros. Ayudan a los inversores y analistas a tomar decisiones informadas.
• Industria Manufacturera: Los sistemas expertos en la fabricación pueden supervisar y controlar procesos de producción, identificando problemas y proponiendo soluciones en tiempo real.
• Educación: En el campo educativo, se utilizan sistemas expertos para el diseño de planes de estudio personalizados y sistemas de tutoría inteligente que adaptan la enseñanza a las necesidades de los estudiantes.
• Derecho: Los sistemas expertos legales pueden ayudar a los abogados a investigar casos y aconsejar sobre estrategias legales. Analizan leyes y jurisprudencia para ofrecer orientación legal.
• Atención al Cliente: En el sector de atención al cliente, los chatbots y asistentes virtuales utilizan sistemas expertos para responder preguntas y resolver problemas de manera eficiente.
• Agricultura: En la agricultura de precisión, los sistemas expertos ayudan a los agricultores a tomar decisiones sobre siembras, riego y gestión de cultivos basadas en datos y condiciones meteorológicas.
• Aeroespacial: En la industria aeroespacial, los sistemas expertos se utilizan para el diseño y la planificación de misiones espaciales, así como para el mantenimiento y reparación de aeronaves.
• Seguridad: Los sistemas expertos se aplican en sistemas de seguridad para detectar comportamientos sospechosos y amenazas, como en la seguridad cibernética y la vigilancia.
• Recursos Humanos: En la gestión de recursos humanos, se utilizan sistemas expertos para la selección de personal y la evaluación de candidatos.Automatización Industrial: En la automatización de procesos industriales, los sistemas expertos controlan y optimizan sistemas complejos, como líneas de ensamblaje y plantas de fabricación.

Ejemplos concretos de sistemas expertos

Hay muchos ejemplos de sistemas expertos, pero algunos de los más importantes son:

1. Diagnóstico Médico:Dxplain: Ayuda a los médicos a diagnosticar enfermedades analizando síntomas y datos clínicos.
2. Planificación de Tratamientos Oncológicos:Watson for Oncology (IBM): Ayuda a los oncólogos a determinar tratamientos efectivos para pacientes con cáncer basándose en datos clínicos y literatura médica.
3. Detección de Fraude en Tarjetas de Crédito:Sistemas de Detección de Fraude: Utilizan sistemas expertos para identificar patrones de gasto inusuales y posibles fraudes en transacciones con tarjetas de crédito.
4. Diseño Arquitectónico e Ingeniería:AutoCAD: Incorpora características de sistemas expertos para ayudar en el diseño arquitectónico y de ingeniería.RUCON: Sistema experto para la planificación de procesos de producción en la industria química.
5. Gestión de Carteras de Inversión:Addepar: Ayuda a gestionar carteras de inversión y tomar decisiones financieras basadas en datos y análisis.
6. Optimización de Procesos en Manufactura:ABB Ability Operations Optimization: Utilizado para optimizar procesos de fabricación y control de calidad.Siemens Tecnomatix: Planificación y optimización de la producción en fábricas.
7. Educación Personalizada:ALEKS: Ofrece tutoría adaptativa y personalizada en matemáticas y ciencias utilizando un sistema experto.Carnegie Learning: Proporciona soluciones de matemáticas basadas en sistemas expertos para estudiantes.
8. Asistencia Legal:ROSS: Utiliza la inteligencia artificial y sistemas expertos para ayudar a los abogados en la investigación legal y análisis de casos.
9. Soporte Técnico y Mantenimiento:Chatbots con Sistemas Expertos: Muchos chatbots utilizan sistemas expertos para proporcionar soporte técnico y resolver problemas.
10. Planificación de Rutas y Logística:Sistemas de Gestión de Flotas: Utilizan sistemas expertos para optimizar rutas de entrega y distribución de productos.

Desafíos que pueden surgir en el desarrollo y mantenimiento de estos sistemas

El desarrollo y mantenimiento de sistemas expertos pueden enfrentar varios desafíos específicos. En primer lugar, la adquisición y formalización del conocimiento de expertos humanos en un formato que el sistema pueda comprender y utilizar de manera efectiva puede ser un proceso complejo y laborioso. La captura de conocimiento experto a menudo implica entrevistas extensas y la colaboración continua con expertos, lo que puede resultar en un costo de tiempo y recursos significativo.

Además, la evolución y actualización de los sistemas expertos a medida que cambian las condiciones o se descubren nuevos conocimientos pueden ser un desafío continuo. Mantener la relevancia y la precisión del conocimiento en la base de datos del sistema requiere un esfuerzo constante. También es importante abordar la transparencia y la explicabilidad de las decisiones tomadas por el sistema, especialmente en aplicaciones críticas como la atención médica y el derecho, lo que agrega otro nivel de complejidad al desarrollo y mantenimiento de sistemas expertos. Estos desafíos destacan la importancia de la colaboración continua entre expertos humanos y desarrolladores de sistemas expertos para garantizar su efectividad y relevancia a lo largo del tiempo

Comparación de sistemas expertos con otras tecnologías

Los sistemas expertos, como tecnología avanzada de inteligencia artificial, se destacan, como hemos dicho, por su capacidad para imitar el razonamiento humano en dominios de conocimiento específicos. A diferencia de otras tecnologías, como las redes neuronales profundas, los sistemas expertos son altamente interpretables, lo que significa que pueden proporcionar explicaciones claras y lógicas de sus decisiones. Esto los hace especialmente valiosos en aplicaciones críticas donde se requiere transparencia, como la medicina y el derecho. Además, los sistemas expertos permiten a los expertos humanos colaborar estrechamente con la máquina, lo que resulta en una simbiosis de conocimiento y habilidades.

Por otro lado, las redes neuronales profundas, que impulsan el aprendizaje profundo y el reconocimiento de patrones, son más adecuadas para tareas de procesamiento masivo de datos y reconocimiento de imágenes. Estas redes son ideales para aplicaciones como el procesamiento de lenguaje natural y la visión por computadora, pero a menudo carecen de transparencia en sus decisiones, lo que puede ser un desafío en entornos donde se requiere una justificación clara de las decisiones tomadas. En última instancia, la elección entre sistemas expertos y otras tecnologías depende del contexto y los requisitos específicos de cada aplicación.

Ética y responsabilidad relacionadas con la toma de decisiones automatizada

La adopción de sistemas de conocimiento plantea cuestiones éticas y de responsabilidad significativas en relación con la toma de decisiones automatizada. Uno de los principales dilemas éticos radica en la posible falta de transparencia y explicabilidad de los procesos de toma de decisiones de estos sistemas. Los usuarios y las partes interesadas pueden verse confrontados con decisiones que afectan sus vidas, pero sin una comprensión clara de cómo se llegó a esas conclusiones. Esto puede socavar la confianza en los sistemas expertos y plantear preguntas sobre quién es responsable en caso de decisiones erróneas o sesgos algorítmicos.

La responsabilidad legal y ética también se cierne sobre la calidad del conocimiento y las reglas que alimentan a los sistemas de conocimiento, ya que los desarrolladores y los expertos involucrados deben asegurarse de que el conocimiento sea preciso, actualizado y ético. Además, la posibilidad de que los sistemas expertos amplifiquen sesgos existentes en los datos de entrenamiento plantea preocupaciones sobre la equidad y la justicia en la toma de decisiones automatizada. Abordar estas cuestiones éticas y de responsabilidad es crucial para garantizar que los sistemas expertos sean una herramienta beneficiosa y ética en diversas aplicaciones, desde la atención médica hasta el derecho y más allá

Artículo publicado originalmente en 13 Sep 2022