Inteligencia artificial: responsabilidad y supervisión humana

Fecha 07/02/2024 Autor - manager12 Categoría Ética, Filosofía, Historia, Transhumanismo.

La inteligencia artificial no es una tecnología única ni actúa de forma independiente de las personas. El término reúne sistemas capaces de generar contenido, clasificar información, recomendar opciones, reconocer patrones o apoyar decisiones. Sus efectos dependen del diseño, los datos, el contexto de uso y la manera en que las organizaciones supervisan sus resultados.

De la pregunta «¿es buena o mala?» a la evaluación del uso

Calificar la IA como buena o mala en abstracto aporta poco. Un mismo sistema puede ahorrar tiempo en una tarea de bajo riesgo y resultar inadecuado en otra que afecta a derechos, seguridad o decisiones profesionales.

Pregunta	Qué conviene comprobar
¿Para qué se utiliza?	Finalidad concreta, personas afectadas y consecuencias de un error.
¿Con qué datos trabaja?	Procedencia, calidad, representatividad, confidencialidad y permisos.
¿Qué produce?	Una recomendación, una clasificación, una predicción o contenido nuevo.
¿Quién lo revisa?	Competencia, tiempo, autoridad y capacidad real para corregir o detener el proceso.
¿Quién responde?	Responsabilidad de proveedor, organización usuaria y profesional que valida.

Privacidad y uso de datos

Introducir información en un sistema de IA puede implicar tratamiento por terceros, almacenamiento o reutilización según la herramienta y el contrato. Antes de cargar documentos debe comprobarse qué datos contienen, dónde se procesan, durante cuánto tiempo se conservan y si existe autorización para utilizarlos.

Eliminar un nombre no siempre anonimiza un documento. Fechas, cargos, direcciones, números de expediente y combinaciones de hechos pueden identificar a una persona. En materiales jurídicos, médicos, laborales o empresariales, la confidencialidad debe evaluarse antes de utilizar la herramienta.

Sesgos y resultados plausibles

Los sistemas aprenden patrones de datos que pueden contener desigualdades, omisiones o errores. También pueden rendir peor con lenguas, variedades o grupos poco representados. Un resultado gramaticalmente correcto no demuestra que sea exacto, neutral o apropiado.

La IA generativa puede producir referencias inexistentes, cifras erróneas o explicaciones convincentes pero falsas. Por ello, la revisión no debe limitarse a mejorar el estilo: hay que contrastar hechos, fuentes, terminología y relaciones lógicas.

Qué significa una supervisión humana efectiva

La supervisión no consiste en añadir una aprobación automática al final. La persona responsable necesita comprender la tarea, conocer las limitaciones del sistema, acceder a la información necesaria y tener autoridad para rechazar el resultado.

Supervisión aparente	Supervisión efectiva
Revisión rápida sin consultar el original.	Comparación con la fuente y comprobación de los elementos críticos.
Dar por bueno lo que suena fluido.	Verificar hechos, cifras, nombres y terminología.
No registrar la intervención del sistema.	Documentar cuándo se utilizó y qué controles se aplicaron.
No poder modificar la decisión.	Permitir corregir, rechazar, escalar o detener el proceso.
Responsabilidad difusa.	Asignar una persona u organización que responda por el resultado.

El marco europeo

El Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial, establece un marco basado en riesgos. No aplica las mismas obligaciones a todos los sistemas y usos. Para determinados sistemas de alto riesgo contempla, entre otras medidas, gestión de riesgos, documentación, calidad de datos y supervisión humana.

La normativa tiene un calendario de aplicación progresiva. Por eso, cualquier explicación práctica debe comprobar la versión consolidada y las fechas aplicables en el momento de uso, además de otras normas sobre protección de datos, propiedad intelectual, consumo o responsabilidad que puedan intervenir.

Inteligencia artificial y traducción

En traducción, las herramientas de IA pueden proponer borradores, resumir material o ayudar a localizar patrones. El riesgo cambia según el texto: una frase interna de bajo impacto no plantea las mismas consecuencias que una traducción jurada, un consentimiento médico o una cláusula contractual.

Riesgo	Control profesional
Omisiones o añadidos	Comparar sistemáticamente original y versión.
Terminología inconsistente	Aplicar glosarios validados y revisar concordancias.
Invención de datos	Contrastar nombres, fechas, cifras y referencias.
Pérdida de confidencialidad	No cargar documentos sin base, permisos y garantías suficientes.
Falsa equivalencia jurídica	Comprobar sistemas jurídicos, función y destinatario.

La responsabilidad humana no deriva de que una persona sea infalible. Deriva de que puede justificar decisiones, reconocer límites, consultar fuentes y responder ante el cliente o destinatario. La tecnología puede apoyar el proceso, pero no debe utilizarse para ocultar quién tomó la decisión final.