Inteligencia artificial en PRL: no basta con supervisar, hay que diseñar sistemas seguros

Tiempo de lectura: 3 minutos

Una revisión de 46 investigaciones demuestra que la supervisión humana no siempre consigue detectar los errores de la inteligencia artificial. Un hallazgo que refuerza la importancia de diseñar soluciones de IA fiables, verificables y adaptadas a las necesidades de los profesionales de la prevención.

La inteligencia artificial está transformando la gestión de la seguridad y salud en el trabajo. Desde el análisis de accidentes hasta la identificación de peligros o la elaboración de documentación preventiva, sus posibilidades son enormes.

En PrevenControl estamos impulsando esta transformación a través de SmartOSH, incorporando capacidades de inteligencia artificial que ayudan a los profesionales de PRL a optimizar procesos, analizar información y mejorar la toma de decisiones.

Pero tenemos clara una premisa: incorporar IA no significa simplemente automatizar tareas. Significa diseñar sistemas que ayuden a tomar mejores decisiones sin introducir riesgos innecesarios.

¿Es suficiente con que una persona supervise la IA?

Una reciente revisión sistemática y metaanálisis de 46 investigaciones sobre inteligencia artificial en entornos clínicos cuestiona una idea ampliamente extendida: que mantener a una persona supervisando las decisiones automatizadas garantiza su seguridad.

Algunos resultados son especialmente reveladores:

  • El 26,6 % de las interpretaciones erróneas de electrocardiogramas automatizados no fueron detectadas o corregidas en cuatro estudios.
  • En un análisis de 357 situaciones de desacuerdo, el sistema humano-IA corrigió 36 errores, pero también introdujo 50 nuevos.
  • Advertencias como «ChatGPT puede cometer errores» no demostraron ser mecanismos fiables para evitar decisiones equivocadas.

Estos resultados ponen de manifiesto el denominado sesgo de automatización: la tendencia a confiar excesivamente en las recomendaciones de una herramienta tecnológica, incluso cuando son incorrectas.

La conclusión es importante: la supervisión humana debe ser efectiva y verificable, no simplemente un requisito formal.

¿Cómo trasladamos estos aprendizajes a SmartOSH?

En PrevenControl entendemos que la inteligencia artificial debe actuar como un copiloto del profesional de prevención, no como un sustituto de su criterio técnico.

Esta filosofía orienta nuestra visión de la IA aplicada a SmartOSH y se traduce en varios principios fundamentales:

1. IA para apoyar las decisiones, no para sustituirlas. Las funcionalidades de IA ayudan a analizar accidentes, interpretar documentación e identificar riesgos y posibles medidas preventivas, manteniendo el papel del profesional en la valoración técnica.

2. Información contrastable. Apostamos por facilitar que los usuarios puedan revisar la información utilizada, contrastar las propuestas y detectar posibles inconsistencias, especialmente en procesos críticos.

3. Supervisión proporcional al riesgo. No todas las decisiones tienen las mismas consecuencias. La validación de una medida preventiva crítica requiere controles diferentes a los de una tarea administrativa.

4. Factores humanos desde el diseño. Sabemos que las personas pueden confiar excesivamente en una recomendación automatizada. Por eso, la usabilidad, la claridad de la información y la facilidad de verificación deben formar parte del diseño de las soluciones.

5. Mejora continua. La eficacia de la IA no debe medirse únicamente por el tiempo que ahorra, sino también por la calidad de sus resultados, los errores detectados y su contribución real a la gestión preventiva.

Estos principios constituyen nuestro enfoque de desarrollo y mejora continua, y no deben confundirse con una afirmación de que todas las funcionalidades hayan superado ya pruebas específicas de interceptación de errores.

La verdadera innovación es combinar inteligencia artificial y conocimiento preventivo

La investigación nos recuerda algo que desde PrevenControl consideramos esencial: la seguridad de un sistema no depende únicamente de la precisión de la tecnología ni de la competencia de quien la utiliza, sino de cómo interactúan las personas, la tecnología y la organización.

Esta visión conecta directamente con nuestra experiencia en factores humanos, cultura preventiva y Human and Organizational Performance (HOP).

Por eso, nuestra apuesta por la IA en SmartOSH va más allá de incorporar nuevas funcionalidades. Queremos desarrollar herramientas que reduzcan las tareas administrativas, faciliten el análisis de información y permitan a los profesionales dedicar más tiempo a lo que realmente aporta valor: comprender el trabajo real, anticipar riesgos y mejorar las condiciones de seguridad.

La pregunta no es cuánto puede hacer la inteligencia artificial por nosotros, sino cómo conseguimos que las personas y la IA trabajen mejor juntas.

Ese es el enfoque con el que seguimos evolucionando SmartOSH.

Contacta con nosotros

TAMBIÉN TE PUEDE INTERESAR

¿Quieres saber más sobre Cultura de Seguridad?

¿Quieres saber más sobre Cultura de Seguridad?

Close Popup

Usamos cookies para mejorar la experiencia de usuario. Al aceptar el uso de cookies está de acuerdo con nuestra política de cookies.

 

Close Popup
Privacy Settings saved!
Configuracion de Privacidad

Cuando visita cualquier sitio web, puede almacenar o recuperar información en su navegador, principalmente en forma de cookies. Controle sus Servicios de cookies personales aquí.

Estas cookies son necesarias para que el sitio web funcione y no se pueden desactivar en nuestros sistemas.

Cookies técnicas
Para utilizar este sitio web utilizamos las siguientes cookies requeridas técnicamente.
  • wordpress_test_cookie
  • wordpress_logged_in_
  • wordpress_sec
  • euconsent
  • euconsent-v2
  • googleConsent
  • userld
  • devicePixelRatio
  • dfpestid
  • _stidv

Guardar
Acepto todos los servicios
Open Privacy settings