Una revisión de 46 investigaciones demuestra que la supervisión humana no siempre consigue detectar los errores de la inteligencia artificial. Un hallazgo que refuerza la importancia de diseñar soluciones de IA fiables, verificables y adaptadas a las necesidades de los profesionales de la prevención.
La inteligencia artificial está transformando la gestión de la seguridad y salud en el trabajo. Desde el análisis de accidentes hasta la identificación de peligros o la elaboración de documentación preventiva, sus posibilidades son enormes.
En PrevenControl estamos impulsando esta transformación a través de SmartOSH, incorporando capacidades de inteligencia artificial que ayudan a los profesionales de PRL a optimizar procesos, analizar información y mejorar la toma de decisiones.
Pero tenemos clara una premisa: incorporar IA no significa simplemente automatizar tareas. Significa diseñar sistemas que ayuden a tomar mejores decisiones sin introducir riesgos innecesarios.
¿Es suficiente con que una persona supervise la IA?
Una reciente revisión sistemática y metaanálisis de 46 investigaciones sobre inteligencia artificial en entornos clínicos cuestiona una idea ampliamente extendida: que mantener a una persona supervisando las decisiones automatizadas garantiza su seguridad.
Algunos resultados son especialmente reveladores:
- El 26,6 % de las interpretaciones erróneas de electrocardiogramas automatizados no fueron detectadas o corregidas en cuatro estudios.
- En un análisis de 357 situaciones de desacuerdo, el sistema humano-IA corrigió 36 errores, pero también introdujo 50 nuevos.
- Advertencias como «ChatGPT puede cometer errores» no demostraron ser mecanismos fiables para evitar decisiones equivocadas.
Estos resultados ponen de manifiesto el denominado sesgo de automatización: la tendencia a confiar excesivamente en las recomendaciones de una herramienta tecnológica, incluso cuando son incorrectas.
La conclusión es importante: la supervisión humana debe ser efectiva y verificable, no simplemente un requisito formal.
¿Cómo trasladamos estos aprendizajes a SmartOSH?
En PrevenControl entendemos que la inteligencia artificial debe actuar como un copiloto del profesional de prevención, no como un sustituto de su criterio técnico.
Esta filosofía orienta nuestra visión de la IA aplicada a SmartOSH y se traduce en varios principios fundamentales:
1. IA para apoyar las decisiones, no para sustituirlas. Las funcionalidades de IA ayudan a analizar accidentes, interpretar documentación e identificar riesgos y posibles medidas preventivas, manteniendo el papel del profesional en la valoración técnica.
2. Información contrastable. Apostamos por facilitar que los usuarios puedan revisar la información utilizada, contrastar las propuestas y detectar posibles inconsistencias, especialmente en procesos críticos.
3. Supervisión proporcional al riesgo. No todas las decisiones tienen las mismas consecuencias. La validación de una medida preventiva crítica requiere controles diferentes a los de una tarea administrativa.
4. Factores humanos desde el diseño. Sabemos que las personas pueden confiar excesivamente en una recomendación automatizada. Por eso, la usabilidad, la claridad de la información y la facilidad de verificación deben formar parte del diseño de las soluciones.
5. Mejora continua. La eficacia de la IA no debe medirse únicamente por el tiempo que ahorra, sino también por la calidad de sus resultados, los errores detectados y su contribución real a la gestión preventiva.
Estos principios constituyen nuestro enfoque de desarrollo y mejora continua, y no deben confundirse con una afirmación de que todas las funcionalidades hayan superado ya pruebas específicas de interceptación de errores.
La verdadera innovación es combinar inteligencia artificial y conocimiento preventivo
La investigación nos recuerda algo que desde PrevenControl consideramos esencial: la seguridad de un sistema no depende únicamente de la precisión de la tecnología ni de la competencia de quien la utiliza, sino de cómo interactúan las personas, la tecnología y la organización.
Esta visión conecta directamente con nuestra experiencia en factores humanos, cultura preventiva y Human and Organizational Performance (HOP).
Por eso, nuestra apuesta por la IA en SmartOSH va más allá de incorporar nuevas funcionalidades. Queremos desarrollar herramientas que reduzcan las tareas administrativas, faciliten el análisis de información y permitan a los profesionales dedicar más tiempo a lo que realmente aporta valor: comprender el trabajo real, anticipar riesgos y mejorar las condiciones de seguridad.
La pregunta no es cuánto puede hacer la inteligencia artificial por nosotros, sino cómo conseguimos que las personas y la IA trabajen mejor juntas.
Ese es el enfoque con el que seguimos evolucionando SmartOSH.


