Un cambio estructural clave es el traslado de las responsabilidades de verificación, remediación y gestión de riesgos desde los fabricantes de IA hacia los servicios administrados de TI y sus clientes. Empresas como OpenAI y Anthropic publican grandes volúmenes de resultados generados por IA sin una revisión interna exhaustiva, trasladando la carga de comprobación y respuesta a incidentes a los proveedores de servicios y usuarios finales.
OpenAI publicó 722 manuscritos matemáticos generados por IA, reconociendo que muchos carecen de verificación formal y solo alrededor del 40% incluyen pruebas verificables por máquina, según The Verge. Investigadores advierten que revisar estos resultados podría tomar años. De forma similar, el escáner OSS de Anthropic generó más de 6,000 reportes de vulnerabilidad, pero solo alrededor del 10% han sido corregidos aguas arriba, dejando la validación y remediación a los mantenedores o destinatarios.
Este traslado de cargas afecta tanto a comunidades técnicas como a proveedores de servicios. El proyecto del núcleo Linux enfrenta una avalancha “incontrolable” de reportes de errores generados por IA; Linus Torvalds califica gran parte como trabajo desperdiciado. Los servicios administrados reportan que clientes conectan asistentes de IA como ChatGPT a archivos compartidos, lo que expone datos y aumenta las tareas de revisión de permisos, responsabilidades que los fabricantes no asumen.
En la práctica, los servicios administrados de TI enfrentan mayor presión sobre márgenes y deben absorber o contabilizar el trabajo no previsto originado por incidentes relacionados con IA. Sin medir y comunicar estos costos, la rentabilidad disminuye y los clientes desconocen el impacto real de sus prácticas con IA. Cuantificarlos explícitamente permite establecer condiciones más claras y evitar convertirse en la capa de verificación gratuita para los fabricantes.