Un modelo de inteligencia artificial que acierta el 95% de las veces pero no sabe explicar por qué, ¿sirve para dirigir una empresa? En mi investigación de máster trabajé precisamente sobre esa frontera: la IA explicable. La conclusión corta: la precisión sin explicación no basta para decidir.
\n\nEl contexto
\nComparé cinco modelos para clasificar reseñas de clientes en español: desde métodos estadísticos clásicos hasta Transformers — la misma familia de arquitecturas detrás de los grandes modelos de lenguaje actuales. Los Transformers entrenados específicamente en español ganaron con claridad: en torno al 95% de acierto equilibrado frente al 85% de los métodos clásicos, una diferencia estadísticamente significativa en todas las pruebas.
\nHasta ahí, la historia que todos conocen: los modelos grandes aciertan más. Lo interesante empieza después.
\n\nPedirle cuentas al modelo
\nUn clasificador que dice "este cliente está insatisfecho" es útil. Uno que dice "está insatisfecho por la demora en la entrega" es accionable. Para llegar ahí apliqué dos técnicas de explicabilidad (SHAP y LIME) que identifican qué palabras sostienen cada predicción, y las sometí a prueba: si borras del texto las palabras que el modelo señala como decisivas, ¿cambia su predicción?
\nCon SHAP y LIME, sí — con fuerza. Las explicaciones señalaban términos que realmente sostenían la decisión del modelo: evidencia de fidelidad, no adorno.
\nLa sorpresa vino con la tercera técnica: los pesos de atención del propio modelo, que muchas herramientas muestran como si fueran "lo que el modelo mira". Sometidos a la misma prueba de borrado, resultaron indistinguibles del azar. Dicho de otro modo: la explicación más vistosa y más barata de producir era la que no resistía el escrutinio — un resultado consistente con lo que la literatura académica viene advirtiendo.
\n\nPor qué esto importa fuera de la academia
\n1. Exige trazabilidad, no narrativa. Cada vez más herramientas "con IA" adornan sus resultados con explicaciones. La pregunta correcta no es si la explicación suena convincente, sino si resiste una prueba: ¿el dato señalado realmente sostiene la conclusión?
\n2. El mismo principio aplica a tu BI. Un cuadro de mando también es un modelo de tu empresa. Si un número no se puede rastrear hasta su origen —qué pedidos, qué fechas, qué criterio—, no es información: es decoración. En nuestros proyectos, cada indicador tiene que poder responder "¿de dónde sales tú?".
\n3. La transparencia es una ventaja competitiva. Los marcos regulatorios europeos avanzan hacia exigir explicabilidad en los sistemas automatizados. Las empresas que ya trabajan con datos trazables no tendrán que reconstruir nada.
\n\nLa regla práctica
\nAntes de confiar en cualquier sistema que te dé respuestas —un modelo de IA o un simple informe mensual— hazle la pregunta del borrado: si quito esto que dices que es importante, ¿cambia tu conclusión? Si la respuesta es no, tienes decoración. Si es sí, tienes una herramienta para decidir.
\nRicardo Borja es fundador de Inteleqta y consultor en ERP y Business Intelligence. Esta entrada resume resultados de su investigación de máster en Métodos Cuantitativos (UBA) sobre clasificación de reseñas en español con Transformers e IA explicable.
\n', 'PSPath': 'C:\\Users\\rborj\\AppData\\Local\\Temp\\claude\\C--Users-rborj-OneDrive-Desktop-Cloud\\6469686e-6c78-4a80-bd7d-c65b0e7bafb3\\scratchpad\\post2.html', 'PSDrive': {'Name': 'C', 'Root': 'C:\\', 'Provider': 'Microsoft.PowerShell.Core\\FileSystem', 'Credential': 'System.Management.Automation.PSCredential', 'Description': 'OS', 'DisplayRoot': None, 'MaximumSize': None, 'CurrentLocation': 'Users\\rborj\\OneDrive\\Desktop\\Cloud'}, 'ReadCount': 1, 'PSProvider': {'Home': 'C:\\Users\\rborj', 'Name': 'FileSystem', 'Drives': 'C', 'Module': None, 'HelpFile': 'System.Management.Automation.dll-Help.xml', 'PSSnapIn': 'Microsoft.PowerShell.Core', 'ModuleName': 'Microsoft.PowerShell.Core', 'Description': '', 'Capabilities': 52, 'ImplementingType': 'Microsoft.PowerShell.Commands.FileSystemProvider'}, 'PSChildName': 'post2.html', 'PSParentPath': 'C:\\Users\\rborj\\AppData\\Local\\Temp\\claude\\C--Users-rborj-OneDrive-Desktop-Cloud\\6469686e-6c78-4a80-bd7d-c65b0e7bafb3\\scratchpad'}