Inteligencia artificial en la empresa

La IA puede ayudarte a preparar una cotización o resumir un reporte, pero una respuesta bien redactada no demuestra que sus datos sean ciertos. Antes de enviarla a un cliente, comprueba fuentes, cifras y condiciones.

El riesgo no se limita a una frase absurda que cualquiera detectaría. Un plazo inventado, una referencia que no existe o una condición comercial tomada de otro documento pueden quedar integrados en un texto perfectamente convincente. La ventaja de redactar más rápido se pierde si después hay que corregir lo que la empresa prometió.

Esta es una guía práctica sobre un tema vigente, no el anuncio de una nueva falla o de una versión específica. Contrastamos el perfil de riesgos de IA generativa del NIST de 2024 y la documentación actual de Microsoft con cobertura especializada de TechTarget de 2024 y Ars Technica de 2023, consultadas el 26 de octubre de 2026. Las publicaciones históricas se usan como contexto, no como noticias de hoy.

Qué es una alucinación de IA y por qué importa

NIST utiliza el término confabulación para describir contenido falso o erróneo que un sistema generativo presenta con seguridad. También incluye respuestas que se apartan del material de entrada o se contradicen. Su perfil advierte que pueden inventarse tanto las afirmaciones como las citas y explicaciones que parecen justificarlas.

No es necesario atribuir intención al sistema: el problema operativo es que el resultado parece fiable sin haber sido verificado. Ars Technica explica el vínculo entre generación de texto plausible e información inventada; TechTarget distingue además errores de hechos, contradicciones con la solicitud y contradicciones dentro de una misma respuesta.

La documentación de Microsoft reconoce que Azure OpenAI puede producir contenido inexacto o no sustentado en las fuentes. Esa limitación no significa que toda respuesta sea falsa; significa que la fluidez del texto no es un control de calidad.

Separa borrador, evidencia y autorización

Esta separación es una recomendación operativa de Tiser. Permite aprovechar la IA para resumir, ordenar y redactar sin convertir automáticamente sus conclusiones en instrucciones para facturar, comprar o modificar un sistema.

Una cita clicable no basta: abre la fuente

La acción MS-2.5-003 del perfil NIST AI 600-1 recomienda revisar y verificar las fuentes y citas de las salidas generativas durante las evaluaciones previas al despliegue y el monitoreo posterior. Para una pyme, el principio se traduce en una comprobación sencilla: abrir el documento y localizar el pasaje que respalda la afirmación.

Revisa tres cosas por separado: que la fuente exista, que realmente diga lo que se le atribuye y que corresponda a la fecha, producto y contexto de tu trabajo. Una página auténtica sobre un servicio diferente no acredita una condición de tu contrato. Tampoco una nota antigua demuestra que el precio siga vigente.

Si una cita no abre, busca el documento en el sitio oficial o en el repositorio autorizado de la empresa. Si no puedes corroborarla, marca la afirmación como pendiente y no la presentes como confirmada. Pedirle al mismo chat que asegure que «está correcto» no sustituye esa comprobación.

Trabajar con documentos propios ayuda, pero exige controles

Proporcionar material relevante reduce la necesidad de responder sin contexto. La documentación de Microsoft describe el uso de fuentes para fundamentar las respuestas, y la cobertura especializada explica cómo la recuperación de documentos puede complementar la información del modelo. Eso no convierte al sistema en una base de datos infalible.

Una respuesta puede mezclar versiones, interpretar mal una tabla o apoyarse en una sección que no responde a la pregunta. Define cuál archivo está vigente, limita el acceso a los documentos autorizados y exige referencias concretas. Si se usa un buscador interno o recuperación aumentada por generación —RAG—, revisa también qué documentos recuperó y si el usuario debía poder consultarlos.

Para probar un flujo nuevo, utiliza ejemplos ficticios o información autorizada. No subas contratos completos, credenciales ni expedientes de clientes a una herramienta que la empresa no haya aprobado.

Flujo práctico para revisar una cotización o reporte

Los siguientes pasos son una propuesta de control de Tiser, no una garantía del fabricante ni una certificación automática de exactitud.

Ejemplo: una entrega que el proveedor nunca confirmó

Supongamos una cotización hipotética de diez unidades a $850 MXN cada una, antes de los impuestos que correspondan. El proveedor no confirmó disponibilidad ni fecha de entrega. La IA prepara un texto atractivo, calcula un subtotal de $8,500 y añade «entrega en 24 horas».

El subtotal es comprobable: 10 × 850 = 8,500. El plazo, en cambio, carece de respaldo. Que una parte del documento sea correcta no valida las demás. La revisión debe retirar esa promesa, confirmar la disponibilidad con el proveedor y completar el plazo solo cuando exista una respuesta autorizada.

Si el equipo necesita avanzar, puede dejar una condición pendiente de confirmación en el borrador interno. No debe disfrazarla de hecho. El ejemplo muestra por qué revisar únicamente la ortografía o el total no alcanza.

Una instrucción útil para empezar

Prepara un borrador usando solo los documentos autorizados que te proporciono. Para cada precio, plazo y condición, indica el archivo y la sección de respaldo. Si un dato no aparece, escribe «pendiente de confirmar». Separa las propuestas de los hechos documentados. No envíes el resultado ni ejecutes cambios.

Esta instrucción no elimina las alucinaciones ni reemplaza las restricciones de permisos de una integración. En un flujo automatizado, configura también una revisión antes del envío o de las acciones con impacto. Una solicitud escrita en el chat no equivale a un bloqueo técnico.

Cómo saber si la IA realmente está ayudando

Empieza con un conjunto pequeño de casos representativos y respuestas de referencia revisadas por el equipo. Incluye documentos incompletos, versiones antiguas y condiciones que no deben inferirse. NIST advierte contra extrapolar el desempeño a partir de evaluaciones estrechas o anecdóticas: que una demostración salga bien no prueba todos los escenarios.

Registra el tiempo de preparación y revisión, los datos sin respaldo y los errores que habrían llegado al cliente. Después de cambiar el modelo, las instrucciones o las fuentes, repite esos casos. El beneficio útil no es producir más texto, sino ahorrar trabajo manteniendo el control de los compromisos de la empresa.