Cómo detectar especificaciones inventadas por IA

Un borrador de página de producto hecho con ayuda de IA dice que la corriente de alimentación del sensor es de 1.2 µA típica. La hoja de datos (datasheet) dice 1.2 µA en modo de reposo y 180 µA al medir. Nada de la frase está inventado del todo; simplemente está mal justo en lo que importa. Las especificaciones inventadas por IA suelen ser así: cercanas a valores reales, pegadas a la condición equivocada, o citadas a una cláusula de una norma que suena correcta. Pasan una lectura rápida porque son fluidas y verosímiles. Esta guía da una revisión paso a paso que las detecta antes de que lo haga un ingeniero.

Puntos clave

• El Perfil de IA Generativa del NIST (AI 600-1, 2024) nombra la confabulación, presentar con seguridad contenido erróneo o falso, como uno de doce riesgos de la IA generativa que hay que gestionar.
• Las referencias inventadas son comunes: Walters y Wilder (Scientific Reports, 2023) encontraron que el 55 % de las citas generadas por GPT-3.5 y el 18 % de las de GPT-4 eran inventadas, y muchas de las reales tenían errores importantes.
• El texto largo mezcla hechos respaldados y no respaldados: el estudio FActScore (Min et al., EMNLP 2023) encontró que las biografías de ChatGPT obtenían 58 % de precisión factual al dividirlas en hechos atómicos.
• El método que funciona es dividir el texto en afirmaciones atómicas y revisar cada una contra una fuente, la misma idea que FActScore automatiza para evaluar.
• En contenido técnico, las afirmaciones de mayor riesgo son los números con unidades, las condiciones, los números de parte, la asignación de pines, las cláusulas de normas, las declaraciones de cumplimiento y las citas.

El problema: errores que parecen especificaciones

Los errores de especificación de los modelos de lenguaje casi nunca son absurdos. Suelen seguir unos cuantos patrones: un valor real pegado a la condición equivocada (corriente de reposo presentada como corriente de operación), un valor típico presentado como máximo garantizado, una unidad equivocada por un prefijo, un número de parte con un sufijo que no existe, una norma citada con un número de cláusula verosímil que dice otra cosa, o una declaración de cumplimiento que el producto no tiene. Cada uno se escapa con facilidad en la revisión porque la frase se lee igual que una correcta.

El riesgo aumenta cuando los borradores se revisan por estilo y no por datos, o cuando quien revisa lee todo el borrador de corrido en lugar de revisar cada afirmación por separado.

Qué dice la investigación

La confabulación es un riesgo con nombre

El Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile del NIST (NIST AI 600-1, julio de 2024) incluye la confabulación entre doce riesgos, y la describe como sistemas que generan y presentan con seguridad contenido erróneo o falso. Se trata como una propiedad de la tecnología que se gestiona con controles de proceso, no como una falla rara.

Citas inventadas y con errores

“Fabrication and errors in the bibliographic citations generated by ChatGPT”, de Walters y Wilder (Scientific Reports, 2023), pidió a GPT-3.5 y GPT-4 escribir revisiones breves de literatura sobre 42 temas y examinó 636 citas. Las citas inventadas fueron el 55 % de las de GPT-3.5 y el 18 % de las de GPT-4. Entre las citas reales, el 43 % de las de GPT-3.5 y el 24 % de las de GPT-4 tenían errores importantes. Los modelos más nuevos fueron mucho mejores, pero no estuvieron libres de errores, y el estudio recuerda que una referencia que se ve completa puede ser inventada.

Revisar hechos atómicos

“FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation”, de Min y sus colegas (Proceedings of EMNLP 2023), dividió biografías generadas por modelos en hechos atómicos y revisó cada uno contra una fuente de conocimiento. ChatGPT obtuvo 58 % en esta medida de precisión factual. Las cifras concretas se refieren a biografías y a los modelos de ese momento, pero lo útil es el método: un párrafo puede estar casi todo bien y aun así contener varios hechos sin respaldo, y revisar hecho por hecho los encuentra.

La alucinación en distintas tareas

“Survey of Hallucination in Natural Language Generation”, de Ji y sus colegas (ACM Computing Surveys, 2023), revisa la alucinación en resúmenes, diálogo, respuesta a preguntas, generación de texto a partir de datos y otras tareas, junto con métricas y métodos de mitigación. Darle material fuente al modelo reduce, pero no elimina, el contenido sin respaldo, así que la verificación sigue siendo necesaria aunque el modelo tenga la hoja de datos.

Paso 1: Reúne primero los documentos fuente

Antes de revisar nada, junta la hoja de datos vigente, el manual de referencia, los reportes de prueba, los certificados de cumplimiento y cualquier norma citada. Si una afirmación no se puede rastrear a uno de ellos, no entra.

Paso 2: Divide el borrador en afirmaciones atómicas

Recorre el borrador y enumera cada afirmación factual individual: cada número, cada número de parte, cada “soporta” o “cumple con”, cada cita. Una sola oración suele tener tres o cuatro afirmaciones.

Paso 3: Rastrea cada afirmación a una página o tabla

Para cada afirmación, anota el documento fuente y la ubicación exacta: número de tabla, página, sección. Si no la encuentras, márcala como no verificada.

Paso 4: Revisa unidades, condiciones y columna

Confirma la unidad y el prefijo, las condiciones (temperatura, voltaje de alimentación, modo) y si el valor es mínimo, típico o máximo. La mayoría de los errores de especificación en borradores de IA son errores de condición o de columna, no números inventados.

Paso 5: Abre cada cita

Abre cada DOI, norma y URL. Confirma que el documento existe, que el título y los autores coinciden, y que la cláusula o página citada dice lo que afirma el borrador.

Paso 6: Pon atención a las señales de alerta

Ten especial cuidado con los números sospechosamente redondos, las especificaciones mejores de lo que suele lograr la categoría de producto, los números de parte con sufijos desconocidos, las declaraciones de cumplimiento que no están en un certificado y las afirmaciones muy seguras sin fuente.

Paso 7: Corrige, elimina o marca

Corrige las afirmaciones para que coincidan con la fuente, elimina las que no se puedan respaldar y marca lo que necesite el criterio de un ingeniero en lugar de una consulta de documento.

Paso 8: Lleva un registro de verificación

Guarda la tabla de afirmaciones junto con la pieza publicada: afirmación, fuente, ubicación, estado, quién revisó y cuándo. Hace más rápidas las actualizaciones futuras y demuestra que la revisión sí ocurrió.

Patrones comunes de especificaciones inventadas

Patrón	Ejemplo	Cómo detectarlo
Condición equivocada	Corriente de reposo presentada como de operación	Revisa la columna de modo y condiciones
Columna equivocada	Valor típico presentado como garantizado	Revisa mín./típ./máx.
Error de unidad o prefijo	µA vs mA, ppm vs %	Compara las unidades con la tabla fuente
Sufijo de parte inventado	Un código de pedido que no está en la tabla de pedidos	Compáralo con la información de pedido
Cláusula verosímil pero equivocada	Una norma citada con una cláusula que trata otra cosa	Abre la norma y lee la cláusula
Cumplimiento no ganado	“Certificado según…” sin certificado	Revisa la lista de certificados
Cita inventada	Un artículo con autores verosímiles que no existe	Abre el DOI y revisa el título

Cómo aplicarlo

Si tienes una hora

Toma una página ya publicada que se haya hecho con ayuda de IA y aplícale los pasos 2 a 5. Cuenta cuántas afirmaciones puedes rastrear a una fuente y corrige las que no.

Si tienes un sprint

Crea una plantilla de tabla de afirmaciones y hazla obligatoria para cualquier contenido técnico hecho con ayuda de IA antes de la revisión. Entrena a quienes redactan para dividir los borradores en afirmaciones atómicas.

Si quieres que dure toda la vida del producto

Guarda los registros de verificación con cada pieza, vuelve a verificar cuando cambien las hojas de datos o los certificados, y lleva la cuenta de qué patrones de error aparecen más para enfocar la revisión.

La pregunta que debes hacerte: “¿Puedo señalar la página y la tabla de cada número de este borrador?”

Preguntas frecuentes

¿Cómo se revisan las especificaciones generadas por IA?

Divide el borrador en afirmaciones individuales, rastrea cada una a una página o tabla de la hoja de datos u otra fuente, revisa unidades, condiciones y mín./típ./máx., abre cada cita, y corrige o elimina todo lo que no se pueda respaldar.

¿Con qué frecuencia inventa citas la IA?

En un estudio, el 55 % de las citas generadas por GPT-3.5 y el 18 % de las de GPT-4 eran inventadas, y muchas citas reales tenían errores importantes. Los modelos más nuevos pueden hacerlo mejor, pero cada cita sigue necesitando revisión.

¿Darle la hoja de datos a la IA evita los errores?

Los reduce, pero no los elimina. Los modelos todavía pueden pegar valores a la condición o columna equivocada, así que sigue haciendo falta verificar contra la fuente.

¿Cuáles son los errores de especificación más comunes de la IA?

Valores pegados a la condición o columna equivocada, errores de unidad o prefijo, sufijos de número de parte inventados, cláusulas de normas verosímiles pero equivocadas y declaraciones de cumplimiento sin certificado.

¿Quién debe verificar el contenido técnico redactado con IA?

Alguien con acceso a los documentos fuente y el conocimiento técnico suficiente para juzgar condiciones y unidades, idealmente seguido de la revisión de un ingeniero responsable del producto.

Lecturas relacionadas: IA en el contenido técnico: dónde ayuda y dónde falla, cómo leer la hoja de datos de un sensor y cómo escribir artículos técnicos que los ingenieros sí creen.

Fuentes

1. National Institute of Standards and Technology (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. https://doi.org/10.6028/NIST.AI.600-1
2. Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5
3. Min, S., Krishna, K., Lyu, X., Lewis, M., Yih, W., Koh, P. W., Iyyer, M., Zettlemoyer, L., & Hajishirzi, H. (2023). FActScore: Fine-grained atomic evaluation of factual precision in long form text generation. Proceedings of EMNLP 2023, 12076–12100. https://doi.org/10.18653/v1/2023.emnlp-main.741
4. Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38. https://doi.org/10.1145/3571730