Confianza, verificación y límites de lo que produce la IA
Resumen
Trata cada resultado de la IA como un primer borrador bien organizado. Las aplicaciones reducen el riesgo —responden a partir de tu texto, citan páginas y, en un caso, comprueban su propio trabajo—, pero ninguna puede prometer que sea correcto. Verifica lo que importa (cifras, nombres, fechas, obligaciones) con la fuente, y piensa en lo que envías antes de enviarlo.
Detalles
Qué hacen las aplicaciones para ceñirse a los hechos
| Aplicación | Salvaguardas incorporadas | Lo que sigue siendo tu trabajo |
|---|---|---|
| Ask PDF / Base de conocimientos PDF | Las respuestas se escriben solo a partir de pasajes recuperados; la instrucción de redacción prohíbe rellenar huecos con conocimiento general y exige cifras exactas. Los marcadores de cita que no apuntan a nada se eliminan; cada cita que se conserva muestra su texto en la página. Un panel «cómo se construyó esta respuesta» enumera los pasos | Abre la cita; juzga si el pasaje respalda de verdad la frase; recuerda que los resúmenes de muchos documentos pueden pasar por alto algún pasaje |
| Abstracts | Los resúmenes de no ficción se comparan después con el documento y se corrigen las afirmaciones contradichas (cuando el tiempo lo permite). Los resúmenes de ficción no se comprueban | Lee el resumen contrastándolo con el documento; comprueba nombres y cifras |
| Hoja de trucos | Con un documento, los elementos salen de su texto. Con solo un tema, del conocimiento general del modelo: nada los comprueba | Verifica fórmulas y datos, sobre todo en el modo de solo tema |
| Lista de verificación | Cada elemento lleva una página de origen y extractos. El nivel Directo se queda en las afirmaciones explícitas | En Moderado y superiores los elementos incluyen inferencias; trátalos como sugerencias |
Dónde se equivoca la IA
- Muestreo. Los documentos largos a menudo se leen en parte. Los mensajes de progreso y las preguntas frecuentes de las aplicaciones lo dicen; el resultado puede omitir lo que no se muestreó.
- Detalles inventados o fuera de lugar, sobre todo cifras, nombres y redacción jurídica.
- Estructura mal leída: las tablas, las maquetaciones a varias columnas y las notas al pie pueden extraerse desordenadas.
- Ciega a las imágenes. Los gráficos, las fotos y los diagramas no se analizan.
- Fluida pero equivocada en otros idiomas. Haz que un hablante revise las traducciones cuando importe.
- No es asesoramiento. Las decisiones legales, médicas o financieras necesitan a una persona cualificada.
Una rutina rápida de verificación
- Abre la cita (Ask PDF, Base de conocimientos PDF) o la página de origen (Lista de verificación) de cada afirmación en la que vayas a apoyarte.
- Vuelve a comprobar todas las cifras, fechas y nombres con la página.
- Haz la pregunta contraria («¿Dónde dice el documento lo contrario?»).
- Compara dos ejecuciones con opciones distintas; los elementos que aparecen solo en una merecen una mirada.
- Marca el resultado como redactado por IA si lo compartes.
Qué se envía al modelo
Según el código de procesamiento:
- Texto, no imágenes. El texto de tus páginas (o de los pasajes recuperados y de las partes extraídas), tu pregunta o tema y las opciones que elijas (estilo, idioma, etc.). Las imágenes de página que se usan para resaltar las citas se generan en el lado de Documentize y la IA no las analiza.
- Escaneos. En Abstracts, el reconocimiento de texto se ejecuta primero como paso de procesamiento; el texto que produce es lo que sigue adelante.
- Los documentos largos se dividen en partes, y se hacen varias solicitudes por documento.
- La búsqueda también usa embeddings (huellas numéricas de los pasajes) del mismo punto de conexión del modelo.
- Qué proveedor ejecuta el modelo es un ajuste del servidor que el código no muestra; el libro no puede indicarlo. (compruébalo en la aplicación en funcionamiento / con el proveedor)
Cuánto tiempo se conservan los datos
Los textos de preguntas frecuentes de las propias aplicaciones difieren: lee el de la aplicación que uses:
- Ask PDF: los PDF y la base de conocimientos se conservan aproximadamente un día y después se eliminan.
- Base de conocimientos PDF: se conserva aproximadamente un día, se elimina automáticamente, «no se comparte con nadie».
- Lista de verificación: los documentos se eliminan cuando la tarea termina.
- Hoja de trucos: «se elimina inmediatamente después de la generación». Documentize también conserva los resultados durante un tiempo breve para su descarga; consulta Privacidad y ciclo de vida de los datos para las reglas generales. No cuentes con ninguno de estos como almacenamiento a largo plazo; descarga lo que necesites.
Hábitos seguros con documentos sensibles
- Quita lo que la IA no necesita: División de PDF para enviar solo las páginas relevantes; Redactor para los datos personales.
- No subas lo que no tengas permiso para compartir con un servicio de procesamiento; consulta las normas de tu organización.
- Para material regulado, valora el autoalojamiento.