02 · Ética, transparencia y responsabilidad
Lección 3 de 3 · 10 min
Sesgos, alucinaciones y supervisión
Por qué un texto fluido puede discriminar o inventar una norma.
Los modelos se entrenan con textos del mundo, y el mundo está lleno de sesgos. Pueden asumir que quien reclama «debe ser conflictivo», que un apellido mapuche «es un caso especial de beneficio indígena» o que un adulto mayor «no entiende internet». En el Estado eso no es una gracia: es un trato desigual.
La alucinación es otro fenómeno cotidiano: el modelo inventa el número de un decreto, una circular de la SUBDERE o un dictamen de Contraloría con redacción impecable. Si usted no abre la fuente, el error viaja con membrete.
Cómo supervisar en cinco minutos
- Subraye cada cifra, plazo y cita normativa. Verifíquelas una por una.
- Lea el texto en voz alta: si suena a folleto o a tribunal extranjero, reescríbalo.
- Pregunte: ¿este tono serviría igual en Arica, en Puerto Williams y en una oficina de Temuco?
- Si el caso toca pueblo originario, discapacidad o violencia, pida revisión humana adicional.