¿Por qué la IA te entiende aunque le escribas con faltas de ortografía?
No necesita que cada palabra sea perfecta. Los patrones que ha aprendido y el contexto le ayudan a inferir lo que querías decir.
La clave está en las pistas que quedan. Una letra puede fallar y el sentido de la frase seguir ahí.
Explora las cuatro pistas¿A que tú también la entiendes?
Compara la frase original con una posible lectura.
En azul, las cuatro formas corregidas. El resto de la frase conserva las pistas.
Simulación didáctica. No utiliza un modelo de IA.
Cuatro pistas para leer entre erratas
Elige una pista y prueba su laboratorioEl ruido no es aleatorio
Entre las erratas de teclado más habituales encontramos cuatro tipos: sustitución por una tecla vecina (pagunas, la u está junto a la i), inserción de una letra repetida (arribba), omisión (ej_mplo) y transposición (qeu). Estos patrones ayudan a proponer correcciones, aunque no garantizan recuperar la intención. Las faltas de ortografía también pueden venir de dudas sobre tildes, gramática o palabras homófonas.
Pulsa una tecla: en naranja, las vecinas con las que es fácil confundirla. Un buen modelo de errores da más probabilidad a esas sustituciones.
El texto llega convertido en tokens
Muchos modelos de lenguaje dividen el texto en tokens: palabras, fragmentos o unidades relacionadas con bytes. Una errata puede cambiar la división y aumentar el número de tokens. A veces conserva trozos compartidos con la palabra correcta; otras veces altera varios. El tokenizador solo convierte texto en unidades: no entiende ni corrige por sí mismo. El tokenizador de abajo es un juguete con un vocabulario mínimo y emparejamiento voraz, pero reproduce el fenómeno.
Distancia de edición
La distancia de Levenshtein cuenta el mínimo de inserciones, borrados y sustituciones para convertir una cadena en otra. Se calcula con programación dinámica: cada celda D[i][j] es el coste de transformar los primeros i caracteres de una en los primeros j de la otra.
En azul, el camino de alineamiento óptimo. Algunos correctores usan costes ponderados: confundir teclas vecinas o duplicar una letra cuesta menos que un cambio arbitrario.
El contexto decide: el canal ruidoso
El modelo clásico (Shannon; Kernighan, Church y Gale, 1990) trata la errata como un mensaje que pasó por un canal con ruido. Buscamos la palabra w que mejor explica lo observado x:
modelo de error modelo de lenguaje
Aquí puntuación de error = e−λ·d(x,w) con la distancia ponderada. Con λ alto se penalizan más los cambios; con λ bajo, el contexto pesa más. Los porcentajes se normalizan entre los candidatos de esta demostración: no son la confianza de una IA real. Prueba el contexto de la caza con la palabra casa: es un error de palabra real, y solo el contexto lo detecta.
Después, pon a prueba el simulador y descubre qué ocurre en un LLM real.
Todo junto: corregir con ruido creciente
Ensuciamos una frase con los cuatro tipos de error y le pasamos un corrector de canal ruidoso con un diccionario de unas 150 palabras y un modelo de bigramas mínimo. Sube el ruido y observa cuándo empieza a fallar. El corrector deja intactas las palabras de su diccionario: por eso puede pasar por alto errores como «casa» por «caza». Cada nivel genera una muestra; los aciertos no tienen por qué bajar de forma continua.
¿Y en un LLM real?
En un modelo de lenguaje, la tolerancia a las erratas depende de lo aprendido durante el entrenamiento, de cómo se representa el texto y del contexto disponible. El modelo puede relacionar variantes con usos parecidos y generar una respuesta compatible con la petición, sin producir primero una copia corregida. Eso no garantiza que dos palabras parecidas tengan representaciones cercanas ni que la interpretación sea correcta. El mecanismo de atención combina información de las posiciones permitidas por su arquitectura; al generar una respuesta, un modelo causal puede usar el mensaje previo del usuario.
Pasa el ratón o toca una palabra en naranja. El fondo destaca pistas que podrían ayudar a interpretarla. También puedes seleccionarlas con el teclado.
Pistas y pesos inventados con fines didácticos. No son una medición de atención ni una explicación de lo que piensa un modelo real.
Dónde falla
- Errores de palabra real: casa/caza, hay/ahí/ay. La forma escrita existe; solo el contexto puede delatarla.
- Contexto ambiguo o corto: sin frase alrededor, pueden quedar varias interpretaciones plausibles; el modelo puede favorecer una opción frecuente y equivocarse.
- Ruido muy denso: si cada palabra está rota, el contexto también lo está (lo has visto en el simulador).
- Nombres propios y jerga: un término poco visto en entrenamiento puede "corregirse" hacia una palabra común.
Para discutir en clase
¿Por qué un tokenizador por palabras completas sería mucho menos robusto?
En un sistema con vocabulario cerrado y sin mecanismo de respaldo, una errata puede convertir la palabra en una unidad desconocida (<UNK>). Las subpalabras o los bytes permiten representar más variantes, aunque no garantizan entenderlas.
¿Qué ocurre en el simulador si λ fuera infinito?
En el laboratorio de contexto, al aumentar mucho λ domina el candidato de menor distancia; si lo escrito figura como candidato, la distancia cero lo favorece. Si no figura, puede seguir eligiendo una alternativa. Al acercarse λ a cero domina la puntuación de contexto. El simulador de frases usa una regla distinta y conserva las palabras de su diccionario.
¿Podríamos entrenar un modelo para ser más robusto a erratas?
Sí: aumentación de datos inyectando ruido sintético (como el del simulador), BPE-dropout o regularización de subpalabras, y modelos a nivel de byte o carácter como ByT5.
¿Por qué "por que" frente a "porqué / por qué / porque" es difícil?
Las cuatro formas existen. La diferencia es gramatical (pregunta, causa, sustantivo), así que hace falta modelar la sintaxis de la frase, no solo la ortografía.
Material adaptado del HTML aportado «Leer entre erratas». Las entradas se procesan en este navegador; los laboratorios no envían mensajes a un servicio de IA.
¿Por qué la IA te entiende aunque le escribas con faltas de ortografía?
Un modelo de lenguaje puede inferir la intención gracias a los patrones aprendidos durante el entrenamiento y a las pistas del contexto. La representación en tokens permite procesar variantes, pero una errata también puede alterar varios tokens. La tolerancia depende del modelo, del idioma, de la tarea y del ruido.
Cómo se utiliza en este recurso
Adaptación de «Leer entre erratas», con teclado, tokenizador de juguete, tabla de Levenshtein, canal ruidoso simplificado, simulador de errores e ilustración de pistas contextuales. Todos los cálculos son locales y no utilizan un LLM.
Alcance y límites
El diccionario, los pesos y los contextos son didácticos. Los porcentajes solo comparan los candidatos del laboratorio y no miden la confianza de una IA. La atención ilustrada no se ha extraído de un modelo real. Los nombres propios, la ambigüedad y el ruido abundante pueden causar interpretaciones incorrectas.
Preguntas frecuentes
¿El tokenizador corrige las faltas?
No. Divide el texto en unidades. Es el modelo el que puede relacionar esas unidades con patrones aprendidos y con el contexto.
¿Entender una errata significa entender siempre mi intención?
No. Una respuesta fluida puede partir de una interpretación equivocada. Si hay ambigüedad, conviene añadir contexto o aclarar la palabra.
Fuentes para contrastar y ampliar
- Kernighan, Church y Gale (1990): corrección por canal ruidoso
- Vaswani y colaboradores (2017): Attention Is All You Need
- Xue y colaboradores (2022): ByT5 y robustez al ruido