← Glosario IA

Latencia (Latency)

Definición

El tiempo que tarda la IA en empezar a responder y en completar su respuesta. Modelos más potentes tienden a ser más lentos. Los modelos de razonamiento (como o1) pueden tardar minutos en problemas complejos.

Analogía

Como la diferencia entre una respuesta inmediata en un chat versus un informe de consultoría que llega en 48 horas. Ambos son útiles, pero para diferentes propósitos.

Ejemplo

GPT-4o Mini responde en 1-2 segundos (ideal para chatbots en tiempo real). Claude para documentos largos puede tardar 30-60 segundos. Los modelos de razonamiento como o1 pueden tardar 2-5 minutos en análisis complejos.