Entiende la factura
Lo que RAG cuesta de verdad (y lo que no)
La generación aumentada por recuperación tiene fama de cara — ganada sobre todo por malas estimaciones. El pipeline tiene cuatro líneas de costo: indexación única (embeddings de tu corpus), base de datos vectorial (almacenar vectores y buscarlos), embeddings recurrentes (cada consulta, más re-indexar contenido nuevo) y generación LLM (escribir las respuestas). La calculadora pone precio a cada línea por separado, porque se comportan de forma completamente distinta a escala.
La parte contraintuitiva: indexar es barato
Generar embeddings de un corpus de 5.000 páginas con un modelo moderno cuesta menos de un dólar — los valores por defecto dan unos 6 centavos. El almacenamiento es igual de pequeño: esas páginas se vuelven ~3.600 vectores que ocupan centésimas de GB. El mito de «indexar nuestros documentos será caro» rara vez sobrevive a la aritmética. Lo que sí cuesta dinero es responder preguntas: la generación LLM suele ser el 90%+ de una factura RAG a volúmenes de producción.
A dónde se va el dinero a escala
- El contexto recuperado son tokens de entrada. Cada fragmento que pegas en el prompt se cobra en cada consulta. Recuperar 5 fragmentos cuando bastan 3 infla la línea dominante ~40%.
- La longitud de respuesta es la segunda palanca. Las respuestas con citas no necesitan 800 tokens; limítalas.
- Las unidades de precio varían muchísimo entre bases vectoriales. Pinecone cobra unidades de lectura/escritura; otros, pods u horas de cómputo. Por eso esta herramienta expone las tarifas como campos editables — pon los números efectivos de tu proveedor, partiendo de precios de lista serverless como los de Pinecone.
Elección del modelo de embeddings
Los modelos de embeddings pequeños ($0,02/1M tokens, 1.536 dimensiones) resuelven la mayoría de tareas de recuperación; los grandes ($0,13/1M, 3.072 dims) compran una mejora marginal de recall a 6× el costo y el doble de almacenamiento, porque el almacenamiento escala con las dimensiones. Empieza pequeño; sube solo si la calidad de recuperación falla de forma medible en tus evaluaciones.
Ejemplo resuelto
Los valores por defecto: 5.000 páginas indexadas por ~$0,06 una vez, almacenadas en ~0,03 GB. Con 50.000 consultas/mes y GPT-5.4 mini generando respuestas: base vectorial ~$1,20, embeddings ~$0,03, generación ~$142 — ~$144/mes en total, 0,3¢ por consulta. La lección se ve de inmediato: la base de datos es ruido, el LLM es la factura. Si vas a envolver este pipeline en un chatbot, ponle precio al producto completo en la calculadora de costos de chatbot, y comprueba si compensa en la calculadora de ROI.