¿Qué es RAG? - Mini clase con ejemplo técnico

[@jamesmiths72]

Gracias por el video. Casualmente hice esa prueba en chatgpt y vi que aparecía un mensaje abajo del chat que decía accesando internet y me respondió correctamente. Parece que ya le dieron acceso a la red y aparece respuestas actualizadas.

[@evoacdm]

Hola James. Gracias por el comentario. Tienes toda la razón, hace un rato ya que ChatGPT normal tiene acceso a internet. Por eso en el ejemplo (0:46) usamos ChatGPT Classic, una versión que no tiene ese acceso y que es más parecido a lo que veríamos al usar la API

[@germanlujan]

Muy claro todo! Has podido probar el desempeño del contextual rag de Antrophic? Que por lo que pude leer guarda en la base vectorial info sobre cada chunk con respecto al texto en general? Muchas gracias

[@evoacdm]

Hola! Gracias :) Sí, he visto el Contextual RAG. Es una de las técnicas que se usan para mejorar el Naive RAG y que efectivamente guarda más info. El gran contra es que usa una llamada extra de LLM para generar esa información, lo cual hace la solución mucho más cara, aunque se puede administrar con Batch processing.

[@germanlujan]

@@evoacdm muchas gracias por tu respuesta! Te molesto con una consulta más. Esa llamada extra la hace al crear la base de datos vectorial o en cada consulta del usuario?

[@evoacdm]

@@germanlujan La hace al crear cada chunk de la base de datos vectorial