Fine-tuning a GPT3 Para Que Haga Lo Que Sea

En este video veremos como podemos hacer fine-tuning de GPT3 de openai. Para que se pueda adecuar mejor a los distintos casos de uso que podemos llegar a tener.
______________________________________________________________________________________________________________________________________________________________________________________________________
- Ponte en contacto conmigo: / amptech_cc
- 🔊 Si quieres apoyar al canal 🫶 para que haya mas y mejor contenido (ganar-ganar-ganar jaja) puedes hacerlo por Patreon! 🔊
/ amptech_cc
______________________________________________________________________________________________________________________________________________________________________________________________________
0:00 - Intro
0:10 - Que es fine-tuning
0:20 - Cuando hacer fine-tuning
1:17 - Costos
1:47 - Configuracion inicial
2:17 - Variable de ambiente
2:44 - Armar tu set de datos
3:25 - Formato de csv
5:00 - Recomendaciones sobre tu set de datos
7:00 - Convertir a jsonl
8:12 - Empezar fine-tuning
10:30 - Probando el modelo
12:12 - Comparacion contra modelo sin FT
13:05 - Menciones importantes
#inteligenciaartificial #openai #chatgpt

[@jersainpasaran1931]

Excelente información. Podrías profundizar en los embeddings?

[@jorgedavidambrocioventura9196]

Muchas gracias por tu video, es altamente de provecho. Yo también estoy interesado en ver cómo desarrollas, en próximos videos, las búsquedas semánticas y los embedings.

[@gama3181]

De lujo manito. Muchas gracias

[@aldofiorentinisolis]

Excelente explicación ! Espero haya pronto mas contenido

[@oswaldocruz5620]

Muchas gracias por compartir este conocimiento tan valioso.

[@AMPTech]

Muchas gracias por el comentario Oswaldo, que bueno que te ha funcionado :)

[@roman_ramos]

Excelente Alex. Gracias

[@SonGoku-pc7jl]

ha sido increible lo que me acabas de enseñar con todo lo motivado que estoy con estos temas, necesitaba entender el concepto fine tuning i genial lo que explicas y como lo explicas, interesaria mucho lo que propusiste de hablar otro video de los embedings o busqueda semantica, creo que es algo de vectores para entender mejor una conversacion como datos o algo así y me interesa mucho. Muchas gracias

[@AMPTech]

Que bueno que te sirvió el video! Si, ya esta anotado entre los próximos videos el mostrar como hacer la búsqueda de textos por medio de embeddings.

[@wilnarvaez]

definitivamente sería genial un video centrado en los embedings, gracias.

[@AMPTech]

Ya viene en poco tiempo. Saludos

[@fernandogatti8277]

Excelente, un video de embeddings sería genial!

[@cristoperfuiriestola971]

Excelente video muchas gracias siempre aprendo cosas muy interesantes en tu canal Y te agradecería mucho si nos pudieras enseñar mas sobre búsquedas semánticas con Gpt-3

[@AMPTech]

Gracias por tu comentario! Si, parece que si hay algo de interés en la búsqueda semántica, lo acabo de agregar a mi lista para próximos videos. Saludos!

[@javi_v7.0]

Gracias por tu video amigo, excelente información..., ¡saludos!

[@AMPTech]

Gracias por el comentario ya se vienen mas videos sobre el tema!

[@jorgetinoco8249]

Hola, gracias por tus videos, son muy útiles. Sí, sería genial que puedas hacer un video (si existe esa opción) explicativo de como "enseñar" a GPT3 con información puntual (horarios, lugares, productos, etc) para que sirva de chatbot, para contestar comentarios de preguntas que suelen hacer los clientes.

[@AMPTech]

Hola Jorge, si creo que trabajare en ese video mas adelante, porque si es super importante poder hacerlo sin caer en las alucinaciones de GPT. Saludos!

[@JoseLuis-yl8vs]

Apoyo esto, esperando el video !!

[@user-xz9od5so4o]

@@AMPTech lo mas antes posible por favor!!

[@briandevs]

​@@AMPTech 🎉 lo espero también!

[@JardanySvidrigailov]

Espectacular video...

[@AMPTech]

Muchas gracias!

[@11020tony]

hola interesante hare un tuning , suerte a todos, en la nueva ai era!!!!!

[@danilogarcia6317]

Hola! para el proyecto del asistente quizás te interese echarle un vistazo al proyecto de Open Assistant, muy buen video :D

[@enriquesmr]

Sí, ¿podrías hacer un video sobre búsqueda semántica? Muchas gracias por tus videos.

[@Flako062008]

Buenísimo video Alex! Saludos desde Chile. Me gustaría saber si el fine tuning me ayudaría a ajustar el modelo para que reconozca e identifique ciertos tipos de documentos que suelo trabajar: contratos, certificados, pólizas, etc. me gustaría que al pasarle el texto, el modelo identifique de qué documento se trata, en base al set de datos que le daré. Qué opinas?

[@jorgetoledo1729]

Estaría bueno un video de embeddings + fine t

[@NullSafeArchitect]

Brutal Alex!

[@AMPTech]

Muchas gracias!

[@moises.martinez]

Podrías hacer un fine tunning para entrenar un chatbot específico, por ejemplo de atención al público, donde pueda atender todas las preguntas comunes de una empresa como por ejemplo horarios, direcciones, tipos de servicio, etc

[@fastsmartsystem]

Ya con la API de ChatGPT se puede, aunque el unico inconveniente es que no se puede hacer finetuning y tienes que estar metiendo el contexto y eso gasta muchos tokens y maximo solo utiliza 4096 tokens por llamada

[@ayudasynegocios7078]

Yo también quiero que expliquen cómo hacer eso!

[@enriqueprietocatalan6011]

@@fastsmartsystem Creo que hay métodos para hacer una preseleccion de contexto que ahorre Tokens, un video sobre esto también estaría genial ¡gracias!

[@Jackvier]

Por lo que vi el formato de preguntas y respuestas es diferente a este ejercicio y hay varios caracteres especiales que se usan, ahora lo que vi es que para el caso de GPT-3.5 y 4 es diferente, seria bueno hacer un ejemplo, por ejemplo modificando una respuesta como "cual es el mejor equipo del mundo" y que responda siempre el equipo de tu preferencia

[@yairrodriguez475]

armen el discord y vemos que onda igual quiero hacer lo mismo

[@dacastror]

Genial! muy buen video, lo único que me estaba enloqueciendo era la pronunciación de la letra s en .csv, que la pronuncie como si fuera una c, algo pequeño e insignificante pero que me alcanzaba a incomodar, jaja, perdón por la tontería, por todo lo demás me encantó el video!, muchas gracias por realizarlo.

[@AMPTech]

Jaja no me había dado cuenta, por andarlo diciendo tan rápido. Saludos!

[@usuarior269]

Muy bueno. Pregunta. Serviría el Fine Tuning para dar personalidad al modelo? Por ejemplo, actua como ... ¿O hay otra opción mejor? Muchas gracias

[@nafhhta]

Buen video, seria muy bueno que hicieras uno sobre los emmbedings

[@AMPTech]

Apuntado para los siguientes videos.

[@SebaGroxerTech]

Podrias compartir el CSV que ejemplificas en el video? 😊. Muy buen video! , Suscripto.

[@_Zefyr_]

Chevere tu explicacion , tengo una pregunta es posible fine tunear un modelo fine tuneado sin necesidad de que se cree como un nuevo modelo fine tuning ? Es decir es posible editarlo/actualizarlo en vez de crearlo ?

[@1DusDB]

14:28 Si por favor haz un video de embeddings 👍

[@enriqueprietocatalan6011]

Respondiendo a tu pregunta al final del video : Si, sería muy interesante un video explicando métodos de respuestas más rigurosas como el embedding que sugerías y desconozco ¡gracias!

[@AMPTech]

Ahorita se cruzaron las vacaciones, pero el siguiente video va as ser sobre los embeddings, va a estar muy interesante. Saludos!

[@luismanuelmorales7194]

Super like jaja

[@safirot2]

Existe alguna manera para que el modelo de lenguaje únicamente responda aquellas preguntas que se relacionen con los prompts que montamos? Para dar mayor precisión a las respuestas del chatbot. Muchas gracias por el contenido !!

[@nes7or1]

hola amigo, si hicste el video de embeddings? gracias por compartir

[@fvignoles]

Excelente video. Sería muy bueno que expliques con la misma claridad que son y como utilizar los embeddings. Muchas gracias!

[@AMPTech]

Hola! Checa en mi canal, uno de los ultimos 5 videos que tengo es sobre embeddings. El nombre del video es "Aprende sobre Embeddings de OpenAI" Saludos

[@fvignoles]

@@AMPTech muchas gracias!!! Excelente todos el contenido que compartís.

[@manedk7904]

Yo. intente algo parecido hace tiempo pero mandando a llamar la api de openIA para chatgptt y desde VS y la terminal mandas la pregunta y de ahi mismo la respuesta. q fue. lo q no me agrado por q responde cosas extrañas aveces o se vuelve loquita, no hice el fine tuning pero lo intentare a ver si es posible, q debe serlo solo agregando los valores al código ,ya sera buscarle, muy buenos videos siempre bien explicados

[@AMPTech]

Si a veces los modelos no "fine-tuneados" puedes tener respuestas un poco mas variadas aunque el prompt sea muy similar. Mi recomendación sería probar un poco mas con distintos promts y formatos y ya si no, entonces is pasar al fine-tuning.

[@albint3r532]

Si yo quisiera que respondiera de leyes solo podría trabajar sobre lo ya entrenado o existe alguna manera más profunda de hacerlo?

[@GuitarrErik]

Gracias por tu video, nuevo suscriptor! Puedes hacer un video de busqueda semantica utilizando los embedding de Openai por favor

[@AMPTech]

Muchas gracias Erik, el video de los embeddings sera el proximo. Lo estaré publicando la semana que viene. Saludos!

[@juanroncancio3148]

Sería interesante u n videos sobre los proyectos que se pdorian implementar usando esta herramienta

[@AMPTech]

Buen punto, uno dedicado a algunos casos de uso terminaría de aterrizar los conceptos. Anotado! Gracias

[@averthebest]

Deberías hablar de RWKV. Alguien logró hacer un modelo al nivel de GPT con RNN y también paralelizable.

[@estebanruiz3254]

Wow Tienes un link? No creía que eso fuera posible

[@TheNextGateMusic]

si te agradeceria si haces un video de los embeddings

[@programandoconkiki]

Hola Alex! Me encantaría entender más sobre los embeddings de Open AI

[@AMPTech]

Estará dentro de los siguientes dos videos que publique!

[@chavezaron5895]

¿Cual seria el modelo mas recomendado para un CHATBOT de un Negocio el Fine-Tuning o Embeddings?. Espero su respuesta. Muchas Gracias

[@VictorAlonsoSolano]

¿Y que opinas de entrenar un modelo por ejemplo en HugginFace?, ¿Es posible generar un modelo más "personalizado" y acertado?, por ejemplo con el modelo Alpaca.

[@kennyPAGC]

Para hacer un chatbot que permita a los usuarios de mi web hacer preguntas sobre el mismo (con un dump de los artículos de ayuda, documentación, etc) es mejor usar fine tuning o embeddings? Supongo que fine tuning de todo el contenido de base de conocimiento sería carísimo.

[@AdiosLimites]

Excelente video! Embeddings please

[@rafaelclariana]

Hola Alex, muchas gracias por el video, muy claro sobre todo para tener una primera idea del tema. Quiero hacerte una consulta: cómo podría hacer para analizar un grupo de libros, y luego hacer consultas que solo abarquen dicho grupo y contenido, pero que se relacionen. Por ejemplo: subir los libros de Harry Potter y luego hacer consultas acerca de cómo fue cambiando un personaje. Debo hacer un entrenamiento? Ya existe alguna plataforma para ello? estoy realmente desorientado. Muchas gracias

[@AMPTech]

En parte entiendo porque OpenAI tuvo que tomar ese camino, aunque como dices, todo termina siendo de los grandes. Afortunadamente estan saliendo muchas iniciativas open source como open assistant, gpt4all, etc. Haré unos videos sobre estas opciones.

[@elrecreoadan878]

Hola Alex. Cuándo sería suficiente usar una ai bot como Botpress en lugar de hacer fine tuning?

[@JoshuaElArbol]

Me interesó lo de la búsqueda semántica :0! Y muchas gracias por el video :)!!! Aprendí mucho!! Estoy tomando notas de mi universidad en Obsidian y me interesa empezar a hacer resúmenes de las mismas en la parte superior de la nota, para cuando tenga que estudiar, pueda ver de un vistazo de qué se habló en la clase :)! Cada vez necesito más especificaciones en el prompt para que me genere resúmenes más específicos, y tal vez lo de la búsqueda semántica pueda ser la respuesta, pero no lo sé. ¿Qué me recomiendas? De nuevo, gracias por el video :D!!

[@AMPTech]

Muy buena idea! Yo también uso obsidian, como todo son .md creo que si se puede. Voy a ver como podria meterlo en alguno de los siguientes videos! Si creo que con embeddings puedes solucionar una buena parte

[@mao910102]

Hola! cómo me aconsejarías montar varios asesores que tomen información relevante de usuarios y con base a eso brinde soluciones o consejos... por ejemplo refinar la data con todos los datos de cada usuario ys e vaya creando para cada uno un modelo y sobre movimientos, transacciones y toda la data existente se retroalimente... alguna idea''???

[@kennyPAGC]

No se podría complementar el fine tuning con un prompt definiendo el formato para que la respuesta de gpt sea el correcto haiku?

[@unlimited_code]

14:33 Si por favor y gracias.

[@luisandraschnik3001]

Quisiera hacer fine tuning del modelo Flamingo de deepmind

[@julianneira4286]

Muchas gracias por tus videos. Que técnica se puede utilizar para entrenar a Chat GPT a partir de documentación técnica y evitar las alucinaciones?

[@AMPTech]

Hola Julian, para eso se hace algo llamado búsqueda semántica, en el que vectorizas (con embedding) todos los textos al igual que las preguntas. Y de respuesta, no genera nuevo texto sino que busca el vector mas cercano a la pregunta. Estoy viendo para hacer un video sobre eso. Saludos!

[@taronyx]

Sería muy interesante tener algo así. Serviría por ejemplo si lo entrenamos con leyes, reglamentos o políticas, para que ayude con la interpretación o a responder cuando tengamos dudas con manuales o normas de una empresa.

[@raulengo]

@@AMPTech eso quiero. Xq quiero que solo me responda con la teoría que le de y no con lo que busque de internet.

[@hernandocastroarana6206]

Hola, gracias por el video. Sabes cuál sería la mejor opción para que me responda preguntas sobre temas de derecho de un país determinado? Por ejemplo, ingresar los datos correspondientes a las leyes en materia de derecho de seguros de cierto país para que responda cualquier consulta sobre ese tema. Agradezco mucho la orientación.

[@AMPTech]

Justo seria el tema de embeddings. Pronto ya vendrá video de eso!

[@hernandocastroarana6206]

@@AMPTech Ah perfecto muchas gracias, estaré muy atento.

[@OneworldKW]

Muy bueno. Una duda, que proyectos me recomiendes para llamar la atencion de un hiring manager? Gracias

[@AMPTech]

Para que tipo de vacantes te estas postulando? En general te diria que cualquier proyecto que no sea de los tipicos. Por ejemplo el MNIST no te va a ayudar mucho porque muchos lo hacen, pero un detector de alguna otra cosa te podría servir. Eso y también encargate de tener actualizado y bien armado tu Github. Saludos!

[@OneworldKW]

@@AMPTech mil gracias! Si, he estado trabajando en mi GitHub desde hace un año y ya Luce muy Bien. Yo quiero aplicar a vacantes para Data science. Muy bueno tu canal, lo sigo desde El 2020.

[@joserodriguezgarcia513]

Si tuvieras que crear un chatbot que responda preguntas relativas sobre una tienda online con miles de artículos, lo mejor sería embedding en vez de finetunning. ¿verdad? De esta forma se podría preguntar cosas tales como : - Dime los 5 productos más baratos donde tengas en stock más de 5 unidades. - Dime el precio de un lavabo negro etc.. Gracias

[@miguela.cuevas6629]

Hola me acabo de escribir me fascinan tus videos llevo muchas horas viéndolos, una gran duda quiza algo tonta ¿hay alguna forma de no usar los tokens de openai y poder de alguna forma entrenar la maquina? me refiero a usar los tokens existentes y rentrenarlos pero sin usar en si nuevos pues con tanta data ya tiene que tener una idea aunque sea vaga de casi cualquier tema y solo es adaptar la información ya esxistente a tu conveniencia ¿se puede?

[@AMPTech]

Hola Miguel, gracias por tu comentario. Si lo quieres conectar con GPT3 o GPT4, estas forzado a utilizar su tokenizador. Esto porque su sistema de embedding y el generador de texto esta entrelazados. No se si te refieres a entrenar un modelo de este tipo (LLM), pero estos modelos son muy grandes y toma bastante tiempo y dinero poder llevar a cabo un entrenamiento (Lo mas cercano seria el fine tuning que no es costoso o usar algun modelo mas pequeño que no sea LLM) Saludos!

[@user-eb2hs7oj7r]

Hola buenas noches, me gustaría saber si es posible entrenar la ia con finetunning para que responda sobre una base de datos y que siga usando gpt3-5 o 4, davinci etc. Mantener la IA de gpt

[@AMPTech]

Puedes hacer prompts que le den contexto al modelo, pero no se puede evitar la posibilidad de las alucinaciones.

[@lubeckable]

algo de los modelos optimizados de meta? que pueden correr localmente

[@AMPTech]

Si tengo en mente hacer video sobre Llama, quiero ver si lo puedo correr en la jetson agx.

[@hermez2208]

15:05 cuando tengo daily en la mañana tambien a veces suena la de los fierros viejos xD Gracias por el video, sabes que es lo que puedo usar para un detector de un objeto en especifico en un video?

[@AMPTech]

Jaja siempre pasan en el peor momento, el folclor de vivir en la ciudad de mexico. Para poder detectar elementos en un video checa mi video llamado "Entrena YOLOv7 y corre detección de los objetos que quieras" Aqui está la liga: kzbin.info/www/bejne/rX6wppKImq6Ufs0

[@diegolabs4128]

Que por qué no usar localmente el nuevo modelo de Meta ‘LlaMA’ en lugar de GPT3? Se supone que esta optimizado para tener un rendimiento similar con menos parámetros y funcionar en una sola gráfica.

[@AMPTech]

Si le eche un ojo. Tal vez después haga un video sobre Llama

[@jairorodriguezsolorzano8958]

Hola, con respecto a la privacidad de información, si utilizo esta metodología y quiero hacer fine tuning con información relevante para mi, esta información será privada o OpenAI puede tener acceso a ella de alguna forma Muchas gracias

[@juancarlosyep7028]

que es hyku?

[@inteligenciafutura]

y como se puede hacer eso usando javascript

[@josevicentecampos6876]

Donde esta el video donde se instala openai, me es imposible correrlo desde la consola, ya he añadido los path de windows, pero no hay manera, a ver si alguien , me puede ayudar. Thanks

[@theproclamer]

Podrías profundizar en los embeddings?

[@AMPTech]

Claro! Ve mi ultimo video, es sobre como usarlos y una explicación de que son. kzbin.info/www/bejne/Y4m5nJd_mdGcZqs Saludos!

[@Spinall01]

Hola eso serviría para los modelos mas nuevos como gpt-3.5-turbo o gpt-4? La documentación me tiene confundido y no se donde leí que a estos últimos modelos aun NO tienen la opción de fine-tuning, alguien que lo confirme o desmienta?

[@AMPTech]

Hay pocas diferencias cuando lo quieras hacer con gpt3.5-turbo Lo explico en este video, ojalá te funcione. kzbin.info/www/bejne/eqWUZYyFqbx2pqs

[@Spinall01]

@@AMPTech Muchas gracias!! Si ya conseguí hacerlo. Era lo del ChatCompletion

[@jeffmagallanes7385]

Oye me surgió una nueva duda, estos modelos con fine tuning se pueden implementar en servidores de discord para que sean como un bot o algo asi?

[@AMPTech]

Si se puede. Mandando a llamar desde el bot.

[@santosmarte]

Que paso con el proyecto de automatizacion que estuvite publicando ?

[@AMPTech]

Todavia voy a publicar varios videos de ese proyecto. Solo que ahorita no he tenido tiempo para dedicarle en forma.

[@santosmarte]

@@AMPTech haha entiendo, :3 yo lo espero :3

[@fernandalegorreta1115]

Hola Alejandro. Me gustaría contactarte. A dónde te puedo escribir?

[@fernandalegorreta1115]

soy socia de LegoSoft y estamos trabajando en el desarrollo de una herramienta de AI, nos gustaría platicar contigo.

[@handbed]

habla de busqueda semantica, y creo que te falto mover la tempeture a 0, que creo que lo que hace es responder simpre exactamente lo mismo y evitar que en segundas respuesta entregue valores o aletoridad

[@AngelMorinigo]

Como seria para que pueda comunicarse con mi API

[@AMPTech]

Depende por completo del API que tienes construida. Pero de manera general sería predefinir algunos llamados en codigo al rededor de GPT y que las variables que se tengan que enviar las genere GPT.

[@seba5854]

Buenas, la API de ChatGPT es mucho más barata, crees que sigue valiendo la pena usar GPT3?

[@AMPTech]

Si, son dos usos distintos. ChatGPT esta diseñado para tener conversaciones de prompt corto y completion media. Pero para muchos otros casos de uso no funcionaría tan bien. Pero igual que lo que mencioné al final, hay que probar los modelos que tienen por default (ahora incluido chatgpt) porque para muchos casos de uso puede resultar suficiente.

[@alejomedina6588]

Una pregunta, se puede hacer fine-tune gratis?

[@AMPTech]

Para GPT3 y 4 no se puede hacer gratis ya que es algo que ocurre del lado de los servidores de openAI.

[@poulvandyk]

eres el que hace el doblaje al español a Marty Mc Fly??

[@AMPTech]

Jaja no so soy yo!

[@poulvandyk]

@@AMPTech 🤪

[@joc98able]

Observación: El título dice Finet en lugar de Fine

[@AMPTech]

Ya no! Jaja muchas gracias José

[@berrodriquez26]

Buen video, a alguien le pasa el mismo error una y otra vez "Stream interrupted (client disconnected)." ?

[@AMPTech]

Desde la plataforma no te sale algun modelo ya finetuneado?

[@wilsonalejandrorojassaenz456]

@@AMPTech Me pasa lo mismo, y no aparece nada desde la plataforma

[@s.a1387]

Hola, en dónde puedo contactarte? Tienes IG o algún correo electrónico?

[@berrodriquez26]

Buen video, a alguien le pasa el mismo error una y otra vez "Stream interrupted (client disconnected)." ?