Hay un inconveniente muy importante que veo siempre a la hora de probar modelos nuevos, y es no poderlos usar en sus versiones grandes por el tema de la capacidad computacional. Sólo quien tenga comprado algún servicio de computación en la nube podría llegarlos a usar pero con un coste muy alto, saldría mejor si alguna empresa se encargara de ofrecer planes para acceder a una API key mucho más económica que nos permita a todos los desarrolladores usar estos modelos de manera rápida y eficiente.
@arz-ai8 ай бұрын
Runpod montas los llm y agas lo que usas y openrouter hay muchos modelos con acceso por API
@wilfredomartel7781 Жыл бұрын
Excelente! Cual es el embedding por defecto al utilizar huggingfacermbedding?
@peralser Жыл бұрын
Genio!!! Gracias por la claridad y simplicidad en la explicación. Abrazo.
@rockerretrogirl21 Жыл бұрын
SUPERB, MUCHAS GRACIAS
@smartcontract7929 Жыл бұрын
gracias por la información. Pd: cual camara usas?
@KYRAIA Жыл бұрын
gran video, sigue con este tipo de contenidos, es muy intersante
@GapInvestor Жыл бұрын
Excelente vídeo, muy buen trabajo! Una duda, funciona con documentos y preguntas en español? Gracias!
@renzoperezbartra3638 Жыл бұрын
Muy buen video!! Y muy conciso, muchas gracias por lo que haces
@DiegoNaranjo79 Жыл бұрын
Hola! Un lujo el video y las explicaciones que también son necesarias en nuestro idioma. Ahora te pregunto, sería increíble si tienes posibilidad de hacer una prueba igual con un modelo en español como este: OpenAssistant/falcon-7b-sft-mix-2000 Saludos y muchas gracias!!!
@ozzy1987mr Жыл бұрын
muy buen video, super explicado y entendible
@aratheonquark3495 Жыл бұрын
¿Se puede hacer correr en Google Colab? Yo lo he intentado y no soy capaz de solventar los errores que me arroja... pero yo no soy programador y quizá "me falte calle" en este tema... GRACIAS SENSIO POR COMPARTIR TUS EXPERIENCIAS!!!
@juansensio Жыл бұрын
No lo he probado pero debería ser posible, ni que sea usando la CPU
@mariocarlosmallea2262 Жыл бұрын
Yo tampoco he podido, no logro superar el error : name 'init_empty_weights' is not defined
@jorgemarz Жыл бұрын
Muy buena introducción a este modelo! Oye amigo, si quisiera implementar este modelo, y hacerle un entrenamiento con embedding a través de pdf's, cómo le puedo hacer? Tienes algún tuto sobre esto? Adicionalmente, como se pudiera subir en la nube y agregarle una interface gráfica, tipo ventana de chat.
@jucamhc Жыл бұрын
Hola a todos, una pregunta algien tiene problemas con transformers saben que version es la compatible ??? ya que me descarga el modelo pero se queda colgado aqui transformers
@lfmtube Жыл бұрын
Que bueno tu video. Este es uno más de una serie muy muy instructiva y útil. Te lo agradezco mucho. Eres como 10 mil porciento mas eficiente que una universidad! 😊
@robertomanchado1509 Жыл бұрын
Excelente 👌
@luis96xd Жыл бұрын
¡Excelente video! Estuvo muy bien explicado, se ve muy interesante el modelo 😄 ¿Cuales son los vídeos que recomiendas en esta parte del video 3:55? Me gustaría aprender más sobre estos modelos de atención
@juansensio Жыл бұрын
Este y los siguientes: Mecanismos de Atención kzbin.info/www/bejne/kKGyZnRvnbqDbMU
@bluck9150 Жыл бұрын
Bro ¿Cómo puedo hacer fine tunning de falcon instruct? ¿Podrías darme algún artículo, colab o videos :u?❤
@luis96xd Жыл бұрын
Me gustaría saber como hacer finetunning!
@bluck9150 Жыл бұрын
En español difícilmente encontrarás videos sobre como hacer fine tunning de modelos de hugging face, te recomiendo buscar contenido en inglés, por lo general dejan colabs y las instrucciones
@juansensio Жыл бұрын
Aquí hacemos finetuning de BERT para generación de código. No debería ser muy difícil adaptarlo para usar Falcon de base (mejor finetuning de Falcon que de Falcon-instruct 🙃) kzbin.info/www/bejne/kJq2YoKlrNCXj7M
@bluck9150 Жыл бұрын
@@juansensio es que quiero hacer un chatbot, me recomiendas usar Falcon y no el instruct?
@GuillermoTs9 ай бұрын
hay algun modelo para una raspberry pi 3 o laptop de 3gb de ram?
@creed4788 Жыл бұрын
¿Puedo usar eso para crear algun juego tipo novela visual con unity donde el personaje tenga la personalidad del bot que he creado y hable con el jugador?.
@xmagcx1 Жыл бұрын
juan sencio ya esta listo como en la película fragmentado de tantos oficios distintos 😂
@IAVIC Жыл бұрын
Me encantan estos modelos y los que mas me gustan son los de 7B ggml
@10cesarjp Жыл бұрын
Excelente vídeo, muy ilustrativo, podrías hacer un vídeo de chateando con un pdf desde google colab si es posible ?
@nicolasmielnizuk8319 Жыл бұрын
Sos muy capo!
@enoccastro9355 Жыл бұрын
Grande sensio
Жыл бұрын
No funcionaba en español muy bien
@lomokino7 ай бұрын
Claro que si . Dame una grafica de 64 gb ggdr5 gracas