Crea un endpoint API 100% local para tu LLM usando LM Studio

[@royotech]

Eres un crack... debes ser de los más crack de España... Hay esperanza en España amigo vikingo..

[@LaHoraMaker]

🤞

[@Jesulex82]

NO VEAS BRO... ANTES DE LLEGAR A TODO ESTO TUVE QUE COMERME NOSE CUANTAS COSAS... ESO QUE DIE DE IMPORTAR LA LIBRERIA COMO SE HACE CUANDO LE DOY A RUM ME DA UN FALLO

[@erik_riv]

Es muy interesante lo que se puede hacer con LM Studio. Trato de imaginar sus posibles usos, pero quizás me quede corto y no alcance a comprender del todo su potencial. Me gustaría que un video próximo, se platicara sobre posibilidades de usos prácticos. Muchas gracias por esta serie de tutoriales que están geniales 💯

[@LaHoraMaker]

Gracias por el comentario Erik! Me lo apunto para preparar los próximos usos, orientados en casos prácticos.

[@jackgaleras]

Hola genio, ya hice una pequeña red de computadores con un modelo libre gracias al video

[@LaHoraMaker]

Felicidades! Me alegra mucho saber que te ha resultado útil!

[@SalomónVelazquez-e5z]

Gracias por subir estos videos

[@ojitxs]

gracias!

[@crospizsee5263]

algun LM Studio para windows 7 todos son para windows 10 da error

[@josemanuelgallardo3497]

Instalar un Windows 10 Recortado...

[@arkangelMX2009]

Muchas gracias!

[@jackgaleras]

Se puede hacer un RAG con LM Studio? y que con la licencias comerciales o usar esto en el trabajo ...

[@trocarful]

Se pueden hacer embedding con doc de texto en lm studio? Tutorial please😊. Enhorabuena por el canal, su contenido es muy util 👍👍

[@santiagovelezflorez1634]

Me uno a la solicitud porfa crack!

[@LaHoraMaker]

Apuntado el tema de los embeddings y el RAG usando LM Studio! En breve más info!

[@angelarevalo8553]

ya que es compatible con la api de openai, sirve tambien con la libreria de node.js? cambiando unicamente el url base? saludos, tema suoer interesante

[@LaHoraMaker]

Si, en principio debería funcionar con cualquier librería compatible con la API de OpenAI tanto en Python como en Node.js, Go, etc.

[@davidALunero]

Buenas, muchas gracias por tus tutos. Puedes explicar cómo usar funciones?

[@LaHoraMaker]

Gracias por comentar David! Lo tengo entre las cosas pendientes para explorar en breve el tema de function calling, aunque quiero probar antes bien que tal funciona con distintos modelos abiertos.

[@davidALunero]

@@LaHoraMaker llevo toda la semana intentando hacer funcionar el function calling en diferentes modelos como Gorilla o Trelis y no he conseguido nada mas que responda siempre llamar a la función (un fracaso absoluto). Estaré pendiente de todos tus videos y mucho animo.

[@Pala_tech_]

GRACIAS

[@LaHoraMaker]

Gracias por comentar Ruben!

[@Pala_tech_]

@@LaHoraMaker Un video para analizar documentos o crear documento con estos modelos estarían genial. Estoy automatizando la creación de páginas web con gpt4 pero no sé si con LM Studio lo podré hacer

[@mcanetsola]

Super interesante! Sabes se puede correr algun Llm con vision y usar el api pasando una imagen para que analize?

[@LaHoraMaker]

Gracias por la pregunta Mar! Aquí tienes un video donde te explico cómo ejecutar un endpoint de visión localmente: kzbin.info/www/bejne/fJ3dY6Kvbaloi9k

[@JuankM1050]

se puede combinar esto con el autogen de microsoft, que pide el api de openia. ?

[@LaHoraMaker]

Desde la versión 0.27.1 está soportado el uso de LM Studio multimodelo con Autogen. Aquí tienes código de referencia: microsoft.github.io/autogen/docs/topics/non-openai-models/local-lm-studio/

[@Dahe-jx6vb]

Muchas gracias!