Novedades LM Studio - Chatea con tus imágenes y modelos mucho más potentes (Llava y Mixtral)

[@EduardoTancoSanz]

Hola! Puedes hacer que Mixtral 7x8b te funcione bastante mas rapido si evitas que al cargar el modelo uses memoria de GPU compartida. Eso hace que vaya muchisimo mas lento. Configura el nº de capas de GPU ofload hasta que llenes la vram solo (en mi rtx 3060 12gb son 10 capas), ademas veras que haciendo esto reduces el uso de RAM. Gran video!!

[@xavierquerol9087]

Hola! Gracias por tus videos, son muy aclaratorios e interesantes. Me funciona bien con LM Studio v0.2.16 y AI-Engine BakLLaVA1 MistralLLaVA 7B Q5_K_M. Preguntas de todo sobre la imagen y va contestando muy bien, no es perfecto pero muy útil, incluso ve cosas en que no te fijas, como un reflejo en un parachoques y te cuenta que es de un edificio. 👍

[@LaHoraMaker]

Gracias por compartir tu experiencia Xavier!

[@ivekmartinez]

Gracias empezaré a probarlos

[@LaHoraMaker]

Ya nos contarás que tal los experimentos!

[@jossejosse952]

Que opinas del modelo solar-10.7b instrict-v1.0? A nivel matemático esta siendo bastante acertado, con errores pero es interesante el modelo, tiene su version uncensored.

[@franga1707]

Hola! Existe algún modelo que te permita cargar un repositorio completo?

[@MiguelAngelLH]

hay alguno que genere texto coherente e imagenes a partir de instrucciones?. O eso de momento solo lo tiene GPT4 que es de pago

[@LaHoraMaker]

Normalmente estos modelos de LLM solo generan texto. Para generación de imágenes puedes usar modelos como Stable Diffusion, que te permiten generar imágenes a partir de texto. El tipo de interacciones que usa GPT-4 se denomina Instruct2pix: www.timothybrooks.com/instruct-pix2pix

[@erickesaa4151]

@@LaHoraMakerhola gracias por la respuesta ese modelo tmb me permite generar gráficos de reporteros? Por ejemplo si le paso al prompt que a partir d una data (JSON) me dibuje un gráfico de torta o de barras puede generarme la info? De no ser así concoes algún modelo que pueda usar ?… saludos

[@Xdroman]

cómo puedo generar imagines con ello?

[@gosty6656]

no logro que me lea imágenes me salta el error de Vision Adapter

[@energyes7883]

Hola!, No me sale el icono para mandar imágenes, uso dolphin 2.7

[@carlcox2539]

a mi tampoco

[@jhonanthonyjaenbuitrago8445]

hay alguno que lea archivos tipo documento, pdf, excel, etc?

[@ddoice]

No oigo nada 😢

[@LaHoraMaker]

Gracias @ddoice por el comentario. Me dejé el audio de la intro en una pista enmudecida. El resto del video se ve bien. Para evitar una intro de video taaaan de bajón, he decido quitar la intro muda y dejar directamente donde empieza a sonar el video.