Ollama se puede instalar en un teléfono y se puede usar gemma2:2b. Mas o menos genera 6 tokens por segundo.
@angelmesa95303 ай бұрын
Saludos tengo una duda yo puedo instalar Ollama en un PenDrive, SD Card o disco duro externo si no tengo espacio en mi disco duro de mi laptop. Gracias y disculpar por la pregunta se que e media tonta es que me interesa pero no tengo mucho espacio.
@antoniomuro14116 ай бұрын
Gracias por la demo! parece interesante habrá que probarlo :)
@AlexWood-y6g19 күн бұрын
Pregunta entonces para que son las versiones GUFF, por que si me dice que por ejemplo estas corriendo gemma 2 9B sin el acronimo GUFF de lado no necesitas gpu? puedes correrlo si tienes la RAM necesaria?
@nahuelgavilanbernal57696 ай бұрын
Lo de que usen el puerto 11434 es de 200 IQ 😂
@JA_8800Ай бұрын
Que software utilizan para las peticiones?
@LOFIBOT-bp6hm5 ай бұрын
pues lo unico que sale es Error: could not connect to ollama app, is it running?
@ASDER-qs6ynАй бұрын
Necesitas ejecutar el servidor primero: 'ollama serve'. Si usas ese comando no podrás seguir usando la terminal actual, así que si usas docker tienes que abrir otra, o usar un multiplexor de terminal.
@ricardoruizdiaz72186 ай бұрын
como filtro para solo obtener el "response" ?
@claudioguendelman4 ай бұрын
Cuando lo van a hacer con Linux.... Creo que con Mac es un pésimo ejemplo.