Valen la pena la NPU Actualmente 2024?

Рет қаралды 7,344

Күн бұрын

Пікірлер: 54

@DeliDev 3 ай бұрын

difiero un poco ya que actualmente trabajo con sisitemas edge ai, los equipos nvidia son caros y escasos hechando a tras a los clientes con los tiempos de espera o con los costos, para sistemas de vision ai, actuamente estamos adaptando un sistema para unas boards llamadas orange pi, tienen una npu, y funciona bien, es otra opcion mas economica y rapida de conseguir, tienes razon sobre la evolucion, pero para sistemas un poco menos demandantes como los industriales estan muy bien

@lomokino 3 ай бұрын

Buen video.

@juliangutierrez8446 3 ай бұрын

De acuerdo contigo, te cuento mi experiencia, pasé de una 5600XT a una 6700XT, soy de juegos AAA y no competitivos por lo tanto me iba a comprar una 4070 Super ya que me encantó Alan Wake 2, lo podía jugar a 70FPS más o menos en 1080 con mi GPU actual y 120FPS con el AMD Frame Generation, ya que quería sí o sí la experiencia con RT overdrive, considere la 4070 super bien me va a dar los mismos 70FPS, pero con overdrive y unos 100FPS con FrameGeneration de Nvidia, me había decidido a comprarla. Los últimos días de Junio que me llega un bono del trabajo, pero la verdad es que viendo como 20 comparaciones con la 7900GRE ya de me decidí por esta última, en rasterizado la 4070 super me da casi lo mismo que mi tarjeta actual la 6700XT y tendría lo mismos 12GB de Vram, voy a dejar la afición por el Ray-tracing y a pensar en que la 7900GRE supera a la 4070 Super casi un 30% en rasterizado y viene con 4GB más de VRAM que a futuro no se si en algún momento vuelvan a enloquecer los precios de las GPU me conviene más. Di esta larga introducción porque me pasó lo mismo con las NPU ya estaba mirando una alternativa, pero como dijiste, el Ray-Tracing tomó dos generaciones para ser usable, mejor dejar la gana por tener lo más nuevo, dejar que madure y ver que marca nos ofrece lo mejor.

@juliangutierrez8446 3 ай бұрын

Y pues sí, la verdad es que ya de por sí con la sola duración de la batería y el rendimiento, hay motivo para que los Snapdragon X se vendan, no había necesidad de dejarnos a los dueños de GPU independientes sin soporte, eso tendrán que arreglarlo dentro de poco.

@Guitarclassicalsdn 3 ай бұрын

Completamente de acuerdo con su comentario. Nos dejamos influenciar por las nuevas características que ofrecen y queremos tenerlas en nuestros sistmeas, solo son pruebas de conceptos, que por un lado pagamos más y somos los betatesters. Lo de RTX está desde la Serie 20 y aún con la Serie 40 no es que funcione como uno espera. Con qué artimaña de marketing sale NVIDIA con la Serie 50 para desearlas.

@arz-ai 3 ай бұрын

El "top" se suele usar para operaciones con tesnsores y tflop para operaciones de punto flotante, si mencionan 45 top depende del precio y consumo de top/w, una rtx 3060 puede llegar a mas de 100 tops con un consumo de 170w, una 4090 hasta los 1000 top con un consumo de 450w, una L4 hasta los 200 a 400 top por 72w, estas últimas su costo es muy elevado, no creo que sea una mala opción al final estos equipos no están pensados para uso profesional, mas bien es para el público en general que simplemente compra la computadora y poder correr modelos como phi3 o sd 1.5 si es que sale para esa plataforma sin tener que instalar, configurar o prearar algo solo plug & play, si buscan estudiar este mundillo de la IA en poco tiempo se encontrarán que necesitan uns GPU y con los modelos actuales las 4090 ya son obsoletas para trabajar con modelos de última generación donde se suelen usar cluster de GPU de decenas o cientos donde cada una cuesta casi lo mismo que un auto.

@albertopazgeuse8133 3 ай бұрын

tienes razon pero hasta ahi nomas. creo que nate (el youtuber) ya explico que conviene para esos casos de trabajar con ia, comprar gpus para servidor, salen mucho mas baratas, traen mas vram, pero no tienen salida de video. por 80 dolares puedes comprar gpu de servidor de generaciones anteriores con 24vram, recuerdo que habia un modelo que salia 120 dolares que 2 de estas gpu son iguales a una rtx 3080 o rtx 3090 si no recuerdo mal. es una opcion economica en terminos de hardware, pero creo que sus consumos energeticos son elevados pese a que los modelos estos no traen disipador con fan, solo disipacion pasiva

@arz-ai 3 ай бұрын

@@albertopazgeuse8133 yo trabajo en este mundillo, las versiones "económicas" no son las mejroes opciones, muchas tiene problemas de compatibilidad con nuevos modelos, una p40 de 24gb de aprox 300USD suele ser de 40 tops con un consumo de 250, he comprado esas GPU y ni para entrenar me sirven, el costo energético en un mes me llega de hasta 300 USD, dos 3060 de 12gb son mas rápidas, consumen casi lo mismo y tienes la misma vram en conjunto. Al final depende de que se busca, la mayoría de los que conozco no trabajan con LLM o modelos tan grandes y una 3060 les basta y sobra e incluso yo no hago finetuning de llm en servidores dedicados, se suele hacer en un cluster de terceros.

@akhathos1618 3 ай бұрын

Me encantó el vídeo, muchas gracias y a seguir creciendo.

@gabrielmartin3107 Ай бұрын

pues yo lo veo al contrario, si todo el mundo quiere inteligencia artificial y ademas quieren las IAs en local, pues es obvio que la cpu y la gpu las iran retirando o al menos no hara falta tanto, ten en cuenta que la gente demanda texto generado, imagen generada y video generado en tiempo real en su ordenador, es decir que hace falta hardware especifico para IA. Entiendo que las cosas van a cambiar mucho, y que va a cambiar el software, los sistemas operativos y el hardware, y que quiza no sea de un dia para otro pero va a ocurrir. No tengas prisa en cambiar el hardware pero si seria bueno que te hicieras a la idea y lo entendieras.

@Arenset 7 күн бұрын

Buenos días, ¿merece la pena comprar en septiembre de 2024 pc con NPU? ¿O mejor comprarlos con una GPU mejor? Gracias!

@campanadorada 3 ай бұрын

el trazado de rayos para mi era puro marketing lo que le permite a Nvidia triplicar sus precios por 10-20% mas de rendimiento con su generacion anterior lo cual para mi bolsillo es un despropósito.

@Helios.vfx. 3 ай бұрын

Muy buen analisis. Gracias por el video

@gnoblis Ай бұрын

Gracias por la explicación. Creo que el estado actual de los procesadores con NPU de ahora es similar a cuando salieron las gráficas RTX 2000 que fueron las primeras con capacidades dedicadas para Trazado de Rayos, y si, podían, pero poco y se penalizaba mucho el rendimiento.

@arkiostu Ай бұрын

Una cosa que aprendí cuando salió la serie rtx 2000 es que en el momento que se estandarice y se aproveche medianamente solo se podra en los nuevos modelos, y dejando los modelos que vendieron toda la revolución afuera Por ejemplo una 4060 le hace bastante compentencia a la 2080 la cual en su dia costo poquito mas de 1000 dolares y la otra se puede encontrar por 300-400 dolares consumiendo menos y aprovechando el dlss 3.0 y los rt cores de tercera generación en conclusión mejor no comprar de lanzamiento y esperar asta que sea adoptada asi pagas menos obtienes mas y consuniendo menos

@sephirotunknown4375 3 ай бұрын

pero es que tu estas hablando desde la optica de un gestor in situ muy especifico, en este caso chatGTP, que si que necesita un minimo para trabajar de manera remota (sin ayuda de estar conectado a la nube) pero los NPU que tiene AMD en su serie 8000 de Ryzen y posteriores aunque son limitados para lo que propones, son excelentes como gestor de recursos, tan solo las pruebas que se hicieron al salir los APU 8000G, que dicho sea de paso fueron completamente no intencionadas, demostraron que la NPU aprende de recursos disponibles y preferencias de usuario para dar una experiencia de juego optima, eso se lograba con el cambio de frecuencias activo para establecer una armonia entre CPU, GPU y RAM, se puede ver en varias pruebas como todo el sistema parece muy oscilante en ese aspecto pero daba mejor tasa de refresco, menos lag, menos rotura visual y mejor respuesta con perifericos, que es lo que ya hace adrenaline pero uno tiene que calibrarlo manualmente para quedar a gusto y en este caso al activar los NPU simplemente lo hacia. Tambien nos estamos enfocando solo en asistentes software-persona, pero no sabemos si windows 12 va a estar potenciando IA de ese tipo o algo mas basico como lo que hizo AMD, creo que esos NPU que ahorita estan en el mercado estan siendo desperdiciados, ademas se necesita que haya usuarios que cuenten con esa tecnologia, muchos o pocos pero que haya, para correr pruebas y checar errores o mejoras y adherirlo a una actualizacion. quien dice que no haya optimizacion par achatGTP y en el futuro solo necesite 20 tops para tareas basicas?

@goukurako 3 ай бұрын

como consumidor no conviene subirse al carro de las NPU... al menos en los próximos 3-5 años, es más como (solo)consumidor no es bueno subirse a cualquier tecnología como 'early adopter' ...si eres creador de contenidos(en cualquiera de sus rubros) la cosa es diferente, tocaría anallizar si la inversión vale la pena, obviamente un creador de contenidos debe apuntar a la gama alta,premium y/o entusiasta para ver realmente cambios...

@alejandrojason 3 ай бұрын

Buen dia crack !! Me aclaraste la decisión de que micro comprar. Voy por un micro que consuma poco y se caliente poco y en el futuro veremos. Gracias por el video !!

@ximoromero2214 2 ай бұрын

Buenas me dedico el 90% en trabajos de producción, Microsoft project , ia para informes, videoconferencias y seguimiento de reuniones y trabajos y un 10% para jugar al lol ¿Qué portátil me recomiendan? Todo los días lo trasladaré de casa a trabajo Gracias

@luffytaro521 Ай бұрын

Puedo estar equivocado, pero los NPU dedicados dentro de un procesador no es lo mismo que los tensor cores de una GPU. Que las medidas en los NPU son mas generales y en los tensor cores son medidas mas específicas, osea un NPU puede ser tensor cores pero un tensor no puede ser un NPU. Por ende si conviene comprar NPU dedicados y tbm graficos dedicados al no ser lo mismo. Si estoy equivocado diganmelo y aclarenlo, gracias.

@richardpunk 3 ай бұрын

Sr. Zero. No sé si se percató después q edito este video... Pero usted acaba de decir dos cosas. La primera es AMD apesta. Y la más importante dijo COMPREN NVIDIA q es la única q con sus gráficas nos está dando los TOPS q se necesitan... (Felicidades x entregarse al lado oscuro)

@valen98421 3 ай бұрын

Que clase de mini pollo es este.

@User_-kv2tr 3 ай бұрын

Y la mentira?

@jovani3218 3 ай бұрын

Simón

@richardpunk 3 ай бұрын

Nota: min 5:55 "" para que pasear los datos, desde el SSD, al CPU para después llevarlo al GPU...""".... Direct STORAGE, are you there??? oh es mi imaginación malévola q interpretro mal, sus palabras.

@RSV9 3 ай бұрын

Interesante. Gracias por la mirada a los nuevos productos de Intel/Snapdragon. Yo hasta ahora estaba algo inseguro de apostar por los Ultra o más bien por Snadragon, pero al final creo que tienes razón, todo es todavía muy nuevo. Será mejor esperar antes de comprar. Lo único que estoy necesitando últimamente, que quiero hacer más con imágenes creadas por IA, es una tarjeta gráfica más potente.

@albertopazgeuse8133 3 ай бұрын

compra una tarjeta de servidor usada en aliexpress, hay varias por 80 dolares para arriba, que van muy bien para eso

@MrFeleru 3 ай бұрын

Es decir no recomiendas invertir en los Nuevos Arrow Lake de I tell que seguro lanzan.en Octubre de este año por los flops siendo una tecnología apenas entrando? Yo estaba esperando a esta fecha para actualizar mi equipo.

@jovani3218 3 ай бұрын

Si tienes un equipo muy antiguo o que tú trabajo necesites ese procesador adelante ya que arrow lake solucione los desastres con los topes de gama de la 13ra y 14ta generación

@carlos9755 3 ай бұрын

Lenovo y Microsoft ya han presentado sus portátiles con snap Dragon élite. Podrías hablar de ellos por favor? A mí me interesan especialmente para edición de vídeo.

@jovani3218 3 ай бұрын

Mejor cómprate una MacBook ya que tienen su software muy bien trabajado aparte que llevan mucha ventaja frente a la propuesta de Microsoft que ya de entrada está mal ejecutada de parte del software

@marcgonzalezmunoz600 26 күн бұрын

Para Nvidia la IA es lo prioritario, pero de momento no te aporta mucho a tu dispositivo. No digo que la IA no sea útil, digo que todavía hace falta pulirla... Cuando se haga, ya será lo más importante. Por eso, creo que Nvidia va a acabar quitando potencia neuronal a sus tensor cores para lanzar npus dedicadas que se ocupen de todo el trabajo. (Vamos, que pasará lo mismo con lo que pasó con las gpus integradas y las gpus dedicadas)

@sergioacuna1772 3 ай бұрын

De acuerdo, antes eran instrucciones para la misma cpu, y ahora se agregan nuevas unidades de procesamiento que optimizan solo algunas cosas, y, si ¿el usuario no las usa?, que pasa con la caché que está aparte de la npu, o ¿la caché l3 la comparte entre npu y cpu? no se, pero esa memoria es carísima.

@richardpunk 3 ай бұрын

Imagino q se usará compilando tu información para entregarla la digerida a MS... Xq una cosa es dar la información y otra es mandarla con lo realmente importante.

@jovani3218 3 ай бұрын

En lo personal con el nuevo intento de apuesta de Microsoft si Windows ARM se sigue basando en NT seguiremos como estamos ahora ya que por más IA que tenga no sirve si no hay muchas aplicaciones de 3ros para instalar, se dice que la solución será la emulación pero está no es la solución ya que no es mala idea pero para solucionar un problema así de grave mejor hay que optar por traer lo más pronto posible un port de dichas aplicaciones en el momento de su lanzamiento, lo mejor que puede hacer Microsoft es un borron y cuenta nueva, volviendo al tema central simplemente las NPUs por ahora considerenlo un lujo nada más y esperen a que bajen de precio

@JavierHernandezLinares 3 ай бұрын

Y los procesadores analógicos? No veo mucho desarrollo en ese tema

@infantepisis 28 күн бұрын

seria bueno saber ..que son realmente las NPU.. que a mi ver tienen un nombre muy "pomposo" je je,, a mi ver las NPU deben ser algo semejante a lo que se usa para el raytracing como los cuda cores que realizan calculos vecotriales para guiar la luz a distintos puntos deel escenario, algo que tambien hacen los tensor core.. ¿comohacen esto? , hacen estas multiplicaciones matriciales a nivel de transistores y componentes logicos dispuestos para hacer multiplicaciones matriciales en un solo ciclo de reloj... al final las redes neuronales.. son realmente el resultado de multiplicar vectores ... normalmente la CPU hace estas operaciones pero con mas de un ciclo de reloj.. asi que las NPU estan preparadas para hacer muchas de estas operaciones en paralelo y en pocos ciclos de reloj ...

@Pomelo_MCV 3 ай бұрын

excelente video Javier !! - no conocia nada de lo que decis en este video - es cierto, que no es necesario, en un video Nate Gentile, puso una IA en un PC, sin necesidad de estar conectado permanentemente a internet y el procesador utilizado no tenia NPU

@iuliansc8446 3 ай бұрын

las NPU solo son un espia, la escusa con la IA para que aceptes comprarte chips con NPU, preguntate porque no son open source

@mrbeagle1512 3 ай бұрын

@@iuliansc8446 No necesariamente simplemente no son Open source por el dinero ejemplo Qualcomm tuvo que comprar una empresa de ex-apple que es Nubia protegen su IP y patentes

@mrbeagle1512 3 ай бұрын

Entiendo que es una "evolución" para ordenadores portátiles que viene más a competir con Apple y es para ofimática literal es más sencillo vender un procesador con NPU que una RTX al común de los mortales que no juega aparte del espacio y consumo energético.

@juatiti 3 ай бұрын

En el vídeo de Nate Gentile explica que uso llama2 la IA de Meta dado que está si podía correr localmente en ese PC

@juanarias950 2 ай бұрын

el npu se tendría que usar para optimizar la cpu parte del sistema como también memoria y optimizar programas,mejorar la eficiencia energetica patrones de eliminación de archivos se que suena futurista pero creo que para eso si serviría la npu para desarrollar un tipo de ia que optimice el sistema operativo y sea de verdedaro uso para el usuario.

@luispablosobradoelizondo5178 3 ай бұрын

El primer smartphone con NPU fue el Huawei Mate 10 y no un Apple.

@jovani3218 3 ай бұрын

Solo que cuentes el algoritmo de las cámaras ya que es lo que tiene IA hace varios años

@sergioacuna1772 3 ай бұрын

Eso si, los modelos de IA, siempre son más pesados, y a menos que el crecimiento de la cantidad de VRAM aumente explosivamente, las npu, serán de buena utilidad, siempre y cuando el equipo soporte una buena cantidad de ram(+ de 128GB), cosa que no creo de la media de los equipos actualmente, y que necesitan crecer de forma explosiva.

@Victor_Js 3 ай бұрын

Yo lo que veo es que nvidia tira a sistemas propietarios en su IA y su CUDA, AMD tiende a ser más abierto (no le queda más remedio) pero si software en todos estos temas está muy atrás, finalmente llega Microsoft y se tira a NPU. El resultado: una pocilga. Es mejor esperar y tirar con lo que tenemos. Comprendo el planteamiento de cada una, el de Microsoft porque no quieren depender de tarjetas gráficas en portátiles de trabajo. nvdidia por el dólar y AMD, bueno hace lo que puede. En fin, un desastre absoluto. Mejor esperar en la compra de dispositivos, coincido plenamente con el autor del vídeo.

@sergioacuna1772 3 ай бұрын

Si la experiencia es buena, mejor esperar, nunca se sabe por donde la letra chica pueda atacar.