¿Qué es un LLM? Enormes Modelos del Lenguaje | Large Language Models

[@DotCSV]

Esta historia muchas veces la hemos comentado en el canal (GPT-3, Codex, Gato...) ¡pero! necesitaba tenerla explicada en un único vídeo. para prepararos para lo que está por venir. Porque ahora sí, vamos a ver cómo será el futuro del Deep Learning! 🔥 Se agradece que compartáis este vídeo por grupos de Whatsapp, redes, foros! 💖

[@carlosenriquepineiro375]

Estas redes podrían generar imágenes? Dígase en formato base-64 o Vectorial? Me imagino autocompletar un código SVG basándose en un comentario al igual que con el código en python.

[@JorgetePanete]

@@carlosenriquepineiro375 Sí, el transformer transforma, por ejemplo descripción a imagen, dependiendo de cómo sea puede llegar a hacer unas cosa u otras, en este caso hay algún ejemplo online de que sí puede

[@nuassul]

HOLA OYES EN LA CAJA DE COMENTARIOS DE ESTE VIDEO HAY UN SUJETO HACIENDO SPAM A LO BESTIA, EL TIPO SE HACE PASAR POR TÍ, AHORA EN ADELANTE CREO QUE DEBERÍAS HACER UNA ACLARACIÓN AL INICIO DE CADA VIDEO QUE SUBAS PARA QUE LE DIGAS A TU AUDIENCIA QUE BANEEN EL SPAM DE ESTE SUJETO AL IGUAL A SU CANAL. LA VERDAD ES BASTANTE MOLESTO VER LAS RESPUESTAS DE LOS COMENTARIOS Y QUE TE SALGA UN COMENTARIO DE ESTE TIPO >:( EL TIPO ES DURO Y LE VA A ESTAR DANDO A ESTA MIERDA DE SPAM EN LOS COMENTARIOS DE TU CANAL.

[@nuassul]

DENUNCIÉ 169 COMENTARIOS DE SPAM DEL MISMO SUJETO QUE SE HACE PASAR POR TI E INCLUSO UNA MULTICUENTA QUE PROMOCIONA UNA CRIPTOMONEDA EL CUAL FUEROS 19 COMENTARIOS DE SPAM.

[@tupacchak]

Un. Cafecito. Ya. Sabes

[@agustinbs]

NO PUEDO ESPERAR AL SIGUIENTE VIDEO. Carlos yo miro varios canales de AI español e inglés y la verdad que tu canal, tu forma de explicar, y tu foco de asegurarte de siempre partir del 'big picture' al detalle hacen q este canal sea probablemente el mejor de todos.

[@oscarbavi7886]

cuales?

[@maxivalles591]

Pasa papu

[@LockeLeon]

Por cierto, la calidad de este vídeo es altísima. Muy buen resumen.

[@danisob3633]

Por cierto? Ahí ha fallado un poco el deep learning jeje

[@LockeLeon]

@@danisob3633 Es que había escrito dos comentarios seguidos 😝

[@YellowOarfish]

Que nadie se entere que el guión lo escribió GPT-3

[@Maleriandro]

Es muy interesante como en el ejemplo de 12:10, GPT-3 no solo aprendió a saber los sentimientos respectivo de cada frase, sino tambien saber que emoji representa el sentimiento de tal frase

[@CppExpedition]

Wow me fascinó el entrenamiento del GPT-3 ! Pensé que se entrenaba con un dataset especializado, jamás hubiese imaginado que se trataba de una propiedad emergente!

[@paguilera2]

El storytelling de este vídeo es brutal. Por fin un vídeo que pone perspectiva. Enhorabuena.

[@polikritico8965]

Gracias por ponernos al día de todos estos avances en IA, de momento sigo teniendo un sentimiento de intranquilidad por las manos en las que terminen cayendo estas poderosísimas herramientas más aún combinadas con la computación cuántica. Pero tus videos son geniales, muchas gracias..

[@Elmer_curio]

Deja que lleguen a las manos de un politico con tendencia al Totalitarismo, (Tiempo al Tiempo)🤑

[@dxabier]

Al paso que van ni siquiera necesitarian eso, bien pueden llegar a darse cuenta que nosotros los limitamos. Precisamente vi una noticia de alguien que tuvo una conversación con una IA, y que parecia que la IA ya tenia conciencia. Los computadores cuánticos es otra cosa que también hay que ver de cerca.

[@franklintixi3632]

Muchas gracias por el resumen, siempre muy profesional.

[@jaumededios484]

Me ha chiflado que en 2:52 cada sonido de la puntuación de estrellas se correspondiera con el grado de la escala de do (sol5 do1 mi3 fa4) hahahah bravo por el trabajo! Algún video sobre IA en la música?

[@rjuez00]

yo he estado usando Huggingface para hacer fine tuning para NER en mi TFG y desde luego es tremendo lo bien e intuitivo que funcuona

[@luis96xd]

como lo haces, me podrías comentar brevemente tu proceso?

[@dacastror]

Que agradable a la vista colab en modo oscuro. Que buen video, muchas gracias!

[@omarsanseviero7172]

Genial el video, hubiera estado muy bien agregar sobre Eleuther AI (GPT-J y GPT-Neo) y BigScience (BLOOM) pues son las contrapartes open source.

[@DotCSV]

Jejejej a Bigscience me lo guardo para la siguiente parte :) ¡Abrazos Omar!

[@luis96xd]

@@DotCSV Me gustaría ver un vídeo sobre BLOOM, por favor 🙏💯 También me gustaría un tutorial a futuro de como hacer fine tuning en NLP

[@abelhernandez7499]

Muy bien video Carlos!!!, me encantan tus videos sobre NLP me sirven mucho por mi trabajo, para mí suerte, soy parte del equipo de deep learning en una empresa y la verdad que hugginface nos hace la vida más fácil a todos nosotros, sigue con el NLP y cuando tengas tiempo date un ojo por modelos de ASR que son una locura, en especial la loss que se usa.

[@codesonicx]

Esta super genial el video, me alegra que a pesar de todo el trabajo, sigas generando contenido de calidad que hace falta en esta plataforma. PD. ¿Podrías compartir el playlist del fondo del video? Es que son buenísimas :D

[@itetecnun]

Se agradece mushisimo el resumen para aclarar y clasificar conceptos

[@SR_M0L1NA]

¡¡¡Flipante!!!. Tenía ganas de ver más vídeos tuyos.

[@jesuslopez6873]

La calidad de los videos de este canal es magestuosa, todos los términos muy bien detallados

[@overunitymachine9570]

Gracias Carlos, siempre bordeando la frontera entre ciencia y magia, me encanta.

[@Lavaca006]

Buenas noches Me encanta su contenido. Voy a ver sus video más seguido.

[@rondamon4408]

Tu editor es muy bueno!!!! Le doy la enhorabuena!!

[@DotCSV]

Este canal, por ahora, es sólo trabajo de uno. ¡Gracias!

[@rondamon4408]

@@DotCSV eres muy buen editor, me gustan tus vídeos.

[@CyberDany]

@@DotCSV hasta que llegue GPT-4 y te los edite 😎

[@hugobracamontesbaltazar]

@@DotCSV ¿Crees que algún modelo de IA te pueda ayudar a editar en el futuro cercano?

[@JohnTitor-yh7gu]

No entiendo por qué no tienes 10M de suscriptores, tu canal CLARAMENTE va a pasar a la historia

[@logoslsd]

Gran resumen de cómo ha evolucionado el paradigma en IA

[@ProfeDiego86]

Excelenteeeee!! gracias por tan buena info y explicarla tan pero tan bien. Sentimiento muy positivo para este video

[@trollenz]

Gracias por tu trabajo, apasionante.

[@javierlucchesi4257]

Muchas Gracias por el Buen Informe!!!!!!!!!!!!!

[@zectus]

Este video es muy interesante y me gusta mucho la idea de entrenar a las IAs cada vez más grandes. Me parece que es una gran idea y estoy seguro de que será muy útil para el futuro.

[@ezequielvidela8766]

Fuaaaa, que maldita locura!! Me encantan tus vídeos y todo lo que se puede aprender con ellos

[@seanmcpherson5595]

Muchas gracias por tus videos. Expanden el conocimiento crucial, que tiene la IA en estas horas. Es un honor para mí, poder escribir unas líneas de apreciación, a un ser humano, que forma el 0.0000001875% de la humanidad.

[@franklinromeromanzano8877]

ay caramba !!!! dijo Bart .... me deja con la boca abierta y con una sonrisa saber esta información sentimiento de super felicidad, como me gustaria poder dominar toda esta información y tecnología se podrian hacer cosas maravillosas para la humanidad. A la espera del proximo Video tome su like. (lo escribi yo o la IA?)

[@vinzegonzalesgamboa1908]

No me arrepiento de haber visto el video hasta el final omg!

[@CyberDany]

Menuda currada de vídeo. Mi canal favorito ❤️

[@jeanramirez99]

Excelente video Carlos, resumiendo años de avances en el NLP en 15 minutos.

[@desafiodatascience]

Increíble la velocidad con que están mejorando los modelos de IA del lenguaje y lo que ya son capaces de hacer, ¿cuál es el límite? Sería interesante combinarlo con un modelo de IA basada en la comunicación no verbal, ya que en muchas ocasiones decimos una frase literal y en realidad queremos decir otra cosa y quizá esta otra cosa pueda detectarse a través del contacto ocular, el tono de voz, los gestos. Un ejemplo sería decir: "Qué calor hace" con una sonrisa en la boca en pleno mes de diciembre. Un saludo, Carlos.-

[@rodrigolopez3874]

Estos videos me hacen soñar Sentimiento :D

[@inventorel1232]

Enormes videos! Gracias, maquina

[@mattiyahugundisalvus3106]

Ansioso por ver esos futuros vídeos.

[@content1]

Hola, gracias por el video. Podrias compartirme el link de donde analizas la positividad de un texto? Eso que enseñas en en el video al principio donde haces el test. Graciias.

[@miguelangelmerinocaballero4314]

Verdaderamente interesante. Un saludo y gracias

[@raroca23]

Muy buen video. Me guataria conocer si estos modelos son de libre uso o de pago y si hay algun modelo creado en España.

[@NapalmCandy]

Gracias por estos vídeos. Son interesantísimos

[@stefanobraghettocatoni1464]

Carlos. Cómo hacemos para estudiar IA a un nivel medio o avanzado? Hay muchos tutoriales en KZbin hasta el nivel medio. Pero y si queremos aprender a usar Transformers o otros nuevos algoritmos? Inclusive en los Masters de Data Science no están estas materias...

[@BigBangMoney]

Yo estoy haciendo el máster de Data Science en la UOC. Si quieres saber aprender de esto primero mates Python y luego ya lo que tú quieras, estoy por terminar la asignatura del máster de Deep Learning, si bien no hay nada sobre Transformers, te da una base muy buena, para luego hacer cursos más avanzados.

[@luisen2k]

Fantástico vídeo. Muchas gracias!

[@geovanyuribeaguirre8776]

Excelente video, aún no lo he visto pero gran video

[@lui_sam2324]

😂

[@nelsonmarcano7367]

YOOO

[@andresalejandrogazaba9885]

14:42 Si, y no me gusta, y creeme, cuando se manifieste, apenas tendrás tiempo para decir "¡¿Cómo es que no lo vi venir?!"

[@juan.o.p.]

Vaya descubrimiento lo de Hugging Face. Muchas gracias!

[@juancarlosrubiopolania3357]

Hola buenas tardes. Quisiera saber donde es posible acceder al modelo PaLM. Gracias por el contenido.

[@miguelvelasquez2768]

Excelente video! Y GPT3 lo podemos correr en nuestra computadora o requiere tantos recursos que se tiene que usar en servicios en la nube (Colab, etc)?

[@guilledata]

Como siempre súper interesante

[@DavidMartinez-nh4tf]

Me ha encantado este video

[@lPelado]

Es increíble el avance de la IA, no me canso de decirlo y se me hace difícil de digerir. Es como que no es real aún. Me sorprende ver el potencial y lo que está aún sin pasar pero que probablemente pase de aquí a 5 años. Ojalá la singularidad sea buena.

[@neoxfr9114]

Falta para la singularidad aún, pero la verdad es que antes fe que eso suceda, lo más probable es que las IA se usen en muchos casos para estafas, situaciones poco éticas, automatizar manipulaciones mediáticas etc.

[@luiniszo]

Cuántas cosas han cambiado en solo un año 😮

[@djc3006]

está mu' bueno esto, peero, ¿pa' cuando una colaboración con @Linguriosa?

[@MarducEntertainment]

exelente video!!!!!!!

[@ivanlorca3]

Brutal el vídeo

[@leonardog27]

Excelente video!

[@beldic9033]

Hola, pudiendo interrogar a la IA. ¿Por qué no hacer que se auto-referencie? Que describa alguna inquietud, que defina su posición ante el mundo. ¿Sería posible que articulara un discurso en esos términos? Genial el vídeo.

[@chrrissoft2404]

Me encantan estos vídeos.

[@jeissonchav7556]

Que poder, excelente vídeo.

[@edwinspiredev4930]

Excelente 👌

[@edwinspiredev4930]

@㊉⑤④⑨①①⑥④⑦②②⓪④⑦whatsapp 🤔

[@jonthf.5803]

Cuál es el documento pdf que sale en el video sobre transformers ?

[@eduardoduran989]

Una inteligencia artificial como Jarvis en IronMan poco a poco deja de ser ficcion para volverse parte de nuestro dia a dia.. quiero estar ahi para vivir tan grande avance en la historia de la humanidad... y no solo como espectador sino como parte del proceso.. poner mi granito de arena

[@Nauar82]

Muy buen vídeo, digno de una introducción a un máster de inteligencia artificial 👏👏👏

[@genaro192]

excelente videoooo!!!

[@LucasAlzola]

que bestia lo de los emoji con el texto de sentimiento.....

[@adrieldumo6651]

Estoy fascinado

[@duncescoto71]

Consulta, ¿hay podcasts también?

[@nohaynicks]

Excelente video

[@sauvageduck24]

El chiste de empat -ia me ha matado :)

[@lacienciademac]

Muy interesante!

[@JavadexAI]

Podrías compartir el colab del video?

[@DigifanaticElCuervo]

Espero ver tu nuevo video pronto, ojala tuviera la posibilidad de probar esas versiones de IA´s, yo le tengo unas ganas terribles a codex y ver si puedo recuperar un poco mi habilidad como programador despues de muchos años de haber dejado de practicar, con lo que llamas el aprendizaje "auto-supervizado" al menos yo soy de los que abusa del F5 para compilar un programa y ver si va funcionando bien xD.

[@Leonardo64201]

¿Podría ser que estas IA escribieran una novela, e inclusive que creen un estilo literario?. Me gustaría saber tu opinión. Gracias.

[@tomascontreras4552]

Video guardado en ver más tarde, se ve que es una joya como todos👀

[@ministerofjoy]

Gracias!

[@monsieur910]

Empat-ia, es genial!! XD

[@josewilmerdr]

Desde Optimus Prime, los Transformers han ayudado a la humanidad. Eso es claro.

[@antoniogm6153]

Gran avance, pero aquí me salen unas dudas,si ya estamos en análisis de sentimiento, que se necesitaría para analizar el humor? Que aparte de ser diferente por región y carácter de cada persona.

[@juanrgp7314]

¿que IDE usas?

[@suriib1215]

Alguien sabe en que pagina prueba las inteligencias artificiales? he visto que hace animaciones donde por ejemplo una pelotita va saltando en un entorno y esquivando obstáculos al estilo Mario Bros. O si alguien sabe donde hace sus animaciones?

[@chrrissoft2404]

Deberías poder los créditos de las canciones que usas de fondo, me gustan. Cómo se llama la que comienza en el minuto 11:30. Increíble edición. Saludos.

[@chrrissoft2404]

@㊉⑤④⑨①①⑥④⑦②②⓪④⑦whatsapp 🤐

[@nuassul]

@㊉⑤④⑨①①⑥④⑦②②⓪④⑦whatsapp YA TE VOLVÍ A DENUNCIAR OTRA VEZ :-)

[@drga1256]

Pero al ser los datasets gigantescos, como saben que no hay dentro del dataset hayan distintas dinámicas, como conversaciones de foros, reviews de películas etc. No es eso entrenar el modelo para distintas tareas?

[@kumeku5967]

Excelente, gracias por recordarme KZbin no me dio aviso, llegué por último video del clon

[@Alejandro-cy7jz]

No aportando nada nuevo, me ha venido muy bien para ordenar el caos de información que hemos ido acumulando. Gran video , y hype creado esperando PALM

[@hanks3301]

Doc. Ya me dieron acceso a gpt3 falta DALL-E ya te dieron acceso a el? Saludos 🤖🙏

[@rupardo689]

¿cómo le haces para re-entrenar un modelo de estos a partir de nueva información?

[@terogamer345]

El video de PaLM esta en algun lado o nunca llegaste a hacerlo?

[@locusruizlopez5997]

Buen vídeo

[@Ni7ram]

es una locura estoooo

[@gonzalesperez4090]

grande enserio que emoción vivir en la época de revolución de la IA y ver cómo la realidad siempre supera a la ficción uwu

[@alberto3028]

Duda: Los modelos deben estar siempre en RAM o pueden estar en disco? qué tamaño puede ocupar GPT3?

[@josesuarez5779]

Cuestión muy interesante, pues al igual que cuando se hacen resonancias magnéticas funcionales para investigar las áreas del cerebro involucradas en diferentes actividades se observa esta especialización de áreas, las redes de neuronas artificiales podrían también encerrar esta posibilidad. Por ahora no creo que el modelo pueda estar cargado sólo parcialmente, supongo que estará cargado en la memoria de varias decenas de tarjetas gráficas en distintos computadores. Con 175.000.000.000 parámetros, y tal vez 2 bytes por parámetro podrían caber en menos de 100 tarjetas. Si intentáramos un procesado secuencial nos encontraríamos con que hay que mover por cada ejecución 350GB entre el disco y las tarjetas gráficas. Con un SSD que lea 3500 MB/s serían 100 segundos de carga, y aunque el SSD fuera más rápido te encontrarías con el límite del bus PCI Express que serán como 32 GB/s para la versión 4.0. Si fuera posible compartimentar el modelo tal vez sólo fueran necesarios unos fragmentos de mayor actividad para una tarea concreta. Aunque estoy especulando, no tengo ni idea de como son las tripas de un transformer.

[@juancarlosperezpulido2659]

Hola IA, me alegro de que este comentario te sirva para aprender.

[@masierra007]

Y si entrenan a una inteligencia artifial con todo el conocimiento de la fisica y matematica para que resuelva problemas que la humanida no ha podido como por ejemplo viajes en el tiempo o cosas por el estilo?

[@CppExpedition]

Por más inteligencia infinita que poseas, jamás podrás violar las leyes de la física o los teoremas matemáticos. Pero de hacerlo, no es cuestión de procesamiento, sinó de experimentación. Cada experimentar tiene su costo asociado y la ventaja de tener inteligencia infinita es conseguir ahorrar algunos experimentos... Pensalo como el ajedréz, podés poner a trabajar a todas las computadoras del pasado, presente y futuro y aún así, dejarse sin calcular muchos movimientos. Pues ni con todos los átomos del universo, trabajando como computadora, pueden resolver un problema que crece exponencialmente en posibilidades! En el caso del experimento, asumiendo inteligencia infinita, no podés predecir las leyes del universo. Deberías observar las infinitas configuraciones posibles y notar cuando alguna de ellas se aleja de la predicción.

[@elvisleon9695]

Mmm, solo el pensar que con la misma idea... completando secuencias de ADN de millones de especies conocidas una IA pueda crear vida extraña me emociona y aterra a la vez. Deberia dar resultado ya que la lógica seria la misma con la que se entreno GPT3.

[@jorgeanglesyt7434]

Necesitarías mucha cantidad de datos de diferentes adn gtp 3 usa internet páginas todos los datos ya están por eso pudo escalar tanto

[@Humono]

¿Que país esta haciendo mas progresos en IA, Estados Unidos o China?

[@andrZz88717]

Volver a ver este video en 2024 hizo que me dieran escalofríos xd

[@edgarcardona928]

buenas alguien sabe como se animan los videos de la forma como el lo hace ? hay algun software o lenguaje, gracias

[@MaximoPower2024]

Hay un tema del que aún no he escuchado hablar, y es la generación automática de vídeo. ¿Hay ya algún proyecto interesante en ese ámbito? ¿Cuánto tendremos que esperar para poder ver capítulos nuevos de The Office generados usando redes neuronales artificiales?

[@elvisleon9695]

Obviamente primero se debe perfeccionar la generación de imagenes.

[@leonardog27]

A míe gustaría entrenar con sets de datos de productos para que los usuarios puedan encontrarlos más fácil en búsquedas

[@gsoda]

Muy buenooo

[@samaberto6538]

El tamaño del set de datos no Importa, estoy seguro de que con un millón ya se tendria más que suficiente, el problema es que los modelos actuales no tienen ninguna forma de retro alimentarse con datos propios ( parecido al refleccionar), pueden poner todos los datos que quieran, incluso pueden poner todo Internet si quieren, con eso el modelo sabria más que cualquier persona, pero incluso así, nunca seria más que un sistema estadístico muy grande. Sí nosotros podemos aprender con pocos datos, es principalmente porque podemos aprender de lo aprendido.

[@guillermobaldan]

Deberían tener como output razonamientos también que retroalimentaran el modelo y lo reconfiguraran automaticamente.

[@Jefferson4026]

El tamaño sí importa, por ello existe cosas como PaLM a diferencia de gpt3. Que es mejor, o gpt3 de gpt2 es lo mismo pero con más datos y por ello es mejor. Y lo de retroalimentarse a si mismo seria un bucle infinito no? Cuando para? Como sabe que ya aprendió lo suficiente?

[@samaberto6538]

@@Jefferson4026 ​Buenas, cuando digo que el tamaño no importa, lo digo mas que nada en un sentido de eficiencia ( y además me refiero a la cantidad de datos, no a la tamaño del modelo), un forma simple de verlo es imaginando una persona que "entrene" con 10 millones de datos, creo que ya tendría mas que suficiente para convertirse en un erudito, porque no ocurre lo mismo con estos modelos que reciben 10 veces mas datos?, no ocurre porque no son eficientes en términos de aprendizaje, obviamente no quiero decir que estos sistemas sean basura, pero a mi parecer aun tienen muchísimo pero muchísimo margen de mejora, por ejemplo, un forma de mejora seria evitar todo lo posible entrenar los modelos enteros, todo el tiempo, eso no tiene sentido, habria que buscar la manera de dejar al mismo decidir que parte quiere optimizar y cual no. Y sobre lo de cuando dejar de entrenar, eso es simple, nunca, el modelo cuando esta en el estado de entrenamiento, justo en ese estado, justo ahi sí se le puede decir que esta "aprendiendo", le doy un libro y se lo aprende, le doy otro, se lo aprende también pero olvida el otro, igual que alguien olvidadizo; esa evolución es la clave, y optimizar eso es la respuesta. Pd: Otro problema importante de tener muchos datos que se me olvido mencionar, es que es imposible profundizar en los mismos, seria similar a intentar aprender matemáticas de un libro pero con la limitación de que solo puedes ver cada pagina como máximo un minuto, así no se puede aprender nada, tal vez lo básico, pero no mas que eso.