MACHINE TRANSLATION con Redes Transformer en PYTHON (Tutorial)

[@codificandobits]

🔥🔥Academia Online: codificandobits.com 🔥🔥 🔥🔥Asesorías y formación personalizada: codificandobits.com/servicios 🔥🔥

[@ManuelMendez-wq1zy]

Cómo puedes tener solamente 10 mil subscriptores? Es increíble, la calidad, profundidad y originalidad del contenido no la he visto en ningún otro canal hispanohablante. Mi más sincera enhorabuena por todos estos vídeos y mil gracias!!

[@awuauwu8105]

Es un genio. Muchas gracias por este tutorial. Saludos desde Perú, bendiciones ^^

[@jonyosorio4813]

Muy buen video men, excelente implementación, me quedó muy claro!

[@michaelesquivel9417]

Perfectamente entendible!

[@renedortafranceschi7496]

Excelente presentación. Haces entender un tópico complejo siguiendo un desarrollo muy entendible y ordenado.

[@codificandobits]

Hola a todos. Creo que varios de ustedes han intentado descargar el set de datos y el modelo entrenado pero han tenido problemas. Acabo de actualizar los enlaces en Github y ya debería ser posible hacerlo 😉

[@emiliferrer4899]

Muchas gracias por el vídeo, eres un autentico crack, explicas de maravilla, de forma clara y concisa, haces que los transformers parezcan fáciles. Un abrazo amigo. Eres el mejor explicando IA!

[@xxconyutoxx]

Muchas gracias! Espero sigas subiendo más vídeos :)

[@codificandobits]

😉

[@carlosengelolivo]

Gran contenido de calidad para la gente que inicia en este mundillo, excelente :)

[@codificandobits]

Hola Angel gracias por tu comentario. Te envío un saludo!

[@waltercontacto8732]

Estaba esperando esto con ansia este video. Muchas gracias!!!

[@codificandobits]

Qué bueno Walter. Vienen más videos de ese estilo y que abordan más aplicaciones del "natural language processing". Un saludo!

[@enriquemazenett6595]

Excelente video. Haces que un tema tan complejo sea fácil de comprender. Crees que el modelo mejoraría mucho agregando un dataset de ejemplos mas grande? Qué mejoras sencillas podrían mejorar los resultados? Felicitaciones por tu gran trabajo. Espero ver más material similar. Gracias!

[@pablogiri812]

Hola Miguel, como siempre estoy esperando tu gran trabajo, ¡¡un abrazo!!

[@codificandobits]

Hola Pablo, como siempre conectado y pendiente del contenido del canal. Un saludo!

[@almontao]

Excelente, muy buen vídeo; como siempre, todo muy bien explicado, ordenado y con una excelente muestra de profesionalismo. Procuraré implementarlo cuando tenga más tiempo y con mis propios parámetros, muchas gracias por compartir este conocimiento. :) Por cierto, me gustó mucho ese toque tan particular para dar cuenta del porqué no mostraba la traducción. Un abrazo y nuevamente gracias.

[@codificandobits]

Hola Alejandro. Gracias por tu comentario, se nota que viste todo el video y te diste cuenta del "fast forward" al final cuando no funcionaba la traducción. Un saludo!

[@EladioRochaV]

Explicas bastante bien, gracias por el contenido

[@codificandobits]

😉

[@ayalaf26]

Muy bueno profe. Muchas gracias por compartir!

[@codificandobits]

Hola Jesús, un saludo!

[@Maximilinao]

Hola, la verdad me está sirviendo de mucha ayuda este tutorial. Estoy llevando inteligencia artificial y el maestro de una nos pidió crear un traductor de un idioma indigena al español, estoy tratando de entender y aprender todo lo posible para poder realizarlo. Cree usted que esto me sirva para poder realizar mi proyecto??

[@TTB-to9yk]

Que bueno el video, que manera de reirme con el pollo entristecio 😂😂😂

[@josemanuelmanesridaura8874]

Gracias por Compartir. Muy BUENO.... Como SIEMPRE.

[@codificandobits]

A ti un saludo José Manuel!

[@VlogsBeniCGAM]

Buen video. Se podra corregir el modelo y hacerlo mas exacto, para poder solucionar los ultinos ejemplos de traduccion que mostro?

[@michaelesquivel9417]

Claro el head_num igualelo a 8 y pongalo a entrenar bro

[@CQP280inv]

increíble video!!!. Felicitaciones

[@codificandobits]

Qué bueno que te haya gustado Cristian. Un saludo!

[@zurdomusic23]

Hola, primero agradezco tu aporte es muy valioso, lo segundo es preguntarte si tienes algun tutorial o puedes crear uno para subir el modelo a la nube y llamar el metodo de traducir desde una aplicacion web te agradeceria un monton

[@codificandobits]

Hola! Para este modelo de machine translation en particular no tengo un tutorial de despliegue en la nube. Sin embargo puedes usar las mismas ideas del video más reciente en donde tomo un modelo pre-entrenado y con pocas líneas de código hago el despliegue usando Streamlit Cloud. Acá el enlace: kzbin.info/www/bejne/iV7IenZ-i5WYjpY Creo que con unas ligeras modificaciones al código de este último tutorial podrás fácilmente desplegar el modelo de "machine translations. Un saludo!

[@motjjtom5987]

Buenísimo. Muchas gracias

[@codificandobits]

😉

[@alejandrobbb]

podrias hacer mas videos respecto a transformers? me gusta mucho tu trabajo

[@codificandobits]

Hola Alejandro. Sí, ya varios me han pedido eso. Espero pronto publicar otro video sobre el tema. Un saludo!

[@alvaromartin6301]

Buena, nuevo suscriptor.

[@codificandobits]

👏👏👏 gracias. Un saludo!

[@williamscasoquispe1572]

Doctor Miguel Buenas noches, felicidades por tremendo video. La consulta es si puedo implementar este entrenamiento en AWS (Jupyter notebook), cuales serían las condiciones. Este mes esta duro para mi con mis clases, el siguiente mes estoy inscrito en su curso Doctor pues sus artículos siempre son magníficos. Gracias,

[@cristhianwikisanchezsaune4067]

miguel :)!! que genial, con gusto te comparto en mi fb

[@codificandobits]

😉

[@jotixh]

La entrada del encoder puede ser un embedding como word2vec o siempre debes crear tu propio diccionario? (Buen video por cierto)

[@codificandobits]

Hola José Miguel. En realidad no, no es posible usar word2vec en las arquitecturas transformer (incluyendo el traductor mostrado en el video). Esto se debe a que el embedding "word2vec" no incluye la información posicional requerida por las arquitecturas transformer. Un saludo!

[@jotixh]

@@codificandobits Gracias por responder. Entonces la entrada al encoder como se codifica?

[@codificandobits]

@@jotixh El embedding ya se encuentra inmerso en la función "get_model" (en el código en Python), que automáticamente crea dicho bloque. En particular al usar model.summary() verás que hay dos capas (Encoder-Token-Embedding y Encoder-Embedding) que son las encargadas de realizar esta codificación

[@piratitaruiz]

Perdonen si mi duda es muy básica: una vez teniendo ese modelo entrenado, como lo integro a una aplicacion, digamos de escritorio?

[@codificandobits]

En este caso ya se requieren varios pasos adicionales. En esencia debes llevar el modelo a producción. Es decir, guardar el modelo entrenado, llevarlo a un servicio en la nube y crear una API que te permita enviar y recibir datos hacia y desde el modelo.

[@hidrogenodeuterio]

Profesor, que sucedería si el vocabulario que le damos al modelo resulta ser de números y en la capa de salida reemplazamos softmax por Tanhx y la métrica la reemplazamos de accuracy por mse ¿Podría llegar a predecir series temporales ?

[@kmilores1q2w]

hola, genial la explicación de cada paso y muy interesante lo que se pudo hacer, tengo una duda después del entrenamiento con el set de entrenamiento como puedo genera el archivo .h5 ? intente varias veces pero no logre me podrías indicar como?

[@codificandobits]

Después de que entrenas el modelo (con "model.fit...") lo puedes guardar en formato h5 usando model.save. Puedes encontrar una guía en: www.tensorflow.org/guide/keras/save_and_serialize Un saludo!

[@softlucionsfreesoft2064]

Un vídeo muy bueno, ¿ el set de datos y el modelo entrenado donde se pueden descargar ?. Gracias

[@codificandobits]

Hola. En la descripción del video está el enlace a Github. Allí encontrarás el código fuente y los enlaces para descargar el set de datos y el modelo. Un saludo!

[@softlucionsfreesoft2064]

@@codificandobits Gracias otra vez :)

[@carloshmanosalva1703]

Ola Miguel quisiera saber si tienes un curso completo de redes neuronales? Como puedo acceder a ese curso en orden. Cuanto valdría dicho curso

[@caqueto3347]

Hola, como podría contactarte?

[@codificandobits]

Hola! Me puedes enviar un mensaje a: www.codificandobits.com/contacto/

[@alejorobert]

Hola Profe. Me podrías ayudar con lo siguiente, cuando realizo el entrenamiento del modelo y posteriormente invoco la función translate('the day is warm and sunny') arroja el siguiente error: --------------------------------------------------------------------------- NameError Traceback (most recent call last) in () ----> 1 translate('the day is warm and sunny') 2 frames in translate(sentence) 1 def translate(sentence): 2 sentence_tokens = [tokens + ['', ''] for tokens in [sentence.split(' ')]] ----> 3 tr_input = [list(map(lambda x: source_token_dict[x], tokens)) for tokens in sentence_tokens][0] 4 decoded = decode( 5 model, in (.0) 1 def translate(sentence): 2 sentence_tokens = [tokens + ['', ''] for tokens in [sentence.split(' ')]] ----> 3 tr_input = [list(map(lambda x: source_token_dict[x], tokens)) for tokens in sentence_tokens][0] 4 decoded = decode( 5 model, in (x) 1 def translate(sentence): 2 sentence_tokens = [tokens + ['', ''] for tokens in [sentence.split(' ')]] ----> 3 tr_input = [list(map(lambda x: source_token_dict[x], tokens)) for tokens in sentence_tokens][0] 4 decoded = decode( 5 model, NameError: name 'source_token_dict' is not defined

[@aleister9069]

amigo me puedes ayudar tengo un problema como se traduce las cosas por ejemplo: hello y me lo traduce todo quisiera solo traducir lo que esta fuera de los signos igual lo que esta en otros signos me pasa el mismo problema

[@gabrielmartin3107]

yo creo que intentas hacer redes neuronales para pequeñas tareas especificas y yo queria saber si es posible crear una red neuronal que se adapte.

[@codificandobits]

A qué te refieres con una Red Neuronal que se adapte. ¿Tienes algún tipo de problema en particular que quisieras abordar con Redes Neuronales?

[@gabrielmartin3107]

@@codificandobits si un modelo de lenguaje puede programar en pythom podroia adaptarse solo a una tarea nueva?

[@TheGunner]

Hola tienes el set de datos de entrenamiento, es que me pide permisos para descargarlo en el link que dejaste en el github gracias :)

[@codificandobits]

😮😮 Hola Carlos no había notado el inconveniente. Ya actualicé los enlaces y creo que podrás bajarlos sin ningún problema. Me cuentas, un saludo!

[@lunaflores9337]

Hola, cuando ejecuto la red me da este error. ¿Alguien sabe por qué y cómo puedo solucionarlo? ValueError: Unrecognized keyword arguments passed to EmbeddingRet: {'weights': None}

[@esnidergomezccencho1659]

El modelo creado aquí entonces no admitiría una frase de palabras mayor a 49 cierto?

[@hantondark8876]

Hola amigos, estoy haciendo un bot con redes neuronales que pueda aprender de texto, estoy usando transformers pero tengo ciertas complicaciones, no se si alguien qusiiera ayudarme ? saludos

[@clasificadoclasificado2183]

Cuál es el problema?

[@hantondark8876]

@@clasificadoclasificado2183 cree que podria ayudarme compañero ?

[@clasificadoclasificado2183]

@@hantondark8876 se me de mejor el aprendizaje por refuerzo, pero soy bastante bueno con el procesamiento natural de lenguaje así que si (deprede de que lenguaje de programación uses pero me defiendo en barios)

[@hantondark8876]

@@clasificadoclasificado2183 Buenas noches compañero, yo al principio estaba usando redes lstm y bi lstm para hacer que mi bot pueda generar su propio texto de forma algo coherente, pero de ahi use transformers para que pueda autoaprender, aun asi,siento me falta... Tendra correo o telgram para poder charlar mejor ? saludos

[@clasificadoclasificado2183]

@@hantondark8876 tengo telegrama puedes buscar a Obnisaia tal como lo escribí (no voy a responder llamadas de voz o vídeo)

[@profeguido8694]

from keras_transformer import get_model //apenas escribo esto module 'keras' has no attribute 'applications' // tengo este error. Puede alguien ayudarme porque sale eso, si acabo de instalar el keras, tal como indica el video???