Coder un Transformer avec Tensorflow et Keras (LIVE)

[@the-tankeur1982]

Merci frero

[@laurentpourchot4649]

Merci Thibault !

[@laurentpourchot4649]

Juste une ptite anomalie il me semble car dans Decoder_Layer tu n'utilises pas self.Multi_Head_enc_Attention pour créer enc_attention

[@bioncawatson2991]

merci

[@alainrieger6905]

Magnifique! Encore merci!

[@kherfallahcelia2739]

Hello Thibault, merci beaucoup pour tes vidéos !! Bonne continuation =)

[@leopacheco8422]

Hello Thibault, super vidéo très bien expliquée. Ça serait top si tu pouvais faire une video sur un fine-tuning de modèle BERT à l'avenir.

[@renemiche735]

merci :).

[@elouatimohamed3792]

Merci bq ❤️❤️

[@elouatimohamed3792]

svp si te peut nous faire la parti training avec un vrais dataset

[@ezeeze1643]

yup, tu aurais une formation pour apprendre a crée une intelligence artificiel ? j'ai bientôt 19 ans et le bac tu pense que je pourrais en trouver ? ( j'en ai vue mais elle sont souvent en anglais ) et Udacity c'est en francais ?

[@leosarrazin3937]

Quand on commence à faire des abréviations dans les noms de variables c'est que ça commence à être chiant Au bout de deux heures de code les 'attention' deviennent des 'att', les 'encoders' deviennent des 'enc' et au bout de 3 ou 4h on utilise plus qu'une lettre et on se dit "c'est bon je changerais quand ça marchera" haha

[@hedifekih9648]

merci beaucoup nous voulons coder un trasformer pour le traitement des images (transformer image en image) pouvez nous aider!

[@epctrade]

C'est vraiment gênant de te voir boire et emetre ce sent de surotage c pas du tout agreable bon je ferme la video aucun professionnalisme

[@WahranRai]

1:19:10 QK = QK / tf.math.sqrt(256.) *ou bien* QK = QK / tf.math.sqrt(256./ nb.head ) = QK / tf.math.sqrt(32.)