NVIDIA Jetson Orin Nano SUPER + DeepSeek-r1

On déballe ensemble le tout nouveau Jetson Orin Nano SUPER, la tout dernier kit de développement de NVIDIA. Au programme : première installation, deploiement de Ollama et test du modèle DeepSeek r1 en version 8b.

[@Zor3nd3r]

Tu as fait tourné le modèle distillé 😊, mais c’est vraiment sympa quand même de le faire tourner sur une petit boîtier comme ça 😊😊

[@ggousier]

Ah !! Enfin une vidéo francophone sur le sujet.

[@medjimedji9193]

Excellente vidéo, merci pour le partage.

[@mopsylatortue]

merci, la video que j attendais

[@fabienleyrissoux5792]

Merci pour cette très bonne vidéo et au plaisir de suivre vos prochaines publications juste j’ai fais une recherche sur internet et j’ai vu que le suite est aux alentours de 700€ c’est le prix qui vous semble correct ?

[@toclm]

Salut ! Très bonne vidéo ! Tu utilises une version 8 ou 16gb pour ton jetson ?!

[@DigitalAI_Francky]

En fait, si Tu as un ordi avec 16gb de ram tu n’as pas besoin de cela. 😊 et il faudrait le tester sur d’autres choses que de lui demander pourquoi le ciel est bleu. 😂

[@ivymike9479]

Merci , mais le 8b tourne sur des machines lambda. Je m'attendais au moins à la 72b

[@cyrillebournival2328]

Oui. J’ai l’impression que c’est destiné a des utilisations spécifiques. Exemple dans l’industrie. Reconnaissance d’image. Répondeur intelligent etc

[@RideauVert-k7v]

Et aussi fiare un test sur le nvdia digit. 🎉

[@redgeciccone8218]

c'est très très lent la 8B pour un miniPC comme ça, pour des performances "normal" la 3B serait plus approprier pour ce genre de pc

[@098HGzer]

Vraiment sympa ce jetson mais comment ta mis la main dessus introuvable sur le net en ce moment j’ai l’impression 😢

[@Zor3nd3r]

Yes le mien est commandé depuis l’annonce, et aucune nouvelle depuis tout ce temps 😂

[@divachat-m9m]

ben pourtant il y en a meme sur amazon de dispo .

[@Zor3nd3r]

@@divachat-m9m il faut bien prendre le version SUPER et faire attention aux prix qui ont explosés en plus des frais

[@divachat-m9m]

@ comme tout les produits nvidia ....

[@thomasfry3253]

Que du jetson nano orin ( sans le super qui est IMPORTANT)​@@divachat-m9m

[@warlordattack]

salut c'est quoi la commande que tu utilises pour observer les GET/POST dans le terminal svp ?

[@JMLX42]

curl -v

[@brunomedard8445]

Super sympa,pourquoi ne pas essayer Mistral,l ia francaise.

[@divachat-m9m]

parceque elle est encore plus à la ramasse que R1 8b

[@ThePeterR66]

parce que Mistral n'est plus français

[@ggousier]

Parce que les français ont déchu de sa nationalité Mistral et ont opté pour Lucie 🤣 PS : ce commentaire, est un commentaire ironique.

[@andersonalvesdossantos957]

Mercy, Tokens per second? Essa é a dúvida mais importante para essa plataforma..

[@visugrame]

Comment bien dépenser mon temps de midi :) Merci

[@dathims]

Je ne peux que te soutenir, je passe commande, ou est ton lien d'affiliation ?

[@JMLX42]

@@dathims pas d'affiliation, c'est tout pour le plaisir !

[@hugobrisson7425]

MDR 09:00 Ca m'à dégouté ! c'est trop compliqué pour un novice. Bon en même c'est un developper kit c'est sure, mais j'espérais que ce soit simple et qu'un novice y arrive, mais si tu à déjà passé toi 09 mns, moi c'est une demi journée...

[@divachat-m9m]

testé sur ma machine le 8 milliard il est bof ...

[@OktoPutsch]

Pareil, le Llama 8B seul bof, beaucoup de conneries débitées dans un français massacré, par contre le Qwen 7B et le Deepseek-R1 8B sont vraiment pas mal

[@divachat-m9m]

​@@OktoPutsch Je n’ai pas encore testé Qwen. Mais si R1 8B est certes meilleur, avec une mention spéciale pour sa vitesse, même sur le 14B, cela reste peu utilisable en prod, même pour des tâches simples, du moins sur ma machine.

[@OktoPutsch]

@ Je trouve que Qwen massacre globalement beaucoup moins le français que Llama 3.2, Deepseek-R1 aussi mais hallucine un peu plus de néologismes, il faut souvent insister par contre pour ne pas qu'il débite de l'anglais en guise de réponse, aucun levier sur la langue du train-of-thought, j'essaye de jailbreak le truc, en vain pour l'instant. Côté matos j'ai rien de neuf, une vieille quadro M2000 sur mon Thinkpad P50, du matos qui a presque 10 ans, pour du 8B ça reste pas mal niveau vitesse, j'saurais pas donner le débit mais pour une utilisation plus pro ou dév local j'essayerais d'utiliser plusieurs machines pour distribuer les requêtes, ça se fait. J'rallume un de mes serveurs demain pour test à la maison. J'vais voir s'il est possible de distribuer l'inférence aussi. Bon, j'ai aucun impératif de prod c'est pour assouvir ma curiosité et m'amuser avec, pas les moyens de faire tourner un modèle en 14B. J'vais déjà me faire la main à fine-tuner le bouzin.