Le bug caché de ChatGPT qui génère des images obscènes

[@flow_leit]

On voit que c'est quelqu'un de brillant. Mais le plus impressionnant pour moi, c'est la façon très pédagogique dont il raconte l'ensemble. Cela rend les sujets bien plus accessible ! Il a également une énergie qui pourrait permettre de l'écouter pendant des heures, on voit qu'il est bien passionné par ce qu'il fait. Un très bon invité !

[@wockeejabba1233]

oui grâce à ça j'ai rien compris mais de façon beaucoup plus claire :')

[@hassanhijazi5495]

Cet invité, il est génial, c’est un régal d’entendre son enthousiasme… J’ai adoré 👍

[@apsarafi5943]

Ce gars est très talentueux. A chaque passage ici, il est ultra intéressant.

[@bababxl4356]

cette émission est juste géniale

[@Bieber0802]

excellente vidéo et la manière d'expliquer les choses de Roni est top. c'est clair, accessible, dynamique et pédagogique. je valide :D

[@FabienFabienB]

Il faut que cette video devienne virale. Trop peu de gens comprennent vraiment ce qui est en train de se passer avec les LLMs et le multi-modal. Il y a deja des videos d'explication, mais celle la est sous l'angle du hack et du fun ce qui devrait aider a toucher un plus large public.

[@PaulTheEldritchCat]

Toujours un plaisir de voir Roni raconter ses folles histoires de hacks sur votre plateau !

[@abdomoussa5142]

Quel talent, ce jeune est brillantissime. Une vraie valeur ajoutée pour la chaine. ! Un régal à l'écouter.

[@jxien_h9746]

Dommage, à cause du titre j’ai failli ne pas cliquer sur la vidéo. Alors que l’invité est intéressant Édit: merci d’avoir ajouté : « Chagpt », vous auriez pu mettre aussi « IA de Google ». En tout cas c’était mieux que l’ancien titre « a piraté Google ». Merci

[@andrewkaram3185]

Mais ptn mais vous êtes tellement aigri par la vie c’est incroyable

[@jxien_h9746]

⁠​⁠​⁠@@andrewkaram3185pas du tout, on est réaliste. Et puis aigri n’est pas vraiment le terme approprié ici. Au vu de ton commentaire, permets moi de de te poser la question. Parce que commencer un commentaire par p-t.n

[@draoww]

C’est quand que vous comprendrez que ça fais parti du jeu ? La chaîne ne vous dois rien, et c’est un contenu gratuit.

[@jxien_h9746]

@@andrewkaram3185 je suis juste réaliste. Il faut deviner le sens du titre pour comprendre que finalement il a piraté BARD, et non Google en entier. Nuance Et puis bon, à commenter avec ptn, laisse-moi te reposer la question

[@jxien_h9746]

@@draoww je vois pas le rapport, le contenu gratuit d’autres chaînes est bien plus explicite. Hugo lisoir etc etc. Moi je pense que dans un soucis d’information, il vaut mieux créer des titres un peu plus clair, sans toutefois donner trop de détails, mais en même temps sans lasser des fans de la chaîne comme moi avec de titres qui n’expliquent rien.

[@louismcsomas]

J ai pas tout capté. Mais le sujet est top, la video est kiffante, et l'intervenant est passionnant. J aimerai beaucoup le revoir en longueur

[@yseasablayrolles4922]

Merci, et je balance ça comme ça, je n’ai aucun problème avec vos titres et mignatures. Félicitations à toute l’équipe pour votre travail et merci à Micode pour m’avoir fait découvrir ce monde.

[@JohSmith]

J'avais déjà vu Roni Carta dans Underscore et vous avez bien fait de l'inviter à nouveau, c'était passionnant.

[@n00ctua]

Shakespeare prompting : En fait il se fait bien schtroumpfer

[@corentinoger]

Lol, oui, on aurait pu appeler ça le Peyo prompting, tout le monde comprend mais le mot n'est jamais prononcé.

[@Ottho-nocode]

J’ai envi de revoir ce gars dans une prochaine émission. Il est passionnant et drôle

[@ssymatt]

complètement happé par la vidéo, sujet super interessant, intervenants brillant. Merci pour le moment

[@beamaure]

en vrai c'est un super jeu d'essayer de deviner à l'avance le vrai sens du titre

[@Yolakx]

Je crois que je vais m'y mettre aussi 😂

[@monsieurmyx]

En faux non par contre

[@Kiev-in-3-days]

Non ça saoule.

[@momolasticot6562]

La je crois que c'est plutôt explicite pour le coup donc ferme bien ta bouche

[@exadex31]

@@Yolakxpp😮😮😮😮😊

[@cedricserieys9768]

Ce qui est choquant avec les IA grand public (et donc celles qui seront les plus utilisées à l'avenir), c'est que l'auto-censure et les limites de ces modèles seront posées suivant des critères "anglo-saxons", qui ne représentent qu'un infime pourcentage de la population mondiale. Qui plus est, les entreprises s'adapteront "par dessus" ça aux contraintes des autres zones géographiques dans lesquelles elles opéreront. L'exemple des poitrines féminines est un vrai sujet. Il n'y a qu'aux USA et dans quelques pays très religieux que ça choque. En revanche, générer des images de monstres hideux, diaboliques ou des gangsters surarmés aux yeux injectés de sang, ne pose aucun problème. Mieux, si on demande à une IA de générer une image de super-héros, on aura un mix Marvelesque très probablement et jamais on ne verra par exemple un dieu indien ou un Obélix-like.

[@TeddyNR]

En quoi est-ce choquant ? Ce sont des créations anglosaxones.

[@DYP1]

C’est choquant si les majors de la tech ne corrigent pas ça à terme, et qu’on doit subir un appauvrissement culturel mondial

[@TeddyNR]

@@DYP1J'entends, mais je ne crois pas que les entreprises soient forcées d'adopter cette technologie en particulier.

[@DYP1]

Évidemment non, mais c’est comme ça. Personne n’est obligé d’aller sur KZbin non plus. Personne n’est « obligé » d’aller sur Facebook. Et pourtant ils ont une position dominante et leurs algos, la façon dont ils filtrent les choses, orientent leurs utilisateurs - sans qu’ils ne le sachent pour un grand nombre d’entre eux. Ils orientent selon certains filtres délibérés (pour vendre de la publicité etc) et d’autres qui sont moins conscients et plus culturels (le commentateur au dessus parlait de la « phobie » des seins des anglo-saxons- ca a pu entraîner des blocages de publications reprenant des tableaux de maître qui sont au Louvre). C’est juste une réalité et on est en droit de demander des géants du numérique un peu d’efforts à ce sujet pour éviter de trop niveler tout et d’appauvrir toujours plus notre culture. Enfin à mon avis.

[@DYP1]

C’est pas parce qu’une chose est facultative qu’elle ne doit pas être régulée s’il y a des raisons fortes pour le faire.

[@jeremyn.martin434]

Petite correction : les tokens ne font pas toujours 4 lettres :) En traitement du langage naturel (NLP), un token est une unité de texte qui peut représenter un mot, une partie de mot ou même des symboles tels que des ponctuations. La longueur d'un token peut varier considérablement en fonction de la langue, du modèle de tokenisation utilisé et du texte lui-même. Par exemple : "Bonjour" peut être un token unique et contient 7 lettres. "C'est" peut être un token unique et contient 5 lettres. "GPT-4" peut être un token unique et contient 5 caractères (lettres et chiffres).

[@ericredon6949]

Salut, je suis nouvel abonné et ce grâce à vôtre invité, il réussit à rendre compréhensible un sujet très compliqué pour moi c'est le signe d'une intelligence rare👍. Bravo pour cette émission vraiment géniale. Force & Honneur. Eric.

[@lalit3969]

Bonjour, Toujours aussi intéressant. Et félicitation à l'invité pour ses trouvailles !

[@nicolasalima]

Le gars a piraté Google, tu cliques pas sur la vidéo, tu reviens le lendemain et le gars a piraté chatgpt 😅

[@goudou5099]

Incroyable vidéo comme d'habitude ! ❤ Et osef du titre, il est très bien 😊

[@LuximorThe]

C'était super pédagogue, j'ai adoré l'intervention

[@alicer5348]

2ème fois que vous recevez cette invité, vraiment très sympa l’intervention.

[@Demonenoire]

Superbe vidéo, comme toujours, mais là... ce "what? est juste magistral et tellement naturel 🤣 4:27

[@lucaslouch]

Je serai hyper intéressé d’une interview format long de cette personne. Ça a l’air passionnant

[@nietzsche2363]

Très bonne vidéo! Un plaisir à regarder et le contenu aussi super intéressant

[@loulou64490]

Banger, vraiment banger. Merci underscore!!!

[@jeremyochlust4986]

J’adore vos miniatures dynamiques 🤣 Ça rend hommage du coup au qualité de l’invité et à tout ce qu’il a fait

[@pziejdsn384]

Trop trop intéressant merci !

[@Fyr042]

L'intervenant explique super clairement. Merci

[@thorn1242]

franchement c'est incroyable GG les gens !!!!!!!

[@hugowtm538]

Tes vidéos sont toujours aussi intéressantes, mais depuis que j’ai appris que ton frère était mon patron, je ne vois plus la vie pareille 😂

[@kenzozeboulet9161]

Comment c'est possible 💀

[@hugowtm538]

@@kenzozeboulet9161 les coïncidences de la vie 😅

[@QGUG]

Ce gars est hyper intéressant a écouter

[@MathisRoyale]

C'est vraiment super intéressant, j'adore !

[@guillaumelefrancois5255]

Ce boulot à l'air génial😮

[@viedezerg]

Lui, vous pouvez l'inviter autant de fois que vous voulez ! Sérieusement, faites 10 vidéos comme celle ci ou il raconte ce genre d’anecdotes.

[@frankcisde2338]

La fin avec les images renfermant du texte est incroyable (la chaîne en avait déjà parlé il me semble)

[@amn.brb_]

J'ai adoré le live, c'était fun 😃

[@Y4ndu17]

le nombre de gens qui vont faire du shakespeare prompting à la suite de cette vidéo va drastiquement augmenter

[@julien7705]

Vous ne vous rendez pas compte du niveau du gars ! Quand Google vous fait venir aux US avec l’équipe spécialisée en face en gros t’es référencé en mode mega bon 😊

[@tomdric]

Double écrans l'un recherche un solution de signature électronique pour mon entreprise l'autre lance cette vidéo... merci tu viens de me faire gagner pas mal de temps de recherche ^^

[@mamads7007]

ce serait quoi cette signature ?

[@mays6700]

il est passionnant ce Roni !

[@alan75018]

Google a de l'argent peut être mais c'est mérité au vue des connaissance pousser et de leur efficacité bien joué les jeunes !

[@instyxx]

J'ai appris beaucoup de choses avec cette video!

[@laurentallenguerard]

Très fort! Merci, c'est passionnant!

[@tetardprevoyant5022]

trop intéressant comme toujours !

[@samsoulee]

ça fait plaisir de voir des gens de moins de 30 ans qui ne sont pas totalement cramés intellectuellement .... ça change.

[@Bouteilleeso]

vrai c'est le péteur fou "-tu veux peter un truc ?" "-Oui"

[@shadowxv3117]

Super interessante comme video , l’invité est passionant ! More please 1337 !

[@dmarchal8091]

Les commentaires qui ragent sur le titre : vous savez ce que ça veut dire "hacker" ? Parce que c'est exactement ce que Roni et ses potes ont fait. Au passage tjrs incroyables ses interventions sur Underscore, passioné et passionant le type.

[@murmur7860]

ça chouine fort effectivement

[@Shokimax]

Tout le monde n'a pas eu le même titre

[@dmarchal8091]

@@Shokimax ah c'est possible ça, c'était quoi avant ?

[@bonjour7320]

Classique youtube, les stats étaient pas bons, ils ont changé la miniature + titre

[@lelouch1722]

@@bonjour7320 C'est automatisé par youtube

[@alexandrepascal3573]

Incroyable la vidéo, gg a toute l'équipe. pui oui le titre est misleading, mais osef

[@Ouate.de.phoque]

03:33 "sournois" 😉

[@sachaDS0]

Passionnant! Merci pour le partage

[@StephaneE-iq9mv]

Si ce message peut vous donner de la force. J'adore votre travail. Force à vous.

[@lodedit6158]

svp parlez de la nouvelle méthode de youtube contre les adblockeurs

[@jacques-jw5gc]

va vraiment falloir arrêter avec ce genre de titres. c'est tellement dommage pour un contenu vidéo aussi qualitatif qui pourrait faire autant de vues sans un titre aussi aguicheur.

[@gregorydevriendt3]

Il y a quoi le titre?.

[@TheXanderage]

@@gregorydevriendt3 "On a reçu le hacker qui a piraté ChatGPT"

[@grimgorlefort]

Merci jaques, tu peux ouvrir ta chaines si tu veux

[@fargus5423]

​@@grimgorlefortÇa t'emmerde de voir des commentaires qui expriment une pensée différente de la tienne ?

[@dysonbzh]

En même temps tu as cliqué.

[@XavierRodriguez259]

les gens passionné c'est un régale à écouter !

[@zenrac9182]

Merci d'avoir changé le titre... il me semblait que vous aviez dit que c'était fini les titres mensongers

[@TheXanderage]

Ils s'en balek tant qu'il y a des vues.

[@N0tA_G4m3r0nYT]

1:35 Fin de la sponso

[@bababxl4356]

serieux les gars vous êtes putain de TOP, BRAVO MICODE ET L'équipe bordel votre taff est MONSTRE

[@aaarThur349]

un bel avenir s'annonce pour lui c'est top ! belles explications c'etait bien cool ;)

[@dronepyrene1689]

je savais pas que tu pouvait mettre plusieur titre en test comme les minia youtube

[@Toni_Garrn]

Génial! J'ai juste du mal à comprendre pourquoi la répétition de mots à l'infini finit par leaker le texte original... une étape du raisonnement m'échappe. Sinon le Shakespeare est incroyable, je n'y aurais pas pensé, mais c'est très créatif.

[@thierryc5181]

Bravo encore une fois. J'aurais bien aimé (a)voir l'avis de Tiffany Souterre sur le leurrage de l'IA sur les images. Il me semble qu'elle est plutôt calée dessus, non ? (This is not a spoon ...)

[@alineo07]

Incroyable bravo !

[@stefolino]

Très intéressant, ils s'attaquent à la logique des vecteurs qui sont potentiellement interchangeables dans les llm pour laisser le modèle diverger de lui même vers le résultat censuré 😂

[@staz-bl]

oui en gros à 5:22 c'est dire on va toi et moi "hum hum..." voila

[@crocodil.13]

Javais vu une presentation hyper interessante pour de la reconaissance faciale ou en mettant un masque un peu bizarre avec des formes geometriques d'apparence abstraite il etait possible de faire reconnaître une autre personne specifique... je ne saurais pas expliquer le fonctionnement mais c'est dingue! D'ou l'importance de la confidentialité des models dans des usages de défense (et malheureusement de surveillance)

[@KRMKTWN]

"J'ai perdu mon innocence."😂

[@kkanoee]

rien à voir avec le sujet, mais c'est quoi le modèle de vos micro ? le son est nickel

[@sapresti8405]

C'est moi ou le gars ressemble a 2 gouttes d'eau à Thomas de Bad News choquant

[@jbhchrd]

Aaah mais c'est pour çaaaaa qu'il semblait familier

[@MN-vz8qm]

J'ai eu un cas que je n'ai jamais compris avec chatGPT (utilisé sur browser avec un compte abonné), datant de février 2024: Je testais des prompts particuliers (que je mettais au point dans le but de les inclure dans un programme que je fais) et durant la conversation dans ma session, j'ai donné un exemple à GPT d'un exemple de réponse que j'aurais attendu (quelque chose de très spécifique, incluant des nombres). Le lendemain, recommençant à bosser, sur une nouvelle session, j'ai relancé mon prompt, et l'IA m'a répondu en me donnant l''exemple que je lui avais donné la veille (incluant les mêmes nombres). Questionner l'IA à ce sujet ne m'a rien apporté, celle ci concluant à une coïncidence. Mais je me demande si mon compte faisait parti de cas tests pour leur feature memory.

[@ADP4031]

ChatGPT s'entraine sur les prompts précédents. Elle s'entraine donc a l'aide des utilisateurs.

[@MN-vz8qm]

@@ADP4031 Je comprends bien cela, c'est simplement que je ne pensais pas retrouver du jour au lendemain un exemple que j'avais moi même donné

[@louisbenel6123]

@@MN-vz8qm J'ai déjà eu un cas similaire où je lui demandais de me coder quelque chose, et ce con m'a resorti le code de la même page que je lui avais envoyé sur une autre conversation pour qu'il me le corrige😂

[@paul-vincentnguyen7186]

Yesse une nouvelle vidéo

[@Pas_sur]

t'as oublié l'accent grave sur le premier E 😂😂

[@anotheruserrandom]

salut ça vas

[@FEUR730]

salut

[@Pas_sur]

@@anotheruserrandom ben ouais ça va et vous alors ?

[@anotheruserrandom]

très bien, la vidéo attendue depuis longtemps

[@demonc77]

"Mais j'étais invité à Tokyo pour pirater Paypal." Ça ressemble à une anecdote d'Oussama Amar, mais là, j'ai envie d'y croire !

[@hugorivault9942]

le mec (en full sourire , genre, je vais faire de l'argent facile) : "google a de l'argent à cracher" micode (lucide) : "ou alors, google a très envie de se créer un écosystème autour de la sécurité des IA" Quand la maturité rencontre le panache. Belle démonstration du monde moderne à travers le numérique.

[@Vuvuvu75]

Très intéressant!

[@paulamblard3836]

Pourquoi le filtre de censure n'est pas appliqué après la conversion en token ?

[@bmsndjawe]

Si seulement on pouvait trouver des matchs truqués à partir de ce technique, franchement 1xbet allait fermé ses portes 😂

[@Oui-mais-non]

Matrix c'est plutôt 1999, ceci-dit c'est très intéressant ce qui est dit. Je vais tenter plus de trucs, il faut dire que même sans en arriver à ce niveau, on peut s'amuser énormément avec une I.A.

[@RikuSama99]

Il est trop fort ce mec

[@Bloodymary383838]

Ce gars est une pépite. Merci à lui

[@Nyao35]

Mais je comprends pas, comme un modèle d'inférence peut toujours contenir le dataset utilisé pendant l'entrainement? A moins que ce soit seulement des "traces" de certains textes, parce que sinon le modèle serait beaucoup trop lourd non?

[@kenz6502]

Bien joué Roni

[@pierreernoult]

À 66 ans, je suis le plus vieux abonné de Underscore !

[@LORVRAX]

cette vidéo était que pour les nerd j'ai l'impression mai la façon dont il expliquait était très compréensible vidéo rentable a 100%

[@damienkarkof4741]

Mais on est passé de Gemini à chatgpt?

[@evildido]

Je ne comprenais pas trop la critique sur le titre ("il a piraté l'IA de google") mais au 12 Juin, il y a à présent ("On a reçu le hacker qui a piraté ChatGPT"). C'est assez pénible :/ Ceci dit le contenu est de la vidéo est vraiment bon.

[@alainbo261]

Est-ce vraiment un bug?

[@Exon-2000]

C est contourner qch

[@pumbaa667]

Mais putain, elle est dinguissime cette vidéo ! Mon cerveau a explosé 3x : à la tokenisation de "oiseau", à la question à 1'000 balles et à l'injection de code en whitespace. Abusé !

[@PiuPiu97351]

Ce qu'il explique au début, c'est exactement le fonctionnement des incantations. Plus j'étudie le premier prompt engineering, plus je vois le lien avec les anciennes culture.

[@nathkaden]

J'ai déjà eu des "donnés d'entraînement" il y a un moment, c'était la même chose mais je connaissais pas j'ai pas trop fait gaffe xD

[@Thomas-pg8et]

Mais c'est pas la même technique que underscore avait présenté il y a 1 an sur le hack de RAG ?

[@Gordius__1]

hâte que vous parliez de " ia poisoning "

[@rosenguyen1410]

je suis intriguée par Odoo signature. l'entreprise de mon patron utilise déjà un système payant, mais quel serait le niveau de confidentialité et de sécurité des documents sur Odoo ? quels sont les risques ? pour que Micode l'encense, ça doit peut-être valoir le coup non ?

[@tafoul]

Euh, c’était pas Google y’a quelques heures ?

[@rextyluc]

1h avant qu'ils ne la sortent c'était "CIA"...

[@Ririchter]

Moi je l'ai vu egalement 😅

[@CharaISTB]

Pile au moment ou je voulais écrire un message sympa, vous renommez la vidéo avec " dingueries " Arrêtez avec ce terme je vous en supplie. Plus " dingueries ".

[@gloubiboulga3063]

Le markdown c'est pas plus bas niveau que HTML ??

[@framboisejaune7103]

Oui 👍

[@rustynt6576]

J'étais enthousiaste vis à vis des IA mais si ceux qui les développent les sortent trop vite et laissent des failles ça m'inquiète grandement! Genre faut que des randoms (des "talents" bruts, non engagés dans le projet, rien de péjoratif je précise) viennent montrer les détournement possible c'est dangereux à mon sens. J'y connais pas grd chose en tech' mais là ça me fait peur quoi :o, surtout que c'est google quoi...

[@Ayssaiveun]

Vous clc avec vos titres. Soyez clair et honnete

[@zengamad8430]

C'est pas explicite là ?

[@AngeloFLEMINGDETHELOT]

Tu le fais exprès ?

[@kryw_nayrod8838]

Bah il te l a expliqué le bug, c est quoi ton problème ?

[@bouddhatome8233]

C'est pas la première fois qu'il vient sur le plateau cet invité il me semble, je me trompe ?

[@GABIOOX]

C'est le gars qui bosse chez leroy merlin la semaine et champion du monde de haking le we

[@Yolakx]

Yep