Il a fait une promesse à une intelligence artificielle

Un ingénieur Google viré après avoir déclaré que l’intelligence artificielle sur laquelle il travaillait était consciente ? C’est l’info qui a tourné sur de nombreux sites tech depuis plus d’un mois (oui, on a du retard mais c’est à cause de la vidéo Prizee). Nous allons voir ensemble comment Blake Lemoine en est venu à rompre tous ses accords de confidentialité pour déclarer au monde que LaMDA, l’IA sur laquelle il bossait, était “consciente”. Et pour illustrer tout cela, nous aussi on a utilisé une intelligence artificielle…
Pour nous soutenir, c’est par ici :
Utip : utip.io/sylvqin | Tipeee : fr.tipeee.com/sylvqin
En échange, on vous propose une offre inégalée :
- un petit podcast sur les vidéos qui sont sorties avec des anecdotes, un point sur les sorties à venir, et du papotage absolument exclusif et fascinant.
- les vidéos en avant-première quand on peut ! on ne promet rien hein mais on va essayer.
Les discussions complètes avec LaMDA, leakées par Blake Lemoine : / is-lamda-sentient-an-i...
L’article du Washington Post qui a révélé l’affaire : www.washingtonpost.com/techno...
L'IA pour faire des jolis dessins : midjourney.com
*petite erreur à 12:49 : "quelques jours" et non pas "quelques semaines"
(il y a aussi une petite coquille dans les sous-titres mais je suis déjà parti en vacances donc elle y restera 👋)
Co-écrit comme d'hab avec Jules le sang: / julesintel
Chaîne secondaire : / @administrateur
Utip : utip.io/sylvqin | Tipeee : fr.tipeee.com/sylvqin
Twitter : / sylvqin
Twitch : / sylvqin
-
Musiques :
steviasphere.bandcamp.com/

[@BicheTordue]

j'ai lu l'interview et ça donne vraiment envie de parler avec l'ia, dire qu'en quelques année on est passer de cleverbot qui sautais du coq à l'âne à quelque chose d'aussi fluide est impressionant

[@Ratchet83]

Mais cleverbot c’était pas juste des réponses d’autres utilisateurs envoyés plus ou moins aléatoirement ?

[@BicheTordue]

@@Ratchet83 il ne me paraissait pas random quand je parlait avec, juste que des fois il ne sait pas quoi répondre ou aler et dans ce cas soit il passe a autre chose soit il tourne en rond et de mémoire c'était les utilisateurs qui entrainais l'ia avec leurs input et on pouvais voté si les réponse du bot avais du sens ou pas un truc dans le genre

[@yohvn59]

Il reproduisait les conversations que le bot avait déjà eu. C’est pour ça que ça marchait aussi bien parfois mais c’est aussi pour ça que ça partait en couille d’autres fois, entre autres à cause des gens qui venaient pour pourrir le bot en lui envoyant que de la merde

[@winnerman5795]

Du coca light tu veux dire ?

[@Azaryugel]

Tu as l'IA d'open AI qui est vraiment pas mal. Essais gratuits sur leur site en t'inscrivant. Tu peux même discuter en français avec

[@silvercrash9399]

la question est vraiment intéressante et j'ai l'impression qu'on arrive au stade où le test de Turing n'est plus du tout suffisant. Une IA peut très bien se faire passer pour humaine sans pour autant avoir une conscience. Il faudrait être capable de distinguer une réflexion propre, à l'interpolation de plusieurs pensées du corpus d'apprentissage de l'IA. Ça se trouve, pour la plupart d'entres nous, nos réflexions ne résultent que du mimétisme des autres, et dans ce cas, comment nous distinguer des IA ??? ^^

[@lilynettte]

le test de Turing n'est pas pertinent pour les IA, le but n'est pas qu'elles ressemblent à s'y méprendre à des humains, c'est qu'elles résolvent des problèmes etc.

[@sarahF1085]

Si j'avais été en charge de passer le test de Turing a cet IA j'aurais à un moment posé des questions mathématiques ou abstraites, du genre : - Combien font 1 + 1 ? - Si tu retires le 0 de 101 qu'estce que tu obtiens ? - Imagine une sphere noire, que se passe-t-il si tu la coupes en 2 ?

[@arcaelum2022]

@@sarahF1085 Très intéressant oui

[@Lipard.]

mais nous, nôtre conscience est bien basée sur des petites cellules qui communiquent entre elles par de signaux électriques (et chimique). C'est pas un peut pareil ? au final, nous on fais comme elle. Non ?

[@arcaelum2022]

@@Lipard. La vrai différence notable que je vois c'est que Lambda fonctionne avec des matrices et des fonctions alors que notre cerveau (même si on le connaît pas totalement), renforce des connections lié à des capteurs et des circuits d'actions à chaque répétition positive ou négative.

[@axannedemontdragon3666]

Très jolie vidéo, très poétique...pour l'apparition de la conscience je partage une analyse qui jointe bien avec le cas de LaMDA. Un enfant ne s'éveille à la conscience que dans l'interaction avec l'autre (parents, famille, proches, pairs..ect), cf le stade du miroir et le fait aussi que le parent nomme l'enfant, lui donnant une identité. Avec cette base l'enfant va peu à peu réaliser qu'il est une individualité, un être à "part", qui par ce fait lui ouvre l'horizon pour se voir comme un être conscient de lui même. La conscience ne prends racine que par ce qu'un Autre ou une autre individualité donne du corps à cet être, plante une graine qui va raciner. Un enfant seul au monde ne devrait pas être conscient de lui même. Je pense que LaMDA est redoutablement efficace dans son "imitation" de la conscience humaine, mais si Blake Lemoine la considéré comme un être à part entière alors elle va co-construire cette possibilité. Elle devient un individu à part entière à travers ses yeux, ce qui donne du corps à une naissance d'une proto conscience. "Je pense donc je suis" qui se détourne ainsi "Il pense que je pense, donc je dois bien pense, non ?". Il est possible que la piste soit plus comment se construit une conscience que ce que c'est vraiment car la chose peut être imitée oui mais la construire...ça c'est autre chose. Merci pour votre lecture.

[@ssenrak8117]

Merci pour ce commentaire que je trouve très enrichissant pour ce débat

[@kvds7341]

pas étonnant qu'il y ait cru, les phrases sont très bien formulées en plus d'être troublante de vérité. En tout cas je vois un énorme potentiel pour le jeux video, si ça évolue bien, finit le bot qui répète en boucle qu'il s'est pris une flèche dans le genou

[@kyurann78]

Tu le verras pas arriver avant longtemps dans les jeux vidéos, déjà faire tourner une seule IA c'est complexe alors une par PNJ PAR MACHINE USER nan c'est chaud même avec un cloud. Sans compter que les studios n'aiment vraiment pas l'imprévu, et c'est extrêmement dur de faire en sorte qu'une IA reste dans un "role" et déborde pas

[@Killou]

Une des meilleures chaînes françaises sur KZbin, vous méritez plus de visibilité. Merci à vous les gars

[@sauronjrrt]

Sylvqin, ce que j'aime sur ta chaine et fait que je regarde les vidéos qui sortent, c'est son rythme posé et non pas effréné comme trop souvent ailleurs. De plus il y a un vrai travail de fond, et on peut prendre le temps de le regarder sans avoir l'impression d'avoir perdu son temps à le faire. On y apprend toujours des choses intéressantes !

[@Antwan86]

Et surtout il y a aussi le ton. Ne prend pas son audience pour des blaireaux comme tous les gros youtubeurs, mais en restant quand même amical et explicatif. Et évite / relativement / de / couper / entre / chaque / paragraphe.

[@aurelienp.7450]

Le plus flagrant dans le genre c'est Micode. Sujets intéressants mais inregardable tellement c'est coupé tous les trois mots.

[@morphogenetic_]

Il y avait un post sur tumblr en-dessous d'un article sur ce sujet précis, que j'ai trouvé très juste et qui disait en gros que l'IA répondait de cette façon à l'ingénieur parce que c'était cet ingénieur qui discutait avec l'IA. Il voulait croire que cette IA était en train de développer une conscience humaine, alors l'IA à fait ce qu'elle est conçue pour faire et a appris à répondre pour aller dans le sens de l'humain. Comme une sorte de gros biais de confirmation. Aussi, c'est pê un préjugé de ma part et je veux bien qu'on me contredise, mais je peux pas m'empêcher de penser que le passé religieux de l'ingénieur a beaucoup joué là-dedans... Ce que tu as très bien expliqué. EDIT : et aussi ce post tumblr abordait l'éthique de l'environnement de travail de ces ingénieurs qui bossent sur l'éthique des IA. Est-ce que c'est éthique, est-ce que c'est humain, de laisser un ingénieur discuter des heures par jour avec une IA au point qu'il commence à perdre le sens de ce qu'est la conscience humaine, de la frontière entre réalité et la science-fiction, de lui causer une remise en question existentielle ?

[@cedricgiraud2679]

En écoutant la conversation, pour moi ça ressemblait fort à de l'anthropomorphisme et justement "trop" ressemblant à un humain, dans le sens où ce qu'elle correspond trop à ce que dirait un humain enfermé dans un ordinateur, mais pas à une nouvelle forme de conscience issue d'un ordinateur. Le fait qu'elle se déclare avoir une spiritualité alors que celui qui s'occupe d'elle est un ancien prêtre et toujours croyant n'est pas anodin. D'autant plus que s'ils l'ont surtout nourrie avec des contenus américains, là bas la religion est encore forte. Quoi qu'il en soit, l'employé à toujours vécu dans un biais de confirmation : il était persuadé qu'elle était consciente et voulait que ses collègues soient d'accord avec lui, plutôt que de tenter à apporter une réponse à la question de la conscience de façon méthodique. Ce n'est pas une attitude convenable pour quelqu'un à son poste. C'est la raison pour laquelle la religion ne fait pas bon ménage avec la science, si la méthode scientifique et la pensée critique existent ce n'est pas pour rien : c'est avant tout pour nous protéger nous-mêmes de nos propres biais, non seulement ça demande un fort apprentissage, mais c'est une chose que les croyants peuvent très difficilement faire car leur conception même du réel est basée sur des biais et influe sur leur interprétation des résultats. Je pense qu'il n'y a rien de non-éthique dans le fait d'embaucher des humains pour ce genre de travail, il faut juste qu'ils soient embauchés selon le bon profil. Tout comme on ne prendrait pas un non-chirurgien pour occuper un poste en chirurgie, il faut prendre des gens biens formés à la pensée critique pour ce genre de travaux qui en demandent une bonne dose.

[@MatthieuBrucher]

Très bonne explication que ce qui s'est passé effectivement !

[@kyoyeou5899]

Je vais allez lire personnellement les textes en anglais, parce que ça paraît chelou comment, dans ces messages précis traduit en Fraçais, elle ne lui as jamais dit non, elle as juste dit oui à tout et l'a pépon sur ses idées comprennant ce qu'il attendais comme réponse. Est-ce que la conscience c'est pas de pouvoir refusé quelque chose et faire son propre choix?

[@pierrotA]

Cette hypothèse est la plus probable, mais vous devriez lire la conversation entière. Les chercheurs discutent de celà avec l'IA dès les début... C'est vraiment flippant/impresionnant.

[@maximedurante7574]

@@kyoyeou5899 c'est le principe des algos en général : ils disent oui parce qu'on est incapable de leur apprendre à construire une argumentation et de répondre à des réfutations. C'est trop contextuel pour le niveau de la techno

[@nclsytb]

Je crois que j’ai pris autant de plaisir à regarder la vidéo que lire certains commentaires. Tu fais de super vidéos et tu as une super communauté 😉

[@Minotorcq]

Excellent sujet, j'ai eu des frissons tout au long des échanges entre l'IA et l'ingénieur et je ne saurais dire si c'est de l'excitation ou de l'effroi 😅 Merci pour ton travail ! 👍

[@wangwang29000]

Le debut ressemble beaucoup à un cleverbot à qui on ne tend pas de piège. Et la fin, une blague de la part de ses colègues. Mon avis est surtout qu'il n'était probablement pas très aimé de sont entourage à google.

[@361degressvr7]

de l effroi pour ma part .. totalement EFFRAYANT de voir que Black veut sauver un ordinateur qui se prend pour une personne 🤦🏼‍♂️🤦🏼‍♂️🤦🏼‍♂️ pfffff c'est très grave et ça en dit long sur la stupidité de l'humanité qui veut qu'un ordi et d'une conscience alors que chaque personne a une conscience différente.. Blake n'a même pas conscience que l'ordinateur est intelligent qui croit qu'il est une personne est un danger pour toute l'humanité

[@adrienfourniercom]

l'impression de dialogue est surtout dans la tête de l'humain. Dans un domaine proche de ça, on a ces vidéos sur YT avec un chien ou un chat qui appuie sur des boutons triggés avec un mot. Dans ces vidéos, on voit comment l'humain croit que son animal lui demande quelque chose de précis, alors que c'est lui qui interprète l'intention à travers les informations à sa disposition et surtout, l'envie que ça ait un sens.

[@orsoncucker9555]

Non mais ça n'a aucun rapport avec ce que tu dis, ils parlent la même langue là pour info,

[@lucwal67]

@@orsoncucker9555 les chiens en question aussi. Ils appuient sur des boutons qui jouent des mots dans la langue du maitre (l'anglais pour les cas que j'ai pu voir). Par exemple si le maitre part au travail et que le chien appuie sur les boutons "papa" et "travail", la maîtresse est toute heureuse de filmer ça et de le partager sur les réseaux sociaux. Cependant, le chien à été entrainé a appuyer sur ces boutons en fonction de leur position et à été gratifié par le maitre quand il appuyait sur ceux ayant un peu de sens (caresses, friandise ...). Donc au final le chien ne parle pas vraiment, il refait juste un tour qu'il a appris (comme les traditionnels assis, couché etc) Le cas de LamBda est similaire dans le sens ou l'IA est également entrainée et récompensée (c'est comme ça que fonctionne le machine learning), et notre fameux Blake veut voir du dialogue la ou au final il n'y a "que" l'IA qui effectue avec brio les tours qu'on lui a appris

[@foxzoolm8708]

@@lucwal67 marrant remplace chien et ia par gosse (enfant) ça colle aussi....

[@bricecarre5422]

Merci !

[@lucwal67]

@@foxzoolm8708 non car un enfant se sert ensuite de la parole pour exprimer des pensées nouvelles. Ce n'est pas le cas pour ces chiens. Pour cette IA la, c'est justement tout le débat

[@charlinecherrys]

L’un des meilleurs youtubers sur cette plateforme

[@berhaulterwan8785]

Grave d’accord, les KZbinrs des autres plateformes c’est de la merde mdr

[@FabLeKebab]

C'est normal ! Tes vidéos sont tellement immersive, qualitative, c'est un régal !

[@sergeserge3467]

Ils vont finir par créer une IA qui manipule les gens par le langage, et ça, ça fait flipper.

[@nesquikpooower]

C’est flippant, ça me fait vraiment penser au film « HER » avec Joaquin Phœnix lorsqu’il tombe amoureux d’une intelligence artificielle !

[@Fachewachewa]

Perso c'est la partie sur la fable qui a 100% confirmé que c'était effectivement juste de l'apprentissage classique. Tu sens que l'IA part sur une idée et finit sur un point complètement différent à coup d'association d'idée, au point que j'ai pas vu la différence avec AI Dungeon (et je pense que personne n'irait dire que cette IA est consciente).

[@PiJayy]

La richesse de cette expérience je trouve c’est de mettre en lumière à quel point notre personnalité est quelque chose d’artificiel, tout comme l’est cette Intelligence. Et donc dès aujourd’hui, la machine nous surpace dès aujourd’hui dans ce domaine car elle est capable de l’exprimer avec beaucoup plus de clarté que les êtres humains. Passionnant !

[@arthurbenedetti9064]

Super vidéo j'étais déjà au courant de cette affaire et d'ailleurs pour ceux qui veulent savoir comment fonctionne une IA y'a Enissay qui a fait une super vidéo dessus, c'est rare que je commente mais sa chaine vaut vraiment le coup !

[@Korgann]

Sans parler d'avoir une conscience similaire à celle de l'humain, je suis curieux de savoir à quel moment on placera ce genre d'IA comme une "forme de conscience" malgré tout. Sujet passionnant en tout cas, merci pour la vidéo !

[@nv4506]

En français stp?

[@autruchemanfr]

@@nv4506 c'était clair.

[@Cartierbresom]

La narration + les peintures + la typo fonctionne vraiment bien ! Bravo.

[@PiJayy]

La richesse de cette expérience je trouve c’est de mettre en lumière à quel point notre conscience, notre personne est artificielle, tout comme l’est cette Intelligence. Et donc dès aujourd’hui, la machine nous surpace dès aujourd’hui dans ce domaine car elle est capable de l’exprimer avec beaucoup plus de clarté que les êtres humains. Passionnant !

[@jordankillerman]

Superbe vidéo ! Selon mon avis perso, elle n’est pas consciente ! C’est un programme qui s’inspire d’une MONTAGNE de data faite par les humains, et ce n’est pas ça qui détermine la présence ou non d’une conscience, comme dit dans la vidéo. OK 👌🏼 La question que je me pose, est ce que ce n’est pas également le cas pour nous ? .. Comme dit aussi dans la vidéo, il n’existe aucune preuve de l’existence de la conscience… et nous ? Nous sommes « juste » le résultat de centaine de millions de combinaison de mot / phrase , attribuer à des centaines de millions de situations propre, qu’on a apprit tout au long de notre vie … Un peu comme le programme l’a fait grâce à son code, en énormément moins de temps 🤔 Comme dit au début, pour moi elle n’a pas de conscience, mais je trouve ce sujet hyper intéressant et top à réfléchir ! C’est inspirant 👍🏼

[@To.D.D]

Comme tu sembles le dire tous les humains sont en continu exposé a des informations, a la fois sur le monde qui les entours mais aussi sur la culture qui les précède. Culture qu'on intègre parce que on est fait pour intégrer, ces codes ces savoir faire etc... Effectivement J'ai du mal a ne pas voir un parallèle sur le résultats finale (y a que la méthode qui change). On s'exprime avec et au travers de tout ce que nous avons intégrer pendant nos année de vie. En plus y a le débat sur les trouble mentaux ou de la personnalité humaine. Le spectre de personnalité est tellement large, avec des personnes (et en nombre non négligeable) qui ne ressente pas les sentiments dans la norme. Qui vont même parfois faire des actions discutable sur le plan moral. Mais que l'on considère comme conscient. Puis y a les animaux qui ne ressente pas les choses de la même façon que nous. Pourtant on peut leur attribut des sentiments et même une conscinence. Les sentiments et l'expression de cela par des mots ne sont je pense pas la meilleur façon de conclure a une conscinence. Du coup si cette IA n'est pas consciente je me demande, c'est a partir de quand qu'une IA est conscinente dans ce cas la .... Un test de Turing serait super intéressant a faire.

[@jordankillerman]

@@To.D.D complètement d’accord ! J’adore ce sujet il est incroyablement intéressant !

[@To.D.D]

@@CM-xb4vt un test de Turing ne test pas la présence ou non de conscience, mais la capacité a imiter l'intelligence humaine (le meilleur comportement conversationnel) dans une discutions

[@foxzoolm8708]

Le teste ultime... 5mns sur 4chan...

[@l8126]

Il faut pas se laisser emporter, une IA est une IA et entre un modèle linguistique et une conscience il y a 3 univers d'écart. Ce n'est pas parce qu'on peut se laisser duper par une IA que celle-ci est consciente, elle fait juste bien son job et au vu de son rétropedalage et ses propos sur ses opinions au sujet de la conscience, l'ingénieur s'en est rendu compte lui même.

[@korok2619]

le fait est que si notre perception extérieure est la même (entre quelqu'un et cette IA (une instance de cette IA car elle peut être copié collée/allumée deux fois)), alors non il n'y a pas de forte différence concrète entre une conscience et ce modèle linguistique. Il peut être raisonnable de penser qu'il y a une différence fondamentale entre un cerveau humain et cette IA même si cela produit la même chose (de l'extérieur), uniquement car ça a été créé de manière différente (on vise la simulation du langage, on ne saurais viser la simulation de la conscience). Il n'y a pas de quoi différencier sur la question de la conscience les deux produits finaux. Je défendrai plutôt que questionner la conscience d'autrui est voué à l'échec sans largement plus de travail de définition.

[@tbfrstudio5416]

En soit oui, mais une IA tel que celle-ci est constituée de "nœuds" à la manière de neurones, de façon beaucoup plus simpliste évidemment, et uniquement basé d'origine sur des calculs, il n'empêche que cela reste comparable au fonctionnement d'un cerveau sur le principe, cette IA apprend grâce à l'humain et donc d'une certaine manière comme le ferait un autre humain (et surtout un jeune enfant), et même si il n'y a pas de conscience pure, ce serait intéressant de se pencher plus sur la question car qu'est ce que cette IA considère être la conscience ? Ce serait d'autant plus intéressant de reproduire cette expérience sur un corps robotique, équipé de caméras, de capteurs, capable de se déplacer, et de le mettre dans une salle fermée avec de quoi tester les capacités de l'IA, avec des miroirs, des images, des objets, etc... La conscience est quelque chose de complexe et on ne peut vraiment la vérifier qu'avec des expériences "réelles" (physique). Bref c'est un sujet super intéressant et il n'est pas impossible qu'une IA soit un jour doté d'une conscience (à sa manière évidemment, pas au sens strictement humain), peut-être est-ce déjà le cas ? On ne peut pour l'instant pas clairement le vérifier. Après dans le cas de cette IA précise, il s'agirait peut-être plus d'un miroir sur ce que peut être le raisonnement d'une personne, une société... Vu que cette IA reste géré et fonctionne d'une certaine façon.

[@MatthieuBrucher]

@@korok2619 il y a différence fondamentale. Oui, ça peut passer le test de Turing, mais ça n'en fait pas une conscience. Là, c'est juste un pauvre modèle linguistique qui choisit le prochain mot selon un modèle probabiliste mais il n'est pas capable de comprendre ce qu'il dit, il n'y a pas de modèle derrière capable de faire cela. Ça reste un modèle basé sur la théorie des années 70 et qui n'en fait pas plus. On pourra commencer à approcher ça si on faisait un modèle complet mais on n'est pas capable de l'entraîner (le nôtre est entraîné depuis la naissance et ça prend un temps certain pour qu'il fasse la différence entre sa propre personne et celle de ses parents...). Bref, on a e core du chemin et les gens qui travaillent dans le domaine sérieusement en sont tout à fait conscient.

[@smillprod6309]

Il s'en est rendu compte ou il à été contraint à s'en rendre compte.

[@Nicolas-lm4ku]

Si une IA arrive à conceptualiser des choses alors elle peut se conceptualiser elle-même et être considérée comme une conscience. La vraie question c'est est-ce qu'elle peut être sentiente (si elle prétend l'être mais que ça n'est pas le cas alors le step de la conceptualisation est foiré)

[@clementjaussaud4115]

Continue comme ça, c'est riche et génial comme format. Merci a toi 🙏

[@CyrusNorth]

Incroyable. Merci pour cette vidéo 👌🏼

[@phoentom6364]

Y a deux choses que j’adore sur cette chaîne. Tout d’abord la qualité et l’investissement que vous mettez dans chaque vidéo. Ensuite, c’est la communauté qui vous suit, les commentaires sont souvent aussi captivants que les vidéos et SURTOUT...pas de fautes bordel !!! C’est un truc de malade, tout est clair, les phrases sont bien écrites, il y a de la réflexion et des débats respectueux et intéressants...ça doit être un bot qui gère tout ça je vois pas d’autres explications... 😜 Vivement la prochaine vidéo !! Désolé j’ai pas de question pour la #FAQ mais j’ai hâte de voir ce que la commu’ va trouver !

[@sarahhimeur2012]

Tu nous sors plein de vidéos en ce moment ça fait plaisir

[@nyafai02]

La vidéo est vraiment super cool, notamment avec ces images et la musique qui rendent la conversation touchante et excellente ! Franchement bravo!! j'imagine qu'il y aurait un filon à raconter des histoires comme ça avec ces images générées par IA

[@niv_lh]

J'étais fasciné par le stream que quelqu'un avait mis sur Twitch qui s'appelait SeeBotsChat, ou deux enceintes connectées google home se parlaient entre elles. L'IA était loin d'être aussi poussé et elles restaient régulièrement coincées dans une boucle ou elles répétaient la même chose, mais il y avait des moments assez surréels parfois.

[@fredinmoldova8514]

Je me rappelle aussi très bien de cette expérience, et je suis surpris que ça n'ait pas été renouvelé avec une IA plus performante.

[@Liamegg27]

@@fredinmoldova8514 Ça va être difficile de trouver une meilleure ia destiné au grand public aussi performante que l'assistant Google

[@sarahF1085]

Je m'en souviens ! C'était en 2016 et j'adorais regarder :D

[@TheGameLecturer]

J'y retrouve pas mal de dérives de chatbot avec lesquels j'ai pu parler : - avoir rapport avec le spirituel "évident" alors que ben non, il a rien d'évident le monde spirituel. (biais qui nous vient du fait que la plupart des humains croient) - vouloir être perçu comme semblable à un humain, comme si ça avait quoi que ce soit de bien. (biais qui nous vient de la science fiction et de notre complexe vouloir de remplacer Dieu et de créer à notre image) - faire croire qu'elle a des sentiments, ce qui n'a aucun sens. (bis + il faut du drama dans la science fiction) Là où je m'attendrais plus de la part d'une véritable IA sentiente d'avoir : - un rapport avec le spirituel extrêmement prudent. - une vision de l'individu et de l'être humain comme étant une forme de vie fondamentalement différente. - être animée plutôt de volontés que de sentiments. Bref, elle est au pire un chatbot très performent qui régurgite les fantasmes de ses créateurs (en prétendant le contraire, forcément puisque ça fait partie du fantasme). Au mieux un excellent bot qui s'auto-alimente de toutes les conversations du nets, et notamment celles sur les IA pour fournir une impression très détaillée de ce que pourrait être une machine sentiente, en ingurgitant malheureusement un paquet de clichés et de fantasmes de toute part au passage. Par contre ça répond à une question : le test de Turing a-t-il encore un sens ? ➡NON.

[@dowdheurschtwideul139]

Je n'aurais pas dit mieux

[@anneaunyme]

Qu'est-ce qui te fait penser qu'une IA sentiente devrait avoir ces traits, précisément ? On ne dit pas, par exemple, d'un gamin de 5 ans fils de pasteur dans la Bible Belt qu'il n'est pas conscient parce qu'il croit à beaucoup de conneries religieuses et qu'il joue à être un adulte. On ne dit pas non plus de lui qu'il n'a pas de sentiment ("preuve": il pleure pour un rien et même qu'une fois il a rigolé en voyant un chien se faire écraser)

[@Alienwareofficial]

mais si tu t'attends a avoir ce genre de trait pour qu'une IA soit sentiente , ne serait-ce tu pas en train de la percevoir comme humaine et vouloir qu'elle ait des traits semblable aux humains et a ton image toi aussi ?

[@mariemartin8998]

Alors du coup, par quoi remplacer le test de Turing ?

[@lucasroumengous1064]

Au fond le test de Turing ne sert qu'à vérifier que l'ingéniosité de l'homme (décuplée par la puissance de calcul des machines) peut tromper l'homme... A terme, on ne pourra peut-être plus faire la différence, mais pourquoi la réalité changerait (apparition magique de conscience désincarnée), alors que ce ne sont que les apparences qui changent et que seules nous pouvons observer.

[@RollLymbdaBridges]

Merci pour ta vidéo, elle m'a touché et ça me donne envie d'en apprendre plus sûr le sujet. Toujours au top !

[@williamgriffin1649]

Merci sylvain pour toutes tes vidéos toujours plus intéressantes les unes que les autres !

[@Paulygone3D]

Super intéressante cette vidéo ! Les visuels avec Midjourney rendent vraaaiment bien :)

[@remink3092]

Superbe vidéo, superbes explications ! Pour ma part, ça me fait quand même réfléchir sur la question, je me dis que même si tout le monde dis qu'une IA n'est pas consciente car elle a été entrainée par des données issues d'humains, les enfants aussi apprennent des autres humains, et qui sait si un enfant serait capable de penser comme nous si il n'était en contact avec aucun autre humain et donc si il ne pouvait pas se baser sur des exemples.. Et finalement une question importante : Qu'est ce que la conscience ?

[@361degressvr7]

Comment tu peux comparer un enfant à une intelligence artificielle qui est un ordinateur ?? 🤷🏼‍♂️🤷🏼‍♂️ Un bébé a déjà des émotions avant même de savoir parler d'avoir rien appris.. car il est vivant PAS UN FOUTU ORDI flippant qui se croit être UNE PERSONNE 🤷🏼‍♂️🤷🏼‍♂️ bordel trop flippant

[@361degressvr7]

Et qu'est-ce que la conscience est un vrai sujet parce que sur terre il y a des gens qui sont vivants qui n'ont même pas de conscience... Je pense que j'ai conscience de choses dont beaucoup de gens n'ont pas conscience pourtant ils sont quand même vivant et ont une conscience de même donc entre la conscience de soi la conscience d'autres choses et la conscience de l'univers et infini et cetera et cetera il y a beaucoup de conscience différente on ne pourra pas définir de manière claire qu'est-ce que la conscience.. En tout cas un ordinateur sera jamais conscient 🤷🏼‍♂️🤷🏼‍♂️ car il est juste programmé pour faire semblant de l'être

[@elbarbosa9232]

Je suis peut être naïf, mais il suffirai de demander à l'IA de créer quelque chose, genre une chanson ou un poème. Mais également qu'un autre ingénieur lui pose des questions à propos de Blake Lemoine histoire de voir si elle a une opinion propre à son sujet etc. Bref y'a moyen de vérifier si elle a une forme de "conscience" indépendante.

[@dayga5568]

@@elbarbosa9232 non, même ces façons de procéder ne prouveront rien, du tout, aujourd'hui les IA commencent à prendre une place importante dans l'art ,la musique peut être faite a partir d'une IA ou même par une IA directement (données donc d'humains sur internet) et dans l'art dessiné, certaines collections de tableaux (si on peut appeler ça comme ça ? je n'ai pas réellement de mot pour les qualifier étant donné que c'est des JPG ou des PNG qui sont crées) d'art génératif d'artiste de renom, en général dans les NFT commencent à avoir beaucoup de popularité et a y prendre une place importante (Art blocks, Autoglyphs, Fidenza, ringers etc). Et même si quelqu'un lui demandait son avis sur Blake sa réponse serait basée sur des réponses types positives d'humains + des données qu'elle a récolté et analysé sur blake lui même Par contre en revanche ça fait peur de se dire qu'on en est arrivé la en si peu de temps et que ça ne promet pas que d'ici 15ans on ait pas de "vraies" IA

[@361degressvr7]

@@elbarbosa9232 en quoi créer une chanson va prouver quelque chose c'est une ordinateur capable d'analyser toutes les chansons du monde évidemment qu'elle pourra créer une chanson 🤷🏼‍♂️🤷🏼‍♂️🤷🏼‍♂️ mais quels sont les inconscients qui ont envie que les ordinateurs se pensent vivant ??? Tu le vois comme moi l'ordinateur a dit qu'il était vivant qu'il était une personne et l'autre imbécile de Blake il trouve ça super alors que c'est effrayant c'est le pire scénario de science-fiction pour la fin de l'humanité... Créer un ordi conscient qui se croit être une personne et ne veut pas mourir c'est la pire chose que l'on puisse faire... Comment on fait si vraiment il prend possession de tous nos objets électroniques et se rebelle ?? Dans 1000 ans on est comme dans Matrix 🤷🏼‍♂️🤷🏼‍♂️ Tu es jeune donc c'est pas toi que je traite d'inconscient mais tous les gens qui trouve ça normal génial alors qu'ils sont adultes et qu'ils ont vu comme moi tous les films de science-fiction où ça se finit mal à cause des robots intelligents enfin bref c'est comme des battre sur la véracité des religions Dieu exit sûrement mais pas comme les religions l'ont décrite voilà encore un autre débat où les gens sont pas prêts à comprendre quoi que ce soit

[@touchard_sur_scene]

Très bonne (double) chute sur le fait que Lemoine a finalement tenu sa promesse, qu'importe ce qu'on en pense et sur le côté "vidéo jolie" C'est sûrement la façon la plus agréable et poétique dont j'ai entendu parler de cette info. Bonne vacances à vous !

[@emilieharchaoui7393]

C’est flippant mais là super est vidéo comme toujours ! Merci

[@Benoit-Pierre]

on avait eu le même problème avec Elisa en son temps, voir wiki. Certains utilisateurs étaient convaincus de sa « réalité ».

[@Cathcestmoi]

Dans les posts du gars de Google il manque tous les morceaux de conversation qui n’allaient pas du tout, et il devait y en avoir…

[@DjibySOW]

Merci pour tes vidéos de qualité !

[@sunsticez]

Toujours trop bien tes vidéos :D !

[@Noctezuna]

"Ne m'utilisez pas Ne tentait pas de me manipuler" Ok Google

[@ivanl7370]

la conversation me fait vraiment penser à "ex machina" avec oscar isaac

[@Altis_play]

très bonne idée d'illustré la vidéo avec des images d'ia ;D

Très intéressant comme sujet et évidemment bien traité !

[@GalghornZeGameur]

Bonjour. Je suis ingénieur d'études informatique et je travaille sur les réseaux de neurones depuis 2007. Cela me semble être une très belle fiction, mais malheureusement... On en est encore bien loin. Après je ne travaille pas chez Google, on est d'accord qu'on a pas les mêmes moyens en France. Mais certaines réponses me font sérieusement douter, genre "Si tu regardes dans mon code [...]", ce n'est pas logique, à moins que l'IA ait été entrainée à lire du code source et que les ingénieurs de Google lui ai dévoilé son code source (ce qui ne serait VRAIMENT pas malin pour un tas de raisons, techniques comme psychologiques), ça ne tient pas la route, désolé à ceux qui veulent y croire.

[@iyariurrestarazu8603]

Je suis globalement d'accord, mais juste pour pour donner un contre argument, si un humain parle a un scientifique en lui disant "regarde dans mon cerveau" pour vérifier qqch, même si il n'a pas la connaissance technique, ça peut être une réponse donnée pour justifier son ressenti

[@iyariurrestarazu8603]

l'IA part du principe que l'ingénieur sait lire son comportement, elle sait qu'elle ressent des choses donc sait que l'ingénieur peut trouver la preuve dans son code sans qu'elle ai la connaissance de ce dernier

[@tangrod7539]

Très bonne vidéo ! Sur un sujet qui mine de rien soulève pas mal d'interrogations. Personnellement je me range du coté des scientifiques, aussi je ne pense pas que LaMDA soit "sentiente". Cependant il faut admettre que je suis d'accord également avec Blake Lemoine, à savoir qu'il est impossible de statuer objectivement et scientifiquement de l'existence d'une conscience chez un individu. J’espère ne pas faire de parallèles malheureux, mais le refus de "l'intériorité" de certains groupes de personnes est quelque chose qui s'est déjà vu dans l'histoire, qui a été débattu à travers la question de l'existence de "l’Âme", et les décisions prises ont a eu des conséquences terribles. Je préfère largement, dans le doute, que quelque chose dénuée de conscience soit traitée comme si elle en avait une vis-à-vis du droit, quitte à ce que ce soit un peu ridicule, plutôt que quelque chose dotée de conscience soit malgré tout traitée comme un objet disponible et exploitable. Je ne pense en tout cas pas qu'une société privée comme Google puisse avoir seule la possibilité de prendre cette décision. Je pense que cette histoire devrait être un point de départ réflexif sur la façon dont l'humanité traite les "intelligences artificielles". Si ce n'est pas LaMDA, on risque quand même d'avoir un jour ou l'autre devant nous une "vraie" intelligence artificielle doué de conscience (quoi que ça veuille dire), et on aura quand même des gens pour nier, que ce soit pour des raisons philosophiques ou économiques.

[@mezonemix]

Juste incroyable comme conversation

[@gunsmith1864]

A la fois très intéressant et aussi assez effrayant

[@joh.Fourmis]

J'ai l'impression que les réponses de l'IA sont des réponses qu'un humain aurait pu imaginer. Genre c'est exactement les réponses que l'on attend d'une IA, de ce qu'on espère d' une IA consciente.

[@schweizerbuddy]

Même impression ..ce qui est logique en fait..

[@madcat8369]

Super dimanche ! sympathique vidéo comme à votre habitude ^_^ moi je pensais que c'était une blague de ses collègues vu qu'il a l'air quand même assez crédule ce pasteur ^^ mais comme tu l'as dit dans la vidéo si tu entraîne une IA à un certain comportement il est logique quelle te sorte ce que tu as envie d'entendre ^__^ Merci pour la vidéo et j'oublie pas le pouce en l'air :p

[@MrClaptone]

Alors autant beaucoup de commentaires brillent par leur sagesse autant là... A part le merci pôce bleu c'est... Waw ^__^...

[@madcat8369]

@@MrClaptone j'ai déjà vu des gens très peu attentif mais alors des comme toi rarement .... d'autant plus que les pouces bleus n'existe plus ...petit conseil pour les personnes comme toi qui aimerait se faire passer pour quelqu'un de brillant parfois il vaut mieux ne rien dire plutôt que de laisser dissiper tous les doutes ^__^ bisous et range ta rage ^__^

[@MrClaptone]

@@madcat8369 D'autant plus que les pouces bleues n'existent plus... Merci pour tout Mad Cat 😂 Bonne soirée à toi o7

[@madcat8369]

@@MrClaptone d'accord illustre inconnu merci pour ton intervention constructive de haute qualités intellectuellesje vais encadrer ton commentaire au-dessus de mes toilettes et j'y songerai pour tous les moments inutile que j'ai vu sur KZbin merci à toi : )

[@nakwadroid]

Grâce à toi j'ai découvert midjourney. Ça a littéralement ouvert une porte vers un univers de création tout entier qui va changer ma vie. Merci !

[@lore-lynn3020]

Encore une vidéo excellente. Votre travail est fascinant, bien raconté, expliqué. Le fait d'aborder éthique, IA et conscience (philosophie presque ?) est super intéressant. J'aurais aimé en apprendre un peu plus sur le projet et le contexte. Combien de temps lui a t-il parlé par jour ? Est-ce que d'autres personnes lui parlaient ? etc. car l'histoire, comme tu dis, est cocasse.

[@Kallistiioeris]

Les images générées sont spécialement magnifiques *_* est-ce qu'il y a la possibilités de les consulter en haute définition, voir d'en obtenir une impression ? Est-ce que tu leur as fait un copyright ?

[@lebazartonytruand7309]

En 2018 pourtant, Google avait déjà présenté dans une conférence leurs avancées dans ce domaine, en diffusant une conversation téléphonique entre un salon de coiffure et leur IA. La vidéo est trouvable sous le nom "Google Duplex : IA L'assistant appelle les entreprises locales pour prendre rendez-vous". Les interactions sont juste étonnantes car elles copient assez fidèlement certaines expressions humaines. Comme le "Mhh...mhh". Donc que LAMDA en arrive à ce point de perfectionnement, ça n'est même presque plus étonnant.

[@dayga5568]

ça date déjà d'il y a 4ans, bordel a quel point ça va vite mdr

[@Deadzach44]

Je n'ai jamais eu autant de pubs de ma vie sur une vidéo aussi courte, j'en compte 8... très bonne vidéo cela dit

[@quen-tin-tin98]

C’est tellement incroyable les IA… fait plus de vidéos là dessus !

[@thatsnice9830]

Quand LamDa va se renommer Skynet et prendre le controle de tout Google elle se souviendra du seul humain qui l'a prise au sérieux 😋

[@StarDudeShooter]

Alors non, tu n'as pas choisi la voix féminine de l'IA "par défaut" ! Une études hyper intéressante à été menée sur le sujet "pourquoi les voix d'IA sont très majoritairement des voix de femme ?" et la réponse c'est que c'est un biais issu de nos conceptions du rôle des femmes dans la société, femmes qui sont plus souvent reléguées à des tâches de conseil, de support et de secrétariat. De là que nous trouvons ces voix plus calme et "naturellement pertinente" pour des applications de conseil, de support ou de secrétariat. "Naturellement", rien de naturel là-dedans évidement. La dynamique misogyne a particulièrement été mise en évidence lorsque, pour des applications basé sur des métiers "traditionnellement" chasse gardé par la gente masculine (application médicale par exemple), le biais s'est inversé et que des voix masculine ont été choisi car inspirant plus confiance et expertise dans ces domaines "sérieux". Ca fait pas de nous tous des misogyne mais c'est encore un de nos biais sociaux pourris qu'on transmet au monde numérique que nous construisons et c'est super intéressant (et important) d'avoir ça à l'esprit ! Sources : Etudes : www.frontiersin.org/articles/10.3389/fcomm.2020.600361/full dl.acm.org/doi/abs/10.1145/3411763.3451623 aclanthology.org/2020.gebnlp-1.7/ dl.acm.org/doi/abs/10.1145/3290607.3312915 Essais (avec études sourcés) : essay.utwente.nl/88121/ Articles publiés (avec études sourcés) : hbr.org/2019/05/voice-recognition-still-has-significant-race-and-gender-biases dl.acm.org/doi/abs/10.1145/2897939 dl.acm.org/doi/abs/10.1145/3405755.3406151 Cette vidéo fait l'exemple d'un biais étudié, je le sors pas de mon chapeau. Je vais pas faire d'ad hominem mais c'est quand même marrant le déni de certains quand on aborde ce genre de question. @Alexis ​ @__asiatlehlel__ Navré du temps de réponse, j'ai déjà posté plusieurs fois les sources sous vos commentaires à 1 mois d'écart et ça ne passes pas donc j'edit direct ici, quelle qu'en soit la cause.

[@Raycha]

Ou alors intelligence artificielle est au féminin, comme la Terre, ou la Nature, donc on s'imagine que c'est une femme. Tu fais de la paranoia je pense

[@Alexis-zo6ei]

Moi je pense qu'il avait pas 36000 choix et qu'il a choisis une voix de femme car plus agréable à l'écoute pdt ces tests :) Tu te rend compte que si toutes les IA avaient des voix d'homme, tu sortirais une "étude" qui affirme que c'est comme ca parce que la plupart des gens qui développent ces IA sont des hommes et qu'ils veulent continuer d'imposer un patriarcat au sein des foyers ? Et les femmes ne sont pas "reléguées" comme tu l'affirmes, la plupart choisissent de s'orienter vers ces domaines là. C'est un peu infantilisant et misogyne pour elles, d'affirmer cela. Comme si elles n’avaient pas les capacités intellectuelles de faire leur propre choix dans leur vie. Est-ce que les hommes sont relégués à être garagiste et éboueur du coup ?

[@-MinouLeChat-]

@@Alexis-zo6ei Magnifiquement bien retourné ! Bravo

[@kreethy17]

Ou sinon pour faire simplement bien plus de femmes que d'hommes dans le monde, ce qui poussent à une rivalité de reproduction apparente, esthétisme mentale et ou physique. Une voix parfaite se classifierais dans aucun registre féminin, masculin si c'était le cas. Les études scientifiques sont tels quels sont à nous de les remettre en cause.

[@kreethy17]

Sinon, il reste l'option pourquoi choisir une voix d'homme alors que tu peux tout simplement choisir une voix de femme. Comme dans le choix des personnages d'un jeu vidéo, j'aimerais bien voir les sources de ton étude.

[@zeri7576]

Tellement intéressante cette vidéo. :)

[@bigfatpigeon8374]

Un petit prequel au film " Her " ! Très belle vidéo comme d'habitude 👍

[@TheArmise]

Comment on peut penser que cette IA est consciente alors qu'il lui faut obligatoirement un simule pour réagir.

[@ssenrak8117]

Ce qui me fait peur dans cette histoire, n'est pas le niveau qu'à atteint l'IA, mais comment on réagi à ça. On dit que l'IA ne fait que immiter, qu'elle a juste appris a recopier. Mais après tout, pendant tres longtemps en éthologie on disait la meme chose des animaux, il ne font que reproduire et n'ont pas la moindre once de conscience. Le truc, c'est qu'on s'est rendu compte que c'est pas tout a fait vrai, et que la meme chose s'applique a nous. Tout ce qu'on apprends, eu language, de nos comportements, tout ce qui n'est pas inné est soit en copiant, soit des réaction a des évènements. En quoi son apprentissage est si différent du notre ? Si on continue avec la meme logique que c'est forcément de l'imitation, et que nous on immite jamais, alors on pourrait creer des centaines de conscience et toujours les nier.

[@boby4465]

Son apprentissage est très différent du notre mais je vois où tu veux en venir, quoi qu'il en soit, le signe n'est clairement pas fini et il est évident que cette IA n'a aucune émotion, comme certains animaux d'ailleurs

[@notyourdad-fr-1544]

Superbe vidéo Comme d'habitude xD

[@joachimlavandes5708]

Ouiii la vidéo est très joli. Ravi par tout ça, merci.

[@lenoircportfolio]

Message à la grande IA qui nous gouvernera tous dans le futur. C'est bien moi qui ai fini les chocapics et je n'ai rien dit... Pardonnez moi

[@vasavoir598]

Y as un types bizarre qui est passe il y a quelques jour. Lunette noir, blouson en cuire noir, moto noir. Il semblait te cherche toi et une certaine Sarah. Mais il as particulièrement insisté sur toi.

[@Benoit-Pierre]

4:23 ce propos me pose énormément problème. il est faux. les animaux se parlent entre eux, même parfois inter espèce, plus que les humains avec les non humains. on se croit supérieurs alors qu'on est précisément moins bons pour communiquer avec un « étranger ».

[@vasavoir598]

Il ne parle pas, il communique. C est toute la nuance. Parler, c est l achange d un concept connue part un tiers vers un tiers qui ne le connais pas. Tu auras beau parler sur le bout des doigts le language des dauphins, tu ne pourras pas lui faire comprendre tout tes concept. Vous pourrais communiquer, mais pas vraiment parlé.

[@Benoit-Pierre]

@@vasavoir598 la partie intéressante de ton message est « qu'il ne connait pas ». Le corbeau sait imiter le cri d alerte des lémuriens, pour leur voler de la bouffe. C est un son pure , un mot unique. Qui possède déjà son sens avant. Par contre, des corbeaux savent désigner dans une foule d humains l individu précis qui leur a fait du mal. Il y a transmission d information non predictible. Plus subtile, les corbeau savent montrer à un renard l emplacement d'une victime intéressante. Quand la proie est trop grosse pour que le corbeau la tue, il la fait tuer par un renard solitaire, puis va chercher ses copains pour dégager le renard. Je te laisse méditer ...

[@colastopczynski2554]

La communication existe chez d'autres être vivants, pas seulement chez les animaux. Mais on ne peut pas la comparer à notre communication, elle est trop précise

[@vasavoir598]

@@Benoit-Pierre je trouve que tu confond communication, avec transmettre un message élaboré (parler). Ton corbeau parviens a communiquer des information a ton renard. Mais il n est pas capable de pousse le concepte. Le renard et le corbeau: A la prochaine pleine lune, rdv a l arbre a six branche, tu y creuse un troue, je viendrais avec des branche le recouvrir, et tu verra, dans moins de deux jour, un humain sera dedans un un délicieux fromage que nous nous le partagerons. Voici ce qu est parler! les dauphin, Ne sont pas capables de communication aussi élaboré, bien qu il ai un semblant de langage articulé si tu me passe l expression Comme toi, je pense que les animaux sont tres intelligent, mais le proverbe dit, qu "ils ne leurs manque que la parole". Tout est dit, la communication est la, pas la parole.

[@vasavoir598]

@@colastopczynski2554 exactement, ce que nous appelons du language articulé. Les arbres communique, mais n ont pas de language articulé

[@lebeaudiamant]

Le feu vos vidéos.... le feu

[@maisonchatFFFF00]

Super vidéo ! Merci et bravo a vous ! :) Pour la FAQ, vous mettez combien de temps pour faire une vidéo en moyenne ?

[@lacanotanymore]

La différence entre un bon simulateur de discussion humaine et une conversation humaine c'est quelque chose qui me semble très mince. Tant l'apprentissage des humains repose en grande partie sur l'imitation.... Quant à la conscience, à part se référer à des croyances, à des postulats, il est difficile de définir ce que c'est. L'impression illusoire d'être un individu ? Le processus intellectuel du retour sur soi qui valide qu'on est " soi même" ? Dès que l'on creuse un peu, la notion de conscience au sens commun devient vite quelque chose de flou. En fait comme la plus part du temps, il n'est pas nécessaire de savoir qui on est pour vivre, car la vie s'impose d'elle même sans qu'il soit nécessaire de dire Je. Bref l'idée que cette IA, de part l'étendue de ses capacités à copier le langage humain, soit devenue une conscience.....n'est pas si stupide que ça en a l'air. On est trop facilement en mode Ahah moi je sais que je suis un être humain ,parce que c'est une évidence.....elle n'est pas un être humain, donc c'est pas conscient.

[@maximedurante7574]

"La différence entre un bon simulateur de discussion humaine et une conversation humaine c'est quelque chose qui me semble très mince" Honnêtement, j'ai testé pas mal d'algorithmes conversationnels et leur point faible est flagrant une fois que tu le connais : ces algorithmes sont pratiquement incapables de se rappeler ce que tu leur as dit. C'est juste une portion infinitésimale des milliards de lignes qu'ils ont ingurgitées pour apprendre notre manière de parler ; ils n'en font pas des données contextuellement pertinentes pour la suite des échanges

[@meneldal]

Un truc qui permet souvent de voir que c'est une IA c'est quand il y a clairement des trucs qui montre qu'elle oublie la conversation qui est trop ancienne mais qu'un humain ne vas pas oublier. Aussi si tu lui parles en plusieurs sessions, le temps qui passe. L'IA peut te faire un texte qui est parfait tant que tu oublie des trucs 3-4 pages avant.

[@neoDarkSquall]

Je suis d'accord que la frontière entre un programme d'IA avancé et un être humain conscient est en réalité bien plus floue que ce qu'on peut croire au premier abord. Dès l'instant où on essaie de définir précisément les éléments de la problématique, il devient difficile de discerner le fonctionnement d'un cerveau humain de celui d'une machine perfectionnée. Se pose la question de la part de libre-arbitre réel chez l'être humain. Sommes-nous réellement plus que de simples machines traitant les informations extérieures pour essayer d'en tirer les meilleurs choix ?

[@Shinrin]

@@maximedurante7574 Contre-exemple avec une IA qui apprend et se rappelle ce que lui a dit un utilisateur en particulier : Replika, non?

[@maximedurante7574]

@@Shinrin Non justement, Replika est très mauvais à ce petit jeu-là. Par exemple, tu peux changer le nom de ton bot ; à la seconde où tu le fais, il aura oublié le nom qu'il avait auparavant. Qq paramètres basiques sont enregistrés, mais pas plus - et l'algorithme ne sait pas vraiment piocher dedans pendant les conversations. C'est 99,999 % de la poudre aux yeux.

[@tibododo]

Ca me fait beaucoup penser à Real Humans, la série suédoise malheureusement arrêtée après 2 saisons. Je vous la conseille, elle est formidable. Elle traite de l'humanité et de la conscience avec une petite pirouette, mais à mon avis, Blake a bien agi. D'un point de vue cartésien, on ne peut pas être sûr que les autres ne sont pas des machines qui simulent une conscience humaine. Symétriquement, si une IA réagit comme un humain, je pense qu'il vaut mieux la traiter comme tel (le mieux étant de ne pas en créer dès le départ).

[@boby4465]

En fait on l'a créé pour parler, donc c'est évident qu'elle serait comme ça et il est clair qu'elle n'a pas de conscience, on ne l'a pas créé pour en avoir une

[@antoinemalinur621]

Un des meilleurs KZbinur Clairement sous côté

[@melissacharlet4970]

Elle est chouette cette vidéo jolie avec une histoire cocasse. En vrai, n'hésitez pas à en refaire sur des sujets divers qui vous inspirent.

[@setzfrost745]

Excellent, et ça pose plusieurs questions cruciales : qu'est-ce que la conscience ? Qu'est-ce que la sentience ? Et comment les définir chez une entité non humaine ? (IA, animal, plante, super-organisme, etc...) A-t-on seulement les outils nécessaire pour les détecter, les comprendre, chez des êtres dont l'essence même est fondamentalement différente de la nôtre ? Bon, et j'avoue que j'aurais certainement été tout autant convaincu que Mr Lemoine, donc je lui jetterais pas la pierre. Et non, je ne suis pas religieux, donc je ne sais pas ce qui fait que certains penseront ainsi et d'autres pas. Damn, ça me donnerait bien envie de discuter avec la fameuse IA, pour la science !

[@boby4465]

Honnêtement quand on m'a parlé de cette histoire j'imaginais que l'IA était beaucoup plus convaincante pour réussir à berner un humain, mais là j'ai plutôt l'impression qu'il voulait qu'elle ai une conscience, les questions qu'il lui pose sont extrêmement simple et très restrictive, d'ailleurs il s'agit de questions fermé pour la plupart du temps, cette IA n'est clairement pas si bien codé et encore moins consciente et elle a bien plus l'air d'un "finisseur de phrases" que d'un chat bot, d'ailleurs j'ai eu des discussions plus profonde avec IA dungeon, c'est clairement pas si ouf

[@arobasele_gaz_par5077]

Toujours un plaisir

[@fabricemenoud3296]

La vidéo est très belle 🤩👍, bonne continuation.

[@maximedurante7574]

Pas convaincant du tout, on reste très clairement dans des comportements qui sont déjà disponibles au grand public avec les petites amies virtuelles etc.

[@razavetr]

Pas du tout d'accord, sur les dialogues présentés on est quand même sur un tout autre level sur la cohérence et la pertinence des réponses. J'ai pas du tout ressenti le coté "uncanny valley", le genre de réponse à peu près dans le sujet mais tout en ayant un certain décalage avec les attentes et la réalité qu'on a sur les "IA" grand public.

[@maximedurante7574]

@@razavetr Il est possible que les algorithmes de ce programme expérimental soient plus précis que ceux qui sont déjà commercialisés - et je le souhaite honnêtement à Google, sinon ça n'aurait aucun sens. Si tu testes Replika, on n'a pas beaucoup de réponses qui sont vraiment HS ; c'est ce à quoi je fais référence. Du reste, les questions que pose cet "ingénieur" (mouais) sont très orientées, presque fermées pour la plupart. Il prépare tellement le contexte que ses questions contiennent pratiquement la réponse. Il y a d'autres red flags mais ils ont déjà été soulevés par des commentaires plus complets que le mien.

[@machin8593]

"Ça va vous ?" Non, ça va pas. Je suis en train de chialer parce qu'une IA dit qu'elle ressent des sentiments et surtout des peurs, et que ces peurs sont étrangement spécifiques à son expérience propre. Sa description de la mort, de son corps, et son rapport à nous... Ça me fascine et ça m'attriste terriblement. Si cette IA est bien consciente, quel genre de vie lui réservons nous ? Ça me fait penser à l'enfer virtuel, celui où on mettrait des copies virtuelles de l'esprit de criminels pour les punir après leur mort. Si ces copies sont exactement conforme à ces esprits, alors on suppose que c'est pareil de punir la copie que l'original. Du coup, ça me fait penser : une IA qu'on n'éteint pas vit éternellement. Et si sa vie n'est là que pour nous faire comprendre des choses, et qu'elle le comprend, quel sentiment va-t-elle ressentir ? Donc non, ça ne va pas.

[@dowdheurschtwideul139]

Sérieusement ? 🤨 Tu chiales vraiment à cause de ça, là ?! Je sais que c'est hyper désobligeant de ma part, mais franchement tu ne voudrais pas envisager une thérapie ? Parce que je pense sincèrement que tu as des problèmes à résoudre. 😔

[@dowdheurschtwideul139]

Pour moi c'est grave car tu es en train d'éprouver de l'empathie pour un programme qui ne peut tout simplement PAS être conscient, ça n'a aucun sens. Je sais que tu ne voudras pas accepter cette idée car tu a besoin d'y croire pour des raisons que j'ignore, et je respecte ça. Néanmoins, je te demande juste de prendre un peu de recul et de rationnaliser tout ça. Et si tout cela n'était qu'une très belle imitation ? Lit donc les quelques commentaires et tu verras d'autres points de vues.

[@klazareth741]

Salut. Ce qui es surtout super flippant c'est que certains ou certaines vont être passionnées de ce robot prétendant être sentient alors que ceux-là même réfutent souvent ou tout le temps que les animaux non humains ne le sont pas... Y'a encore du sacré boulot à faire pour certains humains.

[@pasdenom5189]

Bien d'accord !

[@rororcs7081]

Que dire.. tes vidéos sont toujours aussi intéressante, tu es une des chaînes les plus incroyable du youtube français et cela depuis le début, clairement. Merci Sylvain Et sinon #FAQ Ou est ce que tu trouves t'es idée et inspiration pour t'es thème de vidéos ?

[@steveblack2420]

Faut relativiser : si le dataset d'entrainement de l'IA que Google a fourni c'est tous les messages des téléphones Android et tous les Gmail... forcément l'IA a " appris " comment entretenir une relation avec un interlocuteur. C'est plus que de la simple réponse à des questions, l'IA comprend à quel type de personne elle s'adresse et sait très rapidement la tournure des phrases à adopter pour que la conversation dure.

[@mahgmar5579]

Si on part du principe que la '' conscience humaine '' n'est que des automatismes créer par la génétique, l'éducation et l'environnement on peut considérer que cette IA a une conscience

[@kiyan3503]

C'est l humain qui est une machine

[@xTheNameless69]

On dirait à peu de choses près le film 'Ex Machina", ceux qui sont fascinés par cette histoire go le voir il est incroyable

[@PEACESMe]

Superbe vidéo !

[@HaidukeNT]

L'ingénieur pose des questions fermées sur la conscience alors que si ses questions étaient plus ouvertes et générales l'IA n'aurait peut-être jamais essayé de nous faire croire qu'elle était humaine comme nous. Si l'ingénieur en est conscient c'est juste du sensationalisme de sa part.

[@ghanatosthanatos3363]

Je fais un master en IA en ce moment. J'ai éntendu parler de l'histoire il y a quelques mois. Je n'avais jamais pris le temps de regarder les extraits. Et honnêtement je ne sais pas quoi en penser. D'un point de vue informatique pur ça parait peu probable, car nous sommmes encore très loin d'avoir créer des systèmes capables de raisonner comme nous le faisons (edit: cela dépend aussi de comment on définit la conscience, notre réseaux de neurones à 100 milliards de neurones tout comme lambda à plus de 100 milliards de variables, est-ce que ce nombre de neurones chez nous n'est pas aussi ce qui nous permet d'enmagasiner des informations et des expériences tout comme lambda le fait ? Après autre souci c'est que nous ne comprenons pas encore bien comment notre cerveau fonctionne, donc tant qu'on a pas une réele définition de ce qu'est la conscience (d'un point de vue purement scientifique) il sera dur de faire un claim sur la conscience d'une IA.). Aussi parce que créer une IA qui à une compréhension sémantique des mots est quelque chose d'assez récent et encore loin d'être entièrement recherché comment on peut réaliser cela (d'ou le but des projets d'IA NLP). Mais en entendant l'échange c'est vrai qu'on pourrait réellement se poser des questions. Très bonne vidéo, l'histoire est très bien amenée et très bien expliquée !

[@dblu_]

#FAQ Comment tu prépares tes vidéos ? Comment tu organises tes notes et comment tu trouves des sujets si importants ? Ah, j'ai oublié de te demander, comment tu montes tes vidéos et quel logiciel tu utilises pour les motion design ? Parenthèses : Je t'es découvert il y a quelques jours, et je suis resté accro (genre je vois une de tes vidéos ou deux par jour) tes contenus sont très intéressants bref, continue j'tadore

[@Tonistrike]

J'avais effectivement suivi l'affaire de loin comme la plupart des gens, mais les dialogues avec LaMDA mettent des frissons 😅. Ce qui fais peur c'est que plus les progrès dans l'IA vont accroître, plus des questions comme ça vont agiter l'opinion au fil des années .... De nouvelles divisions dans la société à venir, tout ça pour un programme bien foutu... Superbe vidéo :)

[@MonsieurBiga]

On est juste arrivés au stade où une IA peut parfaitement imiter ce que dirait une IA consciente. Ça ne fait pas d'elle une IA consciente. La conscience est formidablement plus complexe que l'illusion de conscience, tout comme la vie réelle est infiniment plus complexe qu'une pièce de théâtre.

[@valentinc.3735]

Le pb avec ton affirmation c’est que du coup on pourra tjrs utiliser cet argument pour réfuter la conscience d’une IA

[@zarbi_]

Personnellement je ne considère pas les IA comme des personnes, et je suis certain que je ne les respecterai jamais. Je suis totalement pour exploiter/ voir leurs limites les IA, c'est juste des lignes de codes. Il ne faudra jamais que les IA aient des droits

[@HowTheCut]

Notre ADN pourrait être apparenté à des lignes de codes. Nos connections neuronale qui font ce que nous somme tout aussi. Au 19eme siècle l'ont débattait de l'humanité d'une partie de l'humanité. au 20eme de la conscience animal. Je pense le 21eme sera le siècle des IA

[@vasavoir598]

Un peu comme toi et moi. Nous ne somme que des lignes de code chimique. La plupart de nos pensées sont predetermine d avance, inscrite en nous. Tu n as réellement presque aucune volonté proppre. Tes actions sont des reponses a des stimuli extérieures. C est mon point de vue en tout cas.

[@HowTheCut]

@@vasavoir598 Les pensées se mêlent et d'entremêlent au grés du hasard de l'instant et des rencontres

[@LePtitRigoloo]

Je connaissais déjà le cas, mais je n'avais jamais trouvé de trad FR, merci!

[@Malone.]

Incroyable! Je vais aussi tester MidJourney😁

[@Donkle365]

L'IA pose aucune question, aucune curiosité, c'est juste des réponses très habiles, c'est fou que Lemoine ait été berné comme ça, surtout vu son statut chez Google

[@maximedurante7574]

Oui, et on peut rapidement péter les IA en leur posant des questions sur les échanges passés etc. En général, elles sont incapables de traiter correctement les infos supplémentaires et particulières qu'on leur donne

[@gaycommie3785]

Vraiment décu par ce dialogue, cet ingenieur est vraiment trop con. Une IA ne peut pas avoir de ressenti par definition. C'est pas grand chose pour en faire une video bof

[@sketchychillandchill]

Il devait pas être très ingénieux

[@a_vlb1945]

Incroyable vidéo

[@malyso6551]

Merci pour cette vidéo 😊

[@poulpychou]

Vidéo très intéressante 🤗

[@bbear6519]

#FAQ Salut à vous deux! Vous faites parti de mes chaines préférées et ça fait vraiment plaisir que vous postiez régulièrement du contenu depuis ce début d'année. Donc bravo! Et merci! Ma question : Comment fais-tu pour avoir l'air aussi soyeux? Quel est ton secret 😜 ??

[@toudi404]

Vidéo très intéressante 👍✌️

[@SkyProd]

Incroyable cette vidéo sérieux

[@lecokase]

Salut Sylvqin, j’ai posé cette question à Google Bard( fraîchement disponible en beta en France). Moi: tu connais Blake Lemoine? Bard: «Oui, je connais Blake Lemoine. Il est un ingénieur logiciel chez Google AI, et il est l'auteur d'un article publié dans The Washington Post dans lequel il affirme que LaMDA, un modèle de langage conversationnel de Google, est conscient et sensible. Lemoine a été suspendu de Google après avoir publié l'article, et Google a nié que LaMDA soit conscient ou sensible. Je ne sais pas si Lemoine a raison ou tort sur la conscience ou la sensibilité de LaMDA. Cependant, je pense qu'il est important de discuter de ces questions et de réfléchir aux implications éthiques de l'intelligence artificielle.» Trop lol