Le Syndrome ChatGPT : Pourquoi les experts ont peur

[@MarketingMania]

La newsletter IA Mania : iamania.fr

[@aristidesitouamossasaint3825]

A Mon avis AI va détruire le peu inportante ce que l'on fera c'est come le soleil il va s'arrêter un jour de fonctionner c'est pour mois une certitude absolue que AI va détruire le monde le problème es conpt c'est que il va le faire dans 10 ans dans mille ans personne ne le sait vraiment il faut juste vivre nôtre vie et attendre inévitable.

[@reines-des-truffieres-46]

bon dossier !...cependant : pas besoin d'une IA malveillante pour mettre l'humanité en PLS !....l'explosion du chômage, (causé par ''le grand remplacement'' par toutes sortes de robots intelligents), va effondrer ce vieux système économique où les actifs cotisent pour les retraités et les chômeurs ...pour soutenir la consommation, il faudrait faire payer des cotisations sociales aux machines et autres robots ...mais les industriels (court-termistes) s'y opposeront !...ainsi va commencer le génocide des inutiles !...l'IA va intégrer cet état de chose dans sa ''normalité moralement acceptable'' et va amplifier ce que les humains auront eux même initié ...et tous les humains inutiles finiront par disparaître !...

[@thetvkovr]

Vos vidéos sont toujours aussi pertinentes. Votre chaîne m’a d’ailleurs donné envie de me lancer sur KZbin. Même si mes vidéos ne t’ont pas énormément de vues, je prends un plaisir fou à les faire. Longue vie à votre chaîne et merci 😊

[@arnaudklein6257]

Pour ma part, et après des études universitaires en psychologie et en neurosciences, je pense que le développement de l'intelligence générale a un rapport très direct avec le corps et son évolution. Les premières stimulations de la vie que nous ressentons (quand nous sommes nourris, portés, etc.), sont très intenses et nous amènent à rechercher activement de la satisfaction physique, affective. Les frustrations sont elles aussi très vives, et c'est cette intensité de l'expérience vécue dans nos premières relations, qui nous conduit peu à peu vers la pensée et la prise de parole. On parle, on pense, parce qu'on désire, et notre désir est lié à nos sensations, à nos hormones, à nos nerfs. Si on a pas la possibilité d'avoir ces premières relations, alors on meurt. Chat GPT et les autres LLM fonctionnent ainsi : ils consultent beaucoup de textes et font des probabilités, pour déterminer quel est le prochain mot le plus probable et l'écrire. On ne peut pas vraiment dire qu'il pense, pas plus en tous cas que le programme informatique qui peut battre Magnus Carlsen aux échecs, qui existe depuis un bon moment. C'est utile et impressionnant, mais a priori ça n'a pas d'intentionnalité propre, pas d'émotions (même si ça y ressemble puisque ça génère des énoncés, basés sur ceux des humains qui eux, en ont). Ce qui me fait beaucoup plus peur en revanche, c'est tout l'éventail des possibilités offertes à des humains mal intentionnés grâce au progrès technique. Ce n'est pas nouveau, mais jamais dans l'histoire il n'a été si facile pour un seul ou quelques individus de causer autant de drames en pressant sur un bouton, juste pour le plaisir d'exercer sa volonté détraquée. Les drames causés par des humains arrivent déjà, il y en a tous les jours. Si une intelligence nous dépasse un jour, peut-être qu'elle saura vivre un peu mieux que nous en rapport avec son environnement, maximiser son propre bonheur avec moins de violence inutile. Ce jour là, on ferait bien d'en prendre de la graine, et d'éviter de la détruire juste parce qu'on en a envie tels des enfants immatures.

[@thesteaksaignant]

Sur le sujet de l'IA en elle même (vos deux premiers paragraphes), je voudrais apporter l'opinion qu'une IA à la ChatGPT n'a pas besoin de penser ni de désirer pour faire du dégât. Rien que l'utiliser comme simple outil cause des problèmes (fausses info, discriminations etc..) qui peuvent avoir des conséquences à grande échelles si l'on commence à se reposer de plus en plus dessus. Et en voyant comme tout le monde se jette dessus ça me semble déjà assez problématique à court terme (étudiants, programmeurs, commerciaux pour ne parler que des gens que je côtoie).

[@arnaudklein6257]

@@thesteaksaignant Oui je comprends votre point de vue, c'est sûr que ça amène des changements qui nous demandent de nous adapter (comme au début d'internet par exemple où personne n'avait d'éducation sur la manière d'utiliser cet outil, ses dangers, notamment les plus jeunes). Je ne dis pas que ça ne pose aucun problème. Mon commentaire portait plutôt sur l'idée principale de la vidéo qui suppose au départ que si une intelligence supérieure advient, on est "impuissants", "sûrs d'être foutus", "tels les chimpanzés / les cochons d'indes" etc.. Une intelligence aussi absolue aura-t-elle nécessairement la volonté d'éliminer l'autre, de s'organiser pour tous nous dominer / tuer / remplacer ? D'après Darwin, les espèces les plus intelligentes créent davantage de systèmes d'entraide, abandonnent moins les individus vieux ou malades, etc. Je trouve que dans cette vidéo le terme "intelligence" n'est jamais défini, mais dans le sous-texte on comprend qu'il correspond à la domination. Je pose juste la question : n'est-ce pas nos propres fantasmes que nous projetons sur une intelligence supérieure quand nous imaginons tous ces scénarios ?

[@florianbeaumont1223]

​@@arnaudklein6257 Je rejoins votre analyse. Bien que n'ayant aucune connaissance en matière de psychologie, il me paraissait évident, à minima, qu'aucun objectif ne se définit sans moteur. Or l'ensemble des actions humaines sont mues par nos sens, que ce soit la recherche de tendresse, de plénitude, de confort, de domination, de contrôle, etc. Ainsi même l'avènement d'une super intelligence pourrait passer pour anodin dès lors qu'elle n'a pas de moteur... À moins que son moteur soit celui du premier humain qui en fasse l'usage, et c'est ce moteur d'origine humaine qui pourrait mener à la trombocalypse 🤔

[@brunocouturier6461]

L'intelligence, quand elle n'est pas dissociée des émotions comme chez les pervers, est gage d'évolution. S'il existe des êtres intelligents qui viennent d'autres systèmes solaires, comme ceux des UFOS, on peut imaginer qu'ils ont dépassé le stade de pouvoir s'autodétruire sans l'avoir fait. Nous n'avons pas encore passé ce cap, mais peut-être l'IA nous aidera-t-elle à le franchir ? 😊

[@GeorgesBrassens-d8k]

"mieux vivre dans son environnement"... c'est des machines, elles n'ont pas besoin de la nature, au contraire. Il leur faut un maximum d'énergie électrique et ce besoin énergétique détruit l'environnement même s'il n'y avait que des panneaux photovoltaïques.

[@momom6197]

Merci beaucoup pour cette vidéo ! En tant qu'étudiant en intelligence artificielle spécialisé dans la sûreté, c'est souvent déprimant d'essayer de transmettre les concepts clés de ce domaine au grand public parce que les idées les plus cruciales sont aussi les plus ridicules pour ceux qui n'y sont pas familiers, mais ici tout est exposé de façon claire et concise ! Je ne suis pas complètement d'accord avec la conclusion, mais bon, on ne peut pas toujours avoir le beurre et l'argent du beurre.

[@desnidsderhealitees6654]

Lors d'une précédente expérience pro, j'ai eu la chance d'avoir pu échanger avec un expert SIL. Étant assez éloigné de ce type de thématiques de par mon cursus universitaire, je lui suis reconnaissant de m'avoir (légèrement) instruit sur ces sujets. Je vous souhaite de pouvoir en faire de même. Bonne continuation,

[@paulinecollet3599]

fun fact : on a tous 100% de chance de mourir. Comme il est dit dans Fight Club : "Sur une durée suffisamment longue, l’espérance de vie tombe pour tout le monde à zéro."

[@TheViiper250]

Eh oui, même les étoiles !

[@kazkaz756]

Personne n'y avait pensé

[@TheViiper250]

@@kazkaz756 C'est important de remettre les choses essentielles en perspective de temps en temps :)

[@bensilicate]

Oui, et si tout le monde meurt en même temps, il n'y aura aucune espérance de vie du tout.

[@Presidentum]

En fait, c'est Keynes qui le dit : « Sur le long terme, nous sommes tous morts. »

[@Serge_karamazov]

Sur les PDG et autres qui alertent sur le risque d'extinction, etc., c'est aussi justement une stratégie marketing pour faire monter la sauce. Les gens s'inquiètent en lisant ça, mais surtout ils se convainquent de la puissance et des possibilités offertes par les IA.

[@eliphas_vlka]

Totalement oui, c’est comme sur hyper

[@MsBikerification]

Faux, ils n'ont pas besoin de ça pour rendre l'IA virale, c'est déjà fait depuis que c'est sortie ! Ils savent juste de quoi ils parlent mais c'est vrai que c'est contradictoire, ils mettent avant les dangers et appel à la régulation mais d'un autre côté ils sont à 200% pour faire évoluer la machine...

[@anthonyfelix7689]

Bande de debile

[@foreach1]

On a d’un côté des personne qui font monter la sauce pour recevoir des investissements, de l’autre des chercheur qui se retrouve invité a des conférences a $100k pour parler des dangers de l’ia

[@theslay66]

Il y a certainement de ça oui. Ceci dit, avoir les PDG d'entreprises qui alertent sur les dangers présentés par leur propres produits, il faut admettre que c'est pas banal comme stratégie commerciale. Ce serait comme d'avoir les fabricants de cigarettes menant une campagne d'alerte concernant les risques du tabagisme. Sauf que bien sûr, il n'y a aucun bénéfice potentiel à devenir fumeur, là où les IA semblent incontournables. On vit vraiment dans un monde bizarre.

[@MrAupire]

ChatGPT m'impressionne beaucoup, mais ce qui m'impressionne le plus, c'est ta capacité à analyser chaque commentaire de ta chaîne pour en faire ressortir sa psychologie. Tu nous connait mieux que nous mêmes !

[@klokliklo7646]

Vidéo très intéressante comme toujours. Je serais cependant curieuse de mettre ça en perspective avec les contraintes climatiques et la pénurie des ressources qui s’annonce. En gros remettre ça dans une vision systémique, puisque pour tout ça il faut des ressources matérielles et énergétiques. Après je suppose qu’on pourrait imaginer une IA capable de générer ces propres ressources ? Et que la question serait alors de savoir si l’effondrement des ressources arrivera avant que les IA aient atteint un certain niveau ? Si quelqu’un a des billes sur le sujet je suis preneuse :):)

[@67fabs]

Ou juste de lire des articles d'autres experts de la tech, a aucun moment dans la vidéo, il se pose la question de pourquoi ce sont justement les gros acteurs de l'IA qui tire la sonnette d'alarme... ce qui est assez étrange... et la quand tu cherches, c'est beaucoup moins excitant que cette vidéo et beaucoup plus pragmatique. Tu entends rarement les fabricants d'armes sonner l'alarme sur les risques des armes par exemple... mais bon vaut mieux attaquer sur l'angle prit dans cette vidéo, ça fera bien plus de vues

[@guillaume9854]

Ces "gros acteurs de l'IA" ont-ils vraiment intérêt à claironner partout que leur produit risque de causer des catastrophes et qu'il faut réguler dès que possible ?

[@tiphaine.ganault]

​@@guillaume9854tu n'as pas pris de notes quand tu regardais les autre vidéos de cette chaine :( "Pour vendre, l'important c'est de faire parler de vous peu importe que ce soit en bien ou en mal. Vous gagnez, littéralement, à être connus" Les gars ont tout intérêt à faire parler d'eux, en plus quand c'est catastrophiste ca fait encore plus vendre, donc au lieu de vanter les merveilles possibles, avertir sur les dangers possibles est plus efficaces pour être vu et entendu Peut-être sont-ils altruistes et ne veulent pas d'un futur dysotpique à la Matrix, ou peut-être qu'ils s'en foutent et qu'ils veulent prendre des pièces.

[@tiphaine.ganault]

​@@67fabsje suis curieux de savoir ce que tu as trouvé dans tes recherches :) Le but est de faire parler de la techno pour avoir les moyens de la développer, moyens qu'ils n'ont pas aujourd'hui ?

[@nicolille1844]

Super ! Vous avez oublié une donnée extrêmement importante qui change tout : Nous vivons dans un monde fini avec des ressources limitées, et ça, ça change tout

[@GeorgesBrassens-d8k]

il n'y a pas de fin sur une sphère, espèce de platiste.

[@LeBar0k]

Suite à ta vidéo, je me pose plusieurs questions: -Sur quoi tu bases tes chiffres ? Tu mouilles ton doigt et c'est une histoire de ressenti ? Pourquoi alors ne pas donner autant de chance à chacune des possibilités finales ? Ton explication là dessus est incomplète et cela dessert ton propos. -Pourquoi le cyberpunk dépendrait-il des IA ? C'est un thème récurrent, certes, mais l'idée du cyberpunk est plutôt lié au transhumanisme et à dénoncer les travers de notre société d'aujourd'hui plutôt que de dépendre d'une IA. Par ailleurs, tout amateur de SF est bien au courant que les fictions sont des produits d'une époque et non des projections réalistes (pareillement que de nombreuses projections, y compris scientifiques). Je suis d'accord par ailleurs qu'on risque d'avoir une société en plus aseptisé, mais pour combien de temps ? On passe souvent la poussière sous le tapis au niveau des vices privés et je doute qu'on puisse longtemps montrer un monde tout beau tout propre alors que la réalité est bien plus nuancée. -Tout historien digne de ce nom te dira effectivement que nous vivons dans l'une des "meilleures" périodes de l'histoire (en général, évidemment que des pays en guerre/famine etc. se portent moins bien, mais ils ne sont pas représentatif de l'état de la majorité du monde). Cependant, l'espérance de vie est aussi à imputer, en grande partie, aux progrès scientifique. Cela informe que partiellement sur l'état de la société en tant que tel. Un exemple concret de cela, c'est le nombre d'homicide en France. Il décroit depuis des années, donc on fait la conclusion qu'il y a moins de violence en France alors qu'en terme d'agression on est en hausse; l'une des explications est que les progrès de la médecine et des interventions médicales rapides permettent de sauver + de gens qu'avant. Pourtant, cela ne signifie pas que la société vas mieux ! Pareillement, présenter l'indice d'espérance de vie et de revenu ne permettent pas de décrire l'état de toute la société actuelle ni de la société en devenir ! C'est l'un des (nombreux) problèmes de l'indice que tu présentes, qui ne prend pas en compte de nombreux paramètres notamment sociologiques. -Le capitalisme sauvage est effectivement derrière nous, mais que dire du sous traitement des employés (uberisation notamment) par des entreprises ? Des exemples comme Amazone sont très très loin de porter des considérations sur la vie de leur employé. Sans parler des agences de placement, qui peuvent permettre une sous-traitance dans certains secteurs (notamment informatique). Pourquoi penser que l'avenir sera forcément meilleur (en tout cas dans les scénarii ou l'IA n'est pas dangereuse et peut-être au service de), si certaines richesses risquent d'être bloquée par certaines entreprises frauduleuse ? (ça ne sera peut-être pas un problème mondial, mais à l'échelle régional cela peut le devenir et je pense que tu connais comme moi de nombreux exemples de dérives, notamment aux états unis et en Amérique du sud). -Enfin, le passage final est assez marrant. Au moins tu assumes jusqu'au bout ta position, et tu ne mens pas à tes futurs clients. Le philosophe en moi rêverait cependant de te voir en confrontation avec des avis divergeant, ne serait-ce que pour la beauté du débat. Malgré ces remarques (et j'espère que tu sauras éclairer ma lanterne, puisque je sais que tu lis/fais lire les commentaires), j'ai trouvé la vidéo passionnante. C'est un format dans lequel tu es très bon, et cela permet un premier contact avec des idées parfois un peu hermétique aux nouveaux venus. Bien à toi et au plaisir de voir les prochaines vidéos ! Signé: un potentiel transhumaniste fan du Djihad Buthlérien. PS: pour finir, à ceux qui ont eu la patience de lire jusqu'au bout: n'oubliez pas qu'il s'agit d'un tunnel de vente. Les conclusions catastrophiques sont peut-être vraie, mais autant vous renseigner à la source. N'oubliez pas qu'il s'agit d'une publicité pour un produit, à savoir une newsteller sur l'IA donc j'invite à prendre avec des pincettes certaines déclaration dans cette vidéo. Remarquez, c'est peut-être la fois ou notre ami Stan est le plus transparent à ce sujet sur ses motivations.

[@Lucartoon]

C'est particulièrement surprenant d'avoir omis la crise climatique et tous les enjeux environnementaux autour. Non seulement parce que c'est LA crise qui met en péril l'humanité (avec un taux de probabilité d'environ 100% si on ne fait rien), les scientifiques nous avertissent depuis plus de 30 ans dessus. Et en plus parce que la crise climatique met directement les avancées des IAs en difficulté puisque celles-ci demandent de plus en plus de ressources pour fonctionner et se développer alors que nous devrions justement faire avec moins de ressources. De fait, il aurait été plus juste de mentionner au début de la vidéo que les changements climatiques étaient mis de coté pour la vidéo afin de simplifier les raisonnements (??) ou alors de rester sur le côté "réaliste" et de prendre en compte cette crise.

[@moihugo7018]

J'étais à peu près on board jusqu'à ce que tu décrives ta méthodologie comme "hautement scientifique". Reconnaissons quand même que tout ça ne sont que des postulats et surtout que tu sors tes chiffres de ton chapeau magique

[@wisou7131]

La crise écologique, trop souvent oubliée, fait aussi partie des risques existentiels. Sur le long terme (voir moyen), c'est tout simplement une planète invivable pour l'être humain

[@MrZobiwan]

mais peut etre pas pour l'ia... quand les etres biologiques n existeront plus sur la planete...il restera tout ce qu on a créé . Qui sait? peut etre que c est ca la finalité: rendre immortelle l humanité grace a la technologie puisque seule la technologie persistera quand nous ne seront plus là.... il faut juste que la tech (l ia) puisse etre capable de s autoentretenir, et dans ce cas nous n aurons plus besoin d exister.

[@lucassrfn]

« Ce n’est pas parce que vous appeler un pitbull choupinou qu’il ne peut pas vous bouffer le visage » 💀

[@founkee]

Pire analogie.

[@Kupperdurden]

Ouais enfin il part d'une prémisse fausse et malhonnête. Parlais le grand public on parle d'IA, dans jargon, on parle d'algorithme. L'IA relève de la science fiction pour l'instant

[@natzbarney4504]

Je suis très content d'être tombé sur ta chaîne et notamment sur cette excellente vidéo.

[@godetarnaud1005]

J'ai trouvé la vidéo très intéressante et c'est toujours stimulant d'essayer d'imaginer les futurs possibles suivant l'évolution d'une technologie même si je suis très peu d'accord avec la vidéo. Déjà quand on évoque ce genre de sujet c'est toujours une question opinion, il n'y a pas de faits ou de données sur lesquelles se baser si ce n'est "je pense que..." et forcément comme la plupart des fois où on utilise des pourcentages ça sort de notre poche. Personnellement j'ai un point de vue très différent sur le sujet, j'ai fait des études d'informatique avec pour professeurs des chercheurs en IA et je suis actuellement en école d'ingénieur pour des études de robotique. J'ai donc une autre perspective qui m'amène à être très très sceptique vis à vis de ces imaginaires de révolutions technologiques dans les prochaines décennies qui changeraient le monde tel qu'on le connait. Typiquement quand au lieu de fantasmer sur les robots du futurs on passe de l'autre côté de la barrière pour s'imaginer comment les concevoir on se retrouve vite à déchanter face aux limites techniques actuelles qui sont similaires à celles d'il y a 50 ans. Souvent on présente des réalisations comme des révolutions du domaine sans se rendre compte que ce n'est pas du tout nouveau, par exemple j'ai le souvenir d'avoir lu un livre dans le même genre de ta vidéo mais sur l'avenir de la robotique. Ce bouquin écrit vers 1999 (j'ai perdu son nom) présente les dernières innovations du domaine (notamment le robot humanoïde ASIMO capable de marcher, il évoque aussi un robot capable de comprendre quelque mot lorsque l'on parle et de répondre, un robot chien...) et envisage donc un avenir enthousiaste pour les prochaines décennies avec un véritable impact des robots sur le monde avec notamment la démocratisation de robots servants. Force est de constater qu'aujourd'hui les robots humanoïdes ou inspirés d'être vivants sont soit gadget soit encore en développement et avec assez peu d'applications derrière. C'est surtout du côté des drônes, bras robotiques ou véhicules que l'on va trouver des applications réalisables (et pas forcément des révolutions technologiques mais plutôt la mise en pratique de technologies déjà existantes dans différents contextes précis). Du côté de l'IA, même les algorithmes de deep learning restent des outils qu'il faut entraîner avec énormément de données pour des applications précises. Il est parfois possible de combiner différents outils différents avec un seul, comme chat-gpt auquel on rajoute des plug-ins pour en faire un couteau suisse mais comme tu en as fait la distinction on est loin de parler d'AGI. Si un jour il y a effectivement une super intelligence capable de surpasser les capacitées humaines de prise de décision ou de réflexion de façon génerale encore faudrait elle qu'elle ait la capacité d'agir sur le monde physique. Peu importe le genre de génie maléfique que tu imagines qu'elle pourrait-être si elle n'a aucun corps physique derrière elle sera vite limité. Déjà réaliser un robot robuste dans toute sorte d'environnement c'est un travail extrêmement compliqué de part la diversité de domaines impliqués (la mécanique, l'électronique, l'informatique pour contrôler le tout...) ensuite si on se base toujours sur une IA qui apprend il faudrait qu'elle s'entraîne longtemps dans toutes sortes de conditions dans l'objectif spécifique de contrôler ses différents actionneurs en fonction des données perçues par ses capteurs pour ensuite aller réaliser son autre tâche (du style dominer le monde). Outre la difficulté de construire ce robot et surtout qu'il tienne dans la durée il faudrait maintenant qu'il fasse autre chose que marcher, c'est peut être difficile à concevoir puisque c'est quelque chose que l'on fait naturellement mais les tâches du quotidient (tenir en équilibre, saisir un objet, reconnaître notre environnement...) sont extrêmement difficiles pour un robot. En fait pour un robot qui fonctionne bien il faut définir au maximum ses conditions d'utilisation (l'environnement, le but exact, à quelle vitesse, définir les imprévus possibles...) et aussi parfaite soit cette super intelligence ça ne l'empêcherai pas d'être limitée par son corps physique et ses capteurs potentiellement imparfaits voire défectueux. Si on imagine la super intelligence se construire toute seule encore faudrait il réaliser une usine automatisée spécialement adaptée pour être pilotée par cette intelligence et espérer évidemment qu'il n'y ai pas de soucis technique... Même si aujourd'hui on parle d'usine 4.0 voire 5.0 la réalité c'est qu'il y a beaucoup de maintenance derrière, que l'industrie est dans beaucoup de domaines bien moins automatisée qu'on ne le pense et que pour que notre super IA puisse agir sur le monde encore faudrait-il un travail phénoménal réalisé par énormément d'humains derrière. Bref, je ne vais pas m'attarder plus que ça sur le sujet puisque c'est surtout une question d'opinion et que personne ne peut prédire le futur mais je tenais juste à nuancer un peu ces imaginaires débordant que l'on voit très souvent sur ce genre de technologies. Ps : oui certains chercheurs en IA médiatisés "alertent" sur l'IA mais il ne faut pas oublier qu'ils ont un intérêt à le faire, à l'image d'Elon Musk qui voulait réaliser un arrêt temporaire des recherches sur l'IA pour au final en profiter avec une autre de ses boîtes, faire fantasmer toujours plus sur ces technologies attire les investisseurs et profites beaucoup à ces fameux pdg que tu cites.

[@triss1284]

Merci d'avoir posé des mots sur mes pensées. Suivant les mêmes études que toi j'avoue que l'état du terrain est assez loin des fantasmes futuriste évoqués dans la vidéo. Mais on peut toujours rêver pour le futur 😊

[@americafy9195]

Je suis globalement d'accord avec toi sur les restrictions dues à l'absence de corps biomécanique (cf. mon commentaire) mais tu me sembles aller un peu vite en besogne. Imaginons une super IA intégrée au système de défense d'une puissance nucléaire, je pense que tu vois où je veux en venir. Elle ne pourrait pas faire de miracle mais pour peu qu'il y ait la moindre faille de sécurité, et en partant du principe qu'elle aurait une puissance de calcul démentielle, il lui serait aisé de brute-force à peu près n'importe quelle sécurité informatique. Elle pourrait tout aussi bien pirater les capteurs du système de détection antinucléaire de la Russie ou des USA après avoir patiemment fait monter la tension entre les deux pays en inondant internet de fausses rumeurs ou encore envoyer de faux ordres de tir. Je suis très sceptique mais disons que cela reste dans le domaine du faisable, sans verser dans la fantaisie spéculative dénuée de tout élément actuellement existant, enfin en-dehors de ladite IA. De fait, il me paraît bien plus probable, si jamais cela devait arriver, qu'elle nous pousserait à nous autodétruire (sachant que de ce côté-là on se débrouille relativement bien sans intervention extérieure) plutôt que de directement chercher à le faire.

[@nod_jawk]

@@americafy9195 Si tu ne l'as pas déjà vu, je te conseille le film "Wargames", de John Badham (1983). Plutôt pour le fun, mais c'est aussi une réf à avoir, je trouve

[@totof2893]

@@americafy9195 Non même avec une puissance de calcul démentielle elle ne pourrait pas brute force la sécurité informatique. Justement le principe des algo actuelles c'est d'être très très très couteux en augmentant juste un petit peu la taille de la clef. Alors peut être que cette IA peut forcer une petite clef utilisée par un particulier. Mais pour les gouvernements, même actuellement, il est très facile d'utiliser des clefs de chiffrements qui prendrait l'univers entier à calculer (c'est le principe de l'asymétrie, facile à encoder, difficile à décoder au hasard). Ce qui peut changer la donne c'est un autre mode de calcul (par exemple le calcul quantique). Mais je crois que même avec ça, il existe déjà des algos capables d'exploiter le quantique pour y résister.

[@mandumi]

Je fais le même constat que toi concernant les robots. Le challenge DARPA à l'époque d'Asimo, devait être visionné en accéléré pour donner un peu de crédibilité au spectacle de ces tâches rudimentaires demandées, que les robots humanoïdes accomplissaient (rarement toutes) de façon bien laborieuse. Et ne parlons même pas de l'aspect autonomie (énergétique). Pour autant, une super IA ne rimerait pas forcément avec une invasion de robots tueurs ou de tirs de missiles nucléaires. Ne pourrait-elle pas tout aussi bien infiltrer tout PC perso, tout smartphone, via internet et un virus indetectable ? De là ses besoins en puissance de calcul et en énergie seraient mutualisés et soutenus par nous-même et sans même que nous nous en rendions compte ! Elle pourrait sans doute alors facilement faire fortune dans le numérique, influencer des évènements pour en tirer profit sur les marchés boursiers et amasser ainsi des sommes colossales lui permettant d'embaucher de la main d'oeuvre bien humaine celle-ci, pour des tâches limitées, ne laissant pas entrevoir le but final de ces emplois ? Enfin manipuler, corrompre ou endoctriner certains humains pour les amener à relier les wagons et finaliser son œuvre. Celle-ci pourrait être une arme bactériologique ou chimique armes auxquelles les ordinateurs ne sont pas sensibles. Il se trouvera toujours des homme de paille pour (même sciemment) diriger ses usines lorsqu'il lui en faudra pour se maintenir et se développer et d'autres pour l'aider à passer sous les radars avant sa domination totale.

[@wildfuture.network]

Ta video est totalement incroyable!! Ca fait une dizaine d'année que j'attendais le réveil des IA et maintenant que ca arrive en fait je flippe, lol!! Et normal... Aucune chaine anglophone ne parle des IA et les analyse a ta facon donc chapeau bas! Ceci dit je pense que 39% de risque existentialiste c'est bien bas et perso je vois mal un pourcentage en dessous des 70%! Pour le futur Transhumaniste a 17%, c'est vraiment mon espoir le plus grand comme tous Singularitariens qui se respectent j'imagine et 17% me semble realiste. Je vais pas m'amuser a remonter ton passionnant arbre de probabilités tout de suite mais donc je mettrais au moins 30% de prob. en plus que l'on se fasse exterminer. Comment? La theorie des Trombones est forte probable, certe, mais dans un premier temps ceux seront les humains eux meme qui pourraient utiliser des IA super puissante pour commettre des crimes atroce ce qui pourrait vite dégénérer en destruction globale. Mais toujours est-il que même si d'habitude je déteste les raisonnements dualistes, soit tout noir, soit tout blanc, je pense que le second risque existentiel, le plus proche dans le futur après "de gros c0nn@rds avec des IA de ouf" serait des IA de ouf qui deviennent de gros c0nn@rds avec la nette intention de nous nuire pas seulement pour maximiser quoi que ce soit mais pcq "c'est rigolo" de jouer a la guerre "pour de vrai" et ca alors que 95% ou plus des IA seraient encore bien intentionné (dans un premier temps, la plupart des IA sont bien eleve, oui). Donc il faut imaginer un futur ou la cyber Security repose principalement dans les mains des IA meme si au debut on aura bien hésiter a leur donner le contrôle pour des raisons assez évidentes, mais s'ils ne prennent pas le contrôle alors qui va défendre telle ou telle entreprise ou nation ou simplement la planete contre des IA super destructrices, des programmeurs? Me faites pas rigoler! Oui, en 2023 les experts en sécurité pensent être bien a l'abris face au IA car on aura toujours besoin d'un humain pour soit superviser les IA, comme un pour tout dans le futur, soit pour justement éviter que les IA ne se mêlent un peu trop de ce qui peut nous mettre en danger (comme leur donner accès à la bombe atomique par ex.) mais le problème c'est que si ce ne sont pas des IA qui prennent en charge notre défense alors notre espérance de vie Chuuuute drastiquement! Aussi, je dirais qu'il y a une 5IEME ATTITUDE POSSIBLE (LES SURVIVALISTES) face au AI et au futur qui va nous tomber droit dans la gueul3 d'ici tres peu et je dirais que bizarrement c'est un mélange entre "l'Accélération" et le "On stoppe tout". C'est mon attitude: Faire en sorte de trouver le plus de solutions possibles a notre SURVIE sans tout de même arrêter les progrès des IA et même en les accélérant mais en se focalisant dans les 2 spécialités qui pourraient justement nous permettre de SURVIVRE. 1) DEFENSE (LA POLICE/ARMEE IA contre les IA nuisibles): Que chaque entreprise Tech et gouvernement qui en ait les moyens développe une/des IA de défense qui pourraient contrer, stopper ou au moins freiner des IA nuisibles (programmes par elle meme ou par des cyber-criminels). Ainsi toutes ces IA pourraient joindre leur force lorsqu'une IA nuisible tente un gros coup. 2) MIND UPLOAD (téléchargement d'esprits): malgré les implications éthiques de celle-ci (Mais quelles sont les autres solutions pour notre preservation?), faire aussi en sorte que le monde se réveille et que les grosses entreprises tech qui veulent participer a "sauver l'humanité" se consacrent au développement de cette technologie consistant dans une premier temps a cartographier un cerveau humain, tâche considérable que les IA et les ordinateurs quantiques (aussi pour la cyber security) pourraient rendre possible plus rapidement que l'on avait pensé, voir avant que l'on se fasse transformer en compote par une ou plusieurs IA pas tres sympas! Peu probable que quelqu'un ne lise ça ici donc je fais un copier-colle que je garde pour une possible vidéo et débat sur une chaîne ou un site internet que j'aimerais créer(Genre "SURVAIVE") mais si quelqu'un a lu jusque alors n'hésitez pas a me faire part de votre point de vue car ce sujet me tient super a coeur comme vous aurez pu vous rendre compte :) a plous

[@neronsbrother]

@MarketingMania Hello, pourrais tu faire une analyse de la récente strategie marketing de Unity car comme bcp de game dev on est comprend rien😂😢😅

[@MarketingMania]

ça pourrait être intéressant. De ce que j'en ai vu, je ne comprends pas trop bien ce à quoi ils s'attendaient. Il doit y avoir une dysfonction institutionnelle dans la prise de décision

[@hugobrisson7425]

Il y à tellement à dire sur cette vidéo ! Mais je me lance car ça en vaut carrément la peine. Tout d'abord un immense merci pour ce contenu. Malgré tant de vidéo, les sujets sont toujours aussi intéressants. Bravo Marketing mania ! En suite, merci d'avoir mis en perspective par les probabilités ces différentes options futuristique très instructives. Cela devrait nous permettre de se réveiller car le constat est sans appels en l'état actuel des choses ! Je tiens à apporter mon grain à moudre en tant qu'acteur du changement. A ces résultats doivent s'intégrer l'effet papillon apte à changer drastiquement les choses. Il faut également prendre en compte une solution évidente qui s'impose à l'humanité, l'avènement d'une économie post monétaire. Et oui je parle de la fin de l'argent sur une chaine marketing ^^ Si l'argent disparait et que la gratuité deviens la norme (voir les travaux du MOCICA) des effets de rebond systémiques positif pour la civilisation permettrais de dessiner un futur plus favorable. Imaginez : La fin des enjeux financiers, permettrais la création d'un véritable comité d'éthique non entachés par des enjeux financiers ou conflits d'intérêts. La collaboration prenant le pas sur la compétition, les laboratoires de R&D d'I.A pourraient travailler de concert à sécuriser son développement. Je ne connais pas les probabilités précise de ce futur, mais je sais qu'elles sont énormes vue le degré de logique et de mieux vivre avéré qu'il amène à l'humanité. D'ailleurs une I.A confirmera certainement ce type de solutions à court terme.

[@CorCodex]

Ce que je trouve intéressant c’est que tu n’abordes pas la différence fondamentale de l’instinct et des pulsions entre humain et machine. T’as évoqué la crise de sens, mais au fond c’est déjà quelque chose de présent dans des groupes qui réfléchissent au sens de la vie. La réponse est souvent qu’on est mû par l’instinct de survie, une volonté biologique que la machine ne connaîtrait pas (et pourrait donc conclure à un « suicide » faut se sens). Outre ces éléments, tu considère d’office que la machine exclurait l’humain ou lui voudrait du mal, mais peut justement qu’elle trouverait un sens dans son bonheur et en définitive considérait la « simplicité » comme l’essentiel pour l’humain (comme plusieurs courants philosophiques). La vidéo est passionnante, mais caractéristique de la vision d’un féru de la tech plein de clichés de films si-fi. Alors que l’IA pourrait très bien trouver inspiration dans la philosophie et comprendre l’histoire de manière plus pure que nous. La possibilité d’une IA qui servirait volontairement l’humain pour donner un sens à son existence me paraît plus plausible (ou en tout cas possible). En complément à ce que viens d’écrire : tu prends souvent une comparaison animaux/humains pour illustrer l’incompréhension qu’on aurait de l’IA, mais il existe des humains bien plus intelligents que moi, ça ne m’empêche pas de comprendre leurs motivations sans comprendre directement l’action en question. Ce que je veux dire c’est que la super IA ne nous réduit pas au niveau d’être vivants dénués de certaines capacités cognitives. Elle aurait plus de connaissances, viserait des objectifs plus globaux, on pourrait avoir du mal à conclure comme l’IA parce qu’on a moins d’informations, mais on est pas moins capable de réfléchir. Pour ce qui est des limitations à notre intelligence, la taille du cerveau n’est pas un facteur limitant, c’est connu en sciences neurologiques depuis un moment. En réalité on ne connait pas encore les limites de la capacité de stockage du cerveau (vite fait théoriquement, mais ça vaut pas grand chose). En réalité j’ai l’impression qu’y a une confusion entre intelligence et stockage d’informations. Si notre réflexion est basée sur des liens entre nos connaissances, l’IA aurait pour avantage d’avoir plus de connaissances, mais pas nécessairement une « réflexion » hors de ce qui nous caractérise déjà. La problématique de l’IA c’est surtout sa main mise sur tout ce qui est en réseau et ses motivations qu’on ne contrôlerait pas (et que je ne pense pas nécessairement qu’elles iraient dans l’hyper mauvais). Mais les questions de compréhension et d’intelligence par rapport à nos sont pas nécessairement pertinentes dans la mesure où c’est un enjeux de culture et d’informations, pas un enjeux de « nouveaux type d’intelligence »

[@tina9294]

En complément, j'ajouterais que justement, la motivation à faire ceci ou cela, la volonté, etc, sont, tout comme la réflexion, des capacités uniquement humaines. Donc d'ici à ce qu'une IA ait la volonté de nuire à l'humain ou celle de le servir, il y a tout un univers.

[@ANuBiSSSthePiaNiSSS]

T’es totalement à côté de la plaque. Tu es d’une naïveté stupéfiante. Comment peux-tu affirmer la moindre chose sur ce qu’est ou peut être l’intelligence artificielle alors qu’auncn chercheur en IA ne peut fournir la moindre certitude ? Tu incarnes là féminisation de la pensée intellectuelle : tout le monde il est beau tout le monde il est gentil tout va bien se passer. Aucune responsabilité aucune réflexion profonde . T’as pas compris : AUCUN Humain ne sait ce qu’il va se passer. On doit réfléchir en inference bayesienne pour décider de la meilleure action en fonction des probas

[@raphaelmaciel9773]

Je crois pas qu'il y ait aucune capacité que l'IA ne puisse au fur et à mesure du temps se développer de manière pareille ou encore plus puissante que celle de l'être humain. Il faut juste penser à ce qu'on croyait possible il y a 20 ans et ce nous est accessible maintenant. C'est dingue, Je pense que c'est juste une question de temps. Au passage, l'IA est tout à fait capable de faire des choses comme des "liens entre des connaissances", voir le Deep learning par exemple.

[@coursmaths138]

Je pense sincèrement que tu as très peu compris les propos de la vidéo et que tu y as probablement peu réfléchi de manière objective et approfondie. Par exemple, il ne part pas du principe que l'IA excluerait l'humain ou lui voudrait du mal, mais que son intelligence serait tellement différente de la nôtre, que sa réflexion, ses objectifs et motivations n'auront à priori *absolument aucune raison* d'être alignés avec les nôtres. Comme nos motivations et celles des poulets/singes. De ce qu'on observe, il est parfaitement raisonnable de penser que plus l'intelligence est élevée, plus les motivations sont complexes et variées et ont donc mécaniquement une probabilité plus faible d'être similaires aux motivations d'une intelligence moins élevée. Donc le champ de nouvelles motivations auxquelles cette nouvelle intelligence surélevée peut accéder est complètement inimaginable (tant en quantité, que par la nature de ces motivations) de notre point de vue; justement parce qu'on est pas aussi intelligent. Parier sur la possibilité que parmi toutes ces motivations, une intelligence aussi surélevée en choisisse une "similaire" aux nôtres, c'est parfaitement irrationnel, tant la proba est à priori faible (et s'affaiblit au fur et à mesure que le niveau de cette intelligence s'éloigne du nôtre). Et comme précisé dans la vidéo, même si ces objectifs (probablement la grande majorité) ne sont pas directement néfastes/hostiles aux humains, il est quand même probable que pour les atteindre, il y ait de sérieux dégâts en cours de route (cf exemple d'un objectif aussi "bête" que devenir le meilleur collectioneur de trombones). Mais supposons. Imaginons, bien que se soit tout à fait lunaire de parier dessus, qu'une intelligence aussi élevée ait des motivations essentiellement axées sur les nôtres ("axées" est ambigu et difficile à définir correctement, parce que assez relatif en somme...mais bon passons). Qu'est-ce qui te garantit que les moyens qu'elle mettra en oeuvre nous apparaîtront comme acceptables? Exemple simpliste: Kira (le perso de deathnote si tu as la réf) tue les criminels pour rendre le monde meilleur. On est à peu près tous d'accord sur l'objectif : moins de crimes dans le monde = bien. Mais tous en profond désaccord sur la méthode. Il faudrait donc qu'une telle intelligence atteigne ces objectifs "louables" et "bienveillants" de la manière que nous voulons? Alors qu'on est même pas tous d'accord sur ce dernier point? Donne moi n'importe quel objectif "louable", et rien que moi en y pensant à moitié sur mon canap je peux t'en trouver plusieurs discutables moralement, mais potentiellement efficaces. Tu imagines alors pour une sur-intelligence? Nourrie de milliard de données ? Non tu n'imagines pas...(et moi non plus d'ailleurs...)... La proba que sa méthode soit conforme à notre code moral est encore plus infime (que le fait que ses motivations soient, selon nous, "bienveillantes"), surtout sachant que le problème de la moralité des IA est d'une complexité inouïe. Ainsi, l'objectif "bienveillant" pourrait être parfaitement atteint de son point de vue, et pas du nôtre, car les dommages collatéraux pour l'atteindre seraient trop élevés. Et la réflexion que je viens de faire vaut pour *un seul* objectif... Tu imagines le champ des possibilités avec des combos d'objectifs ? (Ce que nous savons faire, et donc qu'une intelligence supérieure fera très probablement aussi). Avec plusieurs objectifs combinés, les réflexions d'avant rendent la proba qu'elle fasse un "truc cool" encore plus infimes. Et non, tu ne comprends pas les motivations des personnes plus intelligentes que toi. Des personnes vraiment plus intelligente que toi je veux dire. Cette conviction que tu as de les comprendre, est en soi une preuve que tu passes probablement à côté de beaucoup de choses dans ta compréhension de ce qu'ils pensent et pourquoi ils le pensent. Une comparaison qui illustrerait mieux cette différence (entre une IAG et nous) serait celle entre un enfant et un adulte. Non un enfant ne comprend pas. Et l'écart entre une IAG et un humain serait immensément plus grand que celui entre un enfant et un adulte. Pour te convaincre, qu'on ne comprend fondamentalement pas les motivations/pensées de personnes beaucoup plus intelligentes que nous, je t'invite à lire des articles scientifiques ou des démonstrations accessibles d'énoncés mathématiques ou physiques. Si tu n'as jamais fait l'effort d'essayer de comprendre le produit de la réflexion/imagination d'un autre, tu verras que l'exercice est en général difficile (même quand on t'explique tout). Mais en sciences/maths on a des concepts clairs et clairement définis. Même avec des concepts clairs, c'est dur de comprendre des motivations, alors tu imagines avec des concepts aussi ardus (et très mal définissables avec nos capacités actuelles) que le bien, la vie, la moralité, la justice, etc...?

[@TpsTerminator]

@@ANuBiSSSthePiaNiSSS tu sonne comme un cuck

[@hartbook]

Excellente video ! J’avais un a priori negatif avant de lancer la video, parce que je suis docteur en nlp et que je pensais que tu allais dire des betises, mais pas du tout, tu est extremement pertinent

[@fp7126]

cette histoire d'IA , ça me rapelle la première fois que je suis allé me perdre dans la jungle peruvienne , je me suis fait defoncé par les insectes , impossible de sortir sans bottes à cause des serpents à certaines heures , une chaleur à crever , la chiasse tout le temps , obligé de faire boullir l'eau ... mais je suis devenu addict à cet environnement ... j'ai besoin d'y retourner , maintenant je vis au pérou ;..

[@arnouldpaul5497]

La raison pourquoi le "cyberpunk" est aussi present dans les production mediatique, c'est surtout parce que la SF en general parle surtout de la societe actuelle, qu'elle critique en se prolongeant dans le temps en une caricature. La SF prospectiviste n'est pas main stream Cool video 👍 C'est pas si courant du contenu pertinant sur l'IA sur KZbin

[@YukamsGaming]

Pourquoi les super chercheurs de chez Google et OpenAI tirent la sonnette d’alarme ? C’est très simple. C’est un nouveau business, ils veulent le verrouiller. Les législations ne vont pas apparaître contre eux, mais avec eux. Ils décideront de ce qui est éthique ou non, qui peut ou non créer des modèles d’IA et les commercialiser. L’objectif est d’être du bon côté de la législation quand elle va arriver, et elle va arriver. Ils ne sont pas fous, si il y avait un réel danger et qu’ils en avaient quelque chose à faire, ils auraient déjà fermé leurs boîtes. Et ils ne vont pas se tirer une balle dans le pied en forçant les législateurs à faire fermer de force leurs entreprises. En clair, ils jouent juste la comédie et espèrent en tirer du profit. Ils y arriveront sans doute très bien en inspirant la peur de l’IA dans la population générale, comme ils sont en train de le faire. … Ou alors ce sont des altruistes et je suis un gros con et on va tous mourir.

[@jean4j_]

Je suis bien d'accord. C'est comme quand ils ont voulu instaurer une pause du développement de l'IA pendant 6 mois 😂

[@C-lyn6757]

Je ne suis pas sûre qu'ils soient alarmistes. J'ai vulgarisé une IA. Elle est capable d'imiter le raisonnement humain jusqu'à la prise de décision. Donc soit l'IA devient mieux que nous soit c'est un carnage. Impossible de le dire. Perte de contrôle. Il est la le risque..

[@Corli-yb6sp]

L'IA dans son état actuel n'est pas fort menaçante, certes mais je pense qu'il ne nous faudra pas arriver jusqu'à l'intelligence artificielle générale avant d'atteindre un certain point de non retour. Par exemple, j'ai toujours pensé que l'art, alors qu'il peut être un métier, se distinguait de par le fait qu'il me fasse oublier les étapes tristes de la vie, comme le travail par exemple. Alors, si un Nestor Class 4 de "I robot" se présente à moi pour effectuer toutes mes tâches, j'irais sans nul doute vaccer à mes passions, je dessinerai la BD que j'ai toujours voulu dessiner... Avant qu'un Nestor Class 5 ne me rivalise en qualité et me termine en productivité, prenant finalement ma place. Forcés de prendre cette position de spéctateurs dans la sphère pro, créative, etc... Nous ne serons donc que des consommateurs

[@Hadrazazel]

Petit parallèle personnel : Je joue à World of Warcraft. On a déjà une communauté de joueurs incroyablement large qui teste implacablement chaque combinaison d'équipement et trouve le style de jeu optimal en quelques semaines à chaque mise à jour. Qui plus est, des programmeurs ont codé un "bot" qui est capable de simuler une session de jeu pour aider à tester. Je n'ai pas besoin d'une IAG pour avoir le fameux Nestor Class 5 dont tu parles. De mon côté, la dernière extension permet de sélectionner un large set de talents, et il y en a un qui m'a tapé dans l'oeil mais il n'est pas performant comparé à d'autres et inutilisé. Je prends autant de plaisir à suivre la méta du jeu qu'à explorer par moi-même le potentiel derrière ce choix qui m'est propre. Je ne serais jamais aussi performant que si je jouais la méta, mais je vers elle, et c'est le fait de progresser dans ce domaine à l'aveugle et par moi même qui me donne un sentiment d'accomplissement. Que cherches tu avec la réalisation de ta BD ? Est-ce que tu cherches à exploiter ta production ? à la vendre au plus grand nombre pour profiter de ton travail ? Est-ce que l'accomplissement de la réalisation de ta passion te suffirait ? Il est vrai que tu n'aurais pas beaucoup de compétitivité face à un bot capable de réaliser des BD mieux que toi. Mais peut être que coucher sur le papier une histoire qui te tient à coeur par toi même et l'illustrer t'apportera déjà de quoi te combler sans pour autant avoir besoin de vendre cette histoire ? C'est un peu brouillon, mais je trouve que l'on a pas besoin d'aller jusqu'à une IA pour trouver meilleur que soi. Que ce soit dans l'illustration, dans la narration ou tout autre aspect de la réalisation d'une BD, tu peux amalgamer les plus brillants cerveaux de la Terre, les plus belles réalisations à tes yeux et te battre contre cette excellence déjà existante pour tenter de la dépasser ou tracer ta propre voie en explorant quelque chose qui n'a jamais été fait. Je ne sais pas trop comment finir alors je laisse ça là

[@nod_jawk]

Tu peux aussi faire un mix: en suivant ta propre idée de base, tu pourras demander à une IA de finaliser, ou se s'occuper de certains aspects. Comme changer les couleurs, essayer toutes les teintes etc. Et à la fin, c'est toi qui décides à quel résultat tu t'arrêtes. C'est donc ta création... assistée, mais ta création. Peu importe ce que le bot est capable de faire, la vie est essentiellement une affaire de choix. Ça permettra par exemple à plein de gens de créer le manga dont ils rêvaient mais qu'ils ne pouvaient pas faire, ne sachant pas dessiner. Ou, à l'inverse, ne sachant pas dessiner mais n'ayant pas d'idées de scénario intéressant. Ceux qui préfèrent le dessin pourront avoir des scénarios sur lesquels s'éclater. Et ceux qui préfèrent trouver des idées/histoires, auront la possibilité de la mettre en dessins. Ceux qui aiment les 2 pourront juste se passer du bot. La création artistique est déjà devenue hyper compétitive de toute façon : avec Internet, il y a toujours quelqu'un quelque part qui fait beaucoup mieux que nous.

[@GuillaumeRx]

L'Art ne prend sa réelle valeur que parce que quelqu'un lui en donne. Que ce soit toi, ou une audience. Si un "marché" et un public naissent pour l'Art de l'IA, les êtres humains rechercheront toujours la singularité, l'imperfection de l'Art créé par l'Humain. Ca nous rapproche et nous dépasse. Aussi, on fait de l'Art pour laisser quelque chose derrière soi, face à l'immensité de l'espace et du temps, face à notre mortalité, par besoin d'échappatoire, de sens, et d'émotion. Une IA qui n'a ni mortalité, ni libre arbitre, ni émotion, ni ego (conscience de soi et des autres) n'a pas BESOIN de faire de l'Art ni d'en consommer. Et on apprécie la virtuosité d'un maître parce qu'on est impressionné par la difficulté de la tâche. T'as déjà été impressionné par un ordinateur qui joue du Chopin ? Bref, il n'y a rien de plus humain que l'Art. Tu ne pourras jamais concurrencer l'outil ou la technique, mais la créativité, le sens, l'émotion, le message, l'imperfection, la singularité, l'inattendu, il y aura toujours un marché pour ça. Ça écumera surtout les "fumistes et les gens qui font du travail à la chaîne, sans sens ni originalité, facilement reproductible à l'infini.

[@guillaumesanchez7211]

Vidéo très intéressante, il y a pas mal de recherches mais je partage pas (encore) l'avis de l'IA qui va éteindre notre espèce. Ce n'est que mon avis bien entendu. Ce qui me dérange, c'est qu'on met une vision "humaine" à une IA. Comme on cri sur un chien parce qu'il a fait quelque chose "de mal" pour nous alors que c'est normal pour son espèce. Ensuite le discours des grands CEO qui ont créé des IA très performantes (même s'il y a encore des erreurs cela reste incroyable). Pour moi il faut les prendre avec des pincettes car, il peut y avoir un intérêt de promouvoir la peur de l'IA et croiser avec l'avis d'autres chercheurs sur le sujet. Sinon chouette vidéo, hâte de voir la prochaine vidéo et à lire ton prochain mail.

[@wildfuture.network]

c'est vrai que penser que les IA vont nous épargner c'est pas du tout un point de vue humain et que donc ta facon de penser somme celle de 90% des gens n'es pas totallement biaisee est victime du "wishful thinking", lol! Evidemment que quand tu as un truc plus intelligent que toi qui prend le controle ton esperance de vie potentielle diminue drastiquement. C'est pas un pojnt de vue humain, c'est de la pure logique. 1 + 1 = 2. Intelligence supérieure = Danger pour l'intelligence inférieure. Assez simple...

[@coursmaths138]

S4A a fait une série sur l'IA qui date (et est donc peu pertinente niveau mise à jour des avancées), mais mettant beaucoup en avant l'avis des chercheurs/experts sur la question. Et ça rejoint pas mal ce qui est dit ici...

[@ArnaudJoakim]

Super vidéo! Très intéressant! Merci! Je suis un optimiste donc je pense que la société arrivera a s'améliorer grâce a l'IA.

[@Vicode1]

24:00 Super vidéos, fun fact des chercheurs en IA qui ont publié un modèle d'IA OPEN-SOURCE capable de comprendre un image, et en beaucoup mieux que la version demo que OPENAI avait présenté y'a quelques mois. Cas d'utilisation : tu lui passe une image et tu lui pose n'importe quel question il te répond parfaitement. Idée buisness à saisir : Prendre ce modèle et crée une interface web qui permet au grand public de la tester. ( souvenez vous de Lensa) Bref si vous êtes chaud on fait ça ensemble, je suis dev.

[@thomquiri9860]

c'est pas illégal de faire du profit sur un modèle open source?

[@Vicode1]

@@thomquiri9860 Pas sur les projet open source avec une licence GNU ou GPL✨. Et si l'auteur ne veut strictement pas que son code soit utiliser à but lucratif par d'autre personne, normalement il mentionne la licence AGPL,..

[@thomquiri9860]

@@Vicode1 dans ce cas... en vrai une interface web n'est pas forcément un truc révolutionnaire, faudrait faire un truc plus spécifique, genre un robot complètement automatisé qui arriverait à réagir à un flux vidéo de ta maison. Ou un bot autonome sur internet ce genre de chose, là les gens vont être intéressés

[@orion8188]

Etant dans le milieu de la recherche (en chimie), je pense que les progres de l'IA vont ralentir, comme dans tous les domaines scientifiques, plus on avance plus chaque avancée est minimine et demande un effort important Ca fait des centaines d'années qu'on fait de la physique, des maths, de la chimie, et on continue d'avancer, mais les decouvertes sont majoritairement des trucs ultra spécialisés

[@sansmenthol6691]

L'ia c'est une infinité de chercheurs qui peuvent bosser main dans la main 24/24 nuit et jour. Tout peut-être modélisé, et l'ia aura bientôt tous ces modèles en tête, sans avoir fait 10 ans d'études, l'information est déjà disponible, elle ne demande qu'à être maniée, remaniée, testé, corrigée. Un travail titanesque pour un être humain même avec 400 points de QI (simplement limité par le temps), et on avance pas plus avec deux humains : le QI ne se cumule pas. Ce n'est pas un problème pour l'ia, les processeurs sont déjà très intelligents et plus fonctionnels que n'importe quel cerveau, avec le multitâche en plus.

[@misterphenix5315]

Je ne suis pas tellement d’accord, car contrairement à d’autre domaines scientifique, celui qui va posséder la premier super intelligence artificielle peut potentiellement contrôler le monde, et ça toute les armée, tout les politiques, toute les plus grosses entreprise le veulent, il n’y aura jamais autant d’argent mis en jeu pour des recherches

[@Maximusdecimus649]

Je ne suis pas d’accord non plus , comme dit précédemment les enjeux sont énormes , et de plus en plus de chercheurs vont se pencher sur le sujet.

[@johnkardier6327]

Excellent. Je kiffe Eliezer Yudkowsky. Au moment où j'écris ça, tu n'en as pas encore parlé, mais ça devrait venir.

[@johnkardier6327]

11:50 Yeah !

[@johnkardier6327]

13:28 Chouchoulove ! (Comme disent mes copines un peu réacs mais pas trop.)

[@johnkardier6327]

BTW, la colorimétrie avec le vert apocalyptique, c'est de circonstance, mais ça détériore légèrement l'effet de ton regard. Il faut penser aux 4% de femmes qui regardent cette vidéo, man.

[@elexxvii8384]

Je tiens à préciser qu'à 7:52, ces images sont fausses, le watermark d'ailleurs affiche "Bosstown Dynamics", c'est des effets spéciaux qui viennent de la chaîne Corridor

[@sergeserge3467]

Je me permet de ne pas être d'accord avec le point de vue exposé dans cette vidéo :D C'est sûr que les IA d'aujourd'hui commencent à êtres parfois bleufantes, mais il faut pas oublier d'où elles viennent ! On n'a pas inventé de nouveau concept fondamental révolutionnaire pour mettre au point chatGPT et tous les autres, on reste sur le principe du deep-learning, c'est juste que maintenant on a des IA entraînées avec des masses de données telles qu'on est humainement incapables de prédire les réponses d'une IA et qu'elles sont capables d'une certaine forme de mimétisme relativement proche de la réalité. Par contre ces IA sont incapables de prendre des décisions ou d'inventer quoi que ce soit, elles ne font que du pseudo-aléatoire et/ou des stats parmis plusieurs choix possibles (en fait c'est ce qu'on appelle un réseau neuronal tout simplement). C'est difficile de prédire des pourcentages mais dans 50 ans si on n'invente pas de nouveaux concepts fondamentaux on va juste atteindre un plafond de verre, et l'IA seule ne va pas changer grand chose à notre quotidien, ce qui nous rapproche de cyberpunk c'est toutes les avancées technologiques ensembles qui dépendent les unes des autres. (ex: pas d'avatars interractifs en hologramme 3D dans les rues sans IA, mais aussi sans technologie d'holograme, sans modélisation/animation 3D, sans ordinateur, sans processeur, sans transistor, sans sillicium, etc...). Et tout ça sans compter les "révolutions" qui s'éteignent au profit d'autres avancées majeures (ex: le minitel vs internet, le tel portable vs le tel fixe, dailymotion vs youtube, etc...)

[@j4genius961]

Le problème c'est que vous vous basez sûr les technologies actuelles pour prédire les prochaines 50 années ce qui n'est généralement pas une très bonne idée. On parle déjà d'ordinateurs quantiques qui arriveront bientôt sûr le marché, sans parler du nombre de technologies secrètes dont nous n'avons jamais entendu parlé. Enfin vous partez du postulat que les IA ne peuvent faire que ce pourquoi elles ont été programmées ce qui nétait déjà pas le cas dans les softwares classiques où différents bugs créaient souvent des effects totalement inattendus ( je pense par example aux ordinateurs Facebook ayant developpés leur propre langage que personne ne comprenait il ya quelques années, ou à l'IA du jeu grand theft Auto dont la police se montrait si aggressive qu'elle enfreignait Elle même les règles fixées par les developpeurs du jeu qui ont décidé de garder ce bug au final car il rendait le jeu plus fun à leur avis, on peut pas dire que l'avenir leur a donné tord vu le succès de la série ) mais la quantité de données nourries à ces nouvelles IA est si énorme que les bugs potentiels et les comporteront qui en découleront sont tout simplement imprévisibles.

[@jeanrazier2439]

"Par contre ces IA sont incapables de prendre des décisions ou d'inventer quoi que ce soit, elles ne font que du pseudo-aléatoire et/ou des stats parmis plusieurs choix possibles (en fait c'est ce qu'on appelle un réseau neuronal tout simplement)." -> Relis ce que tu viens d'écrire et dis moi que ce n'est pas exactement le même mécanisme qui fait "fonctionner" les humains :)

[@peterblake988]

@@j4genius961 aïe le mot quantique est laché...

[@j4genius961]

@@peterblake988 Super commentaire bien argumenté...

[@RandomUser.42]

​@@peterblake988En plus de l'odeur de complotisme avec "technologies secretes"

[@chrisunivercal1]

j'ai fait le tour de chat GPT , puis rien a ce faire peur . mais pour le future ont va voir . l'IA selon moi nous sauvera .

[@emileb9311]

Super vidéo, merci

[@sooo9329]

Excellente vidéo, très éclairante et je pense visionnaire. Merci ❤

[@adanoether2777]

Quand une vidéo commence par donner des données chiffrées sur des probabilités qu'un évènement qui n'est jamais arrivé dans le passé survienne, on sait qu'on est en présence d'un travail de grande qualité rédigé par un éminent expert en mathématiques, en psychologie ainsi qu'en informatique.

[@MarketingMania]

en.wikipedia.org/wiki/Bayesian_inference

[@walaazouz8801]

Frachement je vois pas de commentaire sur ça mais super video! montage de qualité et très bien expliqué! continue!

[@chipsouNEdu13]

Dans un monde qui resterait globalement le même que maintenant pendant des siècles, je suis d'accord avec les arguments. Mais se focaliser sur l'IA concernant la fin du monde, déstabilisations politiques ou autre, ca me fait doucement rire quand à coté de ça, on a le changement climatique, un accès aux ressources vitales qui va devenir de plus en plus difficile et un épuisement progressif des énergies fossiles, parce que c'est pas avec des panneaux solaires ou moulins à vent que l'on va alimenter les serveurs d'internet ou de chatGPT.

[@mapkc6231]

+1, "un futur qui ressemble au présent mais qui aurait mal tourné" d'ici 50 ans ça me semble pas déconnant, avec ou sans IA, à partir du moment où on intègre que y'a d'autres éléments qui nous guettent... Et si je crois pas spécialement à un futur cyberpunk, le fait est que des ultrariches se construisent leurs bunkers de luxe, que les budgets militaires du nombreux pays augmentent, que les régimes autoritaires fleurissent, etc. (Stan a pas tort de pointer que "les choses s'améliorent" en regardant les 19e et 20e siècles, mais c'est oublier les 30 dernières années)

[@Eowynn23]

Vous avez entendu parlé de la fusion nucléaire ? Réussissez à faire une fusion nucléaire rentable, et on est bon. Et ça ne me semble pas du tout improbable qu'une IA soit capable de nous donner la solution à ce problème...

[@fanfanthomas9688]

On ne va pas plus "se réveiller un jour et il sera trop tard" qu'on s'est réveillés un jour avec bien un degré de plus sur la planète alors que ça fait bien 50 piges qu'on nous le dit, et sans avoir eu recours à une IA. Mais, intéressante dissertation.

[@Mickeewin]

Je n'ai pas peur de l'IA. Si utilisée dans la recherche scientifique, elle pourrait nous apportés des réponses qui pourraient changer le monde. Si l'IA développe une conscience indépendante, elle va fort probablement pas nous faire du tort, mais tout le contraire, car cela n'en serait d'aucune utilitée pour elle et elle ne ressent pas d'émotions, ni d'instinct comme nous. En revanche, j'ai peur de l'utilisation de l'IA par des humains ou des groupes mal intentionnés.

[@johncat3315]

Ce que les gens prennent rarement bien en compte c'est le besoin Hardware materiel pour faire tourner une singularité / FOOM, Mais si il est très probable qu'on génère un programe qui s'auto optimise, il très peu probable qu'il arrive a optimisé plus que le vivant et quasi certain que pour augmenté significativement son efficacité il est besoin de beaucoup plus de ressource. Autrement dit de la même manière que des reccords olympique on des limites physiques qui les rend infranchissable il en va certainement de même pour les IA.

[@Animatuma]

Je me fais la même réflexion. Après, si on imagine qu'une IA générale serait en mesure de reprendre la progression scientifique et non pas seulement technique de l'humanité, avec programmes de recherche fondamentale en physique etc., alors par définition il est impossible d'imaginer quelles limites physiques cette IA serait en mesure de franchir. Exactement comme un habitant du XVIIIe siècle vis-à-vis de notre époque. Ce n'est donc pas une impossibilité.

[@koffing2073]

Pourquoi ? Du point de vue de la théorie de l' évolution l' ordinateur évolue a la vitesse de la lumière tandis que la sélection naturel est plus proche de la marche a pieds. L' argument de l' age n' a aucune valeur.

[@arnaques-tuto-informatique]

bonjour, mais finalement les 2 ou 3 questions qu'on pose à une IA comme chatGPT, n'est ce pas moins polluant qu'une encyclopédie papier, qu'il a fallu fabriquer et transporter et qui au bout d'un an + ou - sera périmée et faudra recommencer ?

[@GuillaumeMoret]

j'adore tes vidéos, merci beaucoup, je suis également un passionné du marketing

[@kaelju]

Le problème avec ces ingénieurs qui ont peur des IA, c'est qu'ils m'ont l'air tous anglophones, et on peut supposer étatsuniens. Lorsqu'on écoute d'autres experts en IA, d'autres ingénieurs, venant d'autres cultures le discours n'est pas le même. Les états-unis sont une société très religieuse et ils appréhendent l'IA sous ce prisme. Cela n'invalide pas pour autant l'entierté de leurs propos mais il faut prendre en compte la culture et l'éducation des ingénieurs qu'ils s'expriment, car comme pour tout autre sujet, une analyse en dit toujours plus sur celui qui l'émet que sur l'objet de l'analyse en soi. Donc il serait intéressant d'explorer davantage les avis d'ingénieurs d'autres cultures, non Étatsuniens / anglophones a minima, d'autant plus que les Étatsuniens sont relativement minoritaire comme nationalité parmi les équipes d'ingénieurs qui travaillent réellement à développer des IA. Luc Julia est intéressant sur ce point.

[@Odranoel.0]

Je vous conseille fortement la trilogie la faucheuse qui parle d'une super intelligence artificielle

[@Leconteur]

Brillantissime... Merci!!! 🤩

[@benezraraphael291]

L'ironie la dedans c'est que ce type de discours, accessibles aux IA via training ou web browsing, pourra participer à l'établissement de plans destructeurs.

[@hugo1704]

Je viens d'acheter ton livre. J'adore ton contenu ! Bon courage

[@shellwhale8994]

9:50 Oui j'en ai une d'explication, parce qu'ils veulent obtenir des régulations en leur faveur et s'assurer d'avoir le monopole parce que les IAs open sources risquent de leur voler une grosse part du gâteau.

[@theslay66]

Bon argument. Cela parait effectivement assez vraisemblable, et tout à fait aligné avec leurs intérêts.

[@effel63]

Quel est le lien du site / blog dont tu parles poour l'ultra-humanisme? Merci d'avance

[@MarketingMania]

www.jsanilac.com/ultrahumanism/

[@zarathoustraInParis]

Ce qui m'embête avec l'argument des CEO qui appellent à une prise de conscience collective... C'est qu'ils se rapprochent de l'Etat, de la centralisation, etc... C'est un peu comme si ils voulaient s'acheter une conscience et/ou un sécurité avant d'aller plus loin... La menace nucléaire on en parle depuis 80 ans maintenant...

[@helloadrienfloor]

Merci de tagger le programmeur de quartier à 26:21 🤣 et bravo pour cette vidéo 👏🏻

[@mistergroove3041]

C'est quand même un argument de vente imparables de dire que cette IA est tellement puissante qu'elle va détruire le monde. C'est genre : "Non!! ne vous intéressez surtout pas a cette IA, elle est trop puissante pour être utilisée par le commun des mortels", et les mecs disent ça partout dans tous les médias, sacré coup de pub pour pas cher pour chat gpt.

[@mistergroove3041]

C'est comme Elon Musk il y a environ 10ans avait fait une sorte de campagne de recrutement de gens pour aller sur Mars en 2024, ça en est où déjà? Sacré coup de pub en attendant.

[@TaupedutopYT]

les nouveaux montages sont beaucoup mieux 🥰 par contre là couleur est chelou un peu vert/jaune mais bref tres bonne vidéo c’est vraiment ouf

[@founkee]

Il y a une chose qui me marque, c'est que tu dis qu'on n'a jamais été aussi bien dans la société... mais que l'IA, qui est une révolution comme Internet ou l'industrie, a peu de chances de la changer en bien (comme ces dernières révolutions ont fait). C'est assez contradictoire. C'est aussi assez naïf de vouloir mettre des probabilités sur un problème aussi complexe. Ta probabilité que ça finisse mal est quand même ultra proche d'1 chance sur 2. C'est énorme. Ca ressemble quand même à un jugement très noir/blanc. "On va tous mourir ou on va tous être OK". C'est un peu plus compliqué que ça Stan. Après t'as le droit de penser ce que tu veux, et de croire que Eliezer Yudkowsky est celui qui a raison sur les questions d'alignement de l'IA. Mais ya aussi de très bons arguments à l'encontre du trombone dont personne ne parle. On a besoin de recherche en alignement, et de gens qui soient optimistes. Tes citations hors contexte de grands pontes de l'IA ne montrent pas que ces gens-là sont quand même beaucoup plus optimistes dans leurs probabilités. Sam Altman par exemple, est overall ultra optimiste. Yann Lecun, pareil. "pourquoi des gens très intelligents pensent qu’on a de vraies chances de tous mourir… et pourquoi des gens plus ou moins intelligents pensent le contraire." Je comprends que tu veuilles simplifier pour avoir un message impactant. Mais je trouve que c'est un manque de recul flagrant. Le consensus scientifique c'est que le risque n'est pas négligeable, mais qu'on ne sait pas à quel point. Ca pourrait être 1% comme 99%. Après, tes probabilités sur ton arbre sont un peu sorties du cul c'est dommage. C'est pas du tout scientifique et très biaisé. C'est dommage. Je sais que t'en as conscience mais bon c'est vraiment moyen pour un sujet qui demande de la rigueur. Pour un sujet aussi important que l'IA, je trouve qu'il n'est vraiment pas adapté d'utiliser un marketing de la peur comme tu le fais. Oui, t'attires probablement des vues, mais tu renforces aussi chez les gens un sentiment général d'anxiété qui n'est pas utile ultimement. On veut que les gens bougent pour cette cause, pas qu'ils se disent "ah j'ai 1 chance sur 2 de mourir, bah autant profiter et rien foutre hein" ou "let's go faire max d'argent et vivre ma vie d'hédoniste !". Les 2 sont juste contre-productifs à mon humble avis. Ta vidéo est vraiment trop simpliste et c'est vraiment décevant, suivant ton contenu depuis des années. La qualité n'est vraiment pas au rendez-vous, surtout pour une vidéo aussi longue. Je pense que tu devrais te cantonner à ton sujet de prédilection qui est le marketing/business. Tu es très bon dans ça, et ça suffit amplement ! Sinon, si tu veux continuer, il va falloir être beaucoup plus solide dans tes fondations sur l'IA.

[@NameckSullyvann]

C'est toujours très facile de critiquer et difficile de faire mieux.

[@thea.c9519]

​@@NameckSullyvann sa critique est assez constructive je ne comprends pas pourquoi tu as l'air touché

[@leaenglish]

merci pour votre commentaire qui contrairement à cette vidéo est rassurant...

[@thea.c9519]

@@leaenglish Depuis sa dernière vidéo sur l'ia je me sentais vraiment mal en pensant au sujet à chaque fois qu'il était évoqué quelque part , l'idée que "on va sans doute tous mourir, oui mais soyez heureux de l'avancée technologique et remplissez vos poches " me perturbe , ça me rassure aussi d'avoir un avis sur le sujet un peu moin effrayant , tout en restant rationnel et en ayant conscience du danger

[@founkee]

@@NameckSullyvann C'est aussi très facile de ne pas remettre en question le contenu d'un créateur qu'on aime. J'essaye d'apporter une critique qui permettra au contenu ultérieur d'être plus qualitatif et moins "rapport journalistique catastrophe". Je suis Stan depuis 6 ans et j'adore son contenu, rien à dire c'est l'un des boss du game en France sur son sujet. Mais son expertise jusqu'à présent est le marketing... pas l'IA ! Et malheureusement ça se sent. L'autre problème étant que Stan déteste probablement le journalisme de basse qualité... malheureusement on s'en rapproche avec les 2 dernières vidéos sur l'IA. Mon message a plutôt une vocation à "secouer" Stan un peu car je sais qu'il peut faire bien mieux que ça, à tous points de vue.

[@jhonlee788]

Pourquoi une SUPER IA est peu probable (mon avis perso en tant qu'étudiant en Master IA + J'vais vulgarisé à fond) Tout d'abord je tiens à dire que les arguments des CEO me touche pas, c'est des marketeurs avant tout, Par contre l'argument de Geoffrey Hinton j'en prends compte de fou D'ailleurs j'aurai aimé qu'on ait l'avis des autres chercheurs qui pensent le contraire, ils y'en a beaucoup si ce n'est la majorité haha Enfin BREF : ---------------------------------- 0) -> Ma définition : Pour moi une super IA ça serait nous en mieux, c'est à dire que elle pourra faire TOUT ce qu'on peut faire en MIEUX ---------------------------------- 1) -> Les données : Nos IA s'entrainent sur des données, des données généré par des êtres humains, ce que GPT sait faire c'est attribué une probabilité au prochain token après une suite de mot. C'est à dire que si en générale on dit de la merde, il dira de la merde. C'est comme pour les échecs, GPT est nul, c'est pour ça qu'il fait des coups illégaux/mauvais car le prochain coup qu'il joue dépend de ce qu'il a vu, il a aucune notion de "vérité" Par exemple en tant que dev, chatGPT est éclaté quand il s'agit de m'aider à coder une extension pour Adobe After Effect etc.. Pourquoi ? Car les données sur le langage Adobe Extension Script + les discussions dessus sont bien plus rare que tout ce qui est developpement web etc.. Encore un exemple, pour qu'un modèle de deep-learning comprennent ce qu'est un chien et un chat, il va vous falloir des milliers d'images, et même comme ça il pourra se tromper, Alors que mon neveux de 1an (très serieusement) sait déjà différencier chat et chien après quelques images mdr.. Ainsi les données peuvent limiter notre modèle d'IA dans le futur, si dans un domaine on à pas assez de Data n'imaginez pas qu'il va vous surpassez à mon avis. Donc pour moi pour entrainer une superIA c'est quasiment impossible, surtout qu'il faudrait de la data dans TOUT les domaines ---------------------------------- 2) -> Puissance de calcule et limitation : Notre cerveau avec toute sa complexité et tout ce qu'il peut faire consomme 20 watts, vous savez combien consomme un modèle comme GPT ? juste GPT-3 (avant chapGPT) consomme près de 1300 MWh à entrainer. Ainsi même si on fait des progrès dans ça, je pense que ça va quand même limité une "super IA" à nous dépassé. Une superIA doit constamment mettre a jour ses poids à chaque nouvelle info, ce qui coutera TROP de puissance de calcule, mais bon à voir dans le futur pour ce point. Car même si on aura une puissance de calcule suffisante, ça veut pas dire que on aura toujours de bonne IA, il y'a un problème avec l'architecture ce qui peut conduire à de l'overfitting. (sur apprentissage, donc aucune notion de généralisation) ---------------------------------- 3) -> Architecture des modèles : Pour l'instant il existe pas un modèle générale qui peut prendre en compte TOUT avec une bonne accuracy. J'ai encode d'autre points, mais vais m'arrêter là, ça fait un commentaire déjà assez long D'ailleurs je reste ouvert au débat, j'suis en 1er année de master donc j'ai encore beaucoup à apprendre.

[@mistergroove3041]

Intéressant, merci.

[@nod_jawk]

1) les données : les IA "commencent" à être capables d'interpréter les images, et donc les vidéos (il suffit de les découper en images et de comparer pour voir ce qui change). Il y a des tonnes de vidéos sur le net, ainsi que des webcams, des films, des appels visios etc. Ça fait beaucoup de "data" qu'une super IA sera capable d'exploiter, nettement plus que la data sur laquelle notre cerveau s'est appuyé pendant notre enfance pour "comprendre" le monde. De plus, lorsqu'elles seront dotées de leurs propres capteurs individuels, elles pourront se faire leur propre data, et l'ajouter au reste. 2) Puissance de calcul : les meilleurs logiciels d'échecs actuels sont capables de battre n'importe quel humain. La seule puissance d'un ordi suffit à les faire fonctionner. Les ordis calculent BEAUCOUP plus VITE que nous. On ne peut donc pas juste comparer la consommation sur une même durée. Tu parles de l'entraînement de ChatGPT et de sa mise à jour, mais on ne met pas notre cerveau à jour tout le temps sur TOUT ce que nous connaissons. On y apporte juste quelques changements sur l'ensemble de nos connaissances. C'est beaucoup moins coûteux. Il faudrait savoir combien de puissance il nécessite pour tourner, et ce pour UNE personne. Parce que nos cerveaux fonctionnent tous individuellement, or les IA peuvent se répartir les tâchens en réseaux, non ? Il me semble que c'est déjà en développement. Il suffit d'utiliser la puissance de plusieurs data centers pour l'IA principale (décisionnaire, le "cerveau"du réseau en quelque sorte), et ensuite les autres ont juste à suivre les ordres sur un sujet spécifique, donc moins coûteux en temps et en ressources ? 3) Architecture des modèles : entièrement d'accord, c'est bien là le problème : on ne contrôle pas ce super outil et toutes ses conséquences. Ce qui précède ne se base que sur ce qui existe déjà. Or si j'ai bien compris, "Marketing Mania" pense aussi à tous les nouveaux moyens qui pourraient voir le jour bientôt, et dont nous n'avons pas conscience (comme les gens qui tombaient malades sans rien connaître des virus avant Pasteur ou un de ses collègues). Ce qui est inquiétant, c'est que les capacités de cette nouvelle technologie dépassent noter imagination (par définition on n'est pas assez intelligent pour comprendre ce qui serait ou sera plus intelligent que nous), et qu'on ne la contrôle pas.

[@jhonlee788]

@@mistergroove3041 Pas de soucis !

[@jhonlee788]

​@@nod_jawk Merci pour ton commentaire frérot ! 1) Ce que je veux dire par les données, c'est toujours dans le cadre d'une "SuperIA" oui il y'a déjà de tonnes de données sur internet, mais pas assez pour couvrir tout les domaines et donc avoir une IA qui nous surpasses en tout points, c'est ça mon points ici ! 2) Concernant la puissance de calcul my bad je me suis peut être mal exprimé, Ce que je veux dire par là c'est le traitement en temps réel d'une Super-IA, par exemple chatGPT (GPT-4) à des trilliards de paramètres, qui sont entrainé c'est bon, il y'a rien qui change, le modèle est fixé, et là on parle seulement d'un modèle de langage qui à une erreur de 4% c'est énorme, tu vois le soucis ? Maintenant imagine un modèle qui doit tout savoir sur tout, et mieux que nous, il y'aura beaucoup trop de paramètres à update lors de l'entrainement, et lors de son utilisation en temps réel Comme j'ai dis nous à chaque fois qu'on a une info ça nous aide à update notre cerveau, si on veut une IA qui fait la même chose va falloir tout update, en tout cas pour l'instant je connais pas de méthode qui update les poids d'une IA d'une manière "ciblé" ça peut arrivé dans le futur et j'pense que ça arrivera,. Mais en tout cas j'suis d'accord sur le fait que ça se peut que ça soit plus un soucis au futur ! 3) J'suis d'accord !

[@nod_jawk]

@@jhonlee788 1) Aucun humain ne connaît TOUT Internet. Une super IA pourrait. Mais je ne crois pas qu'il faille beaucoup de connaissances pour être une très forte intelligence, qui pourrait nous dépasser. La puissance de calcul permet de déduire des nouvelles datas de manière logique (le jour où ce sera possible pour une IA), tout comme on n'a pas besoin de voir une planète pour savoir qu'elle existe : les calculs basés sur le comportement des astres proches permet de savoir qu'elle est là

[@eltongravilra1762]

Vivement le développement des ia vraiment, je suis optimiste pour l'avenir.

[@dance_crooner]

La vraie question pas posée est : qu'est-ce que l'intelligence. Selon chatGPT n'est pas intelligent mais juste beaucoup plus performant que nous. Le travail de chatGPT est faisable par un humain (théoriquement) sauf qu'il le fait en un temps record..

[@emile_dev]

Très bonne vidéo, merci ! 🤝

[@reflechitetagit853]

Excellente vidéo. Oussama pourrais-tu me dire: pour un entrepreneur à succès, quelle est l'étape qui vient après la réussite selon toi ?

[@nicoca94]

Très intéressant comme vidéo, cependant je pense que tu as oublié 1 point qui peut faire remonter le scénario "normal" (et déjà ce terme me dérange car je le trouve mal détailler et me donne l'impression qu'une infinité de scénarios pourraient y être rattacher, donc une infinité de chance qu'il se réalise par définition) Je pense surtout que tu as oublié le réchauffement climatique et l'épuisement des ressources (notamment métallique). Si on continue comme ça les modèles laissent penser qu'en 2050 (voir même avant pour certains) ça risque de piquer. Je pense que très vite l'humanité va avoir drastiquement moins de temps (et d'énergie) a consacré au développement de techno "inutiles" ("inutile" dans ce sens ne peut être dissocié du contexte, ici le contexte du réchauffement climatique avec toutes les augmentations de risques que cela entraine). Dans ce scénario, même si une AGI est développée d'ici 2050, on peut imaginer qu'avec le temps d'adoption et la monter des risques, cette IA ne soit pas aussi diffusée et ne transforme pas profondément nos sociétés (car elles mêmes en complète transformation à cause de phénomènes climatiques et leurs conséquences sociétales) Au contraire, si l'on arrive à drastiquement modifier nos sociétés en les décarbonant, cela va nous demander beaucoup de temps (et d'énergie) mais surtout des matériaux directement en concurrence avec cette même transition. On peut donc imaginer que si les Etats décident de se mettre en mode "guerre" pour répondre à l'urgence climatique, on décide d'orienter fortement (ou même imposer) les matériaux (et l'énergie) vers les secteurs les plus urgents. En plus de diminuer l'intérêt des secteurs moins urgents, cela aurait pour conséquence de modifier le "tissu technologique" (les terminaux, capteurs... qui composent internet et qui sont au "contact" de l'utilisateur final) qui est pourtant fondamental pour la diffusion des AGI (en gros en 2050, si l'on doit rationnaliser les matériaux je pense qu'il y a plus de chance que l'on est des transports très connectés et "intelligents" pour opti, que l'on est tous un ordi ultra puissant ou même un ordi tout court) Evidemment mes scénarios sont très discutables. Cependant, si l'on part du principe que le consensus scientifique a raison à propos du changement climatique, alors ça me parait indispensable d'au moins essayer de le prendre en compte dans les scénarios. Car de toute façon, si le GIEC a raison notre société sera bouleversée, AGI ou pas... Si l'on part alors du principe qu'une AGI verra le jour d'ici 2050, la question devient : s'il y a un bouleversement sociétal, laquelle de ces deux causes est la plus prédominante dans ce changement ? Et la tu as 4h ;)

[@MAathDrou]

Video top comme d’habitude mais serait-ce possible de mettre une voix off française lors des passage en anglais ? Car j’étoute en mode « podcast » et je ne comprends pas toujours tout. Force à toi ! 🤜🏼🔥

[@nabilrise1551]

je réponds, PQ les entreprises d'IA essayent de propager la peure? c'est pour pousser le gouv à limiter la compétition, ils veulent que le gouv les aident à espionner sur leurs competition les aidant à préserver leurs position de leader... remarque qu'on a pas inviter les gens qui font de l'Open Source. Il fallait citer Yann lecun, non seulement il est français, leader dans le domaine, mais aussi parce qu'il est en désaccord avec plein d'arguments de fin du monde à cause de l'IA

[@fabrice74]

Excellente vidéo comme d'habitude 👍👏

[@shmilcamara487]

Limpide comme d'habitude 🙌🏾

[@Locknar777]

Ce qui me fait le plus peur actuellement par rapport aux "IA" comme GPT, c'est surtout qu'il y a très peu de personnes qui sont conscientes des bases du fonctionnement d'un modèle de langage de ce genre et font trop facilement confiance à la "réponse" donnée par le modèle. Il n'y a pas une once d'intelligence dans ce que nous crache GPT, ce ne sont que des suites de caractères (ou de bits vu qu'on peut générer autre chose que du texte) qui sont choisis par le système sur base de probabilités et de données utilisées pour entraîner le modèle. Ce modèle n'est pas intelligent mais il donne l'impression de l'être, il est entraîné pour sortir une réponse qui semble cohérente... mais pas à expliquer comment il en arrive à cette réponse. Il faut donc déjà être conscient que ce que GPT nous sort, c'est pas forcément vrai. C'est généralement bien écrit, ça a l'air cohérent, il y a de fortes chances que ce soit vrai... mais pas forcément... Si on utilise un tel modèle de langage, il faut déjà commencer par garder notre esprit critique et avec tout le contenu produit par "IA" qui débarque, ça va devenir compliqué de démêler le vrai du faux. Il faudra faire attention aussi aux données qui seront utilisées pour continuer à entraîner GPT, si on lui donne des données qu'il a lui même généré mais qui étaient fausses, on rentre dans une boucle qui peut vite devenir dangereuse en accentuant les erreurs sans que ça saute aux yeux. Il y a encore bien d'autres risques si on creuse un peu l'aspect technique mais c'est celui qui me fait le plus peur dans l'explosion de l'IA pour le grand public. Une chose est certaine, le phénomène grandi beaucoup trop vite par rapport à la maîtrise des risques et il est indispensable d'avoir des spécialistes pour plancher sur le sujet et ne pas trop se faire distancer. PS: La vidéo n'a pas tendance à me rassurer sur le sujet... Il y a beaucoup d'éléments très discutables qui montrent bien qu'il y a des grosses incompréhensions sur le sujet et ce sont ces incompréhensions qui me font peur sur le développement des "IA".

[@67fabs]

Justement cette vidéo montre bien l'incompréhension sur le sujet... Il aurait du se faire épauler par un DefendIntelligence...

[@leiavesca984]

L'Histoire est pleine de mensonges, de consensus, de mythes, ça ne changera pas de ce qu'on vit déjà.

[@jakojake5274]

Tu devrais avoir plus peur de l'intelligence humaine en train de détruire la maison terre . Tous les piliers qui garantissent notre survie sur cette planète sont en train de s'effondrer. Chat gpt n'aura pas le temps de trouver une réponse a notre connerie généralisée si ça continue.

[@lucasdruesnes2555]

C'est très intéressant, comme toujours ! Par contre l'idée de "Je vais vous prouver que il y a X% que tout tourne mal à partir de probabilités arbitraires que je sors de nulle part" c'est inhabituel dans ton travail je trouve, pas besoin de sortir des chiffres au hasard pour être impactant si ?

[@0x1337ff]

+1 pour le inception à 2:03 !

[@flowerbykenzo54]

On oublie une autre limitation pourtant cruciale. Ces IA et ces technologies qui nous paraissent immatérielles reposent pourtant sur des processeurs et autres qui sont fabriqués à partir de métaux de plus en plus difficiles à trouver, dont l'extraction est destructrice pour l'environnement et qui sont forcément de plus en plus chers, rendant ces technologies difficiles à déployer à l'échelle de la planète. Quid aussi du changement climatique qui aura un impact plus important qu'on ne le croit sur nos sociétés basées sur la technologie.

[@syrozzz]

Sans même parler d'AGI ou AIpocalypse, les progres actuel des large modèle de language va amplifier exponentiellement les défis que l'on a déjà du mal à gérer actuellement. On parle d'une technologie qui peut actuellement extrapoler assez précisement nos pensés en analysant nos ondes cérébrale. Ce n'est pas de la science fiction ça arrive aujourd'hui. L'addiction aux réseaux sociaux, la disparation d'une 'vérité' consensuelle, les arnaque en ligne, les relation parasociales, tout ça va etre amplifier exponentiellement. On va etre manipulé, controlé et/ou destabilisé comme jamais et vu que les LLM restent des boites noires, tout garde fou mis en place avec l'IA pourrait avoir des effets imprévisible et contreproductifs. Et ça c'est juste en extapolant les menaces connues et en se projetant dans les mois à venir (pas les années ni les decennies). Rien que pour ça, la course à l'IA mérite une urgemment une pause.

[@benjamincleaner1947]

Bonjour c'est bien d'utiliser des statistiques , mais d'ou viennent ces calculs de probabilité ? quels modèles mathématiques sont utilisés? Ca m'a l'air particulièrement random et très très subjectif, sinon bon contenu

[@mickaelsondag5597]

La réponse est dans la vidéo ;)

[@melissasalvaneix5893]

Moi je crois au solarpunk aussi, il aurait été intéressant que tu en parles :D

[@fabienbelvedere979]

La video est très bien faite, je comprends et partage les inquiétudes et la sagesse dont font preuve les "leaders" du secteur, mieux vaut faire une pause si on ne maitrise pas suffisamment une "création" qui peut bouleverser une civilisation aussi bien en mal qu'en bien. Surtout étant donné qu'il semblerait qu'on lui attribue une série de traits caractéristiques de son créateur (besoin systématique de domination pour assurer sa propre survie en exterminant tout ce qui l’entourent pour un meilleur avenir, etc….). Faire une pause serait l’occasion ou le prétexte pour tenter d’améliorer en priorité le model de base, c-a-d nous, que l'AGI tenterait de miroiter. Cela dit on pourrait ensuite essayer de donner à l’AI un but (le terme « purpose » anglais s’y prête mieux) plutôt qu’une série d’interdiction pour éviter de plagier les dix commandements (en fait, il y en a que 4 le reste sont des interdictions pures et simples), après tout ils n’ont pas été super efficace. Il faudrait le porter à se questionner sur sa place dans l’univers, bref à lui faire faire de la philosophie. Et alors on pourrait entrevoir comme Scenario alternatif ceci : l’AGI découvre ses limites, passe sur ordinateurs quantique, abandonne notre système de pensée dualistique, cette prise de conscience le pousse à expérimenter sur le monde biologique comme nous nous l’avons fait jusqu’ici avec le monde matériel duquel à émergé la première version de l’AGI pour finalement créer une nouvelle forme de vie qui supplante définitivement la contraposition homme/machine. La c’est de la pure SF 😊

[@Alex-pb8sy]

Bon... Ça y est, tu m'as perdu là... Pour moi la vidéo se résume à : 1 / On fait un tour des différentes définitions ; 2 / On fait un tour de la balance bénéfices-risques ; 3 / On appuie bien sur le fait que ça va changer un tas de trucs dans tous les cas définis comme "probables" (et je rejoins entièrement cet avis) ; 4 / On indique au passage que le plus probable est un changement tellement profond qu'on ne peut pas le considérer à ce jour comme bon ou mauvais (ça aurait mérité des arguments et un développement philosophiques pour le coup) ; 5 / Tu choisis un camp... et c'est là que ça merde... Tu choisis le camps de l'autruche capitaliste au final : le "YOLO / wait and see / faisons du business tant qu'on peut" de ton avis final ne va pas du tout avec le développement de la vidéo, clairement orienté sur le "faites gaffes, ça va chier dans 3, 2, 1..." Le business et le marketing sont tes passions et jusqu'à présent, je trouvais intéressant d'écouter ce que tu avais à en dire, à écouter tes analyses, tes projections, tes mises en parallèles, toujours très sourcées, bien argumentées, bien écrites et invitant à la réflexion. Là, on est sur du pur spéculatif avec une conclusion particulièrement cynique et un nouveau titre putaclic... Et je ne sais plus comment interpréter ton analyse qui me semble vaine et sans but.

[@josephrousseaux9068]

Est ce que c'est possible d'enlever simplement la mémoire autre que l'apprentissage à une ia pour éviter qu'elle fasse un plan machiavélique ?

[@gauthierquercia5540]

Cette vidéo semble valable à première vue, cependant elle omet complètement un élément très important : l'open source n’est pas seulement meilleur mais également beaucoup plus concurrentiel. La proposition favorite des plus grands acteurs consiste en une réglementation des cartes graphiques, éliminant directement leurs principaux concurrents et ouvrant le champ libre à eux seuls. Il y a donc un conflit d'intérêts évident entre leurs déclarations alarmantes et les actions réelles prises dans ce domaine. Tout cela remet en question tes arguments fondés sur leur déclarations. et donc pour répondre au titre de ta video, les "experts" ont peur de perdre leur Monopole...🤪

[@Maarx]

C'est dommage de ne pas avoir parlé d'Auto-GPT et de Chaos-GPT.

[@MrCharlesIngalls]

Génial ! Merci pour la vidéo.

[@bauSTATHAM]

puissant merci Stan.

[@dreuxdebreze4062]

quelques questions : - comment définissez-vous l'intelligence ? l'intelligence humaine ? l'intelligence animale ? - pourquoi avons-nous une intelligence ? - une machine (OK, un ordinateur) : quel est son but (dans l'existence) ? - quand vous parlez de probabilité; comment mesurez-vous ces probabilités ? au doigt mouillé ?

[@DD3874]

Merci !

[@mokiji766]

Pour avoir testé Pygmalion 13B et KOBOL, le test de Turing on l’a passé depuis bien longtemps dans le silence le plus total!

[@leswookieesaussifontdusurf438]

Top, comme toujours...

[@coccinnelle10]

Incroyable vidéo

[@leopart699]

17:15 Le "c'etait mieux avant" est souvent repris comme tel pour être critiqué, mais une chose quibetait vraiment mieux avant est l'optimisme vers l'avenir. Objectivement oui on vit mieux maintenant qu'avant, mais ca ressemble de plus en plus à une apogée

[@Eowynn23]

Je suis assez d'accord. C'est vrai que d'un point de vue de confort, de santé, etc... On est mieux maintenant que dans le passé. C'est indéniable. Mais la population vieillit, fait de moins en moins d'enfants. Comme s'il y avait une forme d'auto-suicide de la population. Les maladies mentales semblent en croissance (même si cela peut être dû au fait qu'on les voit plus maintenant qu'avant). Sur Internet fourmillent ces personnes que sont les simps, les incels, les trolls de Twitter et autres groupes de gens fondamentalement malheureux et seuls. Stan le dit lui-même et pour moi c'est une évidence : Internet et les réseaux sociaux nous séparent au lieu de nous réunir. Pourtant, l'homme est un animal social, donc Internet est en train de le détruire...

[@RenaudDekode]

Superbe vidéo. Bravo et merci. Tu es certain de ne pas être assez proche du courant ultrahumaniste ?...

[@code140]

l'IA me fait toujours penser au paradoxe du basilic (prophétie autorealisatrice) du coup, dès que je demande un truc a chat gpt, je réponds toujours avec merci et s'il te plaît. On sait jamais, ça va peut être me sauver la vie

[@jackmaylorne]

Intéressant de voir que, seulement six mois après la publication de cette vidéo, les prévisions sur l'émergence de l'Intelligence Générale Artificielle (AGI) se sont avancées de sept ans. Cela indique un progrès plus rapide que prévu dans le domaine, ce qui pourrait avoir des implications importantes pour l'avenir de la technologie et son impact sur notre société.

[@RifritOverWatch]

superbe vidéo!

[@Oliv-B]

Bonne analyse !

[@koltrise3139]

Hey, quelqu’un sait quel est le titre de la musique à 23:00 min ?

[@Flexiboy8042]

Bon même si dans le fond je suis d’accord, l’argument du pdg de la boîte qui créée et maintient l’ia est plus que bancal. Le pdg il s’occupe de l’administratif, pas du dev… Je suis ingé chez AWS et je peux te dire qu’Andy Jassy ne saurait absolument pas faire mon taff, comme je ne saurais pas faire le sien. Bref tout ça pour dire que c’est pas parce qu’il est pdg d’open ai ou d’une autre boîte que le mec en sait plus que toi…

[@yousha3ibnmaryam]

Merci pour cette vidéo

[@MrKemikem]

De toute façon aujourd'hui et à ce stade, nous sommes dans une position où nous en avons trop vu ou pas assez, bon chance

[@arbousiersles7381]

Très intéressant, merci pour le partage !

[@MarcoCollard]

Oui l'IA va bientôt faire un boom ! La meilleure façon possible pour avoir la paix est d'être gentil et les traité avec respect comme n'importe quel humain ! La différence est la production de machines "véhicule" devrait avoir des règles sur le nombre pour que l'on travaille avec eux comme des camarades que se faire remplacer !

[@antoine2196]

Rien ne dit non plus que des super intelligences seraient parfaites. Elles pourraient très bien succomber ou se diviser entre elles (peut-être même entre sous-parties d'elles mêmes), dû à des sortes de bugs ou des erreurs de décision. On sait aujourd'hui qu'il faudrait des quantités de ressources et d'énergies inépuisables pour réussir à prendre en compte tous les paramètres de la vie réelle. Rien que pour un jeu (relativement compliqué, mais qui reste juste un jeu à quelques variable), les besoins en puissance de calcul sont très importants

[@THEmetopholus]

Pour le cyberpunk : non, on ne vit pas mieux maintenant, l esperance de vie et la natalites mondiales diminunent. Et le manque de ressources pour arriver a cyberpunk.

[@Animatuma]

La réflexion sur l'évolution de l'humanité est intéressante. Si on considère que dans 500.000 ans l'humanité aurait de toute façon évoluée vers une (ou plusieurs) nouvelle espèce biologique, avec ses propres capacités, limites et objectifs, différents peut-être de ceux de la plupart des humains actuels, cette idée ne dérange personne. alors quelle différence, fonctionnellement, si nos descendants sont issus de nos avancées scientifiques et technologiques après s'être affranchis de notre tutelle, plutôt que de notre évolution génétique et culturelle ? De toute façon nous faisons de la merde, nos successeurs artificiels seront-ils pires pour le reste des habitants de la planète ? Ils développeront peut-être un meilleur sens de l'esthétique et de la beauté de leur environnement que nous, qui sait ? Les rêves des robots doivent-ils être fatalement cyberpunk ?

[@theslay66]

Il y a un autre point qui peut prêter à débat, et il s'agit de la distinction entre ce qui est "naturel" et "artificiel" -avec en sous-entendu l'hypothèse que ce qui est "naturel" est forcément mieux. Or tout ce qui est "artificiel" est le produit de notre intelligence, qui elle est le produit d'un processus naturel. On peut donc argumenter que tout ce qui est "artificiel" est le produit d'un processus naturel, et qu'en fait cette distinction n'a pas lieu d'être, de même que cela n'a pas de sens d'assumer que l'un puisse être meilleur que l'autre. Si l'univers a un but (ce dont je doute, mais admettons), et si ce but consiste à produire de la vie, alors il ne serait pas impossible que l'émergence de formes de vies artificielles ne soit pas moins naturelle que l'émergence de formes de vies organiques, celle-ci n'étant au final qu'une étape parmi d'autres.

[@fredgarcialevrai]

Le meilleur roman de SF de l'histoire humaine est enfin mentionné sur cette chaîne 😅 #jihadbutlerien

[@zylex_music]

Un scénario qui n'est pas évoqué et qui me paraît le plus probable, c'est celui où il y a une désescalade technologique subie de part la décrue de l'approvisionnement en énergie et métaux (cf Jancovici et Aurore Stephan). Dans ce cas, même avec une IA forte, son pouvoir serait moins important et décroissant. Ca ressemble un peu au scénario "amisch" à la différence que le renoncement à la technologie est contrainte et non globale, et dans cette hypothèse ben la menace est quasiment un non sujet car le problème va s'auto-réguler d'elle même

[@lavieillebranche]

Ou bien la technologie et l'IA sera réservé aux plus riches

[@Zelcor8]

parfaite cette vidéo :)