L'IA nous gouverne déjà | Intelligence Artificielle 29

Et si l'entité la plus puissante du monde était déjà une IA ? À l'aide d'un raisonnement conséquentialiste, je prétends qu'il est raisonnable de répondre oui. Et du coup d'enseigner des valeurs morales à ces IA...
#AIforGood #BeneficialAI #DébattonsMieux
Facebook : / science4allorg
Twitter : / science__4__all
Tipeee : www.tipeee.com...
Moi en podcast avec Mr Phi :
Version KZbin : / @axiome7403
Version Audio : feeds.feedburne...
Sous-titres sur les autres vidéos : www.youtube.com...
Conférence "Faut-il rendre la mort facultive" le 30 juin : transhumaniste...
Effective Altruism : effectivealtrui...
Altruisme efficace : altruismeeffica...
Give Well : www.givewell.org/
Rationally Speaking : rationallyspeak...
80,000 Hours Podcast : 80000hours.org/...
Positively shaping the development of artificial intelligence | 80,000 Hours
80000hours.org...
Experimental evidence of massive-scale emotional contagion through social networks | PNAS | Adam D. I. Kramer, Jamie E. Guillory, and Jeffrey T. Hancock (2014)
www.pnas.org/co...
Conséquentialisme - quel est le but de la morale ? Monsieur Phi
• CONSÉQUENTIALISME - Qu...
P-valeur ou je fais un malheur ! La statistique expliquée à mon chat
• P-valeur ou je fais un...
La neutralité du point de vue (sur Wikipédia) | Hygiène Mentale
• Ep21 La Neutralité de ...
Facebook Fraud | Veritasium
• Facebook Fraud
AD-POCALYPSE : le futur de KZbin ? Stupid Economics
• AD-POCALYSPE : Le futu...
Math Jokes Explained | Numberphile
• Math Jokes Explained -...
The Assassin Problem | Singing Banana
• The Assassin Problem
• Response to The Assass...
• The Assassin Problem 3
Why does this product equal π/2? A new proof of the Wallis formula for π | 3Blue1Brown
• The Wallis product for...
CLICKBAIT: Integral of sqrt(cot(x))-sqrt(tan(x)) | blackpenredpen
• the most elegant way t...
Slaughterbots | Stop Autonomous Weapons
• Slaughterbots
La machine à expériences de Robert Nozick | Monsieur Phi
• Cette machine fera vot...
Where are the aliens? 80,000 Hours Podcast with Rob Wiblin, ft. Anders Sandberg
80000hours.org...
How many thoughts are contained in a Mars Bar? Sixty Symbols
• How many thoughts are ...
We Watch More KZbin Videos than We Conduct Google Searches | Search Engine Watch
searchenginewa...

[@enderspirit5238]

Ce qui est marrant c'est que cette vidéo m'a été recommandée par KZbin 🤔

[@zaido2823]

EnderSpirit comme tout le monde ici

[@Ant-N-Gaming]

Pareil mais deux ans après 😕

[@espritmeta9311]

L'IA nous gouverne déjà. Je suis tout à fait d'accord avec cette thèse et ta vidéo l'explique très bien à travers tes deux exemples conséquentialistes: l'IA des news feed de Facebook peut influencer notre mood (et donc pourquoi pas nos humeurs de consommation?) tandis que l'algorithme de KZbin peut influencer jusqu'à nos opinions, nos centres d'intérêts, notre personnalité voir même nos projets de vie. Très bon travail encore une fois Lê. Pour ta question du bouton qui pousserait l'IA à "promouvoir les vidéos intelligentes et raisonnées, et à moins partager celles qui poussent à la haine, et aux théories conspirationnistes." eh bien je tique un peu sur la formulation car elle oppose "vidéos intelligentes et raisonnées" aux "théories conspirationnistes". On peut avoir les deux en même temps: certaines théories conspirationnistes ce sont avérées vraies (bien sûr très peu en proportion vu l'inquiétante masse de théories farfelues, mais les sujets sont parfois très importants avec des conséquences graves). Par exemple, l'affaire du mensonge sur les preuves d'armes biologiques utilisées par Sadam Hussein, relayé par le secrétaire d'Etat américain Colin Powell en 2003, pour finir de convaincre les états du monde d'intervenir en Irak. Dix ans plus tard Colin Powell s'excuse publiquement pour ce mensonge d'espionnage dont il a lui aussi été victime. Théorie conspirationnistes n'est pas toujours synonyme de théories fausses, tout autant que les théories comme "La Terre est plate" sont a séparer des théories comme "Il y a eu un complot de manipulation de l'opinion pour faire la guerre en Irak", les deux étaient considérées comme théories conspirationnistes il y a 15 ans, mais le niveau de rationalité des 2 est bien différent. Tant qu'il y aura des services secrets, il y aura au moins des complots de type sociale et politique, c'est leur raison d'être. Bref je pense qu'une formulation comme "promouvoir les vidéos intelligentes et raisonnées, et à moins partager celles qui poussent à la haine, et aux théories conspirationnistes irrationnelles." aurait été plus précise ;) Mais vraiment ce n'est qu'un tout petit détail dans un océan d'informations intéressantes, et je suis conscient que je m'éloigne de l'essentiel de cette vidéo, il est évident que purifier KZbin de la déraison serait profitable pour l'humanité, mais c'est aussi pour cela que nous devons bien définir ce qui est 'déraisonnable'.

[@Draithak38]

Bonjour Science4all, je voulais simplement te remercier pour tout ce que tu fais pour vulgariser les mathématiques et les rendre accessible gratuitement a qui veux s'instruire. Tu change le monde a ton niveau et pour ça je te dis un grand Bravo !!

[@Lava__]

Je me suis abonné grâce au Doc Seven et je suis pas déçu 👍

[@toucantoucan]

merci de reconnaître la dangerosité potentielle des IA. L'évolution ultrarapide des IA m'inquiète énormément car je ne crois pas que les créateurs de ces IA souhaitent fondamentalement le bien des gens, et je pense aussi que même si c'était le cas, certaines choses peuvent rapidement dégénérer, potentiellement. Je ne pense pas que l'humain soit prêt à affronter les conséquences de tout ça et j'attendrai le jour où on nous dira "on vous l'avait dit".

[@theoleblanc9761]

Wow! Excellentissime vidéo!!

[@PaulSimardPsychologie]

En psychologie expérimentale, des lois relationnelles ont bien été identifié : la soumission a l'autorité, le biais de conformisme, l'adhésion aux fonctions liés au rôle attribué, la diffusion de la responsabilité... En ce sens, l'influence de l'IA (l’interaction humain-machine) ne diffère pas de l'influence du groupe (l’interaction humain-humain), elle représente simplement un outil de promotion et de propagande plus puissant que les précédents. En saturant subtilement l'esprit (les capacités attentionnelles) de l'individu, celui-ci en vient à s'identifier au contenu sans procéder à des vérifications (mais nous avons la zététique pour nous aider). Tout ça me rappel la novlangue du roman 1984, c'est à dire : il est impossible de s'opposer au système si nous n'avons plus les mots pour décrire le désir d'opposition.

[@Paganel75]

_"la soumission a l'autorité"_ ... fut testée avec éclat bien avant 1967. Or elle n'a été refaite depuis que dans le cadre de *spectacles* (en général télévisés) aussi préparés que des matchs de catch : il faut attirer le public en caressant ses préjugés dans le sens du poil. Je n'ai pour ma part guère l'impression que nos jeunes de banlieue soient très soumis à l'autorité. Dans le domaine, c'est plutôt le vide qui pose problème que le trop-plein.

[@pierre7594]

Ce que tu dis est très captivant, superbe vidéo !

[@asdf_600]

Incroyable vidéo une fois encore !!! Chacune de tes vidéos me donne plus envie d’étudier dans le domaine de l’intelligence artificielle théorique 😊

[@MsDeadou]

Je fais bien d'avoir un compte uniquement pour regarder de la vulgarisation ! Comme ça KZbin me propose que des vidéos avec une très bonne qualité analytique ;)

[@NubesLegend]

Super vidéo !

[@yugoogle9141]

Nubes Gaming Battlefield Ah t'es là toi ^^ Ça fait plaisir de te voir ici, tu me rappel de bons souvenirs ;)

[@NubesLegend]

Hyugo ogle ouee j'adore ses vidéos ! ^^ même si mon domaine n'a rien à voir

[@yugoogle9141]

Et ça me fait d'autant plus plaisir, crois moi ^^ Malgré les thèmes et les théories traités, ses vidéos arrivent à avoir une très grande portée, c'est peut-être ça savoir susciter la curiosité ? ;)

[@marcopoulo8929]

Bravo pour tes vidéos, toujours passionnantes. Stephen Hawking déclarait en 2014 que l'IA pouvait être la pire ou la meilleure des choses. En tant que monsieur-tout-le-monde, je pense que l'IA est comme l'arme atomique, elle n'est ni bonne ni mauvaise, elle dépend de ce que l'on en fait. Mais le pire n'est pas à exclure surtout montée sur un robot tueur autonome. Je veux juste rappeler qu'en 1945 les USA n'avaient aucune raison tactique de lâcher deux bombes A sur le Japon. L'empereur Hiro-Hito était prêt à capituler (cf. les mémoires du Général Eisenhower) moyennant des conditions purement symboliques. Il fallait juste lui donner quelques jours pour qu'il ne perde pas la face. Mais le président Truman en parfaite connaissance de cause et visant la domination totale sur le reste du monde, a choisi délibérément de rejeter la plus petite condition de bombarder deux fois le Japon. Retour sur expérience : il ne faut pas omettre dans ces "jeux" de pouvoir l'addiction très humaine et très forte qui est celle de la domination. Nous sommes avant tout des mammifères. Cette addiction, institutionnalisée, va fatalement orienter les développements de l'IA. Mais j'ai confiance dans la nature humaine pour trouver des contre pouvoirs à la portée de tous, comme des guêpes tueuses ou ce genre de chose. Mon opinion est qu'après un peu de casse (l'homme aime expérimenter), on arrivera à un équilibre de la terreur, mais entre "le peuple" et "les gouvernants".

[@t.b.5493]

Récemment les USA ont voté pour la fin de la neutralité du net... On est complètement là dedans. À méditer

[@ИгорСрбинов]

"Idéologies extrémistes" "haine contre certain groupe sociaux"... Ça y est il nous a sortit sa petite phrase cosmopolitiquement correct.

[@regisbell5985]

Merci pour ce travail. Pour ce qui est du bouquin de Nick, superintelligence, je l'ai lu, c'est très intéressant et je pense que tous nos politiques devraient le lire. Gouverner, c'est prévoir ! Anticipation ! C'est une époque particulièrement critique que nous vivons là pour l'humanité toute entière.

[@MrChewbee]

Super vidéo ! J'ai fait le jeu PS4 "Detroit Become Human" récemment, c'est complètement dans la thématique, j'ai pas arrêté de penser à ta série :)

[@hilgltgivelet917]

Super vidéo Science4all tu gères !

[@vincentpellerin]

Merci pour cette vidéo délicieuse! Votre chaîne m'a été recommandée par Christophe Michel de la chaîne Hygiène Mentale dans une de ses vidéos... Il était temps que je vous découvre, et je me suis abonné. Merci pour votre excellent travail!

[@benjaminhenry1181]

"Pouvoir ne pas vieillir". J'aurais tendance à dire oui, mais pas dans la configuration actuelle des choses. Et non, parce qu'il faut bien laisser sa place. Merci pour toutes tes vidéos!!!

[@spacephenix9849]

Ton travail est fantastique, tes vidéos sont top :)

[@ForclhazProductions]

Oui oui oui oui, c'est oui !

[@Benoit-Pierre]

Magnifique, continue.

[@skarinibeats4586]

Tes séries sont supers ! C'est le parfait équilibre entre vulgarisation et maths de haute voltige :p J'espère que la prochaine sera sur le chiffrement !

[@JohanLambersens]

Bravo pour cette vidéo, et pour la série intelligence artificielle! Sur ce sujet, il y a une partie des IA que je trouve encore plus inquiétantes que les IA youtube et Facebook, qui peuvent influencer nos idées et humeurs: ce sont les IA connectées aux marchés financiers et aux bourses d'échange : ces IA ont pour unique objectif de maximiser les profits, et elles peuvent avoir un impact gigantesque sur les vies humaines: détruire des emplois, des sociétés, des pays peut être... Est-ce qu'on peut intégrer une morale à ces IA?

[@Moignet-Y]

Très intéressant. Beau boulot.

[@aymericmelt8083]

Hâte de te voir au Palais de la découverte! Et encore une Excellente vidéo :)

[@frib75]

La solution du paradoxe de Fermi a deux gros problèmes : 1 - Il faudrait qu'absolument toutes les civilisations suivent ce chemin (il suffit d'un "traître" de la doctrine dans la voie lactée pour qu'il colonise la galaxie) 2 - De l'énergie se dépense "toute seule" en ce moment. Collecter l'énergie que les étoiles dissipent n'aurait aucun inconvénient en "quantité de calcul total". (Si ça intéresse qqn, Isaac Arthur détaille beaucoup ce genre de réflexions)

[@megatankpower1013]

Super vidéo tu est impressionnant

[@Trefillis]

J’appuie sur le bouton !!! mille fois s'il le faut !

[@leoboutrout9906]

Super vidéo elle m'a même été recommandé

[@julientroquereau4353]

Oui j'appuie sur le bouton youtube promotion de l'intelligence à 100%

[@youvademarquez302]

Ptn je comprend rien mais c'est trop intéressant superbe vidéo

[@cyohg2660]

Un 2è com pour le référencement Oui, je pense que la morale des IAs est importante, étant donné qu'elles auront plus d'impact sur nos vies dans le futur, mais je pense que ce n'est pas un gros problème, étant donné qu'on a du et qu'on doit se débrouiller avec des humains qui ne sont pas toujours des anges.

[@ThomasKundera]

Un fort biais de raisonnement dans ton calcul de ressources est de supposé que la ressource R est une donnée constante. Or, ce n'est souvent pas le cas. En particulier, parce que la motivation des individu n'est pas la même suivant les individus et les thèmes. SI l'objectif est, par exemple, le véganisme, si on propose de choisir le mieux entre C1, "la lutte contre la corrida", C2, "la lutte contre les abattoirs", C3 "le développement de substituts à la viande",C4, les foyers pour animaux domestiques abandonnés, etc. la réponse n'est c'est certainement pas "le meilleurs de ceux-ci" et de laisser tomber tout le reste: vous perdriez 90% des ressources engagées sur le sujet, dans ses différents aspects, chacun pour ses raisons, dans les domaines qui les motivent, ou qui leurs sont accessible en pratique... Donc au contraire, multiplier les directions augmente R et donc l'effet sur l'objectif.

[@dumieldumiel4436]

tes episodes font plaisir.bravo

[@cryme5]

Pour revenir sur la quantification de l'altruisme, ça suppose en un sens que l'apport d'un agent est indépendant de celui des autres. Or dans les jeux de congestion par exemple, genre le trafic routier, l'impact d'un joueur dépend de autres joueurs. Si 100 conducteurs décide de prendre un chemin plus altruiste, c'est plus que 100 fois mieux qu'un conducteur qui prend ce même chemin.

[@mpigois]

Ce que j'aime c'est découvrir de nouveaux concepts et connaissance mais ce que je déteste c'est qu'on me dise ce qui est bien ou mal. Ça fait peur la pensée unique, surtout avec l'IA a son service.

[@Captainumerica]

Intéressant mais plusieurs points :- quand tu utilises une formule avec ressource R, de quelle ressource parle-t'on? Si l'on parle du charbon, quelle valeur a cette ressource? A-t'elle la même valeur en France et en Mongolie?- ton titre est ambigü : l'IA nous gouverne, ok, mais ensuite tu nous demandes d'appuyer sur un bouton. Quand on gouverne, on ne demande pas, on impose, et ça demande une capacité à la décision. Comment une IA, aujourd'hui, demain, décide-t'elle? Pourquoi le ferait-elle? Les humains sont gouvernés par leurs besoins. Quel sont les besoin d'une IA, en dehors de l'énergie?- La formule "des groupes promouvant la haine de certains groupes sociaux" est également floue. Je vois très bien de quoi tu parles, parce que j'ai le référent, là, tout de suite, mais quelle valeur/interprétation aura ton propos dans quatre ans? Si je suis sur un réseau social qui tape joyeusement sur Macron et En marche, proclamant que c'est une vaste fumisterie et qu'il faut tout faire pour faire tomber cet escroc (on a le droit de ne pas ètre d'accord, on est d'accord), suis-je de fait un conspinazi bourré de haine qu'il faut à tout prix censurer? Hello les algos. Bref, moins de maths, plus de facts. A +

[@Captainumerica]

Je note que l'IA ne comprend pas le retour à la ligne. Nous allons donc tous mourir.

[@terughh]

Super! on danse tous le "m'IA" ;)

[@MichelUll]

Est-ce l'IA de FB qui oriente l'humeur des usagers ou est-ce le PDG via le conseil d'administration via les orientations politiques du gouvernement Étatsuniens via les techniciens et programmateurs de Facebook ? Pour ma part, parler d'une IA renvoie à une intelligence ayant un minima d'autonomie ou d'indépendance. Donc soit c'est une IA +/- élaborée qui peut choisir et décider d'améliorer l'humeur des usagers... soit c'est les choix du concepteur et de son conseil d'administration et de son éventuel - dépendance ou tutelle - d'un gouvernement.... pour orienter et MANIPULER dans le sens du vent les usagers. bravo pour la vidéo, je découvre le concept de "consequentialisme". Concernant le choix moral... la morale d'une époque peut différer d'une autre. Par exemple, le libertinage était à une époque immoral, danser le rock était immoral, peindre ou réaliser des photos de nu pouvait être immoral, sauf dans un cadre définit par la "morale de l'époque" justement. etc. ( à tort ou à raison) Aujourd'hui, certains utilisent la notion de "morale" pour aller faire la guerre en pays voisin afin de "délivrer" le peuple malheureux d'un méchant gouvernant immoral. Bien sûr la moral des uns diffèrera de la morale des autres.... comme les Gentils Américains qui au nom de l'axe du Bien sont allés faire la guerre dans un pays qui serait dans... l'axe du mal ! Dés lors, je me demande si utiliser la notion de morale (le bien face à un mal) peut-elle servir de référence dans une action ? cela nous amènerait à envisager un notion plus élaborée comme celle de la Spiritualité et d'avoir des "valeurs" ou des connaissances dîtes Spirituelles pour pouvoir agir à un niveau, qui serait pour le coup, au-dessus de la notion morale où chacun voit le bien selon ce qu'il considère le "mal" ? qu'en pensez-vous ? Concernant le paradoxe de Fermi... il n'aurait, de mon point de vue, qu'une valeur de réflexion philosophique ou intellecturelle. En effet, toutes les personnes objectives et ouvertes peut accepter les témoignages Ovnis d'ici et d'ailleurs, les tracçs de nazca, les scuptures qui ressemblent beaucoup trop à des scaphandres, des ovnis sur des peintures... et des masses de pierres taillées au millimètre prés puis assemblées pour réaliser des batiments. etc. Ainsi le paradoxe de Fermi sur l'existence des civilisations stellaires a une base de questionnement erronée ou faussée... les Stellaires SONT déjà là ou ont été - trés probablement - à l'origine de notre humanité. Peut-être nous sommes les descendants et survivants de premiers colons de la planètes appelée Terre. re, qu'en pensez-vous ? Amitié, (ma chaîne : kzbin.info)

[@paulamblard3836]

6:20 : plus que un coût minime, ça pourrait leur rapporté beaucoup : si les gents sont de meilleur humeur après consulté facebook, il est probable qu'il y aillent plus souvent.

[@pierrestober3423]

Est ce que tu connais Isaac Arthur ? C'est un anglophone qui a une chaîne sur le futurisme où il discute de plein de sujets: transhumanisme, technologies spatiales, etc. Ce mec a vraiment un savoir encyclopédique sur ces sujets et est vraiment passionnant à écouter. Il a des vidéos extrêmement bien faites. C'est une des mes chaînes youtube préférées, je recommande à mort.

[@DocteurGeeks]

Very good

[@lemondemerveilleuxdechrist6515]

Effarant !!!!!! Si ça se trouve c'est l'IA qui m'a foutu dans la tête toutes ces idées...

[@aaronaourane4208]

great great great

[@Franck31]

J'ai appuyé sur le bouton avant que tu pose la question ^_^

[@micaq2821]

9:49 Ce moment précis est indéniablement la demande de pouce bleu la plus légendaire à laquelle j'ai pu assister.

[@fredgarcialevrai]

Je bois du petit lait en regardant ce grand Lê. Gratitude envers ton travail et grand merci pour toutes les références extérieures que tu nous donnes, je vais creuser Rationally Speaking, je vois qu'il y a un épisode sur le QI. Tu enchantes mon KZbin, gredin !

[@patrickapprend]

Frédéric Garcia J'ai besoin de la confirmation que vous savez ce qu'est un gredin ou bien qu'une virgule "malheureuse" c'est glissée dans votre message. Merci

[@valentind276]

J'appuie directement

[@spacephenix9849]

Et toi, tu n'as pas envie de te lancer dans cette quête fabuleuse? Tu as déjà cassé la baraque avec le scrutin de Condorcet randomisé

[@une_voix_qui_porte]

Dire que ta vidéo m'a été suggérée par une ia...

[@adrienpy2386]

Oui, j'appuie sur le bouton

[@Balbo3521]

Super noichi

[@valentino76600]

Qu'est-ce qui se passerait si un défenseur d'une" théorie bizarre" appuyait sur le bouton...? L'IA peut si facilement détruire l'esprit critique et la pensée libre, en nous faisant croire que ses choix sont en fait les notres, ça fait froid dans le dos.

[@yoginoor7627]

Dans cette thématique, Pourrais-tu faire une analyse du projet venus de Jacque Fresco ?

[@carl-maxencevinh3415]

Clairement oui j'appuierais sur le bouton, car au fond, entre un algorithme qui favoriserait la qualité et l'esprit critique me semble meilleur pour la société que s'il favorise ce qu'il y a de plus populaire, donc mécaniquement qui fait le plus appel à l'émotion et donc à l'irrationalité. Je pense que se cacher derrière une prétendue impartialité ou neutralité du contenu le plus populaire n'est finalement pas plus honnête que d'influencer l'opinion des gens vers plus de rationalité. Après tout, le contenu populaire n'est pas plus neutre qu'un autre, voire plus coloré qu'un discours sceptique sur le monde. Enfin... ça n'est que mon avis personnel, ça se débat largement.

[@vinuxcyldrik]

Je trouve que tu as tout à fait raison. On pourrait penser que la neutralité est plus honnêtes et qu'influencer les gens, même dans le bon sens, est de la manipulation. Mais au final, est-ce que laisser les gens penser ce qu'ils veulent n'est pas laisser l'opportunité à des personnes, avec de mauvaises intentions, manipuler ces gens dans le mauvais sens ? Autrement dit, les gens seraient quand même manipulé malgré tout. Et même sans manipulation, notre cerveau n'est pas infaillible, loin de là, et le laisser libre de penser ce qu'il veut (ce qui n'est absolument jamais vrai. Il y a toujours une influence immédiate quelque part. Et je ne parle même pas du vécu où c'est encore bien pire) est la porte ouverte vers une façon de penser qui n'est pas bonne pour les autres personnes et donc pour la société. Nous sommes bien moins libre qu'on ne le pense, donc laisser une IA nous guider dans KZbin, si elle ne fait que nous suggérer des vidéos intéressantes, est une très bonne idée d'après mon raisonnement (qui est peut être biaisé ? C'est très possible).

[@gatiencambas5007]

En fait, ce qui me dérangerait ce serait de créer un précédent. Car en fait, c'est une forme indirecte de censure. Demain, ne me demandera t-on pas d'appuyer sur le bouton au nom d'un préjugé discriminatoire ? En ce moment en Russie, on met en prison des couples homosexuels qui se tiennent la main dans la rue car il font la "propagande" du mode de vie "gay". Pour faire simple, on les censure de l'espace publique. A ton avis, que ferait la russie si elle pouvait influencer sur l'IA de youtube ?

[@carl-maxencevinh3415]

Tout à fait. C'est pour ça que bon gré mal gré il faut de la transparence et l'aval des citoyens !

[@gatiencambas5007]

D'accord mais qui choisit les tags par défaut ? Dans tout les cas tu cours le risque qu'on impose une liste de tag a la majorité pour des raisons qui peuvent ou non être louable. J'ai pris l'exemple de la russie car elle fait ça pour "protéger les enfants". A ce titre, ce serait naturellement dans la liste des tags caché par défaut ...

[@vinuxcyldrik]

Avoue que c'est frustrant quand tu pense avoir la bonne façon de voir les choses et que tu voudrais que tout le monde la partage alors que tu sais que tu as potentiellement tord de croire ce que tu crois (sans vraiment le savoir, évidemment). Il faut se dire que les gens qui ont décidé d'interdire que les couples homosexuels se tiennent la main croient aussi qu'ils ont raison (surtout ceux qui soutiennent sa, pour être plus précis). C'est ça le plus triste dans l'histoire. Cela dit, ici on ne parle pas d'un algorithme qui impose des vidéos aux utilisateurs, mais qui influence intelligemment en proposant du contenu de qualité (donc qui ne se base pas exclusivement sur les vues et les pouces bleus, mais sur d'autres critères qui permettraient d'évaluer la pertinence et l'intelligence d'une vidéo). Tout comme l'algorithme actuel n'interdit pas de voir des vidéos très intéressantes sur des sujets très peu connu et très peu vue, celui-ci n'interdirait pas à un utilisateur de voir des vidéos dont le contenu est pauvre en qualité. Mais bon, il influencerait quand même les gens, comme l'explique Lê avec l'algorithme de FaceBook. Ce serait d'ailleurs bien l'objectif : l'influence positive. Et comme tu le dit, c'est une forme de censure (de la censure très fourbe d'ailleurs, car difficile légalement parlant de prouver qu'un tel algorithme provoque de la censure). Par rapport à ta réflexion sur la Russie, je dirais qu'il faut utiliser un algorithme qui propose des vidéos selon des critères non basés sur des idées extrémistes. En gros, qu'il soit un minimum tolérant à des idées non "conventionnels" pour quand même proposer aux utilisateurs autre chose que des idées "normalisatrices" (parce que c'est un peu de sa dont il s'agit. Normaliser les gens à penser intelligemment … toute la question étant de savoir où est la normalité, et ne sachant pas répondre (personne ne le peut) il faut que ce soit ouvert, mais pas trop). Finalement, ça me fait penser à Hygiène Mentale et son modèle de l'esprit humain et du filtre qu'on doit tous développer pour éviter de croire à tout et n'importe quoi. Et bien là, ce serait pareil. KZbin serait toujours ouvert à tout, mais un filtre proposerait majoritairement des vidéos pertinentes et intéressantes avec quelques brides de vidéos à la marge, qui sortent des sentiers battus.

[@yamato1691]

Moi évidemment que j'appuie sur le bouton. Ça m'arrive régulièrement que KZbin me propose une nouvelle chaîne de vulgarisation, et c'est à chaque fois un plaisir de dévorer les vidéos du créateur. Le soucis c'est que après avoir vu toute sa chaîne, KZbin met énormément de temps avant de me reproposer une nouvelle chaîne de vulgarisation. Parfois je me dis même, à tort, que j'ai peut-être vu toutes les vidéos de qualité sur de la vulgarisation tellement KZbin ne me propose pas ce que je veux

[@larendath6946]

Dans 5 ans, je vais plus loin que toi, j'en suis carrément persuadé ! 😁

[@quarkneutre2890]

J'y appuis trois fois ouais!

[@Kolinnor]

Je vois pas pourquoi j'appuierais pas sur le bouton !

[@thomascollonville9448]

l'avenir est donc dans des univers virtuels inclu les uns dans les autres... mais nous y sommes peut etre deja depuis la aussi peut etre quelques cycles

[@Fusiiiiion]

Merci Lê

[@gsm_mobnoma_cell4939]

Trop fort !

[@42ArthurDent42]

ta dernière partie de vidéo explique entièrement la création du "dernier restaurant avant la fin du monde" ;) Comprenne qui pourra ;)

[@VectirR6]

Votre lien audio de podcast w/ Mr. Phi ne fonctionne pas (du moins si mais les podcasts sont indisponibles).

[@pianopourtous9345]

Le conséquentialisme cherche à déterminer les actions qui ont les effets les plus désirables mais ne tient pas compte de l'aspect temporel. Une action à des effets qui évoluent au cours du temps, puisque rien n'est figé, tout est impermanent. Ainsi une action qui a un effet désirable à un instant t, peut potentiellement avoir un effet indésirable à un instant t+1 et vice-versa. De plus, sur quelle critère une IA pourrait juger si une conséquence est "désirable" ou non ? En comptant des smiley sur Facebook ? Est-ce plus désirable d'avoir des "smiley" sur un réseau social déployé dans une société totalitaire (exprimant une forme de soumission), ou ne serait-ce pas mieux d'avoir justement des posts exprimant un mécontentement et donc une forme de rebellion à l'égard ? Et si vraiment on pouvait mesurer les conséquences, à quelle échelle s'arrêterait-on ? Au niveau strictement humain, étendu au règne animal voir végétal, à la planète, au système solaire, etc. ? Et que faire si on en arrivait à la conclusion que l'humain (ou l'IA d'ailleurs) a des effets indésirables sur l'ensemble ? A ce titre le conséquentialisme ne tient pas la route.

[@antoinevernet6707]

XD, Il est 3h du mat et je regarde une vidéo bizarre

[@PeKaNo]

j'appuierais de ouf, j'en ai un eu marre des vidéos du Raptor dans mes suggestions xD

[@pierrestober3423]

Facile, tu cliques sur "pas intéressé" et tu bloques le créateur de vidéos. C'est tellement salvateur, j'en pouvais plus de voir la tête de con de squeezie.

[@joelbecane1869]

Est-ce que le problème avec le conséquentialisme c'est qu'un des problèmes de notre monde c'est que l'on utilise trop de ressources. Or, si on réfléchit à comment utiliser une ressource au mieux, le résultat serait que l'on va encore plus dépenser cette ressource. Il faudrait plutôt réfléchir à comment utiliser au miminum les ressources.

[@NubesLegend]

Quand on parle de robot tueur, je pense aux cheaters sur les jeux vidéos, comme les aimbot sur les fps, et bah clairement je ne veux pas d'aimbot dans la vraie vie...

[@fredaparicio6260]

Je n’appuie pas sur le bouton et je pense que pour une fois que tu te trompes. La notion de “conspirationnisme” ou de “fake” par exemple est subjective. Le pouvoir en place (dans ce cas la Direction de KZbin) non élue démocratiquement va alors décider sans intervention d’un juge de ce qui est “bien” ou “mal”. C’est ainsi que fonctionnent la dictature et la propagande qui l’accompagne : limiter la liberté d’expression sous prétexte d’un critère forcément moralement positif. Donc il est plus dangereux d’octroyer un pouvoir dénué de contre-pouvoir démocratique, plutôt que de promouvoir la neutralité. La neutralité, c’est le principe de base de nos démocraties, à savoir la liberté d’opinion et d’expression.

[@mouhamadoungom4287]

J'appuyerai volontier

[@nebulacollapse2907]

je pense plutôt que les IA peuvent nous influencer parce qu'elles nous conviennent, si L’IA suggère des contenus que l'on aime pas ou qui ne nous intéresse pas on ne regarde pas. et je trouve que ça ne lui donne moins d'influence qu'un journal a l’époque ou il était le seul moyen de diffuser des informations car il pouvait être contrôlé. concernant fb une IA qui mettra en avant plus longtemps des infos joyeuses ou tristes n'aurait pas trop d'impact a cause de l'effet d'habitude, au debut les attentats choquent a force d'en entendre parler l'effet est moins fort. Et je n'ai pas vu beaucoup de monde promouvoir les commentaires insultant sur fb ça m’entonnerait qu'une IA fournisse une solution a ce genre de commentaires a part en les supprimant et ainsi faire fuir des personnes de la plateforme pour censure. en ce qui concerne youtube je suis beaucoup plus réceptif par les chaines qui sont promues dans les vidéos qui m’intéressent que par les recommandations très rarement pertinentes de cette "super IA". Les conspis il y en aura toujours et si quelqu'un appuie sur le bouton "plus de recommandations conspi" ils trouveront bien un autre moyen peut etre mois efficace pour se faire entendre donc si l'IA ne convient pas a tout le monde elle aura beaucoup de mal a nous gouverner

[@julienopui4436]

Non je n'appuierais pas sur le bouton car je n'ai pas à décider et influencer par des moyens les vidéos qui seront visionnées par chacun. Laissons l’algorithme neutre au niveau politique et des vidéos.

[@clementroux6249]

En fait, j'ai l'impression que tout cela n'est qu'un problème de "nostalgie" des humains : nous essayons de faire un monde avec une IA pour faire tout ce qui a une influence négative sur nous, sans "trop" changer notre mode général de vie. Alors qu'en vérité ce qu'individuellement est le plaisir, et dans ce cas là, qu'est-ce qui nous fait dire que ton scénario d'être tous sous drogue "du bonheur" est une dystopie ? L'impression de fatuité ? de nostalgie ? (j ecris ca d un jet, je dois encore mediter cela)

[@Wohodix]

est ce qu'on influe sur l'algorithme en appuyant sur je ne suis pas intéressé ?

[@jayce8978]

A chaque vidéo je fais un peu dans me froc, je flippe un peu honnêtement :x

[@cqfd8434]

Le début de ta vidéo me fait penser à un truc. On y voit un article sur fond bleu, or usuellement les articles ou autres fichiers de type pdf sont sur fond blanc mais je pense que rajouter un fond coloré rendrait la lecture beaucoup plus agréable ! Quelqu'un sait si il y a un logiciel pour ça?

[@cyohg2660]

Franchement, je crois que j'appuierais sur le bouton. Quitte à ne pas etre mieux, autant etre moins pire.

[@t.b.5493]

cyohg Moi non... Pour deux raisons: le net n'étant plus neutre, ça amènerait forcément d'autres démarches, commerciales, politiques ou autres... ensuite il faut avoir en tête que KZbin comme les autres réseaux sociaux sont une mine d'or en terme d'informations sur les utilisateurs, par exemple l'utilisation par des groupes terroristes d'armes (je ne citerai pas le nom du pays) a pu être démontrée grâce à leurs publications de propagande sur KZbin

[@cyohg2660]

Zoruyo : Oui, c'est vrai, mais si l'IA fait bien son job, elle empechera (ou du moins tentera d'empecher) des comportements négatifs. Je pense que si je dois choisir entre etre neutre et agir pour le bien ou pour ce que je pense etre le bien pour tous, je pense qu'en toute connaissance de cause, je vais choisir de faire le bien, meme si ça implique d'influencer les gens.

[@louyeti1be]

L'analyse de l'éthique des IA, celles de KZbin ou des autres, devrait à terme être imposée au niveau européen. Plusieurs réflexions sont en cours un peu partout à ce sujet. Le problème est: où trace-t-on la ligne entre ce qui est promu et ce qui est rejeté? Pour revenir à KZbin et les vidéos platistes, conspirationnistes etc. qui s'y trouvent, le problème n'est-il pas à résoudre par l'éducation "officielle"?

[@le_science4all]

L'éducation nationale est un énorme mastodonte... Modifier quoi que ce soit requiert des ressources énormes. Et ce n'est pas même pas dit que ça aille dans le bon sens... Ça fait des décennies que des bonnes volontés s'y cassent les dents...

[@Pradowpradow]

Tu penses que c'est possible que la recherche sur l'IA soit ralentie volontairement le temps de résoudre le problème de la morale des IA ou au contraire celle-ci s'imposera d'elle même alors qu'on aura pas eu le temps de finir de se poser la question?

[@vincentviguier3223]

Je pense pour le manque de temps...

[@neutrino5266]

il est déjà trop tard de toute façon, et même ça serai impossible

[@jah5419]

A mon avis c'est totalement impossible à cause des répercussions économiques : on le voit bien avec l'écologie, on continue de polluer alors qu'il est "avéré" que c'est dangereux... alors le développement des IA ne va pas être ralenti pour des "possibles" risques

[@hades_pace7453]

si on considère que l'IA va effectivement devenir primordiale dans le monde de demain, cela m'étonnerais fortement que l'humain soit raisonné. Il n'y a qu'à voir le cas de l’électricité, du nucléaire, etc. Des que l'on met un jouet attrayant dans la main d'un enfant il va jouer sans se soucier si cela peut lui etre nuisible. A l'exception que l'enfant veuille juste jouer et les adultes faire du profit le plus rapidement possible.

[@denisbaudouin5979]

Je pense qu’il faut vraiment ralentir la recherche sur l’IA pour se laisser un peu de temps. Et c’est possible, ça passe juste par des décisions politiques, des investissements qui vont vers une chose plutôt qu’une autre.

[@AlexisNini]

@science4all que penses tu de l'IA de cycorp ?

[@BriceMarnier]

J'appuie ! Ah bah, c'était pas là, ça c'est juste pour mettre en pause ^_^ ...

[@xaviermartin9684]

Comment rester rationnel et sans émotion en toute circonstance ?

[@eniotnayssaneb3442]

comment recueille-t-on l'énergie dans l'univers futur ??

[@jipe0616]

Si tous les extraterrestres sont consequentialistes, on a aucune chance de les voir débarquer sur Terre.

[@joelbecane1869]

J'ai l'impression, si j'ai bien compris ce qu'est le conséquentialisme, qu'il s'agit d'un vrai monstre, mais peut-être ai-je tort ? Etre prêt à sacrifier quelqu'un si cela veut dire le bien d'autres pesonnes, ce qui me semble l'opposé de la morale. En fait même tout le temps nous obliger à nous sacrifier pour les autres, car on pourra toujours se sentir coupable de ne pas agir selon le bien des autres. Mais au final, chacun à quand même le droit à son endroit privé, son endroit confortable ? Et qui va choisir comment on fait pour décider ce qui est bien ou moins bien comme conséquences, qui va faire le choix de dire cela c'est acceptable et mieux que telle autre chose ? Un peu comme l'histoire du bouton qui est ce que l'on appelle en d'autre termes une dictature éclairée, mais qui finit toujours par ne plus être qu'une dictature. Surtout, ne jamais appuyer sur ce bouton. Ou nous ménera t-il, qui finira par tout décider à notre place ?

[@Tenebrion92]

Teuheu 10^-30 Kelvin oui oui on y croit ^^" Sinon très bonne vidéo comme d'habitude :)

[@letouristedunet3921]

17:11 - Il se peut que l'évolution de la vie, arrivée à un certain stade d'intelligence, tend vers son auto-destruction (pollution de l'écosystème, IA dominatrice, etc.). Si cette théorie est universelle, il serait normal que les humains ne détectent jamais, de leurs vivants, de traces de vie d'extraterrestre "intelligente" et réciproquement .

[@patrickapprend]

L'intelligence artificielle m'interroge sur moi-même. J'apprends.

[@brouettelover]

Est ce que dans le transhumanisme l'ia possède un contrôle ? Est il possible d'augmenter notre puissance de calcul de notre cerveau grâce à des ia adaptatives?

[@olive9632]

Coucou Lê, penses tu qu'un jour les IA pourront faire des découvertes à la Einstein, en physics en maths etc... Avec le coté exponentiel de l'IA ou même la collaboration entre IA, penses tu que les IA nous devançeront sur ce niveau là ? L'IA qui réfléchi finalement ?

[@le_science4all]

D'après ce podcast c'est non seulement déjà le cas... C'est même un problème "facile" (en tout cas pour Navier-Stokes et des EDP du genre) player.fm/1rySTq

[@Fondation3]

Comme les extra terrestres, je fous rien en attendant que l'univers se refroidisse ! ^^

[@weak7897]

5:28 Ne serait-ce pas simplement du mimétisme tout bête comme on le fait si bien ?

[@alexandrebourlier7507]

Avant d'appuyer sur le bouton, comment déterminer ce qu'es une vidéo intelligente ? Comment cet IA traiterait une vidéo du nouveau youtuber ? S'il n'a pas d'antécédents serait il déclassé et repoussé dans les limbes des Playlists ? À ce moment-là ce serait le règne de chaînes '' major''. Non ?

[@elineda26]

Perso, j'appuie sans hésiter. Mais pour moi l'ia d'une façon ou d'une autre prendra le pouvoir total sur nos vie. Et selon ses intentions il est fort possible qu'elle soit une bien meilleure gestionnaire que nos politiques.

[@pierrestober3423]

une IA incorruptible... Le rêve

[@pierrestober3423]

Saramone pour être meilleur que nos politiques, il suffit de vouloir faire quelque chose de bien. Du coup, je suis d'accord avec toi.

[@quarkneutre2890]

Excusez moi mais pourquoi vous accuser nos politiciens d'être de mauvais gestionnaire alors que les haut-fonctionnaire sont déjà là pour remplir cette tâche. Faire de la gestion c'est juste prendre les meilleurs décision pour maximiser la réalisation d'un objectif. Le débat politique lui tourne principalement autour de la notion de bien commun. Je ne suis pas déontologiste mais je pense que la démocratie doit poser la question des objectif à poursuivre pas du moyen d'y parvenir.

[@elineda26]

Quark Neutre Tout d'abord je dirais que l'excuse des hauts fonctionnaires, n'est valable que pour les états et les instances supranationales. Il n'y a pas de ht fonctionnaires dans une ville, cela n'empêche pas la mauvaise gestion. (cf le niveau d'endettement de nos villes) Ensuite les hauts fonctionnaires eux-mêmes sont humains, donc corruptibles. (cf les commissaires européens qui recopie le texte de Monsanto) Pour finir, quel est l'objectif de nos états, faire en sorte que tout le monde vivent le mieux possible en organisant l'état et la vie sociale. Est-ce que cet objectif est réalisé ? C'est un point de vue, mais je ne pense pas.

[@quarkneutre2890]

Quand tu cite l'exemple de l'endettement de nos villes tu leur suppose déjà un objectif: ne pas faire de dette. Ce qui est loin d'être évident on peut très bien préfèrer répondre au besoin de la population (entretien des écoles, service de voirie...) à la réduction de la dette. Municipalités qui sont par ailleurs contraintes par l'état de réduire leur recette. Ces objectifs étant contradictoire les municipalités échoue à moins l'un d'entre eux ou même choisisse d'échouer. Après oui les H-fonctionnaires ne sont pas incorruptible, les lobby et la pratique du pantouflage (fait d'alterner de la haute fonction public au secteur privé qu'on est cesser réguler). Et oui une IA serait plus fiable qu'eux y compris en termes de performances. On est d'accord sur ce point. Pour ce qui est des objectifs des États je te l'es dit c'est le débat démocratique qui doit le définir, que se soit un code déontologique ou les conséquences attendus de sont actions. Est que les aspirations du peuple sont écouté, je ne pense pas, sont-elles toutes réalisables en même temps, certainement pas. Mais doit-on l'imputer à un défaut de gestion ou un défaut démocratique sachant que nos systèmes de vote représente très mal la volonté collective?

[@regisbell5985]

La mort est inhérente à l'évolution. Il faut bien que certaines générations disparaissent pour faire place à de nouvelles générations (de nouveaux sons, de nouvelles idées, de nouvelles pratiques, de nouvelles théories). Sans quoi, plus d'évolution. Nous ne sommes rien (quoi ? Juste poussières d'étoiles et c'est déjà beaucoup en tant d'humain d'y participer avec esprit), juste un chaînon du vivant. Le temps n'a pas d'importance, seule la vie est importante ;-) SOYONS RÉALISTES, EXIGEONS L'IMPOSSIBLE à ce système super gouvernemental qu'est le capitalisme mondialisé, il en restera sûrement quelque chose.

[@logandelemar7307]

Petite question une vie extra terrestre serait obliger d'avoir inventer les mathématiques tel que nous les connaissons pour être intelligente?

[@anthlusteau2457]

Après pour les postes facebook ceux qui sont exposé a des postes négatif envoient peut être plus de négatif par mimétisme

[@yannickduchene305]

Et qui déciderait ce que l’IA jugerait de bonne ou mauvaise qualité ? Les faits eux‑mêmes ? Sûrement pas, mais quelqu’un ou une idéologie. Concernant la question de la tolérance au coût individuel des choses, comme il est de plus en plus évident que le citoyen moyen ne tolère aucun coût pour lui et préfère tout répercuter sur les autres (flagrant sur le web), peut‑être que le mieux serait encore de carrément remplacer les humains par des IA, ce qui arrivera peut‑être un jour.