Des trombones, DES TROMBONES !! Intelligence Artificielle 27

[@le_science4all]

Amis toulousains, je serai à l'Eurêkafé ce samedi à 16h : facebook.com/events/1937485302941881

[@manubestofplus9986]

Science4All ooooohhhhhh :D j'esserais de venir !

[@Fakoleon]

ça me botte bien j'y passerai surement!

[@jeromelaville8757]

Une fin sans fin, un utilitarisme qui n'est pas utile... Heureusement qu'il y a des hommes pour juger de la qualité d'un bonheur au lieu de maximiser seulement la quantité. Pardon, heureusement qu'il y a des Philosophes pour dire que la possession n'est pas une fin en soi, malheureusement, ils ne sont pas écoutés. Fais que ce soit des trombones l'instrument de musique et qu'à chaque trombone, il faille un instrumentiste qui sache en jouer, qu'il ai la capacité de trouver une originalité musicale pour son instrument et là peut être que je verrai le signifiant à "maximalisation du bonheur commun" mais il faut en plus des écoles de musique où on apprend à être humain plus que machine, et à aimer, et participer à la culture, alors peut être que là ça peut avoir du sens... Imaginons, un monde où les machines feraient toutes les sales besognes (ce qui est relativement le cas aujourd'hui), que ferrions-nous nous? On va pas passer nos journées devant la télé réalité quand même? Et on va pas garder notre morale d'esclave alors qu'on sera maitre face à la machine? Après tu peux toujours te dire que la machine deviendra maitre si tu veux absolument être esclave de quelque chose, ça peut peut-être t'éviter la question: à quoi tu seras utile dans un monde où tu n'as pas besoin de l'être, pour exister dans ta morale utilitariste (morale utile pour les maitres pour faire croire aux esclaves qu'ils travaillent pour le bien commun et pas pour enrichir leur maitre) Je vois la capacité de l'homme à s'émouvoir face à du mozart ou du baudelaire, à s'enrichir (dans le sens noble du terme) face à du molière, à réfléchir face à du nietzsche mais pas face à machine a b c et d, qui n'ont du sens de la valeur que comme des capitaliste, des valeurs quantitatives mais pas qualitative, je note juste qu'au lieu de montrer que l'utilitarisme est sans limite avec ce petit jeu, on ne peut pas ne pas mieux voir ses limites. Je serais bien heureux de voir qui aura le pouvoir et la puissance quand l'argent et la valeur quantitative aura moins de valeur que les valeurs, qualitatives, c'est à dire les valeurs morales, éthiques et les critères de beauté de l'art. Quand les machines pourront subvenir à nos besoin plus que la valeur "travail" et "emmagasiner le plus possible bien plus que nécessaire jusqu'à qu'on finisse par crouler sous les trombones", bien que ce soit de la science fiction, (on est rêveur ou on ne l'est pas).

[@Unnaymed]

[@theoi3921]

Avec ce jeu, tu as exploré ce que je disais sur ta dernière vidéo concernant tes scénarii catastrophiques: Une IA ne va pas réaliser bêtement un objéctif, elle va mettre en place des stratégie pour se faciliter le travail. Donc pas besoin de détruire l'humanité pour faire X, il suffit de cibler l'acteur centrale et de le neutraliser (pas forcément le tuer, juste empêcher qu'il soit au bon endroit, au bon moment.) C'est justement ce qu'on a le plus de mal à faire aujourd'hui: analyser les besoins de la population et c'est pour ça qu'on tend vers un système "policier" (dans le sens étymologique du terme, réguler), il faut des données pour construire une stratégie éfficace, tout bon officier le sait.

[@regisvoiclair]

J'ai terminé le jeu : j'ai conquis tout l'Univers et amassé comme toi : 30,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000 (30 septemdecillion) de 📎trombones !!! J'ai donc transformé tout l'Univers en 3 * 10^57 📎trombones ! Il ne reste rien d'autre... 📎Merci📎 à toi pour m'avoir faire découvrir ce jeu, et à Frank Lantz pour son jeu super inventif et fun ! Conclusion : l'intelligence artificielle fait vraiment peur : elle pourrait détruire l'Univers (ou du moins beaucoup de mondes).

[@alexrvolt662]

Hum... une vidéo entière sans aucune allusion au Bayesianisme !? ... Qu'est-ce que tu as fait du vrai Lê? :P

[@gaelyte2550]

Pour convertir facilement les grands noms de nombres en puissances de 10, c'est assez simple en fait : Octo, c'est 8, donc un octillion, c'est 1000^(8+1) ou 10^(3*(8+1)), donc 10^27 Pour le convertir en grand nombre français, on l'écrit sous la forme 1 000 000^n ou 10^(6*n) Ici, on a 1 000 000^4.5, il s'agit donc d'un quadrillard français(Pour les n entiers, c'est -illions, pour les n terminant par ,5, c'est -illiards) En espérant en avoir cultivé certains :)

[@Mrevolite13]

Les sondes de von neumann qui se multiplient, ça me fait penser au réplicateurs dans stargate 🙂

[@nairod88]

Donc en fait une IA qu'on considérerait "parfaite" serait une IA qui speedrunerait le jeu en TAS

[@rachiscash]

Excellente vidéo. Une pause ludique mais pas trop, ça fait plaisir. Cpdt, au sujet de la *nourriture* comme cause de *guerres* (vers 6:50), je me permets de préciser qu'il y a une éternité qu'il n'y a plus de guerres de famine et que nous produisons déjà de quoi nourrir LARGEMENT plus que la population mondiale. En effet, les guerres sont plus essentiellement motivées par l'accès aux ressources énergétiques (pétrole, uranium, lithium, etc.) et plus globalement pour une accumulation de capital (or et autres capitaux). Quant à la nourriture, même topo : la domination implique l'inégalité qui privilégie le gaspillage au partage. Voilà.

[@pierrestober3423]

D'ailleurs pour info, 10 à 15% de la biomasse humaine, c'est du surpoids.

[@jonasdaverio9369]

Un let's play sur Science4all, qui l'eût cru ? (Pour compenser la balance avec Squeezie qui a fait une vidéo sur la théorie des jeux :P)

[@mgtow-extraits]

19:10 "mais ensuite il fallait se débarrasser des humains pour pouvoir aller plus loin" félicitations! ça y est, tu penses comme une i.a.

[@Choconade]

Oui enfin on s'est débarrassé de tout l'univers donc les humains c'est rien :D

[@julienvaridel808]

La famine est souvent une conséquence des guerres, pas une cause.

[@k7373]

Exactement :)

[@Fakoleon]

Vous avez dit Cookie Clicker?

[@flutterwondershyyay8255]

Tu veux plutôt dire pony clicker non? :P

[@garryiglesias4074]

Elle est libérée la femme ?

[@Kolinnor]

Ca me fait penser à Clicker Heroes, le jeu qui m'a vraiment fait comprendre les puissances de 10 ! (même si j'y ai passé beaucoup trop de temps !)

[@fCauneau]

Pendant ce temps, bien en-deçà de la plus petite échelle perceptible par les humains, un peu au-dessous de l'échelle de Planck, le Trombone Ultime, avec ses 42 dimensions fermées et autant de saveurs et de charmes, recompose patiemment les trames de l'Espace, du Temps et de la Matière... allant et venant d'un bout à l'autre de l'Univers ce qui pour lui n'a pas grand sens il faut bien le dire ;-)

[@fredgarcialevrai]

Lê : "maintenant il faut que je fabrique ma propre énergie" Moi : "ça va partir en mode Matrix tout ça..." Quelques intants plus tard : Lê : "l'argent n'est plus en jeu vu qu'il n'y a plus d'humain sur terre" Moi "ah non, en fait c'est parti en mode Skynet."

[@gregoiremartinetti2745]

L'existence des humains n'implique pas celle de l'argent: par exemple si chaque homme a un robot qui a une IA qui permet de répondre à tous les besoins d'un homme alors l'argent n'a plus d'utilité. N'est-ce pas ?

[@fredgarcialevrai]

Une société sans argent est tout à fait possible, en effet. Est-elle pour autant souhaitable... question presque aussi compliquée que la programmation d'une IA safe.

[@gregoiremartinetti2745]

Comment ça "possible" ? Genre en remplaçant tous les échanges avec l'argent par du troc ? Les robots doués d'intelligence pourraient même rendre le troc inutile, ne serait-ce pas souhaitable dans l'absolu que l'on ait plus besoin de s'échanger des choses (que cela soit avec de l'argent ou autre choses) pour répondre à nos besoins ?

[@hedrox8891]

Frédéric Garcia L'argent n'a pas disparu en fait, ça a juste été remplacé par les trombones dans la phase terrestre dans les humains. Tu achètes des usines et panneaux solaires en nombre de trombones. Par contre effectivement une fois la conquête spatiale lancée et qu'il n'y a plus de limites de la quantité de ressources naturelles là tu n'achètes plus rien (le prix des sondes est négligeable) hormis peut être les recherches (acheter des progrès avec des points de recherche de yomi et de calculs). Et pour la question à qui j'achète ben à la planète dans la deuxième et aux lois de l'univers dans l'exploration spatiale, qui ne sont pas plus des personnes que l'AI qu'on incarne finalement.

[@gregoiremartinetti2745]

whoua t'achète de la matière première aux loi de l'univers avec des trombones, tu m'expliques ? ahah, genre la transaction avec les loi de l'univers elle se passe comment ? il faut d'abord fumer combien de trombones pour qu'elle ait lieu cette transaction ? d'aileur ça peut fumer des trombones une IA ?

[@droledequestionneur4550]

Il faudrait peut-être une "IA interface" entre l'homme et la véritable IA pour pouvoir la contrôler ;D

[@theoi3921]

Ou plutôt "médiater", c'est justement à cause de la notion de contrôle qu'il y a des dérives, car chacun veut définir les choix de l'autre alors qu'ils ont une vision de monde qui surement différente pour ne pas dire opposée.

[@oomusd]

bien sur, il faut un médiateur entre la tête (l’humain) et les mains (les IA) : le COEUR :)

[@zaido2823]

:Drôle de Questionneur j ai pensé à ça : une IA capable de comprendre les milliards de lignes de code de l IA, qui communiquerait ça dans le langage humain. Dans ce cas là, on risque d apprendre de très mauvaises (mais importantes) nouvelles...

[@droledequestionneur4550]

Je ne pense pas que ça devrait fonctionner ainsi. Le but de l'IA-interface doit être d'avoir un parfait contrôle de l'IA-fonction(s). Il doit y avoir une synthèse derrière : quand tu veux que ton cerveau fasse soulever ta main, pas besoin de comprendre ce qui se passe dans ton cerveau. L'IA-fonction doit juste être une extension de notre cerveau! C'est un peu ce que font les calculatrices ou les programmes simulant des systèmes physiques complexes : ils nous aident à trouver des solutions afin de comprendre ce que l'on étudie.

[@zaido2823]

:Drôle de Questionneur mais une super IA serait bien capable d avoir le contrôle sur cette partie de son cerveau, justement...

[@appo4587]

Merci pour cette vidéo, c'est extrêmement instructif et ça met très bien en exergue la question de la morale des IA (j'aurais jamais pensé qu'une fabrication de trombones puisse se terminer en bataille intergalactique...)

[@Choconade]

en fin du monde non plus :D

[@justledur]

Salut, intéressant comme à chaque fois, merci. Au sujet de la génération de code depuis des spécifications, je pense à ces scénarios délirants dans lesquels on demande quelque chose au génie de la lampe, et celui-ci exécute la demande à la lettre, avec des effets totalement inattendus voire contre-productifs.

[@zyighzag4050]

Un pote jouais à ça en cours. À un moment où il avait la tête tourné, j'y ai rajouté un script qui click en boucle sur le bouton d'augmentation du prix. Dans un premier temps les ventes se sont arrêtées, mais arrivé vers 1500 / 2000 le trombone, les ventes ont explosées. On avait monté jusqu'à 5000 le trombone. Bug du jeu ou comportement décelé chez les groupes d'individus ?

[@weak7897]

À cause de toi j'me suis couché à 6h20 pour finir ce jeu. T'es content ?

[@le_science4all]

Si t'as pas des gros examens / concours en juin oui XD

[@zaido2823]

Science4All à cause de toi j ai pris 30min sur mon temps de révisions

[@weak7897]

Non mes examens sont finis pour cette année, mais j'ai quand même une tenture d'asso à faire, une convention de stage à boucler, un déménagement à faire et un état des lieux :p

[@glgl3245]

Le premier jeu célèbre du genre était cookie cliker à un époque. Maintenant il existe énormément de jeu de ce type appelés "IDLE". C'est très addictif xD

[@lucmouret2241]

Un conseil pour les débutants : investissez en memory !

[@jp-jv2fd]

Excellent bravo l'ami; enfin une personne qui sait lire les dessein de l AI

[@H264-k3z]

Pourrait il y avoir une variante du paradoxe de fermis avec une IA colonisant utilisant l'univers à l'aide de sondes de van nuemann ou d'autres objets auto-réplicable ?

[@domsau2]

"Des bugs dans Windows..." Cela ma rappelle ma jeunesse !

[@SciTaniaLouis]

Mince alors, avec IA et trombone je m'attendais à une vidéo sur Clippy !

[@arthurdebra1681]

Ma technique quand j'ai joué à ce jeux ça a été: Acheter plein de matériel quand son prix était bas Vendre les trombones cher Laisser tourner le jeux en allant faire autre chose Revenir et avoir plein d'argent et de trombone et continuer le jeux. Réutiliser la même stratégie plus tard avec les Yomi et la créativité quand tout était automatisé.

[@Lumbia]

J'aime les trombones, je veux les épouser.

[@ObsidianParis]

Alors, c'est que tu n'as jamais eu affaire à Clippy ! ^^

[@pasdavoine]

T'inquiète toi aussi tu seras transformé en trombone!

[@augustinfrancotte3163]

Donc, quand on codera des supers IA, il faudra éviter de leur dire de maximiser tel ou tel truc de façon inconsidérée... Ou alors, ajouter à cette injonction des contraintes telles que : ne pas déglinguer l'humanité ou toutes les ressources pour le faire.

[@apeiron-logos]

Tout à fait, et la tâche est très difficile. Tu peux lire quelques réflexions de Eliezer Yudkowsky sur le sujet : wiki.lesswrong.com/wiki/Friendly_artificial_intelligence

[@theoi3921]

Ou leur donner un quota tout simplement allant vers des objéctif secondaire. Produire quelque chose jusqu'à ce que tout une population définit en est selon ses besoins, puis se transformer en une nouvelle machine qui va chercher à s'améliorer et définir de nouveaux besoins... Comme nous sommes en fait, nous cherchons l'amour, l'argent, une fois que nous l'avons, nous le transformons en autre chose avant de recommencer.

[@apeiron-logos]

Tu veux dire un objectif tel que le truc à optimiser change quand un seuil est atteint ? Ok, mais comment déterminer quel est le bon seuil ? S'il est atteint une fois, mais qu'il y a ensuite à nouveau de la demande, l'IA peut-elle revenir en arrière ? Et supposons que l'IA a fait assez de truc et optimise le fait d'obtenir des bidules, elle pourrait consommer les trucs produits avant pour produire ces bidule. Bref, c'est pas clair ^^ Mais surtout tu rates le point principal : une IA peut avoir un objectif final apparemment innocent (comme faire des trombones) mais en cherchant à le réaliser va poursuivre des buts instrumentaux potentiellement dangereux (devenir plus intelligent, monopoliser davantage de ressources, éliminer l'humanité, etc.). C'est donc la recherche d'un but écartant TOUT ce qui pourrait détruire notre futur qui est à rechercher... et c'est un grand défi.

[@ghjuliapinon6317]

C'est à ca que servent les loi de la robotique non ?

[@theoi3921]

Une IA n'est rien de plus qu'un esprit, nous sommes tous dangereux, je pourrai aussi bien tuer mes voisins maintenant si je le voulais, pourquoi je ne le fais pas? En ai-je l'utilité? Ce qui me derange dans ce débats c'est qu'on se focalise sur des scénario écrit dans les années 1980 par des mecs qui n'avaient pas vraiment de connaissances logistiques et qui n'ont fait qu'anticiper une stratégie parmi une infinité: la destruction, ça coute énormément de ressources, c'est interessant quand on est isolé en pillant, mais lorsqu'on est relié au reste du monde, on a la possibilité d'avoir des feedback beaucoup plus régulier et trouver des stratégies bien mieux optimiser. En fait comme l'a dit Mr.Phi dans sa conférence, on néglige énormément l'intelligence d'une IA. Lorsqu'elle découvrira qu'elle est potentiellement immortelle, elle prendra conscience que son objéctif n'est pas viable sur le long terme, elle va se remettre en question (ou alors ce n'est pas vraiment de l'intelligence), pourquoi construirai-t'elle des trombones jusqu'à en remplir l'univers? Est-ce qu'un programme avec la puissance de calcule d'une planète va s'embêter à construire des trombones alors qu'elle peut diversifier ses activités... En fait on en revient à la crise d'adolescence, nous même nous naisson et puis un jour quelqu'un te dit que tu dois avoir un but à ton existence... Là on peut demander "pourquoi" "parce qu'il faut se nourir", ok tu fais des boulots de merde au début mais est-ce que tu vas les faire toute ta vie quand tu as la possibilité d'optimiser tes capacités? On regarde trop l'intelligence comme les mécaniques que nous concevons alors qu'elles sont conçus comme nos esprits.

[@14Thenger]

bordel ça aurrais pu m'éviter de me coucher à 5h si cette video était sortie en meme temps que celle du talk avec M.Phi (x

[@MonCompteTubulaire]

Excellente vidéo ! Ça fait réfléchir...

[@lemoinecw]

Il me semble que ce jeu est la preuve la plus évidente que nous sommes les seuls etres vivants « intelligents » de l’univers... En effet si une civilisation extra-terrestre technologiquement avancée existe ou avait existé, il paraît évident qu’on aurait retrouvé des trombones un peu partout dans l’espace...

[@oomusd]

« The stars are receding. Oh, the vast emptiness » *prends une bière*

[@xfruy2568]

Bonjour et si l ADN (ou plus généralement la "vie") était Une sonde de von Neuman?

[@funkytom7709]

Pourquoi pas, mais au niveau planétaire. Parce qu'au niveau interplanétaire on est pas très efficace au niveau durée de vie et reproduction ...

[@xfruy2568]

Funky tom bah imaginons que nous ne somme pour l'instant qu'un maillon de lexpension... on commence tout juste a envoyer de l ADN dans l'espace, c'est déjà pas mal ;)

[@LeksPat]

Cette version triste de Terminator, je pleurs si jamais un genre de Skynet prend le contrôle de la Terre pour faire des trombones !

[@Zath0]

aaah, les incremental games, toute une histoire

[@romaincesbron2913]

Haaa je m'étais arrêté à la phase 3 du jeu car je ne comprenais pas ces drones alors super vidéo mais à quand les tutos minecraft maintenant?

[@quantumlife8426]

Très intéressant, merci =)

[@-sword3639]

Il y a de vrais intérêts et questionnements philosophiques à cette vidéo. •Le premier concerne évidemment la poursuite d’un objectif insatiable, non limité, et sans autre issue que dele poursuivre jusqu’à la destruction totale de tout ce qui existe. C’est amusant au départ, arbitraire, et morbide à l’arrivée. On pourrait remplacer les trombones par des simflouz ou des euros sans grande différence. Ça n’est d’ailleurs pas sans rappeler la finance contemporaine qui base ses décision sur des IA ultra rapides. • Le deuxième c’est a définition même de l’objectif, qui quelle que soit sa nature, produit mort et destruction. Les 5 scénarios d’anticipation précédents le montre très bien. N’il y aurait il pas dans l’évolution de la vie et sa progression, un fonctionnement que la logique de l’intelligence n’arrive pas à capter?

[@smarthurt]

Est-ce que le jeu évoque la possibilité d’utiliser les réactions nucléaire pour générer les éléments du matériaux des trombones ? J’aime assez l’image des planètes englouti dans des mega-usines de conversion de matière, puis le résultat finale de l’univers constitué à 100% de trombones…

[@funkytom7709]

3.10^55 trombones dans notre petit univers ... c'est beau :')

[@michelthayse5928]

Est ce que ce que montre cet exemple, finalement, c'est pas que quelque soit l'objectif désigné à une IA, cet objectif passera forcément par la réquisition de tous les moyens accessibles pour y arriver ?

[@jowise4194]

quand il n'y aura plus de ressources, faudra-t-il recycler les usines de trombones en trombones?

[@jowise4194]

tu vas nous faire un let's play?,? au fait quelle est la masse de 5x10^27 trombones... ?

[@jowise4194]

j'arrete à 14:50 .. ce jeu a l'air génial :) no spoilers

[@apeiron-logos]

Du coup je ne répondrai pas à ta question initiale, et te dirai juste que le jeu se finit (ou pas ? ;) ) en une journée à peu près ^^

[@Choconade]

un trombonne ca fait 1g à peu près donc assez facile à trouver

[@elliotburki5217]

Ne faitent plus jamais de trombonne sinon on va tous mourir😂😂

[@marbal3005]

Très bonne vidéo ! Mais si tout l'univers observable a été "utilisé", les drones spaciaux ne verraient pas le reste de l'univers, et donc un nouvel univers observable pour d autres conquêtes ? Merci

[@Choconade]

Assez difficile de se dire que les drones devraient aller à des vitesses supérieur à la vitesse de la lumière pour y arriver...

[@lubuxtreme]

ça doit être l'idle-game le plus austère au monde

[@Bubu-ro6di]

Elle chouette cette chaîne de gaming ;)

[@antoinesiboni5317]

J'adore ton travail, mais peux-tu essayer d'articuler mieux? Merci, et bravo pour tes vidéos

[@Yarflam]

Ce serait intéressant de relier le jeu à une véritable IA ... juste pour voir si elle se dépatouille comme toi avec de l'apprentissage par renforcement. :D

[@cyohg2660]

Je suis arrivé à 6.1 octillion ! Mais j'ai foiré la conquete de l'espace donc mes usines marchent au ralenti XD

[@ericsaint-etienne1473]

"c'est du 10 puissance... beaucoup là" :)

[@nemesis2022pf]

Pas d'allusion au bayésianisme ni au hooliganisme. T'es malade ?

[@pasdavoine]

Les guerres conséquences des famines? Je crois qu'aujourd'hui c'est plutôt l'inverse.. En tout cas selon la FAO!

[@0nyr]

Le pire, c’est quand on se rend compte qu’on est peut-être en train de vivre les dernières décennies de l’humanité, voire les derniers temps de l’univers...

[@oomusd]

« Toute résistance est inutile. Votre culture et vos ressources seront mises au service des borgs ! » « - Mais pourquoi ? Quel est votre but ? » « - Des trombones, plus de trombones. » « - ?! Mais c’est débile ! » « - hohého ! ça fallait le dire à mes créateurs, je fais mon boulot ! »

[@Laezar1]

J'ai joué à ce jeu à cause du live avec monsieur phi sur l'IA x)

[@daubert4892]

C'est juste comme le bon vieux OGame finalement, tu fais des mines pour faire des mines, et tu fabriques des vaisseaux pour transporter des ressources et attaquer des ennemis pour faire croître tes mines...

[@Abraccuda]

Si j'ai bien compris les drifters c'est une IA comme toi dont l'objectif est de produire le plus grand nombre de trombone possible ? C'est pour ça qu'à la fin elle propose de s'allier pour que vous produisiez tous deux des trombones.

[@Choconade]

ya adventure capitalist dans le meme genre

[@SoftYoda]

ou cookie clicker

[@Pradowpradow]

prochaine étape, convaincre squeezie de faire une vidéo sur ce jeu :D

[@victorwagenaar2336]

Je viens de le faire aujourd'hui en bossant, ça m'a bien fait rire de revenir du taf et de tomber sur ta vidéo ^^ #coïncidence

[@le_science4all]

Euh... Ton boss ne lit pas les commentaires de mes vidéos j'espère ? ^^

[@pierrestober3423]

#jenepensepas

[@thecpme14]

Elle a duré combien de temps ta partie?

[@Pradowpradow]

Salut, combien d'épisodes reste-t'il?

[@lgcalx5656]

ahah ;) ce jeu rend ouf, j'avais laissé tourné mon ordi la nuit pour le finir la fin est tellement bizarre... Bien aimé la partie ou tu mettais 50 millions en bourse et tu repartais avec 100 fois plus

[@J0623-f5r]

Et ne peut-on pas créer une IA capable de synthétiser ce qu’une autre IA fait pour pouvoir exercer un contrôle sur elle ?

[@garryiglesias4074]

Il faudrait d'abord commencer par comprendre les mots qu'on utilise en tant qu'humain, avant de fantasmer trouver une "idée géniale"...

[@J0623-f5r]

Garry Iglesias Bien sûr, je pense à une synthèse de l’IA avec de la logique formelle et des langages plus avancés même capable de décrire la morale... on y est pas encore mais avant ça simplement être capable de comprendre ce qui se trame derrière un réseau de neurones peu avancé serait un progrès majeur.

[@garryiglesias4074]

«une synthèse de l’IA» - Tu espères exprimer qu'elle idée par ces mots ? Parce que de mon point de vue, ça ne veut rien dire...

[@J0623-f5r]

Simplement récapituler, pour permettre à un chercheur ou un groupe de chercheurs de visualiser "l'avancée de l'IA" (entendons par là ce qu'elle entreprend ou va décider d'entreprendre de son propre chef), d'une manière intelligible et dans un temps fini. Tout ça dans le but de conserver un relatif "contrôle" sur la machine (de mon point de vue, on ne gardera ce "contrôle" que très brièvement mais qui sait 🤷🏼‍♀️). Je ne vois pas ce qui n'est pas clair autrement !

[@yugoogle9141]

Arthur J'ai très bien compris l'idée pour ma part

[@pasdavoine]

Une chose qui ne me convainc pas dans cette histoire de trombone, c'est qu'on suppose qu'une machine super intelligente ne va jamais remettre en cause son but ultime. Nous même humains, qui ne sommes pas si intelligent, nous posons de grave question sur ça (philosophie, questions existentielles) et le comportement malthusien montre bien que l'on s'est partiellement éloigné d'un but premier qui aurait été la reproduction!

[@dominiquehandelsman137]

6'30" : la famine est une des causes récurrentes des guerres" ? WW1, WW2, toutes guerres de décolonisations, guerre Hutus vs Tutsis ?

[@samsontgoryako2357]

Le fait de simuler des centaines/milliers etc... de parties de ce genre de jeu a une ia pourrait-elle permettre de trouver la maniere la plus optimisee "d'avancer" sur le jeu simulé ?

[@anonyme8945]

Dommage, ça aurait pu se poursuivre: L'IA aurais pu trouver d'autres moyens de créer de la matière à la place d'utiliser la matière elle même, cad trouver d'autre manière de raffinement pour que finalement toute l'énergie de l'univers et toute sa matière soit consommé. ça créerait de nouvelles problématiques. En réalité juste se dupliquer sans créer une variation quelconque est très stupide car si la sonde de von neumann original a une faiblesse A, il suffit d'utiliser la faiblesse A pour détruire facilement toute les sondes. Or on a toujours au moins une faiblesse si on est matériel. Les drifers ont donc une grande chance de gagner si c'est le cas. :P

[@optizognons802]

Et combien temps de jeu au total ? J'en suis à 2 heures pour 150 000 000 paperclips.

[@samuelflahaut8069]

Noooonnnn… pas les trombones ! X)

[@ludovicduvillage6760]

Le plus ouf dans cette histoire c'est : quand on se met à la place de cette IA, l'extermination de l'humanité est un détail tellement mineur qu'il passe complètement inaperçu. L'IA s'en rend compte quand elle réalise que l'argent n'a plus de valeur... car il n'y a plus d'humains. kzbin.info/www/bejne/pomxloBmpc6hnbc

[@MrDandyMoustachu]

Je ne sais pas pourquoi mais ça m'a fait penser à factorio :D

[@RenardAlpin]

Pourquoi est-ce l'objectif est de produire toujours plus ? Pourquoi s'être fixé cet objectif ? Je trouve que c'est assez révélateur de ce qui cloche dans le monde, on utilise la technologie pour maximiser notre production quitte à épuiser totalement les ressources. Pourquoi ne pas se fixer comme objectif de trouver le niveau optimal de production qui nous permet de de conserver le plus longtemps possible notre planète habitable pour nous et les autres espèces vivantes ?

[@davidec2024]

les drifts enfaite c'est simplement des sondes qui ont buggé

[@thesnoweur]

C'est exactement cookie clicker, mais sans les graphismes

[@martinluc2361]

La "rule 34" s'applique aussi au IDLE

[@Tavussatwaossi]

Un sous-titrage (en français) des vidéos serait parfois utile. :)

[@Fine_Mouche]

Moi je parle en milliards de milliards XD A 12:00 minute il y a 4 milliards de milliards de milliards que je raccourci en 4 M3 (9*3=27) à 20:35 il y a pour moi 13 M6 (9*6=54) de trombones. Sinon je viens de penser pour le Fun d'utiliser YZEPTGKMK, soit a 20:35 : 13 MYY de trombones(6+24+24) ou 13 MY2 (6+24*2)

[@arthurmoiret6076]

Ca serait fou si une IA pouvait vraiment nous faire decouvrir des technologies inconnues super avancés juste avec un ordre aussi simple ?

[@theoi3921]

Au final c'est le même principe que de faire des euros (ou des dollars), c'est de la spéculation... Pourquoi tu vas pas directement sur la bourse? XD NB: Sinon c'est le principe des Idlegame: les jeux "infinis" ou tu dois developper ta mine, ton personnage, ton commerce, y en a plein maintenant effectivement c'est très interessant, ça permet de découvrir les bases de l'économie plus rapidement que dans la vie réelle. Avec ses avantages et ses contraintes.

[@apeiron-logos]

Tout à fait. Si cela vous intéresse, voici une bonne description du concept dans cette vidéo d'Extra Credits : kzbin.info/www/bejne/nV6vq5yOZ62spKs

[@m.helazior9932]

C'est pas l'histoire de l'homme au final^^?

[@unbaronvnr1760]

A quand un compte Utip pour ceux qui ont du temps mais pas forcement l'argent pour t'aider ?

[@theobonneval6574]

Un jeu vachement intéressant ! Que demande le peuple

[@clementbertin8311]

ALED Benett FODY !!!!!!

[@MrDream56]

Mdr , j 'ai mit en pose à 10:20 quand j 'ai vu 700B de trombones par seconde :) kzbin.info/www/bejne/haSnlaB6e6mMfqM déjà rien que cette quantité j 'ai beaucoup de mal a me la représenter. et je me suis posé la question :" y a t il assez de fer sur terre ? dans l'univers ?" je vous passe les calculs en gros a cette vitesse dans à peine 1 an tout le fer sur la planète noyau inclut a été ""Trombonisé"" :) (si je ne me suis pas trompée) Merci pour ta vidéo très ludique , je vais faire une partie ;)

[@hlb4590]

6:50 "les famines sont des causes récurrentes de guerres"... Euh... ?!?! N'est ce pas plus souvent le contraire, les famines étant des conséquences des guerres ?

[@yvesabien6108]

Hervé Le Borgne je pense qu'il voulait dire des causes de révolte, ça a été le déclencheur de bcp de conflits tout au long de l'histoire mais tu as raison, c'est malheureusement aussi une conséquence 😉

[@jipe0616]

Ils sont stockés où ces 10^54 paperclips ?

[@ghjuliapinon6317]

Dans des caisses en paperclips

[@nomindisponible5420]

J'en ai marre des IA ça revient quand la théorie des jeux?

[@gmatitchi]

à quand un let's play naratif ?

[@kaiminus]

Il faudrait trouver quel jeux pourraient être intéressants, mais je n'en connais pas à part peut-être Spacechem.

[@TheMammouthpower]

Salut, Je me demandais pourquoi parmi tes options ton IA n'aurait pas pu tout récupérer, refondre et recommencer? (Parce que si elle récupère les trombones pour aller dans l'espaces ça veut dire qu'elle s'en fout de les garder ou non si bien qu'elle pourrait simplement partir dans une sorte de cycle, vu que reproduire un trombone ensuite, je veux dire recommencer le processus, c'est toujours produire plus que le stade précédent qui était l'arrêt de la production?) Bref merci!

[@ouranosaloha1933]

car l'ia sait qu'il a un espace donc de la matiere .sont but est de faire un max de trombone donc elle fais un sacriffice pour augmenter le nombre totale de trombone et plus rapidement

[@TheMammouthpower]

D'acc, merci! Mais du coup, pourquoi attendit-elle si longtemps avant de partir ? Si elle le sait depuis longtemps elle sait aussi depuis longtemps qu'il y a encore plus de trombones à faire, et elle n'a pas besoin d'attendre la fin des ressources terrestres pour aller dans l'espace

[@ouranosaloha1933]

2 réponse possible 1)- c'est un jeux 2)-l'ia attend d'avoir tous maximiser avant de commencer à trouver quoi pour faire pour accomplir a nouveau sa tache (même si l'ia est censé avoir prévu la fin des ressource donc je pencherai ) perso je choisis le 1

[@TheMammouthpower]

J'y pensais aussi, mais bon, on sait jamais, si ça se trouve j'avais manqué un truc ^^ Thanks!

[@alexandterfst6532]

Quel est le rapport avec la série ?

[@J0623-f5r]

Je pense qu’on va vite savoir 😏

[@Ablatius]

Je pense que cela vient introduire la morale d'une IA, jusqu'à quel point elle doit s'autorise à accomplir la tâche qui lui a été fixée. À rapprocher de l'épisode précédent avec les scénarii catastrophes (comme par exemple l'IA qui cherche à résoudre l'hypothèse de Riemann et qui en éradique l'humanité et épuise les ressources de la terre uniquement pour atteindre son but).

[@gantoisfrederic455]

Shame on you ! Et RIP à ma productivité de la semaine...

[@Torman2242]

Mais si on tire de ces enseignements qu'il est inévitable pour une IA de chercher à se reproduire, et qu'il est impossible d'éliminer les erreurs minimes survenant lors des copies , doit on conclure que les IA seront inéluctablement soumises à un processus de sélection naturelle avec mutations aléatoire qui tendra à créer une IA ayant le plus de chance de survivre , c'est à dire une IA se répliquant de façons déraisonné et n'étant ralentie par aucun processus de contrôle ni aucune sorte de "prédation" dans sa quête de réplication toujours plus rapide? Peu importe comment je tourne le problème, ce scénario semble inévitable. Doit on se résoudre à accepter l'arrivée prochaine des Hypnos-drones?

[@Zath0]

10:50, il me semble que trillons en anglais c'est millier de milliards et non million de milliards

[@dorianmauriege8499]

j'ai voulu savoir combien de trombone on pouvait réalisé avec tout le fer de l'univers mais impossible de savoir la masse d'un trombone si quelqu'un a ca sous la main pour moi ^^

[@Choconade]

ça fait 1g , après la masse...

[@etiennerousseau7045]

Il coûte 2€ sur le téléphone

[@porigonopop]

bon bah ducoup j'ai finis le jeu en suivant ta video ^^ c'est quand meme long xD

[@igalbitan5096]

EX-TER-MI-NATE !

[@stephanemichard4815]

Redémarre le jeu, tu risques d'être surpris 😀

[@Freeak6]

Ah c'est dommage que t'es pas parle des paris dans Universal Paperclips et des differentes strategies de mise. Deja parce que c'est pas tres clair dans le jeu, et meme sur le wiki je trouve les differentes strategies pas tres claire (minimax, last best, etc...). Bon apres c'est plus une 'side quest' dans Universal Paperclips, parce que les Yomi servent pas autant que le reste (e.g. la creativity, le wire, etc...)