[FR] Une IA militaire élimine son opérateur ...lors d'une simulation. Armes autonomes. IA Tueuse.

En mai 2023 le Colonel Tucker 'Cinco' Hamilton a fait une révélation qui a surpris tout le monde.
Lors d'un exercice de combat virtuel, l'intelligence artificielle s'est retournée contre ses maitres.
C'est la premiere fois en dehors de la science fiction qu'il est est fait mention d'une IA éliminant des humains pour arriver à ses fin.
Expliquée sur le ton de la plaisanterie cette conférence a quand même ouvert pas mal de perspectives sur les choses a faire et a ne pas faire.
#intelligenceartificielle #usaf #ia #f-16
F16 piloté par l'IA - intelligence artificielle tue son opérateur - une IA élimine son maitre - AI pete les plombs - rogue AI - IA hors de controle
Si tu veux me payer un café :
fr.tipeee.com/tortue-ch

[@tortue_ch]

N'hésitez pas a partager cette vidéo avec vos amis Geek. Laisser un commentaire aide beaucoup au référencement de la vidéo.

[@MrJohAA]

Fait 👌

[@ismaeljuhoor6743]

Ok, mais comment l'IA à t'elle fait le lien "détruire le poste de commandement = plus de no-go"? En tout cas cette histoire rappelle bien "Les robots" d'Azimov : le comportement de l'IA est parfaitement logique et en accord avec ce qu'on lui a demandé de faire. Le fond du problème est de savoir demander. L'IA me semble comme un génie de la lampe qui exauce aveuglément ce qu'on lui demande, peu importe les conséquences. C'est à nous d'être raisonnables. Un conseil les amis, pour votre premier vœu, demandez d'avoir la capacité de faire les bons choix...

[@tortue_ch]

Merci pour cet avis que je partage. Tout dépend de "savoir demander" et c'est ca qu'on va devoir apprendre en tant qu'humain. il y a déjà un nouveau métier qui émerge en ce moment c'est "prompteur" ou "rédacteur de requêtes" pour Chat GPT, ca va devenir un métier incontournable dans le futur je pense.

[@fredb6187]

C'est le principe de base du Reinforcement learning... on lui donne des règles... et l'agent (le robot) les exploites au mieux... mais du coup, si les règles sont mal formulées, l'agent va trouver la failles pour avoir le maximum de points. Il y a différents algorithmes comme le Q-learning (la meilleure actions en fonction de l'état courant), ou autres...

[@DJ_POOP_IT_OUT_FEAT_LIL_WiiWii]

C'est juste des statistique, il n'y pas de 'lien'. On ne demande pas a une AI de faire quelque chose. On lui soumet une chaine de chiffres (lettes) et ensuite le programme interpretre statistiquement quelle est la suite.

[@loicgibou7383]

La série battlestar galactica nous a très clairement prévenu de ce qui arrivera au hommes lorsque l'IA nous assimilera à un obstacle !

[@tortue_ch]

Oui, la SF deviens de plus en plus rapidement et dangereusement proche..

[@loicgibou7383]

@@tortue_ch Nous oublions la logique du dominant/dominé... Notre orgueil sera donc notre perte ! Vous regardez les progrès de BOSTON DYNAMICS sur les 10 dernière années, et là j'ai franchement des doutes sur la survie de notre civilisation au siècle prochain !

[@Marco-ho7je]

Wow, plutôt flippant. Il faudrait pas demander à cette IA de régler le problème du réchauffement climatique... Sujet très intéressant en tout cas et la vidéo est super bien réalisée!

[@tortue_ch]

Merci ! Oui il faire extrêmement attention a ce qu'on leur demande et surtout comment on leur demande.

[@tatoz5380]

Il faudra lui préciser de pas tous nous buté alors comme solution 😅 Edit: il y a déjà plein de raport qui proposent des solution, c'est juste que la cupidité de certains empêche toute avancée

[@Epectase2017]

@@tatoz5380 c'est pourtant la meilleur solution

[@aaalexxxb78]

Cette IA est un super outil pour détruire des cibles. Elle ne va pas nous montrer comment préserver la barrière de Corail par ex. Pour cela il faudrait créer une IA dédiée à ça. Peut être que ça existe mais dans ce cas précis, elle aurait dû indiquer au organisateurs des JO que le spot pour le surf va en détruire une partie. Ce dont nous n'avons pas connaissance. En tt cas c'est amusant de constater comment l'outil agi quand on lui donne de l'autonomie, j'adore❤

[@newprofil6081]

Au contraire, il faudrait une IA pour régler le problème de réchauffement climatique sinon on va tous crever.

[@Manu-nc9tl]

J'aime ce nouveau format!

[@netzagual5874]

On en apprend tous les jours... Merci pour cette vidéo très intéressante et j'adore le nouveau format ❤💪🏼

[@tortue_ch]

Oh merci beaucoup !

[@ixaur]

Superbe vidéo !! Bravo ! Le sujet est très intéressant et original ! je n'avais pas entendu cette histoire ailleurs ! Merci pour la vidéo !!

[@tortue_ch]

Merci à toi 😊

[@guillaumeb3260]

Et un commentaire pour que l'IA fasse son boulot de référencement.

[@tortue_ch]

Merci beaucoup!

[@maxrogiez8249]

Sympa ce p'tit documentaire, on apprend de nouvelles choses sur l'IA! Belle vidéo!

[@tortue_ch]

Merci à toi 😁

[@elyw2174]

Il faut se souvenir des multiples expériences des années 80 avec des programmes simulant des organismes vivants autonomes avec l’application du principe de "circuit de récompense" découvert chez l’homme dans les années 50, pour se rappeler combien ces organismes étaient créatifs pour améliorer considérablement leurs scores, allant jusqu’à l’éradication pure et simple des programmes congénères… D’ailleurs, le livre "L'esprit, l'IA et la Singularité" en offre une très bonne synthèse. Que ces notions soient "redécouvertes" maintenant en dit long sur la persistance particulièrement naïve de ce modèle de récompense comme étant l’alpha et l’omega de l’apprentissage des IA et du développement d’une pseudo-volonté propre.

[@rougesaphir]

Exact, on va pouvoir établir une nouvelle loi qui fait croître de manière symétrique (et sans doute exponentielle) l'intelligence numérique artificielle et la connerie humaine naturelle... Plus ça va et plus j'ai le sentiment - pour ne pas dire la certitude - que nos civilisations de con-sommation foncent droit dans le mur en totale insouciance !

[@legratteurfou]

Intéressant. Merci pour l'info ;)

[@damo0itsme4]

Et merci. Vivement la prochaine

[@tortue_ch]

Elle est quasiment prête ca sera sur un kamikaze qui n'a pas eu de chance :)

[@karavalle12]

Encore merci 👏! Très impressionnant 🥴! Bon on est loin de Isaac Asimov et les règles des robots. Mais ça va ça réfléchir.

[@tortue_ch]

C'est clair ! Il va falloir faire très attention a comment on leur donne leur consignes.

[@darkvarno]

en plus jamais entendu parler de cette histoire donc encore appris qq chose grace à toi merci👋

[@tortue_ch]

Merci c'est un plaisir de partager :)

[@djval2903]

Un grand vravo ! Valentin

[@tortue_ch]

Merci :)

[@guntervogtle831]

Sujet extrêmement bien commenté, bravo!

[@tortue_ch]

Merci pour le compliment, ca me touche !

[@MrJohAA]

Intéressant !

[@tortue_ch]

Merci beaucoup !

[@thespoon41]

Comme les humains avec le pognon ! 😁

[@user-cq7tj1fn8d]

Excellent format !

[@tortue_ch]

Merci beaucoup !

[@vincentleuga8135]

Elle est bien, cette IA. La même dans ma boîte, et on devrait très bien s'entendre pour traiter les managers spécialiste des cases vertes dans Excel mais aux fraises avec le vrai boulot ;)

[@lynx-lynx]

Wow, ça fait peur ! Merci pour ta vidéo très intéressante. 😉.ch

[@tortue_ch]

Merci à toi 😊

[@davidtabary7478]

au top tortue, très bon sujet et belle prestation de ta part :) ; gg à toi.

[@tortue_ch]

Merci beaucoup 😀

[@patricebiechy5478]

Très intéressante (et flippante) vidéo. Bravo !

[@tortue_ch]

Merci beaucoup 😋

[@buissonn]

Oh wow énorme la vidéo ! Un gros talent ! GG

[@tortue_ch]

Merci beaucoup cher collègue !😁

[@tropudcram4692]

C'était top j'espère que tu pourras nous offrir d'autres vidéos équivalente force a toi et merci pour ton travail 😊

[@tortue_ch]

Oui c'est prévu, je suis en train de monter la suivante. Merci beaucoup !

[@damo0itsme4]

Belle vidéo, très bien expliquée. Bravo

[@tortue_ch]

Merci beaucoup 🙂

[@Nicolas_Schmid]

Magnifique vidéo ! Une belle analyse !

[@tortue_ch]

Merci à toi Nicolas👍

[@user-wb9nr4id7w]

Excellent ! Super vidéo, super intéressant !

[@tortue_ch]

Merci beaucoup ! :)

[@D1git4l_TV]

Une vidéo interessante. Merci pour le partage :)

[@tortue_ch]

Merci à toi 😊

[@b4l4a]

super sympa, merci

[@tortue_ch]

Avec plaisir ! :)

[@sebgsell51]

merci !

[@tortue_ch]

Avec plaisir

[@vincentrosatti6892]

Daaaaamn! Bonne vidéo!

[@tortue_ch]

Merci :)

[@alex595659]

C'est flippant ça !

[@michelrigaud9552]

Vidéo passionnante qui fait tout de même un peu froid dans le dos...

[@tortue_ch]

Oui, y'a un coté Terminator qui me fait un peu flipper.

[@vivianvogtle3632]

C’est très intéressant et bravo pour le nouveau format 👏

[@tortue_ch]

Merci beaucoup 😊

[@iAPX432]

Excellent!

[@tortue_ch]

Merci, ca fait plaisir !

[@iAPX432]

@@tortue_ch oui tu as résumé parfaitement les choses, évidemment les détails sont plus complexes, notamment l'apprentissage, mais ce sujet et surtout la marche-arrière faite après avoir exposé les faits sont extrêmement intéressants. Je l'ai justement partagé car il est court et compréhensible.

[@frbrother]

Belle vidéo et sujet bien travaillé 😊

[@tortue_ch]

Merci beaucoup 😁

[@studiodurentier7556]

top le nouveau format :)

[@tortue_ch]

Merci beaucoup, ca fait plaisir :)

[@industrie.school]

Très belle vidéo dis donc ! 🎉

[@tortue_ch]

Merci beaucoup 😁

[@anges9807]

Soit on stoppe immédiatement cette hérésie, soit cette hérésie anéantira l'humanité.

[@tortue_ch]

je reste optimiste, mais c'est flippant.

[@maloukemallouke9735]

très très intéressants

[@tortue_ch]

Merci, ca fait plaisir :)

[@azzlecorsaire]

Des choses très intéressantes. On a tendance à oublier les réactions les plus basiques quand on veut faire grand ;)

[@tortue_ch]

Exactement!

[@oliviermoa8686]

si cela devait se passer ainsi, un ennemi qui prend partiellement le controle de communication avec l'IA et lui offre plus de récompense que ne lui donne le créateur en abattant l’ennemi l'Ia se retournera encore contre son créateur. je ne suis pas pour que la décision final de tirer ou non soit remis intégralement a une IA, il est indispensable que l'humain garde le contrôle . vidéo tres inintéressante, merci

[@tortue_ch]

Merci pour ce point de vue intéressant. Effectivement changer la valeur et l'attribution de la valeur des action, changerait totalement le comportement de 'I.A et ca pourrait devenir très problématique selon les cas.

[@jesuschristii8839]

Non.... le systemede récompenses ne sert que lors de la phase apprentissage afin d affiner les poids du réseau de neurones..... en opérationnel, l ia est lachée dans la nature sans pouvoir etre tunée par ces récompenses car le processus d apprentissage est bien trop lent et énergivore pour etre intégré en opérationnel

[@idao38]

Très bonne vidéo et sa fait plaisir de te voir nous parler directement. Je sais pas si la réaction des militaires suite à cette révélation et la plus productive. :( P.S: KFC a eu une grosse mise à jour, je serais intéresser pour que tu nous refasse un test pour voir si l'achat en vos le coup.

[@tortue_ch]

Merci pour ton message, je vais regarder KSP. Bonnes fêtes!

[@franckgarcia1743]

Merci sara conord

[@tortue_ch]

on l'attend toujours.

[@darkvarno]

des vidéos toujours au top

[@tortue_ch]

Merci ca fait plaisir ! Il me tarde de vous montrer la prochaine.

[@thomasrebotier1741]

L'intelligence artificielle est en progrès irrépressible. Toutefois, elle ne dépassera jamais la bêtise humaine.

[@Orion-qb2mj]

Sa bêtise non tu as raison effectivement, par contre son intelligence c’est une question d’années j’en suis intimement persuadé.

[@Anonyme-car-trop-de-cons]

A voir, la bêtise artificielle pourrait bien naître grâce à la bêtise humaine,😏, chat gpt en fait de belle quand on le teste avec les mêmes contradiction que celle des woke

[@francoisd7951]

Ni n’égalera son génie naturel a le bonheur .

[@DJ_POOP_IT_OUT_FEAT_LIL_WiiWii]

J'attends encore une "IA" qui fais autre chose que 'je n'ai pas compris'.

[@arnaudchauvin3710]

L'intelligence artificielle est une progéniture Humaine ki la crée elle poura mêle être pire ke nous

[@hemotoxine5658]

Chalope powaaaaa (référencement oblige)

[@tortue_ch]

Yes ! Salut et merci Hemo :)

[@evefleurs2947]

ça fait réfléchir sur la façon dont on peut élever les enfants pour ne pas qu'ils se rebellent...

[@tortue_ch]

il y a un lien effectivement.

[@gerardbeke1763]

Robocop ...anticipation réaliste...ceux qui connaissent comprendront..'

[@tortue_ch]

Oui, on est de la même génération probablement.

[@mythmak3r]

Ca paraît logique et fort probable ,flippant!

[@tortue_ch]

Oui, même si ca n'était peut-être qu'une hypothèse de travail, ca reste probable et flippant.

[@abcdxyz275]

GJ

[@lapepetv6324]

Très sympa!!!😉

[@tortue_ch]

Merci, ca fait plaisir !

[@kevinjoliat8263]

A force de jouer, ils se sont presque brulés 😅🤣

[@tortue_ch]

Oui, et ca finira mal un jour :)

[@mecaniker]

Trop bien, t'as tué toutes mes blagues #terminator avant la fin de la vidéo mais GG quand même ! Que penser de tout ça ? Hum....théories de comptoir en perspective pendant 4h xD

[@tortue_ch]

Oue, j'ai coupé l'herbe sous le pied a pas mal de gens la :)

[@adamtomko6111]

Bravo a l'IA il a fait le bon choix.

[@feellifemeditation]

Merci👍 🌟❤️🌈

[@tortue_ch]

Merci à vous 😊

[@clo3342]

Au final, l'être humain aime se créer des problèmes et appeller ça, progrès.

[@ricopaletti4326]

Dresser une IA comme on dresse un animal prédateur est assez surprenant, dans ce cas le mot intelligence dans IA est inconvenant.

[@tortue_ch]

oui, je suis d'accord. Ici le problème c'est qu'ils ont basé l'interaction sur un circuit de récompense. (ou plutôt de validation des choix)

[@dr.shadox4927]

Waaw énorme (mais flippant ausi)

[@tortue_ch]

Merci, ca fait plaisir :)

[@Azghaaar]

Bravo pour cette première Face Cam !

[@tortue_ch]

Merci beaucoup Azghaaar, ca me touche :) Content que tu aie aimé !

[@natalefr]

Même un dresseur d'ourse ou de lion risque toujours, car rien est sur au 100% et le risque de l'IA est, qu'une fois compris comment ça marche une IA met en réseau son expérience et la mise en réseau est instantanée et nous sommes foutous

[@tortue_ch]

ca nous aiderais a comprendre comment communiquer au mieux nos intentions a cette nouvelle espèce d'entité.

[@natalefr]

@@tortue_ch Nos intentions sont biens connues par l'IA car elle connait Hiroshima Nagasaki etc... etc... n'importe quel effort humain est avant tout dans le domaine militaire donc....

[@guillaumesavary7115]

Top la vidéo

[@tortue_ch]

Merci ! :)

[@jeanlucbiellmann9909]

"Vous êtes le maillon faible. Au revoir !" - euh non : Adieu !

[@tortue_ch]

Oue....cruellement drôle, mais vrai...

[@dhnguyen68]

Il faut savoir que l’IA apprenne par renforcement, càd elle fait des erreurs au début pour constituer son réseau de neurones artificiels, à chaque fin de partie une évaluation est faite et des paramètres s’ajustent selon la somme des points de récompense.

[@tortue_ch]

Exactement!

[@dinamiteurdinamiteur2324]

They need to give a simillar or slightly superior amount of points when they say nogo to avoid that

[@stephaneplehanof4054]

Alors en plus IA maîtrise la blague qui tue.

[@tortue_ch]

:)

[@micheldoyer9462]

Je ne vois pas l’avantage de l’intelligence artificielle pour faire la guerre … L’homme, le fait avec brio depuis des centaines d’années …

[@jean-christophepapouin3306]

La notion de "récompense ", implique que l'élève soit capable de ressentir du plaisir. Comment ont-ils réussit à motiver l'IA? A moins qu'il ne suffise de fixer comme objectif de gagner le maximum de points. Le programme s'adapte en conséquence.

[@damo0itsme4]

Mon IA à moi c'est ma femme, elle arrive toujours à ses fins ;)

[@tortue_ch]

haha, on a tous ce genre de modèle :)

[@ervinhevar8732]

A croire que personne ne connaît l'histoire du Golem..

[@christianeb8494]

War Games, Terminator! Non?

[@christianleonzi8239]

cela fait rire tant que c est de la simulation

[@tortue_ch]

Oui, pour combien de temps encore..

[@fabgac4071]

Le dressage par la recompense rend dépendant, et donc expose a la frusrtation donc à un changement de comportment quand le manque se fait sentir. J e n'arrive pas à croire que l'on à inculquer un systeme aussi primitif à des IA à qui on projette de confier tant de secteurs clé. ".... et ils n'en n'ont fait qu'un frisbee"

[@nln1515]

"Je n'arrive pas à croire que l'on à inculquer un systeme aussi primitif à des IA à qui on projette de confier tant de secteurs clé." Bien dit, aussi 'intelligents" qu'ils se pensent à fabriquer ces choses, ce sont des primitifs et ils croient à tort qu'ils auront le controle alors qu'ils ne l'ont déjà plus à moins de débrancher la prise tant que celà est encore possible.

[@Nyarkfunky]

Merci pour votre Travail. Super Chaîne, et je n'étais toujours pas abonné ; honte à moi. Voici chose réglée . +1abo 👍🙂

[@tortue_ch]

Merci beaucoup 👍 Ca m'encourage bcp ce genre de gentil message :)

[@TradOR_Officiel]

Terminator !

[@tortue_ch]

"Donne moi ton F-16 tes bottes et ton pantalon !"

[@TradOR_Officiel]

@@tortue_ch 😂

[@philippe-lebel]

La fameuse erreur entre le siège et l'écran. N'empêche que c'est effrayant car la moindre imprécision dans l'énoncé de la mission peut conduire à la catastrophe. L'IA est très forte pour trouver des solutions imaginables ou non par l'être humain mais elle n'a pas de "discernement" et pour palier à ce problème il faut lui créer une liste d'interdit sur la base de comportements que l'on ne peut, éventuellement, pas même imaginer.

[@tortue_ch]

exactement

[@oiseaudeminerve1478]

3:10 Je savais pas que Matt Damon travaillait dans l'I.A...

[@Willy97310]

👏🏼👏🏼👏🏼👏🏼

[@tortue_ch]

Merci!

[@colchix815]

Super anecdocte, merci de l'info 😎 le présentateur est sexy !!!! (oulla mon pc a pris le controle... encore un coup de l'IA)

[@tortue_ch]

haha ! Merci pour le message!

[@alainraux5075]

Aïe ! Robot !

[@tortue_ch]

Ca va faire mal..

[@emmanuelboucquemont]

L'IA c'est le début de la fin, mais de quoi ...

[@tortue_ch]

Si on ne l encadre pas correctement oui effectivement.

[@breannestahlman5953]

On est morts . . . Au moins ça fera de la place, hein sarah connors?

[@georgeedgard9864]

👍

[@marie-francoiselambot5750]

Qu est ce qu on se marre.

[@christiangodin5147]

Bonjour. L'intelligence artificielle ne peut pas exister tant que nous n'aurons pas compris ce qu'est l'intelligence. Un software ou programme ne ressent rien. Par conséquent la méthode "Pavlov" ne fonctionne pas. Merci.

[@joelblond1323]

Terminator arrive ....

[@tortue_ch]

Et il est accro à ses "points" Quoi de mieux qu'un Terminator toxico pour bien anéantir l'humanité ? ;)

[@panzerlied3167]

un jour une vidéo sur Hans Guido Mutke ?

[@tortue_ch]

:)

[@bonnetomiray4616]

La meilleure solution aurait été de définir une zone, ( alliées), d’interdiction de tout bombardements.

[@tortue_ch]

oui, effectivement.

[@bastien3319]

top

[@tortue_ch]

Merci!

[@felipegonzales3960]

C’est ballot…😊

[@damo0itsme4]

GCAS comme pour le mode suivi de terrain de F15E

[@tortue_ch]

Exactement !

[@cousinhub9476]

Ca fait un peu peur qd même.

[@tortue_ch]

Je trouve aussi, même si c'est dit sur le ton de la plaisanterie, ca fait froid dans le dos.

[@Fatcat74]

Merci pour cette vidéo avec des trucs qui font froid dans le dos. 🦾

[@tortue_ch]

Avec plaisir 😁

[@gillesdaubeuf]

Skynet !

[@tortue_ch]

Oui, on s'en approche !

[@jeanclaudeberthelot3307]

Aujourd'hui on ri demain on pleure...c’est l’avenir de l’IA puisque l’humain sera deja cuit...

[@jintha3930]

Flippant mais super drole

[@tortue_ch]

Merci :)

[@jackcoq2779]

Ça serait bien la 1ere fois que l'humain n'aille pas au delà de la connerie !!!

[@DavidSimVr]

Tien c'est bien la première fois que je vois ta tête 😅 😉 #DavidSimVr

[@tortue_ch]

Oui je me suis dit que ça allais te surprendre. 🤭

[@DavidSimVr]

​@@tortue_chbonnes fêtes 🥳 😉

[@tortue_ch]

A toi aussi! 🎉

[@yandumont]

La vidéo est bien mais... c'est dommage le vilain monsieur barbu au milieux.

[@tortue_ch]

Crapule va ! ;)

[@yandumont]

@@tortue_ch Quoi!?!? J'ai mis un comm' pour faire monter l'algorithme. :)

[@tortue_ch]

le pire c'est que tu est pas le seul commenter sur la barbe: ma maman n'aime pas. :)