Ukraine : ma porte-parole est une IA - Le dessous des images - ARTE

[@Maxime-fo8iv]

"Si OpenAI encadre scrupuleusement l'utilisation de ses logiciels, depuis le 14 août dernier, la version 2.0 de Grok [...]" En tant qu'étudiant en informatique spécialisation IA qui essaye de rester informé de ce qu'il se passe dans le monde de l'IA et des problématiques de sûreté de l'IA, je tiens à souligner que cette phrase élogieuse sur OpenAI me paraît trompeuse. En effet, même si OpenAI met souvent en avant ses préoccupations pour la sûreté de l'IA (AI Safety), il me semble que l'avis des chercheurs en IA indépendants est généralement que la sûreté de l'IA a généralement un train de retard sur les performances de l'IA, et que prétendre prendre au sérieux la sûreté de l'IA sans vouloir mettre le moindre coup de frein à l'avancée de l'IA est assez hypocrite. Je qualifierais même cela d' "AI Safety-washing" (en faisant un parallèle avec le greenwashing). Et ce ne sont pas des paroles en l'air, puisque cette année en 2024 l'équipe chargée de la sûreté de l'IA chez OpenAI a implosé, avec notamment le départ des têtes de l'équipe. Jan Leike a justifié son départ dans un tweet (voir article de Vox) : "Ces problèmes sont assez difficiles à résoudre, et je crains que nous ne soyons pas sur la bonne trajectoire pour y arriver. Au cours des derniers mois, mon équipe a navigué à contre-vent. Parfois, nous manquions de puissance de calcul, et il devenait de plus en plus difficile de mener à bien cette recherche cruciale.". Bref, il est parti parce qu'il lui était impossible de travailler sérieusement à combattre les dangers de l'IA, et ceci s'est passé chez Open AI qui est, comme c'est très bien souligné dans la vidéo, le "leader et précurseur sur le marché de l'intelligence artificielle". Ne me croyez pas sur parole, je vous recommande plutôt de lire un de ces deux articles, qui couvrent ces événements : - “I lost trust”: Why the OpenAI team in charge of safeguarding humanity imploded - article de Vox - OpenAI’s Long-Term AI Risk Team Has Disbanded - article de WIRED Ce n'est malheureusement pas un problème isolé, en 2021 Google a démantelé son équipe d'éthique de l'IA. Je recommande cette excellente vidéo qui parle du problème : - "Google démantèle son éthique (et tout le monde s'en fout...)", de la chaîne KZbin Science4All qui est tenue par un excellent chercheur français qui a notamment travaillé sur la sécurité de l'IA (actuellement il s'intéresse plus aux algorithmes de recommandation et à la cybersécurité)

[@TheCassbob]

Je comprends pas très bien en quoi vous voulez en venir

[@alexpirine]

Il y a aussi pas mal de modèles open-source qui sont utilisables librement, indépendamment des choix des entreprises comme OpenAI.

[@DismalProd]

Merci

[@toto7571]

Oui, la sécurité de l'IA n'est pas infaillible, mais on peut clairement pas dire qu'ils ne font pas d'efforts pour rendre l'IA plus "éthique". Etant dans la cybersécurité, il arrive assez facilement que l'IA refuse de donner des infos de peur qu'elles soient utilisées à des fins malveillantes. De plus l'autre jour, je me suis rendu compte qu'elle refuse également de créer certains contenus liés à des copyrights (essaye par défaut de demander un contenu basé sur Mickey ou autre, tu verras). Oui, ça peut être contourné, mais non, on peut pas critiquer le manque d'encadrement.

[@Prionailurus_viverrinus646]

@@toto7571 À partir de petits exemples personnels, vous nous dites qu'il y a un peu de limitations : super ! Est-ce que ça veut dire qu'il y a *assez* d'encadrement ? Non. Il nous explique que le danger est tel que l'équipe chargée de la sûreté de l'IA chez OpenAI a implosé, par manque de moyens pour mener leur mission : vous êtes peut-être plus compétent que ces ultra-spécialistes en sûreté de l'IA ? Parce que vous avez une IA qui ne peut pas reproduire Mickey (d'ailleurs vous avez essayé avec Grok ?), vous pensez que l'IA en général ne représente aucun danger ? "Circulez il n'y a rien à voir" ? Réfléchissez un peu svp.

[@olivierblaize8813]

Ce que je retiens de votre reportage c'est que nous sommes entrain de nous habituer à l'idée d'écouter des logiciels nous décrire des événements politiques et donc réels...Absolument passionnant et terrifiant en tout cas pour ma génération. Bravo pour votre travail ❤❤❤

[@edyjo3025]

Imagine un seul instant cette is est piratée en direct et on lui fait dire autre chose ?

[@fredl7768]

Ce que je rêve moi c'est de saouler une IA pour voir si elle va vomir après.

[@jefdelacratie6921]

Saouler ok mais existe t il de l'alcool virtuel.... à part Hanouna.. et autres imbibés du paysage médiatique

[@Tz1999]

Merci, très intéressant

[@corinnelaurent7479]

Essentiel. merci pour votre excellente émission. A quand des cours de décryptage (y compris scolaires) pour distinguer le vrai du faux sur le fonds ! puisque la forme va de plus en plus nous berner...

[@PaulineBoudou]

Une enquête de la vraie journaliste 😂 Merci pour votre émission, à chaque fois c'est super bien réalisé 😊🙏🌹

[@dessousdesimages01]

🫶

[@victoriacitoyennedumonde6357]

Notre besoin social est réel, l'être humain a survécu en meute, on a instinctivement besoin d'interaction avec autrui. Les riches, dont les inventeurs d'ia, nous ont divisé et nous ont donné de quoi nous combler. Si on accepte les écrans comme moyen social, on s'enferme encore plus dans notre prison sociétale, avec toutes ces inégalités et injustices...

[@maxilec]

Les inventeurs d’Ia be sont pas les riches dont vous parlez. Et en commentant sur un réseau social vous acceptez d’etre enfermé dans cette « prison sociétale » Chaque époque a eu ses moyens de communication, ses forums et ses besoins d’etre inondé par de l’information et du spectacle. Il faut essayer de suivre et réguler. Le sujet principal de la vidéo n’est pas l’utilisation trompeuse de l’IA, mais l’utilisation d’un représentant virtuel assumé. On ne s’étonne plus de voir des avatars nous donner des instructions dans un avion ou présenter un produit dans une publicité. Ici l’IA permet de s’affranchir de modeleurs 3D et d’interprètes qui doubleraient le discours dans d’autres langues et rend cette représentation réelle. Mais a-t-on besoin qu’elle le soit moins ? Quand on veut communiquer un message, on souhaite qu’il soit entendu. C’est plutôt réussi dans ce cas.

[@Jules-z4e]

VictorIA

[@Steam-machine1999]

Merci pour cette vidéo

[@yeemirc]

Je trouve le concept un peu nul, mais, merci pour cette excellente vidéo.

[@PeregArBagol]

En même temps, vu le discours de certains homme politiques, on se demande vraiment comment une IA pourrait faire pire ^^"

[@LeN-h4y]

🤢plus le monde avance plus le monde a de technologie plus le monde pourrit 🤮

[@JD-tq3go]

La direction d’Arte devrait envisager de remplacer ces présentateurs-animateurs par des I.A. Cela permettrait de réduire les frais et aussi d’avoir un contenu rédactionnel plis qualitatif et cela a coût raisonnable..

[@arsene9093]

ce n'est la première fois qu'un état brouille la frontière entre le vrai et le faux. c'est même assez commun.

[@ArakiIsthebest-zg1cx]

Bon, je ne sais pas si c'est parce que je ne suis pas assez informé à propos de l'IA et d'autres technologies distinctes, mais je sens que, petit à petit, on entre dans un monde futuriste assez terrifiant, dépeint par certaines œuvres de fiction où le numérique prend le pas sur l'humain. Que ce qu'on pouvait imaginer, que pour l'avenir, se déroule sous nos yeux, c'est très, très déstabilisant. J'ai peur de l'avenir, de ce qui pourrait arriver. Parce que, maintenant, il est loin du moment où on se disait « Terminator, Skynet, tout ça, ça n'arrivera jamais ». Avec les progrès qu'on fait, même si ça reste encore très basique et tout ça, mais c'est fou, c'est terrifiant, vraiment terrifiant. Même si on est dans un monde où l'IA ne se contrôle pas très loin, mais on sent vraiment de plus en plus que, même si ces machines ne nous contrôlent pas, ça reste… Je ne sais pas quoi dire.

[@sorciere9230]

C’était super intéressant ! (Et un peu terrifiant) Merci pour vos vidéos 💖

[@misonorme2.116]

1984

[@cauwenberghsroeland8607]

Aucun image ne peut plus avoir la moindre qualité de moyen à conviction à la recherche de la vérité... ce qui est grave, du point de vue de la sécurité face au pouvoir judiciaire...Déjà osant se prononcer sans avoir pu faire l'enquête à décharge... Bon pour avocats et voyous stars : le scandale d'acquittement alimentera les ragots et délires... MAIS pour le justiciable lambda...

[@cauwenberghsroeland8607]

Au moins, certaines inepties amorales choqueront un peu moins...

[@malossihrteam]

Les bruits de sliders d'images son trop fort je trouve.. 😢

[@________-by2px]

Dans l'absolu c'est juste un outil pour générer une vidéo à partir de texte dans pleins de langues différentes à bas coup. En soit ça ne change pas la véracité de l'information (un humain peut mentir aussi) et ça a son utilité. On peut comprendre que l'Ukraine a autre chose à faire que de recruter 40 traducteurs. Mais quand ce type d'outil sera disponible à tous en plus avancé, on peut s'attendre à du spam massif pour faire du marketing et de la propagande. KZbin risque de finir aussi merdique que facebook qui est actuellement complétement envahi par des posts avec image IA et texte chatGPT.

[@aquetheblues]

Il est vrai qu'ils ne doivent avoir personne pour tenir le rôle de Porte-parole. Et puis ce genre de gadget ne coûte pas cher, enfin même si c'est cher, c'est l'Europe et les USA quit paient. Pourquoi se gêner...

[@barrysaliou5693]

On fait tous pour décoré l'Ukraine

[@haibaidzokwomandre1468]

une idee pour les gens du cote obscur

[@RomainWhatever]

Le gain de coût est clairement une bonne raison, mais lui attribuer un nom n'a aucun intérêt

[@JosuéBolamu]

0:22 euh o Non. La Biélorussie l'a déjà fait avant

[@mildot5482]

Sur KZbin ils font des vidéos propaganda sur leurs succès , où sont battus les russes sur le front à plusieurs langues

[@TheCassbob]

Toi parler la France ?

[@poidsdesmots]

Cest pour ça tout l'oseille qu'on envoie..ils ont de l'argent a jeter en l'air apparemment.. désolant

[@skanvak]

Enfin la fin de la modération sur les IA. Ce n'est pas vérifier qu'il faut mais interagir en personne.

[@Philippe-r2x]

Hop un salaire en moins ? 🤔 J'y vois aussi du progressisme... Et je dis ça je suis métis.

[@jamesdeano8093]

encore une idée à la con, ce pays merite de perdre

[@jamesbaakofficial]

Слава России! ! !

[@hotweed89]

Les africains , descendants des pays colonisés, qui défendent un pays colonisateur...😂

[@anatoleondulet4881]

Zelenskii est-il réel ? Y a-t-il une guerre en Ukraine ?

[@harmony4184]

Si c'est pas une guerre, qu'est-ce que c'est ?

[@LeBotCoquin]

Serions-nous dans une matrice ? Neo est-il l'élu ? Les kebabs sont-ils propres ?

[@--MORAX--]

@@harmony4184 OPS

[@hotweed89]

​@@LeBotCoquin les kebabs sont plats... ça ce sait.

[@hotweed89]

​@@--MORAX-- 😂😂😂 FTG 😂😂😂

[@twomako9]

pas d argent pour les resto du cvoeur et des milliards pour l ia