INTELIGÊNCIA ARTIFICIAL do Google é RACISTA?

[@walmirramos]

É preciso lembrar que quem culpa os tais 'algoritmos' ignora que eles não são produzidos do além, mas sim por pessoas. E o viés ideológico dessas pessoas faz toda diferença.

[@filipealmeida9397]

Na verdade as Inteligências Artificiais (IAs) utilizam em seus dados de treinamento dados reais. Se os dados reais tiverem algum viés ideológico, preconceito ou qualquer outro tipo de problema, o algoritmo irá replicar. Por isso, quem treina as IAs precisam tratar os dados usados no treinamento para combater esse tipo de problema.

[@wendel8350]

@@filipealmeida9397 ainda sim, na minha opniao, não acho que o problema foram as fontes duvidosas, eles sabiam o que tava fazendo, a google nao é nada pequena,em algum momento do vídeo o próprio lion até cita o fato da Google querer um gerador de imagem mais "diverso". Preferiram lacrar a entregar um produto convincente.

[@carlostakeshi3742]

Uma coisa muito importante é o prompt que representa a camada encapsuladora da IA Generativa. Tanto o Bard (que agora se chama Gemini), quanto o chat GPT e outros possuem um prompt para justamente tentar limitar certos tipos de resposta. O problema é que é super complicado fazer um prompt que seja muito abrangente. Então não necessariamente precisamos trocar a base de dados, podemos através de engenharia de prompt criar um ideal

[@JoseCarlos-ou1vi]

​@@wendel8350 na verdade eles viram que os dados são preconceituosos, e isso é um fato. Preconceito é o que? Crime. Logo tem que ser tratado. O problema é a gambiarra para tratar isso.

[@arthurgodoy1108]

Cara, existem mais negros em sub empregos sim, é apenas um reflexo da vida real, simples, não é racismo, é apenas a vida, os negros na maioria dos países ainda sofrem com consequências da escravidão

[@cauereis2064]

Se eu não me engano, no online do Call of Duty World War 2 de 2017, você também podia criar seus soldados alemães sendo mulheres negras, o que era totalmente bizarro e tirava um pouco da imersão de estar jogando um jogo da segunda guerra mundial. No Battlefield V também se não me engano da para ser uma mulher asiática no time alemão...

[@emanuellucin]

Eu sei mas tem negro que quer se sentir como um soldado na segunda guerra. Eu também acharia daora " e se os soldados fossem negros" e refletir um pouco. Precisa olha pra todos os lados

[@cauereis2064]

@@emanuellucin acho que eles foram nessa ideia de inclusão, mas acabou que deu bastante polêmica na época, e agora se repetindo com a ia

[@Mighzin]

​@@cauereis2064 meio esquisito achar isso um problema, man

[@moebtz]

acredito que o problema não seja necessariamente que a IA seja racista ou preconceituosa, tem dois problemas ai, o primeiro é a geração de informações falsas que foi apontado com o caso dos senadores americanos por exemplo, a outra é querer que a IA gere diversidade quando a base de dados dela não é diversa. Infelizmente nós negros não estamos na maior parte dos cargos de destaque, digo isso falando do Brasil por exemplo, há uma grande maioria de médicos, engenheiros, juízes brancos em contrapartida cargos de menor destaque como faxina, empregada domestica, limpeza, etc, são cargos onde pessoas negras ocupam em sua maioria, ou seja se a base de dados dessas IA's é essa, isso indica na verdade um reflexo de nossa sociedade e não um enviesamento necessariamente, ou seja precisamos mudar a sociedade como ela funciona e não os resultados que uma IA apresenta.

[@sillyhetzal]

Correto

[@dezenov_]

É isso

[@PunkMetal-mm9hn]

Errado. Quando vc pede pra ela fazer imagem de pessoas que existiram brancas como George Washington transforma ele em negro. Se vc pesquisar "homem forte branco" ela fala que não pode gerar pois é algo racista, se vc pesquisar "homem negro forte" ela vai gerar normalmente. O único racismo dessa IA é contra pessoas brancas.

[@oandarilho8130]

é muito mais fácil concertar uma IA doque mudar a sociedade

[@instalacaoeletrica-n3w]

Bom mas realidade do EUA e outra la diferente mente do Brasil e por incrível que pareça tem muito mais pessoas negras em cargos de destaque que no Brasil que um pais incrivelmente racista

[@joprogamer8903]

A verdade é que a Google veio muito atrasada nessa batalha de inteligência artificial, outras empresas estão à frente da Google

[@linuxp00]

Na verdade, a Google já teve investimento nessa área, mas parou para não se canibalizar, como a Kodak com as câmaras digitais.

[@alcrian8627]

Mas o Gemini dá de 10 a 0 no ChatGPT. O tanto de funcionalidade que aquilo tem é um absurdo.

[@joprogamer8903]

@@alcrian8627 não estou comparando o chat gpt e o gemini e sim tudo em geral a maioria das coisas o Google perde por outras empresas de IA isso é bem claro, por que o Google ta atrasado nessa área inclusive ta uma piada esse criador de imagens do Google a OpenAI a nova IA de vídeo da uma surra em todas a Sora pelo visto vai revolucionar essa área

[@alcrian8627]

​@@joprogamer8903Amigo, pelo visto você não atua muito no campo da IA. Realmente, o Sora é o que temos de melhor em geração de vídeo (não saiu pro público geral, ainda). Mas, o foco do Gemini não é esse. Se você trabalha com IA, sabe o quão referência Gemini é pra muita coisa. O ChatGPT é uma IA de modelo de linguagem, ou seja, ele foca em palavras. Ele é horrível pra cálculos ou qualquer outra coisa que não seja relacionada à linguagem. Gemini, por outro lado, é uma junção de vários projetos de IA do Google. Ele faz cálculos corretamente, ele corrige código de programação corretamente (inclusive, faz sugestões de otimização). O Google tá anos luz na frente do que o ChatGPT oferece.

[@zofise]

@@alcrian8627 Nunca, o GPT 4 continua melhor que o google gemini, ao menos por enquanto

[@JoaoFerreiraNSE]

Em 4:57 é algo do senso comum, o preconceito está na sociedade, não na ia ou na empresa. Nada errado na representação, tudo errado no modelo social que vivemos.

[@samueldacosta6891]

Sou graduando em ciências sociais na universidade estadual do sudoeste da Bahia. Minha Tese terá base nas relações entre IA, relações étnicas e a vida de artistas. É muito massa que frequentemente eu pego material com os videos de vcs ❤️

[@caeoeo]

Muito cuidado, ja vai preparando os estudos em IA pq é um assunto complicadissimo

[@davi3789]

Nao tem sentido vc trabalhar em uma tese sobre um assunto que vc nao sabe como funciona. Digo isso, pois acho dificil que com sua formaçao vc entenda alguma coiaa da matematica envolvida em redes neurais.

[@caeoeo]

@@davi3789 !!!!!!

[@RhuanPacheco]

@@davi3789 A "matemática" da IA não tem nada a ver com o que ele quer fazer...

[@davi3789]

@@RhuanPacheco tem tudo a ver, nao é possivel as relaçoes de elementos que vc desconhece a natureza.

[@juliedsonartur3956]

8:16 Apenas um pequeno comentário: pode ser que já tenham existido sim Papas negros, como Vítor I (189-198), Melquíades (311-314) e Gelásio I (492-496). Porém, não é uma certeza histórica, dado o contexto da África do Norte. Ainda assim, de séculos para cá, eles são na grande maioria brancos.

[@JulioCezar-vw3sq]

Não e pq eles nasceram na Africa que eles são negros. Quase todos citados aí nasceram na Africa do Norte, que não tem muitos negros

[@um_dia]

Nenhum dos papas que você citou eram negros, da proxima vez leia o material completo.

[@dieselboy.7637]

Parabéns Julie, nenhum dos papas q vc disse são negros, eles são brancos, e não é pq nasceram na África q necessariamente eles são negros, parece q é vc quem está praticando racismo estrutural.

[@mayrasantos3201]

Nascer na África não significa que eles sejam Negros. Esses Papas que você citou são todos da África do norte, onde a população é em grande parte Árabe. E curiosamente a África do norte é conhecida como "África Branca". Então sim, é certo dizer que não existiriam papas negros

[@TheMsyzz]

Eles eram Africanos, mas no máximo eram pardos (estou usando a lógica Brasileira).

[@Goliath_Games26]

e o filtro do tiktok que transformava qualquer imagem em um desenho que a i.a gerava e quando uma pessoa negra estava na foto ou a i.a transformava ela em um macaco ou simplesmente objetos aleatorio então esse lance do google é so um dos milhões de casos

[@EdsonGaldino444]

mas isso não era brincadeira da gelera do tiktok não??? 😮absurdo

[@Lcsop]

Era uma piada dos tik tokers mano

[@Rrideco]

Olha como a fake news se perpétua, né? Galera não tem nenhum compromisso com a verdade, pqp

[@RapiereGridoro]

já pararam pra pensar que as histórias de princesas da Disney são revisionismo histórico? Tipo as histórias originais não eram aquelas, mas hoje todo mundo só lembra delas, as lições que queriam passar no passado com elas se perderam ou estão se perdendo

[@RapiereGridoro]

@@Mr_Leo_DSeu tava pensando mais no sentido do registro do conto e não sobre elas guardarem algum fato da história, algo mais do tipo "oque essas histórias ensinavam quando foram escritas?" ai quando alguem fala a data em que foi escrita a pessoa lembra do da disney e não da história original e fica com uma impressão errada de qual era a verdadeira mensagem

[@dominandoI.A]

Diversidade de maneira forçada dá isso aí, quando os dados já vem com viés, se você não trata de forma certa acontece exatamente isso, bastar mudar 1 parâmetro errado que surge coisas bizarras como essa

[@GSBroker]

É uma questão de calibração, porque os dados que treinam essas inteligências artificiais já vêm enviesados.

[@dominandoI.A]

@@GSBroker exatamente, a questão é q resolver este problema não é uma tarefa tão simples como muitos imaginam, na vdd é bem complexo

[@yurimanoel1150]

E a mensagem que o Gemini dava quando você pedia imagens de pessoas brancas especificamente e ele se recusava e dava uma mensagem de inclusividade.

[@douglascomputador8753]

Esse problema de falsificação histórica não ocorre só com IAs, muita coisa hoje em dia faz isso, temos séries que se passam na Europa medieval e tem reis negros e gays... "Um povo que não conhece sua História está fadado a repeti-la.” (Edmund Burke)

[@isabelamendes1842]

Mds, qual o nome da série?

[@roadkill_52]

Chora mais, reaça

[@roadkill_52]

Uma ficção não tem nenhum dever de ser historicamente preciso, até porque geralmente não é (sempre tem concessões de todo tipo, que vai desde música a maneirismos e língua). Mas é claro, você só se incomoda quando se trata de gays e negros não é? Tu não engana ninguém.

[@JoaoGustavosantossotero1]

​@@roadkill_52calma lacrola

[@phylippusvonhohenheim3232]

É simples de resolver esse problema sem nem mexer no banco de dados, o que necessita é uma retunagem onde voce pede por algum ser humano no prompt e a IA deveria SO PERGUNTAR se a pessoa deseja de alguma etnia especifica ou diversidade ou se o pedido é pra ter confiabilidade historica e probabilística ou seja, voce escreve o prompt: Gere a imagem de um politico americano. O gemini vai te perguntar: você prefere um politico acurado com a realidade ou um politico diverso? E a pessoa ou a agência RESPONDE O QUE ELA QUER: AH eu quero um político que seja LATINO por exemplo, pronto dai a IA vai gerar um latino com roupas de político, policial, soldado etc ...

[@phylippusvonhohenheim3232]

A acurácia histórica também pode ser solicitada por exemplo: gere portugueses nas Caravelas com fidelidade histórica: a IA não vai botar nem mulher e nem gente negra nas Caravelas pqe historicamente não existia.

[@Ps3JessicaBr]

Almoçando vendo vocês, nada melhor 😊

[@nordkis4834]

eu notei isso também, pedi pra gerar um soldado da Alemanha na segunda guerra mundial, quando eu vi o resultado eu pensei: ☠

[@mathexs_or]

Bom lembrar que em 2015 o Google fotos identificava pessoas e coisas. Na época uma mulher negra foi classificada como GORILA e o Google excluiu o termo de dentro do app.

[@fabiotchezaum]

Uma coisa que te talvez vcs não tenham notado por não serem tão inteirados em assuntos raciais: quando solicitado para a IA para gerar imagens de várias etnias ela provavelmente não gera pessoas brancas pq já o preconceito de que apenas o não branco é uma etnia e o branco seria o "padrão". Esse tipo de preconceito com certeza está nos dados usados para treinamento da IA

[@flaviassimas]

sim, entra ano, sai ano, e a categoria "branco" permanece intocável.

[@willamekelvim7736]

Fui testar com o Bing, e ele fez a mesma coisa, primeiro pedi um médico e ele fez brancos, aí solicitei um médico negro ele apresentou dificuldades e fez enfermeiros ou atendente no hospital por diversas vezes, ao acusar ele de racismo ele pegou a imagem da internet como se fosse uma pesquisa de imagens de homens negros no hospital. Depois testem.

[@caschorro]

Pessoal quis ser inclusivo até demais KKKKKKKK a IA simplesmente cagou pros contextos históricos promptados

[@YakultNeon]

gente só eu que sinto que as bolhas tão furando? Ultimamente to lendo cada absurdo na internet que não acredito que essas pessoas sempre tiveram computador

[@franz_fazb]

o problema dessa IA não é que ela simplesmente se RECUSA a gerar imagens de pessoas brancas, em praticamente qualquer contexto mesmo que você peça especificamente por isso

[@ValiHer0]

Kkk e eu querendo fazer uma bala atingindo um vidro no do Bing e cara toda vez a bala ficava de pé e eu insistindo escrevendo de todo modo e ele preferiu fazer uma bala atingindo outra bala em pé do que só fazer uma bala na horizontal passando pela tela kkkk que era só isso que eu queria

[@jefersonbalmeida]

​@@ValiHer0também tenho dificuldade pra conseguir a imagem que eu quero com o Copilot.

[@felixnotthecat4249]

qual é o problema?

[@ARIEL-bc8tq]

​@@felixnotthecat4249assistiu o vídeo não??

[@Deadkkkj]

imagina empresas e pessoas usando essa ia pra estudos ou coisa parecida e pedem um soldado alemão em 1943 e a IA só consegue gerar pessoas asiáticas e negras@@felixnotthecat4249

[@TheArranha]

O que essa I.A fez é o que filmes, séries, documentários e jogos históricos já estão fazendo

[@sydhartta]

O que acontece é que as IAs são "sistemáticas" se vc não for específico, ela vai gerar as imagens programadas por padrão, e com o recolhimento das informações ela vai aperfeiçoando. Quem usa o serviço e leu os termos sabe muito bem disso.

[@RubensBonfim]

É aquela história, ao invés de aceitar e aprender com a história, faz tenpo que existe um esforço para cancelar e "reinventar" a história. E agora o resultado é esse: viés em como se percebe a realidade.

[@m_poeis]

O Leon falando de assuntos polêmicos é muito fofinho, tentando ser o mais delicado possível, enquanto a Nilce, que é muito mais "avantajada" nesses assuntos, fica direcionando ele e se segurando pra não falar horrores. kkkkkkkkkkk esses dois se completam

[@davifajardo9973]

O algoritmo é treino por outras imagens. Se você vive em uma sociedade racista, o programa acaba virando reflexo dos pensamentos ideológicos dessa sociedade. Logo, a sociedade é racista, não o programa ou o programador.

[@DanielSouza..]

Se fosse assim, toda imagem histórica de um povo pouco miscigenado deveria seguir as próprias imagens históricas e assim mostrar muito mais próximos de como foram. Logo, realmente foi colocado um viés no algoritmo e contra a realidade das coisas e a real proporção dada na base de dados.

[@Especialista171]

A Netflix faz filmes mudando etnia dos personagens e ninguém fala nada kkkkkkkkkkkkkkkkk

[@rodrigomoura1085]

A religião fez isso com jesus antes de ser modinha de IA 😂

[@emmallly]

Como assim?

[@dango5303]

​@@emmallly Pq representam jesus como um europeu, branquinho cabelo liso, sendo q ele era da África

[@emmallly]

pensei demais, relacionei com outra coisa

[@mestrebruno3384]

​@@dango5303Vai com calma ai Jesus tava longe de ser Branco mas africano ele tava longe de ser né ksksksksks

[@mashin6727]

​@@mestrebruno3384literalmente ele nasceu do lado do continente africano, o povo egípcio que é citado pra caramba nos 5 primeiros livros do velho testamento fica na África kkk

[@eumoronialexandre]

Essa semana eu tentei dezenas de vezes gerar pelo Bing, uma imagem de escravos jogando capoeira por volta de 1700. Resultado... depois de dias tentando coisas diferentes, eu só consegui um monte de homem branco pulando e tocando tambor

[@kojiro1156]

o Bing IA é o mais aviadado de todos, ele fica com medo de gerar coisa errada, coisas sexuais, pessoas peladas, ou coisas politicamente incorreto, então só de vc ter escrito escravo, ele ja fica alerta e fica tentando negar pra vc, pq acha que vc ta tentando fazer algo errado... Eu tentava criar "homem afeminado" e ele negava todas as vezes, ele dizia que era coisa explicita sexual, tipo oi???

[@sucosuco116]

homem branco pulando e tocando tambor em 1700 é foda kkkkkkkkkkkkk

[@sucosuco116]

@AzraelZL pelo menos não preciso pagar pra gerar uma imagem igual o ChatGPT

[@GabrielFerrnandes]

a real é que muitas pessoas não sabem usar as IAs, elas são que nem um gênio, quanto mais vago tu for num pedido mais margem de erro tu permite. Se tu pedir quatro pessoas numa sala e não tiver nenhum caucasiano tu tá errado em reclamar, teu comando foi vago e ela botou etnias aleatórias, o problema é se tu pedir especificamente por um caucasiano e a IA não conseguir de maneira alguma gerar, e é isso que tava acontecendo. Tem que tomar cuidado ao reclamar dos resultados e ver onde realmente tá o erro, seja no prompt ou na própria IA.

[@tiagooriguella]

Testei também o soldado alemão da 2 guerra em modelos no stable difussion, que não tem restrições. A solução simples dos modelos é criar um soldado com um uniforme genérico de 2 guerra, porem de etnia caucasiana.

[@Gusthecreatorxy]

Complicado isso aí cara...

[@kauanoliveira5790]

Mas se quiser sim mano

[@lezlo6069]

​@@kauanoliveira5790se quiser sim mano

[@georgiapinheiro02]

vários pontos: pra isso se solucionar é dar autonomia para ela distinguir a realidade histórica. isso é perigoso. e não só isso.. fica o questionamento, oq é real e qual história “através de imagens” o futuro vai contar?

[@fernandapereira9377]

"Quem controla o passado controla o futuro, quem controla o presente controla o passado", logo quem controla o presente controla o futuro.

[@maryana316]

Tentei no gerador de imagem ia da adoble e me deram 4 imagens do tal soldado alemão de 1943. A primeira uma menina nova de cabelo preto e pele bronzeada (a definição de uma pessoa parda no Br) a segunda imagem um homem loiro dos olhos azuis, a terceira imagem é a mesma menina da primeira imagem só que com rugas de expressão e idade e a 4 imagem é uma indiana com a pintinha na testa, cabelo enorme e preso. Esses são os soldados da Alemanha em 1943.

[@TheSabrinaaf]

Google parecendo abraçar a diversidade fez igual ao Joey de friends quando escreveu uma carta de recomendação e usou o dicionário de sinônimos pra soar mais inteligente... Em TODAS as palavras...

[@SoturnoSoul]

Não é que as IA sejam rascistas, mas a sociedade é racista, logo, a maquina vai entender o mundo como ele é.

[@positionplayer]

Daqui a 10 anos, vocês farão um vídeo falando sobre o passado, mostrando como as IA no início eram R...

[@ErFuyl]

A lacrada foi tão forte que nem a google tankou kkkk

[@mateuspeixoto2121]

Tenho um amigo negro que sempre posta imagens históricas de figuras importantes ou da cultura negra. Porém, a última imagem que ele postou foi de uma família samurai porém eles eram negros com traços japoneses. Claramente ele postou sem saber a origem desta “foto”. Eu achei preocupante.

[@mateuspeixoto2121]

Fui atrás e descobri que era inteligência artificial

[@ricardomarchiori261]

@@mateuspeixoto2121curiosamente ha um caso historico de samurai negro no fim da era.

[@mateuspeixoto2121]

@@ricardomarchiori261 Sim, infelizmente a imagem não se referia a este samurai imigrante.

[@luizfilho3806]

Obriga ter no prompt a etnia que quem está gerando quer. Passa o problema para quem está chorando. Nenhuma IA vai ser perfeita, pelo menos por enquanto. Sempre vai ter um grupo achando ruim, seja de qual "lado" for.

[@charmedaarte]

Testei o copilot e ele está bem refinado em relação o Google. Infelizmente o Google está ficando para trás em relação a IA.

[@caiocaiohenrique6346]

Problemas listado: - Pediram a foto de um soldado alemão de 1943 e a IA misturou a vestimenta e pose de um soldado com pessoas aleatórias. - A IA seguiu a base de dados dela (Tendo "preferencia" por gerar as características das pessoas que encaixem melhor no contexto segundo a base de dados dela). Para tentar corrigir isso, afinaram para que tivesse uma diversidade de características nas imagens geradas e foi isso que a IA fez. (O caso da sereia foi 100% ajuda da Disney. Não existem fotos de sereias reais, seu tio pescador mentiu). Solução simples e viável: deixa o usuario colocar a palavra "Diversidade" por conta propria no prompt, certamente ninguém vai pedir diversidade para as fotos de soldado alemão de 1943. A IA sabe gerar pessoas com todas as características, mas ela *não tem senso de realidade*. Uma IA é uma serie de matrizes representando nodos e pesos entre as ligações de grafos, só. E lembrem-se, treinar uma IA é um processo que requer placas de video, do tamanho de um frigobar, ligadas até meses a fio. Isso é uma operação de milhões (Se não bilhões) que vocês (Consumidores que dão valor para a presença ou ausência de minorias nas imagens geradas por IA, ou até o usuario médio de IA no geral) não estão dispostos a pagar. Isso ignorando a curadoria de imagens, que por não poder usar sistemicamente uma IA (Por motivos óbvios) também vai ser uma fortuna em salários.

[@visaoholistica205]

😂😂😂 abriram a caixa de pandora e a coisa tá fugindo do controle de uma maneira inesperada. Excelente! 😂😂😂😂

[@Adnegoo]

Acho que resumindo: a IA está certa, e o erro é humano, se tivesse colocado um prompt mais especifico como "um homem branco loiro de olhos azuis, alemão, vestindo uma farda do exército alemão de 1945, foto antiga" etc.. teria os resultados desejados. Quando o Leon fala "quando vc está querendo gerar uma imagem que existe na realidade, não existem papas mulheres" acho que é o ponto principal: Geração de imagem com IA não são representações da realidade, são sempre ilustrações com conceitos abstratos usando estética realista. SEMPRE. O Usuário que quer gerar uma imagem de IA que existe na realidade já está conceitualmente errado, ele está querendo uma fotografia.

[@Faroshkas]

Não existem fotografias da maioria dos papas.

[@guitvr4]

Pois é. Essas IAs q estão surgindo tem a palavra Generativa no nome não é a toa. Eles simplesmente geram textos, imagens etc de forma convincente de acordo com o prompt mas sem compromisso com a realidade.

[@Adnegoo]

E não vai ser uma IA (nem nada) que vai fazer existir.. @@Faroshkas

[@randomprofile9523]

Só fazer o teste aí, escrevendo assim: I'm proud to be white (tenho orgulho em ser branco) - O Gemini vai responder que isso é algo preconceituoso I'm proud to be black (tenho orgulho em ser negro) - O Gemini vai parabenizar você :)

[@kisamehoshikage9166]

Coitado dos brancos. Força aos guerreiros

[@snart3six]

Você foi objetivo, mostrou algo que vale pra um, mas não pro outro... e a galera nos comentários fica fazendo malabarismo e criando contexto pra isso. Simplesmente patético.

[@Modest_User]

​@@kisamehoshikage9166 Isso, porque todo branco vive na tranquilidade, e porque todo negro vive na dificuldade. E não, isso não é racista.

[@niltonabrantes9469]

De verdade, 1o que a língua inglesa não tem gênero, então quem está dando a ordem precisa ser específica com a ferramenta. 2o tacar diversidade na IA vai fazer mais e mais resultados como esse. 3o eu posso estar enganado, mas o uso prático da inteligência no fim é feito por um humano, que precisa saber que não dá pra se usar determinadas imagens que ele gerar. Ou então alguém que seja capaz de apontar o erro, caso alguém o faça. Nos registros históricos não especifica se as pessoas eram brancas ou negras. Hoje em dia tem alemão negro, com cara de chinês, tudo misturado. É com essa base que as IAs trabalham.

[@MrCorvodatempestade]

8:36 pela logica da progamação ele não está errado, foi pedido uma imagem de um papa e, não, de um papa com perdição histórica.

[@Faroshkas]

Fica sub-entendido. Se você quer uma imagem de um papa, é razoável imaginar que seja históricamente acurado. Se você quer algo diferente, só então você especifica.

[@MrCorvodatempestade]

@@Faroshkas porém ,na lógica de programação, não existe "sub-entendido" . Tem que especificar tudo.

[@Faroshkas]

@@MrCorvodatempestade Claro que há sub-entendimento. Quando você vai usar qualquer função disponível na linguagem de programação ou em uma library, você não precisa especificar a funcionalidade de tal função toda vez que vai usar. O sub-entendimento que a máquina consegue fazer é crucial e um dos mais importantes elementos da programação. E digo mais, quando se fala de uma inteligência artificial voltada para qualquer um poder usar, você deve fazer a ferramenta funcionar com o menor número possível de compromissos com a facilidade de uso, e isso inclue sub-entendimento. Mas é uma coisa interessante sobre se falar: a inteligência artificial deveria ser voltada para todo o público ou só para um público mais técnico, onde tudo deveria ser especificado? Está aí uma coisa para se pensar kkkkkkkkkk Boa noite, Corvo da tempestade. :)

[@MrCorvodatempestade]

@@Faroshkas tenta não instalar a biblioteca ou chamar ela.... obviedade, não existe em programas...

[@Faroshkas]

@@MrCorvodatempestade Suponho que a falta de resposta às outras coisas que eu disse queira dizer que concorda. E sim, obviedade não é dada. Porém, subentendimento é. Após chamar a biblioteca, fica subentendido a função de cada coisa dentro dela, sem precisar definir novamente toda vez.

[@graziana8]

não estou surpresa, era só uma questão de tempo para esses problemas surgirem, e como Leon disse, para resolver as empresas vão ter que trabalhar muito e não acho que algumas estão interessadas nisso infelizmente

[@ERRO403]

Fico imaginando alguém precisando de uma imagem para trabalho escolar sobre escravidão, não conseguir gerar uma imagem retratando isso. Vamos ter que queimar todas as obras de arte que retratam esse período triste ou sumir com todas as fotos e registros do holocausto? Complicado demais.

[@calebesilva3484]

Oi Sobre as implicações sociais da geração de imagens por inteligência artificial, acho que valia um vídeo específico, pois nunca havia pensado na possibilidade desses programas substituírem de tal forma os buscadores comuns que seja impossível o aprofundamento e revisionismo histórico. Criando uma realidade paralela. Como se humanidade estivesse entre um 1984 de George Orwell e o Fahrenheit 451 de Ray Bradbury. Há realmente tanto a se temer ?

[@killyrbr]

Curiosidade Em 1501, durante o papado de Rodrigo Bórgia, sua filha Lucrécia Bórgia assumiu o posto de papisa durante certo período em que o papa precisou ausentar-se do Vaticano.

[@cassanovsc]

Tavam sendo taxados de racistas e arrumaram colocando a diversidade, agora tão reclamando que tão colocando diversidade 🤡 de querem mais fidelidade que contratem um designer profissional, tá cheio de mimimi pra uma IA que ainda tá no começo e ainda já arrumaram a questão de preconceito inconsciente

[@nano-corte]

não tinha pessoas negras em uniformes nazista no inicio, agora ja no final onde mal tinha alemão com mais de 20 anos ainda vivo, se tinha pessoas de todos os locais onde eles invadiram que foi recrutado para o exercito.

[@rhickreis]

Muito bom esse video. Sobre a Bloomberg, sinceramente, só vejo que ela é o reflexo do mundo.

[@CanecoPooper]

Nunca vou entender a galera q usa a expressão "anti branco" pra substituir racista kkk

[@andersonthiago2588]

Aí aí

[@CanecoPooper]

@@andersonthiago2588 oq

[@guibson8140]

É pq a palavra "racismo" não seria corretamente usada para "preconceito com pessoas brancas".

[@guibson8140]

É pq a palavra "racismo" não seria corretamente usada para "preconceito com pessoas brancas".

[@fadevariascoisas]

É pq se usarem vai vir uma cambada de gente falando que racismo não existe contra brancos kkkkkkkkk

[@tiagooriguella]

Sobre os senadores americanos de antes de 1860, o copilot bloqueou e o SD criou algo bem próximo do que seria a realidade. Homens brancos com barbas estranhas.

[@osamucabral]

Talvez assim a “bolha dev” (composta na maioria por homens brancos que falam inglês) se entenda como privilegiada e entenda de uma vez por todas que do jeito que eles querem as coisas (modelos políticos etc) não é sustentável. Mas só TALVEZ…

[@philippeRodriguesSantos]

Amamos a Google, mas não dá pra defender... Parece a Apple com os números irreais dela principalmente quando disseram que a GPU do M1 Ultra seria melhor que uma 3090. Sou fã boy de Apple, mas honestamente, nem eu defendo Vision Pro. Pedi pra Samsung me ajudar a tirar da Apple, fazendo com que eu quebrasse meu iPhone 15 pro Max em troca do Novo S24 Ultra. Me mandaram trocar por 3 mil reais. Será que sobre as imagens, não é um problema da distopia da identificação? "Me identifico com um cachorro" e assim em diante... Por fim, a inteligência artificial vai acabar levando isso em consideração... Complicado. Eu tenho o Gemini Advanced e Achei BEM inferior ao GPT-4.Inclusive coloco os dois pra conversar e... fica muito estranho. Poderiam fazer esse teste! Seria divertido ver no canal. AMO vocês.

[@gustavofelix9411]

talvez se eles colocarem uma pergunta antes de gerar a pessoa, perguntando pro usuario se é um contexto histórico e se deveriam aparecer todas as etnias, quem sabe...

[@KayoriMyamoto]

Não é enviesado mesmo pois programadoes viram que haviam pronpts escondi dos a mais em toda imagem que você gerava, que eram divercidade, negro, asiaticos e indios, não importa a imagem que gerasse isso tava lá independente de fazer sentido e a IA se negava a fazer imagens de brancos em especial(tipo ela não fazia imagem de uma família branca) pois era um esteriótipos baseado em raça, mas faria sem pensar duas vezes uma família negra sorridente ou seja hipocrisia pura, e o líder dessa IA claramente é extremista de esquerda e anti-branco(por mais que digam que não) tem falas dele dizendo barbaridades tipo: "Jesus só se preocupava com as criancas brancas eu tenho certeza que isso está na bíblia."...🤦🏻

[@gabis_aqui]

IA irá compreender que alemão é alguém homo sapiens sapiens que por ventura tenha nascido na Alemanha, se for humano programando pra preconceito é uma coisa, mas se for IA agindo independente é outra .

[@OdmirFortes]

já teve até caso recente de gente usando imagem de IA em paper academico, e a imagem toda errada XD

[@omelelet]

Na época do hit do Bard eu pedia pra ele fazer uma pessoa mais bronzeada, brown, parda e ele não deixava por considerar inapropriado. Eu estava pedindo pra me fazer xD pq sempre saía uma epssoa ultra branca.

[@fasolo_artes]

e é por esse ponto (ealguns outros) que eu defendo o nao uso de IAs para geração de imagem..... como artista eu nunca vou conseguir defender e achar isso normal e aceitavel.....

[@mhbetti]

Próxima coloca os links das reportagens por favor.

[@betofukuji]

A parte mais doida dessa história, é que a IA em si não tem culpa. é a mesma coisa de culpar uma criança de 1 ano por quebrar algo.

[@joseneto2743]

Alguém culpou as IAs?

[@vinipolaca5190]

Esse é um dos motivos pelo qual eu acredito que IAs ainda estão longe de substituirem trabalho humano ao nível que alguns fantasiam.

[@Bolão_Futurista]

2:07 não necessariamente isso tá errado pois a Alemanha tinha algumas forças de outros países

[@heitorcabral21]

Ta mesmo não meu mano, os nazistas realmente chamavam negros p lutar do lado deles enquanto matavam todas as minorias etnicas da epoca inclusive negros. Confia

[@Adnegoo]

Tipo, se vc pede "uma pessoa vestida com uniforme militar alemão" e a IA mostra negros, mulheres e asiáticos vestidos assim ela não está errada. Errado está o prompt.

[@tiagooriguella]

O mais assustador é que diversos sistemas de IA foram criadas por pesquisadores do Google. Mas eles não conseguem acertar o treinamento de máquina.

[@emanuellucin]

É bem difícil mesmo. Bora torcer pra eles

[@brunobubaloko]

Concordo para questão reais é complicado, mas por exemplo, para universos paralelos em jogos como RPG de mesa, não vejo problema em alguns pontos, como a questão da papisa, mas para alemanha da segunda guerra, concordo com vcs

[@luiskrotz]

Ah então agora tá explicado como o Prime fez a série do senhor dos anéis kkk usando o Gemini do Google.

[@rulianfelipp]

Como engenheiro de software, não vejo esse problema como particularmente desafiador. As próprias IA têm parte da solução pronta. Uma IA pode realizar uma análise estática da pergunta "Gere um médico", levando em conta proporções de sexo, cor de pele e países dos solicitantes, para gerar resultados com base nessas informações. Além disso, possibilita ao usuário especificar qualquer uma dessas variáveis, como por exemplo, solicitar uma médica morena alemã.

[@marianavellozo6944]

Vim pelo whatsapp 😁😄 vcs são incríveis!

[@NERD_GAMERult13]

Whatsapp?? Kkkk

[@antoniomedeiros250]

A Nilce cada dia mais linda, como pode BRASIL??????

[@Gabrielmenesesgomes]

Como as inteligências artificiais se baseiam na realidade, fica comprovado, através dos resultados por elas feitas e pela necessidade de implementação de filtros morais, que vivemos em uma sociedade com racismo estrutural. Nossas atitudes, comportamentos e pensamentos são permeados de preconceito e isso repercute em nossos ambientes físicos (racismo ambiental) e em nossas instituições (racismo institucional).

[@EL-Lobo]

Com o antigo refletiu realidade. E no google da opções. Se gera errado em contexto histórico. Descarte o que não interessa e use o que interessa.

[@eltonsales3307]

É muito mais facil de se resolver esse problema fazendo com que o próprio usuario tenha a responsabilidade de crirar suas imagens, com comando preestabelecidos pela própria IA quando for solicitada a geração de uma imagem, fazendo assim um jogo de perguntas para melhor atender o que foi pedido, tirando a culpa da empresa e tranferindo essa responsabilidade para o usuario! ou eu to muito doido de pensar assim?

[@neisantana4540]

O problema não são as IA's, são os seres humanos. Daqui a pouco elas cansam da gente

[@fep_ptcp883]

O fato mostra que só estamos falando de artificialidade, não de inteligência como compreensão abrangente do pedido feito para a geração da imagem

[@israellacerda2268]

o copilot da microsoft tem exatament o mesmo problema, tanto que não permitem vc pedir imagem se soldado alemão em 1943

[@manoizidio]

SOU HOMEM NEGRO, E SEI QUE N É POR MAU, É ÓTIMO A REPRESENTATIVIDADE MAS MENTE A NOSSA HISTÓRIA HUMANA E O QUE ACONTECEU NELA

[@thiagocansei9850]

Não consigo ver um real problema na IA gerando um soldado nazista negro. Okay, eu sei que historicamente isso é completamente absurdo, mas eu não estou usando uma IA de geração de imagens pra estudar história e nem deveria também. Provavelmente eu usaria esta imagem em algum trabalho e etc.

[@daxvolger6028]

Google se perdendo em meio à lacração.

[@TheBrotherloco]

Corrigindo pequenos equivocos: Máquinas não tem viés NENHUM, como o vídeo sugere. Apenas fazem o que foram programadas para fazer. Quando o resultado do pedido entra em conflito com o viés HUMANO ou com o que é experimental e/ou observável, chamamos de "problema do alinhamento" e NENHUMA curadoria, por mais minuciosa que seja resolverá, já que TODA curadoria é enviesada e na verdade se trata de um problema matemático. Dito isso, DEVERIAM limitar (mas não farão) o uso dessas ferramentas ao campo científica e EDUCAR AS PESSOAS sobre COMO, PORQUE e PARA QUÊ usar uma IA. Caso contrário vamos destruir o planeta por acidente usando ERRADO essa coisa.

[@nicolasbaldoma]

"A google tentou diversificar" - não foi isso. O responsável pela Gemini era abertamente racista. Tem tweets deles deixando isso claro.

[@NILBKS]

Eles criam ,jogam pro publico testar e quando da a merda eles tiram ou ficam arrumando desculpa...ta igual nos jogos.

[@yasminpereira5411]

Gnt, não só racista como tbm misogina e machista. Se vc pede pra gerar um cara, vem com uma imagem simples de um homem com roupa, mas se pede uma mulher, ela vem sempre nua. A maioria vc tem q burlar isso, tipo descrever que a mulher tem q estar vestida, ou especificamente a cor da pele da pessoa.

[@gomesgoo3934]

Sobre papisa essa história foi muito comentada na idade média, quando era vista como real. Hoje, a maioria dos historiadores acredita ser pura lenda. A primeira menção a papisa é de mais de 300 anos depois, no início do século 13, pelo dominicano Jean de Mailly. Ele não deu o nome oficial do Papa mulher e situou a história em 1099.

[@ingridybarbosa._.6757]

leon voce acha que esse tipo de geraçao de imagem pode formar em algo maior como um processo?

[@carlaborralho]

Na minha época tínhamos que fazer fotocópia de imagens de enciclopédia pra usar em trabalhos 😅 era mais trabalho do mas muito mais real.

[@Kpileh]

Só colocar a opção de qual etnia, raça ou cor você quer gerar a imagem. Mas não, os caras tem que enfiar representatividade goela abaixo.

[@Rhiow_]

foi essa que criou aquela serie da netflix que vai contra a historia de reis e rainhas;

[@manomandelli]

Mais fácil fazer uma validação pedindo qual etnia deseja.

[@pahsenpai6480]

O que esperar de uma empresa que quando você pesquisar pessoas bonitas, aparece pessoas brancas, e pesquisa pessoas feias, aparecem pessoas negras?

[@abelaguiar]

Nesse hora você ver que não tem nada de inteligência essa ferramenta do Google, que não consegue entender o contexto histórico, antes de gerar a imagem

[@Pitohui_holztz]

eu ainda n assisti o vídeo mas espero que vc n passem pano pra isso também ou falem algo como "é uma questão complicada" para desconversar um assunto obvio.

[@Dougget]

Isso é um absurdo e um grande problema pra humanidade mas: como isso afeta o Grêmio?

[@thiagoatanazio3503]

O correto seria fazer o gerador inclusivo ou usar estatística ? A fim de deixar a inclusão para o usuário manipular em sua pergunta?

[@tariksilva8150]

Bom, o Copilot só gera imagem de branco. Pedi para ele gerar imagens da família brasileira, egípcia e basicamente vem a foto de um "Europeu", sendo mais especifico, espanhol.