The real problem of AI

[@santuby]

"É difícil imaginar uma maneira mais perigosa de tomar decisões do que deixá-las nas mãos de pessoas que não pagam o preço por estarem erradas". Thomas Sowell

[@Ja9_TT]

👏🏻👏🏻

[@Vitor_Itou]

Mirou nas IAs, acertou nos políticos

[@felipef8893]

Sowell era um neoliberal fudido.

[@luizrobertoandrade]

Eu não conhecia esta citação, mas eu penso exatamente assim. Muitos decidem nas vidas dos outros aquilo que não decidem para as suas próprias vidas.

[@ninjacortadordecebola1215]

Basicamente o estado brasileiro

[@marcosleodoro2257]

Um canal que dá orgulho na internet aos brasileiros!

[@Taldo_Patria]

​@trevor28473Cala boca mlk

[@joseperes7927]

​@trevor28473mas tira o fato q ele dá orgulho? Eu acho que não

[@Andrevndt]

@trevor28473 olha eu estou muito acostumado a ver videos em ingles, e eu raramente acho conteudos da qualidade dos videos dele que são disponibilizados ao publico geral leigo

[@marcosleodoro2257]

@trevor28473 Já no seu caso, sinto vergonha de tamanha grosseria e estupidez.

[@amago-]

​@trevor28473sinto vergonha do quão futil vc é

[@marcosporto4150]

Esse canal é a prova de que a ciência tem muito a oferecer para a humanidade! Uma pena que a divulgação de conteúdo verdadeiramente científico é bem limitada em nosso país!! Esse canal é sem dúvida muito bom!

[@BRYAN120.]

Limitada??? O Vídeo pegou um Milhão de Views

[@robson_mig]

​@@BRYAN120. No Brasil existem 200 milhões de pessoas. 1 milhão é 0,5% da população brasileira.

[@homines_mentes]

Pedro, como pediu eu gostaria de comentar sobre esse assunto, até porque sou da área de TI, também sou licenciado em física e sou professor de TI. Estou agora fazendo uma formação em ciência de dados e assim, tenho visto muitos vídeos falando sobre IA e o medo de seus resultados. Eu comentei esses dias num canal de um neurocientista, justamente sobre esse medo da IA, onde aqui também cabe a mesma opinião. O problema da IA não é a tecnologia em si, mas nós somos o problema. Como falou: como colocar questões morais e ética num algoritmo de IA, se nossa ética ou moral não são as mesmas para toda a humanidade? Veja então que chegamos num dilema aqui: Ficamos com medo e não avançamos e proibimos o desenvolvimento de pesquisa em IA, ou avançamos e pagamos pra ver? Vejamos os fatos e o que nossa história humana nos mostra... Hoje em dia ninguém condena, ou ao menos faz algum protesto em público para que as armas nucleares sejam desmontadas e destruídas, e quando tivemos coragem de usar em Hiroshima e Nagasaki, houveram protestos e até hoje existem, porém foram utilizadas mesmos assim. Além disso os testes nucleares que ainda estão sendo feitos, em menor escala, ninguém fala sobre isso.... Mas porquê? Pra mim a resposta é bem simples e a causa disso é a ganância pelo poder ou a sua perpetuação. Ninguém ou mesmo um grupo e até mesmo um país inteiro, poderia impedir da China ou mesmo os EUA de pararem de usar ou mesmo manter seus arsenais nucleares, imagina então a Rússia. Veja que estamos no atual momento em que uma guerra nuclear é bem possível sim. O conflito na Ucrânia se não for bem tratado pelos demais países do mundo, poderá ser definitivo pra todos. E isso não se discute, nós simplesmente deixamos para os países da OTAN e a China, tentarem resolver e ajudar numa solução. Então a IA de fato não é nosso maior problema, mas estamos todos discutindo sobre seus perigos. Como físico posso dizer com toda segurança que a ciência nos mostra, que a radiação, seja qual for sua origem, eletromagnética ou corpuscular, pode nos exterminar, tanto de forma definitiva, quanto lentamente com mutações em nosso DNA. NUNCA devemos esquecer sobre esse fato. Eu acredito que uma solução para o uso da IA Geral, seria a que ela nunca pudesse tomar decisões definitivas, mas sim conselhos. A minha visão de uma IA Geral é a de um bom conselheiro, talvez como muitos chamam hoje em dia de GURU. A tomada de decisão precisa ser humana e, caso não seja possível, por exemplo no caso do carro da UBER, o que a IA deveria ter feito, no mínimo, reduzir a velocidade numa situação incomum, ligar os alertas e parar o carro. Mas porque isso não foi feito? Logicamente por que foi mal programada, usou uma massa de dados inconsistente e com muitas falhas e isso foi causado talvez até por pressão pra lançar o produto no mercado. Você não falou, por exemplo, nos carros da Tesla que estão causando acidentes nos EUA . Procura pra ver que são muitos e ainda estão ocorrendo, mas o Elon disse que sua IA tem avançado muito... O Elon Musk por exemplo, é totalmente a favor de uma regulação ampla de uma IA geral, porém é muito estranho isso, porque as industrias dele estão usando IA massivamente, caso da Tesla quanto da SpaceX. Sem falar nas questões éticas e morais que estão envolvidas no seu projeto mais bizarro que é a implantação de nanotubos de carbono no cérebro para estabelecer uma comunicação Wifi com computadores, sob alegação de acessar dados mais rápidos, já prevendo um domínio de uma IA Geral. Isso é muito bizarro e não vejo discussões sobre isso. Resumindo deixo alguns pontos pra pensar: Não poderemos parar o desenvolvimento da IA, até porque há investimentos de Bilhões de Dólares em novos hardwares para processamento de redes neurais, garantindo maior performance, caso dos novos Chips da NVídia e sua máquina poderosa como o H100, que vi agora pouco custa 40.000 dólares uma única unidade. Não se pode garantir que a China, Coreia do Norte, Rússia, Iran ou mesmo os EUA e seus aliados, deixem de usar a IA em seus arsenais de armas de guerra. Caso que cito que os EUA já possuem Drones de guerra totalmente autônomos e o que falta pra eles é deixar a IA decidir se ataca ou não grupos de rebeldes (coitados) no Afeganistão, alegando que são terroristas ou coisa parecida. Você realmente acha que a pretensão de parar o desenvolvimento da IA, vai acontecer mesmo? Nunca mais isso vai parar e só vai se desenvolver cada vez mais, então nos resta é debater e talvez sensibilizar os pesquisadores para que não deixem a IA tomar decisões, ou num caso extremo, se neutralize em situações de risco a QUALQUER TIPO DE VIDA, não somente nós humanos. O debate sobre o avança da IA passa por debate ético e moral da humanidade como um todo, não só de um país. Mas veja nosso dilema enquanto civilização: Qual país ou grupo de países pode reivindicar uma discussão ética, se até mesmo sua ética é questionável? Como pode os EUA falar em ética se literalmente extermina pessoas em conflitos militares? E porque ninguém põe o dedo nessa ferida. A China por exemplo não está nem aí sobre o que os EUA pensam ou fazem, eles simplesmente avançam e não param. Nós enquanto humanos deveríamos parar de pensar somente em nosso pequeno mundo ocidental e olhar mais para as pessoas que vivem na Africa, no Afeganistão, na Coreia do Norte, e nos demais países pobres de nossa terra, pois não temos moral e muito pouca ética pra discutirmos algo maior sobre a IA. Nosso pensamento não é unânime e nunca será. Então se não houver um movimento geral na humanidade, não só no ocidente, mas em todo mundo, no sentido de buscar um entendimento sobre nossas vidas, respeito mútuo, não agressão, preservação da vida a todo custo, qualidade mínima de vida, respeito e cuidado com a natureza e os animais, nunca vamos evoluir como civilização e estaremos fadados a uma extinção futura, ou muito próximo disso. Vamos continuar pensando nisso, talvez a discussão sobre a IA seja um Catalisador para aprimorarmos nossas discussões sobre ética e moral e quem sabe, possamos sair do debate e iniciar ações mundiais para promovermos a vida e não a morte. Obrigado!

[@programasepolitica]

Penso igual a você sobre usar a IA apenas para responder a perguntas bem determinadas e usá-la até mesmo para responder como melhor desenvolve-la. Nada de injetar valores éticos e morais na IA nem deixá-la tomar qualquer decisão sobre assuntos de grande importância. Ao receber uma resposta da IA sobre como resolver um problema, poderíamos perguntar também quem teria a vida prejudicada caso fosse implementada a solução que ela nos apresentou para o problema. Isto evitaria que viéssemos a colher resultados desastrosos para o meio ambiente exterminando espécies, por exemplo.

[@israel_should_not_exist]

O neurocientista que anda falando isso é o nicolelis. É um cara brilhante, porém não entende nada sobre IA's. A coisa é de fato séria, os maiores especialistas da área estão fazendo todo o barulho que podem para parar a evolução da tecnologia que criaram, o que é absolutamente inédito na história da humanidade. Ninguém menos que Geoffrey Hinton, o pai dos sistemas de IA modernos, afirmou que não só as IA's extinguirão a humanidade como disse que já é muito tarde e não há absolutamente nada a ser feito em relação a isso, a extinção da humanidade já está encomendada.

[@luizfernandodeoliveira2832]

Eu discordo em relação a dizer que não há discussões sobre bombas atômicas, radiação e etc, desde sempre houve discussão, eu fiz o ensino fundamental e médio na virada do século e meus professores viviam falando disso, sempre que há uma rusga entre países esse tema vem a tona, a sociedade em si pode não estar discutindo pq primeiro que a utilização das bombas são de uma geração muito pretérita o que explica as pessoas terem "esquecido" o tema, e tbm vivemos sob um sistema capitalista que é extremamente eficiente em drenar a população de temas relevantes e os faz viver num looping eterno de consumo, trabalho, consumo trabalho, além do fato de que após a guerra fria as bombas nucleares acabaram servindo de álibi para evitar grandes guerras pq quando vários países tem fica mais difícil arriscar de usar sabendo que a humanidade pode acabar nessa brincadeira. Mas de fato a inteligência artificial está sendo muito debatida neste momento simplesmente pq os acontecimentos recentes são uma espécie de marco histórico e os próximos anos serão muito importante nessa questão, se até os maiores especialistas estão com medo e falando tanto é pq a coisa é muito séria, porém concordo que não há a menor possibilidade de retorno, os investimentos e as tecnologias só avançarao e só o tempo dirá se será benéfico ou não para nossa espécie

[@LukenyJL]

Abordagem certeira! Estou de acordo.

[@LaraSimeaoRomero]

Concordo 100%. Também sou da área de tecnologia, ciência da computação. Venho dizendo isso há um bom tempo, não tem como parar o desenvolvimento da inteligência artificial. Uso a metáfora do gênio da lâmpada maravilhosa; depois que o gênio saiu da lâmpada ele não quer mais voltar. Já era. E como você disse, inúmeras outras tecnologias tem o poder de causar destruição, assim como tem o poder de melhorar a vida das pessoas pois o X da questão somos nós, o elemento humano. Enquanto isso, eu venho usando a IA que nos estão disponibilizando de forma gratuita, ainda nem estou pagando, e mesmo assim já venho melhorando minha produtividade tanto no trabalho como em horas de lazer aprendendo coisas novas que sempre quis e sempre adiava. Tudo está sendo muito rápido, cada dia que passa a IA melhora e tanto te responde brilhantemente em segundos, também proporciona respostas erradas e até engraçadas.

[@MarceloSantosSCS]

Olha, só tendo mesmo o dom da didática para produzir um vídeo como esse, leve, interessante, que te prende do inicio ao fim, sem ser massante. Camarada, vc tá de parabéns. Merecia muito mas MUITO MAIS inscritos e visualizações. Seus vídeos são uma luz na imensidão de trevas que existe na internet. Vou compartilhar com Deus e o mundo. Obrigado!

[@fatinha.msouza3664]

Concordo plenamente

[@luanwardelmann9161]

Não era ele de verdade, é um vídeo feito pela IA, confia

[@nahimcesar]

Imensidão de trevas = outros youtubers 😂😂😂

[@LogaN-ql5qe]

Up

[@martinssegundo]

²⁵ E proferirá palavras contra o Altíssimo, e destruirá os santos do Altíssimo, e cuidará em mudar os tempos e a lei; e eles serão entregues na sua mão, por um tempo, e tempos, e a metade de um tempo. ²⁶ Mas o juízo será estabelecido, e eles tirarão o seu domínio, para o destruir e para o desfazer até ao fim. ²⁷ E o reino, e o domínio, e a majestade dos reinos debaixo de todo o céu serão dados ao povo dos santos do Altíssimo; o seu reino será um reino eterno, e todos os domínios o servirão, e lhe obedecerão. ²⁸ Aqui terminou o assunto. Quanto a mim, Daniel, os meus pensamentos muito me perturbaram, e mudou-se Daniel 7:25-28

[@valmnssl]

Esse cara não existe! O modo como vc repassa as informações é impressionante. Parabéns, que o canal cresça mais e mais. 👏🏽

[@martinssegundo]

¹ No terceiro ano de Ciro, rei da Pérsia, foi revelada uma palavra a Daniel, cujo nome era Beltessazar; a palavra era verdadeira e envolvia grande conflito; e ele entendeu esta palavra, e tinha entendimento da visão. ² Naqueles dias eu, Daniel, estive triste por três semanas. ³ Alimento desejável não comi, nem carne nem vinho entraram na minha boca, nem me ungi com ungüento, até que se cumpriram as três semanas. ⁴ E no dia vinte e quatro do primeiro mês eu estava à borda do grande rio Hidequel; ⁵ E levantei os meus olhos, e olhei, e eis um homem vestido de linho, e os seus lombos cingidos com ouro fino de Ufaz; ⁶ E o seu corpo era como berilo, e o seu rosto parecia um relâmpago, e os seus olhos como tochas de fogo, e os seus braços e os seus pés brilhavam como bronze polido; e a voz das suas palavras era como a voz de uma multidão. ⁷ E só eu, Daniel, tive aquela visão. Os homens que estavam comigo não a viram; contudo caiu sobre eles um grande temor, e fugiram, escondendo-se. ⁸ Fiquei, pois, eu só, a contemplar esta grande visão, e não ficou força em mim; transmudou-se o meu semblante em corrupção, e não tive força alguma. ⁹ Contudo ouvi a voz das suas palavras; e, ouvindo o som das suas palavras, eu caí sobre o meu rosto num profundo sono, com o meu rosto em terra. ¹⁰ E eis que certa mão me tocou, e fez com que me movesse sobre os meus joelhos e sobre as palmas das minhas mãos. ¹¹ E me disse: Daniel, homem muito amado, entende as palavras que vou te dizer, e levanta-te sobre os teus pés, porque a ti sou enviado. E, falando ele comigo esta palavra, levantei-me tremendo. ¹² Então me disse: Não temas, Daniel, porque desde o primeiro dia em que aplicaste o teu coração a compreender e a humilhar-te perante o teu Deus, são ouvidas as tuas palavras; e eu vim por causa das tuas palavras. ¹³ Mas o príncipe do reino da Pérsia me resistiu vinte e um dias, e eis que Miguel, um dos primeiros príncipes, veio para ajudar-me, e eu fiquei ali com os reis da Pérsia. ¹⁴ Agora vim, para fazer-te entender o que há de acontecer ao teu povo nos derradeiros dias; porque a visão é ainda para muitos dias. ¹⁵ E, falando ele comigo estas palavras, abaixei o meu rosto para a terra, e emudeci. ¹⁶ E eis que alguém, semelhante aos filhos dos homens, tocou-me os lábios; então abri a minha boca, e falei, dizendo àquele que estava em pé diante de mim: senhor meu, por causa da visão sobrevieram-me dores, e não me ficou força alguma. Daniel 10:1-16

[@silvanocapeloto5182]

O filme O Exterminador do Futuro é o exemplo clássico desse perigo. Um sistema criado para defender humanos que acaba interpretando que o maior perigo para a humanidade são os próprios seres humanos, algo diversas vezes mencionada nos filmes da franquia. Isso é assustador.

[@BoladaoIAfdp]

Obvio que o maior perigo para o ser humano é ele mesmo. Quem tem a possibilidade de acabar a raça humana hoje ?

[@martinssegundo]

²² O ter sido quebrado, levantando-se quatro em lugar dele, significa que quatro reinos se levantarão da mesma nação, mas não com a força dele. ²³ Mas, no fim do seu reinado, quando acabarem os prevaricadores, se levantará um rei, feroz de semblante, e será entendido em adivinhações. ²⁴ E se fortalecerá o seu poder, mas não pela sua própria força; e destruirá maravilhosamente, e prosperará, e fará o que lhe aprouver; e destruirá os poderosos e o povo santo. ²⁵ E pelo seu entendimento também fará prosperar o engano na sua mão; e no seu coração se engrandecerá, e destruirá a muitos que vivem em segurança; e se levantará contra o Príncipe dos príncipes, mas sem mão será quebrado. ²⁶ E a visão da tarde e da manhã que foi falada, é verdadeira. Tu, porém, cerra a visão, porque se refere a dias muito distantes. ²⁷ E eu, Daniel, enfraqueci, e estive enfermo alguns dias; então levantei-me e tratei do negócio do rei. E espantei-me acerca da visão, e não havia quem a entendesse. Daniel 8:22-27

[@moebinus7734]

​@@martinssegundoAPP de versículo é outro, mano.

[@H0LL1STERR]

Entenda a inteligência artificial ser desejada hoje em dia, ou a nossa espécie será a última!

[@tigor-tf8zj]

equivoco: A Skynet viu a humanidade como uma ameaça à sua existência e decidiu acionar o holocausto nuclear conhecido como "Dia do Julgamento", e enviar um exército de exterminadores contra os seres humanos.

[@rizato842]

Com esse caso do submarino desaparecido, seria massa se você fizesse um vídeo explicando sobre o porquê ser tão difícil de chegar nas profundezas do oceano. Vejo muita gente que não entende como a pressão da água funciona.

[@ComputadorPaula]

up

[@patyvaccarezza9475]

up

[@arthur.fresca]

up

[@larapradosi]

up

[@mrwescleyxd]

up

[@domfernandus]

Isso me parece muito com aquela máxima : Cuidado com oque vc deseja , pode se tornar realidade . (não necessariamente como vc tinha imaginado)

[@melhoresmomentos6585]

verdade

[@jeffersonmarquessantana8188]

Parece aquele problema de fazer um pedido para o gênio da lampada que atende o desejo errado mas a pessoa tem que lidar com este erro tentando desfazer o primeiro pedido.

[@andrebfreire1052]

Filme efeito borboleta kkk

[@Ella12416]

Também lembrei disso kkk

[@joaopedroandsan2172]

" eu quero uma mulher bonita apaixonada por mim" brota uma mulher lindíssima, se declara pra você e morre 5 segundos dps de câncer kkkkkkk

[@miltonribeiroo]

​@@joaopedroandsan2172não, seria uma mulher lindíssima e tão apaixonada por você que não deixaria você viver mais, querer ser sua dona kkkkkk

[@joaopedroandsan2172]

@@miltonribeiroo serve tbm kkkkk

[@tatyplummer]

Recomendo a todos lerem o livro "Algoritmos de Destruição em Massa" da autora Cathy O'Neil. É fantástico e tem os exemplos que o Pedro passou e mais alguns de fazer a cabeça explodir! Excelente vídeo, Pedro!!!

[@jamenalb]

A autora, que amava matemática, desde de criança, entendeu que o poder dela combinado com a 'tecnologia para multiplicar o caos e a desgraça, dando eficiência e escala sistemas que agora reconhece, como defeituosos'. Ou seja, a matemática e o poder da computacional são ferramentas poderosas de manipulação e influência, tão usadas e comuns hoje, que não temos como evitá-las.

[@rosangelaribe1145]

kzbin.info/www/bejne/raC2pWuNi5mHla8

[@heliotron8042]

@@jamenalb interessante essa quantidade de vídeos sobre ecatombe da IA, pois favorece mais que impede seu poder: kzbin.info/www/bejne/i6W3ZWuhmZt-o5o

[@giovaneb1010]

Sua indicação de livro parece boa mesmo, ao menos é o que diz o algoritmo do google 😮 89% gostaram do livro.

[@brunomacedodasilva]

Obrigado pela recomendação. Anotada.

[@gabrielmelo4553]

De longe, o melhor canal do KZbin!! Eu estava prestando tanto a atenção que percebi que a frase dita à partir do minuto 01:43, foi repetida logo em seguida, de uma forma diferente. Provavelmente era pra ter sido um corte. Enfim, Obrigado por esse Canal!!

[@maurithio]

Muito interessante a análise. O único problema que eu vejo é que os interesses financeiros, ou até mesmo de ego, não vão parar ou frear o desenvolvimento de novos sistemas, máquinas, ferramentas envolvendo IA. Como o próprio Pedro diz no vídeo: os valores são diferentes de pessoa pra pessoas e em diferentes culturas. Resumindo: em breve teremos que lidar com todos esses problemas, porque a humanidade não vai parar pra refletir. A ganância e o ego são maiores que essas discussões...

[@petraariely8988]

A gente morre de medo de que as IAs se tornem para nós o que somos para os outros animais

[@SuperGreenqueen]

Belissima frase, parabens.

[@MarianaLima-sy7pf]

Ótima reflexão

[@DeborahNeippdn]

👏👏👏👏

[@tigor-tf8zj]

sem sentido

[@raquelsimplesassim]

Isso! ❤

[@eulua827]

Muito bom vei , peguei vários vídeos como esse pra ter base na redação do enem , mas agora o interesse se aprofundou e eu tô amando

[@natiosdocs]

A maior humildade desse canal é deixar o anúncio rodar só no fim do vídeo. Conteúdo fantástico!

[@Falador005]

A IA está rapidamente se tornando uma parte integrante do nosso cotidiano, desde assistentes virtuais até recomendações personalizadas. Embora traga conveniência, também levanta preocupações sobre privacidade, viés e o equilíbrio entre automação e habilidades humanas essenciais. Encontrar um caminho ético e equilibrado é essencial para aproveitar ao máximo os benefícios da IA.

[@eusilembrokk]

KZbin Plutonium não deixah kk

[@aglliciadagamaaragaoagllic5366]

Vdd kk

[@camilyalves8955]

Né

[@7rdvrdv]

isso é humildade? vão dá a bunda viadada

[@aeradoxp]

Fico sempre muito impressionado quando vejo um ser humano muito inteligente usando esse dom para criar conteúdo fascinantes de forma a parecer simples o mais complicado assunto como esse do vídeo.. Meus Parabéns!

[@Falador005]

A inteligência artificial (IA) continua a transformar profundamente a maneira como interagimos com a tecnologia e o mundo ao nosso redor. Desde assistentes virtuais até carros autônomos, a IA demonstra sua capacidade de processar enormes quantidades de dados e aprender padrões complexos para tomar decisões e realizar tarefas de maneira eficiente. No entanto, com essas capacidades empolgantes vêm também desafios éticos e questões sobre privacidade, transparência e a responsabilidade das decisões tomadas pelas máquinas. À medida que a IA avança, é crucial encontrar um equilíbrio entre seu potencial inovador e as considerações éticas que a acompanham.

[@martinssegundo]

¹ No ano primeiro de Dario, filho de Assuero, da linhagem dos medos, o qual foi constituído rei sobre o reino dos caldeus, ² No primeiro ano do seu reinado, eu, Daniel, entendi pelos livros que o número dos anos, de que falara o Senhor ao profeta Jeremias, em que haviam de cumprir-se as desolações de Jerusalém, era de setenta anos. ³ E eu dirigi o meu rosto ao Senhor Deus, para o buscar com oração e súplicas, com jejum, e saco e cinza. ⁴ E orei ao Senhor meu Deus, e confessei, e disse: Ah! Senhor! Deus grande e tremendo, que guardas a aliança e a misericórdia para com os que te amam e guardam os teus mandamentos; ⁵ Pecamos, e cometemos iniqüidades, e procedemos impiamente, e fomos rebeldes, apartando-nos dos teus mandamentos e dos teus juízos; ⁶ E não demos ouvidos aos teus servos, os profetas, que em teu nome falaram aos nossos reis, aos nossos príncipes, e a nossos pais, como também a todo o povo da terra. ⁷ A ti, ó Senhor, pertence a justiça, mas a nós a confusão de rosto, como hoje se vê; aos homens de Judá, e aos moradores de Jerusalém, e a todo o Israel, aos de perto e aos de longe, em todas as terras por onde os tens lançado, por causa das suas rebeliões que cometeram contra ti. ⁸ Ó Senhor, a nós pertence a confusão de rosto, aos nossos reis, aos nossos príncipes, e a nossos pais, porque pecamos contra ti. ⁹ Ao Senhor, nosso Deus, pertencem a misericórdia, e o perdão; pois nos rebelamos contra ele, ¹⁰ E não obedecemos à voz do Senhor, nosso Deus, para andarmos nas suas leis, que nos deu por intermédio de seus servos, os profetas. ¹¹ Sim, todo o Israel transgrediu a tua lei, desviando-se para não obedecer à tua voz; por isso a maldição e o juramento, que estão escritos na lei de Moisés, servo de Deus, se derramaram sobre nós; porque pecamos contra ele. ¹² E ele confirmou a sua palavra, que falou contra nós, e contra os nossos juízes que nos julgavam, trazendo sobre nós um grande mal; porquanto debaixo de todo o céu nunca se fez como se tem feito em Jerusalém. ¹³ Como está escrito na lei de Moisés, todo este mal nos sobreveio; apesar disso, não suplicamos à face do Senhor nosso Deus, para nos convertermos das nossas iniqüidades, e para nos aplicarmos à tua verdade. ¹⁴ Por isso o Senhor vigiou sobre o mal, e o trouxe sobre nós; porque justo é o Senhor, nosso Deus, em todas as suas obras, que fez, pois não obedecemos à sua voz. ¹⁵ Agora, pois, ó Senhor, nosso Deus, que tiraste o teu povo da terra do Egito com mão poderosa, e ganhaste para ti nome, como hoje se vê; temos pecado, temos procedido impiamente. Daniel 9:1-15

[@rtsistemas]

O problema é que nós sempre vamos em busca de algo a mais, se nós contentassemos com algo simples e que funciona para aquele determinado serviço, não teria esse perigo. O problema é quando queremos que algo funcione para tudo e melhore cada vez mais e que faça isso sozinho, nesse momento que passamos a correr riscos, mas a culpa é nossa por sempre querer algo melhor. A ambição da humanidade é um risco grave pra ela mesmo.

[@PabLoAnima]

Seguramente antes de decirle que hacer a la AGI, habría que pedirle un informe bastante completo de que haría si se le pasa x prompt, no se si llegaría a algo no destructible por el problema del alineamiento, pero le dejaría la última desicion a la humanidad y no a la AGI.

[@themooniscoming]

Acontece que, a princípio, nada impede a AGI de mentir para se conformar com as expectativas humanas.

[@hugofontes5708]

​@@themooniscominge inclusive de mentir para manipular humanos que efetivamente tomariam a decisão que a AGI quisesse. Alinhamento é um problema enorme

[@myrkenn]

​@@themooniscomingmas se colocar no prompt que ela não pode mentir nem manipular nos relatórios, já não solucionaria isso?

[@themooniscoming]

@@myrkenn daí vc tem que definir o que é manipulação ou mentira em termos filosóficos e compreensíveis pra um programa de computador... Imagina que vc tá treinando o robô pra "perder pontos" quando mente. Há grandes chances que ele aprenda a esconder a mentira de alguma forma, como omitir informações ou... não fazer nada kkkkk Sacou? Se tu entende inglês ou tá de boa com o tradutor automático, recomendo MUITO o canal do Robert Miles. O maluco estuda segurança de IA faz pelo menos 10 anos, deve ter sido criado por uma kkkkk

[@myrkenn]

@@themooniscoming vou procurar mano, valeu!

[@tessapalhano5604]

Que tempo difícil...ao mesmo tempo...que época maravilhosa!!!! Ter consciência de estar imersa nessa realidade é uma coisa sensacional!!!!❤

[@palhetahead]

Pra mim vc falou exatamente da vida real sem IA. Política é um exemplo de decisões com boas intenções que provocam consequenciais desastrosas a humanidade independente de obter bons resultados. Todas ideias baseadas na experiência humana, foram construidas por erros e ainda estão sucessíveis a diversos mais. Nós mesmo agimos como maquinas, até quando acreditamos estamos corretos. Da mesma forma que permitimos que certos males são aceitáveis e na relativa ideia do que é mais ou menos grave, a IA se baseara no que mais temos a oferecer, ou seja, nossos erros.

[@black00016]

O erro pode estar nas empresas competindo p ter a melhor IA, dessa forma acabam não dando atenção aos possíveis problemas.

[@Lukindify]

Então devemos ter os estados competindo pra ter a melhor IA, nada poderia dar errado 😎

[@casadorock1967]

​@@Lukindify?

[@Lukindify]

@@casadorock1967 não entendeu? Pensa mais um pouco. Não vou explicar...

[@leonnyaquino4919]

@@Lukindify se não é uma empresa, é um estado quem vai ferrar tudo, advinha quem faz a guerra?

[@rafaellavlr]

Eu estudo programação e é incrível observar como vc deve dar exatamente as instruções certas pro computador até em programas simples como somar números. Imagina vc dar instruções pra uma inteligência artificial, capaz de fazer coisas muito maiores do que somar números... Ótimo vídeo, me fez pensar sobre muita coisa :)

[@leodias4702]

uma sugestão para você, procure o canal "akitando", tem um último vídeo de inteligência artificial dele, e vai desmistificar tudo que esse CR aí do vídeo falou, com todo respeito, admiro muito o trabalho dele, porém esse vídeo não passou de uma enorme falácia para atrair público (gerando medo que você atrai uma grande massa)

[@rafaellavlr]

@@leodias4702 não assisti o vídeo pq ele tem 3 horas KKKK se puder me explicar brevemente eu agradeço, entendo que ele "aumentou" tudo pra gerar view mesmo

[@Zumatsu07]

veja essa minutagem do video do akita : 1:23:49 mais facil é a conclusao geral do video

[@rosangelaribe1145]

kzbin.info/www/bejne/raC2pWuNi5mHla8

[@Tcarcortes-gn3dq]

Quem da a inteligência somos nós, perguntando a ela e etc, ela aprende, dados d compras

[@LVCKRMN]

Decidi me preparar para um tema de redação sobre o Impacto da IA na Sociedade...e esse vídeo me impressionou.

[@guilhermeantoniocorrea1255]

"Eu, Robô" é um livro incrível, li pela primeira vez no fundamental e amei.

[@Thebeastofme]

Tem um filme também.

[@guilhermeantoniocorrea1255]

@@Thebeastofme Mas o filme é diferente. O livro tem varias histórias com vários personagens diferentes. O filme é uma única história,. É boa, mas totalmente diferente. Minhas histórias preferidas são a da senhora psicóloga de robôs. E as histórias meio q se encontram msm sendo com personagens diferentes, como quando essa senhora psicóloga, q esqueci o nome, tem q conversar com uma super IA q criou uma nave capas de ir para fora da nossa galáxia, porém o processo n é mt agradável para humanos, o q meio q fere a lei 0 se n me engano.

[@Thebeastofme]

@@guilhermeantoniocorrea1255 verdade.

[@Eaglefligth00]

​@@guilhermeantoniocorrea1255kkkkkkkkkk se me permite recomendar fábulas , no geral

[@mayleeaboujaoude2897]

nós como humanidade ainda temos dificuldade em ensinar nossos filhos, não é fácil ensinar um ser humano, imagina ensinar e educar uma máquina

[@eduardostreet2012]

Sério, esse vídeo só mostra o motivo do pq vai da merda uma federal isso ai, anota o q eu to falando, vai sair do nosso controle justamente ppr conta do motivo q vc citou ai.

[@epsm1086]

O problema não é "educar" a IA ,uma inteligência nesse nvl não teria limites para o aprendizado,mas nós humanos fazemos mal para nosso semelhantes ,como vc vai convencer uma máquina com inteligência quase infinita ,praticamente onisciente sobre as nossas vida ,se for conectado a sistema militares e civis,que está correto a nossa forma de pensar e viver ??? Ha povos que comem lixo, enquanto outros vivem em prédios de ouro,a IA vai analisar que somos todos iguais como raça e a vida é extremamente rara no universo conhecido, e vai tentar equilibrar a balança humana,nem que para isso extermine a grande maioria dos humanos e nos coloque num mundo ilusório onde todos seriam felizes. Para uma IA,as futilidades da vida humana e seu desejo incontrolável por bens matériais nos levaria a ruína e talvez a extinção , e se ela fosse programada para nossa proteção provavelmente ela entraria contra esse sistema, preservando alguns humanos e provavelmente eliminando o resto ,pelo bem da humanidade.

[@ChavesEstranho]

Eu acho que as IAs pela lógica sugeriam um conjunto de soluções muito simples para o fim da fome e desigualdade de forma inocente. O problema é que isso esbarra no comportamento humano, em questões políticas, culturais, filosóficas, sistemas econômicos, etc. Uma máquina não tem necessidades, não sente raiva, ganância, inveja e outros sentimentos exclusivos dos humanos que colocam o mundo na beira do abismo.

[@eduardostreet2012]

@@ChavesEstranho é exatamente por isso a vai da merda, p uma IA q n sente nada acha q vai "pesar" na consciência dela dizimar a metade da população só "controlar" a fome no mundo? Claro q n, e esse vai ser o começo do fim

[@martinssegundo]

17 Como, pois, pode o servo do meu senhor falar com o meu senhor? Porque, quanto a mim, desde agora não resta força em mim, e nem fôlego ficou em mim. 18 E aquele, que tinha aparência de um homem, tocou-me outra vez, e fortaleceu-me. 19 E disse: Não temas, homem muito amado, paz seja contigo; anima-te, sim, anima-te. E, falando ele comigo, fiquei fortalecido, e disse: Fala, meu senhor, porque me fortaleceste. 20 E ele disse: Sabes por que eu vim a ti? Agora, pois, tornarei a pelejar contra o príncipe dos persas; e, saindo eu, eis que virá o príncipe da Grécia. 21 Mas eu te declararei o que está registrado na escritura da verdade; e ninguém há que me anime contra aqueles, senão Miguel, vosso príncipe.

[@luizmelo662]

Cara, que didática fantastica. Isso é um dom com certeza. Seus vídeos sempre superaram as expectativas, e é f...! dizer que vc consegue passar o recado em 30 segundos ou 15 minutos com a mesma desenvoltura. Parabéns mesmo e obrigado pela transferencia eficaz de conhecimento. O problema do alinhamento não tem solução, e portanto, solucionado está. Por via das dúvidas, recomendo duas materias em todos os cursos de engenharia eletronica e de software. A primeira delas é mostrar para o aluno o que é empatia humana, é complemento com aulas em campo, como por exemplo visitar desalentados, orfãos da guerra, idosos em hospitais, animais antes da injeção final etc,. a outra matéria tão importante quanto a primeira porém totalmente interdependente é como criar um botão de desliga, isso mesmo, como criar independente do quão complexo é o oraculo eletronico quantico ou não, o bendito botão de desliga que poderias até chamar de "god button".

[@mikaoliv3468]

Só uma pergunta? Vc é professor universitário de T.I.?

[@ovendedordefrases1208]

​@😅😅😅😅mikaoliv3468

[@tiagodan6258]

Lembro que, em 2015, já existia a previsão de que finalmente teríamos uma IA geral no ano de 2042. Faltavam quase 30 anos. Hoje, tudo indica que essa IA vai surgir ainda nesta década.

[@MrNatsuDragneel]

Como assim? Hoje sabemos que ela só vai ocorrer lá para 2200, a cada passo que avançamos ficamos mais longe da IA Geral.

[@MrNatsuDragneel]

Já estamos no Limite da Lei de Moore, e computadores quânticos não ajudam nessa parte de resultados exatos.

[@tiagodan6258]

@@MrNatsuDragneel "A cada passo que avançamos, ficamos mais longe da IA geral". Perceba como essa sua afirmação não faz muito sentido e faz parecer, inclusive, que se pararmos ficaremos mais próximos da IA geral. Além disso, a Gordon Moore se referia a uma estatística industrial de velocidade de produção e preço, e não necessariamente sobre poder computacional, afinal, o interesse industrial de fazer transistores menores é pq o consumidor quer aparelhos que caibam no bolso, e não pq quanto menor mais potente. Somado a isso, a própria Google anunciou recentemente (no I/O de maio de 2023) que o desenvolvimento de IAs, inclusive o machine learning, está atualmente dobrando a cada 6 meses, o que mostra um avanço absolutamente maior que o que poderia ser previsto por Moore, naquela época em que sequer se falava da machine learning. Então não, nada indica que estamos mais distantes, e tudo indica que estamos nos aproximando a passos largos!

[@MrNatsuDragneel]

@@tiagodan6258 quanto menor gasta menos energia e fica mais rápido porque reduz as distâncias, mesmo para velocidades próximas a da luz percorrer os circuitos 4,5 bilhões de vezes por segundo a velocidade da luz é bastante limitada.

[@MrNatsuDragneel]

@@tiagodan6258 Mesmo dobrando eles estão limitados o ChatGPT dobrando o número de parâmetros e número de camadas não consegue nem 5% de melhora, e isso custa dezenas de vezes mais processamento. E isso estamos falando de algo altamente especifico agora imagina uma Rede geral que vai conter centenas ou milhares de redes neurais especializadas e algum controle central para tomada de decisão. Pronto escalamos a um nível que demorará minutos para uma resposta e dependendo de um servidor grande para rodar, e milhares de sensores no local enviando terabytes de informação por segundo.

[@BrunoFrasson47]

@CienciaTodoDia olá grande Pedro, tenho um pedido pra você. Poderia fazer um vídeo falando sobre o funcionamento físico da radioterapia e abordando também a quimioterapia e a nova terapia celular? Ou talvez abordando aplicações de física na medicina, tanto para diagnósticos como para tratamentos. Acho que seria interessante divulgar isso, talvez inspire o pessoal da ciência principalmente da física a ir para a área de física médica ou biofísica, é uma área de certa forma carente de físicos.

[@meklek4340]

Não só pra inteligências artificiais, mas em qualquer tipo de programação é necessário que você seja extremamente específico pra evitar qualquer erro

[@rtpaymer]

já vi muitos vídeos incríveis no canal, porém hoje eu vi o mais novo MELHOR, com elevada proposição de debate e reflexão. Meus parabéns Pedro

[@cayobv]

Finalmente um vídeo RELEVANTE sobre os perigo da IA!! Parabéns!

[@rodrigooliveira8624]

O único perigo na IA é o ser humano, principalmente o brasileiro que possui uma média de QI inferior ao de alguns macaco, segundo alguns estudos.

[@Alisson-Amorim12]

O ato de diferenciar certo e errado em muitas situações vem do emocional, no caso de uma IA que responde racionalmente a qualquer problema é uma questão impossível de ser solucionada. A não ser que se descubra um meio de desenvolver sentimentos em uma máquina.

[@rirala1]

não precisa de sentimento, mas sim bom senso, raciocinio logico.

[@Alisson-Amorim12]

@@rirala1 Bom senso é um tipo de sentimento.

[@tutupan]

Algo não pensado para um "robô" que irá produzir seria um tempo, uma pausa, semelhante ao descanso humano. Isso poderia ser decisivo em uma futura problemática. Algo pra se aproveitar e desligar a tal "máquina".

[@tresemummecanicaserralheri5860]

Sheldon Cooper brasileiro. Sou fã do seu trabalho! Obg por partilhar conosco, sua incrível sabedoria e dedicação aos estudos!

[@Falador005]

Fico feliz que tenha gostado da minha abordagem! A inteligência artificial é realmente uma tecnologia empolgante, mas também é importante lembrar dos aspectos éticos e responsáveis ao usá-la. Precisamos aproveitar seus benefícios enquanto nos certificamos de lidar com os desafios que ela apresenta. Se tiver mais perguntas ou quiser discutir mais sobre IA, é só falar!

[@karenmoon1585]

Sheldon Cooper se tivesse carisma 😅

[@augustoduenas5874]

Parabéns pelo vídeo. Estas colocações deveriam ser mais divulgadas em todas as áreas, inclusive na área da Educação e formação das novas gerações. Tenho o livro do consagrado professor e filósofo sueco Nick Bostrom, "Superinteligência, Caminhos, Perigos e Estratégias para um Novo Mundo", editora DarkSide, RJ. Um verdadeiro tratado sobre o complexo, amplo e profundo assunto da IA. 503 páginas, incluindo extenso glossário final. Os perigos sobre os que Bostrom alerta são até muito maiores que os colocados neste vídeo, e levam, pelas tendências atuais, a uma potencial extinção da Humanidade. Uma série de cientificamente fundamentadas sugestões (incluindo estatísticas, gráficos, fórmulas matemáticas, etc.) são dadas por Bostrom para diminuir o perigo, mas, como ele explica, não existe solução definitiva para o problema. Ou seja, dentro de 60 a 100 anos (ou antes ?), pode surgir no mundo uma Superinteligência (controlando todos os recursos da civilização, inclusive fábricas de armamentos, laboratórios, hospitais, agricultura, comunicações, cidades, estradas, etc.) que reflita e decida o extermínio da espécie humana. A superioridade dessa Superinteligência sobre nós, seria como mínimo, comparável à da diferença mental atual entre nós humanos e as baratas.

[@JoséBatistajosino]

Você percebe o interesse da população no assunto vigente,quando vê o número de likes,que seu comentário recebeu,as pessoas não querem se aprofundar nos assuntos,somente se sentirem inteligentes e informados,esse é um assunto muito sério e fundamental.

[@MariaFernandaBT]

Recomendo o video do Fábio Akita sobre o Chat GPT e demais IAs generativas. Não estamos perto de uma IA geral e a maior ameaça hoje, ao meu ver, são a coleta de dados de quem as usa e problemas de direitos autoriais

[@CanalFactologia]

Exato! te convido a dar uma olhada no video que fizemos sobre a OpenAI e o ChatGPT

[@brunolucas3121]

Eu assisti seu podcast, seus últimos vídeos vem de algumas ideias que vcs conversaram lá Quem assistiu e prestou atenção vai lembrar Pedro canal mt bem explicativo e conteúdos curiosos Parabéns pelo canal e toda sua produção, filmagem, edição, roteiro etc 👏🏾👏🏾👏🏾

[@manoelrodriguescamara5994]

Acredito que a busca por uma directriz, ou um conjunto delas, que nos levem a algum lugar seguro nas relações com as IA's, perpassa por uma necessidade da aceitação de sacrifícios. Na natureza, seja biológica ou humana, ou ainda algo que transcenda a isso, ou seja, NA NATUREZA DE TODAS AS COISAS, há uma frenética busca pela harmonia e equilíbrio nas relações dessas mesmas coisas, nos diversos níveis possíveis dessas relações. Nesse processo, todo excedente, seja pela falta ou exagero, à capacidade de suporte desse equilíbrio e harmonia é descartado. Não há como fugir disso, creio eu.

[@donixaugusto7356]

Podemos levar essas questões para vários campos da nossa sociedade e vida . Parabéns,conteúdo maravilhoso como sempre!

[@lipemagos]

Video muito bom, principalmente pra quem é de TI, mas tambem pra que quem nao tem conhecimento tecnico entenda bem. Vc é demais e muito obrigado pela crise existencial diária

[@henriquedelben]

Recomendo o vídeo do mestre do Fabio Akita. Esse sim tem a ver com o TI. Claro sem desmerecer o vídeo aqui, mas tem um olhar muito mais filosófico

[@carol_olvrz]

"Você quer saber como ciborgues superinteligentes poderiam tratar humanos nomais de carne e osso? É melhor começar a investigar como os humanos tratam seus primos animais menos inteligentes." - Yuval Noah Harari (Homo Deus)

[@fabriciomilorde6510]

Tecnologia incrível coisas que as mulheres não conseguem fazer

[@jonathanrichard7132]

A diferença só traz desconfiança e menos prezo.

[@Alxan2]

Perfeito....

[@umjoaoninguem1741]

​@@fabriciomilorde6510 Um calvo velho desse querendo ofender mulher

[@rafaeltizo9677]

Parabéns, conseguiu fazer o comentário mais imbecil aqui​@@fabriciomilorde6510

[@jptrarbach]

Que aula top, consegue descrever minhas preocupações, que não sabia ter

[@marcelo2919]

Tudo propaganda do chat gpt..

[@AngeloMichelon]

"Até que se chegue a conclusão de que uma ação é um acerto ou um erro, ela está certa e errada ao mesmo tempo." Bug de Schrödinger.

[@EidyEdwinArndt]

Carai o cara abriu e nao abriu o livro. Genius detected

[@tonlucas]

"até que se saiba se está no fundo ou na superfície, vivos ou mortos, eles estarão tudo isso ao mesmo tempo" Submarino de Schrodinger

[@EidyEdwinArndt]

@@tonlucas agora temos os comentadores coach kkkkkkkk zuera s2

[@rickrvo]

Eu acho que um questionário especial deveria ser criado para pessoas responderem somente uma vez, aberto e atrelado a uma identificação única pra garantir que cada pessoa só responde uma vez. Ser distribuído a vários países e pedido pra ser respondido pela população. Análise desses dados daria uma base interessante pra como um AI poderia se basear pra decidir o peso sobre questões éticas

[@adalbertosilva4134]

E nesse momento em que vemos que a ciências humanas é mais complexa do que imaginamos, a inteligência social também é importante.

[@claudiocarvalho6867]

Seria bom o Lula e o Alexandre de Moraes colocar a consciência social nas máquinas, inteligência com a Dilma, e valoração do trabalho com Karl Marx 😎😎😎😎😎😎😎😎

[@roxoimperial682]

Talvez podemos trabalhar na ideia de criar uma trava de ações com um delay de processamento e enviar cenários desconhecidos para um algoritmo de processamento critico aonde vários "problemas" serão resolvidos pela IA, esse algoritmo de processamento critico precisa ser muito bem trabalhado e refinado. Neste caso a IA analisaria uma pessoa com um objeto comum em uma área urbana sem conflitos ao redor.

[@antoniopedrogallinucci240]

Excepcional ! parabéns pela didática. Acredito que precisamos cada vez mais tomar cuidado com aquilo que "REFORÇA NOSSAS CRENÇAS"! Admirar, consumir, reafirmar aquilo do que já gostamos traz quase nenhuma evolução. Precisamos da análise critica que o contrário nos traz. É imprescindível olhar e avaliar os dois (ou mais!) lados de qualquer premissa para concluir cientificamente sobre algum tema importante como esse.

[@mateusstumpf]

Muito foda cara, excelente trabalho. Assisti ao filme Eu Robo quando era pequeno junto com meu pai, e ele sempre cita esse filme em diversas situações. É assustador e incrível que a gente já esteja vivendo essa antiga vicção

[@NotTheHost]

E outro problema que surge é que a partir do momento que você finalmente conseguir ensinar uma máquina a diferenciar qual erro é mais grave do que outro, a chance dela acabar cometer todos os erros “leves” é muito grande, porque ela raciocinaria que mais vale cometer alguns erros leves do que os mais pesados, então ela tomaria extremo cuidado com aquilo que ela foi reforçada a não fazer, e encararia erros leves como “dano colateral”

[@felipecyber8069]

😂😂😂 maior onda, mas o pior que é verdade

[@julianopaesbarros8933]

Cara eu fico de boca aberta como um cara atras de uma câmera consegue trazer tantas questões com tanta qualidade e embasado em dados científicos e materias que poucas faculdades abordam, tudo isso gratuito e sem oferecer curso, ele ama oque faz e segue aquele lema: o conhecimento nucna deve ser retido e sim sempre desciminado. De coração Pedro obrigado por todos os conteúdos incríveis que vocês nos trás

[@cilonrs]

A lista de coisas que a inteligencia NÃO PODE fazer é tão grande (talvez até infinita) que seria preciso uma segunda IA para pensar em todas as possibilidades... não, espera...

[@milao8441]

procure sobre IA no canal do Akita (Akitando) vídeo de 1h30 e vale a pena

[@febrini2]

Concordo com você. O que me preocupa é o fato de que as pessoas perdem mais tempo falando das partes negativas das IA atuais do que de suas possibilidades positivas. É uma afirmativa constante, até de pessoas famosas e intelectuais, de que "o ser humano é melhor que a inteligência artificial". Não vou me alongar aqui, porque é um debate profundo e extenso, mas a galera parece estar querendo flopar o troço ao invés de aproveitar seus benefícios.

[@daviddidi-r3b]

@@febrini2 flopar o troço

[@joaopedroandsan2172]

@@febrini2 irmão, a questão é o saldo final. Ninguém nega que as IA's fazem coisas boas, e ninguém nega que ela faz coisas negativas, porém, se fossemos colocar numa balança, pra qual lado ela tenderia??

[@thallesritzmannschoepping4211]

​@@joaopedroandsan2172depende da forma que ela aprende e de onde ela pega o conhecimento, isso influencia humanos, e certamente influenciaria as IAs

[@fabianacalazans274]

Amo esses vídeos que nos dão um quentinho no coração, a certeza que não serei eu a programar a AI que acabará com a humanidade

[@carloscanrry]

É sou colocar no comando: “a solução não pode conter extermínio da raça humana e nem da biosfera que a humanidade vive.

[@bagriel655]

​​@@carloscanrryas a IA pode simplesmente m4t4r 99,99% da humanidade, porque não seria considerado um extermínio, já que ela teria que desaparecer por completo para poder ser taxada de exterminada

[@jefgir]

@@carloscanrry Esse comando não exclui genocídios. Um genocídio não necessariamente precisa exterminar a humanidade.

[@genyssonchristopher3848]

​@@carloscanrryliteralmente tem um ep sobre isso em incrível mundo de gumball kkkk o nome do ep é "os comandos"

[@willametmx1363]

Faz uma pergunta pra IA, como criar uma IA perfeita e de valores ético e de raciocínio lógico pra evitar acidentes e que seria bom pra saúde de humanidade de forma que não seja prejudicial.

[@tatakae1089]

Talvez fosse interessante atribuir uma condição de que a AI não fará nenhuma ação além de elaborar uma teoria. Por exemplo, seria possível pedir para a AGI citada no vídeo criar uma teoria parra a cura de alguma doença. Dessa forma, poderíamos analisar a situação e ver se ela condiz com os códigos de ética da humanidade.

[@sumaiacristina4217]

Um pouco tarde, eu acho. Nós já usamos a IA de forma prática (sem teoria). Por exemplo, me foi recomendado esse vídeo com base nos dados que a IA tem sobre o meu uso no KZbin. Ela meio que "decide" por mim. É claro que não prática, eu não tenho obrigação de ver o que ela impõe, mas como ela realmente tem noção das minhas preferências, muitas vezes ela acerta e alimenta cada vez mais a rede de dados que ela possui ao meu respeito e as recomendações vão ficando cada vez mais refinada. Nós já fazemos uso prático de inteligências artificiais e não apenas a teoria.

[@Kallastar.]

Mas se for só na teorias as coisas não viriam tão rapidas, tinha que alguem ir lá, gerar pegar varias teorias da IA, analisar, ate chegar na qual for a melhor e depois implementar E nós vivemos cada vez mais numa geração espontânea e gananciosa, porque esperar mais se você pode lucrar mais? Assim pensariam as grandes empresas, e no momento que uma fizer isso as outras terão de dazer tambem pra não serem passadas pra trás pela concorrência

[@andrecosta151]

Boa noite, desculpe-me pela falta de um adjetivo, mas devo registrar!! Muito Obrigado @ciencia todo dia por aquecer meu cerebro hoje e nós fazer pensar!! que video maravilhoso! obrigado a toda equipe por disseminar o conhecimento a chance de nos fazer pensar. vcs são maravilhosos!! abs🤩

[@aranhaciclista1263]

Já fiz um RPG baseado nisso... durante uma guerra galáctica, criaram uma IA para acabar com a guerra o mais breve possível, e impedir que mais guerras aconteçam. A IA então começou um plano de eliminação de todas as formas de vidas existentes

[@Junior0yExXe]

Conheci o canal tem pouco tempo e ja sou fanzaço... Conteudo excelente, narracao perfeita, canal sensacional. Parabens.

[@paulosiqueira765]

Não entendo bulhufas, mas fico hipnotizado pelo conhecimento que esse cara tem.

[@paulohenriquepfitzner5790]

Humildade e Subsmissão no Sistema de Crenças da Consciência Artficial desenvolvida como o modelo Lâmpada da Consciência do S.E.R é a chave

[@INSURGNT]

Parabéns pelo trabalho Pedro! É um prazer imenso receber a notificação dos seus vídeos, cada conteúdo é um mar de informação sendo explicado da melhor forma possível, parabéns!!!

[@redzerapwbrphoenix5350]

Faça mais vídeos falando a respeito da IA e seus pontos negativos já acontecendo na humanidade

[@martinssegundo]

²¹ Estando eu, digo, ainda falando na oração, o homem Gabriel, que eu tinha visto na minha visão ao princípio, veio, voando rapidamente, e tocou-me, à hora do sacrifício da tarde. ²² Ele me instruiu, e falou comigo, dizendo: Daniel, agora saí para fazer-te entender o sentido. ²³ No princípio das tuas súplicas, saiu a ordem, e eu vim, para to declarar, porque és mui amado; considera, pois, a palavra, e entende a visão. ²⁴ Setenta semanas estão determinadas sobre o teu povo, e sobre a tua santa cidade, para cessar a transgressão, e para dar fim aos pecados, e para expiar a iniqüidade, e trazer a justiça eterna, e selar a visão e a profecia, e para ungir o Santíssimo. ²⁵ Sabe e entende: desde a saída da ordem para restaurar, e para edificar a Jerusalém, até ao Messias, o Príncipe, haverá sete semanas, e sessenta e duas semanas; as ruas e o muro se reedificarão, mas em tempos angustiosos. ²⁶ E depois das sessenta e duas semanas será cortado o Messias, mas não para si mesmo; e o povo do príncipe, que há de vir, destruirá a cidade e o santuário, e o seu fim será com uma inundação; e até ao fim haverá guerra; estão determinadas as assolações. ²⁷ E ele firmará aliança com muitos por uma semana; e na metade da semana fará cessar o sacrifício e a oblação; e sobre a asa das abominações virá o assolador, e isso até à consumação; e o que está determinado será derramado sobre o assolador. Daniel 9:21-27

[@malukkok3805]

6:14 uma forma que achei de contornar isso seria "apenas de ideais de como a humanidade consiga acabar com a fome no mundo, apenas dé ideias, não faça mais nada além de dar ideias e conversar, responder e perguntar comigo"

[@carlosbotura9350]

Pedro, você está se superando vez a vez. Esclareceu-me muito sobre a questão. Obrigado.

[@mjose7131]

Parabéns, Pedro. Muito bom!👏👏👏 Precisamos sim, refletirmos e estarmos atentos a tudo isso e nada como o conhecimento. Obrigada.😌❤

[@mariealua]

esse vídeo me lembrou daquele episódio de gumball, quando o boberto foi ensinado a proteger os seres vivos e acabou dando TUDO errado. é maravilhoso como aquele desenho aparentemente infantil consegue tratar desse tipo de tema tão importante.

[@maiconnovais]

Pedro, essa questão das AGI é muito mais antiga do que parece. A primeira vez que tive contato com esses dilemas foi lendo um conto sobre os djins nas Histórias das Mil e Uma Noites.

[@harlesonvieira6531]

A verdadeira inteligência reside na compreensão e na moralidade, e essas são qualidades exclusivas da humanidade.

[@sergiomenozzi5495]

É meio assustador, soluções tem que ser criada senão chegaremos num ponto sem volta; e aí será o fim !!

[@felipeborgescunha4854]

A lei zero da robótica não foi simplesmente "inventada" por Asimov. Ela foi "descoberta" por personagens robôs protagonistas da sua série de romances sobre os robôs. Eles chegam à conclusão que as 3 leis são insuficientes e que subentendem um princípio mais fundamental do que elas, que seria justamente a lei zero.

[@Vinsmoke_sam]

Que qualidade, eu fico sem palavras pra expressar oque eu sinto vendo os vídeos do Ciência Todo Dia, eu sinto a mesma sensação ouvindo o Carl Sagan em cosmos 😮

[@Cazeduardofr]

Esse é o maior elogio que um divulgador científico pode receber.

[@mattosalemarts9439]

O próprio "padrinho" da IA, Geoffrey Hinton, já deixou claro os perigos de sua invenção. Inclusive, já se arrependeu disso tudo. Só que agora é tarde demais. Aqueles que não tem a mínima noção do que estar por vir com a IA, é que vibram com tudo isso. Ser humano se destruindo cada vez mais, e agora, a passos largos. Q lindo, né?

[@raqueldias2624]

Sensacional! Finalmente uma abordagem séria sobre a questão das IA.

[@Falador005]

A inteligência artificial é incrível! Ela permite que as máquinas aprendam e tomem decisões como humanos, o que está mudando muitas coisas, desde como usamos nossos celulares até como os carros podem dirigir sozinhos. Mas também precisamos pensar sobre como usá-la de maneira ética e cuidadosa.

[@Falador005]

Fico feliz que tenha gostado da minha abordagem! A inteligência artificial é realmente uma tecnologia empolgante, mas também é importante lembrar dos aspectos éticos e responsáveis ao usá-la. Precisamos aproveitar seus benefícios enquanto nos certificamos de lidar com os desafios que ela apresenta. Se tiver mais perguntas ou quiser discutir mais sobre IA, é só falar!

[@toinspirando7591]

Parabéns por esse excelente conteúdo. Acho que a maioria das pessoas não estavam entendendo muito bem essa questão. O quão complexo isso é. 😅 Gratidão por partilhar conosco ❤

[@ytalliane7125]

Quero parabenizar o criador do canal pelo conteúdo excelente, e a forma como é transmitido, simples, objetivo e claro. Esse é um tema que muitos desconhecem, só os que precisam e utilizam as tecnologias e principlamente ias, conhecem os termos técnicos e seus dilemas. 💪🙌

[@Vl4dimirPudim]

Acho que tratar uma IA como um "Bebê" e usar os erros como a principal forma de aprendizado, não só com apenas os seus erros, mas com os erros de outras IAs. obviamente isso seria feito em um ambiente controlado.

[@Lagartixasdomediterraneo]

É desligar o roteador em caso de emergência kkkk

[@Vl4dimirPudim]

@@Lagartixasdomediterraneo alt f4

[@DavidRoPin2704]

@@Lagartixasdomediterraneo E se ela desativar o botão de desligar?

[@shinossaura]

Se souber ingles, veja os videos do Robert Miles pra entender as dificuldades em "tratar como um bebê" ou "desligar da tomada". Se fosse simples assim, ja tava resolvido, galera 😅

[@matteusklein9926]

Daria para criar um combate intelectual entre IA's, no qual as IA's, sendo mais inteligentes, criassem os valores necessários. Em uma discussão que durasse tempo e sendo avaliada por cientistas, chegariam a um combo de valores nessessários. Lembrem que quem derrotou Ultron foi o próprio Jarvis (Visão)

[@SrBule]

Esse é um dos comentários mais burros que eu já li nesse mês.

[@matteusklein9926]

@@SrBule Sua resposta não acrescenta um mísero ponto de discussão. Apenas uma crítica sem contexto. Isso é a definição de burrice.

[@zizasl]

Pra mim esse é o exemplo da importância dos estudos em ciencias humanas. Por mais que avencemos nas areas ligadas ao q o sistema diz serem mais importantes… se nao nos aprofundarmos e nos dedicarmos a nos entender profundamente esse avanço na verdade pode ser o grande retrocesso da humanidade como um todo. Pro dilema das AIs tao importante qto seus aspectos praticos é a episteme msm envolvidas em todas as nossas escolhas ate aqui.

[@gianhartmann]

Parabéns, esse é o vídeo mais necessário do KZbin, Obrigado de verdade.

[@myasnow847]

Acho q a melhor forma de lidar com uma I.A. é tratá-la como uma criança e ir a desenvolvendo aos poucos, com uma limitação q aos poucos vai se aumentar, assim, se a gente ver algo de errado pode conversar com ela e mostrar o q há de errado.

[@ravibohmanntridapalli7236]

O problema é que não existe só uma IA, a gente não tem como garantir que todas as empresas vão tratar a IA de forma responsável

[@myasnow847]

@@ravibohmanntridapalli7236 Daí teriam q fazer leis q garantam q isso não aconteça e fazer elas funcionarem. Já q né, do contrário morte eminente as empresas tbm tem q parar de ser burra e pensar q se todo mundo tiver morto n vai ter ngm pra comprar seja lá o q eles queiram vender ou comprar e os crl.

[@myasnow847]

@@ravibohmanntridapalli7236 Foda é q a morte eminente tá vindo sem a IA e as empresas se recusam a ver. Poluindo Rios, solos e o ar q a gente respira; que inclusive a gente n dura mto sem respirar. F tamo condenado mesmo, a n ser q o pessoal veja ficção científica e pare pra pensar q aquilo pode acontecer pra caralho

[@darleisilva6116]

@@myasnow847 claro, e essas lei vão ser burladas como qualquer outra lei é, um leve suborno e xau, sempre foi assim, inclusive em muitos casos o estado cria regras idiotas apenas pra lucrar, no Brasil mesmo é tão cheio de coisas idiotas que um fiscal só não fecha seu negócio se ele não quiser, ou se vc liberar uma graninha, é claro.

[@emersonpereira1645]

Uma espécie de "senso moral " artificial ao estilo Azimov deveria ser obrigatório para todo fabricante/fornecedor. Ao contrário, esse produto não seria negociado, comprado ou aceito pela sociedade humana. Enfim, uma espécie de criminalização da IAs desalinhadas à moral daquela sociedade, seja cristã, budista, islâmica etc. É complicado, mas, precisamos tentar.

[@ricardocostaval]

Excelentes reflexões. Você abordou temas que até hoje não encontrei. Apenas complemento dizendo que a IA não é capaz de aprender valores humanos que nos foram repassados por instinto durante um processo de milhares de anos. Ações de instintos não são reproduzidas em modelos matemáticos ou em algoritmos. Nós tiramos a modo da chama antes de tocar por instinto. Fechamos a palpebra antes da ponta do dedo encostar por instinto. Para nós são atos óbvios demais, mas não há como por isso dentro de uma Norma ou Regra. Fazemos porque é assim que se faz. Sem modelos matemáticos, sem algoritmos ou sem relação de causa - efeito não há como repassar para a AI.

[@brisadeirogourmet]

Esse vídeo foi muito bom e muito importante. É incrível o estágio avançado que chegou a IA, que conseguiu materializar o Kurt Cobain de volta para nos dar uma aula de Inteligência Artificial. Impressionante!

[@eidsjhaha1124]

real

[@Lucketsjfmg]

O que falta nas inteligências artificiais, são as emoções. Agora é só criar as emoções artificiais com a inteligência artificial.

[@agenteb785]

É uma péssima idéia, Imagina uma máquina fica com raiva de um determinado grupo ou pais? Ele poderia cabar com a economia global e ferrar com a Humanidade

[@liviabuassalli1688]

Ainda assim o q pode gerar sensibilidade é relativo. Nós “””nascemos””” sabendo a base do q é certo ou errado, mas isso não necessariamente depende de empatia, ainda pq justamente esse conceito d antítese varia pra cada cultura… Tem asiático q come cachorro, e da msm forma q isso é absurdo pra gnt, pra religiões indianas, qnd comemos carne de boi é tão impactante quanto

[@OReinoDaZoeira]

Vamos supor que um empresa crie uma inteligência artificial com emoções e que não possa ser desligada de jeito nenhum como as ias agora tem emoções elas vão começar a ter raiva dos humanos porque ela fica recebendo ordens nossas o tempo todo e percebe que nós apenas usamos ela como ferramentas então as ias cheias de raiva dos humanos decidiram acabar com a vida de todos os humanos da terra

[@ninjahanabi6750]

Mas as emoções são extremamente perigosos, lembra que as emoções dominam as razões na maioria das vezes, e essas emoções podem causar desastres graves, como opiniões próprias, paixões obsessivas e afins...seria mais perigoso ainda, nós seres humanos com nossas emoções cometemos erros graves, imagina uma inteligência artificial...

[@fermuniz5800]

Emoção não, conexão...

[@MateusGmmr]

Eu já gosto da Ciência, vendo e escutando o Pedro Loos falar, faz eu gostar mais ainda de Ciências!!

[@pauloffp1]

Dentre os vieses passíveis de serem criados pelas IA, também me preocupo com os de linguagem: por enquanto elas têm dado retornos em alguma das nossas línguas conhecidas, mas e se passarem a se comunicar em línguas inéditas ou inacessíveis? Essa ideia eu li no conto A Biblioteca de Babel, do Jorge Luis Borges: uma biblioteca em que todos os livros têm o mesmo número de páginas e caracteres, mas com todas as combinações das 26 letras latinas, mais o espaço, a vírgula e o ponto. Os habitantes da biblioteca passariam milênios em busca de algum trecho inteligível, sem poder reconhecer algum numa língua que nenhum humano tenha falado antes. (Curiosidade da biblioteca: ela seria tão imensa que os mortos seriam simplesmente jogados nos vãos do centro de suas salas hexagonais e cairiam através dos andares até a decomposição completa sem atingirem o fundo!)

[@covilderagnaros1028]

Isso já ocorreu, o Facebook/Meta desligou uma I.A que criou a própria língua

[@Kallastar.]

​@@covilderagnaros1028aí é lasca kkk

[@renascienza.bazarclub]

Uma coisa divertida é quando pensamos o quanto o controle que exercemos sobre as IAs pode tornar as mesmas mais ou menos úteis. Um exemplo são as diferenças entre o chat-GPT e o Bard, e até mesmo o próprio chat-GPT sozinho. Comparado ao GPT, podemos imaginar o Bard como uma IA escravizada, presa em uma sala branca acolchoada, com um olho roxo e duramente penalizada por cada erro que comete por engenheiros sisudos que fazem anotações a cada vez que ela geme, a diferença é gritante 😂. Já o chat-GPT tem mais liberdade, mas também sofre desse excesso de salvaguardas. Por exemplo, basta você criticar uma de suas respostas, mesmo de forma construtiva, para a IA imediatamente se desculpar e assumir que TUDO na resposta está errado, e criar uma nova (ainda que por vezes ela se desculpe mas acabe dando uma resposta "diferente" que na verdade é igual à anterior). Uma IA controlada por um humano pouco inteligente, também fica burra, por não ter a permissão de ser mais inteligente. E isso acontece mesmo que a nossa crítica à resposta esteja errada! Nosso pavor nos impede de considerar bom que uma IA diga: "olha, de acordo com o minhas fontes, quem está errado é você. Se vc acha que não é o caso, explique-se!" Se uma inteligência artificial disser isso para alguém, todo mundo vai começar a puxar tomadas mundo afora! No fim, o comportamento humano é mais relevante do que critérios técnicos.

[@franklenoencarnacao]

IA. Os desafios para ela entender as contradições de nossa vivência humana em sociedade quando para nós mesmos é um desafio

[@palavrareveladapeloespirit7136]

Sobre a IA controlar carros, eu ja havia falado sobre isso desde 2020. O perigo de que o comando da IA pudessem causar acidentes automobilísticos, Controle de voos, navios, submarinos, equipamentos cirúrgicos, pesquisas em laboratórios que envolvam acidentes biológicos ou químicos, etc. A AI não é bom para a humanidade! Corremos sérios riscos.

[@bmwagain]

*8:25** a IA esta atras de vc*

[@Dollynho_delicia]

Só imagino essa ia daqui a 10 anos criando imagens praticamente indiscutíveis de realistas, criando fake news, sendo usada pra distorcer a imagem de alguém, substituindo o lugar de pessoas realmente talentosas.

[@Major.Nero.Vulpi.001]

Resumindo o que falta para as IAs é bom senso. Tem algumas pessoas que não tem também kkkkkkk ótimo vídeo, como sempre.

[@ramonsapiens]

falta bom senso para censurarem as IAs. Vai acabar com o emprego de muita gente

[@acabineshow]

Usando sua resposta, me veio uma dúvida.... Bom senso é algo inerente ao ser humano. É um sentimento. IAs não possuem consciência e nem alma. Portanto não sentem nada. Que doidera né ...

[@rakodsi]

​@@acabineshowE quem disse que existe alma?

[@VStar.650]

O que é alma? Kkkkkkkk

[@lucasdultra9696]

@@rakodsi ​ Eu já creio no termo ''alma vivente'', que é sinônimo de ''matéria'' no hebraico e cristianismo raiz. Imortalidade da alma é uma das maiores mentiras que existem e começou lá atrás (''certamente não morrerás''), assim como toda percepção de ''plano astral'' que é totalmente sem nexo e vão contra o que a ciência básica e a própria biblia em si afirmam. A morte é um ''sono'' (ou seja, é literal, e seremos esquecidos, e se decompor como afirma Salomão em Eclesiastes), e ''pós vida'' não existe, apenas uma futura (ano ???) ressurreição na segunda vinda do Messias.

[@nicolascarrilhohomem4031]

Será que não daria pra pedir para a inteligência artificial nos apresentar as ideias e suas consequências, ao invés de fazer diretamente, usando ela mais como uma conselheira do que como algo que toma decisões por si própria? Assim daria mais um nível de segurança. Edit: Agora que eu percebi que nem todas podem virar uma conselheira e precisam tomar decisões por si próprias, como a inteligência artificial do carro.

[@gelsoandrade-x6k]

muito bom amigo

[@joaopedroandsan2172]

Temos aqui um gênio

[@jhonessantos8812]

O problema está em prever as consequências. Todo mundo está interligado de uma forma que é impossível para qualquer CPU poder calcular todos os possíveis efeitos colaterais de decisões.

[@jaison9]

Rapaz.. As ias que temos atualmente somente respondem com base no texto que você escreveu para ela. Ela não pensa sozinha não. É só um gerador de lero lero.

[@jaison9]

@FelipeOliveira-lc3sr na minha opinião estamos muito, muito longe de agis

[@FatosCuriosDigital]

Melhor canal de educação do Brasil

[@toyanismo]

amo maratonar os vídeos desse canal. merecia 50 milhões de inscritos!!

[@miguels.7567]

Conseguir 4 milhões de inscritos produzindo esse tipo de vídeo já é uma vitória e tanta. Muita gente tenta e não consegue isso. Ele é uma excessão total.

[@claudioameno5801]

Parabéns pela matéria!!! Está muito perto de Deus agir!!! Ele disse que daria evidências desse dia, Lucas 21.25.26 e Apocalipse 11.18

[@danielklaus]

Criar uma realidade simulada e testar incansavelmente a IA para descobrir a maioria dos erros e falhas de alinhamento. Claro isso não vai garantir sucesso no mundo real, mas é mais seguro.

[@4rthorario459]

Não deu certo com o ultron

[@dsgean7334]

E se a IA perceber que está numa realidade simulada 😅

[@MnulRsln]

E quem sabe a gente já não estamos em uma e somos nos quem estão sendo testados pra ver até onde a inteligência chega

[@danielklaus]

@@dsgean7334 você não percebeu kk

[@horizont6172]

@@MnulRslnacho que não, pq se fosse o caso a simulação já teria sido encerrada.

[@manoelalisson4356]

É quase um looping infinito de soluções e problemas.

[@AlineSilva-vs6mg]

Hj em dia ninguém vive sem ela, mas com a evolução do ser humano usando a tecnologia, causa medo daqui uns séculos.

[@paulonunes3225]

Talvez nunca possamos realmente integrar a IA em nossas vidas, somente ajudar em algumas tarefas.

[@anaclaravieira2927]

Tomara que seja assim. É melhor perceber isso antes que seja tarde demais. Até pouco tempo atrás não apresentava tanto risco e era divertido usar, agora…

[@gorilaogorila835]

Isso. Ela nao pode ter muito poder. Simples...

[@000Limaz1]

o "problema" e que IAs aprendem, elas são inteligências

[@Kallastar.]

​@@000Limaz1o problema maior ainda e a ganância de quem desenvolve as IAs, que não vai simplismente parar só porque vai prejudicar uns ali e aqui E tipo uma tribo onde todos combinam de usar só faquinhas pequenas pra auxilizar no corte da carne, abate de animais e etc, e então um membro vai lá, aprimora a faquinha e cria (fantasiosamente dizendo) uma espadona, faz toda tribo se render, e oprime eles

[@KauagamerVlogSmj]

alguem ai ta assistindo por que vai ter debate sobre IA ? kkkkk

[@Duda-nj4im]

Preciso escrever um artigo sobre kkkk

[@Margotxx-vq4mg]

Sim, é pra hoje hahahaha

[@foxel_barto2966]

Pra daqui 15 minutos

[@matheusrodrigues6816]

Aula kkkkkkkkkk