THERAC-25: O PIOR erro de SOFTWARE da HISTÓRIA

[@olaciencia]

13:38 o software de Pedro Loos dando um bug

[@davitv9977]

Shiu, ele pode te ouvir

[@ocurioso9754]

Vc aqui? Te acompanho tbm!

[@Drumback]

Faz crossover faz plz vocês são os pikas da galaxia da ciência BR!

[@logan7set787]

@olaciencia eu fiquei esperando uma piada com bugs, mas foi só um bug mesmo Ps: te amo✌️✌️

[@igoralves4610]

Sim eu até voltei o vídeo achando eu tive um dejavu

[@rodolfocesar7889]

Hal 9000 me ensinou que pior que uma maquina errar é uma maquina acertar e seguir com exatidão seu protocolo

[@gianstb]

Máquina alguma erra, quem erra é quem programa ela

[@Vitorreaende]

​@gianstbfalou bobeiraaaa 😂

[@samuelalba7694]

Sou formando de física médica, atualmente as maquinas de de radioterapia contam com duas câmaras detectoras de radiação independentes que param o sistema de emissão de radiação caso passem de determinada unidade monitora (dose).

[@EduardoNascimbeni]

Bom saber, brigadão.

[@Lopessleo]

E aquela famosa frase: "Se vc tem 2, vc tem 1 e se vc tem 1 vc n tem nenhum" Redundancia é sempre bem vinda e falaria ser ate algo indispensavel nesses casos, que bom que as maquinas modernas foram moldadas com base nos conhecimentos adquiridos por erros passados

[@allanl.f7814]

Obrigado pela informação :)

[@MaiconZanellaZ]

E se o hardware das cameras falhar existe uma detecção da máquina pra interromper o processo nesse caso? Percebe que apesar de termos mecanismos de segurança tudo é passivo de erro.

[@Rodineialenda]

​@@Diabrorojotá, e o que você tem a agregar?

[@JoaoPantaleao0]

Isso me fez lembrar de um caso mais recente, o MCAS (Sistema de Aumento de Características de Manobras), software que foi apontado como principal causador na queda de duas aeronaves. Depois dos acidentes houve até fechamento do espaço aéreo para os aviões equipados com esse sistema. As operações já foram retomadas. Porém, hoje se sabe que o defeito realmente estava na programação do sistema.

[@lucasdelima6500]

Como programador eu gostei demais desse tema. Nunca ouvi falar dessa história. Realmente serve como estudo de ética, pois nesse acontecimento tinha muita coisa errada!! falta de teste, documentação falha, programador anônimo, empresa se negando a aceitar que poderia ter errado. Chega ser sinistro!

[@jomaNatal]

Um belo exemplo de procedimentos dentro da Engenharia de Software.

[@rauntche]

Vários elos que fecham uma corrente.

[@ederangelo21]

Esse caso dá no minimo uma série do discovery, ou no minimo um longametragem, sem dúvida que existem centenas de informações não levantadas e teorias... uma dela é que o próprio dono da empresa seja o programador. Pois o cara pode ser o programador, e contratar engenheiros para fazer a parte do hardware.

[@mohammedmclovin4450]

​​@@ederangelo21 Cara, eu ia escrever isso aqui agora, e achei seu comentário. Pra mim, pessoalmente, eh meio lógico/óbvio deduzir que o programador era o dono, um dos donos, ou alguem do alto escalão da empresa, pois essa seria A ÚNICA razão que a empresa teria pra não dar nome aos bois. Eu sou formado em engenharia de computação e inclusive já trabalhei em uma empresa do ramo médico que fazia máquinas de eletro-encefalograma para neonatos (basicamente para captar a atividade cerebral de bebês). O dono da empresa também dobrava de programador chefe, e revisava todo o código que eu e mais um outro cara escreviamos, alem de escrever boa parte do código ele mesmo. Esse cenário eh muito comum nessa área de engenharia médica.

[@edvansouza8708]

Sim, eles foram negligentes, como se o erro que estava acontecendo fosse em uma torradeira.

[@detonallgames]

01:14 kkkkk, melhor exemplo de erro do Chat GPT 😂😂😂

[@sergioluizmenezes8870]

Caramba, sou técnico de engenharia clínica e nunca tinha ouvido falar desse caso. É uma pena os fabricantes terem demorado a ouvir os relatos. A segurança em equipamentos médicos é algo primordial.

[@brunomarques6498]

Up!

[@MatheusGelinski]

Mas depende também da postura ética da fabricante. Pode ser também que eles possam pensar assim: o que é mais caro pra companhia? Refazer os testes e mitigar todas as falhas potenciais que surgiram durante os testes, e aplicar testes mais rigorosos e feitos por instituições independentes, para evitar vícios nos testes, ou pagar as indenizações de ações judiciais? Se as ações judiciais resultarem em valores bem menores do que melhorar a segurança do produto, então vamos pagar as ações, não interessa se vai custar a vida de alguém... 😕

[@xXxjacsonxXx1000]

o problema é que a maquina simplesmente foi lançada por estudos base, por isso todo esse equivoco, mas se não fosse por isso, hoje não teríamos os equipamentos que hoje temos pra tratamentos.

[@xXxjacsonxXx1000]

@@MatheusGelinski o que eles tinham de estudo cientifico na epoca era muito pouco, como o pedro disse na introdução, por uma deformação e destruição da materia oranica, eles descobriram a quimioterapia, mas isso tudo era feito por software, o que pode levar a erros por comunicação da maquina.

[@MarceloSilva-bs7nu]

Isso se chama capitalismo meu amigo se está dando lucro dane-se o resto!

[@claudiohase296]

Muito interessante o caso. Já programei em assembly, e sei que é bem complicado fazer grandes programas com ele. Ainda mais para controle de um equipamento perigoso ! Mas é um absurdo deixarem na mão de somente uma pessoa, pois é um equipamento de responsabilidade. Tanto que houve casos fatais !!!

[@oprincipado444]

Isso foi falado em uma aula da minha facul de engenharia de software. Escrever códigos para máquinas clínicas é uma responsabilidade tremenda

[@AnaJuliadaCunha]

Fiz técnico em informática, curso de programação e agora estou na faculdade de Ciência da Computação e em todos eles, bem no início, os professores fazem questão de falar sobre o therac-25 e enfatizar os problemas

[@SpoofyOficial]

Irmã, valeu apenas aprendeu programação? Estou refletindo porque sou programador, o que você achha sobre isso?

[@darkhunter9625]

É MUITA coincidência você ter escutado falar desse caso nao tecnico, curso livre e faculdade .

[@AnaJuliadaCunha]

@@SpoofyOficial não sei oq você quer saber com valer a pena ou não, porque isso é muito subjetivo. Para os meus objetivos, valeu a pena, fui efetivada antes de terminar a faculdade e ganho um salário razoável. Mas estou aqui porque eu realmente gosto da área e não por ser popular ou dar muito retorno financeiro. Ainda não estou fazendo o que realmente quero porque primeiro preciso terminar a faculdade, mas estou no caminho.

[@AnaJuliadaCunha]

@@darkhunter9625 Eu pensava que isso fosse falado em tudo quanto é curso reconhecido rsrs. Mas o que eu fiz foi técnico integrado ao ensino médio em federal reconhecido pelo MEC, não é curso livre. Fiz também um curso livre, mas ele não mencionou nada disso. Na faculdade temos uma disciplina exclusiva para a história da computação, foi nela que vi sobre o therac-25, agora no técnico, acho que vi numa disciplina sobre sistemas operacionais no primeiro dia de aula. Talvez eu ter visto nos dois possa ser porque tanto o técnico quanto a faculdade são na mesma cidade e vários professores já trabalharam nas duas instituições.

[@luizangelo2851]

Essa história é sinistra, já conhecia, mas é sempre bom ouvir pelo Loss.

[@brunomarques6498]

Também acho

[@Anas7ergun]

Conheci ela ano passado pelo kyle hill no half-life stories.

[@djarraval]

não recomendo ver esse video dentro de um avião

[@gabrielmtplays8043]

Porque?

[@jardelcarvalho4618]

@@gabrielmtplays8043 Os vôos são bem dependentes de softwares kkkk

[@isaaclourenco9254]

Relato de bugs que não foram identificados pelo editor: 13:28 - Repetiu o Zoom no Mapa 13:38 - Esqueceu de cortar o vídeo e o Loos repetiu o que estava falando Devem existir outros bugs. Alguém encontrou outros?

[@maxdolabella]

[13:51] Um bug da boca dele que, ao falar "Limita", expele uma gota gigante de saliva que cai próxima ao indicador da mão esquerda e fica na mesa o restante do vídeo.

[@gustaalmeida43]

percebi isso tbm

[@caioemanuel6672]

@@maxdolabella mds kkkkkkkkkkkkkkkkkkkkkkkk

[@wallesu6269]

@@maxdolabella KKKKKKKKKKKKKKKK

[@AthlonLozano]

Vocês não perdoaram nada

[@GuilhermeFreitass]

Parabéns pelo vídeo! Já tinha visto falar sobre o caso em canais gringos e, devido a relevância do tema, me surpreendi vendo que não haviam videos em português sobre a história. Parabéns pela iniciativa, como sempre, um vídeo milimetricamente bem feito.

[@pedrotorini3589]

É aquela velha máxima: "O software não erra, erra quem escreve o código"

[@AngeloFSP]

Se o chat GPT é um software, então códigos escritos pelo chat GPT são infalíveis 😮

[@sergiolucas3096]

​@@AngeloFSP Claro que são falhos, os próprios desenvolvedores do chat GPT não recomendam usar ele como fonte de estudo ou desenvolvimento

[@AngeloFSP]

@@sergiolucas3096 eu sei, só tava ironizando o comentário do brother alí 😆

[@samuelsobral7695]

​@@AngeloFSPmas aí pode-se alegar que o erro é de quem escreveu o chat gpt. Em essência o cometário acima tá correto, software faz o que foi programado pra fazer, os erros advém de situações não previstas e devidamente tratadas pelo programador.

[@Thwy]

Radiação cósmica pode alterar bits na memória do computador de forma aleatória. Existem até memórias RAM mais caras que conseguem detectar quando isso acontece e corrigir automaticamente o erro. Mas se você estiver no espaço, a quantidade de radiação é tão grande que nem elas conseguem detectar tudo. Por isso que mais de 50% da memória em naves espaciais são dados duplicados ou redundantes. Então dá pro código errar "sozinho" sim kkkkk

[@nestormotta_]

Em 13:38, temos um erro de software dessa I.A.! Esse cara é claramente junção de hardware e software, uma vez que é impossível um humano saber tanto 😂😂😂🤣. Pedrão, só uma correção: "Automobilismo" diz respeito ao esporte a motor (competições de automóveis). Para a indústria automotiva, nós do ramo usamos o termo "automobilística" ou "automotiva" mesmo. Parabéns pelo canal! Sou inscrito há anos e sempre aprendo muito com você.

[@Gabriel_Alves_]

Eu sou programador e tenho neurose com uso correto de variáveis de tamanhos certos assinadas ou não para aplicação simples do dia a dia. Imagine se fosse em uma máquina dessa

[@umcaraqualquer8072]

Meu professor usou esse caso como exemplo de mal uso de concorrência

[@MrViniciusml]

Além de boa prática para ajudar quem irá revisar posteriormente, a leitura do que ele está recebendo, ou pelo menos deve receber, através da nomenclatura recebida, ajuda a construir a lógica na cabeça e entender o que a variável deve ou não receber. Continue assim

[@samukadesouza8720]

E eu pensando que só eu era assim ! 😅😅😅

[@Gabriel_Alves_]

@@MrViniciusml vlw

[@goosegay9044]

@samukadesouza8720 varios milhoes de programadores nesse mundão e vc pensou q era o único q segue essa boa prática. É....

[@CarlosTeixeira07]

Em missões críticas, JAMAIS a segurança de um equipamento pode ser provida apenas por software. Na automação industrial, por exemplo, o CLP (Controlador Lógico Programável) comanda os motores que fazem as partes da máquina se moverem, e existem sensores de indicam ao CLP quando o motor deve ser desligado, mas sempre haverá interruptores que cortam a alimentação do motor (conhecidos como chaves "fim de curso") caso o sensor ou algum outro componente lógico falhe.

[@LUIS_DAS_ARTIMANHAS]

Quando entrei na faculdade a primeira coisa que mostraram para gente foi essa história, além de explicarem que se um dia a gente for pegar um serviço nunca pegar software medicos e nem software de contabilidade, pois demandam muito trabalho e segurança como mostrado no caso da terac 25. Pra quem e desenvolvedor eu alerto que se for pegar um software desse tenham o maximo de cautela!! 😅😅 A análise de requisitos e prototipagem de software e fundamental pra evitar isso. Nessa época as empresas de tecnologias não eram tão avançadas. Hoje em dia e quase impossível acontecer isso novamente por causa da engenharia de software e análise de software. Onde se tem protocolos rigorosos pra verificar o software em conjunto com a empresa e com os stakeholders.

[@vsadev]

Pera aí meu, a faculdade dizer para os alunos nunca pegarem softwares medicos e contabilidade? Que bizarro! O lance da faculdade deveria ser formar profissionais capazes de trabalhar nos ramos mais complicados, e não instruí-los a fugir disso rs. Mas essa e outras histórias de erros de software que ceifam vidas também caíram já no início da minha faculdade. Inclusive, eu fiz trabalho sobre o Therac.

[@thelorddarkam3563]

@@vsadev Alguém vai pegar e ser responsavel por matar pessoas, mas melhor n ser tu né ?

[@thelorddarkam3563]

@davidcarvalho9500 claramente não era o caso do cara

[@mercenario475]

Se o cara não for um engenheiro eletricista ou um físico nem deveria escrever software para essa coisas. Eu tenho experiência com programadores e eles tem grande dificuldade com software que enteragem com o mundo real.

[@LUIS_DAS_ARTIMANHAS]

​@@mercenario475 o programador não tem q Fazer o software sozinho e adivinhar tudo e por isso que existe analistas de sistemas e de softwares são eles que levantam os requisitos e dão as instruções pra equipe ou pro programador do que exatamente ele precisa fazer e não fazer. Nesse caso do vídeo faltou muito da empresa

[@Rebecavalentyne]

Sobre este caso, é muito simples, uma empresa tao bagunçada que nao fez testes e nem nada antes de lançar a THERAC-25 tenho quase 100% de chace de ter sido O FILHO do dono da empresa, quem escreveu tais códigos, nenhuma empresa encobre funcionários, mas se tratando do próprio filho, tenho absoluta ctz que este é o caso❤ por isso nem a justica achou o responsável

[@HenriqueSilva-gf7ln]

cara um dos canais mais satisfatórios que assisto. parabéns a toda equipe. você são muito bons.

[@youngxiller]

13:38 ooooopa, quase que não saiu a frase inteira KKKKKKKKK

[@luizadolphs6084]

Pedro, tem mais um detalhe interessante: muito do software que fazemos, não é o produto final, como bibliotecas e etc. Isso é, é possível que as pessoas que desenvolvem softwares tenham o seu código executado nas mais diversas aplicações, e algumas delas muito sensíveis. Então mesmo que na inocência se faça um código pra resolver algo pequeno e simples, tem que ter cuidado

[@bobgamer150]

Ótimo vídeo, parabéns Pedro e a equipe. Isso tudo que foi mostrado faz muito sentido, e é triste que tenha ocorrido tanta negligência. Ao meu ver, o erro não é da própria máquina, e sim de quem a fez, nós não somos perfeitos, por isso as máquinas que criamos também não são. Eu pretendo ser desenvolvedor no futuro, e quero me tornar um profissional que sabe o que está fazendo, para não comerer erros assim (e que eles sejam corrigidos no tempo certo).

[@paulovinicius21]

Acho que o pior erro de software de história foi com o MCAS do Boeing 737 MAX que resultou na queda de duas aeronaves. Poderia ter um video sobre esse caso.

[@eugeniomsjr]

Eu ia comentar justamente sobre isso. Acredito que foi mais grave em relação ao número de vítimas

[@rogeriolimateixeira6034]

@@eugeniomsjr E o prejuízo financeiro foi enorme também, quantos aviões ficaram no chão enquanto resolviam a situação.

[@pedromorett]

Perfeito

[@patricklopes-vtec]

Isso se a gente contar a vez em que o robô do Musk praticamente agrediu um engenheiro dentro da fábrica. Esse nível de automação tem que parar somente nas ferramentas que a gente usa. Se começarmos a dar IA para as máquinas brincarem, não falta muito pra humanidade se autodestruir numa Skynet da vida real.

[@rodrigoconti9239]

A Netflix fez um filme sobre esse caso

[@kevinmirandaribeiro2839]

Aquela máxima "seguro morreu de velho", serve de lição para nunca confiarmos em um único recurso de segurança, é interessante sempre utilizar uma redundância.

[@Joao.Marcos...................]

No final desse video, eu fiquei pensativo, meu peito se encheu de desespero, medo, triste...não sei o que é mas obrigado por me proporcionar tais sentimentos !

[@leo14s]

O problema não era apenas a segurança da maquina ser 100% dependente do código, e sim o fato de que o desenvolvimento de um sistema tão delicado negligenciou praticas de programação já consolidadas na epoca, muito provavelmente pela busca de alto lucro e baixo custo da empresa irresponsável. Até hoje vemos empresas que praticam o mesmo, tratam testes e qualidade como obrigação, custo e não um investimento. Sempre bom relembrar casos assim, pena que as pessoas juridicas se educam pelo bolso e não pela fatalidade do ocorrido. É frustrante ver esse cenário sendo da area de TI.

[@Dancerriodejaneiro]

Lembrei do problema do software de controle do avião da Air France, que também dava erro em uma situação específica e foi responsável por pelo menos 2 acidentes graves.

[@IsraelLeite]

Não, do air France foi o erro no pitô de velocidade que congelou

[@habinigamer8358]

Foi os softwares da Boing que dava erro. Hoje eles são os conjuntos de aeronaves mais seguros do mundo, por conta que eles corrigiram e focaram muito no software

[@thalesflorindomacieldaroch429]

O erro de software foi no boeing 737 Max 8, as empresas a Lion Air e outra que não lembro agora, mas não foi a airfrance

[@Dancerriodejaneiro]

@@IsraelLeite Sim, mas o problema foi como o software de controle reagia naquela situação. Antes da atualização do software nunca tinha dado problema. A solução foi alterar o software, os pitôs e a rotina de manutenção. Tem um episódio do canal aviões e músicas falando sobre isso

[@Dancerriodejaneiro]

@@thalesflorindomacieldaroch429 Esse foi outro

[@robertojunior895]

Perfeito conteúdo! Sou especialista em engenharia de qualidade de software e essa abordagem foi magnifica! Trazendo o caso a tona e contextualizando com nossos dias atuais!

[@thiagocabral7]

Ótimo vídeo como sempre. Mas pela primeira vez, vi um erro que deixaram passar na edição 13:38 😅

[@biancafioretti9942]

Já tinha ouvido falar no caso mas nunca com uma explicação real das consequências das dosagens e afins. Excelente vídeo!

[@lucasnogueiramayor7131]

Pedro, você poderia trazer um vídeo sobre, a imortalidade quântica.

[@Tactical_Tailgater]

Eu sou programador, e esse caso é super importante para nós

[@Joaquimale]

Tem um bug muito bom no canal do ciência todo dia, todos os vídeos desse canal eu consigo assistir em pop-up mesmo sem ter KZbin premium

[@namjmnista356]

Eu tbm consigo, adorei o bug hahaha

[@rodrigoeduardo9199]

tem navegadores que tem pop up nativo,talvez seja isso,ou até extensões

[@thiago4444]

​​@@rodrigoeduardo9199 Não, eu assisto pelo celular (no KZbin padrão) e consigo mesmo assim deixar em segundo plano. Eu só aperto o botão home pra sair do KZbin e o vídeo continua rolando em pop-up na tela. OBS: Isso só acontece no canal Ciência Todo Dia.

[@Brunocharlez]

Comigo também acontece, e com alguns outros pouquíssimos canais além do Ciência todo dia

[@tiagoogata7730]

Pior que só nesse canal eu consigo isso

[@carlos_okarenski]

Em meu primeiro ano no curso de ciências da computação aprendemos sobre o therac 25 mas não tão aprofundado quando a relação de hardware e sim sobre o software apenas, obrigado por trazer tanto conteúdo sobre o assunto

[@CT-0290]

Eu tinha visto esse caso no Gustavo Pinheiro do Starks e bem legal que mais canais brasileiros estao trazendo essa notícia obscura a tona sobre essa história do Therac-25

[@ruipflugketzer8117]

Trabalho com hardware há 53 anos e software quase o mesmo tempo. Achei este trabalho muito interessante. Vou divulgsr este video para os outros dinossauros da informática que eu conheço. Por falar em mensagens de erro: são os maus comuns erros importantes de todos os softwares.

[@fellipedepina6421]

Esse conceito de "as máquinas erram menos" não deveria ser relativo? Já que os erros das máquinas tbm são humanos, mas todos os acertos tbm são.

[@invasorborges9183]

Vídeo maravilhoso, sou da área do desenvolvimento e esse é um exemplo perfeito do porque um software precisa de testes extensivos e tempo para desenvolvimento. Assim os responsáveis conseguem olhar através de diferentes cenários e pontos de vista.

[@CanalZEEK]

No erro 54 tem um erro do Pedrão! 😪 hahahaha Excelente vídeo! (13:37)

[@brunomarques6498]

Up!

[@youtubemarsola]

Loos é um gênio

[@geilsonaraujo144]

A magia do replay imediato sks

[@pereira8104]

Eu vi e achei que tinha escutado coisas kkkk

[@MEder.1981]

Gotcha! E um pouquinho antes, tem um errinho de edição quando aparece o mapa de Washington...

[@hugovinicius6874]

Que história macabra e interessante ao mesmo tempo!!! Faço curso de Técnico de informática e esse vídeo serviu como um alerta das reponsabilidades que eu tenho que ter na minha futura profissão para evitar casos como esse!!!

[@caiocaiohenrique6346]

Como sempre, ótimo vídeo. Ao meu ver o erro não foi (por natureza) de código, foi falta de revisão de pares + assembly (quem sabe, sabe) + fraude por parte da empresa, só então o código teve a oportunidade de ser um problema. Qualquer parte da máquina que fosse desenvolvida dessa forma teria tido problemas do mesmo nível.

[@Andre.LSSilva]

Caramba nunca tinha ouvido falar antes! Pedro gosto muito do jeito que são contados os fatos nesse tipo de conteúdo, como é feito o desenrolar dos fatos e no final com um tom de esperança e uma lição, assim como no vídeo sobre o Robert Oppenheimer. Certamente esse é um dos canais favoritos que sigo. Sucesso sempre!

[@Rodrigodf86]

13:38 por falar em falha 😅 parece até que deixou de propósito pra ver se notamos. Vídeo excelente. Parabéns

[@lulu-666lu]

Ótimo alerta, Pedro. Nos últimos anos fiz raios-x e nem pensei nisso, agora vou passar a ter mais medo de raio-x e evitar ao máximo..

[@ch3dsmaxuser]

Uma observação, não é possível confiar numa máquina pois esta só faz o que seus desenvolvedores criam atraves de um processo de desenvolvimento. Portanto ao "confiar na máquina" Na verdade a confiança é depositada nos desenvolvedores e no seu processo. Ótimo vídeo, tmj.

[@apenas_fernando]

Cara que vídeo fenomenal, sou formado em ciências da computação e esse erro nunca foi mencionado na faculdade!

[@ishakynunes2338]

Existe um outro caso de bug de software que causou inúmeras mortes, mas causando a queda de um avião.

[@VictorCampos87]

E foi a pouco tempo isso.

[@rogersanctos]

Isso me faz lembrar de um certo produzido por algumas empresas e tidos como seguros. Os mesmos produtos foram e são obrigatórios para exercer a cidadania: acesso a serviços públicos, escola por crianças, etc. Sempre bom ver como dá pra confiar 100% ou cegamente em algo que uma empresa, interessada em vender seu produto, diz ou afirma.

[@lenteselentilhas]

Eu tinha um rádio relógio 100% analógico. Na hora programada ele ligou corretamente na estação de rádio sintonizada. O único problema é que a rádio estava fora do ar, sem tocar nenhum som. Naquele dia eu cheguei atrasado 1 hora no trabalho. Lição aprendida: Além de mudar a estação do rádio eu programei meu relógio de pulso para despertar como redundância.

[@Palitinho15]

Caraca amigo, vc consegue ouvir o alarme do relógio de pulso? Então meu sono é de pedra mesmo! kkkkkkkkkkkkkkkkkkkkkkkkkkkkk

[@CarlosRibeiroRC]

​@@Palitinho15eu não consigo acordar nem com o despertador do celular. Os toques padrão parecem canções de ninar.

[@luizgoerck_]

Por precaução, eu coloco vários alarmes na sequência a cada 5 minutos.

[@lenteselentilhas]

isso aconteceu numa época em que não era comum usar celular como despertador

[@ericktamberg670]

​@@CarlosRibeiroRC, eu coloquei o toque de alvorada do quartel no despertador.

[@SamuraiExecutivo]

15:30 "parar pra refletir o quanto que a gente confia nas máquinas" Eu quando vou ensianr qualquer coisa sobre computação (ou máquinas em geral) pra qualquer pessoa: NUNCA CONFIE NA MÁQUINA

[@evandrochaves9596]

Já tinha visto o video do Kyle Hill sobre esse tema mas é sempre interessante ver de novo, e até fiquei mais chocado em saber que nunca descobriram quem foi o programador, achei que o Kyle só nao quis dizer quem era.

[@victormasson625]

É paia man, mas nn conseguimos culpar nenhum dos dois, pq além da empresa ter "contratado" uma pessoa que programa por hobby, as documentações do equipamento provavelmente nem falariam sobre isso

[@danielz72727]

Pedro, nos seus vídeos eu consigo sair do app do KZbin e continuar assistindo (picture in picture), mas somente nos seus vídeos. Gosto disso

[@drfernandocesar]

Sou engenheiro de computação e até hoje - lastimavelmente - nunca tinha ouvido falar deste caso. Vídeo extremamente útil!

[@gabeeviolet]

Faz pouco tempo que acompanho o canal mas tenho gostado bastante! Que legal um canal de ciências assim

[@felipesilveira3031]

Demais a reflexão sobre não confiar cegamente em máquinas !

[@MuriloTomazela]

"Porque estou falando isso no youtube" - uma educação transformadora e mais próxima a população, precisa trazer não somente a informação, mas também a reflexão dos tempos atuais, parabéns pelo vídeo

[@carlosabreu3429]

Na minha época de programador eu dizia ao meu chefe "pô o programa fez besteira" e o meu chefe retrucava dizendo "vc fez besteira. A máquina obedece o código que vc programou". A transferência de culpa é tão velha quanto Adão e Eva. Pior que a Therac-25 foi o software dos novos aviões B737 MAX que derrubou dois deles cheios de gente dentro. Por isso um software precisa ser exaustivamente testado em todas as condições possíveis porque o bug está lá desde o início só esperando determinada condição acontecer.

[@eugeniomsjr]

A culpa é minha, eu coloco em quem eu quiser

[@vsadev]

No 737 Max o problema vai além do software, passa principalmente pela negligência da Boeing. Os engenheiros projetaram o avião com apenas UM sensor para o MCAS - que é normal ter danos por choques com objetos e pássaros, sem nenhuma outra redundância, sendo que a aviação é justamente segura por possuir muita redundância para tudo. Então, basicamente o software tinha uma única fonte de informação e, apesar de falta de sanity check no seu código, o início de tudo foi a Boeing querer economizar em sensor e em treinamento

[@bobgamer150]

Isso tudo faz muito sentido. Eu pretendo ser desenvolvedor no futuro, e quero me tornar um profissional que sabe o que está fazendo, para não comerer erros assim (e que eles sejam corrigidos no tempo certo).

[@gianstb]

Esse é o problema, ela segue exatamente o que a gente diz pra ela seguir 😅

[@saullosantos5881]

Um dos melhores canais do KZbin brasileiro! Mil vezes melhor que TV aberta.

[@genisvaldo8977]

Lembro de ter visto esta história em algum lugar, depois no final do ano passado vi no canal do Stackz e agora verei novamente

[@wonderful1185]

Sempre vídeos ótimos vindo de você. Eu queria dar minha opinião, tem um momento do vídeo em que você repete a fala, e eu pensei comigo mesmo: Seria Interessante um canal seu com os " erros " de gravação ou um Making off do vídeo! (com uma pegada mais engraçada, ou até mesmo orgânica e normal mesmo) ambas as opções eu acharia legal de ver, mas não sei se o pessoal iria curtir vídeos do tipo...

[@iiinaraaa]

botaram o estagiário pra programar tudo

[@Feixiao123]

Pra vc ver o poder que um hardware tem! Ele poderia travar a maquina antes da desgraça acontecer mesmo com o software escrito errado e se o operador fizesse algo errado

[@cairerocha1004]

Bugs em máquinas de radioterapia são ruins, mas imagina em um Airbus A330. Ta certo que ninguém sabe se foi um bug que quase derrubou o voo Qantas 72, mas ainda sim, os sistemas críticos exigem uma robustez para esse tipo de coisa não acontecer. No voo Qantas 72, o piloto recebia um alerta que o avião estava caindo, então o avião mergulhava sozinho para recuperar velocidade, os dados da ADIRU pareciam ter erro no I/O da memória, fazendo os dados se misturarem. Se o avião tivesse mais duas ADIRU, os passageiros jamais teriam sofrido fraturas.

[@cesarmayhem]

O caso dos Boeings 737 Max, até aonde acompanhei parece ter sido falha de software

[@Will_smithofc]

Na verdade existe um bug muito pior, que fez muita gente cometer suicídio e a falência de inúmeras empresas, ele é chamado de bug do milênio, ocorreu pq os anos era definido apenas por 2 algoritmos em todos os computadores globais, e quando chegaram no ano 2000, o computador reconheceu como 00 e reiniciou todo o sistema, fazendo quase todos os computadores perderem todas as informações, pesquise é muito interessante

[@vsadev]

@@cesarmayhem E falta de redundância em hardware, pois a boeing construiu o Max com apenas um sensor do MCAS enviando informações para o software. Logo a redundância é que torna a aviação tão segura! O sensor dando problema, como ocorreu (normalmente devido a colisões com objetos e pássaros), ele envia dados errados para o software, que por sua vez não possuía uma checagem mais adequada.

[@lucasbaptista2376]

Que tema incrível!! Video muito bom. Faz sobre o erro do 737 MAX, vai ficar bem massa no seu canal!!

[@Jobbers__]

13:31 alguém esqueceu de cortar essa parte.....

[@danielribeiro2600]

Já conhecia o caso, inclusive vi vários vídeos de autores diferentes, mas nenhum explicado de forma tão clara. Aproveitando o ensejo, gostaria muito que fizesses um vídeo sobre o incidente com o voo 72 da Quantas, operado por um Airbus A330, que saiu do aeroporto Changi em Singapura com destino a Perth, na Austrália( aquela cidade que o Lito, do Aviões e Músicas, adora pronunciar o nome ), em 7 de outubro de 2008. Leigos normalmente não o classificariam como falha de software mas, sob o ponto de vista da Engenharia de Software atual, é uma falha, embora não possa ser classificado como bug.

[@TV0FF_]

Pedro faz um video explicando sobre o raio-globular "raio-bola" porfavor 😅 To tentando entender sobre a existência dele

[@MrsLuiza]

Esses casos me fascinam e fazem eu ter certeza que eu quero fazer algo na área de TI

[@canaldahannah7811]

😅 0:24 O alarme da minha mãe não tocou hoje, e me atrasei para a escola.

[@deyszs]

É mais normal ela só n ter acordado com ele, acontece de vês em quando 😅

[@manuellyeduarda728]

​@@deyszso meu n tava tocando mais de manha (eu ja tinha ele a 7 meses e ele parou)

[@Rafaelanunes-oo7ph]

VALEU ciência todo dia vocês colocou muitas informações como sempre 😊😊 16:34

[@adilsonpelka2909]

O Incrível Hulk também foi vítima de uma máquina com bug que submeteu o Dr Benner a excesso de radiação.

[@davirei7243]

Salve Pedro! Duvido tu fazer um vídeo sobre o césio 137,um caso de acidente radioativo aqui do Brasil. Fort abraço 🤙🙏

[@lucasjleandro]

Esse caso pra mim é igual Chernobyl é um erro humano, de cagada do inicio ao fim

[@Italo-oh4ee]

E quem leva a culpa é a pobre da radiação

[@yumiluby]

​@@Italo-oh4ee né

[@brunomarques6498]

Factual

[@bowserlv100]

O maior erro humano é querer desenvolver algo que corrija seus erros sabendo que no caminho, haverá mais erros. É como dizem, na gana de querer corrigir erros, se cria mais erros.

[@general-arcadiano-maximus]

avanço tecnologico nao e um erro e uma conquista​@@bowserlv100

[@levitavares7253]

Pedro por favor, por falar em bug de maquinas, poderia me explicar por que seus vídeos são os únicos videos do KZbin que eu consigo assistir em modo picture-and-picture ?????

[@nintendofanfakept123]

Desculpe Pedro pelo atraso de 1 minuto, sim, eu sei que muita coisa aconteceu desde que o video lançou. Mas o software do meu despertador para o seu video bugou e só disparou 1 minuto depois... :/ (Para exclarecer, galerinha das respostas, isto foi uma *piada*, piada em referencia ao exemplo dos despertadores que houve no inicio do video. Não é preciso brigar nos comentarios)

[@Babaqueiras]

É

[@Tupin7quim]

​@yThllsO comentário acima contém humor indireto e óbvio (não tão óbvio pelo jeito)

[@xaviermelopacheco3613]

questão qual é a necessidade de atacar dessa forma?​@yThlls

[@igore1238]

​@@Tupin7quim se fosse humor de verdade na internet a frase não séria tão curta e tão sem alma como foi

[@euluccitorres]

É óbvio o comentário. A pessoa que já começou segunda-feira com essa negatividade. Melhor se ater ao elogio que o cara fez pro canal. ​@@Tupin7quim

[@guilhermea2613]

Não tem os vídeos desse canal serem ruim. Parabéns 🤩

[@rafaelnavarro4443]

A diferença é que humanos aprendem com os erros. A máquina pode ser mais segura, mas vai repetir o mesmo erro várias vezes

[@Znerpznarpy]

Eu adoro histórias com radiação pq sempre parece ter aquele tema de “qndo perceberam já era tarde de mais”

[@Erickfsm]

Falaria para meu patrão a seguinte pergunta. Se nós erramos pq um software ou uma máquina não erraria, já que é feita por nós?

[@ESTHERF-fe9yc]

Velho.... não para com os vídeos ❤, tu cura minha carência com vídeos assim, já faz mó cota que te assisto ❤

[@RenanBScaramella]

Na verdade, isso foi uma falha humana, pois foi um humano que fez o código e não preveu o bug

[@marcosp.7792]

Inteligente

[@pedrolucasbarcelosduarte5507]

Pedro vc poderia fazer um vídeo sobre a hidrazina e como ela foi banida do senário do automobilismo!!!

[@jesielsouza9933]

Quem escreveu o código foi o Pablo Marçal

[@sandrosoares4688]

Pega o código kkk

[@heathledger6539]

Faz vídeo sobre o Universo 25 por favor 🙏

[@TheCharismAcademy]

Petição para o Pedro mudar o nome do canal para "Ciência a cada 3 dias" 😅 👇

[@severinopereiracarollofilh5933]

PARABÉNS. São casos como esse que demonstram a necessidade absoluta de NUNCA confiarmos cegamente em equipamentos/sistemas/programações desenvolvidos e/ou projetados/montados pelos Seres Humanos, porque SOMOS FALÍVEIS! Toda ATENÇÃO e CHECAGEM, às vezes até a EXAUSTÃO , são IMPRESCINDÍVEIS! Como outro RECENTE exemplo, veja o caso do BOEING 737 MAX 8 !!! EXCELENTE ARTIGO e RELATO.

[@victorb.s8294]

Tá aí um vídeo q eu n esperava ver zuando o Palmeiras 🤣🤣🤣🤣🤣🤣

[@brunomarques6498]

Kakaka, serião?

[@Jūzō-14]

​@@brunomarques64981:13

[@LuisAntonioMenghi]

Não sou palmeirense , só passo raiva com a Seleção Brasileira ! Mas onde no vídeo você viu ou ouviu isso ?

[@paulovitor-gw9ur]

@@LuisAntonioMenghi1:15

[@Pregooh]

​@@LuisAntonioMenghina hora da conversa do chat gpt

[@VKSR-2077]

sempre ouço falar desse caso para ressaltar como é importante pro desenvolvedor ouvir o feedback das pessoas q estão usando diariamente o software

[@RDM_Corvo]

O programador era sobrinho do dono da empresa kkkkkkk

[@Galo_do_drip]

Ou talvez seja o próprio dono

[@marcosgomes3140]

Código sem cobertura de teste é um código perigoso em qualquer esfera. Excelente vídeo!!

[@igormachado6605]

Tirei 2 em uma prova na faculdade usando chatgpt (direito penal). QUASE reprovei por conta disso

[@bruno.theseven]

Cara, você sempre tem que pedir a fonte das informações e conferir. Chatgpt auxilia, mas não serve como substituto integral do seu trabalho.

[@EuclidesFRezende]

Aprendeu???

[@fatos-h1k]

Kkkkkkkkk

[@nerdalidade_mz]

13:38 ele cometeu esse erro de forma proposital. O cara é um gênio 😮

[@JudsonFilho-z6g]

Desculpa pelo atraso de 4 MESES.

[@ysakon.]

Desculpa pelo atraso de 5 MESES

[@Ellie_qmleuegay]

Desculpe pelo atraso de 6MESES

[@pablolucas1562]

Desculpe pelo atraso de 6 MESES

[@17setth]

desculpa pelo atraso de 8 meses

[@Juleeeeeeeee]

9 meses, um bebe

[@MarcosOliveira-hp9sw]

Sou programador, sempre digo que nosso trabalho e igual a goleiro, se acontecer 1 erro, ja cagou tudo.... por isso sempre temos que tomar cuidados e testar o software quantas vezes for preciso....

[@luizhenrique64t]

Eu tava vendo esse vídeo e quando eu vi tinha 365 mil visualizações kkkkkkkkkkk

[@victorbezerra6616]

O Lito do Aviões e Músicas já falou uma vez que hoje é totalmente possível o uso de inteligencia artificial na pilotagem de aviões, um avião totalmente autonomo e sem nenhuma supervisão humana, porém ele mesmo deixou claro que isso não pode acontecer e provavelmente não via aocntecer pois existe o fator percepção que as maquinas não possuem. Podemos dar o exemplo do comandante Suly que pousou o avião no rio Hudson, uma maquina naquela situação jamais tomaria a desição de pousar no rio e tentaria de alguma forma chegar no aeroporto. Essas decisões por muito tempo serão tomadas apenas por nós humanos. Excelente vídeo Loos!

[@miguellopes9177]

Um erro de HARDWARE muito bom foi um bit flip acho que por volta dos anos 2000 que mudou o resultado de uma eleição em shaerbeek em bruxelas.

[@Gued3s]

O pior de tudo é as empresas, que defendem o produto até a morte e não dão a minima se houve um erro real