Isso me fez lembrar de um caso mais recente, o MCAS (Sistema de Aumento de Características de Manobras), software que foi apontado como principal causador na queda de duas aeronaves. Depois dos acidentes houve até fechamento do espaço aéreo para os aviões equipados com esse sistema. As operações já foram retomadas. Porém, hoje se sabe que o defeito realmente estava na programação do sistema.
Sou formando de física médica, atualmente as maquinas de de radioterapia contam com duas câmaras detectoras de radiação independentes que param o sistema de emissão de radiação caso passem de determinada unidade monitora (dose).
E aquela famosa frase: "Se vc tem 2, vc tem 1 e se vc tem 1 vc n tem nenhum" Redundancia é sempre bem vinda e falaria ser ate algo indispensavel nesses casos, que bom que as maquinas modernas foram moldadas com base nos conhecimentos adquiridos por erros passados
E se o hardware das cameras falhar existe uma detecção da máquina pra interromper o processo nesse caso? Percebe que apesar de termos mecanismos de segurança tudo é passivo de erro.
Como programador eu gostei demais desse tema. Nunca ouvi falar dessa história. Realmente serve como estudo de ética, pois nesse acontecimento tinha muita coisa errada!! falta de teste, documentação falha, programador anônimo, empresa se negando a aceitar que poderia ter errado. Chega ser sinistro!
Esse caso dá no minimo uma série do discovery, ou no minimo um longametragem, sem dúvida que existem centenas de informações não levantadas e teorias... uma dela é que o próprio dono da empresa seja o programador. Pois o cara pode ser o programador, e contratar engenheiros para fazer a parte do hardware.
@@ederangelo21 Cara, eu ia escrever isso aqui agora, e achei seu comentário. Pra mim, pessoalmente, eh meio lógico/óbvio deduzir que o programador era o dono, um dos donos, ou alguem do alto escalão da empresa, pois essa seria A ÚNICA razão que a empresa teria pra não dar nome aos bois. Eu sou formado em engenharia de computação e inclusive já trabalhei em uma empresa do ramo médico que fazia máquinas de eletro-encefalograma para neonatos (basicamente para captar a atividade cerebral de bebês). O dono da empresa também dobrava de programador chefe, e revisava todo o código que eu e mais um outro cara escreviamos, alem de escrever boa parte do código ele mesmo. Esse cenário eh muito comum nessa área de engenharia médica.
Caramba, sou técnico de engenharia clínica e nunca tinha ouvido falar desse caso. É uma pena os fabricantes terem demorado a ouvir os relatos. A segurança em equipamentos médicos é algo primordial.
Mas depende também da postura ética da fabricante. Pode ser também que eles possam pensar assim: o que é mais caro pra companhia? Refazer os testes e mitigar todas as falhas potenciais que surgiram durante os testes, e aplicar testes mais rigorosos e feitos por instituições independentes, para evitar vícios nos testes, ou pagar as indenizações de ações judiciais? Se as ações judiciais resultarem em valores bem menores do que melhorar a segurança do produto, então vamos pagar as ações, não interessa se vai custar a vida de alguém... 😕
o problema é que a maquina simplesmente foi lançada por estudos base, por isso todo esse equivoco, mas se não fosse por isso, hoje não teríamos os equipamentos que hoje temos pra tratamentos.
@@MatheusGelinski o que eles tinham de estudo cientifico na epoca era muito pouco, como o pedro disse na introdução, por uma deformação e destruição da materia oranica, eles descobriram a quimioterapia, mas isso tudo era feito por software, o que pode levar a erros por comunicação da maquina.
Muito interessante o caso. Já programei em assembly, e sei que é bem complicado fazer grandes programas com ele. Ainda mais para controle de um equipamento perigoso ! Mas é um absurdo deixarem na mão de somente uma pessoa, pois é um equipamento de responsabilidade. Tanto que houve casos fatais !!!
@@AngeloFSPmas aí pode-se alegar que o erro é de quem escreveu o chat gpt. Em essência o cometário acima tá correto, software faz o que foi programado pra fazer, os erros advém de situações não previstas e devidamente tratadas pelo programador.
Radiação cósmica pode alterar bits na memória do computador de forma aleatória. Existem até memórias RAM mais caras que conseguem detectar quando isso acontece e corrigir automaticamente o erro. Mas se você estiver no espaço, a quantidade de radiação é tão grande que nem elas conseguem detectar tudo. Por isso que mais de 50% da memória em naves espaciais são dados duplicados ou redundantes. Então dá pro código errar "sozinho" sim kkkkk
Sobre este caso, é muito simples, uma empresa tao bagunçada que nao fez testes e nem nada antes de lançar a THERAC-25 tenho quase 100% de chace de ter sido O FILHO do dono da empresa, quem escreveu tais códigos, nenhuma empresa encobre funcionários, mas se tratando do próprio filho, tenho absoluta ctz que este é o caso❤ por isso nem a justica achou o responsável
Relato de bugs que não foram identificados pelo editor: 13:28 - Repetiu o Zoom no Mapa 13:38 - Esqueceu de cortar o vídeo e o Loos repetiu o que estava falando Devem existir outros bugs. Alguém encontrou outros?
[13:51] Um bug da boca dele que, ao falar "Limita", expele uma gota gigante de saliva que cai próxima ao indicador da mão esquerda e fica na mesa o restante do vídeo.
Aquela máxima "seguro morreu de velho", serve de lição para nunca confiarmos em um único recurso de segurança, é interessante sempre utilizar uma redundância.
Fiz técnico em informática, curso de programação e agora estou na faculdade de Ciência da Computação e em todos eles, bem no início, os professores fazem questão de falar sobre o therac-25 e enfatizar os problemas
@@SpoofyOficial não sei oq você quer saber com valer a pena ou não, porque isso é muito subjetivo. Para os meus objetivos, valeu a pena, fui efetivada antes de terminar a faculdade e ganho um salário razoável. Mas estou aqui porque eu realmente gosto da área e não por ser popular ou dar muito retorno financeiro. Ainda não estou fazendo o que realmente quero porque primeiro preciso terminar a faculdade, mas estou no caminho.
@@darkhunter9625 Eu pensava que isso fosse falado em tudo quanto é curso reconhecido rsrs. Mas o que eu fiz foi técnico integrado ao ensino médio em federal reconhecido pelo MEC, não é curso livre. Fiz também um curso livre, mas ele não mencionou nada disso. Na faculdade temos uma disciplina exclusiva para a história da computação, foi nela que vi sobre o therac-25, agora no técnico, acho que vi numa disciplina sobre sistemas operacionais no primeiro dia de aula. Talvez eu ter visto nos dois possa ser porque tanto o técnico quanto a faculdade são na mesma cidade e vários professores já trabalharam nas duas instituições.
Parabéns pelo vídeo! Já tinha visto falar sobre o caso em canais gringos e, devido a relevância do tema, me surpreendi vendo que não haviam videos em português sobre a história. Parabéns pela iniciativa, como sempre, um vídeo milimetricamente bem feito.
Eu sou programador e tenho neurose com uso correto de variáveis de tamanhos certos assinadas ou não para aplicação simples do dia a dia. Imagine se fosse em uma máquina dessa
Além de boa prática para ajudar quem irá revisar posteriormente, a leitura do que ele está recebendo, ou pelo menos deve receber, através da nomenclatura recebida, ajuda a construir a lógica na cabeça e entender o que a variável deve ou não receber. Continue assim
Em 13:38, temos um erro de software dessa I.A.! Esse cara é claramente junção de hardware e software, uma vez que é impossível um humano saber tanto 😂😂😂🤣. Pedrão, só uma correção: "Automobilismo" diz respeito ao esporte a motor (competições de automóveis). Para a indústria automotiva, nós do ramo usamos o termo "automobilística" ou "automotiva" mesmo. Parabéns pelo canal! Sou inscrito há anos e sempre aprendo muito com você.
Quando entrei na faculdade a primeira coisa que mostraram para gente foi essa história, além de explicarem que se um dia a gente for pegar um serviço nunca pegar software medicos e nem software de contabilidade, pois demandam muito trabalho e segurança como mostrado no caso da terac 25. Pra quem e desenvolvedor eu alerto que se for pegar um software desse tenham o maximo de cautela!! 😅😅 A análise de requisitos e prototipagem de software e fundamental pra evitar isso. Nessa época as empresas de tecnologias não eram tão avançadas. Hoje em dia e quase impossível acontecer isso novamente por causa da engenharia de software e análise de software. Onde se tem protocolos rigorosos pra verificar o software em conjunto com a empresa e com os stakeholders.
Pera aí meu, a faculdade dizer para os alunos nunca pegarem softwares medicos e contabilidade? Que bizarro! O lance da faculdade deveria ser formar profissionais capazes de trabalhar nos ramos mais complicados, e não instruí-los a fugir disso rs. Mas essa e outras histórias de erros de software que ceifam vidas também caíram já no início da minha faculdade. Inclusive, eu fiz trabalho sobre o Therac.
Se o cara não for um engenheiro eletricista ou um físico nem deveria escrever software para essa coisas. Eu tenho experiência com programadores e eles tem grande dificuldade com software que enteragem com o mundo real.
@@mercenario475 o programador não tem q Fazer o software sozinho e adivinhar tudo e por isso que existe analistas de sistemas e de softwares são eles que levantam os requisitos e dão as instruções pra equipe ou pro programador do que exatamente ele precisa fazer e não fazer. Nesse caso do vídeo faltou muito da empresa
O problema não era apenas a segurança da maquina ser 100% dependente do código, e sim o fato de que o desenvolvimento de um sistema tão delicado negligenciou praticas de programação já consolidadas na epoca, muito provavelmente pela busca de alto lucro e baixo custo da empresa irresponsável. Até hoje vemos empresas que praticam o mesmo, tratam testes e qualidade como obrigação, custo e não um investimento. Sempre bom relembrar casos assim, pena que as pessoas juridicas se educam pelo bolso e não pela fatalidade do ocorrido. É frustrante ver esse cenário sendo da area de TI.
Lembrei do problema do software de controle do avião da Air France, que também dava erro em uma situação específica e foi responsável por pelo menos 2 acidentes graves.
Foi os softwares da Boing que dava erro. Hoje eles são os conjuntos de aeronaves mais seguros do mundo, por conta que eles corrigiram e focaram muito no software
@@IsraelLeite Sim, mas o problema foi como o software de controle reagia naquela situação. Antes da atualização do software nunca tinha dado problema. A solução foi alterar o software, os pitôs e a rotina de manutenção. Tem um episódio do canal aviões e músicas falando sobre isso
Em missões críticas, JAMAIS a segurança de um equipamento pode ser provida apenas por software. Na automação industrial, por exemplo, o CLP (Controlador Lógico Programável) comanda os motores que fazem as partes da máquina se moverem, e existem sensores de indicam ao CLP quando o motor deve ser desligado, mas sempre haverá interruptores que cortam a alimentação do motor (conhecidos como chaves "fim de curso") caso o sensor ou algum outro componente lógico falhe.
@@rodrigoeduardo9199 Não, eu assisto pelo celular (no TH-cam padrão) e consigo mesmo assim deixar em segundo plano. Eu só aperto o botão home pra sair do TH-cam e o vídeo continua rolando em pop-up na tela. OBS: Isso só acontece no canal Ciência Todo Dia.
Isso me faz lembrar de um certo produzido por algumas empresas e tidos como seguros. Os mesmos produtos foram e são obrigatórios para exercer a cidadania: acesso a serviços públicos, escola por crianças, etc. Sempre bom ver como dá pra confiar 100% ou cegamente em algo que uma empresa, interessada em vender seu produto, diz ou afirma.
Acho que o pior erro de software de história foi com o MCAS do Boeing 737 MAX que resultou na queda de duas aeronaves. Poderia ter um video sobre esse caso.
Isso se a gente contar a vez em que o robô do Musk praticamente agrediu um engenheiro dentro da fábrica. Esse nível de automação tem que parar somente nas ferramentas que a gente usa. Se começarmos a dar IA para as máquinas brincarem, não falta muito pra humanidade se autodestruir numa Skynet da vida real.
Perfeito conteúdo! Sou especialista em engenharia de qualidade de software e essa abordagem foi magnifica! Trazendo o caso a tona e contextualizando com nossos dias atuais!
Ótimo vídeo, parabéns Pedro e a equipe. Isso tudo que foi mostrado faz muito sentido, e é triste que tenha ocorrido tanta negligência. Ao meu ver, o erro não é da própria máquina, e sim de quem a fez, nós não somos perfeitos, por isso as máquinas que criamos também não são. Eu pretendo ser desenvolvedor no futuro, e quero me tornar um profissional que sabe o que está fazendo, para não comerer erros assim (e que eles sejam corrigidos no tempo certo).
No final desse video, eu fiquei pensativo, meu peito se encheu de desespero, medo, triste...não sei o que é mas obrigado por me proporcionar tais sentimentos !
Pedro, tem mais um detalhe interessante: muito do software que fazemos, não é o produto final, como bibliotecas e etc. Isso é, é possível que as pessoas que desenvolvem softwares tenham o seu código executado nas mais diversas aplicações, e algumas delas muito sensíveis. Então mesmo que na inocência se faça um código pra resolver algo pequeno e simples, tem que ter cuidado
Caramba nunca tinha ouvido falar antes! Pedro gosto muito do jeito que são contados os fatos nesse tipo de conteúdo, como é feito o desenrolar dos fatos e no final com um tom de esperança e uma lição, assim como no vídeo sobre o Robert Oppenheimer. Certamente esse é um dos canais favoritos que sigo. Sucesso sempre!
Eu tinha visto esse caso no Gustavo Pinheiro do Starks e bem legal que mais canais brasileiros estao trazendo essa notícia obscura a tona sobre essa história do Therac-25
Em meu primeiro ano no curso de ciências da computação aprendemos sobre o therac 25 mas não tão aprofundado quando a relação de hardware e sim sobre o software apenas, obrigado por trazer tanto conteúdo sobre o assunto
Desculpe Pedro pelo atraso de 1 minuto, sim, eu sei que muita coisa aconteceu desde que o video lançou. Mas o software do meu despertador para o seu video bugou e só disparou 1 minuto depois... :/ (Para exclarecer, galerinha das respostas, isto foi uma *piada*, piada em referencia ao exemplo dos despertadores que houve no inicio do video. Não é preciso brigar nos comentarios)
Já tinha visto o video do Kyle Hill sobre esse tema mas é sempre interessante ver de novo, e até fiquei mais chocado em saber que nunca descobriram quem foi o programador, achei que o Kyle só nao quis dizer quem era.
É paia man, mas nn conseguimos culpar nenhum dos dois, pq além da empresa ter "contratado" uma pessoa que programa por hobby, as documentações do equipamento provavelmente nem falariam sobre isso
Na minha época de programador eu dizia ao meu chefe "pô o programa fez besteira" e o meu chefe retrucava dizendo "vc fez besteira. A máquina obedece o código que vc programou". A transferência de culpa é tão velha quanto Adão e Eva. Pior que a Therac-25 foi o software dos novos aviões B737 MAX que derrubou dois deles cheios de gente dentro. Por isso um software precisa ser exaustivamente testado em todas as condições possíveis porque o bug está lá desde o início só esperando determinada condição acontecer.
No 737 Max o problema vai além do software, passa principalmente pela negligência da Boeing. Os engenheiros projetaram o avião com apenas UM sensor para o MCAS - que é normal ter danos por choques com objetos e pássaros, sem nenhuma outra redundância, sendo que a aviação é justamente segura por possuir muita redundância para tudo. Então, basicamente o software tinha uma única fonte de informação e, apesar de falta de sanity check no seu código, o início de tudo foi a Boeing querer economizar em sensor e em treinamento
Isso tudo faz muito sentido. Eu pretendo ser desenvolvedor no futuro, e quero me tornar um profissional que sabe o que está fazendo, para não comerer erros assim (e que eles sejam corrigidos no tempo certo).
Já conhecia o caso, inclusive vi vários vídeos de autores diferentes, mas nenhum explicado de forma tão clara. Aproveitando o ensejo, gostaria muito que fizesses um vídeo sobre o incidente com o voo 72 da Quantas, operado por um Airbus A330, que saiu do aeroporto Changi em Singapura com destino a Perth, na Austrália( aquela cidade que o Lito, do Aviões e Músicas, adora pronunciar o nome ), em 7 de outubro de 2008. Leigos normalmente não o classificariam como falha de software mas, sob o ponto de vista da Engenharia de Software atual, é uma falha, embora não possa ser classificado como bug.
Eu tinha um rádio relógio 100% analógico. Na hora programada ele ligou corretamente na estação de rádio sintonizada. O único problema é que a rádio estava fora do ar, sem tocar nenhum som. Naquele dia eu cheguei atrasado 1 hora no trabalho. Lição aprendida: Além de mudar a estação do rádio eu programei meu relógio de pulso para despertar como redundância.
Que história macabra e interessante ao mesmo tempo!!! Faço curso de Técnico de informática e esse vídeo serviu como um alerta das reponsabilidades que eu tenho que ter na minha futura profissão para evitar casos como esse!!!
Pedro por favor, por falar em bug de maquinas, poderia me explicar por que seus vídeos são os únicos videos do TH-cam que eu consigo assistir em modo picture-and-picture ?????
O maior erro humano é querer desenvolver algo que corrija seus erros sabendo que no caminho, haverá mais erros. É como dizem, na gana de querer corrigir erros, se cria mais erros.
Uma observação, não é possível confiar numa máquina pois esta só faz o que seus desenvolvedores criam atraves de um processo de desenvolvimento. Portanto ao "confiar na máquina" Na verdade a confiança é depositada nos desenvolvedores e no seu processo. Ótimo vídeo, tmj.
Vídeo maravilhoso, sou da área do desenvolvimento e esse é um exemplo perfeito do porque um software precisa de testes extensivos e tempo para desenvolvimento. Assim os responsáveis conseguem olhar através de diferentes cenários e pontos de vista.
Como sempre, ótimo vídeo. Ao meu ver o erro não foi (por natureza) de código, foi falta de revisão de pares + assembly (quem sabe, sabe) + fraude por parte da empresa, só então o código teve a oportunidade de ser um problema. Qualquer parte da máquina que fosse desenvolvida dessa forma teria tido problemas do mesmo nível.
Bugs em máquinas de radioterapia são ruins, mas imagina em um Airbus A330. Ta certo que ninguém sabe se foi um bug que quase derrubou o voo Qantas 72, mas ainda sim, os sistemas críticos exigem uma robustez para esse tipo de coisa não acontecer. No voo Qantas 72, o piloto recebia um alerta que o avião estava caindo, então o avião mergulhava sozinho para recuperar velocidade, os dados da ADIRU pareciam ter erro no I/O da memória, fazendo os dados se misturarem. Se o avião tivesse mais duas ADIRU, os passageiros jamais teriam sofrido fraturas.
Na verdade existe um bug muito pior, que fez muita gente cometer suicídio e a falência de inúmeras empresas, ele é chamado de bug do milênio, ocorreu pq os anos era definido apenas por 2 algoritmos em todos os computadores globais, e quando chegaram no ano 2000, o computador reconheceu como 00 e reiniciou todo o sistema, fazendo quase todos os computadores perderem todas as informações, pesquise é muito interessante
@@cesarmayhem E falta de redundância em hardware, pois a boeing construiu o Max com apenas um sensor do MCAS enviando informações para o software. Logo a redundância é que torna a aviação tão segura! O sensor dando problema, como ocorreu (normalmente devido a colisões com objetos e pássaros), ele envia dados errados para o software, que por sua vez não possuía uma checagem mais adequada.
Trabalho com hardware há 53 anos e software quase o mesmo tempo. Achei este trabalho muito interessante. Vou divulgsr este video para os outros dinossauros da informática que eu conheço. Por falar em mensagens de erro: são os maus comuns erros importantes de todos os softwares.
Pra vc ver o poder que um hardware tem! Ele poderia travar a maquina antes da desgraça acontecer mesmo com o software escrito errado e se o operador fizesse algo errado
"Porque estou falando isso no youtube" - uma educação transformadora e mais próxima a população, precisa trazer não somente a informação, mas também a reflexão dos tempos atuais, parabéns pelo vídeo
Sempre vídeos ótimos vindo de você. Eu queria dar minha opinião, tem um momento do vídeo em que você repete a fala, e eu pensei comigo mesmo: Seria Interessante um canal seu com os " erros " de gravação ou um Making off do vídeo! (com uma pegada mais engraçada, ou até mesmo orgânica e normal mesmo) ambas as opções eu acharia legal de ver, mas não sei se o pessoal iria curtir vídeos do tipo...
Trabalho com radiofármacos na Unicamp, fico sempre muito atenta ao dispensar doses aos pacientes. Aqui é feito sempre o monitoramento pelos físicos com ds maquinas e instalações para ver se ta ok
15:30 "parar pra refletir o quanto que a gente confia nas máquinas" Eu quando vou ensianr qualquer coisa sobre computação (ou máquinas em geral) pra qualquer pessoa: NUNCA CONFIE NA MÁQUINA
Já tinha visto um vídeo desse em canal pequeno, que descaso e irresponsabilidade pela empresa por não ter verificado o código errôneo e de fatalidades.
Como desenvolvedor de aplicativos de apoio a diagnosticos no segmento de radiologia, um dos maiores problemas é a questão de que clientes querem velocidde nas informações e isso acaba comprometendo a segurança. E algumas instituições acabam comparando aplicativos free extremamentes rapidos com aplicativos normalizados pelo fda ou mesmo anvisa.
Esse vídeo apareceu bem depois de mim ir para um hospital e fazer radiografia. Você está me rastreando?? Edição 1: Acabei de fazer teste de sangue. Foi dolorido...
13:38 o software de Pedro Loos dando um bug
Shiu, ele pode te ouvir
Vc aqui? Te acompanho tbm!
Faz crossover faz plz vocês são os pikas da galaxia da ciência BR!
@olaciencia eu fiquei esperando uma piada com bugs, mas foi só um bug mesmo
Ps: te amo✌️✌️
Sim eu até voltei o vídeo achando eu tive um dejavu
Isso me fez lembrar de um caso mais recente, o MCAS (Sistema de Aumento de Características de Manobras), software que foi apontado como principal causador na queda de duas aeronaves. Depois dos acidentes houve até fechamento do espaço aéreo para os aviões equipados com esse sistema.
As operações já foram retomadas. Porém, hoje se sabe que o defeito realmente estava na programação do sistema.
Sou formando de física médica, atualmente as maquinas de de radioterapia contam com duas câmaras detectoras de radiação independentes que param o sistema de emissão de radiação caso passem de determinada unidade monitora (dose).
Bom saber, brigadão.
E aquela famosa frase:
"Se vc tem 2, vc tem 1 e se vc tem 1 vc n tem nenhum"
Redundancia é sempre bem vinda e falaria ser ate algo indispensavel nesses casos, que bom que as maquinas modernas foram moldadas com base nos conhecimentos adquiridos por erros passados
Obrigado pela informação :)
E se o hardware das cameras falhar existe uma detecção da máquina pra interromper o processo nesse caso? Percebe que apesar de termos mecanismos de segurança tudo é passivo de erro.
@@Diabrorojotá, e o que você tem a agregar?
Hal 9000 me ensinou que pior que uma maquina errar é uma maquina acertar e seguir com exatidão seu protocolo
Máquina alguma erra, quem erra é quem programa ela
@gianstbfalou bobeiraaaa 😂
Como programador eu gostei demais desse tema. Nunca ouvi falar dessa história. Realmente serve como estudo de ética, pois nesse acontecimento tinha muita coisa errada!! falta de teste, documentação falha, programador anônimo, empresa se negando a aceitar que poderia ter errado. Chega ser sinistro!
Um belo exemplo de procedimentos dentro da Engenharia de Software.
Vários elos que fecham uma corrente.
Esse caso dá no minimo uma série do discovery, ou no minimo um longametragem, sem dúvida que existem centenas
de informações não levantadas e teorias... uma dela é que o próprio dono da empresa seja o programador.
Pois o cara pode ser o programador, e contratar engenheiros para fazer a parte do hardware.
@@ederangelo21 Cara, eu ia escrever isso aqui agora, e achei seu comentário. Pra mim, pessoalmente, eh meio lógico/óbvio deduzir que o programador era o dono, um dos donos, ou alguem do alto escalão da empresa, pois essa seria A ÚNICA razão que a empresa teria pra não dar nome aos bois. Eu sou formado em engenharia de computação e inclusive já trabalhei em uma empresa do ramo médico que fazia máquinas de eletro-encefalograma para neonatos (basicamente para captar a atividade cerebral de bebês). O dono da empresa também dobrava de programador chefe, e revisava todo o código que eu e mais um outro cara escreviamos, alem de escrever boa parte do código ele mesmo. Esse cenário eh muito comum nessa área de engenharia médica.
Sim, eles foram negligentes, como se o erro que estava acontecendo fosse em uma torradeira.
01:14 kkkkk, melhor exemplo de erro do Chat GPT 😂😂😂
Caramba, sou técnico de engenharia clínica e nunca tinha ouvido falar desse caso. É uma pena os fabricantes terem demorado a ouvir os relatos. A segurança em equipamentos médicos é algo primordial.
Up!
Mas depende também da postura ética da fabricante. Pode ser também que eles possam pensar assim: o que é mais caro pra companhia? Refazer os testes e mitigar todas as falhas potenciais que surgiram durante os testes, e aplicar testes mais rigorosos e feitos por instituições independentes, para evitar vícios nos testes, ou pagar as indenizações de ações judiciais? Se as ações judiciais resultarem em valores bem menores do que melhorar a segurança do produto, então vamos pagar as ações, não interessa se vai custar a vida de alguém... 😕
o problema é que a maquina simplesmente foi lançada por estudos base, por isso todo esse equivoco, mas se não fosse por isso, hoje não teríamos os equipamentos que hoje temos pra tratamentos.
@@MatheusGelinski o que eles tinham de estudo cientifico na epoca era muito pouco, como o pedro disse na introdução, por uma deformação e destruição da materia oranica, eles descobriram a quimioterapia, mas isso tudo era feito por software, o que pode levar a erros por comunicação da maquina.
Isso se chama capitalismo meu amigo se está dando lucro dane-se o resto!
Muito interessante o caso.
Já programei em assembly, e sei que é bem complicado fazer grandes programas com ele. Ainda mais para controle de um equipamento perigoso !
Mas é um absurdo deixarem na mão de somente uma pessoa, pois é um equipamento de responsabilidade. Tanto que houve casos fatais !!!
Isso foi falado em uma aula da minha facul de engenharia de software. Escrever códigos para máquinas clínicas é uma responsabilidade tremenda
não recomendo ver esse video dentro de um avião
Porque?
@@gabrielmtplays8043 Os vôos são bem dependentes de softwares kkkk
Piloto automático
É aquela velha máxima: "O software não erra, erra quem escreve o código"
Se o chat GPT é um software, então códigos escritos pelo chat GPT são infalíveis 😮
@@AngeloFSP Claro que são falhos, os próprios desenvolvedores do chat GPT não recomendam usar ele como fonte de estudo ou desenvolvimento
@@sergiolucas3096 eu sei, só tava ironizando o comentário do brother alí 😆
@@AngeloFSPmas aí pode-se alegar que o erro é de quem escreveu o chat gpt. Em essência o cometário acima tá correto, software faz o que foi programado pra fazer, os erros advém de situações não previstas e devidamente tratadas pelo programador.
Radiação cósmica pode alterar bits na memória do computador de forma aleatória. Existem até memórias RAM mais caras que conseguem detectar quando isso acontece e corrigir automaticamente o erro.
Mas se você estiver no espaço, a quantidade de radiação é tão grande que nem elas conseguem detectar tudo. Por isso que mais de 50% da memória em naves espaciais são dados duplicados ou redundantes.
Então dá pro código errar "sozinho" sim kkkkk
Sobre este caso, é muito simples, uma empresa tao bagunçada que nao fez testes e nem nada antes de lançar a THERAC-25 tenho quase 100% de chace de ter sido O FILHO do dono da empresa, quem escreveu tais códigos, nenhuma empresa encobre funcionários, mas se tratando do próprio filho, tenho absoluta ctz que este é o caso❤ por isso nem a justica achou o responsável
Relato de bugs que não foram identificados pelo editor:
13:28 - Repetiu o Zoom no Mapa
13:38 - Esqueceu de cortar o vídeo e o Loos repetiu o que estava falando
Devem existir outros bugs. Alguém encontrou outros?
[13:51] Um bug da boca dele que, ao falar "Limita", expele uma gota gigante de saliva que cai próxima ao indicador da mão esquerda e fica na mesa o restante do vídeo.
percebi isso tbm
@@maxdolabella mds kkkkkkkkkkkkkkkkkkkkkkkk
@@maxdolabella KKKKKKKKKKKKKKKK
Vocês não perdoaram nada
Aquela máxima "seguro morreu de velho", serve de lição para nunca confiarmos em um único recurso de segurança, é interessante sempre utilizar uma redundância.
Essa história é sinistra, já conhecia, mas é sempre bom ouvir pelo Loss.
Também acho
Conheci ela ano passado pelo kyle hill no half-life stories.
13:38 ooooopa, quase que não saiu a frase inteira KKKKKKKKK
Fiz técnico em informática, curso de programação e agora estou na faculdade de Ciência da Computação e em todos eles, bem no início, os professores fazem questão de falar sobre o therac-25 e enfatizar os problemas
Irmã, valeu apenas aprendeu programação? Estou refletindo porque sou programador, o que você achha sobre isso?
É MUITA coincidência você ter escutado falar desse caso nao tecnico, curso livre e faculdade .
@@SpoofyOficial não sei oq você quer saber com valer a pena ou não, porque isso é muito subjetivo. Para os meus objetivos, valeu a pena, fui efetivada antes de terminar a faculdade e ganho um salário razoável. Mas estou aqui porque eu realmente gosto da área e não por ser popular ou dar muito retorno financeiro. Ainda não estou fazendo o que realmente quero porque primeiro preciso terminar a faculdade, mas estou no caminho.
@@darkhunter9625 Eu pensava que isso fosse falado em tudo quanto é curso reconhecido rsrs. Mas o que eu fiz foi técnico integrado ao ensino médio em federal reconhecido pelo MEC, não é curso livre. Fiz também um curso livre, mas ele não mencionou nada disso.
Na faculdade temos uma disciplina exclusiva para a história da computação, foi nela que vi sobre o therac-25, agora no técnico, acho que vi numa disciplina sobre sistemas operacionais no primeiro dia de aula.
Talvez eu ter visto nos dois possa ser porque tanto o técnico quanto a faculdade são na mesma cidade e vários professores já trabalharam nas duas instituições.
Parabéns pelo vídeo!
Já tinha visto falar sobre o caso em canais gringos e, devido a relevância do tema, me surpreendi vendo que não haviam videos em português sobre a história.
Parabéns pela iniciativa, como sempre, um vídeo milimetricamente bem feito.
Eu sou programador e tenho neurose com uso correto de variáveis de tamanhos certos assinadas ou não para aplicação simples do dia a dia. Imagine se fosse em uma máquina dessa
Meu professor usou esse caso como exemplo de mal uso de concorrência
Além de boa prática para ajudar quem irá revisar posteriormente, a leitura do que ele está recebendo, ou pelo menos deve receber, através da nomenclatura recebida, ajuda a construir a lógica na cabeça e entender o que a variável deve ou não receber. Continue assim
E eu pensando que só eu era assim ! 😅😅😅
@@MrViniciusml vlw
@samukadesouza8720 varios milhoes de programadores nesse mundão e vc pensou q era o único q segue essa boa prática. É....
Em 13:38, temos um erro de software dessa I.A.!
Esse cara é claramente junção de hardware e software, uma vez que é impossível um humano saber tanto 😂😂😂🤣.
Pedrão, só uma correção: "Automobilismo" diz respeito ao esporte a motor (competições de automóveis). Para a indústria automotiva, nós do ramo usamos o termo "automobilística" ou "automotiva" mesmo. Parabéns pelo canal! Sou inscrito há anos e sempre aprendo muito com você.
Quando entrei na faculdade a primeira coisa que mostraram para gente foi essa história, além de explicarem que se um dia a gente for pegar um serviço nunca pegar software medicos e nem software de contabilidade, pois demandam muito trabalho e segurança como mostrado no caso da terac 25.
Pra quem e desenvolvedor eu alerto que se for pegar um software desse tenham o maximo de cautela!! 😅😅
A análise de requisitos e prototipagem de software e fundamental pra evitar isso. Nessa época as empresas de tecnologias não eram tão avançadas.
Hoje em dia e quase impossível acontecer isso novamente por causa da engenharia de software e análise de software. Onde se tem protocolos rigorosos pra verificar o software em conjunto com a empresa e com os stakeholders.
Pera aí meu, a faculdade dizer para os alunos nunca pegarem softwares medicos e contabilidade? Que bizarro! O lance da faculdade deveria ser formar profissionais capazes de trabalhar nos ramos mais complicados, e não instruí-los a fugir disso rs. Mas essa e outras histórias de erros de software que ceifam vidas também caíram já no início da minha faculdade. Inclusive, eu fiz trabalho sobre o Therac.
@@vsadev Alguém vai pegar e ser responsavel por matar pessoas, mas melhor n ser tu né ?
@davidcarvalho9500 claramente não era o caso do cara
Se o cara não for um engenheiro eletricista ou um físico nem deveria escrever software para essa coisas. Eu tenho experiência com programadores e eles tem grande dificuldade com software que enteragem com o mundo real.
@@mercenario475 o programador não tem q Fazer o software sozinho e adivinhar tudo e por isso que existe analistas de sistemas e de softwares são eles que levantam os requisitos e dão as instruções pra equipe ou pro programador do que exatamente ele precisa fazer e não fazer. Nesse caso do vídeo faltou muito da empresa
O problema não era apenas a segurança da maquina ser 100% dependente do código, e sim o fato de que o desenvolvimento de um sistema tão delicado negligenciou praticas de programação já consolidadas na epoca, muito provavelmente pela busca de alto lucro e baixo custo da empresa irresponsável. Até hoje vemos empresas que praticam o mesmo, tratam testes e qualidade como obrigação, custo e não um investimento. Sempre bom relembrar casos assim, pena que as pessoas juridicas se educam pelo bolso e não pela fatalidade do ocorrido. É frustrante ver esse cenário sendo da area de TI.
Lembrei do problema do software de controle do avião da Air France, que também dava erro em uma situação específica e foi responsável por pelo menos 2 acidentes graves.
Não, do air France foi o erro no pitô de velocidade que congelou
Foi os softwares da Boing que dava erro. Hoje eles são os conjuntos de aeronaves mais seguros do mundo, por conta que eles corrigiram e focaram muito no software
O erro de software foi no boeing 737 Max 8, as empresas a Lion Air e outra que não lembro agora, mas não foi a airfrance
@@IsraelLeite Sim, mas o problema foi como o software de controle reagia naquela situação. Antes da atualização do software nunca tinha dado problema. A solução foi alterar o software, os pitôs e a rotina de manutenção. Tem um episódio do canal aviões e músicas falando sobre isso
@@thalesflorindomacieldaroch429 Esse foi outro
Em missões críticas, JAMAIS a segurança de um equipamento pode ser provida apenas por software. Na automação industrial, por exemplo, o CLP (Controlador Lógico Programável) comanda os motores que fazem as partes da máquina se moverem, e existem sensores de indicam ao CLP quando o motor deve ser desligado, mas sempre haverá interruptores que cortam a alimentação do motor (conhecidos como chaves "fim de curso") caso o sensor ou algum outro componente lógico falhe.
Tem um bug muito bom no canal do ciência todo dia, todos os vídeos desse canal eu consigo assistir em pop-up mesmo sem ter TH-cam premium
Eu tbm consigo, adorei o bug hahaha
tem navegadores que tem pop up nativo,talvez seja isso,ou até extensões
@@rodrigoeduardo9199 Não, eu assisto pelo celular (no TH-cam padrão) e consigo mesmo assim deixar em segundo plano. Eu só aperto o botão home pra sair do TH-cam e o vídeo continua rolando em pop-up na tela.
OBS: Isso só acontece no canal Ciência Todo Dia.
Comigo também acontece, e com alguns outros pouquíssimos canais além do Ciência todo dia
Pior que só nesse canal eu consigo isso
Isso me faz lembrar de um certo produzido por algumas empresas e tidos como seguros. Os mesmos produtos foram e são obrigatórios para exercer a cidadania: acesso a serviços públicos, escola por crianças, etc. Sempre bom ver como dá pra confiar 100% ou cegamente em algo que uma empresa, interessada em vender seu produto, diz ou afirma.
Acho que o pior erro de software de história foi com o MCAS do Boeing 737 MAX que resultou na queda de duas aeronaves. Poderia ter um video sobre esse caso.
Eu ia comentar justamente sobre isso. Acredito que foi mais grave em relação ao número de vítimas
@@eugeniomsjr E o prejuízo financeiro foi enorme também, quantos aviões ficaram no chão enquanto resolviam a situação.
Perfeito
Isso se a gente contar a vez em que o robô do Musk praticamente agrediu um engenheiro dentro da fábrica. Esse nível de automação tem que parar somente nas ferramentas que a gente usa. Se começarmos a dar IA para as máquinas brincarem, não falta muito pra humanidade se autodestruir numa Skynet da vida real.
A Netflix fez um filme sobre esse caso
Perfeito conteúdo! Sou especialista em engenharia de qualidade de software e essa abordagem foi magnifica! Trazendo o caso a tona e contextualizando com nossos dias atuais!
cara um dos canais mais satisfatórios que assisto. parabéns a toda equipe. você são muito bons.
Ótimo vídeo, parabéns Pedro e a equipe. Isso tudo que foi mostrado faz muito sentido, e é triste que tenha ocorrido tanta negligência. Ao meu ver, o erro não é da própria máquina, e sim de quem a fez, nós não somos perfeitos, por isso as máquinas que criamos também não são. Eu pretendo ser desenvolvedor no futuro, e quero me tornar um profissional que sabe o que está fazendo, para não comerer erros assim (e que eles sejam corrigidos no tempo certo).
No final desse video, eu fiquei pensativo, meu peito se encheu de desespero, medo, triste...não sei o que é mas obrigado por me proporcionar tais sentimentos !
Esse conceito de "as máquinas erram menos" não deveria ser relativo? Já que os erros das máquinas tbm são humanos, mas todos os acertos tbm são.
Pedro, tem mais um detalhe interessante: muito do software que fazemos, não é o produto final, como bibliotecas e etc. Isso é, é possível que as pessoas que desenvolvem softwares tenham o seu código executado nas mais diversas aplicações, e algumas delas muito sensíveis. Então mesmo que na inocência se faça um código pra resolver algo pequeno e simples, tem que ter cuidado
botaram o estagiário pra programar tudo
Pedro, você poderia trazer um vídeo sobre, a imortalidade quântica.
Caramba nunca tinha ouvido falar antes! Pedro gosto muito do jeito que são contados os fatos nesse tipo de conteúdo, como é feito o desenrolar dos fatos e no final com um tom de esperança e uma lição, assim como no vídeo sobre o Robert Oppenheimer. Certamente esse é um dos canais favoritos que sigo. Sucesso sempre!
Eu tinha visto esse caso no Gustavo Pinheiro do Starks e bem legal que mais canais brasileiros estao trazendo essa notícia obscura a tona sobre essa história do Therac-25
Em meu primeiro ano no curso de ciências da computação aprendemos sobre o therac 25 mas não tão aprofundado quando a relação de hardware e sim sobre o software apenas, obrigado por trazer tanto conteúdo sobre o assunto
No erro 54 tem um erro do Pedrão! 😪 hahahaha Excelente vídeo! (13:37)
Up!
Loos é um gênio
A magia do replay imediato sks
Eu vi e achei que tinha escutado coisas kkkk
Gotcha! E um pouquinho antes, tem um errinho de edição quando aparece o mapa de Washington...
Já tinha ouvido falar no caso mas nunca com uma explicação real das consequências das dosagens e afins. Excelente vídeo!
Eu sou programador, e esse caso é super importante para nós
Sou engenheiro de computação e até hoje - lastimavelmente - nunca tinha ouvido falar deste caso. Vídeo extremamente útil!
Ótimo vídeo como sempre. Mas pela primeira vez, vi um erro que deixaram passar na edição 13:38 😅
13:38 por falar em falha 😅 parece até que deixou de propósito pra ver se notamos. Vídeo excelente. Parabéns
Existe um outro caso de bug de software que causou inúmeras mortes, mas causando a queda de um avião.
E foi a pouco tempo isso.
Demais a reflexão sobre não confiar cegamente em máquinas !
Desculpe Pedro pelo atraso de 1 minuto, sim, eu sei que muita coisa aconteceu desde que o video lançou. Mas o software do meu despertador para o seu video bugou e só disparou 1 minuto depois... :/
(Para exclarecer, galerinha das respostas, isto foi uma *piada*, piada em referencia ao exemplo dos despertadores que houve no inicio do video. Não é preciso brigar nos comentarios)
É
@yThllsO comentário acima contém humor indireto e óbvio (não tão óbvio pelo jeito)
questão qual é a necessidade de atacar dessa forma?@yThlls
@@Tupin7quim se fosse humor de verdade na internet a frase não séria tão curta e tão sem alma como foi
É óbvio o comentário. A pessoa que já começou segunda-feira com essa negatividade. Melhor se ater ao elogio que o cara fez pro canal. @@Tupin7quim
Já tinha visto o video do Kyle Hill sobre esse tema mas é sempre interessante ver de novo, e até fiquei mais chocado em saber que nunca descobriram quem foi o programador, achei que o Kyle só nao quis dizer quem era.
É paia man, mas nn conseguimos culpar nenhum dos dois, pq além da empresa ter "contratado" uma pessoa que programa por hobby, as documentações do equipamento provavelmente nem falariam sobre isso
Na minha época de programador eu dizia ao meu chefe "pô o programa fez besteira" e o meu chefe retrucava dizendo "vc fez besteira. A máquina obedece o código que vc programou". A transferência de culpa é tão velha quanto Adão e Eva.
Pior que a Therac-25 foi o software dos novos aviões B737 MAX que derrubou dois deles cheios de gente dentro. Por isso um software precisa ser exaustivamente testado em todas as condições possíveis porque o bug está lá desde o início só esperando determinada condição acontecer.
A culpa é minha, eu coloco em quem eu quiser
No 737 Max o problema vai além do software, passa principalmente pela negligência da Boeing. Os engenheiros projetaram o avião com apenas UM sensor para o MCAS - que é normal ter danos por choques com objetos e pássaros, sem nenhuma outra redundância, sendo que a aviação é justamente segura por possuir muita redundância para tudo. Então, basicamente o software tinha uma única fonte de informação e, apesar de falta de sanity check no seu código, o início de tudo foi a Boeing querer economizar em sensor e em treinamento
Isso tudo faz muito sentido. Eu pretendo ser desenvolvedor no futuro, e quero me tornar um profissional que sabe o que está fazendo, para não comerer erros assim (e que eles sejam corrigidos no tempo certo).
Esse é o problema, ela segue exatamente o que a gente diz pra ela seguir 😅
Já conhecia o caso, inclusive vi vários vídeos de autores diferentes, mas nenhum explicado de forma tão clara.
Aproveitando o ensejo, gostaria muito que fizesses um vídeo sobre o incidente com o voo 72 da Quantas, operado por um Airbus A330, que saiu do aeroporto Changi em Singapura com destino a Perth, na Austrália( aquela cidade que o Lito, do Aviões e Músicas, adora pronunciar o nome ), em 7 de outubro de 2008.
Leigos normalmente não o classificariam como falha de software mas, sob o ponto de vista da Engenharia de Software atual, é uma falha, embora não possa ser classificado como bug.
Eu tinha um rádio relógio 100% analógico. Na hora programada ele ligou corretamente na estação de rádio sintonizada. O único problema é que a rádio estava fora do ar, sem tocar nenhum som. Naquele dia eu cheguei atrasado 1 hora no trabalho. Lição aprendida: Além de mudar a estação do rádio eu programei meu relógio de pulso para despertar como redundância.
Caraca amigo, vc consegue ouvir o alarme do relógio de pulso? Então meu sono é de pedra mesmo! kkkkkkkkkkkkkkkkkkkkkkkkkkkkk
@@Palitinho15eu não consigo acordar nem com o despertador do celular. Os toques padrão parecem canções de ninar.
Por precaução, eu coloco vários alarmes na sequência a cada 5 minutos.
isso aconteceu numa época em que não era comum usar celular como despertador
@@CarlosRibeiroRC, eu coloquei o toque de alvorada do quartel no despertador.
Que história macabra e interessante ao mesmo tempo!!! Faço curso de Técnico de informática e esse vídeo serviu como um alerta das reponsabilidades que eu tenho que ter na minha futura profissão para evitar casos como esse!!!
Lembro de ter visto esta história em algum lugar, depois no final do ano passado vi no canal do Stackz e agora verei novamente
Pedro por favor, por falar em bug de maquinas, poderia me explicar por que seus vídeos são os únicos videos do TH-cam que eu consigo assistir em modo picture-and-picture ?????
Esse caso pra mim é igual Chernobyl é um erro humano, de cagada do inicio ao fim
E quem leva a culpa é a pobre da radiação
@@Italo-oh4ee né
Factual
O maior erro humano é querer desenvolver algo que corrija seus erros sabendo que no caminho, haverá mais erros.
É como dizem, na gana de querer corrigir erros, se cria mais erros.
avanço tecnologico nao e um erro e uma conquista@@bowserlv100
Pedro vc poderia fazer um vídeo sobre a hidrazina e como ela foi banida do senário do automobilismo!!!
Uma observação, não é possível confiar numa máquina pois esta só faz o que seus desenvolvedores criam atraves de um processo de desenvolvimento. Portanto ao "confiar na máquina" Na verdade a confiança é depositada nos desenvolvedores e no seu processo. Ótimo vídeo, tmj.
Vídeo maravilhoso, sou da área do desenvolvimento e esse é um exemplo perfeito do porque um software precisa de testes extensivos e tempo para desenvolvimento. Assim os responsáveis conseguem olhar através de diferentes cenários e pontos de vista.
Como sempre, ótimo vídeo. Ao meu ver o erro não foi (por natureza) de código, foi falta de revisão de pares + assembly (quem sabe, sabe) + fraude por parte da empresa, só então o código teve a oportunidade de ser um problema. Qualquer parte da máquina que fosse desenvolvida dessa forma teria tido problemas do mesmo nível.
Ótimo alerta, Pedro.
Nos últimos anos fiz raios-x e nem pensei nisso, agora vou passar a ter mais medo de raio-x e evitar ao máximo..
O Incrível Hulk também foi vítima de uma máquina com bug que submeteu o Dr Benner a excesso de radiação.
Salve Pedro! Duvido tu fazer um vídeo sobre o césio 137,um caso de acidente radioativo aqui do Brasil. Fort abraço 🤙🙏
Pedro faz um video explicando sobre o raio-globular "raio-bola" porfavor 😅
To tentando entender sobre a existência dele
O pior de tudo é as empresas, que defendem o produto até a morte e não dão a minima se houve um erro real
Falaria para meu patrão a seguinte pergunta. Se nós erramos pq um software ou uma máquina não erraria, já que é feita por nós?
Esses casos me fascinam e fazem eu ter certeza que eu quero fazer algo na área de TI
Bugs em máquinas de radioterapia são ruins, mas imagina em um Airbus A330. Ta certo que ninguém sabe se foi um bug que quase derrubou o voo Qantas 72, mas ainda sim, os sistemas críticos exigem uma robustez para esse tipo de coisa não acontecer. No voo Qantas 72, o piloto recebia um alerta que o avião estava caindo, então o avião mergulhava sozinho para recuperar velocidade, os dados da ADIRU pareciam ter erro no I/O da memória, fazendo os dados se misturarem. Se o avião tivesse mais duas ADIRU, os passageiros jamais teriam sofrido fraturas.
O caso dos Boeings 737 Max, até aonde acompanhei parece ter sido falha de software
Na verdade existe um bug muito pior, que fez muita gente cometer suicídio e a falência de inúmeras empresas, ele é chamado de bug do milênio, ocorreu pq os anos era definido apenas por 2 algoritmos em todos os computadores globais, e quando chegaram no ano 2000, o computador reconheceu como 00 e reiniciou todo o sistema, fazendo quase todos os computadores perderem todas as informações, pesquise é muito interessante
@@cesarmayhem E falta de redundância em hardware, pois a boeing construiu o Max com apenas um sensor do MCAS enviando informações para o software. Logo a redundância é que torna a aviação tão segura! O sensor dando problema, como ocorreu (normalmente devido a colisões com objetos e pássaros), ele envia dados errados para o software, que por sua vez não possuía uma checagem mais adequada.
Cara que vídeo fenomenal, sou formado em ciências da computação e esse erro nunca foi mencionado na faculdade!
A diferença é que humanos aprendem com os erros. A máquina pode ser mais segura, mas vai repetir o mesmo erro várias vezes
Trabalho com hardware há 53 anos e software quase o mesmo tempo.
Achei este trabalho muito interessante. Vou divulgsr este video para os outros dinossauros da informática que eu conheço.
Por falar em mensagens de erro: são os maus comuns erros importantes de todos os softwares.
😅 0:24 O alarme da minha mãe não tocou hoje, e me atrasei para a escola.
É mais normal ela só n ter acordado com ele, acontece de vês em quando 😅
@@deyszso meu n tava tocando mais de manha (eu ja tinha ele a 7 meses e ele parou)
Pra vc ver o poder que um hardware tem! Ele poderia travar a maquina antes da desgraça acontecer mesmo com o software escrito errado e se o operador fizesse algo errado
13:31 alguém esqueceu de cortar essa parte.....
sempre ouço falar desse caso para ressaltar como é importante pro desenvolvedor ouvir o feedback das pessoas q estão usando diariamente o software
Na verdade, isso foi uma falha humana, pois foi um humano que fez o código e não preveu o bug
Inteligente
Eu adoro histórias com radiação pq sempre parece ter aquele tema de “qndo perceberam já era tarde de mais”
Tirei 2 em uma prova na faculdade usando chatgpt (direito penal). QUASE reprovei por conta disso
Cara, você sempre tem que pedir a fonte das informações e conferir. Chatgpt auxilia, mas não serve como substituto integral do seu trabalho.
Aprendeu???
Kkkkkkkkk
Faz pouco tempo que acompanho o canal mas tenho gostado bastante! Que legal um canal de ciências assim
Tá aí um vídeo q eu n esperava ver zuando o Palmeiras 🤣🤣🤣🤣🤣🤣
Kakaka, serião?
@@brunomarques64981:13
Não sou palmeirense , só passo raiva com a Seleção Brasileira !
Mas onde no vídeo você viu ou ouviu isso ?
@@LuisAntonioMenghi1:15
@@LuisAntonioMenghina hora da conversa do chat gpt
"Porque estou falando isso no youtube" - uma educação transformadora e mais próxima a população, precisa trazer não somente a informação, mas também a reflexão dos tempos atuais, parabéns pelo vídeo
bicho, como programador posso falar que maquinas nao erram, humanos erram. se voce programa errado, o retorno vai ser errado.
Bug: Eu simplismente não existo
Sempre vídeos ótimos vindo de você.
Eu queria dar minha opinião, tem um momento do vídeo em que você repete a fala, e eu pensei comigo mesmo: Seria Interessante um canal seu com os " erros " de gravação ou um Making off do vídeo!
(com uma pegada mais engraçada, ou até mesmo orgânica e normal mesmo) ambas as opções eu acharia legal de ver, mas não sei se o pessoal iria curtir vídeos do tipo...
O programador era sobrinho do dono da empresa kkkkkkk
Ou talvez seja o próprio dono
Pedro, nos seus vídeos eu consigo sair do app do TH-cam e continuar assistindo (picture in picture), mas somente nos seus vídeos.
Gosto disso
Teve também o erro de software da Boeing no 737 MAX, que resultou na queda de dois avião, esse erro não seria pior?
Trabalho com radiofármacos na Unicamp, fico sempre muito atenta ao dispensar doses aos pacientes. Aqui é feito sempre o monitoramento pelos físicos com ds maquinas e instalações para ver se ta ok
Quem escreveu o código foi o Pablo Marçal
Pega o código kkk
15:30 "parar pra refletir o quanto que a gente confia nas máquinas"
Eu quando vou ensianr qualquer coisa sobre computação (ou máquinas em geral) pra qualquer pessoa: NUNCA CONFIE NA MÁQUINA
Desculpa pelo atraso de 4 MESES.
Desculpa pelo atraso de 5 MESES
Desculpe pelo atraso de 6MESES
Desculpe pelo atraso de 6 MESES
desculpa pelo atraso de 8 meses
9 meses, um bebe
Já tinha visto um vídeo desse em canal pequeno, que descaso e irresponsabilidade pela empresa por não ter verificado o código errôneo e de fatalidades.
Petição para o Pedro mudar o nome do canal para "Ciência a cada 3 dias" 😅
👇
Como desenvolvedor de aplicativos de apoio a diagnosticos no segmento de radiologia, um dos maiores problemas é a questão de que clientes querem velocidde nas informações e isso acaba comprometendo a segurança. E algumas instituições acabam comparando aplicativos free extremamentes rapidos com aplicativos normalizados pelo fda ou mesmo anvisa.
Um erro de HARDWARE muito bom foi um bit flip acho que por volta dos anos 2000 que mudou o resultado de uma eleição em shaerbeek em bruxelas.
Um dos melhores canais do TH-cam brasileiro! Mil vezes melhor que TV aberta.
Eu tava vendo esse vídeo e quando eu vi tinha 365 mil visualizações kkkkkkkkkkk
Velho.... não para com os vídeos ❤, tu cura minha carência com vídeos assim, já faz mó cota que te assisto ❤
Esse vídeo apareceu bem depois de mim ir para um hospital e fazer radiografia. Você está me rastreando??
Edição 1: Acabei de fazer teste de sangue. Foi dolorido...
Não tem os vídeos desse canal serem ruim. Parabéns 🤩
1:10 Todos os dislikes desse vídeo vieram de torcedores do Palmeiras.
Que tema incrível!! Video muito bom. Faz sobre o erro do 737 MAX, vai ficar bem massa no seu canal!!