O Dilema Ético dos Carros Autônomos
ฝัง
- เผยแพร่เมื่อ 9 ต.ค. 2024
- Agradecimentos também à Luiz Helvécio pela ajuda com o roteiro.
CANAL DO KHERIAN: / scifilo
VÍDEO DO PONTO EM COMUM SOBRE CARROS AUTÔNOMOS: • Video
Ajude o Ciência Todo Dia no Patreon! ~ / cienciatododia
FACEBOOK: / cienciatododia
TWITTER: / cienciatododia
GOOGLE PLUS: plus.google.com...
E-MAIL: cienciatododia@gmail.com
LEITURAS ADICIONAIS:
Machine Ethics and Automated Vehicles: bit.ly/1Mnz3BI
A Code of Ethics for the Human-Robot Interaction Profession: ntrda.me/1HBhYlf
Responsability for Crashes of Autonomous Vehicles: An Ethical Analysis bit.ly/1Mnzdcc
Critical Reasons for Crashes: 1.usa.gov/1UJxSPv
Google Self Driving Car Report: bit.ly/22HO3yn
Uau, a qualidade dos vídeos está melhorando muito. Parabéns! Conteúdo incrível e muito bem apresentado.
+Matemática Rio com Prof. Rafael Procopio Ei carioca!!! Vc falando assim parece que esta falando diante do espelho, Gosto dos canais de vcs três, Parabéns com essa ótima qualidade para vcs.
Agora perceba
VOCÊ É O MOTIVO DA MINHA ANGÚSTIA
@@arthursouza4502 concordo com você amigo!
Se nem imagina como tá melhor agora ele evoluiu e mudou tanto
Acerte as 5 pessoas, depois use a alavanca rapidamente para tentar acertar a sexta pessoa na outra pista.
kkkkkk e marque 6 pontos!
Strike
+Alexandre Foli Carmageddon na pista hahahaha
GTA feelings
+Alexandre Foli kkkkkkk
Lembrei de Isaac Asimov
As Três Leis da Robótica
1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis
isso quando ele pode escolher se vai machucar ou não. o foda é quando ele precisa escolher quem vai machucar
+lucas alexandre Pois é... Mas pensando bem, se fosse uma pessoa na mesma situação, ela sempre escolheria preservar a própria vida e a de quem está a bordo. Na situação descrita no vídeo, não vejo como um humano poderia se sair melhor do que a maquina porque ele sempre iria tentar preservar a própria vida. É bem complicado a discussão! Hehehe
+Marco Aurelio N use essas regras.. isso n e real porra '-' isso e de um livro '-' Elas n sao reais e n funcionariam num mundo real, nem no livro funcionam '-' O proprio livro e feito de maneira a q essas regras sempre falhem de alguma maneira :S
Claro que essas regras não existem como "leis" mas funcionam perfeitamente como uma forma de código ético para utilização ou programação das maquinas
Nem por isso :S Se pensarmos bem, o proprio objectivo dos livros e literakmente mostrar maneiras em como essas regras falham :S
Lembrei fortemente das leis da robótica do livro Eu, Robô
Tb
Isaac Asimov era f0da.
+Aletsia Beatriz Se vc gosta de Isaac Asimov, provavelmente vai gostar do seriado HUMANS, uma indicação que peguei la no canal PEIXE BABEL.
+Aletsia Beatriz As leis de Asimov não funcionam.
+Aletsia Beatriz O próprio Asimov escreveu muitos contos e romances nos quais, mesmo com as 3 leis, os robôs poderiam ter comportamentos perigosos para os humanos ou para eles mesmos. Talvez até por isso ele criou a robopsicóloga Susan Calvin que aparece em muitos dos seus trabalhos resolvendo problemas causados pelas 3 leis no "mundo real".
Solução do problema do Bonde é simples: Não olhar pro lado.
:T
kkkk
+Carlos Matheus Teixeira Lembrando de Douglas Adams, o POP (probelmas de outra pessoa) kkk
Quando eu nasci muitas coisas bacanas não esistia, o futuro vem de qualquer jeito e sempre pra melhor, parabéns pelo seu trabalho gosto do seus vídeos
O certo é o carro frenar, para colidir com o pedestre com o mínimo de violência possível. Acho que não deve desviar e ameaçar o passageiro pois quem está cometendo erros é o pedestre.
+Vitorvxc Gomes certissimo
Exatamente!
Vitorvxc Gomes Concordo totalmente.
+Vitorvxc Gomes Concordo. Se alguém por exemplo se jogar na frente do carro, ele não deve ser obrigado a tentar salva-lo, colocando a vida do passageiro em risco.
imagine o semáforo der defeito e quando os pedestres forem passar o carro não parasse
Pedro admiro muito você , espero sempre contar com seus vídeos , você e um excelente apresentador
Vcs esqueceram de colocar a situação seguinte: o protocolo de havaliar o menor dano para todas as situações. Isso já existe.
Eles abordam o problema a partir da visão deles somente, que representa as limitações que carregam.
Acredito que foi uma introdução para os leigos, como eu, para começar a pensar no assunto. Rs
Ok, entao o carro tem q atingir a parede e matar apenas o motorista mas quem iria usar um carro como esse?
IA
Machine Learnig resolveria o problema
Mas a questão é ética e não técnica, machine learning ainda sim deixaria tudo na mão de um programador ou uma empresa que faria diretrizes determinando quem vive ou morre e isso pode ser considerado um assassinato premeditado. Quando um ser humano toma uma decisão sob pressão em um caso como este, ninguém pode dizer que ele premeditou matar esse ou aquele, porém quando vc define isso em uma linha de comando aí entra na questão ética.
2 observações:
1º: Não deixem a skynet saber disso
2º: Se carros autônomos não precisam dar seta, em Jundiái-SP tá cheio desses carros...
Hue
enquanto os técnicos estão avaliando uma possibilidade de acidente em um carro autônomo, 20000 acidentes foram causados por humanos, por imprudência, por consumo de álcool, por excesso de velocidade, etc.
Porra falou tudo o problema não é o carro autônomo e sim o humano na direção
O carro autônomo crtz vai frear bruscamente nese caso da faixa de pedestre bicho, mesmo Se for terroristas passando, ou criança ou idosos, a porra do carro tem de tudo, não vai ter um freio brusco acionado por um sensor de proximidade ? A ética desse carro é a mais moral possível, sai dessa Pedrão
Sonho é esse teu cabelo perfeito. Ótimo canal, você tem uma oratória muito agradável e explica lindamente cada assunto.
O Pirula fez uma pesquisa recolhendo respostas das pessoas pra esses tipos de dilemas morais
e?
Juan Romera Domingues só comentando, cara, talvez alguém tenha curiosidade sobre esses dilemas e queira saber mais a respeito
+Juan Romera Domingues Sem contar q ele propôs outros dilemas derivados desse.
Raphael Aveiro Exatamente
+Luan Soares em qual video dele ta isso? qro ver lá mano
Parabéns pela qualidade sempre muito boa dos assuntos abordados. um grande canal que merecia mais reconhecimento, sem duvida.
Vídeo sensacional!
Que homens :3 Gostei do relógio do Ben 10, Pedro.
ben 10 hahaha
Ótima participação do Kherian! Por mais reflexões filosóficas em assuntos científicos!
Caramba, nunca havia pensado nesse dilema e também n sei como deveriam ser programados os carros. Quanto ao acidente zero, ainda haverão pedestres, ciclistas e motociclistas nas ruas, os acidentes sempre irão acontecer e portanto esse dilema sempre será um problema
Saudades do canal, bom vídeo como sempre
Foi mal postar tão depois, mas só tomei conhecimento do vídeo hoje.
O caso do bonde é completa e absolutamente diferente do caso do carro autônomo (pelo menos, da forma que colocado).
No bonde, ocorreu algum problema e ele não terá condição de frear. Os trabalhadores estavam no trilho trabalhando, não passeando aleatoriamente. No caso do carro, o garoto passou na frente do carro. E, se o carro não estava avançando um sinal, a única hipótese para isso acontecer é que o moleque atravessou na hora errada (estava distraído, ou atravessou onde não é travessia, ou tá só tentando se matar mesmo). Aí, não tem dúvida. Se não der pra frear sem machucar terceiros, atropela mesmo. Se você tem dúvida nisso, você que é moralmente duvidoso pelo simples fato de cogitar beneficiar a pessoa que tá agindo errado em prol de quem tá certo. Quanto às outras circunstâncias (se é criança, idoso, doente terminal ou terrorista), o carro não tem como ter acesso a essas informações. E se tivesse, não tem como prever, algoritmicamente, solucões para todos esses problemas. O que dá pra o carro autônomo saber, com certeza, é se o infeliz tá atravessando a rua na hora ou local errado.
Voltando no bonde, você achou estranho que um grupo de pessoas acharia certo sacrificar um por cinco se você está dentro do trem, mas não acha certo empurrar o cara grande. Nada demais, na verdade. Porque esses dois casos também são diferentes. Se você tá dentro do bonde e tem acesso à alavanca de freio, você tem alguma responsabilidade sobre a condução do veículo (ou seja, você é o condutor, ou o reserva dele). Se você tá fora, você não tem nada a ver com a história. No primeiro caso, você tem dever de zelar pela segurança dos passageiros e pedestres da melhor forma possível - e, por melhor forma possível, alguns podem entender salvar o máximo de pessoas. No segundo caso, você não tem dever nenhum. Na verdade, tem o dever de não se meter. Se você aceita a moralidade de empurrar o cara grande, você abre precedente pra uma galera cometer homicídio na beira do trilho. É só ficar ao lado do seu desafeto esperando o bonde passar. Aí você empurra ele e diz que foi pra salvar os trabalhadores.
Nunca parei pra pensar sobre esse tipo de situação, muito bom vídeo
A resolução mais simples seria contornar o problema e torna-lo impossível, mas como? definindo vias distintas para caros e pedestres, tão logo se as vias não se cruzam não ah como o problema ser real, seria algo como o trafego aéreo onde cada avião tem seu espaço aéreo definido por seu porte. Mas digamos que seja inviável, nesse caso seria necessário projetar cidades inteligentes e conectadas, obviamente é mais fácil projetar o novo que adaptar nossa realidade estrutural precária a a esta nova realidade.
Muito bom o vídeo ... parabéns... sem palavras pra descrever o quanto eu gostei.
Pelos vistos, não há solução.
Que tal todo mundo andar de bicicleta?
ta ai uma soluçao
Vania Lopes os acidentes nao seriam catastróficos kkk
Teríamos que abandonar o ponto de vista de que transporte é também pra coisas que uma bicicleta não daria conta pra abraçarmos a sua ideia.
Melhor comentário👏👏👏👏
Boa idéia
Aproveito e queimo umas calorias pedalando 30 km pra ir ao trabalho
Muito boa a qualidade desses novos vídeos. E seu cabelo tá irado tb!
Valeu, Pedro!
Me chateou um pouco o rapaz de brinco achar ter tanta "razão". Em janeiro deste ano eu estava a 80km/h numa estrada à noite quando apareceu uma vaca preta cortando toda a pista que eu só fui fazer contato visual quando era tarde. Eu tinha 3 opções, desviar pela esquerda e bater na cabeça da vaca matando a vaca, eu e o outro passageiro (eu estava numa moto broz), desviar para direita acertando a traseira da vaca, eu e o outro passageiro ou frear e acertar em cheio a vaca, sem chance de desvio e pancada certa, mas salvando o passageiro da garupa. Foi o que eu escolhi, travei ambos os freios e bati no meio da vaca que era muito fofo (por ser uma vaca leiteira), voei metros à frente e quase fiquei paralítico, o passageiro de trás não teve nada. Eu não saltei da moto, não fiz nada para salvar minha pele, presei pela vida alheia. Então o carro autônomo deve presar sim em salvar o maior número de vidas possíveis. E no paradoxo do gordo o que há é uma gigantesca falácia, pois todos nós seres humanos sabemos no subconsciente que nem o bonde vai estar vazio, nem um gordo seria capaz de parar um bonde e salvar a vida dos 5, isso seria fisicamente impossível, por isso resultado da pesquisa é diferente. Em qualquer ocasião um humano prefere salvar 5 ao invés de 1. Essa lógica que vocês fizeram é apenas uma pegadinha, uma falácia. Se o gordo estivesse num carro que realmente parasse o bonde, eu colocaria ele para cima, aliás ISSO ACONTECEU! Aqui em meu estado, Sergipe, um trio elétrico estava desgovernado e ia atingir em cheio várias crianças que estavam no fim na rua (pesquisem esse caso na internet), um policial passava de carro na hora e pôs a viatura na frente sacrificando a própria vida e salvando as criancinhas. Logo, está absolutamente comprovado que nós SERES HUMANOS salvaremos as pessoas ainda que morramos para isso. É a vida pela vida. Agora não venham dizer que não entendi o paradoxo, pois entendi muito bem e expus a resposta. Não há problemas éticos, a menos que você seja um hipócrita.
www.brasil247.com/pt/247/bahia247/93250/Trio-el%C3%A9trico-desgovernado-mata-crian%C3%A7a-em-Sergipe-Trio-el%C3%A9trico-desgovernado-mata-crian%C3%A7a-Socorro.htm
Não é tão simples assim... supondo que as 5 pessoas que estão atravessando a rua não poderiam atravessar naquele momento, digamos que o sinal está vermelho para elas, e um inocente aguarda o sinal verde na calçada... Não é justo matar o inocente ao invés de matar os 5 que estão errados e assumiram o risco.
pois é Wagner, "dura lex, sed lex" (acho q é assim q se escreve). E Zanzo, vc está supondo que nós seres humanos salvaremos as pessoas ainda que morremos para isso mas nem todos os seres humanos são assim "bonzinhos"
Zanzo Investigador por mim o carro deve SEMPRE salvar aqueles que estão dentro do carro
POR QUE EU COMPRARIA UM CARRO QUE PREFERE ME MATAR?
minha vida > vida dos outros
Não é ironia.
Bem nobre da sua parte isso, de verdade. Mas foi sua escolha se sacrificar, enquanto você não sabe se o gordo escolheu ou não se sacrificar: você não pode matar uma criança pra conseguir órgãos pra outras que precisam, por exemplo.
Ideal é que cada dono do carro possa escolher se sacrificar-se-ia ou não no caso citado no vídeo, ou seja, cada carro tenha uma programação pra cada dono.
Ótimo vídeo, com ótima participação
Não consigo enxergar problemas éticas no uso desses carros, desde que eles tenham um índice alto de confiabilidade técnica (99% a 100%). Se o erro não é da programação do carro, como você pode imputar culpa nele? A culpa recai sobre quem está indo contra as regras do trânsito. Se tem 5 crianças passando na frente do carro numa via expressa, o carro tem que dar preferência para a vida os passageiros, independente de quem esteja dentro do carro.
+Rodrigo Dias Outra coisa, o carro pode coexistir com motoristas humanos, sendo que num caso de acidente, o carro autonomo terá todos os registros do que aconteceu e será fácil descobri de quem foi a culpa num acidente.
Rodrigo Dias bebê, criança idoso não tem preferência toda vida vale o mesmo.
Imagine que as crianças sejam os filhos dos passageiros. Acho que esses passageiros iriam atrás desse programador para matá-lo com as próprias mãos. eu faria isso, independente do que qualquer outra pessoa possa pensar que seja certo. Ética é uma coisa que possui ao mesmo tempo uma característica média (aquilo que é melhor na maioria dos casos) e uma característica individual (aquilo que é melhor naquela situação específica).
@@OsorioThomaz1 quem comprou o carro que possuia esse algoritmo é você
Ciência todo dia, assisti todos seus vídeo, queria pedir p vc voltar a fazer mais
Questão interessante, mas se for analisar em 2 cenários diferentes, a decisão seria preservar a vida do passageiro, eis porque:
1- Considerando que a chance de erro do carro autônomo é mínima, caso haja um acidente por atropelamento de alguém que apareceu de repente, o erro é do pedestre, logo, não vale a pena punir o passageiro pelo erro do pedestre.
2- Na situação em que o carro da prioridade para os pedestres e mataria o passageiro, temos que considerar que o ser humano é filho da puta, então é muito provável que uma pessoa sabendo do protocolo do carro possa planejar um tipo de assassinato indireto, se jogando na frente do carro pra fazer o passageiro se acidentar.
muito interessante o tema abordado no video, Parabens!!!
e se vc vier em um carro autonamo vier andando e eis que surge na frente um grupo de assaltantes e do outro lado tem a mesma parede que mataria o condutor e do outro lado uma pessoa idosa ou criança, o carro iria pra cima do menor grupo, ou seja , da pessoa idosa ou criança pra salvar um grupo maior? ou o carro autonamo reconheceria as armas apontadas para a condução? são tantas duvidas.
verdade
tambem pensei a mesma coisa.
É simples resolver isso, as ruas deveriam ser reestruturadas apenas para os carros, pedestres usariam passarelas subterrâneas ou viadutos rápidos com elevadores, se querem futuro, esse é o preço
Leonardo Konarzewski verdade, mas pra isso o governo teria de ser estirpado como um tumor cancerigeno, pois enquanto o governo não sair do poder issso nunca acontecerá, por exemplo, o governo nao duplica as BRs por que "sería" um gasto enorme, mas eles não veem que o gasto com acidentes frontais causados nas inter estaduais com DPVAT socorros medicos, são maiores do que o gasto com as duplicações, por isso que o futuro como era pra já ter acontecido tão cedo não virá, e principalmente se os "benditos" evangeilcos tomarem o poder.
MJF animation concordo com voce cara, e alias, dei maior valor aos desenho de concientização do seu canal cara, vai fazer mais quando? valeu.
excelente o video, tema muito interessante e muito bem abordado indo direto ao ponto sem perder em conteudo, parabens
No primeiro caso, ambas as vítimas tinhas as mesmas chances de serem atropeladas, sendo você quem vai decidir isso, como ambas tem a mesma possibilidade sobra o número de vítimas para a decisão. No segundo caso, a possibilidade do cara do lado cair nos trilhos sem sua intervenção é muito pequena comparada a das vítimas que já estão nos trilhos, logo, para salva-las, você não vai ter apenas que "sacrificar uma vida", ou "escolher quem vai morrer", você vai ter que realmente causar a morte dessa pessoa que não tinha nada haver com essa história. Isso tbm vale para uma versão desse mesmo dilema para um hospital, eu não lembro bem como é, mas ele chega a conclusão que seria correto eu matar uma pessoa para usar seus órgãos para salvar 6, mas é a mesma coisa do trem, vc não escolheu uma ou outra, vc matou um por outros 6, vc é um assassino e se estivesse correto, então poderíamos invadir a casa de qualquer um e matar ele para pegar seus órgãos e doar para salvar 2 ou 3 pessoas.
Na verdade , no primeiro caso o trabalhador sozinho tem chance zero de ser atropelado enquanto os 5 juntos tem 100%, a gnt que puxa a alavanca e muda de pista, assim matando ele e poupando os outros 5.
Gunner Exatamente, não exatamente 0, pois alguém poderia tropessar e empurra-lo. Mas qual a probabilidade disso acontecer? Questão encerrada kk
kkkkk
+ιяιηєυ ѕιlνα kkkkk
Parabéns, qualidade dos videos subindo muito.
Sucesso
Qual a sua graduação? Física? Pois é o que quero muito fazer.
+pedro alves Ele faz bacharelado em Física, na UFSC!
+Portal da Ciência Brother, estou no 3° ano, podemos trocar uma ideia rápida? Tenho algumas dúvidas sobre o curso, se puder me avise que passarei o contato, se não puder fique despreocupado, entendo como deve ser a vida de um cientista kkk agradeço desde já.
trazer vídeos sobre ética e tecnologia é sensacional! me pego pensando em coisas assim o tempo todo, mas sem me aprofundar, haha! valeu mesmo!
Desculpa mas não fez o menor sentido pra mim, existem milhões de motoristas humanos dirigindo todos os dias e aparentemente o computador dirige melhor que os humanos. Estes mesmos dilemas que vc sugere já ocorrem todos os dias mas são os humanos que tomam a decisão, e 99,999% das vezes nosso reflexo nos manda desviar dos pedestres, pronto, só passar esta decisão para o algorítimo que dirige o carro, mas com a vantagem de ele saber exatamente o mínimo que vc precisa desviar para evitar o acidente, assim aumentando em muito a chance de ambos saírem ilesos.
Voltando ao dilema que sugeriu, pq ninguém culparia o bonde pelo acidente? simples, pq todo mundo sabe oq o bonde faz e qual o comportamento dele... existem trens totalmente autônomos andando por ai e se alguem pular na frente do trem ninguém culparia o trem né...
+Tales Cembraneli Dantas Pensei o mesmo. Além do mais se a gente for considerar esse dilema atualmente, seria melhor não ter nenhum carro. E considerar situações hipotéticas muito fechadas e restritas é inútil quando se trata de certo e errado, ninguém vai chegar a unanimidade nenhuma. A gente pode responder que a alternativa mais certa é a opção que mata menos pessoas, mas aí o dono da situação hipotética muda rapidamente a situação para uma em q o grupo maior de pessoas são criminosos, tornando a nossa decisão duvidosa, ora bolas assim é fácil confundir a decisão das pessoas.
Lucas. O que este paradoxo ético nos mostra é que os problemas éticos não possuem soluções lógicas. A ética depende da capacidade da pessoa olhar para os seus próprios valores e encontrar uma resposta para a pergunta: "O que é um bom ser humano?". Pessoas diferentes responderão esta questão de maneira diferente, porque a sua concepção de "bom" é variada. Quando este dilema, com todas as suas complexidades, é transferido para os carros autônomos, o que estaríamos fazendo é transferir o nosso direito inalienável de decidir em cada situação aquilo que é ético, para um programador de computador.
Concordo quando o Tales diz que o resultado final seria uma diminuição no número de mortes na sociedade, mas penso que no caso dos carros autônomos esta situação pode ser mais complicada. Na nossa vida real, podemos inclusive resolver os dilemas éticos de maneiras diferentes dependendo da situação concreta e do nosso estado de espírito no momento. Eu por exemplo, acredito que salvar a vida de muitos seja mais importante que salvar a vida de poucos, desde que, dentre os poucos não esteja o meu filho. Neste caso, eu mataria 200 pessoas para salvar a vida dele sem nenhum complexo de culpa. Será que eu compraria um carro que tomasse uma decisão diferente dessa?
Ética não tem nada haver com lógica ou com qualquer coisa que possa ser previamente programada num computador. Só depende daquilo que cada uma acredita ser o certo.
Sensacional, nunca tinha pestado na questão ética disso, muito bom!
parabéns pelo vídeo ótimo !!! Eu acredito que seria como antigamente quando as geladeiras ainda usava alavanca e houve casos de crianças presas dentro delas, pensaram em diversas formas de como evitar isso e quando as empresas já estavam prontas para por alavanca do lado de dentro e já se tinha uma cartilha para treinar crianças a sair da geladeira veio a porta com imãns solucionando totalmente o problema .No caso do carro autônomo acredito que quando for resolvido o problema da chuva e outros probleminhas já vai para as ruas, e uma nova forma de funcionar tudo isso se ajusta como tudo que evolui !!!
Parabéns pelo canal
CARA ESSE DILEMA MORAL FOI MUITO INTERESSANTE, ME LEMBRA FILMES COMO "EU ROBÔ"; PARABÉNS !!!!
Excelente conteúdo e apresentação. Parabéns!!!
Ótimo vídeo! Acho que o AlphaGo é um ótimo exemplo de que as maquinas podem aprender a fazer melhores decisões que os humanos se bem programadas. Creio que a diminuição dos acidentes e o tempo de resposta de uma maquina comparada a de um humano não tornaram esse dilema ético algo tão complicado. Escolhendo qual quer parâmetro para a escolha de quem morre, as mortes no transito iram reduzir drasticamente com o advento dos carros autônomos. Carros autônomos não dirigem embriagados ou falando no celular, não se estressam ou dormem no volante e não arriscam a vida dos outros para impressionar uma garota. Creio que um simples tratado ou acordo entre as empresas e os governos sobre os parâmetros de escolha, caso essa situação aconteça, já seria o suficiente.
Esse tipo de pensamento é válido para fins de planejamento para evitar tais consequências, mas esse tipo de dilema só deve ser discutido por quem faz parte dos projetos e/ou quem tem conhecimento o suficiente para analisar todo o projeto mesmo que de maneira teórica.
Divulgar esse tipo de informação/conhecimento para a população geral é um tremendo destrabalho que pode ser feito, pois quem não tem o conhecimento necessário para analisar todos os fatores corretamente poderá interpretar de maneira ruim algo bom e isso pode causar uma comoção generalizada com o intuito de inibir a substituição/manutenção de uma prática que, muitas vezes, senão em todas, expurgaria as consequências ruins das práticas atuais/outras , além de manter e até otimizar as consequências boas.
Eu gosto muito do teu canal, e particularmente gostei do vídeo, mas como seu público não é inteiramente formado por quem estuda ciências ou tem um bom conhecimento científico, te incentivo a pesar melhor as possíveis consequências de publicar esse tipo de informação nos próximos vídeos.
Já existem muitos realizando um desserviço à comunidade científica, não seja mais um.
Fora isso, continue com o bom trabalho.
Sou agente de mobilidade urbana, mais conhecido como guarda de trânsito. Gostei do vídeo! E às vezes eu acompanho seu canal. Até mais! E paz.
Parabens pelo canal........................... parabens pela materia.................. excelente compartilhado.
O final do vídeo resume o problema, nós somos o problema, precisamos saber lidar com a perfeição das máquinas, e as máquinas precisam lidar com a nossa imperfeição, muito complicado passar isso para a máquina, somos muito imprevisíveis, sempre vai dar merda.
Aí está outro paradoxo. Os humanos imperfeitos fizeram as máquinas perfeitas. Se for para o lado religioso, isso não existe. O deus judaico/cristão/muçulmano, dito perfeito, fez a nós humanos imperfeitos, os deuses greco-romanos fizeram nós humanos imperfeitos, sendo também eles imperfeitos.
Parabéns pelo vídeo! Independente dos problemas éticos, acredito que os carros autônomos devem ser comercializados. Todo ano, morrem 40 mil pessoas no Brasil vítimas de acidentes no trânsito. Se quisermos salvar o maior número de pessoas, temos que utilizar a tecnologia dos carros autônomos, sem dúvidas.
Porém, eu fiquei pensando nesse problema ético e chego a conclusão que, talvez, a culpa é dos pedestres. Afinal, temos sempre que atravessar na faixa de pedestres quando o sinal está fechado para os carros. Como os veículos são autônomos, nunca vão passar em um sinal vermelho. Se uma situação dessa ocorre é porque os pedestres estavam atravessando a rua em um momento incorreto, certo?
+Portal da Ciência , é verdade, mas aí vem um outro problema, e se este pedestre estiver carregando uma criança no colo, a criança não tem culpa de nada e vai pagar também. Eu sei que isso já ocorre com os carros de hoje em dia, mas eu penso que a população reagiria de forma diferente em ambos os casos. Por exemplo se alguém atravessa a rua fora da faixa de pedestre ou com o semáforo no verde carregando uma criança e eles são atropelados ninguém culpa o motorista, mas se o mesmo caso acontecer com um carro autônomo a maioria das pessoas culparia esta nova tecnologia.
Eu acho que misturar muitos carros autônomos com carros guiados por humanos vai dar muito problema. Os humanos causariam os problemas, mas culpariam as máquinas. O melhor para mim seria um sistema todo automatizado, e problemas como o apresentado o vídeo poderiam ser minimizados com muito estudo, planejamento e obras nas cidades.
Aí a responsabilidade é totalmente do pedestre que deixou a vida da criança em risco ;(
+Portal da Ciência eu tbm so a favor dos carros autônomos... Pq acredito q a idéia é reduzir ao máximo o número de acidentes q existem hj, com os carros normais, se possível até zerar alguns tipos... Como por exemplo, pessoas que dirigem embriagadas, e por consequência sofrem ou cometem acidentes graves, ou muitas vezes fatais!!! Só isso já é grande ganho pra todos!!!
E claro q deveria haver as leis especificas para o uso destes casos. Por exemplo, de início sou totalmente contra, o carro ser liberado, ainda q 100% autônomo, pra transportar crianças para as escolas, sem a presença de um adulto no veículo, isso deveria ser proibido!!! Ainda q seguro, porém por diversas razões, deveria ser proibido!!!
Já no trasporte de pessoas incapacitadas, ou deficientes, somente após atingir a maioridade!!! Assumindo assim também os riscos, q podem vir ocorrer pelo trajeto, e a responsabilidade pelo uso do veículo!!!
Em relação ao dilema levantado no vídeo, creio q acidentes podem sim ocorrer de inicio, e como nós humanos só aprendemos mesmo com nossos próprios erros, então a tendência é q estes acidentes estariam sendo zerados a medida q os carros e novas tecnologias forem evoluindo!!! Afinal nenhuma tecnologia é 100% perfeita ou segura o bastante, há sempre aquela pequena margem de erro, ou falha!!!
Muito legal...nunca tinha pensado por esse ponto de vista
isso me lembra muito o dilema das 3 leis idealizada por isaac asimov:
1) um robô não pode ferir um humano ou permitir que um humano sofra algum mal; 2) os robôs devem obedecer às ordens dos humanos, exceto nos casos em que tais ordens entrem em conflito com a primeira lei; e 3) um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores.
Muito bom, nunca tinha parado para pensar nessa questão. melhor ainda a camiseta do Kheriam em relação a questão.
Gostei do video e concordo em partes, no primeiro exemplo acho que seria complicado desenvolver um algoritmo que cubra todas as possibilidades, já no segundo exemplo sim, realmente o índice de acidentes no transito seria praticamente zero porém somente nos acidentes em que não envolvão pedestres, o que nesse caso faltou você citar no final do video.
Vídeo e interação com o outro carinha foram muito legais. Menino, tomem um Sol!
Esse vídeo cairia muito bem novamente agora que houve um acidente com Tesla na China.
muito bom o vídeo parabéns continue sempre assim
Muito interessante o assunto. Já havia lido algo sobre isso. Em um artigo lembro sobre a possibilidade de dar ao proprietário do carro a possibilidade de escolher o padrão de comportamento, algo como "preferência pelo condutor", "preferencia pelos terceiros", etc. Assim de certa forma o dilema sairia das mãos dos fabricantes e passaria para o proprietário.
+agaelema = life is easy, normal or hard, very hard, ultra hard;
Parabéns pelo vídeo, muito interessante! Essas questões devem ser analisadas sobre um ponto de vista mais prático. Se fosse um condutor humano, o que ele faria? Um ser humano não teria tempo para avaliar questões éticas e tentaria apenas se auto-preservar. A mesma abordagem deve ser adotada em carros autônomos: auto-preservar-se (à si e aos seus ocupantes) e evitar ao máximo danos colaterais como, por exemplo, invadindo uma pista contrária.
Cala boca Marcelo, sabe porra nenhuma
Bom, eu sou condutor (piloto) e a primeira coisa que pensaria é frear. Virar para qualquer dos lados poderia causar um problema maior. Isso a gente aprende na auto-escola. Parabéns pelo vídeo!
Ótimo vídeo! Estou muito interessado no desenvolvimento dessa tecnologia. Espero ver carros autônomos dominando as ruas antes de eu morrer, virtualmente eliminando acidentes apesar dessas questões éticas - ninguém entenderá como permitíamos 1 milhão de mortes por ano. Abraços!
Ótimo vídeo! Parabéns!
É muito bom ver estes questionamentos! A que custo você está disposto a pagar para ter uma certa tecnologia?
Eu acredito que isso será dilema eterno, o que tornará possível a existência desses carros, são vias especificas para carros autonomos e não algo que englobe uma interação direta humano/máquina, porque sempre vai ter pessoas se aproveitando de possíveis "brechas" para ganhar dinheiro e etc, não preciso nem entrar no fato do bonde ou de acidentes, porque acredito que seria colocado uma certa limitação de velocidade que estaria relacionado a uma frenagem segura mesmo em casos de extrema emergência, causando minimos danos a vitima.
Quando um acidente está prestes a acontecer, dificilmente alguém teria tempo suficiente para tomar a melhor decisão. E no caso dos carros autônomos, poderia haver uma legislação especificando detalhadamente como o carro deveria se comportar em caso de acidentes.
o problema do bonde seria difícil de acontecer caso todos os carros fossem autônomos, enquanto que os carros que dirigimos matam muitas pessoas no trânsito. Vale a pena e muito investir nessa tecnologia
separar transito de veículos de transito de pedestres, eliminar as faixas de pedestre e arranjar outro jeito deles atravessarem a rua, pra dar certo teria que mudar muitas coisas nas cidades, mas valeria a pena.
Cara esse video literalmente faz minha cabeça travar de tantas coisas complicadas a serem pensadas, tantas variaveis nesses problemas todos, nossa complicado! Mas o tal dilema do bonde vai travar minha mente pra sempre kkkk
Ficou bem legal esse formato de vídeo
o segundo caso é diferente do primeiro, não é possível por na mesma balança.. O primeiro exemplo, o carro apresentou defeito e se tornou um perigo(algo que não depende de quem está dentro), logo seria "natural" tentar reduzir os danos. Já o segundo exemplo depende diretamente de você, e por mais que tentem dizer que são pensamentos de perspectivas, eles não são, pois ações diretas são contrárias às ações indiretas.
Muito bons seus videos, parcerias são sempre positivas :0
Poderia fazer um vídeo explicando, o porque não fazem carros com ímãs e o fim do combustível para carros, há vários vídeos com conduções a ímã !! Obrigado
seu canal é do caraio parça!! parabens!! to vendo todos os video e nao consigo parar
Usa sugestão seria jogar essa decisão para o proprietário do veículo. Assim como pessoas agem diferentes, algumas tendem a desviar por impulso e outras acabariam atropelando. Na hora da compra o proprietário poderia decidir qual o comportamento do carro para esse tipo de situação
Legal. O primeiro vídeo do meu canal é sobre este tema, além de falar também do impacto econômico dos carros autônomos. Parabéns!
creio que as faixas de pedestres terão sensores para avisar aos motoristas que há pedestres na faixa,logo o carro autônomo vai reduzir a velocidade de forma calculada, o mesmo pode ocorrer se houver câmeras com sensores de movimento que se alguém estiver tentando atravessar fora da faixa (coisa típica de brasileiros ) , será avisado aos veículos e um sinal sonoro denunciará o pedestre mal educado com isso se consegue evitar a grande maioria dos possíveis acidentes , sem contar que os autônomos não vão ultrapassar o limite de velocidade pelo menos em perímetro urbano.
esse canal merece entrar na god-tier dos canais de ciência do youtube
+Guilherme Cioccia e mais reconhecimento por aqui no pais, tambem.
tem canais la fora que sao muito conhecidos, e o pedro faz por merecer.
Plux9 com certeza!
"Nosso trabalho… é tentar salvar o máximo de pessoas possíveis mas nem sempre isso quer dizer salvar todas elas"
Steve Rogers
acredito que passarelas para pedestres resolve boa parte disso. tirando os que fazem questão de desobedecer as normas de segurança não haveriam pedestres para que os caros tivessem de tomar decisões dessa, e as colisões entre eles mesmos seriam muito menores ou inexistentes. não e uma solução 100% mas e uma boa alternativa.
e se você modificasse o ambiente? como passarelas que passassem por cima das ruas, ou sensores nos mio-fios que detectassem qualquer coisa que não fosse um carro presente nela?
Poxa, vídeo muito bom mesmo! Eu já havia visto essa proposta de dilema moral em um canal gringo, mas gostei muito da forma como você trouxe na prática com algo que pode vir a se tornar realidade, o que nesse caso seria os carros autônomos.
Belá Cinematica cara
Este problema se encontra em "Justiça - qual a coisa certa a fazer" em que é apresentado o utilitarismo
Já ouvi dizer que motoristas de ônibus (esses de passageiros nas cidades), são instruídos em caso de inevitável colisão (não importa se da pra usar o freio ou não, o que importa é, a colisão vai ocorrer), salvar as pessoas que estão dentro do veículo. O meu ponto de vista é simples, pessoas dentro do veículo não devem pagar pela falta de desatenção ou desrespeito à regras de trânsito de quem está fora do veículo. Por isso existem regras de trânsito, por exemplo atravessar na faixa. Pessoas que descordam disso são pessoas que não conseguem seguir padrões e regras de segurança cientificamente comprovados e por isso tem problemas de convivência com a sociedade. Outra coisa, crianças em hipótese alguma devem ficar sozinhas na rua (deixar criança brincar na rua é de uma falta responsabilidade sem fim dos pais).
Vídeo excelente!
Essa é realmente uma questão muito séria diante da eminente ascensão das IA.
De um lado existe o medo de delegar poder de decisão típico de humanos às máquinas o que gera demanda legítima por um código de ética para sistemas autônomos, como foi exposto no vídeo, e de outro a necessidade de utilizarmos a tecnologia a favor da vida, bastando observar os números absurdos de mortes no trânsito devido humanos irresponsáveis. Não vejo problema, num PRIMEIRO MOMENTO, em abrir mão das decisões que envolvam atitudes mecanizadas para as máquinas, afinal é pra isso q elas existem, e para tal, tem se mostrado muito superiores aos humanos em precisão, eficiência e imparcialdade.
Tomara que chegue logo o tempo em que questionar carros autônomos seja tão estranho quanto questionar a utilização de uma calculadora.
Mesmo que em x anos o trânsito não seja todo composto por veículos autônomos, ainda assim seria muito mais seguro, pois quando se elimina o homem, se elimina o erro. Não é à toa que as grandes fabricantes de aviões substituirão os pilotos por apenas computadores já nas próximas décadas, tendo em vista que vários projetos estão sendo desenvolvidos nesse sentido hoje. Não é que o homem não sabe pilotar/dirigir, mas pelo fato que nós pilotamos/dirigimos mais ou menos. Essa preocupação com acidentes envolvendo carros autônomos não deveria preocupar as pessoas. Menos homens dirigindo, menos acidentes, é simples. Eu assisti um vídeo sobre sistema de anti-colisão desenvolvido pela Toyota em que o carro, se o freio não for acionado pelo homem, para sozinho. É fantástico. A grande preocupação é que serão cada vez mais pessoas perdendo empregos para máquinas. As pessoas alimentam a crença de que esse futuro é muito distante e jamais as máquinas irão alcançar todas as habilidades do homem. Bem, a cada notícia nova que saí sobre a tecnologia eu reforço o pensamento contrário.
+Pedro Caldas falhas tecnicas acontecerão, mas sem duvidas em uma escala muito menor que vemos hoje com os humanos, mas ai entra a questão ética daqui a pouco, logo estaremos tipo o mundo do walle onde as maquinas fazem tudo pra gente e não precisamos nem andar mais
Lembrando que a tecnologia não anda para trás, ou seja, já estamos a caminho desse futuro.
Educando os trabalhadores a não ficar parados na frente do bonde evitaria o problema.
A questão é que estão todos preocupados com o carro, mas esse é uma máquina, programado. Continuar progredindo com tanta tecnologia sem preparar os usuários (de forma geral, todos os envolvidos) vai ser sempre um problema.
Não existe preço a ser pago, não existe vida a ser sacrificada em nome de qqr ciência. Existe a possibilidade de avançarmos todos juntos como sociedade, mas isso só será possível com o conhecimento aprimorado compartilhado.
Parabéns pelo vídeo.
Tem uma possível solução para esse problema, que se não me engano podemos ver-parcialmente-em "Eu, Robô": as pistas de circulação dos automóveis são subterrâneas, de modo que no subsolo só os automóveis transitam, e na superfície, só os humanos(e robôs).
Continue trazendo boas discussões, abraço!
+Jhonatan Pavarini Pensei nisso também. Na maioria dos filmes futuristas é assim.
Vídeo excelente, parabéns ao canal. Somente uma observação: há trechos com as mesmas falas entre 2min10 e 2min53. Me pareceu que apenas uma falha na edição, que em nada diminui a qualidade do tema e a do vídeo em si. Abraço Pedro Loos e Kehrian.
Muito bom seu vídeo cara.
Ninguém em sã consciência compraria um carro que fosse matá-lo.
Isso puxa um assunto muito interessante, Redes Veiculares.
e se investíssemos na prevenção e liberarmos os carros , assim não atrasariamos o desenvolvimento enquantoresolvemos o problema ético em segundo plano , .... muito estranho a sensação que da ao tentar resolve-lo e perceber que não há soluçôes óbvias ... muito bom o video
Ótimo assunto!
Esse video foi incrivel cara
Perfeito. Falo isto faz tempo. Todos os carros autônomos e se comunicando em pistas preparadas com sensores. Sem seres humanos pilotando...
ótimo vídeo, muito show mesmo!
KHERIAN, onde estão os videos novos? Seria ótimo um retorno do seu canal.
Bacana seu trabalho e o modo como é narrado os vídeos, mostrando a ciência de uma forma fácil e descontraída.
Queria sugerir um TEMA para um vídeo se eu puder rsrs.
Seria +/- isso. (se temos o SOL como fonte de principal calor, por que quanto mais alto "seja subindo em montanhas ou aviões" fica mais frio? se teoricamente estamos mais próximos da fonte de calor!!!!). Eu acredito que tenha influencia com a nossa atmosfera mais não sei relacionar as duas de forma Cientifica e logica. agradeço ai pela atenção.
É complicado discutir limites éticos numa sociedade onde as pessoas já não distinguem com clareza a noção de ética (e se você tenta impor sua visão ética com comentários ofensivos, já está em contradição).
A opinião dos especialistas em ética moral tanto ajuda quanto atrapalha, depende pra que vamos usá-la. A função principal desses profissionais é a de propor situações hipotéticas, como o dilema do bonde, e aplicá-las como exercício, tema de discussão e estudos. Convidá-los a participar da programação dos algoritmos de veículos autônomos é arriscado.
Vamos usar todos os dilemas propostos considerando um condutor humano. Como ele poderá saber se os pedestres são bons, maus, têm alguma doença, sua idade ou mesmo sexo? Estamos falando de um acidente. Quando viu estava em cima, não deu pra parar!! O uso do dilema do bonde (o canal está correto em citar pois faz parte dos estudos) já é um equivoco, pois não descreve um acidente, e sim uma situação na qual você tem tempo de identificar, decidir e reagir. Qualquer ação tomada é intencional, por isso permite o exercício ético. Acidentes não têm como produzir dilemas éticos porque se o motorista ou o carro pudessem escolher, a resposta à pergunta seria apenas uma: NÃO. Eticamente falando, isso é correto é não há discussão
A melhor abordagem lógica seria confundir o veículo o mínimo possível, ao invés de entupi-lo com regrinhas que não fazem sentido nem pra nós. Foram criadas somente para estimular o debate acadêmico.
O comportamento programado deveria ser simples: carro, surgindo obstáculos em rota de colisão, pare imediatamente, priorizando a integridade dos ocupantes e do obstáculo, nessa ordem. Acho o termo obstáculo melhor, pois compreende caminhões desgovernados, animais domésticos e carrinhos de bebê. Ainda assim, um algoritmo para reconhecer objetos específicos, como carrinhos de bebê, seria útil, podendo alterar a prioridade. Isso seria ético porque essa distinção antecipada é possível e permite controle. Outra situação valida seria para veículos de carga ou que, por qualquer motivo, estivessem sem ocupantes. Mas sem inventar muito.
Porquê essa ordem de prioridade? Porque partindo do pressuposto que um veículo autônomo tem maior capacidade de análise e controle, em caso de acidente, a causa mais provável será o agente externo. As estatísticas já mostram isso. Mesmo no caso de pedestres, a mais provável causa seria o pedestre distraído. Seria justo ordenar ao veículo que lesione os ocupantes,que também são pessoas, porque o cara que foi atravessar a rua não prestou atenção e provavelmente furou o sinal, coisa que o carro respeita?
Dilemas éticos na programação do veículo na verdade criariam problemas ao invés de ajudar, até porque, nesta sociedade mimizenta, os dilemas éticos deveriam prever raça, todos os gêneros (um upgrade por semana), orientação política, classe social, IMC, escolaridade e por aí vai. Jamais acabariam.
Ainda assim, tentemos analisar eticamente, o que eu insisto, não existe em acidentes. Mas vai que até lá todos já tenham seu chip do satanás, daí o carro tem como ler. Maaaasss, se o carro tiver como ler o chip, vai poder prever os movimentos de um milhão de pedestres a 500m de distância, então o Lula pode ter recém saído do boteco, cambaleando depois de encher a caveira pra comemorar a saída da cadeia que o carro não pega, mesmo que o molusco venha correndo atrás. Ou seja, mais tecnologia, menos risco.
Mas vamos ao acidente com dilema (mundo sem chip):
Um homem de 58 anos, viúvo, cria a neta de 9 desde que os pais morreram. Na falta dele a criança não terá ninguém. Ele está indo buscá-la na escola em seu veículo autônomo. De repente (acidentes são assim) uma garota de 16 anos, que está com o nariz enfiado no smartphone, mandando emojis pro seu crush enquanto caminha, atravessa o sinal na frente do carro. Os sensores fazem a leitura e concluem: pedestre: mulher, adolescente, bom. Condutor: velho, não importa o sexo, já vai tarde. Não me arrisco em dizer que vai dar treta. Decisão inversa? Treta.
Aliás, o que quer que seja feito, vai dar treta sempre. Não são os veículos autônomos. Somos nós.
Importante: quando traço esse paralelo e insisto que acidentes não têm implicações éticas, estou me referindo especificamente ao ponto de vista do veículo, autônomo ou não. Um pedestre distraído ou bêbado tem outras implicações, mas não estamos falando de pedestres autônomos. Em acidentes onde o pedestre não têm responsabilidade a culpa é sempre do motorista. Aí quem sofreu acidente foi o pedestre. O carro foi a causa.
E como o veículo autônomo tem mais sistemas de controle, é justo compará-lo com um carro com motorista sóbrio e atento. Ninguém compraria um carro que se comportasse como se estivesse sendo dirigido pelo Thor Batista ou pelo Fábio Assunção.
Todas as situações apresentadas no vídeo descrevem eventos onde algo inesperado acontece com o veículo em curso, ou seja, acidentes.
Erros de comportamento do veículo como fazer uma curva para o lado errado são situações completamente diferentes e aí sim, responsabilidade total do fabricante.
Por fim e talvez mais importante, a principal proposta que a discussão ética do dilema do bonde levanta é: não existe escolha correta. Inserir uma coisa dessas num sistema lógico de tomada de decisão, por definição, não tem lógica.
Para quem leu, desculpe o texto longo, mas trabalho com tecnologia e lógica e, já que ia comentar, quis fazê-lo de forma a melhor esclarecer e contribuir com este excelente canal.
o problema do bonde no caso de carros autonomos é uma coisa "facil" de se resolver
que seria mudando todo sistema de trafego e de pedestres, o que parece bem fora de realidade pelo menos nas proximas decadas, e outro motivo pra isso demorar muito pra acontecer é que grande maioria dos veiculos circulando deveriam ser carros autonomos
para resolver isso, deveriam adaptar o sistema de trafego para o carro mais do que as empresas tendo que adaptar o carro ao sistema de trafego, criando uma especie de autorama urbano tanto pra carros quanto para pedestres (o que se nao me engano ja é um conceito muito antigo sobre esse assunto) o problema é que uma coisa atrasa a outra, sem muitos carros autonomos circulando, nao existem motivos para mudar o sistema de trafego, e como o sistema de trafego dificilmente ira mudar, nao veremos muitos carros autonomos circulando, isso ainda vai levar umas boas decadas provavelmente
Algumas montadoras trabalham com segurança passiva de pedestres, caso da BMW que criou um capô preparado para amortecer em caso de colisão com pedestres.
adoro seu canal