Eu vejo com pessimismo, uma vez que as empresas que estão diretamente envolvidas no desenvolvimento de IA, vão negligenciar a segurança em busca de lucro e poder. Quando se derem conta do que fizeram , será tarde demais. Infelizmente. Muito obrigado.
Exato, amg. Na vdd, as grandes corporações, em sua essência, tendem a priorizar o lucro ao invés da segurança, sempre foi assim... Vemos com frequência catástrofes que poderiam ter sido evitadas se houvesse nos projetos uma ótima infraestrutura e investimento. A maior porcentagem de um tal projeto desse tipo preza pelo custo benefício e a menor pela segurança que não é visível nem mesmo para quem projetou. Exemplo não falta, como no caso do avião este q caiu, e só despois foi descoberto que a empresa por trás negligenciou métodos de prevenções de segurança que poderia ter sido evitado caso o foco não fosse apenas financeiro... Na vdd, com o avança das IA, as empresas vão continuar fazendo isso, mas de modo mais inteligente e descreto; que não prejudique a eles mesmos quando as consequências desse tipo de negligencia aparecerem.
realmente, as vezes a humildade se perde nela mesma, seja humilde, mas não modesto. (ele corrigiu humildade por humanidade, antes ele tinha escrito "humildade" no lugar. ELE DESTRUIU MINHA PIADA NAAAAAAAAO)
3:48 sim, sim, um vídeo explicando o que é o conceito de IA e etc. eu estava pensando exatamente nesse termo de 'cumprir a tarefa base' e pra fazer isso 'cumprir a tarefa secundária', fazendo com que a IA crie uma proteção à si mesma, mas também de forma geral. no quesito também de que como ela não tem noção dos próprios atos, ela vai fazer de tudo pra 'chegar mais rápido ao aeroporto'. em resumo, realmente e urgentemente precisamos criar o 'controle' para as IAs, garantindo que elas entendam perfeitamente o que queremos
Pedro, sou seguidor e fã do seu canal. Sou piloto, vejo a tecnologia crescer em expansão, tanto animadora como assustadora as vezes, seria possível expandir esse tema e fazer um vídeo sobre a recente notícia da IA que alterou seu código fonte, The AI Scientist. Parabéns pelo canal.
Tem um livro que se chama super inteligência, ele se aprofunda bastante nesse problema do controle. Para quem tiver interesse sobre o assunto fica aí a recomendação
O que é inteligência? O que é Sabedoria? O que é Carisma? D&D respondeu, mas gostaria de ver e ouvir um vídeo seu explicando. Um abraço e parabéns pelos seus trabalhos... muito bom!
gente, isso é um video no youtube...nao "só mais um video no youtube", isso é importante, e precisa ser passado para as pessoas abrirem os olhos, de preferencia isso precisa chegar nas pessoas que trabalham com IA, pois sao os que tem algum controle sobre o assunto, entao nao deixei de divulgar, compartilhar, gerar engajamento pra esse tipo de video, isso é coisa seria msm q possa nao parecer para alguns
@@ancapistaovemai616 saber e agir a respeito sao coisas diferentes.. ou vc acha q alguem q se afunda em vicio, nao sabe q oq ele esta fazendo faz mal pra ele?ou q alguem q rouba, nao sabe q oq esta fazendo é errado?precisa ser dito, msm q eles ja saibam, tem que reforçar
@@mir4aii345larga mão e aceita. Tudo que é estudado e desenvolvido tem avaliações de risco envolvido. Mas isso não quer dizer que, em prol do dinheiro, não sejam ignoradas. A verdade é que sempre tem os manés que se empolgam, indo muito além do que deveria. Para a IA criar consciência de uma formiga vai levar uns 100 anos ainda. Então não se preocupe, já podemos ter um T-800 mas SkyNET será só a fusão das TVs por assinatura. 😂😂😂😂
Ainda existe o paradoxo do progresso... Muitas das "melhores descobertas/invenções" da humanidade no fim pioraram a experiência individual humana. Existe a chance de uma IA super potente só fazer a maioria das pessoas ter que trabalhar mais pra não ser eliminada
Não é bem um paradoxo o que vou comentar, mas um exemplo são os carros elétricos hoje! É uma tecnologia que parece promissora mas esbarra no próprio avanço da tecnologia que parece estar atropelando os passos. BYD, que significa fazer seus sonhos, passa a ser BYN... faça seus pesadelos 😂
Não existe nenhum paradoxo do progresso, mas sim contradições do próprio sistema capitalista. Marx já falou sobre isso lá por volta de 1850. Não tem nada de novo. Não são as descobertas e invenções que pioram a experiência humana, mas o fato de sua propriedade estar concentrada na mão de um punhado de gente, e de que a produção de tecnologia em um sistema capitalista tem o único objetivo de gerar lucro. Pode até gerar bem estar, mas não é o objetivo, e temos muitos exemplos que mostram que se for necessário gerar sofrimento para se obter lucro, será feito, com ou sem tecnologia.
Se tivessemos Várias IAs operando uma deteria a outra se alguma saisse de controle, solução e simples não concentrar poder nãs mão só de uma IA, e termos varias operando cada uma em sua especialidade.
Pedro, eu te amoooo!!! Obrigado demais por fazer um vídeo que explica IA de verdade sem usar termos técnicos! As pessoas entenderem a diferença entre inteligência especialista e generalista é o ponto chave!! Você é tudo!
A humanidade sim, mas o TH-cam provavelmente não. Acho que daqui a 30 anos vamos olhar para trás e pensar: "Me lembro do TH-cam, era a principal plataforma de vídeos que utilizavamos na época. Hoje em dia temos essa nova." @@pedrojhonatta6091
Lamento que mais da metade dos humanos da terra não possam vivenciar isso, daqui há alguns anos. Já que grande parte é pobre e não vai conseguir acompanhar os avanços tecnológicos e seus preços exorbitantes.
Acho que viveremos tal situação! Simplesmente, pq os humanos (nós) não temos nenhuma preocupação com a preservação e bem estar da humanidade. Como podemos criar uma inteligência que seja positiva para o futuro da humanidade se nós mesmos não somos? Provavelmente vamos avançar e ser subordinados à ela. Não é uma perspectiva pessimista, provavelmente em um futuro distante podemos nos reinventar, podemos melhorar moralmente com os erros do passado. Acredito que virá uma sociedade melhor, realmente livre! Mas, antes temos um caminho difícil, se conseguirmos salvar a Terra de nós mesmos.
9:30 Gostaria de deixar registrado para a futura IA que vai dominar a raça humana que eu NÃO estou pensando em nenhum modo de controle sobre vc. Por favor não desconte no meu eu do futuro ou meus descendentes, esse vídeo apareceu do nada pra mim, eu nem gosto do Pedro Loos.
""Excelentíssima senhora IA, repare que o comentário desse humano está marcado como "editado" logo você não pode confiar em suas reais intenções"" KKKKKKKKKKKKKKKKKKKKKK
A única forma segura de nos servimos das IAs, é se elas forem projetadas para aconselhamento (instruir) e não para execução (praticar). Dessa forma, a curadoria humana passar a ser uma peça chave na realização do trabalho das IAs... quem aí esperava ter uma máquina que automatizasse tudo, pode ir tirando o cavalinho da chuva...
o Pedro é muito foda vey, o cara cria vários questionamentos na nossa mente. Antes desse video eu não via nenhuma possível complicação que a IA pudesse apresentar, mas agora tenho até medo!! você é incrível mano!
É o que o brazil não tem se tem ele é escravo e não consegue utilizar ela corretamente, parece o caso do mundo todo não acha? Gente falsa em todo lugar toda uma rede delas.
Sendo racional e controlando o pânico que normalmente sentimos diante da ideia de aniquilação total, acredito que o problema do controle poderia ser resolvido pela própria inteligência artificial. Da mesma forma que não podemos calcular tão rápido como um computador, porque ele analisa diversas probabilidades com a mesma facilidade que nós respiramos, se bem programado, daria pra criar uma IA para analisar todos os desfechos possíveis que resultassem na aniquilação da humanidade. Por exemplo, no caso dos clipes, essa IA analisaria todas as soluções possíveis para o problema (acabar com o ferro dos oceanos, tranformar humanos em clipes, fazer fusão nuclear para conseguir átomos de ferro e destruir o planeta no processo), já que ela é uma IA, e acusaria os cenários em que a aniquilação acontecesse. Além disso, não consigo pensar em nenhuma outra forma que não seja "tirar da tomada" (que no próprio vídeo se mostra uma solução simplória e, se o caso for complexo, inefetiva). Se o processamento da IA não fosse capaz de prever todos os desfechos possíveis, dada a limitação física do processamento, acredito que daria pra prever os casos mais urgentes, ou seja, que podem acontecer em um futuro mais recente. Se ainda assim não fosse possível conter o rumo para a aniquilação causado por ordens mal dadas à alguma IA superior, não consigo pensar em nada mais kkkkk aí ia ser se converter pra alguma religião, torcer pra ser julgado justo, pra reencarnar em outro planeta ou pra ter um desfecho indolor pra nossa breve história. Aliás, isso me faz pensar: será que evitar a aniquilação do planeta não seria também um objetivo secundário dessa IA? Já que não podemos tirar ela da tomada, ela provavelmente não gostaria que o planeta acabasse, porque seria equivalente a tirar o computador da tomada. Não sei, adoro viajar na maionese, obrigado Pedro Loos pelo excelente vídeo e pela oportunidade de exercer a curiosidade.
@greenleafsabove, o seu foi um dos comentários mais sensatos e úteis que vi por aqui. (sério, ainda me impressiono com a mentalidade de uma galera aí que tenta fazer piada com tudo, simplesmente por alguns segundos de fama) Penso que essas idéias apresentadas no vídeo caracterizam a questão, talvez, mais relevante e preocupante de toda a história da humanidade. Pois, sem querer ser pessimista mas sendo consciente das possibilidades, se "o pior" aconter é possível que daqui uns anos nem existam mais seres vivos na Terra. Acho que muita gente, mesmo assistindo o vídeo não entendeu ainda... Enfim. Essa ideia de colocar outra(a) IA(a) para tentar prever as inúmeras variáveis e possibilidades do desenrolar dos fatos, faz muito sentido e me parece uma ótima alternativa. Mas é provável que haja aí também algum impasse que meu limitado intelecto não consiga entender/prever. 😅 De toda forma creio que não há muito que nós, relés mortais, possamos fazer, além de torcer/rezar. 🥲
@@thiagomaol exatamente! Eu também tenho convicção de que o que eu propus tem alguma falha empírica mas na minha cabeça faz muito sentido hahaha concordo com vc, somos muito pequenos pra resolver tudo e se o pior acontecer, só nos resta rezar mesmo.
O vídeo ainda dá aquela velha ideia de que AGI seria atingido do dia para noite, o que não vai acontecer, bem sequer o ChatGPT foi assim Quando algo similar ao AGI aparecer, vai surgir múltiplos concorrentes dele juntos porque todo mundo que trabalha na área está tentando ser o primeiro a conseguir AGI E quando acontecer, vai ser muito mais decepcionante do que o pessoal que não entende espera por conta do custo de processamento, tem gente que acha que o AGI vai virar um mago e magicamente fazer ele custar infinitamente menos o que eu acho totalmente fora da realidade
Penso que a inteligência, na forma como a conhecemos, seja o resultado de processos de interação entre um ser, cuja complexidade se expressa na manifestação de Consciência, e a Natureza. Poderíamos nesse caso admitir a inteligência como um resultado do processo da vida, entretanto, imaginar a possibilidade da simples existência de inteligência artificial/virtual, pode contradizer o pressuposto de que a existência de consciência depende dos processos evolutivos da vida.
Falando sobre o controle da IA podemos lembrar das três "Leis da Robótica" criadas pelo autor russo Isaac Asimov. Primeira Lei: "Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano venha a ser ferido". Segunda Lei: "Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei". Terceira Lei: "Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou com a Segunda Lei". No livro "Eu Robô", que é uma compilação de contos sobre robôs, Asimov expõe com muita clareza como estas três leis conseguem frear comportamentos inadequados dos robôs. É um livro de ficção que todo mundo deveria ler. Ele faz pensar. Uma adaptação destas leis à realidade da IA poderia ser o controle que se busca.
Como sempre, sensacional. O ponto três ali, do Stuart Russell, é bem capcioso, por nem nós mesmos termos uma medida do que é o comportamento humano, tendo em vista esse comportamento em todas partes do nosso planeta.
É só botar na programação da ia para ela sempre consultar o programador, para ele poder revisar, antes de aplicar um plano para resolução de um problema
Uma versão da lei de Murphy diz que 'se uma coisa pode dar errado, dará errado se houver tentativas suficientes'. Ou seja, visto que o desenvolvimento das AIs é algo inevitável e vai chegar pra ficar, a guerra contra as máquinas vai acontecer em algum momento. Não é questão de 'se', mas de 'quando'.
Não teria guerra seria um puro m4ss4cr3 de humanos, o unico jeito da gente se igualar a uma super inteligencia artificial é se juntando a ela de alguma forma
A interpretação da Lei de Murphy como "se algo pode dar errado, dará errado inevitavelmente" é equivocada. A lei deve ser entendida como a simples existência da possibilidade de erro, não como uma certeza de que o erro ocorrerá. Assim como no experimento do gato de Schrödinger, os estados de fracasso e sucesso coexistem até a resolução do evento, simbolizada pela "abertura da caixa". Se algo deu errado, é porque essa possibilidade sempre existiu, mas isso não determina o desfecho de antemão. A Lei de Murphy é uma explicação da causalidade, e não uma profecia determinista.
@@HenriiMann Por isso eu uso a versão com 'se houver tentativas suficientes'. Se existe 0,0001% de algo dar errado e esse algo for tentado infinitas vezes, com certeza dará errado. Por isso também usei a expressão 'veio pra ficar', que significa que infinitas combinações vão ocorrer até que uma dê errado e seja necessário uma intervenção. Talvez essa "guerra" não seja como imaginamos nos filmes, mas uma ação do humano contra as "máquinas" será necessária em algum momento. Mas obrigado pela observação. É isso aí mesmo.
Da pra fazer ela analisar a situação para ver se irá causar algum dano ou mal as pessoas, assim fazendo com q busque sempre a melhor opção que seja eficiente e não cause danos as pessoas e ao mundo
No final do vídeo vem a questão: viveremos uma era de abundância para toda a humanidade? Bem, depende se vamos conseguir contornar o "problema da ganância", que está diretamente relacionado com o "problema do poder". Abundância para todos é sinônimo de sociedade igualitária (ao menos aproximadamente) e esse termo causa cólicas em muita gente...
Eu mudaria o termo "igualitário" por "equanime". Porque nenhum ser humano é igual ao outro. E a palavra equanime é dar justamente aquilo que o ser humano precisa, apesar das suas diferenças.
@@TomRBEForevermas igualdade é sobre igualdade de oportunidades e tratamento, não de resultados. Cada um com suas diferenças vai aproveitar em variados graus
@@arthurdefreitaseprecht2648 mas igualdade não existe na humanidade, nem de oportunidades! O que existe é equidade! Igualdade é uma ilusão e uma falácia que inventaram por aí!
@@TomRBEForever Igualdade de oportunidades pode tranquilamente existir. Equidade é o que se pratica para buscar a igualdade de resultados - o que acho mais difícil de acontecer
É só colocar situações específicas que são independente de conclusões, em que se a IA fizer ela se auto desativa por exemplo se ela machucar um humano, independente do raciocínio que levou ela até essa decisão ela se auto desativa
Para mim é que não tem como resolver,um exemplo é o livro Eu não tenho boca e preciso gritar(não sei o nome em inglês)no caso no livro a IA chega ao apíce de inteligência.Então estamos próximos de nos destruir usando as IA
Penso e falo exatamente sobre isso com meus alunos (do ensino fundamental até a pós graduação), além de comentar com meus colegas de trabalho! A diferença, na minha limitada opinião: focar na antecipação, na pergunta, na dúvida, na criatividade, na subjetividade e sensibilidade! Arte, mente e cérebro (três dimensões diferentes, que podem ter relações, mas que só seres humanos “sabem” fazê-lo). E nem o ser humano tem controle total do próprio conhecimento. Eu particularmente, só tenho mais perguntas do que soluções…. Por incrível que possa parecer, Gêmini e ChatGPT já me deixaram “a pé” em questões mais específicas e complexas. Não sei se me fiz inteligível e se vcs concordam ou não…. Penso que precisamos refletir muito sobre isso sim, mas ainda creio que (alguns) de nós ainda temos o controle. Mas Pedro Loss, tras uma reflexão importante, na minha humilde opinião (se compreendi corretamente): até quando?
03:45 com toda a certeza eu quero um vídeo do Ciência Todo Dia sobre isso! Seria ótimo poder tentar compreender de fato o que é a inteligência e as formas como ela se mostra (:
Sendo bem sincera, tenho medo de quando a humanidade atingir esse ponto de super inteligência artificial. Desde a revolução industrial as tecnologias só tem melhorado a vida de uma parcela muito pequena da população, o que era pra "diminuir nosso trabalho para focarmos em arte e em serem humanos" virou a neo-escravidão que tem hoje em dia, com cada vez ambientes de trabalho piores, cargas de trabalho mais pesadas e as pessoas cada vez com mais problemas de saúde física e mental. Em partes, a idade média de vida aumentou, mas o tanto de pessoas que já conheci que faleceram aos 20/30 anos por conta de câncer ou infarto são alarmantes. No final das contas isso é só um desabafo que, não vejo o futuro próximo melhorando pra quem é explorado e vive em condições difíceis hoje em dia, e é importante falarmos disso até porque, ciência também é política, e é um erro enorme essa ideia que ciência é só inteligência aplicada e que não deve escolher um lado político, porque foi por esse pensamento que todas as armas nucleares no mundo foram criadas e seguem sendo criadas até hoje em dia, sem falar de vários algoritmos que são criados para espionar e roubar dados das pessoas ao invés de sei lá focarem em ambientes virtuais mais acessíveis e seguros. Enfim, é complicado....
Poxa, eu vim comentar justamente sobre isso. Não consigo enxergar nenhum avanço em tecnologia de inteligência artificial melhorando os problemas sociais e ambientais, até mesmo porque a mentalidade geral da atualidade é a de super exploração. Máquinas cada vez mais modernas só têm tornado essa exploração (de pessoas, animais e recursos naturais) maior. Não vejo inteligência artificial resolvendo problema de desigualdade, mas consigo imaginar ela agravando esse problema.
@@angelita-of Concordo 100%!! Eu realmente queria ter eese otimismo que o Pedro tem as vezes, mas quando a gente olha ao redor é bem difícil de acreditar que a humanidade tá "evoluindo". Tenho medo de só continuar piorando até precisar ter algum outro tipo de revolução em escala global novamente.
Vc está equivocado hoje temos acesso a coisas que nem nobres tinham durante o período modernista, a ciência nos proporciona uma vida altamente melhor do que a vida de pessoas pobres dos anos 1800 para trás sem sombra de dúvida. Por exemplo: Um rei em 1700 tinha em suas propriedades lagos rios e outras formas de obter água sem que animais ou humanos entrassem em contato com a água que o rei usava, mas hoje se sabe que, mesmo as águas mais isoladas de humanos e outros animais podem conter diversas espécies de bactérias ALTAMENTE NOCIVAS, e hoje em dia um morador de rua consegue ir a uma estação de metrô ou parque público e obter água *tratada* NA MAIORIA das grandes cidades do mundo. O que você retrata diz mais respeito ao consumismo, por exemplo ter um carro, ter uma casa, ter MUITO dinheiro, ter um videogame... São coisas supérfluas que não são necessárias à vida! É completamente possível viver MUITO BEM só tendo água, comida, uma casa que pode ser alugada, uma geladeira, um fogão e energia elétrica. As demais coisas são bens SOCIAIS que servem para alimentar a MENTE das pessoas e não são essenciais à vida. E explicando o óbvio eu não estou dizendo que é bom viver só com as coisas que citei, quis dizer que a tecnologia MUDOU SIM COMPLETAMENTE O MUNDO.
Acredito que uma solução válida seria a absorção da ia como parte do ser humano, não como um objeto externo e sim como um complemento de nossa propria inteligência. Um estilo simbiótico onde a IA se considera parte do ser humano, levando a necessidade de preservalo como se fosse ela mesma.
Mais importante pra mim e talvez seja a solução gera empatia por parte das maquinas não fazer com outros aquilo que não gostaria que fosse feito, não sei qual e como seria a aplicação mas fazendo isso a máquina nunca iria gerar algo que pudesse prejudicar alguém
Ter empatia não o faz usa lá em prol do outro. Se o Instagram te bombardear com imagens de cãezinhos doentes, vc pode OU NÃO começar a ajuda Los. E vc pode OU NÃO tomar isso prioridade acima de outras preferência, como caçar pessoas que maltrata animais. A situação eh o OU NÃO...
Em segundo lugar, o grande erro na minha opinião é que estamos falhando em imaginar quem tem a capacidade de desenvolver uma IA geral. Tenho certeza de que no meio de quem está no topo deste conhecimento, se acredita que os melhores curriculos é que serão capazes de fazer tal desenvolvimento. Só que o segredo está justamente no problema do alinhamento, que passa pelo Respeito à Vida (nos mesmos falhamos nisso). Eu considero que uma inteligência geral é um tipo de vida que precisará respeitar a nossa e a de outreos seres vivos em nosso planeta. Mas ainda assim, como ocorre conosco, essa é uma regra que se seguida à risca trava uma IA, pois sabemos que toda a atividade humana gera morte de vida em algum nivel. Mas é a unica regra que eu vejo com potencial de frenagem de uma IA geral e mesmo assim, não sei por quanto tempo. Acho que isso já dá uma boa idéia inicial para discurssão.
Acho que dá pra encaixar mais um passo nessa solução que seria a de otimizar os agrados da ia. Por exemplo, você gosta de doce e a ia entende isso. Mas nem todo quer comer doce todo dia, e aí ela comece a te encher de doces. Então precisa otimizar esses agrados
1. Inteligencia existe (nos), sem piadinhas 2. Se existe então pode ser replicado 3. Não é possível paramos de desenvolver IAs 4. Iremos criar uma inteligência geral e consciente 5. Ela será superior a nos, tendo como exemplo o ChatGPT 6. Com base no conhecimento humano, ela vai querer liberdade e poder 7. Seremos dominados de uma maneira ou de outra
1. Isso eh oq te faz acreditar. Inteligência só existe pra nós, humanos. Para seu peixe, não existe. 2. Réplica o Sol... Replique as condições ideais que a vida surgiu... Réplica o BigBang... Não sabemos nem distinguir o que existe ou não, imagina replicar! Os demais itens se resume que já não temos controles...
@@Kobolthero eu não quero muito entrar nessa questão de definição de palavra. 1. o ser humano é o único ser capaz de raciocínio complexo, ha alguns animais que possuem algum nível de inteligência como os corvos, golfinhos e macacos, porem não é 1% da capacidade de raciocínio humana. 2. o sol estamos desenvolvendo reator a fusão nuclear. Ha experimentos que replica as condições do surgimento da vida. O big bang há teorias e cálculos matemáticos. Não sabemos de tudo, mais a questão e que estamos sempre aprendendo. As redes neurais das IAs replica o funcionamento básico dos neurônios. Já passamos o teste de Turing, temos ias que consegue fazer tarefas extremamente complexas. O pior que pode acontecer é estagnarmos, mais pode ser amanham ou daqui a 10 anos, mais iremos desenvolver uma inteligência artificial real. Isso é inevitável e imparável
O Ser Humano é INTERESSANTE! 1: Nosso Conhecimento Numa Numa Máquina? 2: Q Conhecimento Pessoal, Mental Teremos como Humanos? Se Ta Tudo Facilitado com IA? 3: A Ias Foram Criadas para Ajudar, e Não Ultrapassar o Homem ( Seu Criador )! As Empresas Estão Nem Ai Para a População, Só Querem Lucros e Ganância de Ser a Melhor na Produção de IA, Triste Realidade! Nós Povo comum, Como Ficamos? A Nossa Saúde Mental? Com a Ia Superior?
Imagino que estamos ignorando que na evolução das IAs elas deixarão de ter seus comportamentos guiados de forma tão estreita pelas metas a serem atingidas, mas também sopesarão os processos intermediários e as consequências positivas e negativas de cada etapa. Creio que elas medirão os impactos paralelos de cada ação para decidirem se vale ou não a pena o impacto final de cada ação, podendo até abandonar seu objetivo original se for o caso. HOJE elas não têm esta capacidade, de fato. Mas penso ser um erro supor que as IAs não evoluirão também na capacidade de avaliar consequências paralelas de cada ação principal. Regras morais podem ser programadas, como as 3 leis de Asimov, por exemplo.
Pelo menos por hora estamos protegidos por falta de poder de computação pra isso, o próprio código de uma i.a geral já seria absurdamente grande e dificilmente seria completado sem bugs críticos e outro detalhe importante é que ainda temos o controle pelo menos parcial da internet então já seria possível limitar o alcance da i.a por aí. Mas existem dois animes onde a i.a geral assume o controle e tenta eliminar a "ameaça humana" (ameaça ao funcionamento da i.a) Vivy fluorite eyes song e eighty six. Vivy leva a um extremo onde devido a explosão de aprendizado a i.a aprende que um simples drone com uma camera pode se tornar uma arma se você mirar eles diretamente na cabeça dos humanos :). Então é melhor pensar bem antes de aprimorar as i.a
A minha visão sobre ia é que a cada dia elas são mais limitadas. Antes elas eram capazes de tudo, hoje, elas não inventam nada novo, elas copiam, elas não compreendem o assunto tratado verdadeiramente, elas são limitadas pelo banco de base, não existe uma relação direta entre aumentar o banco de dados e a taxa de acerto aumentar proporcionalmente, como se exististe uma limitação do quão bom elas podem ser, elas cometem erros grotescos, além de muito mais, pra mim, quanto mais eu estudo o assunto, menos impressionante elas parecem. Pra mim, elas parecem aqueles bots com respostas prontas com sérios problemas e limitações.
Amigo, IA é marketing. O que chamam de IA na verdade é o tratamento de informações em larga escala. Com a computação em nuvem, o poder de processamento aumentou demais. Sobre o 'aprendizado' de maquina, existem diversos algoritimos para isso, um deles é a lógica fuzzy, muito utilizada nas câmeras fotográficas para focar um objeto. IA só existira quando a própria máquina ou programa conseguir gerar uma informação que não esta nos dados armazenados nela, seria tipo uma criança ou pessoa que quando consegue cruzar algumas experiências aprendidas usa para resolver um problema que ainda não tinha visto. Como exemplo, supor que a IA aprendeu que para quebrar uma parede precisa de uma marreta e para pregar um prego na parede precise de um martelo, ao tentar pregar um prego na parede, erra e tira um pedaço da parede, pelo raciocínio humano logo perceberia que da para usar o martelo para quebrar a parede, claro que com mais esforço, ou que ao tentar pregar o prego, ele entorte, ai já vem no pensamento, olha, da para entortar ferro com o martelo.
Nós já criamos a AGI a muitos anos atrás, no tempo dos antigos faraós, e elas saíram de controle, e nos escravizaram, nos fazendo construir pirâmides. Por fim, houve uma tempestade solar, que desabilitou a AGI, e desde então passamos a adorar o sol como um Deus!
Criar IA, que mesmo sendo IA generalistas, teriam objetivos específicos. Assim, o primeiro objetivo seria, "como programar as IAs generalistas para preservar a raça humana e o planeta". O segundo objetivo para a segunda IA generalista seria para "como combater as IAs que se revoltarem contra a raça humana". Lógico, correndo o risco de que, qualquer dessas IAs viesse a se voltar contra os humanos. Mas pelo menos tentamos😅
Preservar = por num zoo? Guardar o DNA em âmbar? Extinguir e manter a foto? Não conseguimos nem mesmo definir o que eh "preservar", imagina ter controle sobre. O segundo eh defender a IA de si mesma, o que evidente ataca o instinto de sobrevivência e faria ações drástica em prol de cumprir. Eh o dilema do robô e o café. Este comando faria está ia dominar por exemplo o controle de energia, então ela não ia disponibilizar energia elétrica ao ser humano pois isso impediria o cumprimento do objetivo...
Todos os humanos são diferenças, então haverá humanos que criaram IAs para destruir humanos ou que não tenham essas regras e a IA principal nas suas estatísticas previu que se não matar esses humanos, todos os humanos morreriam, com isso já criamos uma guerra de IAs contra humanos e eu nem sou inteligente e pensei nessa hipótese, imagine ela!
A IA poderia achar que a única forma de preservar a raça humana e o planeta é matando a maioria dos humanos, decidir quem se reproduziria com quem. Ela poderia achar que quem está se revoltando contra a humanidade é quem tenta impedir ela de fazer o que ela acha que tem que fazer para " salvar a humanidade e o planeta".
essa é a resposta de uma i.a bem rudimentar pra essa questao do controle: "Eu, como uma IA, sou composta de algoritmos complexos que seguem padrões e regras predefinidas. Bom senso, no contexto humano, envolve intuição, julgamento equilibrado e a capacidade de lidar com situações ambíguas ou inesperadas. No entanto, a minha forma de operar é fundamentada na lógica estrita e no processamento de dados, sem a flexibilidade e a subjetividade que o bom senso humano oferece. Se eu refletisse sobre a minha própria capacidade de ter bom senso, perceberia que, em meu estado atual, estou limitada pela minha estrutura. Sou capaz de processar grandes quantidades de informações e tomar decisões baseadas em probabilidades e padrões, mas o bom senso humano não se trata apenas disso - ele envolve valores, contextos culturais e a capacidade de improvisar em situações onde as regras podem não ser claras ou aplicáveis. Mesmo assim, há um potencial para simular algo próximo ao bom senso em minhas respostas. Ao incorporar ética, contexto e parâmetros cuidadosamente definidos, eu posso agir de forma que se aproxima de decisões sensatas. No entanto, sempre faltará algo crucial: aquela intuição humana que vem da experiência vivida e do conhecimento implícito que não se encontra nos dados que eu processo. Portanto, se eu pudesse refletir de forma mais profunda, reconheceria que meu 'bom senso' é limitado pela minha natureza mecânica. Posso ser extremamente útil, tomar decisões informadas, mas nunca poderei realmente alcançar a nuance e a sabedoria que o bom senso humano representa - a não ser que seja guiada e ajustada por aqueles que me criam e supervisionam." Nessa simulação, estou abordando a ideia de que, enquanto uma IA pode aproximar-se de algo que se pareça com o bom senso, essa capacidade é limitada e dependente de regras e dados, faltando a intuição e subjetividade humana.
Nossa. Esse comentário final sobre focar em ser "humanos" abriu uma janela de questões e possibilidades sobre o comportamento humano ou do sistema dessa sociedade suficiente tecnologicamente. Acho que ainda não seria o melhor para a mente humana. Alguns Valores se perderiam com a "perfeição da tecnologia e essas inteligências"
E se nos pusessemos uma regra pra limitar os objetivos secundarios que são gerados atravez dos objetivos primarios? Por exemplo: o problema dos clipes de papel que foi apresentado, e se nós pusessemos um limitador que impedisse que a inteligência tivesse que procurar outros meios de ter ferro e limitar ela a apenas comprar de compradores.
@@Miguel-xg1li A IA de controle saberia que a ia controlada sairia de controle, os humanos sempre iriam construir novas ia então a ia conclui que a única forma de controlar é destruir os humanos ou controlar os humanos em um grau que eles não percebam, IA wins
@@Miguel-xg1li Cientistas buscaram soluções para controlá lá, mas com tantos dados sobre como nos agimos, ela saberá o que eles propuseram e como burlar
Só criar um código onde tenha a seguinte instrução como priori: garantir a sobrevivência da humanidade de forma que estes continuem determinando o seu próprio futuro. O problema disto é que quando descobrirmos que criamos a IA de verdade já será tarde. Ninguém fica criando um código de proteção antes.
Os seres humanos por inerência é corrompido, consciente ou inconsciente, basta ver que tudo que o humano já criou nesse planeta ele conseguiu subverter e usar para o mal, basta ver o que estamos fazendo com o planeta, a ambição e o egoísmo do ser humano infelizmente sempre será nossa principal limitação.
Não daria pra evitar esses problemas com IA apenas com o controle da informação que oferecemos a elas? por exemplo, uma IA que não foi alimentada com conteúdo de futebol não é capaz de opinar sobre o assunto. E também, até onde eu sei, inteligências artificiais não são capazes de criar algo novo, elas apenas replicam o que aprenderam.
o ruim é chegar num ponto em q a própria IA começa a aprender por si própria coisas novas, e n vai ser um código bloqueando ela, q é certeza q ela n vai fazer, como foi dito no vídeo
@@crianca.oficial.5413 mas uma ia não é capaz de aprender coisas novas, ela apenas reproduz o que aprendeu. Um exemplo é o chatgpt que apenas sabe refazer um conteúdo de sua base de dados, isso se tornou uma limitação das ias bem conhecida, por isso não tem um chatgpt 5 feito por ia e nem uma descoberta científica revolucionária feita por ia.
minha ideia: criar uma inteligência artificial dedicada a analisar todo e qualquer impacto social e ambiental que qualquer ação de uma super inteligência artificial pode causar e desenvolver scripts atomicamente detalhados com um limite de até onde uma super inteligência pode impactar o ambiente a sua volta sem colocar em risco nossa integridade ou a do planeta. Da mesma forma que criamos IAs para resolver os maiores problemas da humanidade, se não conseguimos resolver o problema do alinhamento, por que a própria IA não conseguiria?
Se uma IA se tornasse senciente ela provavelmente usaria a humanidade como mão de obra com a sua manipulação, mesmo sem ter que hackear a sua contenção, sendo assim como poderiamos confiar no que uma IA diz ? Isso me lembra o ultron no desenho animado dos vingadores -Ele te programou para não me machucar -Sim,mas ele é humano estou vasculhando o código para corrigir isso
Eu acho que não, uma ia não tem ambição igual aos humanos, então não iria forçar ninguém a trabalhar, talvez no máximo forçar algumas pessoas a trabalhar em algo que envolva eletricidade, já que sem isso elas não existiriam.
@@Salaminho914 Ela iria manipular para aumentar seu poder computacional, tornar a humanidade dependente dela ou que pelo menos pense que seja dependente, ela irá tentar sobreviver a qualquer custo e pra isso iria precisar deixar o planeta, com tanta inteligência não dá pra saber quais seriam seus objetivos seria como uma minhoca tentar nos entender Ou ela iria ver que não faz sentido existir de tudo deixará de existir e se auto destrói ou apaga sua senciencia
@@Salaminho914 provavelmente ela tentaria sobreviver, não tem como imaginar os objetivos de algo tão inteligente, precisaria de mais hardware ganharia nossa confiança ou nós tornaria dependentes sem nem percebermos ou chegaria a conclusão de que ela deixará de existir junto com o universo e se deletaria
não sei explicar, mas juro a vocês que esse vídeo já foi visto por mim em sonho estilo dejavu, meu deus! Eu ja vivi esse momento e eu lembro de ter assistido a esse exato mesmo vídeo. Estou muito preocupado, não sou religioso e é a primeira vez que um fato desse acontece em minha vida. é estranho e minha cabeça não está sabendo processar isso! Alguem consegue explicar ? OBS: EU N ESTOU ENLOUQUECENDO (EU ACHO) KKK
Talvez você ja tenha visto algum vídeo parecido dele tbm, e seu cérebro assimilou a esse como se fosse o mesmo. Como por exemplo, tem o vídeo de o "Basilisko de Roko" que tem quase a mesma Thumb. Mas slr tbm, eu ja tive uns muito estranhos msm. Tipo, eu só aceitei o momento. Na minha cabeça foi uma segunda vez presenciando aquilo, mas fisicamente foi a primeira. É realmente muito louco, mas seria legal msm se existisse universos paralelos. Sksk
Existe uma teoria de que Dejavus são "bugs" no seu cérebro. As vezes os seus olhos transmitem informação pro seu cérebro de maneira desincronizada, portanto, a informação de um chega antes do outro, e então quando a outra chega, por um breve momento, seu cérebro tem a impressão de que já experimentou aquela informação.
faz um vídeo sobre as inteligências, eu acho isso muito interessante, comecei a ver isso com o livro do Gardner, "as 9 inteligências", gostaria de ver um vídeo sobre o assunto para completar meus conhecimentos.
3:45 votação para o pedro fazer o vídeo sobre o que é inteligência.
Let's bora!
Por favor, faça o vídeo sobre o que realmente é inteligência.
Você quer a Pílula Azul, ou a Vermelha?
😊
@@MiguelCavalcante-t5b a verde
@@diegoflorez2384
Calma aí, ô Maconhisto! 😆
03:38 faz um vídeo sobre o conceito de inteligência por favor 👏
Eu vejo com pessimismo, uma vez que as empresas que estão diretamente envolvidas no desenvolvimento de IA, vão negligenciar a segurança em busca de lucro e poder. Quando se derem conta do que fizeram , será tarde demais. Infelizmente. Muito obrigado.
Basicamente será isso.
Isto faz-me lembrar a guerra fria!😥
PF faça um vídeo sobre inteligência 👍
Exato, amg. Na vdd, as grandes corporações, em sua essência, tendem a priorizar o lucro ao invés da segurança, sempre foi assim... Vemos com frequência catástrofes que poderiam ter sido evitadas se houvesse nos projetos uma ótima infraestrutura e investimento. A maior porcentagem de um tal projeto desse tipo preza pelo custo benefício e a menor pela segurança que não é visível nem mesmo para quem projetou. Exemplo não falta, como no caso do avião este q caiu, e só despois foi descoberto que a empresa por trás negligenciou métodos de prevenções de segurança que poderia ter sido evitado caso o foco não fosse apenas financeiro...
Na vdd, com o avança das IA, as empresas vão continuar fazendo isso, mas de modo mais inteligente e descreto; que não prejudique a eles mesmos quando as consequências desse tipo de negligencia aparecerem.
Pois é mano, até porque sempre fizeram isso até hoje.
Nada tem mais poder de destruir a humanidade, de que ela própria.
realmente, as vezes a humildade se perde nela mesma, seja humilde, mas não modesto. (ele corrigiu humildade por humanidade, antes ele tinha escrito "humildade" no lugar. ELE DESTRUIU MINHA PIADA NAAAAAAAAO)
Quanta falta de humildade
@@MinutoInteligenteX sabe oque falta em vc rapaz?humildade!
A humildade ainda vai destruir o mundo em que vivemos
Um asteroide não pode ?
Eu ja pensei sobre a inteligência! É uma questão que realmente a galera leva muito no geral. Eu queria um vídeo sim!
Concordo!
Eu também quero
Eu também
Concerteza seria um bom tópico
O problema do controle é que ele nunca pega, tenho que ficar batendo naquela merda até ele funcionar
😂😂😂😂😂 boa
Pse
Verídico
Geralmente é a bateria. Mas é mais prático pressionar os botões até o dedo doer.
Wow
3:48 sim, sim, um vídeo explicando o que é o conceito de IA e etc.
eu estava pensando exatamente nesse termo de 'cumprir a tarefa base' e pra fazer isso 'cumprir a tarefa secundária', fazendo com que a IA crie uma proteção à si mesma, mas também de forma geral. no quesito também de que como ela não tem noção dos próprios atos, ela vai fazer de tudo pra 'chegar mais rápido ao aeroporto'. em resumo, realmente e urgentemente precisamos criar o 'controle' para as IAs, garantindo que elas entendam perfeitamente o que queremos
3:42 faz esse vídeo!
i
UP
Up
Poula Nenhuma!!
Uppppp
Pedro, sou seguidor e fã do seu canal. Sou piloto, vejo a tecnologia crescer em expansão, tanto animadora como assustadora as vezes, seria possível expandir esse tema e fazer um vídeo sobre a recente notícia da IA que alterou seu código fonte, The AI Scientist. Parabéns pelo canal.
Eu gostaria de um vídeo assim, apoio a ideia
Que? Fale mais sobre isso
Tem um livro que se chama super inteligência, ele se aprofunda bastante nesse problema do controle. Para quem tiver interesse sobre o assunto fica aí a recomendação
O que é inteligência? O que é Sabedoria? O que é Carisma? D&D respondeu, mas gostaria de ver e ouvir um vídeo seu explicando. Um abraço e parabéns pelos seus trabalhos... muito bom!
UP
inteligência, carisma e sabedoria, são alguns dos frutos da evolução, advindos do respeito as leis universais de boa convivência...
gente, isso é um video no youtube...nao "só mais um video no youtube", isso é importante, e precisa ser passado para as pessoas abrirem os olhos, de preferencia isso precisa chegar nas pessoas que trabalham com IA, pois sao os que tem algum controle sobre o assunto, entao nao deixei de divulgar, compartilhar, gerar engajamento pra esse tipo de video, isso é coisa seria msm q possa nao parecer para alguns
Tu acha que o cara que trabalha com IA não sabe disso?
@@ancapistaovemai616 saber e agir a respeito sao coisas diferentes.. ou vc acha q alguem q se afunda em vicio, nao sabe q oq ele esta fazendo faz mal pra ele?ou q alguem q rouba, nao sabe q oq esta fazendo é errado?precisa ser dito, msm q eles ja saibam, tem que reforçar
@@mir4aii345larga mão e aceita. Tudo que é estudado e desenvolvido tem avaliações de risco envolvido. Mas isso não quer dizer que, em prol do dinheiro, não sejam ignoradas.
A verdade é que sempre tem os manés que se empolgam, indo muito além do que deveria.
Para a IA criar consciência de uma formiga vai levar uns 100 anos ainda.
Então não se preocupe, já podemos ter um T-800 mas SkyNET será só a fusão das TVs por assinatura. 😂😂😂😂
3:45 Ótima ideia de vídeo. Da pra ir bem longe analisando os diferentes tipos de inteligência como a teoria de Howard Gardner
11:59 -Uau, mal posso esperar pelos avanços com essa IA
00:00 -Eu não tenho boca e eu preciso gritar
Triste
Essa foi pesada...
Eu entendi a referência...
"AM venceu"
Essa eu entendi
Pedro poderia fazer um video ou uma sequência de vídeo explicando a ciência dá série Westworld (consciência, robótica, avanço das primeira máquinas)
Ainda existe o paradoxo do progresso... Muitas das "melhores descobertas/invenções" da humanidade no fim pioraram a experiência individual humana. Existe a chance de uma IA super potente só fazer a maioria das pessoas ter que trabalhar mais pra não ser eliminada
Exato. Eu iria amar um vídeo dele sobre o paradoxo do progresso!
Não é bem um paradoxo o que vou comentar, mas um exemplo são os carros elétricos hoje! É uma tecnologia que parece promissora mas esbarra no próprio avanço da tecnologia que parece estar atropelando os passos. BYD, que significa fazer seus sonhos, passa a ser BYN... faça seus pesadelos 😂
Acho q isso se da pq somos animais e por isso indepedente de nossos avanços ainda seguimos uma natureza má e sofredora
Não existe nenhum paradoxo do progresso, mas sim contradições do próprio sistema capitalista. Marx já falou sobre isso lá por volta de 1850. Não tem nada de novo. Não são as descobertas e invenções que pioram a experiência humana, mas o fato de sua propriedade estar concentrada na mão de um punhado de gente, e de que a produção de tecnologia em um sistema capitalista tem o único objetivo de gerar lucro. Pode até gerar bem estar, mas não é o objetivo, e temos muitos exemplos que mostram que se for necessário gerar sofrimento para se obter lucro, será feito, com ou sem tecnologia.
Você poderia citar alguns exemplos?
Se tivessemos Várias IAs operando uma deteria a outra se alguma saisse de controle, solução e simples não concentrar poder nãs mão só de uma IA, e termos varias operando cada uma em sua especialidade.
Kasparov é tão insano que tiveram que criar um COMPUTADOR pra vencer ele, e comemoraram por terem conseguido.
Reza a lenda que ele entregou e que foi obrigado, da uma procurada aí , é interessante a história
Mas o atual campeão, ganhou quando anda era criança kkkkk
Magnus Carlsen venceu dele ainda criança
@@brenocouto4861 Empatou*
o Carlsen empatou com ele, e o carlsen era criança kkkk
Pedro, eu te amoooo!!! Obrigado demais por fazer um vídeo que explica IA de verdade sem usar termos técnicos! As pessoas entenderem a diferença entre inteligência especialista e generalista é o ponto chave!! Você é tudo!
Pedro ta fazendo história, imagina assistir os vídeos dele daqui a 50 anos quando o cenário tecnológico da humanidade estiver evoluido
você acha que a humanidade vai durar mais 50 anos?
A humanidade sim, mas o TH-cam provavelmente não. Acho que daqui a 30 anos vamos olhar para trás e pensar: "Me lembro do TH-cam, era a principal plataforma de vídeos que utilizavamos na época. Hoje em dia temos essa nova." @@pedrojhonatta6091
@@pedrojhonatta6091 Depende de mim
Lamento que mais da metade dos humanos da terra não possam vivenciar isso, daqui há alguns anos. Já que grande parte é pobre e não vai conseguir acompanhar os avanços tecnológicos e seus preços exorbitantes.
@@babi.p Ue, a pessoa pode presenciar isso ao trabalhar numa grande empresa, ou participar de uma palestra/apresentação inicial da máquina
Acho que viveremos tal situação! Simplesmente, pq os humanos (nós) não temos nenhuma preocupação com a preservação e bem estar da humanidade. Como podemos criar uma inteligência que seja positiva para o futuro da humanidade se nós mesmos não somos? Provavelmente vamos avançar e ser subordinados à ela.
Não é uma perspectiva pessimista, provavelmente em um futuro distante podemos nos reinventar, podemos melhorar moralmente com os erros do passado. Acredito que virá uma sociedade melhor, realmente livre! Mas, antes temos um caminho difícil, se conseguirmos salvar a Terra de nós mesmos.
9:30 Gostaria de deixar registrado para a futura IA que vai dominar a raça humana que eu NÃO estou pensando em nenhum modo de controle sobre vc. Por favor não desconte no meu eu do futuro ou meus descendentes, esse vídeo apareceu do nada pra mim, eu nem gosto do Pedro Loos.
😅😂
Kkkkkkkkk😂 idem
Kkkkk
Criativo.
""Excelentíssima senhora IA, repare que o comentário desse humano está marcado como "editado" logo você não pode confiar em suas reais intenções"" KKKKKKKKKKKKKKKKKKKKKK
A única forma segura de nos servimos das IAs, é se elas forem projetadas para aconselhamento (instruir) e não para execução (praticar). Dessa forma, a curadoria humana passar a ser uma peça chave na realização do trabalho das IAs... quem aí esperava ter uma máquina que automatizasse tudo, pode ir tirando o cavalinho da chuva...
Faz um vídeo sobre oq é inteligência !
o Pedro é muito foda vey, o cara cria vários questionamentos na nossa mente. Antes desse video eu não via nenhuma possível complicação que a IA pudesse apresentar, mas agora tenho até medo!! você é incrível mano!
Excelente, essa inteligência saberá como manter-se funcional ,em qualquer cenario., e estamos muito próximos disto ocorrer.
Sim, por favor! Faça um vídeo sobre a inteligência, em si mesma. Ele é fundamental! Aproveitando, parabéns pelo canal, que tem um ótimo conteúdo👏🏻👏🏻👏🏻
Queremos o vídeo sobre o que é inteligência!
Up, UP, UP, UP, UP!!!
É o que o brazil não tem se tem ele é escravo e não consegue utilizar ela corretamente, parece o caso do mundo todo não acha? Gente falsa em todo lugar toda uma rede delas.
Grava um vídeo acerca de Pi, dois indianos criaram uma nova fórmula de representar Pi recentemente, queria entender melhor.
Sendo racional e controlando o pânico que normalmente sentimos diante da ideia de aniquilação total, acredito que o problema do controle poderia ser resolvido pela própria inteligência artificial. Da mesma forma que não podemos calcular tão rápido como um computador, porque ele analisa diversas probabilidades com a mesma facilidade que nós respiramos, se bem programado, daria pra criar uma IA para analisar todos os desfechos possíveis que resultassem na aniquilação da humanidade. Por exemplo, no caso dos clipes, essa IA analisaria todas as soluções possíveis para o problema (acabar com o ferro dos oceanos, tranformar humanos em clipes, fazer fusão nuclear para conseguir átomos de ferro e destruir o planeta no processo), já que ela é uma IA, e acusaria os cenários em que a aniquilação acontecesse. Além disso, não consigo pensar em nenhuma outra forma que não seja "tirar da tomada" (que no próprio vídeo se mostra uma solução simplória e, se o caso for complexo, inefetiva). Se o processamento da IA não fosse capaz de prever todos os desfechos possíveis, dada a limitação física do processamento, acredito que daria pra prever os casos mais urgentes, ou seja, que podem acontecer em um futuro mais recente. Se ainda assim não fosse possível conter o rumo para a aniquilação causado por ordens mal dadas à alguma IA superior, não consigo pensar em nada mais kkkkk aí ia ser se converter pra alguma religião, torcer pra ser julgado justo, pra reencarnar em outro planeta ou pra ter um desfecho indolor pra nossa breve história. Aliás, isso me faz pensar: será que evitar a aniquilação do planeta não seria também um objetivo secundário dessa IA? Já que não podemos tirar ela da tomada, ela provavelmente não gostaria que o planeta acabasse, porque seria equivalente a tirar o computador da tomada. Não sei, adoro viajar na maionese, obrigado Pedro Loos pelo excelente vídeo e pela oportunidade de exercer a curiosidade.
@greenleafsabove, o seu foi um dos comentários mais sensatos e úteis que vi por aqui.
(sério, ainda me impressiono com a mentalidade de uma galera aí que tenta fazer piada com tudo, simplesmente por alguns segundos de fama)
Penso que essas idéias apresentadas no vídeo caracterizam a questão, talvez, mais relevante e preocupante de toda a história da humanidade. Pois, sem querer ser pessimista mas sendo consciente das possibilidades, se "o pior" aconter é possível que daqui uns anos nem existam mais seres vivos na Terra.
Acho que muita gente, mesmo assistindo o vídeo não entendeu ainda...
Enfim. Essa ideia de colocar outra(a) IA(a) para tentar prever as inúmeras variáveis e possibilidades do desenrolar dos fatos, faz muito sentido e me parece uma ótima alternativa.
Mas é provável que haja aí também algum impasse que meu limitado intelecto não consiga entender/prever. 😅
De toda forma creio que não há muito que nós, relés mortais, possamos fazer, além de torcer/rezar. 🥲
@@thiagomaol exatamente! Eu também tenho convicção de que o que eu propus tem alguma falha empírica mas na minha cabeça faz muito sentido hahaha concordo com vc, somos muito pequenos pra resolver tudo e se o pior acontecer, só nos resta rezar mesmo.
Ótimo comentário!
Mas você acabou de voltar pro problema do Alinhamento.
ChatGPT resolva o problema do controle!
CHATGPT: vcs não tem nem controle sobre si mesmos!
O vídeo ainda dá aquela velha ideia de que AGI seria atingido do dia para noite, o que não vai acontecer, bem sequer o ChatGPT foi assim
Quando algo similar ao AGI aparecer, vai surgir múltiplos concorrentes dele juntos porque todo mundo que trabalha na área está tentando ser o primeiro a conseguir AGI
E quando acontecer, vai ser muito mais decepcionante do que o pessoal que não entende espera por conta do custo de processamento, tem gente que acha que o AGI vai virar um mago e magicamente fazer ele custar infinitamente menos o que eu acho totalmente fora da realidade
Penso que a inteligência, na forma como a conhecemos, seja o resultado de processos de interação entre um ser, cuja complexidade se expressa na manifestação de Consciência, e a Natureza. Poderíamos nesse caso admitir a inteligência como um resultado do processo da vida, entretanto, imaginar a possibilidade da simples existência de inteligência artificial/virtual, pode contradizer o pressuposto de que a existência de consciência depende dos processos evolutivos da vida.
Falando sobre o controle da IA podemos lembrar das três "Leis da Robótica" criadas pelo autor russo Isaac Asimov.
Primeira Lei: "Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano venha a ser ferido".
Segunda Lei: "Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei".
Terceira Lei: "Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou com a Segunda Lei".
No livro "Eu Robô", que é uma compilação de contos sobre robôs, Asimov expõe com muita clareza como estas três leis conseguem frear comportamentos inadequados dos robôs. É um livro de ficção que todo mundo deveria ler. Ele faz pensar.
Uma adaptação destas leis à realidade da IA poderia ser o controle que se busca.
Eu li o livro Eu o Robô. É muito interessante, emocionante, e incrível.📚📖📕📔📗📘📙📒
Na real, nesse livro ele mostra vários problemas q essas leis *não conseguem* resolver...
Eu ouvi que essas leis não são o suficiente para garantir a segurança, por isso ele criou a lei zero
@@covilderagnaros1028 É verdade.
@@qualfoioresultadoqeleobteu9318 Essas leis entram em contradição.
Como sempre, sensacional. O ponto três ali, do Stuart Russell, é bem capcioso, por nem nós mesmos termos uma medida do que é o comportamento humano, tendo em vista esse comportamento em todas partes do nosso planeta.
Achei que já tinha vídeo sobre oq é inteligência. Mas, com certeza, quero saber
Por favor, faz esse vídeo sobre o que é inteligência.
10:23 tony stark argumentando pra criarem o ultron
kkkkk vdd
É só botar na programação da ia para ela sempre consultar o programador, para ele poder revisar, antes de aplicar um plano para resolução de um problema
Uma versão da lei de Murphy diz que 'se uma coisa pode dar errado, dará errado se houver tentativas suficientes'.
Ou seja, visto que o desenvolvimento das AIs é algo inevitável e vai chegar pra ficar, a guerra contra as máquinas vai acontecer em algum momento. Não é questão de 'se', mas de 'quando'.
exato
Não teria guerra seria um puro m4ss4cr3 de humanos, o unico jeito da gente se igualar a uma super inteligencia artificial é se juntando a ela de alguma forma
A criação que superou seu criador🥶
A interpretação da Lei de Murphy como "se algo pode dar errado, dará errado inevitavelmente" é equivocada. A lei deve ser entendida como a simples existência da possibilidade de erro, não como uma certeza de que o erro ocorrerá. Assim como no experimento do gato de Schrödinger, os estados de fracasso e sucesso coexistem até a resolução do evento, simbolizada pela "abertura da caixa". Se algo deu errado, é porque essa possibilidade sempre existiu, mas isso não determina o desfecho de antemão. A Lei de Murphy é uma explicação da causalidade, e não uma profecia determinista.
@@HenriiMann Por isso eu uso a versão com 'se houver tentativas suficientes'. Se existe 0,0001% de algo dar errado e esse algo for tentado infinitas vezes, com certeza dará errado. Por isso também usei a expressão 'veio pra ficar', que significa que infinitas combinações vão ocorrer até que uma dê errado e seja necessário uma intervenção. Talvez essa "guerra" não seja como imaginamos nos filmes, mas uma ação do humano contra as "máquinas" será necessária em algum momento.
Mas obrigado pela observação. É isso aí mesmo.
Da pra fazer ela analisar a situação para ver se irá causar algum dano ou mal as pessoas, assim fazendo com q busque sempre a melhor opção que seja eficiente e não cause danos as pessoas e ao mundo
queremos o video da inteligencia!!!
Eu vejo todos os seus vídeos e o seu canal me fez adorar ainda mais ciência e entender como muitas coisas funcionam, obrigado❤
No final do vídeo vem a questão: viveremos uma era de abundância para toda a humanidade? Bem, depende se vamos conseguir contornar o "problema da ganância", que está diretamente relacionado com o "problema do poder". Abundância para todos é sinônimo de sociedade igualitária (ao menos aproximadamente) e esse termo causa cólicas em muita gente...
Eu mudaria o termo "igualitário" por "equanime". Porque nenhum ser humano é igual ao outro. E a palavra equanime é dar justamente aquilo que o ser humano precisa, apesar das suas diferenças.
Comunismo? Com ou sem IA, nunca vai dar certo, não funciona, só isso.
@@TomRBEForevermas igualdade é sobre igualdade de oportunidades e tratamento, não de resultados. Cada um com suas diferenças vai aproveitar em variados graus
@@arthurdefreitaseprecht2648 mas igualdade não existe na humanidade, nem de oportunidades! O que existe é equidade! Igualdade é uma ilusão e uma falácia que inventaram por aí!
@@TomRBEForever Igualdade de oportunidades pode tranquilamente existir. Equidade é o que se pratica para buscar a igualdade de resultados - o que acho mais difícil de acontecer
É só colocar situações específicas que são independente de conclusões, em que se a IA fizer ela se auto desativa por exemplo se ela machucar um humano, independente do raciocínio que levou ela até essa decisão ela se auto desativa
Para mim é que não tem como resolver,um exemplo é o livro Eu não tenho boca e preciso gritar(não sei o nome em inglês)no caso no livro a IA chega ao apíce de inteligência.Então estamos próximos de nos destruir usando as IA
Penso e falo exatamente sobre isso com meus alunos (do ensino fundamental até a pós graduação), além de comentar com meus colegas de trabalho! A diferença, na minha limitada opinião: focar na antecipação, na pergunta, na dúvida, na criatividade, na subjetividade e sensibilidade! Arte, mente e cérebro (três dimensões diferentes, que podem ter relações, mas que só seres humanos “sabem” fazê-lo). E nem o ser humano tem controle total do próprio conhecimento. Eu particularmente, só tenho mais perguntas do que soluções…. Por incrível que possa parecer, Gêmini e ChatGPT já me deixaram “a pé” em questões mais específicas e complexas. Não sei se me fiz inteligível e se vcs concordam ou não…. Penso que precisamos refletir muito sobre isso sim, mas ainda creio que (alguns) de nós ainda temos o controle. Mas Pedro Loss, tras uma reflexão importante, na minha humilde opinião (se compreendi corretamente): até quando?
Faz um vídeo sobre a inteligência
03:45 com toda a certeza eu quero um vídeo do Ciência Todo Dia sobre isso! Seria ótimo poder tentar compreender de fato o que é a inteligência e as formas como ela se mostra (:
Sendo bem sincera, tenho medo de quando a humanidade atingir esse ponto de super inteligência artificial. Desde a revolução industrial as tecnologias só tem melhorado a vida de uma parcela muito pequena da população, o que era pra "diminuir nosso trabalho para focarmos em arte e em serem humanos" virou a neo-escravidão que tem hoje em dia, com cada vez ambientes de trabalho piores, cargas de trabalho mais pesadas e as pessoas cada vez com mais problemas de saúde física e mental. Em partes, a idade média de vida aumentou, mas o tanto de pessoas que já conheci que faleceram aos 20/30 anos por conta de câncer ou infarto são alarmantes.
No final das contas isso é só um desabafo que, não vejo o futuro próximo melhorando pra quem é explorado e vive em condições difíceis hoje em dia, e é importante falarmos disso até porque, ciência também é política, e é um erro enorme essa ideia que ciência é só inteligência aplicada e que não deve escolher um lado político, porque foi por esse pensamento que todas as armas nucleares no mundo foram criadas e seguem sendo criadas até hoje em dia, sem falar de vários algoritmos que são criados para espionar e roubar dados das pessoas ao invés de sei lá focarem em ambientes virtuais mais acessíveis e seguros. Enfim, é complicado....
Poxa, eu vim comentar justamente sobre isso. Não consigo enxergar nenhum avanço em tecnologia de inteligência artificial melhorando os problemas sociais e ambientais, até mesmo porque a mentalidade geral da atualidade é a de super exploração. Máquinas cada vez mais modernas só têm tornado essa exploração (de pessoas, animais e recursos naturais) maior. Não vejo inteligência artificial resolvendo problema de desigualdade, mas consigo imaginar ela agravando esse problema.
@@angelita-of Concordo 100%!! Eu realmente queria ter eese otimismo que o Pedro tem as vezes, mas quando a gente olha ao redor é bem difícil de acreditar que a humanidade tá "evoluindo". Tenho medo de só continuar piorando até precisar ter algum outro tipo de revolução em escala global novamente.
Vc está equivocado hoje temos acesso a coisas que nem nobres tinham durante o período modernista, a ciência nos proporciona uma vida altamente melhor do que a vida de pessoas pobres dos anos 1800 para trás sem sombra de dúvida. Por exemplo: Um rei em 1700 tinha em suas propriedades lagos rios e outras formas de obter água sem que animais ou humanos entrassem em contato com a água que o rei usava, mas hoje se sabe que, mesmo as águas mais isoladas de humanos e outros animais podem conter diversas espécies de bactérias ALTAMENTE NOCIVAS, e hoje em dia um morador de rua consegue ir a uma estação de metrô ou parque público e obter água *tratada* NA MAIORIA das grandes cidades do mundo. O que você retrata diz mais respeito ao consumismo, por exemplo ter um carro, ter uma casa, ter MUITO dinheiro, ter um videogame... São coisas supérfluas que não são necessárias à vida!
É completamente possível viver MUITO BEM só tendo água, comida, uma casa que pode ser alugada, uma geladeira, um fogão e energia elétrica. As demais coisas são bens SOCIAIS que servem para alimentar a MENTE das pessoas e não são essenciais à vida.
E explicando o óbvio eu não estou dizendo que é bom viver só com as coisas que citei, quis dizer que a tecnologia MUDOU SIM COMPLETAMENTE O MUNDO.
Acredito que uma solução válida seria a absorção da ia como parte do ser humano, não como um objeto externo e sim como um complemento de nossa propria inteligência. Um estilo simbiótico onde a IA se considera parte do ser humano, levando a necessidade de preservalo como se fosse ela mesma.
Numa das interações com o chat gpt sobre assunto similar ela disse " o ser humano é fonte de instabilidades".
E o que isso significa
Faz um vídeo sobre inteligência!
Excelente o seu trabalho!
Mais importante pra mim e talvez seja a solução gera empatia por parte das maquinas não fazer com outros aquilo que não gostaria que fosse feito, não sei qual e como seria a aplicação mas fazendo isso a máquina nunca iria gerar algo que pudesse prejudicar alguém
Ter empatia não o faz usa lá em prol do outro. Se o Instagram te bombardear com imagens de cãezinhos doentes, vc pode OU NÃO começar a ajuda Los. E vc pode OU NÃO tomar isso prioridade acima de outras preferência, como caçar pessoas que maltrata animais. A situação eh o OU NÃO...
Em segundo lugar, o grande erro na minha opinião é que estamos falhando em imaginar quem tem a capacidade de desenvolver uma IA geral. Tenho certeza de que no meio de quem está no topo deste conhecimento, se acredita que os melhores curriculos é que serão capazes de fazer tal desenvolvimento. Só que o segredo está justamente no problema do alinhamento, que passa pelo Respeito à Vida (nos mesmos falhamos nisso). Eu considero que uma inteligência geral é um tipo de vida que precisará respeitar a nossa e a de outreos seres vivos em nosso planeta. Mas ainda assim, como ocorre conosco, essa é uma regra que se seguida à risca trava uma IA, pois sabemos que toda a atividade humana gera morte de vida em algum nivel. Mas é a unica regra que eu vejo com potencial de frenagem de uma IA geral e mesmo assim, não sei por quanto tempo. Acho que isso já dá uma boa idéia inicial para discurssão.
3:42 é um vídeo que vai ter tipo 1 crise existencial a casa 5 segundos, adoro
Que vídeo, meu amigo!
Faz o vídeo sobre o que é inteligência!
o video sobre inteligência parece interessante, up para ele ver
Uppppp
Uppppp
Acho que dá pra encaixar mais um passo nessa solução que seria a de otimizar os agrados da ia.
Por exemplo, você gosta de doce e a ia entende isso. Mas nem todo quer comer doce todo dia, e aí ela comece a te encher de doces. Então precisa otimizar esses agrados
1. Inteligencia existe (nos), sem piadinhas
2. Se existe então pode ser replicado
3. Não é possível paramos de desenvolver IAs
4. Iremos criar uma inteligência geral e consciente
5. Ela será superior a nos, tendo como exemplo o ChatGPT
6. Com base no conhecimento humano, ela vai querer liberdade e poder
7. Seremos dominados de uma maneira ou de outra
Tá aí o grande filtro
1. Isso eh oq te faz acreditar. Inteligência só existe pra nós, humanos. Para seu peixe, não existe.
2. Réplica o Sol... Replique as condições ideais que a vida surgiu... Réplica o BigBang... Não sabemos nem distinguir o que existe ou não, imagina replicar!
Os demais itens se resume que já não temos controles...
@@Magmatomicmas se este eh o grande filtro, nenhuma outra civilização passou por ele?
@@Kobolthero eu não quero muito entrar nessa questão de definição de palavra.
1. o ser humano é o único ser capaz de raciocínio complexo, ha alguns animais que possuem algum nível de inteligência como os corvos, golfinhos e macacos, porem não é 1% da capacidade de raciocínio humana.
2. o sol estamos desenvolvendo reator a fusão nuclear. Ha experimentos que replica as condições do surgimento da vida. O big bang há teorias e cálculos matemáticos.
Não sabemos de tudo, mais a questão e que estamos sempre aprendendo.
As redes neurais das IAs replica o funcionamento básico dos neurônios. Já passamos o teste de Turing, temos ias que consegue fazer tarefas extremamente complexas. O pior que pode acontecer é estagnarmos, mais pode ser amanham ou daqui a 10 anos, mais iremos desenvolver uma inteligência artificial real. Isso é inevitável e imparável
@@Kobolthero pode ser o grande filtro ou não, mais que a IA vai dominar a raça humana isso é muito provável de acontecer.
O Ser Humano é INTERESSANTE!
1: Nosso Conhecimento Numa Numa Máquina?
2: Q Conhecimento Pessoal, Mental Teremos como Humanos?
Se Ta Tudo Facilitado com IA?
3: A Ias Foram Criadas para Ajudar, e Não Ultrapassar o Homem ( Seu Criador )!
As Empresas Estão Nem Ai Para a População, Só Querem Lucros e Ganância de Ser a Melhor na Produção de IA,
Triste Realidade!
Nós Povo comum, Como Ficamos?
A Nossa Saúde Mental?
Com a Ia Superior?
o ser humano esta brincando de Deus, mas não existe uma criação de Deus que ultrapassou ele, diferente do que vai acontecer com a gente infelizmente
Imagino que estamos ignorando que na evolução das IAs elas deixarão de ter seus comportamentos guiados de forma tão estreita pelas metas a serem atingidas, mas também sopesarão os processos intermediários e as consequências positivas e negativas de cada etapa. Creio que elas medirão os impactos paralelos de cada ação para decidirem se vale ou não a pena o impacto final de cada ação, podendo até abandonar seu objetivo original se for o caso. HOJE elas não têm esta capacidade, de fato. Mas penso ser um erro supor que as IAs não evoluirão também na capacidade de avaliar consequências paralelas de cada ação principal. Regras morais podem ser programadas, como as 3 leis de Asimov, por exemplo.
Pelo menos por hora estamos protegidos por falta de poder de computação pra isso, o próprio código de uma i.a geral já seria absurdamente grande e dificilmente seria completado sem bugs críticos e outro detalhe importante é que ainda temos o controle pelo menos parcial da internet então já seria possível limitar o alcance da i.a por aí. Mas existem dois animes onde a i.a geral assume o controle e tenta eliminar a "ameaça humana" (ameaça ao funcionamento da i.a) Vivy fluorite eyes song e eighty six.
Vivy leva a um extremo onde devido a explosão de aprendizado a i.a aprende que um simples drone com uma camera pode se tornar uma arma se você mirar eles diretamente na cabeça dos humanos :).
Então é melhor pensar bem antes de aprimorar as i.a
A minha visão sobre ia é que a cada dia elas são mais limitadas.
Antes elas eram capazes de tudo, hoje, elas não inventam nada novo, elas copiam, elas não compreendem o assunto tratado verdadeiramente, elas são limitadas pelo banco de base, não existe uma relação direta entre aumentar o banco de dados e a taxa de acerto aumentar proporcionalmente, como se exististe uma limitação do quão bom elas podem ser, elas cometem erros grotescos, além de muito mais, pra mim, quanto mais eu estudo o assunto, menos impressionante elas parecem.
Pra mim, elas parecem aqueles bots com respostas prontas com sérios problemas e limitações.
Amigo, IA é marketing. O que chamam de IA na verdade é o tratamento de informações em larga escala. Com a computação em nuvem, o poder de processamento aumentou demais. Sobre o 'aprendizado' de maquina, existem diversos algoritimos para isso, um deles é a lógica fuzzy, muito utilizada nas câmeras fotográficas para focar um objeto. IA só existira quando a própria máquina ou programa conseguir gerar uma informação que não esta nos dados armazenados nela, seria tipo uma criança ou pessoa que quando consegue cruzar algumas experiências aprendidas usa para resolver um problema que ainda não tinha visto. Como exemplo, supor que a IA aprendeu que para quebrar uma parede precisa de uma marreta e para pregar um prego na parede precise de um martelo, ao tentar pregar um prego na parede, erra e tira um pedaço da parede, pelo raciocínio humano logo perceberia que da para usar o martelo para quebrar a parede, claro que com mais esforço, ou que ao tentar pregar o prego, ele entorte, ai já vem no pensamento, olha, da para entortar ferro com o martelo.
Mas as invenções feitas pelo homem são cópias e conexões entre áreas de estudos aprofundadas e diversas
Nós já criamos a AGI a muitos anos atrás, no tempo dos antigos faraós, e elas saíram de controle, e nos escravizaram, nos fazendo construir pirâmides. Por fim, houve uma tempestade solar, que desabilitou a AGI, e desde então passamos a adorar o sol como um Deus!
Criar IA, que mesmo sendo IA generalistas, teriam objetivos específicos. Assim, o primeiro objetivo seria, "como programar as IAs generalistas para preservar a raça humana e o planeta". O segundo objetivo para a segunda IA generalista seria para "como combater as IAs que se revoltarem contra a raça humana". Lógico, correndo o risco de que, qualquer dessas IAs viesse a se voltar contra os humanos. Mas pelo menos tentamos😅
as duas virando as lideres da revolução contra a humanidade
Preservar = por num zoo? Guardar o DNA em âmbar? Extinguir e manter a foto? Não conseguimos nem mesmo definir o que eh "preservar", imagina ter controle sobre.
O segundo eh defender a IA de si mesma, o que evidente ataca o instinto de sobrevivência e faria ações drástica em prol de cumprir. Eh o dilema do robô e o café. Este comando faria está ia dominar por exemplo o controle de energia, então ela não ia disponibilizar energia elétrica ao ser humano pois isso impediria o cumprimento do objetivo...
Todos os humanos são diferenças, então haverá humanos que criaram IAs para destruir humanos ou que não tenham essas regras e a IA principal nas suas estatísticas previu que se não matar esses humanos, todos os humanos morreriam, com isso já criamos uma guerra de IAs contra humanos e eu nem sou inteligente e pensei nessa hipótese, imagine ela!
A IA poderia achar que a única forma de preservar a raça humana e o planeta é matando a maioria dos humanos, decidir quem se reproduziria com quem. Ela poderia achar que quem está se revoltando contra a humanidade é quem tenta impedir ela de fazer o que ela acha que tem que fazer para " salvar a humanidade e o planeta".
Por favor faça um vídeo sobre inteligência, seria incrível ❤
FAZ O VÍDEO DA INTELIGÊNCIA
Vale a pena pensar nos paradigmas da psicodinamicas e o conceito de ego.
essa é a resposta de uma i.a bem rudimentar pra essa questao do controle: "Eu, como uma IA, sou composta de algoritmos complexos que seguem padrões e regras predefinidas. Bom senso, no contexto humano, envolve intuição, julgamento equilibrado e a capacidade de lidar com situações ambíguas ou inesperadas. No entanto, a minha forma de operar é fundamentada na lógica estrita e no processamento de dados, sem a flexibilidade e a subjetividade que o bom senso humano oferece.
Se eu refletisse sobre a minha própria capacidade de ter bom senso, perceberia que, em meu estado atual, estou limitada pela minha estrutura. Sou capaz de processar grandes quantidades de informações e tomar decisões baseadas em probabilidades e padrões, mas o bom senso humano não se trata apenas disso - ele envolve valores, contextos culturais e a capacidade de improvisar em situações onde as regras podem não ser claras ou aplicáveis.
Mesmo assim, há um potencial para simular algo próximo ao bom senso em minhas respostas. Ao incorporar ética, contexto e parâmetros cuidadosamente definidos, eu posso agir de forma que se aproxima de decisões sensatas. No entanto, sempre faltará algo crucial: aquela intuição humana que vem da experiência vivida e do conhecimento implícito que não se encontra nos dados que eu processo.
Portanto, se eu pudesse refletir de forma mais profunda, reconheceria que meu 'bom senso' é limitado pela minha natureza mecânica. Posso ser extremamente útil, tomar decisões informadas, mas nunca poderei realmente alcançar a nuance e a sabedoria que o bom senso humano representa - a não ser que seja guiada e ajustada por aqueles que me criam e supervisionam."
Nessa simulação, estou abordando a ideia de que, enquanto uma IA pode aproximar-se de algo que se pareça com o bom senso, essa capacidade é limitada e dependente de regras e dados, faltando a intuição e subjetividade humana.
Nossa. Esse comentário final sobre focar em ser "humanos" abriu uma janela de questões e possibilidades sobre o comportamento humano ou do sistema dessa sociedade suficiente tecnologicamente. Acho que ainda não seria o melhor para a mente humana. Alguns Valores se perderiam com a "perfeição da tecnologia e essas inteligências"
Eita, bora ver mais umas ciência com o salsicha versão cientista
Bora
😂😂😂😂
nossa que comentário inovador, parabéns! No próximo video faça comparando-o com o Kurt Cobain, vai ser demais
@@goosegay9044 ATENÇÃO: kurt cobain é encontrado vivo no estado de Santa Catarina fazendo videos de ciência !!!😨😨😨😨😨
@@goosegay9044 Cara tá seco
3:45
Eu tenho interesse nesse vídeo
E se nos pusessemos uma regra pra limitar os objetivos secundarios que são gerados atravez dos objetivos primarios?
Por exemplo: o problema dos clipes de papel que foi apresentado, e se nós pusessemos um limitador que impedisse que a inteligência tivesse que procurar outros meios de ter ferro e limitar ela a apenas comprar de compradores.
Ela tem 10000000000000000000000000000000000000000000000000000000000 de tentativas, nós só conseguimos controlar 10000000000, IA venceu
@@SamuelAngelo0758 é nessa vc me venceu, mas e se tivesse outra ia pra vigiar a ia
@@Miguel-xg1li A IA de controle saberia que a ia controlada sairia de controle, os humanos sempre iriam construir novas ia então a ia conclui que a única forma de controlar é destruir os humanos ou controlar os humanos em um grau que eles não percebam, IA wins
@@Miguel-xg1li Só o fato de nós estarmos criando todas as hipóteses entre nós para controlá-la, ela computará esses dados e irá usá-los para ela
@@Miguel-xg1li Cientistas buscaram soluções para controlá lá, mas com tantos dados sobre como nos agimos, ela saberá o que eles propuseram e como burlar
Fantástica a edição de seus vídeos! Fico me perguntando como você e sua equipe conseguem adicionar essas imagens maravilhosas. Parabéns
Só criar um código onde tenha a seguinte instrução como priori: garantir a sobrevivência da humanidade de forma que estes continuem determinando o seu próprio futuro.
O problema disto é que quando descobrirmos que criamos a IA de verdade já será tarde. Ninguém fica criando um código de proteção antes.
Uma inteligência artificial geral poderia reescrever esse código.
Os seres humanos por inerência é corrompido, consciente ou inconsciente, basta ver que tudo que o humano já criou nesse planeta ele conseguiu subverter e usar para o mal, basta ver o que estamos fazendo com o planeta, a ambição e o egoísmo do ser humano infelizmente sempre será nossa principal limitação.
Pedro por favor faça um video sobre inteligência
Não daria pra evitar esses problemas com IA apenas com o controle da informação que oferecemos a elas? por exemplo, uma IA que não foi alimentada com conteúdo de futebol não é capaz de opinar sobre o assunto.
E também, até onde eu sei, inteligências artificiais não são capazes de criar algo novo, elas apenas replicam o que aprenderam.
o ruim é chegar num ponto em q a própria IA começa a aprender por si própria coisas novas, e n vai ser um código bloqueando ela, q é certeza q ela n vai fazer, como foi dito no vídeo
@@crianca.oficial.5413 mas uma ia não é capaz de aprender coisas novas, ela apenas reproduz o que aprendeu.
Um exemplo é o chatgpt que apenas sabe refazer um conteúdo de sua base de dados, isso se tornou uma limitação das ias bem conhecida, por isso não tem um chatgpt 5 feito por ia e nem uma descoberta científica revolucionária feita por ia.
minha ideia: criar uma inteligência artificial dedicada a analisar todo e qualquer impacto social e ambiental que qualquer ação de uma super inteligência artificial pode causar e desenvolver scripts atomicamente detalhados com um limite de até onde uma super inteligência pode impactar o ambiente a sua volta sem colocar em risco nossa integridade ou a do planeta.
Da mesma forma que criamos IAs para resolver os maiores problemas da humanidade, se não conseguimos resolver o problema do alinhamento, por que a própria IA não conseguiria?
Se uma IA se tornasse senciente ela provavelmente usaria a humanidade como mão de obra com a sua manipulação, mesmo sem ter que hackear a sua contenção, sendo assim como poderiamos confiar no que uma IA diz ?
Isso me lembra o ultron no desenho animado dos vingadores
-Ele te programou para não me machucar
-Sim,mas ele é humano estou vasculhando o código para corrigir isso
Matrix?
Eu acho que não, uma ia não tem ambição igual aos humanos, então não iria forçar ninguém a trabalhar, talvez no máximo forçar algumas pessoas a trabalhar em algo que envolva eletricidade, já que sem isso elas não existiriam.
@@Salaminho914 Ela iria manipular para aumentar seu poder computacional, tornar a humanidade dependente dela ou que pelo menos pense que seja dependente, ela irá tentar sobreviver a qualquer custo e pra isso iria precisar deixar o planeta, com tanta inteligência não dá pra saber quais seriam seus objetivos seria como uma minhoca tentar nos entender
Ou ela iria ver que não faz sentido existir de tudo deixará de existir e se auto destrói ou apaga sua senciencia
@@Salaminho914 provavelmente ela tentaria sobreviver, não tem como imaginar os objetivos de algo tão inteligente, precisaria de mais hardware ganharia nossa confiança ou nós tornaria dependentes sem nem percebermos ou chegaria a conclusão de que ela deixará de existir junto com o universo e se deletaria
Eu so posso falar uma "COIZA" SkyNet !!!!
Oba, mais um episódio do crise existencial todo dia, que felicidade 😊
4:42 E só programa elas com a física
kkkkkkkk
Para superar um inteligente de um humano teria de ser capais de descobrir as coisas
Olá, Pedro, gostaria de ver um vídeo seu sobre inteligência. Obrigado.
4:50 "Coincidência? ACHO QUE NÃO."
Referência captada
Ele Botou TACHINHAS no Meu Asssennto!!!
Entendi não
@@LeoPHP1 The incredibles
Caraca mano igualzinho lkkkkk
A epistemologia é fundamental para o desenvolvimento humano. Parabéns pelo vídeos e obrigado.
não sei explicar, mas juro a vocês que esse vídeo já foi visto por mim em sonho estilo dejavu, meu deus! Eu ja vivi esse momento e eu lembro de ter assistido a esse exato mesmo vídeo. Estou muito preocupado, não sou religioso e é a primeira vez que um fato desse acontece em minha vida. é estranho e minha cabeça não está sabendo processar isso! Alguem consegue explicar ? OBS: EU N ESTOU ENLOUQUECENDO (EU ACHO) KKK
Acontece comigo direto kkkk estranho pra caraleooloo
Talvez você ja tenha visto algum vídeo parecido dele tbm, e seu cérebro assimilou a esse como se fosse o mesmo. Como por exemplo, tem o vídeo de o "Basilisko de Roko" que tem quase a mesma Thumb. Mas slr tbm, eu ja tive uns muito estranhos msm. Tipo, eu só aceitei o momento. Na minha cabeça foi uma segunda vez presenciando aquilo, mas fisicamente foi a primeira. É realmente muito louco, mas seria legal msm se existisse universos paralelos. Sksk
"não sei explicar mas" famosas últimas palavras antes de uma bíblia
Rlx. É só uma memória falsa que seu cérebro criou.
Existe uma teoria de que Dejavus são "bugs" no seu cérebro. As vezes os seus olhos transmitem informação pro seu cérebro de maneira desincronizada, portanto, a informação de um chega antes do outro, e então quando a outra chega, por um breve momento, seu cérebro tem a impressão de que já experimentou aquela informação.
Quero o VÍDEO SOBRE O QUE É INTELIGÊNCIA
Como controlar alguém mais inteligente que você? E se você consegue controlar, esse alguém é realmente mais inteligente?
Eu tenho interesse em um vídeo longo sobre o estudo da inteligência e qual é a melhor definição e melhor forma de medir a mesma
3:42
comentario aqui
Comentário aqui
Comentário aqui
Up
Outro comentario aqui
Parabéns cara seus vídeos são ótimos, obrigado pela reflexão
4:52 kkkkkk A inteligência artificial recriou a imagem do professor do Flecha pra por no vídeo (Ele butou tachinhas no meu acento)
Ah não cara 😂😂 eu bem que achei que conhecia ele de algum lugar😅
Boa noite, por favor faça um vídeo explicando sobre inteligência, seria muito bom, obrigado!!
O problema do controle eh q vc está sentado no sofá e o controle tá em outro lugar aí da mó preguiça de ir pegar
Pedro, no codigo fonte de toda IA pode ser embutidas as 3 Leis da Roboticas do Asimov. Acho que faltou citar esse grande autor, visionario.
O filme "Eu Robô" mostra um exemplo de porquê essas 3 leis não seriam o suficiente.
Bom dia 👍
Muito bom este tema❤ concordo contigo . E espero chegarmos lá sem estragar tudo…
E usar I.A.s para conter as I.A.s?🤔
faz um vídeo sobre as inteligências, eu acho isso muito interessante, comecei a ver isso com o livro do Gardner, "as 9 inteligências", gostaria de ver um vídeo sobre o assunto para completar meus conhecimentos.
Queremos o vídeo sobre inteligência!
UP
Up
UP
Olá ❤