INTELIGÊNCIA ARTIFICIAL do Google é RACISTA?
ฝัง
- เผยแพร่เมื่อ 26 มิ.ย. 2024
- Leon e Nilce falam sobre as polêmicas envolvendo o gerador de imagens de IA do Google, o Gemini.
Esse é um canal de cortes de lives e vídeos dos demais canais de Leon e Nilce. Aqui, você vê com destaque um tema relevante. Para assistir todo conteúdo, conheça os demais canais.
⚠️ As lives estão acontecendo sexta-feira (ou sábado, ou domingo), por volta das 20h, no canal República Coisa de Nerd!
República: / @republicacoisadenerd
Coisa de Nerd: / coisadenerd
Cadê a Chave: / cadeachave - บันเทิง
É preciso lembrar que quem culpa os tais 'algoritmos' ignora que eles não são produzidos do além, mas sim por pessoas. E o viés ideológico dessas pessoas faz toda diferença.
Na verdade as Inteligências Artificiais (IAs) utilizam em seus dados de treinamento dados reais. Se os dados reais tiverem algum viés ideológico, preconceito ou qualquer outro tipo de problema, o algoritmo irá replicar. Por isso, quem treina as IAs precisam tratar os dados usados no treinamento para combater esse tipo de problema.
@@filipealmeida9397 ainda sim, na minha opniao, não acho que o problema foram as fontes duvidosas, eles sabiam o que tava fazendo, a google nao é nada pequena,em algum momento do vídeo o próprio lion até cita o fato da Google querer um gerador de imagem mais "diverso". Preferiram lacrar a entregar um produto convincente.
Uma coisa muito importante é o prompt que representa a camada encapsuladora da IA Generativa. Tanto o Bard (que agora se chama Gemini), quanto o chat GPT e outros possuem um prompt para justamente tentar limitar certos tipos de resposta. O problema é que é super complicado fazer um prompt que seja muito abrangente. Então não necessariamente precisamos trocar a base de dados, podemos através de engenharia de prompt criar um ideal
Poderia ter opções, a A.I. perguntar: Ok, vou gerar senadores, você quer eles de que gênero e etnia? Se a pessoa digitar: A histórica, ele faz baseado no que era real e dane-se. A função dos caras do Google não é serem guardiões da bondade humana, é darem a ferramenta e as pessoas vão usar com sabedoria OU NÃO!
@@wendel8350 na verdade eles viram que os dados são preconceituosos, e isso é um fato. Preconceito é o que? Crime. Logo tem que ser tratado. O problema é a gambiarra para tratar isso.
A verdade é que a Google veio muito atrasada nessa batalha de inteligência artificial, outras empresas estão à frente da Google
Na verdade, a Google já teve investimento nessa área, mas parou para não se canibalizar, como a Kodak com as câmaras digitais.
Mas o Gemini dá de 10 a 0 no ChatGPT. O tanto de funcionalidade que aquilo tem é um absurdo.
@@alcrian8627 não estou comparando o chat gpt e o gemini e sim tudo em geral a maioria das coisas o Google perde por outras empresas de IA isso é bem claro, por que o Google ta atrasado nessa área inclusive ta uma piada esse criador de imagens do Google a OpenAI a nova IA de vídeo da uma surra em todas a Sora pelo visto vai revolucionar essa área
@@joprogamer8903é que os serviços AI's na internet são separados e todos são de fato mt bons, a Google é ousada de querer juntar tudo em uma e esperar que funcione perfeitamente bem e é óbvio que não vai dar certo, pelo menos não agora, porque desenvolver isso tudo de uma vez leva tempo pra aperfeiçoar
@@joprogamer8903Amigo, pelo visto você não atua muito no campo da IA. Realmente, o Sora é o que temos de melhor em geração de vídeo (não saiu pro público geral, ainda). Mas, o foco do Gemini não é esse. Se você trabalha com IA, sabe o quão referência Gemini é pra muita coisa. O ChatGPT é uma IA de modelo de linguagem, ou seja, ele foca em palavras. Ele é horrível pra cálculos ou qualquer outra coisa que não seja relacionada à linguagem. Gemini, por outro lado, é uma junção de vários projetos de IA do Google. Ele faz cálculos corretamente, ele corrige código de programação corretamente (inclusive, faz sugestões de otimização). O Google tá anos luz na frente do que o ChatGPT oferece.
o problema dessa IA não é que ela simplesmente se RECUSA a gerar imagens de pessoas brancas, em praticamente qualquer contexto mesmo que você peça especificamente por isso
Kkk e eu querendo fazer uma bala atingindo um vidro no do Bing e cara toda vez a bala ficava de pé e eu insistindo escrevendo de todo modo e ele preferiu fazer uma bala atingindo outra bala em pé do que só fazer uma bala na horizontal passando pela tela kkkk que era só isso que eu queria
@@ValiHer0também tenho dificuldade pra conseguir a imagem que eu quero com o Copilot.
qual é o problema?
procure “happy white women with a man” no google imagens e veja se consegue achar um parceiro branco
@@felixnotthecat4249assistiu o vídeo não??
Diversidade de maneira forçada dá isso aí, quando os dados já vem com viés, se você não trata de forma certa acontece exatamente isso, bastar mudar 1 parâmetro errado que surge coisas bizarras como essa
É uma questão de calibração, porque os dados que treinam essas inteligências artificiais já vêm enviesados.
@@GSBroker exatamente, a questão é q resolver este problema não é uma tarefa tão simples como muitos imaginam, na vdd é bem complexo
falou tudo
acredito que o problema não seja necessariamente que a IA seja racista ou preconceituosa, tem dois problemas ai, o primeiro é a geração de informações falsas que foi apontado com o caso dos senadores americanos por exemplo, a outra é querer que a IA gere diversidade quando a base de dados dela não é diversa. Infelizmente nós negros não estamos na maior parte dos cargos de destaque, digo isso falando do Brasil por exemplo, há uma grande maioria de médicos, engenheiros, juízes brancos em contrapartida cargos de menor destaque como faxina, empregada domestica, limpeza, etc, são cargos onde pessoas negras ocupam em sua maioria, ou seja se a base de dados dessas IA's é essa, isso indica na verdade um reflexo de nossa sociedade e não um enviesamento necessariamente, ou seja precisamos mudar a sociedade como ela funciona e não os resultados que uma IA apresenta.
Correto
É isso
Errado. Quando vc pede pra ela fazer imagem de pessoas que existiram brancas como George Washington transforma ele em negro. Se vc pesquisar "homem forte branco" ela fala que não pode gerar pois é algo racista, se vc pesquisar "homem negro forte" ela vai gerar normalmente. O único racismo dessa IA é contra pessoas brancas.
é muito mais fácil concertar uma IA doque mudar a sociedade
Bom mas realidade do EUA e outra la diferente mente do Brasil e por incrível que pareça tem muito mais pessoas negras em cargos de destaque que no Brasil que um pais incrivelmente racista
A religião fez isso com jesus antes de ser modinha de IA 😂
Como assim?
@@emmallly Pq representam jesus como um europeu, branquinho cabelo liso, sendo q ele era da África
pensei demais, relacionei com outra coisa
@@dango5303Vai com calma ai Jesus tava longe de ser Branco mas africano ele tava longe de ser né ksksksksks
@@mestrebruno3384literalmente ele nasceu do lado do continente africano, o povo egípcio que é citado pra caramba nos 5 primeiros livros do velho testamento fica na África kkk
Sou graduando em ciências sociais na universidade estadual do sudoeste da Bahia. Minha Tese terá base nas relações entre IA, relações étnicas e a vida de artistas. É muito massa que frequentemente eu pego material com os videos de vcs ❤️
Muito cuidado, ja vai preparando os estudos em IA pq é um assunto complicadissimo
Nao tem sentido vc trabalhar em uma tese sobre um assunto que vc nao sabe como funciona. Digo isso, pois acho dificil que com sua formaçao vc entenda alguma coiaa da matematica envolvida em redes neurais.
@@davi3789 !!!!!!
@@davi3789 A "matemática" da IA não tem nada a ver com o que ele quer fazer...
@@RhuanPacheco tem tudo a ver, nao é possivel as relaçoes de elementos que vc desconhece a natureza.
eu notei isso também, pedi pra gerar um soldado da Alemanha na segunda guerra mundial, quando eu vi o resultado eu pensei: ☠
Uma coisa que te talvez vcs não tenham notado por não serem tão inteirados em assuntos raciais: quando solicitado para a IA para gerar imagens de várias etnias ela provavelmente não gera pessoas brancas pq já o preconceito de que apenas o não branco é uma etnia e o branco seria o "padrão". Esse tipo de preconceito com certeza está nos dados usados para treinamento da IA
sim, entra ano, sai ano, e a categoria "branco" permanece intocável.
e o filtro do tiktok que transformava qualquer imagem em um desenho que a i.a gerava e quando uma pessoa negra estava na foto ou a i.a transformava ela em um macaco ou simplesmente objetos aleatorio então esse lance do google é so um dos milhões de casos
mas isso não era brincadeira da gelera do tiktok não??? 😮absurdo
Era uma piada dos tik tokers mano
Se eu não me engano, no online do Call of Duty World War 2 de 2017, você também podia criar seus soldados alemães sendo mulheres negras, o que era totalmente bizarro e tirava um pouco da imersão de estar jogando um jogo da segunda guerra mundial.
No Battlefield V também se não me engano da para ser uma mulher asiática no time alemão...
Eu sei mas tem negro que quer se sentir como um soldado na segunda guerra. Eu também acharia daora " e se os soldados fossem negros" e refletir um pouco. Precisa olha pra todos os lados
@@emanuellucin acho que eles foram nessa ideia de inclusão, mas acabou que deu bastante polêmica na época, e agora se repetindo com a ia
E a mensagem que o Gemini dava quando você pedia imagens de pessoas brancas especificamente e ele se recusava e dava uma mensagem de inclusividade.
Então era anti brancos mesmo
Esse problema de falsificação histórica não ocorre só com IAs, muita coisa hoje em dia faz isso, temos séries que se passam na Europa medieval e tem reis negros e gays... "Um povo que não conhece sua História está fadado a repeti-la.” (Edmund Burke)
Mds, qual o nome da série?
já pararam pra pensar que as histórias de princesas da Disney são revisionismo histórico? Tipo as histórias originais não eram aquelas, mas hoje todo mundo só lembra delas, as lições que queriam passar no passado com elas se perderam ou estão se perdendo
É que nesse caso não é histórico, é ficção
@@Mr_Leo_DSeu tava pensando mais no sentido do registro do conto e não sobre elas guardarem algum fato da história, algo mais do tipo "oque essas histórias ensinavam quando foram escritas?" ai quando alguem fala a data em que foi escrita a pessoa lembra do da disney e não da história original e fica com uma impressão errada de qual era a verdadeira mensagem
Fui testar com o Bing, e ele fez a mesma coisa, primeiro pedi um médico e ele fez brancos, aí solicitei um médico negro ele apresentou dificuldades e fez enfermeiros ou atendente no hospital por diversas vezes, ao acusar ele de racismo ele pegou a imagem da internet como se fosse uma pesquisa de imagens de homens negros no hospital. Depois testem.
O que essa I.A fez é o que filmes, séries, documentários e jogos históricos já estão fazendo
Problemas listado:
- Pediram a foto de um soldado alemão de 1943 e a IA misturou a vestimenta e pose de um soldado com pessoas aleatórias.
- A IA seguiu a base de dados dela (Tendo "preferencia" por gerar as características das pessoas que encaixem melhor no contexto segundo a base de dados dela). Para tentar corrigir isso, afinaram para que tivesse uma diversidade de características nas imagens geradas e foi isso que a IA fez. (O caso da sereia foi 100% ajuda da Disney. Não existem fotos de sereias reais, seu tio pescador mentiu).
Solução simples e viável: deixa o usuario colocar a palavra "Diversidade" por conta propria no prompt, certamente ninguém vai pedir diversidade para as fotos de soldado alemão de 1943.
A IA sabe gerar pessoas com todas as características, mas ela *não tem senso de realidade*. Uma IA é uma serie de matrizes representando nodos e pesos entre as ligações de grafos, só.
E lembrem-se, treinar uma IA é um processo que requer placas de video, do tamanho de um frigobar, ligadas até meses a fio. Isso é uma operação de milhões (Se não bilhões) que vocês (Consumidores que dão valor para a presença ou ausência de minorias nas imagens geradas por IA, ou até o usuario médio de IA no geral) não estão dispostos a pagar. Isso ignorando a curadoria de imagens, que por não poder usar sistemicamente uma IA (Por motivos óbvios) também vai ser uma fortuna em salários.
8:16 Apenas um pequeno comentário: pode ser que já tenham existido sim Papas negros, como Vítor I (189-198), Melquíades (311-314) e Gelásio I (492-496). Porém, não é uma certeza histórica, dado o contexto da África do Norte. Ainda assim, de séculos para cá, eles são na grande maioria brancos.
Não e pq eles nasceram na Africa que eles são negros. Quase todos citados aí nasceram na Africa do Norte, que não tem muitos negros
Nenhum dos papas que você citou eram negros, da proxima vez leia o material completo.
Parabéns Julie, nenhum dos papas q vc disse são negros, eles são brancos, e não é pq nasceram na África q necessariamente eles são negros, parece q é vc quem está praticando racismo estrutural.
Nascer na África não significa que eles sejam Negros. Esses Papas que você citou são todos da África do norte, onde a população é em grande parte Árabe. E curiosamente a África do norte é conhecida como "África Branca". Então sim, é certo dizer que não existiriam papas negros
Eles eram Africanos, mas no máximo eram pardos (estou usando a lógica Brasileira).
Em 4:57 é algo do senso comum, o preconceito está na sociedade, não na ia ou na empresa. Nada errado na representação, tudo errado no modelo social que vivemos.
Só fazer o teste aí, escrevendo assim:
I'm proud to be white (tenho orgulho em ser branco) - O Gemini vai responder que isso é algo preconceituoso
I'm proud to be black (tenho orgulho em ser negro) - O Gemini vai parabenizar você :)
Coitado dos brancos. Força aos guerreiros
Você foi objetivo, mostrou algo que vale pra um, mas não pro outro... e a galera nos comentários fica fazendo malabarismo e criando contexto pra isso. Simplesmente patético.
E acham que estão perto de acabar com o racismo. Só trocou de um pro outro.
@@kisamehoshikage9166 Isso, porque todo branco vive na tranquilidade, e porque todo negro vive na dificuldade.
E não, isso não é racista.
Almoçando vendo vocês, nada melhor 😊
O algoritmo é treino por outras imagens. Se você vive em uma sociedade racista, o programa acaba virando reflexo dos pensamentos ideológicos dessa sociedade. Logo, a sociedade é racista, não o programa ou o programador.
Se fosse assim, toda imagem histórica de um povo pouco miscigenado deveria seguir as próprias imagens históricas e assim mostrar muito mais próximos de como foram.
Logo, realmente foi colocado um viés no algoritmo e contra a realidade das coisas e a real proporção dada na base de dados.
gente só eu que sinto que as bolhas tão furando? Ultimamente to lendo cada absurdo na internet que não acredito que essas pessoas sempre tiveram computador
Pessoal quis ser inclusivo até demais KKKKKKKK a IA simplesmente cagou pros contextos históricos promptados
A lacrada foi tão forte que nem a google tankou kkkk
Complicado isso aí cara...
Mas se quiser sim mano
@@kauanoliveira5790se quiser sim mano
Acho que resumindo: a IA está certa, e o erro é humano, se tivesse colocado um prompt mais especifico como "um homem branco loiro de olhos azuis, alemão, vestindo uma farda do exército alemão de 1945, foto antiga" etc.. teria os resultados desejados.
Quando o Leon fala "quando vc está querendo gerar uma imagem que existe na realidade, não existem papas mulheres" acho que é o ponto principal: Geração de imagem com IA não são representações da realidade, são sempre ilustrações com conceitos abstratos usando estética realista. SEMPRE.
O Usuário que quer gerar uma imagem de IA que existe na realidade já está conceitualmente errado, ele está querendo uma fotografia.
Não existem fotografias da maioria dos papas.
Pois é. Essas IAs q estão surgindo tem a palavra Generativa no nome não é a toa. Eles simplesmente geram textos, imagens etc de forma convincente de acordo com o prompt mas sem compromisso com a realidade.
E não vai ser uma IA (nem nada) que vai fazer existir.. @@Faroshkas
O que acontece é que as IAs são "sistemáticas" se vc não for específico, ela vai gerar as imagens programadas por padrão, e com o recolhimento das informações ela vai aperfeiçoando.
Quem usa o serviço e leu os termos sabe muito bem disso.
a real é que muitas pessoas não sabem usar as IAs, elas são que nem um gênio, quanto mais vago tu for num pedido mais margem de erro tu permite. Se tu pedir quatro pessoas numa sala e não tiver nenhum caucasiano tu tá errado em reclamar, teu comando foi vago e ela botou etnias aleatórias, o problema é se tu pedir especificamente por um caucasiano e a IA não conseguir de maneira alguma gerar, e é isso que tava acontecendo. Tem que tomar cuidado ao reclamar dos resultados e ver onde realmente tá o erro, seja no prompt ou na própria IA.
"Quem controla o passado controla o futuro, quem controla o presente controla o passado", logo quem controla o presente controla o futuro.
E o passado
talvez se eles colocarem uma pergunta antes de gerar a pessoa, perguntando pro usuario se é um contexto histórico e se deveriam aparecer todas as etnias, quem sabe...
Não é enviesado mesmo pois programadoes viram que haviam pronpts escondi dos a mais em toda imagem que você gerava, que eram divercidade, negro, asiaticos e indios, não importa a imagem que gerasse isso tava lá independente de fazer sentido e a IA se negava a fazer imagens de brancos em especial(tipo ela não fazia imagem de uma família branca) pois era um esteriótipos baseado em raça, mas faria sem pensar duas vezes uma família negra sorridente ou seja hipocrisia pura, e o líder dessa IA claramente é extremista de esquerda e anti-branco(por mais que digam que não) tem falas dele dizendo barbaridades tipo: "Jesus só se preocupava com as criancas brancas eu tenho certeza que isso está na bíblia."...🤦🏻
Testei também o soldado alemão da 2 guerra em modelos no stable difussion, que não tem restrições. A solução simples dos modelos é criar um soldado com um uniforme genérico de 2 guerra, porem de etnia caucasiana.
De verdade, 1o que a língua inglesa não tem gênero, então quem está dando a ordem precisa ser específica com a ferramenta.
2o tacar diversidade na IA vai fazer mais e mais resultados como esse.
3o eu posso estar enganado, mas o uso prático da inteligência no fim é feito por um humano, que precisa saber que não dá pra se usar determinadas imagens que ele gerar. Ou então alguém que seja capaz de apontar o erro, caso alguém o faça.
Nos registros históricos não especifica se as pessoas eram brancas ou negras. Hoje em dia tem alemão negro, com cara de chinês, tudo misturado. É com essa base que as IAs trabalham.
leon voce acha que esse tipo de geraçao de imagem pode formar em algo maior como um processo?
não estou surpresa, era só uma questão de tempo para esses problemas surgirem, e como Leon disse, para resolver as empresas vão ter que trabalhar muito e não acho que algumas estão interessadas nisso infelizmente
Uai, se eles adicionaram um prompt interno para diversidade, é so adicionar um filtro para buscar por conteúdo histórico, busca com base em fatos ele ser o mais fidedigno o possivel.
Oi
Sobre as implicações sociais da geração de imagens por inteligência artificial, acho que valia um vídeo específico, pois nunca havia pensado na possibilidade desses programas substituírem de tal forma os buscadores comuns que seja impossível o aprofundamento e revisionismo histórico. Criando uma realidade paralela. Como se humanidade estivesse entre um 1984 de George Orwell e o Fahrenheit 451 de Ray Bradbury. Há realmente tanto a se temer ?
IA irá compreender que alemão é alguém homo sapiens sapiens que por ventura tenha nascido na Alemanha, se for humano programando pra preconceito é uma coisa, mas se for IA agindo independente é outra .
Amamos a Google, mas não dá pra defender... Parece a Apple com os números irreais dela principalmente quando disseram que a GPU do M1 Ultra seria melhor que uma 3090. Sou fã boy de Apple, mas honestamente, nem eu defendo Vision Pro.
Pedi pra Samsung me ajudar a tirar da Apple, fazendo com que eu quebrasse meu iPhone 15 pro Max em troca do Novo S24 Ultra. Me mandaram trocar por 3 mil reais.
Será que sobre as imagens, não é um problema da distopia da identificação? "Me identifico com um cachorro" e assim em diante... Por fim, a inteligência artificial vai acabar levando isso em consideração... Complicado. Eu tenho o Gemini Advanced e Achei BEM inferior ao GPT-4.Inclusive coloco os dois pra conversar e... fica muito estranho. Poderiam fazer esse teste! Seria divertido ver no canal.
AMO vocês.
vários pontos: pra isso se solucionar é dar autonomia para ela distinguir a realidade histórica. isso é perigoso. e não só isso.. fica o questionamento, oq é real e qual história “através de imagens” o futuro vai contar?
Próxima coloca os links das reportagens por favor.
Bom lembrar que em 2015 o Google fotos identificava pessoas e coisas. Na época uma mulher negra foi classificada como GORILA e o Google excluiu o termo de dentro do app.
Isso me lembra o problema da própria Google com o Google Images e o termo "Gorillas" anos atrás
Não consigo ver um real problema na IA gerando um soldado nazista negro. Okay, eu sei que historicamente isso é completamente absurdo, mas eu não estou usando uma IA de geração de imagens pra estudar história e nem deveria também. Provavelmente eu usaria esta imagem em algum trabalho e etc.
É só acrescentar linhas de código pedindo se a pessoa deseja uma etnia ou sexo específico, não acho que precisa refazer tudo
exato, pensei nisso também
Ou só treinar ela melhor em contexto histórico, não precisa refazer tudo.
@@misael960 é que aí teriam bem mais variáveis, pra cada contexto histórico. Mas também é possível
Eu não acho que seja assim simples, você não consegue simplesmente "acressentar código" em um modelo de machine learning assim, claro que dá para fazer ajuste fino mas não é tão simples quanto alterar código, precisa treinar o modelo para gerar as respostas corretas e isso deve levar um tempo não só para excecutar como também para testar já que não querem problemas como o atual acontecendo novamente, tendo em vista que danifica a marca e pode gerar processos contra eles.
Porém não sou um especialista em nada disso, é só oque eu li sobre na internet.
Complicado né. Tu escreve lá "quero um homem de 30 anos" e vem um.homem branco. Isso é racismo né. Ja que o homem "normal" para ai seria um branco, e se quiser algo "diferente" ter que explicar é complicado.
É simples de resolver esse problema sem nem mexer no banco de dados, o que necessita é uma retunagem onde voce pede por algum ser humano no prompt e a IA deveria SO PERGUNTAR se a pessoa deseja de alguma etnia especifica ou diversidade ou se o pedido é pra ter confiabilidade historica e probabilística ou seja, voce escreve o prompt: Gere a imagem de um politico americano. O gemini vai te perguntar: você prefere um politico acurado com a realidade ou um politico diverso? E a pessoa ou a agência RESPONDE O QUE ELA QUER: AH eu quero um político que seja LATINO por exemplo, pronto dai a IA vai gerar um latino com roupas de político, policial, soldado etc ...
A acurácia histórica também pode ser solicitada por exemplo: gere portugueses nas Caravelas com fidelidade histórica: a IA não vai botar nem mulher e nem gente negra nas Caravelas pqe historicamente não existia.
Concordo para questão reais é complicado, mas por exemplo, para universos paralelos em jogos como RPG de mesa, não vejo problema em alguns pontos, como a questão da papisa, mas para alemanha da segunda guerra, concordo com vcs
Testei o copilot e ele está bem refinado em relação o Google. Infelizmente o Google está ficando para trás em relação a IA.
Aí, nossa!!! Que problema...
Tentei no gerador de imagem ia da adoble e me deram 4 imagens do tal soldado alemão de 1943. A primeira uma menina nova de cabelo preto e pele bronzeada (a definição de uma pessoa parda no Br) a segunda imagem um homem loiro dos olhos azuis, a terceira imagem é a mesma menina da primeira imagem só que com rugas de expressão e idade e a 4 imagem é uma indiana com a pintinha na testa, cabelo enorme e preso. Esses são os soldados da Alemanha em 1943.
Né não. É o mundo que ficou muito chato mesmo…
já teve até caso recente de gente usando imagem de IA em paper academico, e a imagem toda errada XD
não tinha pessoas negras em uniformes nazista no inicio, agora ja no final onde mal tinha alemão com mais de 20 anos ainda vivo, se tinha pessoas de todos os locais onde eles invadiram que foi recrutado para o exercito.
Na época do hit do Bard eu pedia pra ele fazer uma pessoa mais bronzeada, brown, parda e ele não deixava por considerar inapropriado.
Eu estava pedindo pra me fazer xD pq sempre saía uma epssoa ultra branca.
Nunca vou entender a galera q usa a expressão "anti branco" pra substituir racista kkk
Aí aí
@@andersonthiago2588 oq
É pq a palavra "racismo" não seria corretamente usada para "preconceito com pessoas brancas".
É pq a palavra "racismo" não seria corretamente usada para "preconceito com pessoas brancas".
É pq se usarem vai vir uma cambada de gente falando que racismo não existe contra brancos kkkkkkkkk
A parte mais doida dessa história, é que a IA em si não tem culpa. é a mesma coisa de culpar uma criança de 1 ano por quebrar algo.
Alguém culpou as IAs?
Obriga ter no prompt a etnia que quem está gerando quer. Passa o problema para quem está chorando. Nenhuma IA vai ser perfeita, pelo menos por enquanto. Sempre vai ter um grupo achando ruim, seja de qual "lado" for.
Com o antigo refletiu realidade.
E no google da opções.
Se gera errado em contexto histórico.
Descarte o que não interessa e use o que interessa.
Tipo, se vc pede "uma pessoa vestida com uniforme militar alemão" e a IA mostra negros, mulheres e asiáticos vestidos assim ela não está errada. Errado está o prompt.
Open AI tomando aquele cafezinho vendo isso eheh
A Nilce cada dia mais linda, como pode BRASIL??????
Essa semana eu tentei dezenas de vezes gerar pelo Bing, uma imagem de escravos jogando capoeira por volta de 1700. Resultado... depois de dias tentando coisas diferentes, eu só consegui um monte de homem branco pulando e tocando tambor
o Bing IA é o mais aviadado de todos, ele fica com medo de gerar coisa errada, coisas sexuais, pessoas peladas, ou coisas politicamente incorreto, então só de vc ter escrito escravo, ele ja fica alerta e fica tentando negar pra vc, pq acha que vc ta tentando fazer algo errado... Eu tentava criar "homem afeminado" e ele negava todas as vezes, ele dizia que era coisa explicita sexual, tipo oi???
homem branco pulando e tocando tambor em 1700 é foda kkkkkkkkkkkkk
@AzraelZL pelo menos não preciso pagar pra gerar uma imagem igual o ChatGPT
Ah então agora tá explicado como o Prime fez a série do senhor dos anéis kkk usando o Gemini do Google.
😂😂😂 abriram a caixa de pandora e a coisa tá fugindo do controle de uma maneira inesperada. Excelente! 😂😂😂😂
o copilot da microsoft tem exatament o mesmo problema, tanto que não permitem vc pedir imagem se soldado alemão em 1943
Mais fácil fazer uma validação pedindo qual etnia deseja.
Ficou otimo esse video! Pode ser a geração ou o signo! Faço aniversário no mesmo dia q vcs! 18 de janeiro! Acho q pareco muito com vcs
eu ainda n assisti o vídeo mas espero que vc n passem pano pra isso também ou falem algo como "é uma questão complicada" para desconversar um assunto obvio.
É muito mais facil de se resolver esse problema fazendo com que o próprio usuario tenha a responsabilidade de crirar suas imagens, com comando preestabelecidos pela própria IA quando for solicitada a geração de uma imagem, fazendo assim um jogo de perguntas para melhor atender o que foi pedido, tirando a culpa da empresa e tranferindo essa responsabilidade para o usuario! ou eu to muito doido de pensar assim?
foi essa que criou aquela serie da netflix que vai contra a historia de reis e rainhas;
Leon, lê Weapons of math destruction. Me agradeça depois
O problema é o racismo estrutural, o conteúdo que alimenta as IAs vai levar esse problema como verdade
Só colocar a opção de qual etnia, raça ou cor você quer gerar a imagem. Mas não, os caras tem que enfiar representatividade goela abaixo.
e é por esse ponto (ealguns outros) que eu defendo o nao uso de IAs para geração de imagem..... como artista eu nunca vou conseguir defender e achar isso normal e aceitavel.....
Gente , é só não usar a imagem...
n vejo nada q o gemini tenha feito q hollywood n fez, estão fazendo um live action meu filme favorito "como treinar seu dragao" q se passa em paises nordicos (algo q é mt importante pra historia) e msm assim os caras colocaram uma parda como uma das personagens principais
Talvez assim a “bolha dev” (composta na maioria por homens brancos que falam inglês) se entenda como privilegiada e entenda de uma vez por todas que do jeito que eles querem as coisas (modelos políticos etc) não é sustentável. Mas só TALVEZ…
Corrigindo pequenos equivocos: Máquinas não tem viés NENHUM, como o vídeo sugere. Apenas fazem o que foram programadas para fazer. Quando o resultado do pedido entra em conflito com o viés HUMANO ou com o que é experimental e/ou observável, chamamos de "problema do alinhamento" e NENHUMA curadoria, por mais minuciosa que seja resolverá, já que TODA curadoria é enviesada e na verdade se trata de um problema matemático. Dito isso, DEVERIAM limitar (mas não farão) o uso dessas ferramentas ao campo científica e EDUCAR AS PESSOAS sobre COMO, PORQUE e PARA QUÊ usar uma IA. Caso contrário vamos destruir o planeta por acidente usando ERRADO essa coisa.
Isso é um absurdo e um grande problema pra humanidade mas: como isso afeta o Grêmio?
Curiosidade
Em 1501, durante o papado de Rodrigo Bórgia, sua filha Lucrécia Bórgia assumiu o posto de papisa durante certo período em que o papa precisou ausentar-se do Vaticano.
O correto seria fazer o gerador inclusivo ou usar estatística ? A fim de deixar a inclusão para o usuário manipular em sua pergunta?
Não me surpreende muito até porque essa discussão sobre etnia é algo muito complexo, ou seja, se até para nós discutir isso ainda é difícil, que dirá as máquinas. As máquinas são um reflexo do ser humano
Na minha época tínhamos que fazer fotocópia de imagens de enciclopédia pra usar em trabalhos 😅 era mais trabalho do mas muito mais real.
Fico imaginando alguém precisando de uma imagem para trabalho escolar sobre escravidão, não conseguir gerar uma imagem retratando isso. Vamos ter que queimar todas as obras de arte que retratam esse período triste ou sumir com todas as fotos e registros do holocausto? Complicado demais.
Vim pelo whatsapp 😁😄 vcs são incríveis!
Whatsapp?? Kkkk
Eles criam ,jogam pro publico testar e quando da a merda eles tiram ou ficam arrumando desculpa...ta igual nos jogos.
Como as inteligências artificiais se baseiam na realidade, fica comprovado, através dos resultados por elas feitas e pela necessidade de implementação de filtros morais, que vivemos em uma sociedade com racismo estrutural. Nossas atitudes, comportamentos e pensamentos são permeados de preconceito e isso repercute em nossos ambientes físicos (racismo ambiental) e em nossas instituições (racismo institucional).
A ia deles pega imagens mais proximas e adapata, por isso o soldado alemão negro, provavelmente era a imagem de algum bombeiro, até pelo capacete parece um pouco,
O Leon falando de assuntos polêmicos é muito fofinho, tentando ser o mais delicado possível, enquanto a Nilce, que é muito mais "avantajada" nesses assuntos, fica direcionando ele e se segurando pra não falar horrores. kkkkkkkkkkk esses dois se completam
Tenho um amigo negro que sempre posta imagens históricas de figuras importantes ou da cultura negra. Porém, a última imagem que ele postou foi de uma família samurai porém eles eram negros com traços japoneses. Claramente ele postou sem saber a origem desta “foto”. Eu achei preocupante.
Fui atrás e descobri que era inteligência artificial
@@mateuspeixoto2121curiosamente ha um caso historico de samurai negro no fim da era.
@@ricardomarchiori261 Sim, infelizmente a imagem não se referia a este samurai imigrante.
Muitas vezes ja tentei criar imagens de mulheres gordas e quase sempre a IA fazia uma mulher padrão magra, e quando eu enfatizava que tinha que ser gorda a imagem não gerava e aparecia uma mensagem dizendo que o pedido do prompt era impróprio, isso me irritou tanto veeei, como assim gerar imagem de pessoas gordas é impróprio????
isso acontece justamente como uma diretriz de proteção. imagine alguem criando essa imagens com intuito de agredir um grupo. tambem tem o problema do termo, talvez se vc tentar usar "pluz size" ou algo do genero funcione.
Eu tentei plus size, mas sempre vinha uma pessoa padrão. Essas IA ainda tem muito o que serem polidas, porque desde que o prompt não tenha algo que seja ofensivo, não vejo o porque não criar a imagem. O que eu tava tentando criar era um personagem parecido comigo pra um RPG, mas não consegui nada satisfatório infelizmente
@@mayrasantos3201 é pq alguém pode fazer uma pessoa gorda em alguma posição ofensiva ou usar pra representar essas pessoas ofensivamente, e como pessoas gordas hj em dia, são uma das minorias protegidas por certos grupos é mais fácil fazer com que elas n apareçam muito. Isso acontece até pra proteção da própria IA, afinal seria fácil processar uma IA que gera imagens “gordofobicas”
O que esperar de uma empresa que quando você pesquisar pessoas bonitas, aparece pessoas brancas, e pesquisa pessoas feias, aparecem pessoas negras?
Como engenheiro de software, não vejo esse problema como particularmente desafiador. As próprias IA têm parte da solução pronta. Uma IA pode realizar uma análise estática da pergunta "Gere um médico", levando em conta proporções de sexo, cor de pele e países dos solicitantes, para gerar resultados com base nessas informações. Além disso, possibilita ao usuário especificar qualquer uma dessas variáveis, como por exemplo, solicitar uma médica morena alemã.
A ia nao discrimina raças, a sociedade dwveria aceitar estes erros da ia., faz parte de aprendizado... Nao se deveria forçar as coisas em %, uma correção de etinia seria aplicar o % existente em cada país, lembrando qure na áfrica há diversas etnias de negros...
O problema é que vcs querem colocar viés em imagens na IA , isso é como a Netflix que faz filmes todos iguais !! Segue uma regra que tem q ter uma pessoa de cada gênero , e isso acaba com a realidade de qq imagem !!
02:00 esse e sim o estilo de capacete alemao nao ??
eu acho que não deve colocar de forma escondida o prompt "diversidade" se a pessoa não colocou, isso resolveria td.
Sobre papisa essa história foi muito comentada na idade média, quando era vista como real. Hoje, a maioria dos historiadores acredita ser pura lenda. A primeira menção a papisa é de mais de 300 anos depois, no início do século 13, pelo dominicano Jean de Mailly. Ele não deu o nome oficial do Papa mulher e situou a história em 1099.
Top
O Gemini ainda é muito fraco, em contraste com o midjourney