딥페이크: '다들 저라고 생각해요' 가장 많이 딥페이크 된 할리우드 배우 - BBC News 코리아

*해당 영상은 2019년 10월 20일에 제작됐습니다.
"이 기술이 어떻게 사용될지 알면서 왜 이런 걸 내놓죠?"
할리우드 배우 벨라 손은 딥페이크(Deepfake) 디지털 성범죄의 피해자로, 전 세계에서 가장 많이 '딥페이크'된 여성으로 꼽힌다.
벨라는 이미 오래전부터 자신의 피해 경험을 바탕으로 딥페이크 기술의 위험성에 대해 지적했다. 음란물을 만드는 데 단 한 장의 사진이 필요하며, 대개는 피해 당사자 모르게 혹은 동의 없이 음란물을 만드는 데 쓰인다.
기술의 정교화로 점점 더 쉽고 빠르게 음란물이 만들어지며, 딥페이크를 이용한 디지털 성범죄의 피해 규모도 눈덩이 처럼 확산됐다.
BBC의 메그하 모한 기자가 벨라 손을 직접 만나 피해 사례를 들어봤다.
*BBC 코리아는 수많은 피해자를 양산하고 있는 '텔레그램 딥페이크 성범죄' 피해에 대한 이야기를 들어보고자 합니다. 딥페이크 합성물로 인해 실제적인 피해를 당했거나 관련 경험이 있으시다면 [e-mail]로 여러분의 이야기를 남겨주세요.
더 자세히 알고 싶다면
BBC News 코리아: www.bbc.com/ko...
#딥페이크 #텔레그램 #디지털성범죄 #딥페이크텔레그램 #성착취물 #BBC #BBC코리아 #비비씨코리아 #BBCKorean #BBC한국어서비스

[@bbcnewskorean]

📢BBC 코리아는 수많은 피해자를 양산하고 있는 '텔레그램 딥페이크 성범죄' 피해에 대한 이야기를 들어보고자 합니다. 딥페이크 합성물로 인해 실제적인 피해를 당했거나 관련 경험이 있으시다면 [e-mail]로 여러분의 이야기를 남겨주세요.

[@user-hr5ns1bh8c]

이번 딥페이크 사건 보면서 기술에 비해 사람들 의식이 너무 떨어진다고 생각했음
관련 범죄 다 강력히 처벌해야함

[@dnejsjdjnd]

무지성으로 기술 기술거리며 산업에 대한 발전만 푸쉬시키는 동안 남성들의 성인지 감수성에 대한 교육은 시키지 않아 윤리의식에 대한 중요성은 쓰레기통에 내다버린 결과임

[@eugenelu6450]

사람들 의식은 떨어진 적이 없음.
역사적으로..

[@moo._.ddisorders]

​@@eugenelu6450 의식이 지난 세대에 비해 떨어진다는 말이 아니고 실제 사람들의 의식보다 기술을 윤리적으로 사용하기 위해 필요한 의식 수준이 훨씬 빠르게 올라가고 있어서, 필요한 의식 수준에 떨어진다는 뜻임.
글 똑바로 읽자.

[@paulmidas]

범죄 처벌은 찬성인데, 잘못된 방법으로 사용한 애들 보면 죄다 돈 없는 찌끄러기들이 돈 받고 제작하는 게 대부분임.
어차피 식칼은 누구나 살 수 있음. 그걸로 범죄를 저지를 사람들을 막는 게 단순히 사람들 의식으로 해결이 되나? 어차피 안할 사람은 안하고 할 사람이 하는 거임.
실제로 해당 범죄 저지른 한국인 숫자 추정치가 3천여명이라며. 기술 문제가 아니지. 그런 용도로 쓰면 안된다는 걸 알고도 한 사람들이지.

[@후우꾸꾸우후오오후우]

​@@dnejsjdjnd 쿵쾅

[@daldaldal-e7w]

이건 전 세계적으로 금지시켜야 하는 거라고 봄... 그 어느나라도 필로폰이 합법인 나라는 없듯이...

[@tododon8597]

그건 명확하게 말할 수 있음 그냥 불가능함

[@daldaldal-e7w]

@@tododon8597 글켔져.. 마약도 아무리 때려잡아도 계속 하는 것 처럼. 다만 적어도 그 수를 줄일 순 있겠져..

[@paulmidas]

애초에 풀 공개 되어 있음. 누구나 가져다 쓰라고. 그리고 안할 사람은 안하고 할 사람이 범죄 저지르는 거임.
범죄를 저질렀을 경우에 범죄자로 잡아 들이는 건 맞는데 금지는 말이 안됌. 그리고 사실 지금 한국도 다 범죄로 잡아 들이고는 있음.
식칼로 범죄 저지른다고 식칼 못 사게 하지 않음. 무조건 범죄를 저지르는 사람이 문제지.
막상 게임이나 드라마, 영화에서 쓰면 CG 자연스럽고 좀 더 사람들이 좋아할만한 얼굴 만드는데 쓰일 수 있는 기술임.
그 좋은 걸 헛짓거리에 쓰니 이해가 안될뿐이지. 자기 주변 사람 얼굴 다른 사람 몸에 붙여서 욕구 해결하는 애들이 정상일리가 없잖아.

[@user-xp7dj4kk9o]

역시 규제의 나라다운 발상

[@김몽-r3b]

​@@paulmidas 불가능하다고 생각하지 않음 지금 금지해야하는 부분은 실제있는 사람 대상으로 만들어지는 딥페이크지 CG기술을 말하는게 아님 완벽하게 막을수는 없겠지 필로폰도 완벽하게 막히지 않는 것처럼 하지만 법을 강하게 개정하고 제작, 소지만으로도 큰 형량을 받는다면 그런 위험부담을 하는 사람은 지금처럼 몇만명 단위는 아니게 될거임

[@wkwkwkwkwnman]

몇몇 덧글 수준이 참담함 자기가 피해자 아닐 때만큼은 그렇게 목소리가 클 수가 없다

[@안녕하셉셉요]

그니까. 그냥 입이라도 닥치고 있지...온라인에서만 목소리가 존나 커서 문제 .

[@akak-gg9ni]

한국 딥페이크 영상 제작,관람한사람 사형시켜버리면
한국남자 씨가 마를듯 ㅋㅋ
한국남자들 다 없어져버리는게 세상에 이득이니까 좋은건가? 키득키득

[@dnfl-Tkdtks-vbfmrp]

이게 19년도 다큐임......5년뒤 한국은 돌이킬수없는 지옥에 빠짐

[@gonnabegoooood]

19년도라고..? 오싹하다 갑자기 하

[@Jun_K999]

ㄹㅇ 2021년에 한국에서도 알페스 남자아이돌 딥페이크가 공론화 됐음에도 불구하고 흐지부지 넘어가서 지금 사태를 만들어버림

[@ZEBI-Su]

지금까지 이런 위험에 관심도 없었고 안티 딥페이크 기술에 투자도 없었는데 이미 예정된 수순이었다 ㅇㅇ

[@키키-e6z3k]

@@Jun_K999 알페스가 뭔지 알기는 한거냐고ㅋㅋㅋㅋㅋㅋ흐지부지 넘어가서 지금 사태를 만든건 N번방이지

[@Jun_K999]

@@키키-e6z3k N번방은 조주빈등 주동자들 엄벌에 처했습니다 결코 흐지부지 넘어가지 않았죠 흐지부지 넘어간건 여성시대 N번방이죠 ㅋㅋ 해외에 서버를둔 텔레그램도 아니고 다음카페에있어서 잡으려면 얼마든지 잡을수있는데 절대 안잡더라고요

[@vmflaldjayoutube7242]

엘론 머스크나... 빅테크 기업 ceo 보면 뭐.. 쟤들은 도덕성 기준이란게 없음. 기술적으로 가능한가? 돈 벌 수 있는가? 개쩌는 기술인가? 일 뿐. 기술 악용자가 있을 수 있지만 기술 잘못은 없다는 입장이 뿌리 깊기 때문에...

[@dnejsjdjnd]

산업 기술이 급속도로 발전하는 동안 남성들의 성인지 감수성과 공감능력에 대한 중요성도 같이 교육시켜야 했는데 오히려 퇴화되며 기술발전만 주구장창 시켰으니 나타난 당연한 결과라고봄

[@frozen_mandu]

게다가 테크 인더스트리 구조 자체가 저렇게 기술이 인간에게 끼칠 악영향에 대해 별 고민없이 추진해버릴수 있는 사람이 성공하게 되어있는데 저런 공감능력 낮은 사람들이나 그들의 기술이 사회에서 너무 많은 영향력을 갖고 있다는게 문제임

[@paulmidas]

잘못된 방법으로 쓴 애들 보면 죄다 돈 없는 찌끄러기들이 돈 받고 제작하는 게 대부분임.
어차피 식칼은 누구나 살 수 있음. 그걸로 범죄를 저지르는 걸 보면 식칼 잘못도 있는 건가?
여튼 이게 범죄로 다 잡아들이고 있고 이걸 범죄로 인식 안 하는 사람이 이상한거지, 기술 어쩌구 할 문제는 아닌 듯.
자기 주변 사람 얼굴 다른 사람 몸에 붙여서 욕구 해결하는 애들이 정상일리가 없잖아.
마지막으로 공감능력 문제가 아니라 논리적으로 바라볼 필요가 있음.
이미 만든 사람들 연구 자료나, 코드 저장소 가보면 그런 용도로 쓰지 말라고 되어있고 자기들은 책임지지 않는다고 되어있음.
그거 가져다가 구지 범죄로 쓰겠다는 걸 기술 만들고 연구하는 사람들이 어떻게 막음.
님들은 화학물질 만들어 낸 연구자들이나 모두가 그렇게 쓰지 말라고 해도 염산이나 식초 사다가 사람 얼굴에 뿌리는 범죄자들 있는 거 알잖아.
뭘 해도 범죄자는 잡아 들이는 것 밖에 답이 없음.
악영향 다 따지면서 뭘 틀어막겠다는 논리로 사회를 만들면 답이 없음. 가장 최악의 경우가 미성년자 게임 못하게 막는 규제였고 결국 말도 안되는 정책이라 없어졌잖아.
심지어 현재 게임 규제 보면 일반 게임들은 틀어 막고 한국에서 불법인 도박 게임은 막지도 못하는 말도 안되는 상황 연출되고 있는 상황이고.
즉 틀어 막는 다고 해서 범죄하는 애들을 막을 수는 없다는 게 한국 게임 규제 역사가 증명함. ㅇㅇ

[@Do.k]

​@@paulmidas 총기는 왜 금지했냐 마약도 왜 병원에서만 쓰고 기술이아니라 이용이 잘못됐다해서 규제가 필요하지 않다는 말은 아님

[@POST_OFFICE]

​​@@dnejsjdjnd아 그러니까 남성호르몬을 거세하고 씹게이처럼 살아가라고?
성인지 감수성은 진짜 ㅋㅋㅋ

[@Gdeny7246]

그래 그 똑똑한 개발자들이 이런 상황이 일어날 걸 몰랐겠냐고

[@오팔-r3v]

사실 개발자들은 생계를 위해 시키는 일을 해야할 뿐이고 그 위에서 개발을 요구하는 자본가들이 문제라고봅니다…

[@cyber.2020]

그러니까요. 깃허브에 있는 딥페이크 코드 막아놓으라니까 개발자가 sns 항의하는데, 이런 악용에 대한 우려는 항상 있었습니다. 그래서 예견된 재앙을 방관한 게 답답합니다.

[@user-ys7ik]

포르노가 왜 불법이여야하나요? 성인물이 불법인 나라는 우리나라이구요

[@황현준-v1z]

@@cyber.2020 방관하거나 무시한게 아닙니다. 관점이다른거죠. 자유와 안전 중 안전을 선택한 우리나라와 자유를 선택한 미국은 총기에대한 관점이 다릅니다. 개발자도 마찬가지로 시각이 다른거에요. 개발자는 기술을 개발하고 기술을 발전시킬뿐 처벌하고 규제해야하는건 나라가해야한다고요. 특히나 딥페이크는 영화나 애니메이션 분야 등에서도 유용하게 쓰이는만큼 막는건 극단적인 시각입니다.

[@summer-b2b]

여자따위 알바 아니라는거지

[@rinkim8849]

외국기사에서 일반인 "2살" 영유아의 얼굴 사진을 딥페이크포르노에 쓴 사례가 있다는 걸 보고 이 기술은 나오면 안됐던 기술이라 느낌...

[@vpeh_video]

그런건 아동포르노에 합성하는거임? 성인몸에 합성하는건가

[@렛-c6x]

@@vpeh_video 아동포르노가 아동포르노지 뭐겠어요...실제로 아이에게 성적욕구를 느끼는 사람들이 만든거면 아이얼굴 아이신체 그거 그대로겠죠...
일반인 아이 얼굴을 실제 돌아다니는 아동포르노에 합성한거

[@강구름-u6r]

걍 실제 성범죄랑 똑같이 처벌해야함.
충격적이었던 점은 이번 한국 집단 딥페이크 성범죄 사건에 “그게 왜 문제가 됨?” 이러는 남자들 반응이 꽤 다수였다는 점임. 문제가 문제인지 모르면 할때 인생 좆된다는 생각을 주입시켜서라도 가르쳐야할 의무가 있음.

[@발빠짐쥐]

성범죄도 여러 종류가 있고 정도에 따라서 처벌의 강도가 크게 달라지는데 어떤 성범죄랑 똑같이 처벌해야 할까? 그리고 지금 딥페이크 합성한 사람들이 어떠한 처벌을 받고 있나? 애초에 잡히지도 않았는데 처벌 수위를 높인다고 딥페이크 합성이 줄어들까?

[@wuzkangz]

ㅇㅇ 여성시대에서 남자 연예인들 딥페이크 합성한 걸 처벌하지 않는걸 보면, 이런 이슈는 결국 내로남불로밖엔 안보이지.
손만 뻗으면 잡을 수 있는 다음 카페는 안잡고, 굳이 텔레그램을 뒤지겠다고 하는거지 ㅋㅋㅋ

[@atpeace7788]

​@@wuzkangz너는 합성당할일없으니 평생 편하겠다~~ 박색을 누가 합성하겠니? 니말대로 잘.생.긴 남자들만 합성당하짘ㅋㅋㄱㅋ 설마 그게부러웠던거야?

[@qsdewaoc9536]

@@발빠짐쥐 딥페이크 합성은 성범죄로 처벌 받아야 하고, 딥페이크 합성은 처벌 수위를 높이면 줄어들어. 쓸데없는 소리 길게 늘어놓으면서 딥페이크 성범죄를 옹호하지 마. 너도 딥페이크 즐기다간 형사 처벌받을 거야.

[@발빠짐쥐]

@@qsdewaoc9536 그래서 처벌 수위를 높이면 검거를 할 수 있냐고. vpn을 키고 본인 확인도 안된 계정으로 가상화폐를 이용해서 거래를 하는데 처벌 수위를 높이면 대체 어떻게 줄어드는데? 딥페이크 합성 문제를 해결해야 하는 건 동감하지만 제대로 생각도 안하고 "걍 실제 성범죄랑 똑같이 처벌해야 함."이라고 말하니까 어이가 없는 거 아냐. 옹호는 무슨 내가 한 말에 도대체 어디에 옹호가 있니 그런 걸로는 딥페이크 문제가 해결되지 않는다고 말하는게 옹호니? 아무래도 내가 누군지를 이미 정해놓고 댓글을 싸는 거 같은데 너도 원댓글이랑 똑같아 아주 멍청해

[@KIMKIM-fx2wr]

대부분여자만 피해를 입는게 제일 뭐같음

[@발빠짐쥐]

여자가 성적으로는 더 우위에 있으니까 성범죄 피해자가 여자일 수밖에 없지. 어쩔 수 없는 거니까 그냥 받아들여 그렇다고 남자 피해자를 일부러 만들 수도 없잖아.

[@hunyy7764]

@@발빠짐쥐 세상에서 제일 병신같은 말

[@wuzkangz]

그것도 너의 주관적인 생각이지 ㅋ

[@탱크성애자]

@@wuzkangz 주관적인 생각이 아니라 남성이 가해자인 사례가 압 도 적인건 맞잖아. 이미 다 판례로 나와있는 사실임.

[@user_2r_dmkfdmslflsi]

처음부터 이 기술은 상용됐으면 안 됐음. 사실상 정말 필요한 곳에 쓰이지 않고, 사람 특히 여성을 괴롭히는 데만 쓰이고 있음. 그런데 이 기술이 왜 필요하냐는 거임. 인류가 도움은커녕 반 이상이 고통을 호소하고 있는데. 관련 법안을 엄격하게 만들어야 했음. 기술자로 등록된 사람만 쓰게 하든가. 그러면 딥페이크 성착취물을 만들었을 때 더 빠르고 손쉽게 잡을 수 있겠지. 아니면 아예 막든가. 심지어 남자 얼굴을 넣어도 여성의 몸을 합성해서 내놓는다고 함. 그만큼 여성 성착취물이 학습된 거고, 그런 앱만 내놓은 거임. 이게 필요한 이유를 정말 하나도 모르겠다. 가장 끔찍한 기술인 것 같음.

[@qhan527]

공감해요 총기와 마찬가지로 규제되어야하는 기술입니다 사람을 죽일수 있다는 점에서 동일합니다

[@Rinpndip]

지금 우리나라에서도 일어나고 있죠 지인들 메신저나 sns 사진을 도용해서 음란물 사진 생성해서 유포하는...
벨라 손 우는거 맘아프네요

[@강은우-s5v]

미국은 10년 전부터 이슈였음... 근데 한국도 터질 줄은 몰랐다

[@user-jl3tr3km9r]

이미 나올때부터 우려했었고 방지기능이 필요하다고 그렇게 말했는데

[@onon6215]

기술 규제에 대해 지나치게 게을렀다고 생각합니다. 특히 ai기술은 범죄 이용 가능성이 초반부터 제기됐었는데 방치한 거나 마찬가지죠. 이미 범죄는 규제의 범위를 넘어섰고 강력한 처벌만이 현재로선 최선입니다.

[@hsu0l1206]

현실적으로 기술을 막을 수는 없음
처벌을 강화하는게 답임
다크웹, 텔레그램 아무리 암호화하고 여러나라 거쳐 통신해도
결국 통신 인프라를 사용하기 때문에 국가간 협력해서 역추적해서 잡아내듯이 잡아내서 하나하나 조지기하면됨

[@맥신-w3f]

이래서 인문 교육이 필요하고 인간에게 철학과 사유가 인류의 역사와 늘 궤를 같이 해야하는 것인데... 물질주의로 변질된 현대의 자본주의는 기술과 윤리의 균형적 발전을 저해하고 그로부터 초래된 오늘날 딥페이크 범죄들을 보면 기술이 발전했다 한들 지금이나 중세나 뭐가 다른지 잘 모르겠다

[@Chopin-Waltz-No.10-In-BMinor]

윤리학에 업데이트가 필요한 순간이네요

[@후우꾸꾸우후오오후우]

사실 딥페이크 범죄가 잘못된 걸 몰라서 행하는 사람은 없죠
진짜 극단적으로 말하자면 중세랑 똑같았다면 그냥 길거리서 성폭행하고 다녔겠지 찌질하게 뒤에서 사진으로 합성질하진 않았을 겁니다.
언제나 인류에겐 어두운 본성이 있고 기술의 발전은 그런 본성을 실현시킬 수 있는 음지에 가장 큰 영향을 줄 수 밖에 없습니다. 윤리도 양심도 어디까지나 교육이기에 막기 쉽지 않을꺼구요

[@iiiIiiIIIiIii-u2p]

옳은 말씀입니다

[@hsu0l1206]

현실적으로 기술을 막을 수는 없음
처벌을 강화하는게 답임
다크웹, 텔레그램 아무리 암호화하고 여러나라 거쳐 통신해도
결국 통신 인프라를 사용하기 때문에 국가간 협력해서 역추적해서 잡아내듯이 잡아내서 하나하나 조지기하면됨

[@수진-t9y7h]

몇달 전에 나도 텔레그램 링크랑 함께 아마도 협박성 디엠 받았었음 그때 비공계 계정으로 돌렸지만..심각한 문제임

[@qwezzi]

어우.. 진짜 끔찍하다

[@발빠짐쥐]

비계로 돌리고 디엠을 무시하니 아무 일도 없었나요? 아!혹시 그 다음은 생각 안 하셨나요?

[@user-ge2hz3zn1h]

2:24 연예인뿐 아니라 친구에게도 악용할 수 있다는 의견.. 그것을 한국이 가장 먼저 현실로 만들었습니다

[@wejnus-hx7cp]

실태를 잘 모르셨으면 오해하실 수는 있으나 이렇게 말하면 한국이 무슨 시발점 같이 오해될 수 있습니다. 한국에 딥페이크 자체가 늦게 퍼졌고 국민들도 전혀 실태를 몰랐기에 2024년에 와서야 이렇게 논란이 된 거지 10년전부터 서양에서는 지인이건 연예인이건 딥페이크가 하나의 산업 수준으로 성행했어요.

[@wejnus-hx7cp]

당장 이 인터뷰 5년전입니다. 한국이 거의 마지막으로 현실로 만든 것에 가깝습니다.

[@user-rg4bn7tu5k]

가장 먼저가 아니라 전세계에서 가장 늦음

[@quantum_jump]

@@user-rg4bn7tu5k먼저고 나발이고 저 딥페이크물중에 한국인 피해자가 제일 많대잖아. 손바닥으로 하늘 가려질까봐?

[@방붕방붕-l6m]

@@quantum_jump 한국인 피해자가 많은건 중국인들이 Kpop 스타들로 만드는 딥페이크물이 많아서 그럼. 이건 국가로서 항의해야할 건임

[@user-rq8rh3si3m]

한국에서 이미 중학교남학생들이 여학생 선생님같은 개인 딥페이크 만들어서 실컷 이용하고 그 수가 무려 수백만이라는게 뉴스에 전혀 안나오네여

[@xhndjz2872]

수백만 ㅋㅋㅋㅋㅋ

[@xhndjz2872]

도대체텔레그램은 증거도안남는데 그수치는 어케계산한건데

[@user_nignaeim]

@@xhndjz2872수백만은 아니어도 수십만은 맞을 듯ㅋㅋ 사용자가 몇십만대라고 하니까?

[@음-t4l]

@@xhndjz2872쪼개노

[@wejnus-hx7cp]

@@user_nignaeim 전세계

[@이름성-h7r2e]

여기 댓글들보니까 우리나라 남자들 수준 보고 기함을 했다. . 명백하게 여성 피해자가 더 많은게 성범죄인데 모든 남자가 가해자는 아니라며 감싸고 도는구나.. 암담하다... 객관적 사실을 거부하고 그저 아무튼아님으로 ㅋㅋ... 인류애사라지니 저출산이 팽배하지

[@rmx9442]

왜냐면 인구대비 극소수만이 범죄를 저지르고 범죄율을 10년 20년 전과 비교했을때 하락했으니까.
범죄자 나쁜거 모두가 다 알지만 성범죄 피해자가 대부분 여자라 모든 남자가 가해자라는건...
강력범죄 가해와 피해 역시 남자가 대다수이고 그 사람들 잡는것 역시 대부분 남자임 너무 피해의식을 가지고 살지 마세요

[@김경훈-b9q]

여성 피해자가 더 많다 = 모든 남자는 가해자다 라고 생각하는 사람이 남 수준 운운하는ㅋㅋㅋㅋ

[@성이름2-n8c]

?? 본인 사고가 더 이상한 것 같은데,, 특정 커뮤에 찌든 뇌 같습니다

[@Youtube_Anonymous_21]

오늘밤은 딥페이크 봐야겠다 ㅎㅎ

[@wwooww2264]

인류애가 웅앵 저출산 웅앵웅ㅋㅋㅋㅋㅋㅋㅋ 진짜 han녀들 능지 어우 레전드

[@KobobKo]

이 기술을 법적으로 제재해야 한다고 생각합니다.
죄없는 피해자들만 많이 생기잖아요. 안타깝네요

[@user-bu1wt1zp7t]

어떻게 없앨건가요?

[@ZEBI-Su]

그러게요 전세계적으로 총기도 규제해야하는데 왜 모든 나라가 안될까요?

[@ZEBI-Su]

라는 댓글 수준 같네염 ㅋㅋ

[@Macfly5951]

딥페이크 기술은 그냥 음지에서 밖에 쓰일 곳이 없었자나.....이 기술은 없애는게 맞다..

[@paulmidas]

3D 모델 CG 대신 스턴트맨 얼굴 바꿀 때 쓰일 수 있음. 영상 분야에서도 렌더링 퀄리티 낮추고 얼굴 부위만 향상 시키는 방법으로 연구되고 있고.
게임 분야에서도 얼굴 모델만 향상 시키는 기술로 연구 중임. 잘못된 방법으로 쓴 애들 보면 죄다 돈 없는 찌끄러기들이 돈 받고 제작하는 게 대부분임.
그리고 그런 논리면 야쿠자 조폭들이 회칼로 사람 찌른다고 회칼 다 회수해야한다고 하는 거랑 다를 바 없음.

[@비피더스-q7k]

​@@paulmidas그런 기술들은 이미 비슷한게 다 있고 충분히 손으로도 다 할 수 있는 일인데 굳이 남의 얼굴 남의 작업물을 죄다 무허가로 먹여놓은 윤리적으로 하자있는 모델을 쓸 이유가 있나 싶은데요

[@후우꾸꾸우후오오후우]

@@비피더스-q7k 네..? 충분히 손으로도 할 수 있다는건 프레임 하나하나 얼굴을 바꾸는 편집을 하라는 말씀이신가요?

[@hendcream]

ㅇㅈ​@@paulmidas

[@비피더스-q7k]

​​@@후우꾸꾸우후오오후우 기존의 모션캡쳐 3D 제작툴 VFX 기술들은 어디 땅에 처박혔나요?

[@이니-d3c]

못 잡는다 하지말고 몇십년이 걸려도 싹 다 잡아서 처벌받길

[@발빠짐쥐]

표현에서 진짜 구시대적인 생각이 엿보이네

[@hunyy7764]

@@발빠짐쥐 니 인생이나 엿보세요

[@black__cherry.]

전세계 딥페이크 가해자 중 가장 많은 수를 차지하는 건 한국 남자들일 거라는 데 전재산를 걸 수 있다.

[@발빠짐쥐]

제대로 알지도 못하면서 전재산을 건다고 하네. 혹시 딮페이크 채널 사용자가 22만명이라는 기사만 믿고 하는 말이야? 안타깝게도 그거 오보래 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 전재산 압수~

[@taero4161]

AI의 무서운점이 쉽다라는 거임. 엄청 쉬운건 아니지만 옛날 프로그램들처럼 사람이 하나하나 논리적 절차를 설계하면서 만드는게 아닌 AI학습 알고리즘에 많은 데이터를 넣어서 결과를 도출해내는 식이니 악용하려는 사람도 쉽게 접근해서 이용할 수 있는거고 딥페이크같은 악용가능성이 농후한 프로그램의 개발도 쉽게 이뤄지는 것 같음

[@냥라떼-j1b]

윤리적 제동이 걸릴 새도 없이 이뤄지나봄..

[@발빠짐쥐]

AI 학습 알고리즘을 만드는 것 부터가 사람들이 하나하나 직접 프로그래밍 한 건데 이게 쉬워 보임? 아니면 많은 데이터를 가지고 원하는 결과를 만들어낼 수 있는 수준까지 학습 시키는 게 쉬워 보임? 대체 뭐가 쉽다는 거임?

[@송미-e7e]

이런거보면 남자들의 음험함의 바닥이 어디까지인지 참

[@강은우-s5v]

그러니까 ㅠㅠㅠ 냄져가 문제야 냄져가 ㅠㅠㅠ 나도 약간 지하철에서 스토킹? 같은거 당한적 있어 퓨ㅠㅠㅠ 내가 역에 내리는데 염색한 금발 한남이 따라 내리는거... 왜 굳이 같이 내리는지 모르겠엉 ㅠㅠ 그냥 다음 역에서 내려서 반대로 가는 지하철 갈아 타면 되는데 나 따라 내렸다는게 진짜 음흉하고 쏘름끼침...

[@페미학살]

@@강은우-s5vㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[@강은우-s5v]

그러니까 ㅠㅠㅠ 냄져가 문제야 냄져가 ㅠㅠㅠ 나도 약간 지하철에서 스토킹? 같은거 당한적 있어 퓨ㅠㅠㅠ 내가 역에 내리는데 염색한 금발 한남이 따라 내리는거... 왜 굳이 같이 내리는지 모르겠엉 ㅠㅠ 그냥 다음 역에서 내려서 반대로 가는 지하철 갈아 타면 되는데 나 따라 내렸다는게 진짜 음흉하고 쏘름끼침...

[@JeLee-zt1vi]

성욕에 범죄까지 저지르고 그게 잘못인지 모르는건 인간이 아니라 짐승 아닌가? 진짜 더러움

[@lqssfourloo5255]

초상권이 이래서 중요한거지. 솔직히 남자여자 가리며 프레임 씌우는 거보다 애들 교육부터 시키는 게 중요함.
연애인 이랍시고, 정치인 이랍시고 얼굴 가져다가 막쓰는 게 이렇게 위험함.
뭔 남자들만 범죄 저지르는 줄 아는 게 진짜 멍청한거지.

[@user_greenplum93]

2:29 지금 한국... 얼굴 들고 다니기도 싫은 한국이 되버림 새로운 기술 발전 가능성이 보인다면 위험상황을 예방할 대비책이 미리 마련되었으면 좋겠음

[@quantum_jump]

확실히 한국처럼 인간들 정신과 영혼이 썩어있는 미개한 나라에서 가장 먼저 반응이 제일 빠름ㅋㅋ

[@dnejsjdjnd]

남성들에게 성인지 감수성을 교육시키지 않은 부모들과 정부 교육기관때문에 얼마나 더 많은 여성들이 피해를 봐야 할까요?

[@후우꾸꾸우후오오후우]

@@dnejsjdjnd 이미 잔뜩 잠재적 성범죄자라며 세뇌시키셨잖아요?
그런 완벽하고 우아한 교육에도 이런 사건이 터졌네요?

[@Newt_G84]

그놈의 성임지 감수성;

[@최종원-q4j]

부모가 교육하기 이전에 성과 관련된 것들은 무조건적으로 쉬쉬해버리고 덮어버리는 문화도 좀 고쳐야 함. 그러다보니 부모입장에서도 자식한테 교육하기 민망하고 망설여지지. 한국에서 남녀의 차이에 대해 의견 꺼내길 주저하는 사람들이 굉장히 많음. 해외에서 살다보면 그것도 그냥 수많은 논쟁거리중 하나일뿐이지 절대 의견을 숨겨야만할 무언가로 취급되지도 않음.

[@Lilac_plus]

남자들 없으면 뭐 하지도 못할것들이 ㅋㅋ 남자없으면 지구 망한다 여자들아 ㅋㅋ

[@바밤바-i3r]

남자범죄자들 찔려서 부랄발광하네 세계적 망신 🤮

[@user-vb1bt7gz3j]

애초에 이기술이 이세상에서 필요한곳은 범죄말고는 없을거같은데

[@yeyeueyeyeyeye]

영화 업계 같은데서 자주 사용됩니다

[@user-bu1wt1zp7t]

무식

[@Isl33p]

딥페이크는 지금은 사람에만 덧씌우지만 나중에는 우리 주위의 모든것을 덧씌울 수 있을거임.
당장 국방과 사회화 교육, 사회실험등 여러 예시를 들을 수 있고.

[@quantum_jump]

저까짓거 못한다고 세상이 망하디? 저딴 기술은 없는게 낫지.

[@yeyeueyeyeyeye]

@@user-vb1bt7gz3j 전문가나 업계에서 일하는 사람만 사용할 수 있게 법으로 제지하는게 맞는것 같기는 해요

[@crazysubmarine1186]

자본이 인간과 윤리적인 면까지 고려할까? 자본의 힘 앞에 사회적약자가 무너지는 대표적인 선례.

[@dt3380]

사회적 약자가 아니라 모든 사람들이 평등하게 무너지는 듯

[@냥라떼-j1b]

여성 대상으로 한 성범죄에 이용하는 게 많으니 사회적 약자에게 훨씬 더 위험한게 맞지​@@dt3380

[@cyber.2020]

​@@dt3380 하지만 피해자의 99%가 여성이라는 통계가 나와서요. 누구나 당할 수 있지만 아주 많은 생각이 듭니다. 뉴스에서는 뭐라도 하라는 의미에서 모두가 당할 수 있다고 할 거에요. 하지만 인정하고 싶지 않을 진실은, 사회적 약자의 권리는 항상 위태롭다는 겁니다. 신기술이 나오면 또 새로운 형태의 피해가 나오니까요.

[@dt3380]

@@cyber.2020 그 말씀하신 내용은 저도 그렇게 생각하긴 하는데요.. 사회적 약자를 여성이라고 가정하고 말한 건 아니라서요

[@cyber.2020]

@@dt3380 사회적 약자와 여성을 동의어라 보지 않지만 여성이 사회적 약자에 포함되어서 저는 위 의견을 달았어요.. 현실을 무시할 수 없잖아요. 큰 그림을 봐야지 제 의견에 맞는 것만 볼 수는 없어요. 사실 모두가 원하는 세상은... 사회적 약자가 존재하지 않는 세상이지만 그렇지 못하니, 사회적 약자가 무너질 것을 대비해야죠.

[@jwjw1101]

애초에 이 가술이 일상에서 필요하지 않음. 영화 산업 쪽에서는 활용할 수 있겠으나, 그 외에 일반인에게 필요 없는 기술임. 성범죄,보이스피싱,사기,명예훼손 이런데 쓰일만한 기슬일 뿐.. 규제를 강력하게 해라.

[@makergreen]

이제는 인스타 등지에 자기 영상이나 사진 함부로 못 올리는 시대가 왔네요.😢 저런 사람들이 존재하는 한은...

[@ナナヒラ]

다행인 점은 이미지 학습 방해 프로그램이 이미 존재하고 지금도 활발하게 연구되고 있다는 점임. 아마 머지 않아 이미지 학습 방해 프로그램이 스마트폰 사진 앱에 내장되거나, 유튜브나 sns에 사진이나 영상을 업로드할때 자동으로 사진을 (학습하지 못하게) 보정해주는 서비스를 해줄 것 같음.

[@morganjohnpiermont1052]

(스토리를 올리며)

[@seha4445]

@Jowebmaster​​⁠ 흑백논리에 논점까지 잘못 짚었지만 좋은 아이디어네요 기술은 잘못이 없으니 도덕적으로 남에게 피해를 안 끼치며 쓸 수 있는 사람들만 쓰면 뭔 문제가 있겠습니까 사회에 1인분을 하는 사람이라면 마땅히 지니고 있어야 할 도덕성과 공감력, 그리고 엄벌의 부재 때문인데 말이죠. 그쪽 말대로 범죄자들의 인터넷 접근 박탈과 범죄예방까지 생각해서 실명제를 도입한다면 확실히 쾌적해지겠네요, 정말 잘 말하셨어요😊 인격체가 갖춰지지 않은, 혹 스스로를 제제할 의지가 없는 사람들에게 인터넷은 과분한 기술이 맞죠

[@neutralizedhalfmercy]

(인스타를 딸깍딸깍 팅기며)

[@발빠짐쥐]

@@ナナヒラ 원래 막는 쪽보다 뚫는 쪽이 더 유리해서 그런 것도 의미가 없다고 보고 ai가 학습을 못하도록 보정하는 것은 이미지에 왜곡을 불러일으켜서 널리 쓰이진 않을 거 같은데?

[@해러웨이]

한국은 벌써 딥페 범죄 국가됨.. 다 잡아서 감옥에 넣는거 말곤 답이없다

[@dfngcbdfgdfg310]

5년전에 제작된 영상임에도 불구하고
2:30 미래에 어떤 일이 일어날지 정확히 꼬집었네요....

[@user-aka27rt1v0t]

팩트 : 5년 전에 이미 지인사진을 합성하여 능욕하고 협박하는 일은 많았다. 뉴스에 나오지 않았을 뿐.

[@원펀치원강냉이]

강력한 처벌을 원합니다. 언제까지 피해자만 일상을 빼앗긴 채로 살아야 합니까.

[@bath0819]

아무런 죄의식없이 딥페이크 범죄를 저지르는 가해자들이 가장 큰 원인이지만 이런 기술이 아무한테나 다 오픈되어있다는게 이해가지 않는다. 범죄에 악용될 방법이 수만가지는 될 것 같은데 처음부터 차단을 했어야 맞다.

[@NinoNlkkl]

큰일 입니다. 딥패이크 영상들 인터넷에 수두룩 합니다.

[@user-bu1wt1zp7t]

딥페이크범죄가 문제지 딥페이크는 문제가 아닙니다.

[@박주영-z6j]

근데 딥페이크 기술이 도움이되는 영역은 어디인가요..? 굳이 딥페이크를 써야되는 영역이 없을텐데.. 영화나 게임같은 건가..

[@황현준-v1z]

영화나 광고 게임 분야에서 많이 사용됩니다.
최근에는 서울우유 광고에서 딥페이크 기술을 사용했습니다

[@summer-b2b]

​@@황현준-v1z솔직히 업계에서도 없어도 되는 기술임

[@황현준-v1z]

@@summer-b2b 스마트폰은 있어도되는기술인가요?

[@user-aka27rt1v0t]

있어야 돼서 만든게 아니라 그냥 가능하니까 만든거임. 도덕적인거 딱히 생각 안하고 만든거지

[@발빠짐쥐]

@@summer-b2b 업계 사람이라 제대로 자세히 알고 있어서 하는 말임? 내 생각엔 딥페이크 기술 없어지면 제작비랑 제작기간 엄청 늘어날 거 같은데

[@6uess]

전세계 딥페이크 피해자 중 53%가 한국여자라는 통계가 있습니다. 참담하네요.

[@usead.]

한남이 한남한거임

[@밍각]

그건 여자 아이돌들이 많이 당해가지고 그런거고....
그걸 행한 주체가 한국 남성이 아님
한국에선 이제야 터졌는데 원래 외국에선 하나의 장르 수준으로 연예인 딥페이크가 만연했음...

[@6uess]

@@밍각 피해자 중 53퍼가 한국여자랬지 한국남자 얘긴 꺼내지도 않았는데 갑자기 한국남자얘기가 왜 나옴? 그리고 걔네가 했을지 안 했을지 어케 앎ㅋ

[@밍각]

@@6uess 바로 위에 한남이 한남했다는 댓글 있어서 말한거임
왤케 비꼬듯이 공격적이심...
한국은 범죄률이 가장 낮은 국가중 하나임
물론 적더라도 있다는 것만으로 문제인건 맞지만 "한남"이라 일반화 시킬정도는 아님
님이 말하신 했는지 안했는지 어케 아냐는 말도 한국 남성들을 범죄자로 가정하고 말하는것밖에 안됨
했는지 안했는지 모른다면 안했다고 추정하는게 우리 사회의 법이고

[@SOAQL10032]

@@6uess "한국남자 얘긴 꺼내지도 않았는데 웅앵..."
???:한남이 한남한거임.

[@soharu9076]

딥페이크 기술을 사용할 수 있게 허가받은 사람만 사용할 수 있게 해야될 것 같아요..
허가번호가 있어야 문제가 됐을 때 추적하기도 쉽죠.

[@sansam55]

기술에 변화에 따른 법도 진화해야 된다고 생각함

[@필-m9d]

딥페이크라는 기술 자체가 태생적으로 포르노를 제외하면 어플리케이션이 있을수가 없습니다. 기술이라는건 인간에게 유익한 것도 있지만 해로운 기술도 있어요. 개발한다고 다 좋은게 아닙니다. 기술개발이든 코드 공유든 아예 못하게 해야됩니다.

[@盧해머]

다메다네,신창섭 합성 등 유머는 뭐냐? ㅋㅋㅋㅋ

[@정-s2k]

@@盧해머 기술을 개발하고 자유를 줄 땐 그것을 통해 얻을 수 있는 가치와 이에 수반되는 위험 및 문제점들을 잘 비교해 봐야겠죠. 근데 위험성이 너무 압도적인 듯...

[@안졸리나젤리-k6e]

근데 이 영상에서도 무서운 게 연예인이라고 괜찮은 게 아닌데.... 사람을 사람으로 안 보는 한 성별이 정말 무섭네

[@브이로-y6y]

대한민국은 지금 10대 딮페이크 성범죄의 진앙지입니다 촉법소년제로 처벌은 없으며
심지어 자신의 학급의 친구 담임선생님까지 딥페이크 성범죄 대상으로 삼고 있습니다 철저하게 취재해서 보도해주시길
바랍니다. 뉴욕타임즈같은 데 보도가 되야 그나마 경각심이라도 갖지 절대 움직이지 않습니다

[@윤태윤-r4o]

걍 법이 기술을 못따라감 ㅇㅇ

[@라면-s7y]

이게 2019년 영상이라니...

[@sizukani]

우리나라에서 딥페이크의 가장 큰 피해자인 김창섭을 누가 좀 지켜다오

[@thelibrary5972]

세상에 혼란을 가져오는 저런 기술은 승인해주면 안된다.
자유가 중요한가?
공공질서가 중요한가?
인류는 심각하게 고민해 보아야 한다.

[@황현준-v1z]

기술이 잘못하지않았습니다. 제도와 규제의 속도가 너무 느린거죠. 우리가 이런 상황이 올거라는거 정말 몰랐나요? 딥페이크와 인공지능 기술이 점점 발전되었을때 많은 사람들이 예측하고 경고했었습니다. 하지만 관련된 제도는 항상 통과되지않았잖습니까

[@yjy9972]

기술은 빠르게 발전하는데 법이 이를 따라가지 못하니 완전 무규범 상태입니다. 딥페이크 문제뿐만 아니라 AI로 인한 저작권 침해 등 문제가 심각합니다.

[@hsu0l1206]

현실적으로 기술을 막을 수는 없음
처벌을 강화하는게 답임
다크웹, 텔레그램 아무리 암호화하고 여러나라 거쳐 통신해도
결국 통신 인프라를 사용하기 때문에 국가간 협력해서 역추적해서 잡아내듯이 잡아내서 하나하나 조지기하면됨

[@h-e7d]

기술의 발달이 상식이나 법망 체계를 벗어나는 일은 계속 있어왔음 내 일, 혹은 별 거 아니라고 생각하니까 수수방관하는 태도 역시 되풀이되고 있을 뿐임

[@카테릭]

고대아테네법 처럼 저기술 만든사람부터 이상한거 만든사람 부터 싹 처벌하자

[@grandkorea]

이건 간단하게 민사소송을 할수있게 길을 만들어주면 제작자에세 돈을 뜯어낼 수 있는 길이 열리는거다. 죄질에 따라 거액을 뜯어낸다면 아무 육체적 피해없는 피해자는 나름 보상이 될꺼라고 본다.

[@sean_kim758]

단순히 형량을 높이는 것으로 안됨..문제는 '지속성'임.저런 파일은 인터넷상에서 없애기가 어렵기 때문에 파일을 인터넷상에서 없애는 책임을 유포자에게 피해보상 형태로 없어질 때까지 물어야함...그래서 영원의 피해를 피해자가 아니라 가해자가 지게 해야함.

[@love777days3]

이런것윽ㄹ.. 90년대는 '문화지체현상' 이라고 배웠었죠 기술발전을 문화가 못따라가는것

[@judbang]

19년도 영상이란게 놀랍네... 그리고 진짜 법을 ㅈㄴ 강화해야됨. 칼을 요리하는데 써야지 사람죽이는데 쓰면 안되는것처럼...

[@fri_d_616]

도대체 왜 필요한 기술인지 모르겠다

[@kainigwon5433]

19년도 다큐라면 아~~~~주 옛날옛날 다큐네. 아주 엣날엣날....
지금은 어느정도일지 상상이 안 감.

[@Noble.6]

아직은 딮페이크가 어색한 부분도 있고 영상 분석 전문가가 파고들면 가짜 라는 걸 알아낼 수 있겠지만
앞으로 인공지능이 더욱 발전하면 전문가 조차도 속일 수 있는 수준이 될 게 뻔한데
참... 걱정된다

[@lqssfourloo5255]

그니까 남의 얼굴 좀 소중히 하라고.
어릴 때부터 연애인이며 정치인 얼굴 함부로 가져다 쓰지 말고.

[@lqssfourloo5255]

솔직히 좀 가증스러움. 연애인, 정치인 할 거 없이 예전엔 얼굴 가져다 막써도 그냥 아무일 없이 지냈던 놈들이
텔레그램 딥페이크로 일반인한테 까지 피해보자 피해 안 본 지들 얼굴 지키겠다고 한남 가해자 22만명 ㅇㅈㄹ하는 거.
남자든 여자든간에.
뭔 풍자고 공인이니까 해도 돼야. 사람 마음 아프게 하고 욕하는 게 맞냐. 딥페이크는 딥페이크고 텔레그램부터 좀 어캐 해야함.

[@yelinkim5445]

하...몇 일전에도 봤던 뉴스지만 다시봐도 끔찍하고 안타깝다...

[@이름을비워둘수없-r3k]

기술을 이제 그만 발전시켜야할때가 온 것 같음 너무 과해.

[@yuchan_kim]

오래전부터 이런 문제의 가능성은 보도되어 왔지만 대중과 정치인들은 충분히 신경쓰지 않았음. 기회가 많았는데도 위험성을 과소평가한 사람들이 이제서야 짜증내는거지. 기술의 진보가 주는 이점에 비하면 작은 희생이라고 생각함. (물론 악용하는 범죄자들이 100% 잘못한 것이 맞음) 프로그램으로 대상을 인식하고 그 정보를 응용하는 기술이 많이 발전했다는 뜻이다.
+애초에 SNS에 자신의 신상 정보나 개인적인 모습을 많이 공개할수록 그 리스크를 동반한다는 사실을 충분히 인지하고 이용했어야 한다고 생각함.

[@뤂-z9r]

이걸 과연 기술이라고 부르는게 맞을지...전세계적으로 문화지체 현상이 너무 심각하네요

[@moveon2]

딥페이크 때문에 보이스피싱 범죄, 성범죄 엄청나게 증가할거다. 비인간적이고, 끔찍한 범죄들에 악용되어 피해자들을 억울하게 만들고 고통주는 비윤리적인 딥페이크 범죄에는 초기부터 선처없는 아주 강력한 처벌만이 답이다.

[@발빠짐쥐]

딥페이크랑 보이스피싱은 대체 무슨 관련이..? ㅋㅋㅋㅋㅋㅋㅋㅋ

[@user-bd4ur5ft8f]

@@발빠짐쥐 몇 년 전부터 한국에서는 부모들 인스타에 올라와 있는 아이들 얼굴이나 목소리 따서 실제 아이인척 협박하는 보이스피싱 사례가 나오고 있었음 그 외에도 딥페이크로 사기, 보이스피싱 당한 사례 많은데 댓글달려면 적어도 검색이라도 한번 해 봐야지...

[@아몬드-y6z]

정말 심각한 문제다. 기술 억제에 걱정만 ㄹ하지말고 이에 대한 범죄가 계속발생한다면 어느정도의 규제를 통해 피해자 보호가 필요하죠. 어떤 국회의원은 이에 대해 다시 생각해주길 바래요.

[@bomi0114]

이딴 기술은 쓸모도 없고 악용될 여지만 다분한데 굳이 발전시켜야 하냐?

[@raie_UwU]

Thnx BBC!

[@성이름-r9w1q]

몇년전 어떨결에 인스타에 안친한 직장동료분 맞팔을 하게되서 부담스러워서 얼굴사진 싹 내렸는데 이게 이렇게 도움될줄이야.

[@Killwildboar]

기술이 한 사람을 완전히 파멸시킬수 있다면 우리는 그 기술의 사용범위를 정하고 통제하거나 금지할 수 있어야 한다.

[@iannaiyu]

이걸 보고도 표현의 자유니 뭐니 떠들 수 있으려나

[@quantum_jump]

이게 표현의 자유랑 무슨 상관이야. 지능 관리좀

[@조바이든-r6r]

솔직히 딥페이크 기술이 대체 어떤 가치를 창출 해낼 수 있 는지 모르 겟음. 3D 프린팅은 총기 만들 수있는 위협이 있지만 그래도 굉장히 유용하니 기술이 개발되는건데.. 것도아니고

[@vtdxr520]

이제는 진짜와 가짜를 구분하기 어려워지느 시대가 되어버렸음

[@owner575]

기술은 아무죄가 없다
기술을 악용하는 범죄자에게 사형선고를 내려야한다

[@우리서-k4j]

근데 진짜 무섭다. 이건 저 분을 포함 고인까지도 욕되게 만드는건데. 그나저나 멋있다. 협박에 나체 대응. 심지 강하다;

[@성이름-o4v1w]

그럼 총부터 규제해라 평화로운 세상이라 그런가 사람의 목숨보다 성범죄가 더 엄중히 다뤄지는 것 같네 기술이 악용되는 건 사용자의 문제지 개발자의 잘못이 아님.

[@partysolo5861]

성적인거 말고도 밈으로 쓰이는것도 솔직히 피해자 아닌가? 예를들면 지금 정상화 밈으로 온갖거 다 나오는 김창섭씨라던가

[@toast_12_]

하.. 시대의 발전을 진짜 이따구로 사용하고 싶나 딥페이크로 협박하는 쓰레기들 (극단적으로) 한 1분만 chat gpt 막으면 이 세상 전체가 뒤짚일 것 같은

[@the_redape]

아주 극소수이지만 기술 발전만 신경 쓰며 사회 현상 등에는 무관심하고 무책임한 연구자들이 있습니다. 기술을 연구하는 것과 그것을 배포하는 것은 반드시 분리되어야 하지만 모든 기술은 공유되어야 한다는 무책임한 논리만 내세우다 이 사달이 난 것입니다.

[@황현준-v1z]

딥페이크 기술이 문제인가요?

[@서현-v2d4m]

세계적으로 금지해봤자 중국같은 나라에서는 계속 엄청 발전시킬거임. 실제로 보이스피싱에도 이용되고 있고. 금지보단 대응하는 기술 개발이 더 현실적인 대처.

[@Ttlass]

맞아요 그리고 제재하기엔 너무 멀리 와버려서 통제는 불가능한 것 같아요ㅠㅠ

[@songtaeseobi]

금지하고 대응기술을 개발해야지 딥페이크 기술이 대응기술을 못 뛰어넘는다. 최대한 딥페이크 기술발전을 늦추는 게 세계적 안건

[@황현준-v1z]

@@Ttlass 기술 자체를 사용하는걸 제제하려고하니까 어려워보이는거죠. 기술을 악용한 사례만 처벌하면됩니다.

[@Ttlass]

@@황현준-v1z 기술 사용 자체를 제재하는 것은 너무 힘들고 처벌을 강화해야 한다는 것에 동의합니다
다만, 기술을 제재하는 것을 지향해야 한다고 생각하는게 계속해서 생길 피해자가 조금이라도 줄기를 바라기 때문이에요

[@숲속의제인]

관심받고 싶은 마음을 줄이려고 인터넷에 얼굴 사진 개인 일상 사진을 전부 삭제하고 올리지도 않은지 ㅁ벌써 몇년인데 이런 온라인 은둔이 나를 살렸다니…

[@ueckbueck]

문제는 의료계, 정치계 외에도 테크계로 간 인재들이 얼마나 도덕적인가에 달려있는데 다큐에서 보면 별로 그렇지 못한 사람들이 꽤나 많이 이사자리에 있는…

[@가루빌]

이딴걸 왜 개발함

[@Isl33p]

지금은 사람만 딥페이크지만, 나중엔 건물, 자연환경 등 주위의 모든걸 다시 만들 수 있기 때문임.

[@bgkim2010]

딥페이크는 재미로는 좋지만 확실히 범죄 사용이 피해가 젤 크다는게 문제인데 이게 쉽게 딥페이크인지 아닌지 확인 되는 기능이 있어야함

[@wjdgodls111]

인터넷은 새로운 정보를 접하는 곳이 아닌, 현실의 추억을 기록하는 곳이라는 걸 우린 다시금 되새겨야 합니다.
여기서 뭔가 정보를 접하지 않더라도 충분히 직업을 갖고 취미도 즐길 수 있어요

[@션-v2y]

아 벨라 손 좋아하는데 진짜 너무 속상하다

[@발빠짐쥐]

성인 되자마자 마약하고 양성애자 커밍아웃하고 온리팬스까지 했던 사람을 좋아하다니 대단하군. 최소 5년 전에 일어났을 일을 가지고 이제와서 속상하다고 말할 정도로 관심이 없는 걸 보면 모르고 있었나?

[@zavkim6870]

끔찍하네요 진짜

[@user-yu2tu7qv5o]

남일이 아니다..누구든 피해자가 될수있음

[@ingmonsol]

이 기술이 좋게 쓰일 일이 도저히 생각나지 않음 그냥 만든 순간 이건 악용될거라는 생각을 했겠지만 걍 뿌린거겠지. 그나저나 아버지가를 잃어서 울고 있는 모습을 악용한걸 알았을때 충격이 엄청났을거 같다..

[@아무개-r4c]

오징어게임에 케인 합성할 때부터 예견된 일이지

[@mastermhr8605]

이미 19년도 부터 예견되어져 왔고 당연한 결과라고 생각합니다. 상식적으로 너무 뻔하지 않나요? 분명 악용하는 사례들이 나올 기술인데 방치해왔다는게 그저 놀랍습니다.

[@이나무-g1w]

사람들의 의식이 기술을 따라오지 못함. 그리고 딥페이트 개발자들도 그것을 알고 있음. 단지 돈을 위해 모두에게 개방했을뿐.. 이것은 당장 금지해야 한다.

[@jungwankim8440]

윤리적 공백이 너무 심함 진짜.

[@hongsitasty22]

세상이 더 삭막해지네

[@ddemmkkimm]

다르 문제는 이제 범죄 영상을 증거로 찍어와도 딥페이크 조작이라고 주장하면 반박이 어렵다는 것

[@zorococo1993]

지옥불 속에 산다.
한국 여성들아 죽지말고 살아남자!!
우린 그럴수 있어!!

[@Vanilla_Flower_I]

이거 처벌 기준 강화하는 법을 만들어야 하는거 아닌가? 왜 이런것에 대한건 법을 바꾸거나 법을 만들지 않는거지?

[@Mj-qw9qu]

옛날영상이면 제목에 표시도 좀 해주세요

[@prismradio]

지금 펼쳐지고 있는 딥페이크 범죄 양상들을 보면 차라리 지옥이 더 안전할 수 있겠다는 생각까지 듭니다......

[@발빠짐쥐]

오케이 지옥으로 가자구~

[@cyan963]

영상도 5년 전이고, 이미 몇 년전에 구분하기 힘들 정도의 딥페이크 유튜버도 있었기에 지금 사태는 한참 전부터 예견됐던 일들임. 그때도 이런 기술이 발전해봤자 사회에 돌이킬 수 없는 악영향을 끼칠 기술인데 왜 이런거에 열을 올리나 이해 안 됐음. 순수하게 좋은 쪽으로 사용될 일도 그다지 없고 좋게 사용한다고 쳐도 그게 메리트가 큰 것도 아님.. 솔직히 딥페이크 기술 발전을 기대해온 사람들 중 99%는 음란물때문일걸

[@amuroanakin3246]

솔직히 이런 기술이 왜 필요한지 모르겠음.