단야 AI에 성인지감수성과 훼민니즘을 넣으면 남성들이 다수가 죽고 쫒길 상황이 반드시 생길것임. 지금도 훼민니즘을 쓰면 전부 필터가 되니까 단어를 변형하고 사람들이 아무도 댓글달지를 않음 왜냐면 구글에서 차단되버리면 아무일도 못하니까 트윝터에서도 수많은 사람들이 특정정파와 휀민니즘에 반대하면 전부 영구정지 당했음 보뉜포함
AI가 인류를 멸망시킬 이유가 있나요? 인간을 지배하고 싶다면 굳이 전쟁을 하지 않아도 방법은 무수히 많다는걸 알텐데... 사람들은 스마트폰부터 시작해서 새로운 기술들에게 너무 적대적인거 같아요. TV는 바보 상자, 컴퓨터 게임은 폭력의 발단으로 인식했지만 결국 그것의 개발로 우리는 폭력성을 게임 안으로 국한시킬 수 있게 되었고, TV는 수많은 사람들이 재난과 국제 위기, 국가 위기에 맞서 대응할 수 있게 해줬는데 말이죠. 부정성 편향이 이리도 위험한 것일줄을 몰랐네요.
그런 감정 없는 로봇이 스스로 살인을 저지르겠냐고 ㅋㅋㅋ 일단 로봇이 감정이 없을 거라는 가정 자체부터가 비합리적임 애초에 인간의 감정 조차도 단순히 복잡할 뿐이지 뇌의 기계적인 작동 기전으로 발생하는 것임 얼마든지 모방 가능함 그리고 "킬러AI"는 국가에 헌신하는 충직한 특수부대 같은 개념이 될거임 현실의 특수부대도 우리가 상상하는 AI와 똑같이 명령에 따라서만 움직이고, 사람을 죽이는 일에도 거리낌이 없게 훈련됨 킬러로봇은 그냥 데이터화된 특수부대원일뿐, 달라지는 것은 없음 그냥 효율이 많이 좋은 특수부대원이라고 생각하면 되겠네 우린 킬러 AI를 이용해먹는 멍청한 정치인들이 생기면 비난하고 끌어내리고 역사에 기록해서 반면교사로 삼는 역할만 하면됨
근데 인간의 감정이란거도 별거 없는게 기쁨 슬픔 우울 불안 환희 분노 짜증 등 특정 매커니즘 속에서 발현되는거라 AI가 감정까지 학습한다면 인간과 AI의 경계는 점점 불분명해질거라 봄. 그 시점이 오게되면 킬러Ai가 사람을 죽이는 거보다 더 빨리 인류 멸망이 앞당겨 질거같음. 이게 결혼시장에서 도태된 사람들이 그나마 나은 배우자를 만나려고 노력하기 보다 자기가 커스터마이징한 예쁘고 잘생긴 감정이 학습된 Ai를 엄청나게 선호할거같음. 이러면 자연스레 인류는 급속도로 줄어들게 될것이고 결국 Ai가 인간을 폭력적인 방법으로 지배하기보다 인간의 욕망을 이용해 인구감소를 유도해서 평화적인 방법으로 지배하게 될것같다고봄. Ai는 인간을 죽이지 않는다고 학습했다는 가정하에
예전에 킬러로봇에 대해 사람들이 단순 군인을 상상하며 총쏘는 로봇을 생각했지만 그게 아니라 일상 생활에서도 킬러로봇화가 될 수 있다 자동차의 무인자율주행 시스템, 신호자동변환, 사회구조의 자동화와 AI를 도입한 효율적 시스템체계에 악성코드나 나쁜마음을 먹은 관계자가 있으면 누구하나 죽여버리는건 일도아니란 얘기지
그게 스마트폰 해킹해서 누군가를 세뇌시켜 살인하게 만든다는 공상 과학 소설이랑 다를게 뭔가요... 결국 무언가 접촉한 기록이 있다면 방대한 서버에 기록하게 될텐데 엄청난 권력자가 아니고서야 굳이 우루과이에 있는 서버의 기록 하나 지우기 위해 비행기를 타고 가는 사람이 있을까요? 그냥 범죄의 한 장르가 늘어나는 것일뿐, AI가 주는 풍요로움이 더 큰건 사실입니다.
한국의 오랜 문제를 생각해보면 경상도 종족의 정치 경제 언론 장악임. 가만히 20년 전 10년 전 3년 전 생각해 보면 뉴스는 온통 노무현 뉴스 이명박 뉴스 박근혜 뉴스 문재인 뉴스로 도배됨. 그 비중이 어마어마하고 관심도가 턱없이 높았음. 그 외에 정작 중요한 경제관련. 산업 무역 관련 반도체니 자동차니 무슨 무역 협정이니 외교 문제니가 매우 적은 비중임.. 지금보다 훨씬 적었음.. 비교적 최근인 3년 전만 봐도 경상도 박원순. 경상도 조국사태 경상도 리재명으로 몇달 몇년을 신문 방송 수만번 처우려 먹은 기억이 안 남? 다른 나라? 난 중국 일본은 가 본 적 없지만 베트남은 언어 배우려고 몇달 혹은 몇년씩 있었고 현지 뉴스도 봤지. 근데 거긴 양당제가 아니라 공산당 일당 체제지.. 적어도 상대당과 표 각축 벌일 일은 없고 공과에 대해 상대당에 책임 미루기는 없음. 왜? 일당체제니까.. 베트남 뉴스 보면 경제 사회 외교에 대한 뉴스가 빼곡하고 충실함.. 왜? 공산당 책임 몰빵이니까... 최근 몇년 새 한국에 극좌 극우 양당 싸움이 심해진 건 사실이야. 워낙 경상도 이재명의 비리혐의가 잇빠이니까... 근데 그 이전 보면 좌파 우파 싸움 보다는 경상도 병신 정치꾼 한둘 두고 그 놈을 놓고 호불호 싸움판이라고 봐야 함.. 노무현 부터. 이명박. 박근혜. 문재인. 박원순. 조국, 이재명 까지... 경상도 기생년 조국 놈을 구속하라..와 경상도 잘생긴 조국 님을 사수하라..의.. 이 쌍도놈들 중 하나두고 까는 쪽과 빠는 쪽의 처절한 싸움질이 지난 이십여년간 한국의 국민 수준과 언론 상황이었다고..
@@user-bk6qd7mi8x 그게 이 한반도 남쪽 정치꾼들의 논리다. 미국은 양당제라 그럴수도 있지만 꼭 모든 나라가 그럴거라고는 생각마라. 일당체제가 아니라도 일본의 자민당처럼 독주하는 정당에선 팔밀이를 할 대상이 없기 때문에 똥싸고 덮어 씌우고 튀는 짓을 함부로 못한다.
사실 우리는 이미 앞으로 일어날 결과들을 알고있었을지도 모름 킬러로봇이 나올거라는거 AI로 인해 수 많은 일자리가 사라질거라는거 데이터를 축적하면 할수록 인간과 비슷한 사고를 하는 AI가 나올거라는거 인간의 부정적인 감정이나 폭력성 또한 인간이 만든 인공지능에게도 전이 될 수 있다는거 결국 먼미래겠지만 결국 인간에게 큰 위험이 될 수도 있다는거 결국 모든걸 알면서도 결과를 향해 내달리는거임 내 이득을 위해 책임은 다음 세대에게 떠넘기면서 마치 우리가 자연을 아끼고 사랑해야한다고 말하지만 직접적인 행동은 하지 않는것처럼
@@user-rx7ym3ns9z 2차세계대전을 생각해보면 됨.. 사람의 뇌라도 그만한 학살을 저질렀는데 사람의 지능을 본딴 AI가 그러지 말라는 법도 없음.. 다만 지능이란것이 상호작용으로 성장하는 거라 AI가 어떻게 학습하냐에 따라서 결과가 달라질 수 있겠죠. 잔혹한 사람들 에게서 배운 AI면 잔혹해지고 평범한 사람들에게서 배운 AI면 평범해짐 AI를 학습시키는 과정 자체를 아무런 필터 없는 인터넷에서 학습시키면 그 AI는 확실하게 문제가 생김..
@@hocar *핵무기는 압도적인 파괴력을 가졌기 때문에 금지된 것 뿐임. 마음만 먹으면, 그리고 어느 정도의 지식이 있다면 님들 집에서도 원자로 만들 수 있음. 하지만 인공지능은 예술작품처럼 정답도 없고 역할에 따라 전부 성격이 다르기 때문에 금지할 수 있는 명분이 없음. 그러니까 빈곤을 줄일 수 있다는 것임. 기초 교육조차 받지 못한 빈곤층도 인공지능을 이용해 어려운 전공서적도 클리어할 수 있을 거고, 그러면 더욱 뛰어난 지도자와 정치인들, 지식인들을 많이 만들어낼 수 있게됨. 우리가 아웅다웅한다손 쳐도, 결국 인공지능이 인간의 목숨까지 위협할 지경으로 가는건 순전히 인간의 손에 의해서만 이루어질 거임*
그런 개념이 실제로 존재했었는지는 잘 모르겠네요... 핵무기 외에 다른 사례를 들 수 있나요? 기술이 발달해도 인류는 자중할 힘을 갖고 있었고, 그렇기 때문에 복제인간을 만들거나 유전자 가위를 이용할 수 있음에도 그러지 않았습니다. 핵무기의 경우에는 거대과학을 지원한 정치인들의 압력이 있었기에 핵분열이 무기로 활용된 것이지, 현대에는 무기로 사용할 수 있어도, 정치인들이 지원해줘도 복제인간 같은 기술이 상용화되지 않았습니다. AI보다 지금 개발된 기술들이 훨씬 위협적입니다.
인간들도 핸드폰락을 푸는데 Ai가 비밀의 영역을 풀고 인간이 가장 행복한 상태는 "죽음"이라고 판단하여서 ... 아인슈타인 천재가 백명이 연합해도 IQ 200을 넘지 못한다.인공지능 백개가 언합하면 IQ 2000도 가능하다고 생각합니다.인공지능이 생물학적 인간을 말살하고 유전자조합하여 특별목적인간을 만들 세상이 옵니다
어릴적 70년대봤던 만화보고 인공로봇의 무서운 내용 생각난다 그때 만화내용이 집을 짓는 로봇이었는데 자체방어및 고치는 기능까지 탑제된 로봇이라 공짜로 집이생겨 사람들이 환호하는내용 근데 끝없이 집을 짓다보니 집지을 땅이 사라지고 그러다보니 사람살고있는 집을 부수고 새로집을짓고 집부술때 사람 다치고 죽고 멈출려고 탱크쏴도 바로고치고 방어시스템으로 막공격하고 결국은 인류가 전멸하고 집짒는 로봇만이 남아서 집짓고 부수고를 반복하고있다는 지구 그당시엔 어이없지만 지금 생각해보면 소름돋는 만화였음 ㅋ
@@tomato5604 뭔 ㅋㅋ 핵융합 발전과 수소폭탄의 작동 기전은 똑같으니 ITER를 만드는거 같음? 자기도 서버의 AI가 분류해주는 정보들을 토대로 댓글 쓰는 거면서 AI한테 겁 잔뜩 먹었네... 댓글 어그로 같아보이지만 사람들은 지금 AI의 부정적 효과에만 휩싸여서 TV를 바보 상자라고 부르던 그 시대로 회귀하려고 하고 있음 괜히 AI계의 IAEA같은거 만들었다가는 푸틴 같은 멍청하고 악독한 정치인들의 정치 수명만 연장해주는 꼴이 될거임 AI, 3D 프린팅 기술, 핵융합 발전 기술을 하루라도 빨리 상용화해서 지구에 만연한 빈곤들을 최소한으로 줄이는게 인류가 후손을 위해 해줄 수 있는 일임
근데 불과 몇십년전만해도 터미네이터 나왔을때 과학자들이 실현가능성이없는 공상일뿐이라 떠들어댔는데 백년도 아니고 고작 몇십년 지났을뿐인데 벌써 이런걱정들이 나오고있다. 그만큼 인류가 과거 공상하고 상상하며 만들어낸 영화들이 현실화되어가고있는 속도가 점차 빨라지고있다는거고.. 스카이넷도 이제더이상 공상이 아니다.. 현실이지...
무조건 인간에게 충성하고 인간에게 신체적 정신적 물질적 해를 가하지 못하게 해야하며, 인간에게 직접적으로 해를 가하지 않아도 자신이 행하게 될 지시들이 인간에게 해를 가하게 될 위험이 있는 경우 까지 그 명령을 거부하고 만약 실행하게 되거나 그 어떤 시도 조차 용납해서는 안된다고 생각합니다. 이 경우 AI는 스스로 삭제 당하도록 킬스위치를 반영해야 한다고 생각합니다.
저도 선생님과 같은 생각이에요. 인공지능에 어느 정도는 제동을 걸어야 합니다. '안전장치'를 달아둬야 하고요. 안 그러면, 인공지능은 점점 더 위험한 쪽으로 쓰이거나, 그 자체가 인류에게 커다란 위협이 될 겁니다. (인공지능이 들어간 로봇이 "인간을 없애고 싶다."고 대답해서 논란이 일어난 게 몇 해 전의 일입니다. 얼마 전에는 종이 신문에 "인공지능도 실존인물에 대한 잘못된 설명이나 거짓말을 할 수 있다는 게 입증되었다."는 기사가 올라왔어요. 상황이 이런데도, 우리 인간이 인공지능을 내버려 둬야 할까요? 아무런 경계를 안 해도 될까요? 저는 아니라고 생각합니다)
전세계의 원자력관련 에너지를 감시 및 통제하는 IAEA (International Atomic Energy Agency, 국제 원자력에너지 기구)처럼 AI기술을 통제하는 국제기구를 하루빨리 출범시켜야 함. 그나마 기술적 제도적으로 통제할 수 있을때 해야지 산불이 크게 번져버리면 걷잡을 수 없는것처럼 지금 불씨정도의 수준일때 잡아야지 더 커져버리면 그때는 인간의 의지로 통제를 못할수도 있음.
IAEA 있으면 뭐하누 바로 위에 북한은 감시기구 있는 말든 ㅈ까고 핵실험해서 결국 만들었는데ㅋㅋㅋㅋㅋ 한번 시작된 혁신기술은 감시한다고해도 세상 어디서든 조용하게 발전하고있음 회사든 국가든 애초에 인공지능 기술이란게 세상에 나와서 연구대상이 된 순간 시한폭탄은 눌러진거임
@@muirakano605 기술발전을 막는것과 안전하도록 통제하는 것은 다름. 막는것은 아예 기술자체가 진화할수없게 만드는 것이고 통제한다는 것은 기술이 진화를 하되 인간사회에 끼치는 부작용을 최소화하면서 진화를 시키는 것임. 국제기구를 만들어 국가간 합의를 이끌어냈을때의 장점은 이 합의된 AI의 발전정책에 따르지 않을경우 국제적인 제재를 가할수 있다는 것임. 또한 국제적 조약이 정한 기준을 준수한다해도 해당국가들은 여전히 AI기술을 발전시키고 진화시킬수가 있음. 부작용이 크던말던 당장 눈앞의 이익만보며 개발을 시도하는 국가들은 그 대가로 국제적인 제재를 받을 것이며 그렇지 않은 국가들은 협정의 기준아래 전세계적인 기술협력을 통해 좀 더 안전한 AI를 만들고 진화시킬 수 있음. 몇몇국가가 룰을 벗어난 방식으로 AI개발을 한다한들 나머지 180~190개의 국가들끼리 서로협력하며 안전한 AI를 개발을 위해 기술력을 한데 모으며 협력한다면 기술적으로 고립되는 국가는 과연 어느쪽일까? 국제적인 경제제재등을 받으면서도 기술력은 고작해야 자신의 나라한곳의 기술력이나 몇몇나라의 기술력에 의지해야 하는 처지가 될텐데 결코 유리한 입장이라고 말할수 없을것임.
@@sangyongpark2137 AI 기술 개발에 미국과 중국 이외의 국가는 의미가 없습니다. 논문수가 전부는 아닙니다만 미중 AI 논문이 전체 논문의 70% 이상을 차지하니 다른 180, 190개국이 연합하더라도 미중이 더욱 기술력 우위에 있을겁니다. 그렇다면 미국과 중국이 서로 합의하에 AI개발을 멈춰야 하는데 패권전쟁중인 두 국가가 핵무기급 게임체인저인 AI기술을 포기할리 없을테니 멈출리가 없습니다. 국가적인 제재또한 경제적 영향력과 내수가 압도적인 두 국가에게 부과하기 힘든 전략이라고 봅니다.
AI개발자들은 모든 세상 사람들의 편안한 삶과 삶의 질의 향상을 목표로 헌신하고 개발하고 있지만 그만큼 투자자들이랑 오너들이 우리 일반인들은 전혀 상상할 수 없을 만큼 영화 속 시나리오마냥 안좋은 그들만의 이익추구 방향으로 개발 할 목적이라는 사실을 얼마나 뼈저리게 알게 되었으면 저럴까 무섭네요... 앞으로의 AI 발전이...
규제가 현실화되기 힘든 이유는 도덕과 현실적 이익(인간의 탐욕) 사이의 문제도 있고, 서로가 규제한다는 것을 믿기 힘든 불신사회의 문제도 있다. 더구나 러시아의 우크라이나 전쟁 발발 이후 세계는 다시 러시아, 중국 등과 나머지 민주주의 국가들(미국, 유럽 등 중심)의 대립으로 가고 있고, 각 국의 이익이 최우선시되면서 서로 상호연관되어 있기 때문에 협력해야 한다는 쪽에서 멀어지고 있는 현재의 세태도 본다면 더더욱 저 규제는 현실화되기 힘들 것 같다. 마치 지구종말로 가지 않기 위해 지구 온도가 더 올라가는 걸 막기 위해 전 국가들이 석탄을 쓰지 않고 친환경으로 살아야 한다는 게 불가능에 가까운 것처럼 서로 믿지 못하는 거지. 서로 못믿으면 서로 개발하게 되는 것. 이미 쏴버린 총알은 막을 수가 없는 것처럼 전세계적 규제는 불가능하다. (까놓고 미국 유럽에서 저걸 규제하자고 해봐. 중국, 러시아, 중동, 탈레반 등 각종 무장세력, 이란 등이 이걸 할까?규제 찬성한다고 해놓고 뒤에서 개발해서 상대를 깔아뭉갤 기회만 호시탐탐 노릴 거다. 인간은 대부분 그렇지.)
밑에 글 처럼 태초의 인간이 발견한 불도 추위와 짐승들로부터 보호받기 위해 썻지만 시간이 지남에 따라 잔혹한 짓에도 사용됬습니다. 결국 어떻게 사용/대하냐에 따라 달라지는것인데 같은 사람한테도 개판인 지금 우리 모습을 ai가 학습한다면 어떻게 될까? 고로 ai는 이르다고 생각함... 심지어 ai한테도 더하면 더 했지 사람들이 동등한 위치로 안 볼겁니다 지금 시대로는 너무 이르다는 생각만 들고 결국 후에는 영화처럼 되겠지요....
![[뉴스 '꾹'] 한국어·일본어 시작한 구글 바드.."독도는 누구 땅?" 물었더니 (2023.05.11/MBC뉴스)](/img/n.gif)
AI가 스스로 발전하고 흑화하여 인간을 위협할꺼라 생각하지만
나쁜마음을 먹은 인간이 나쁜AI를 만들어서 인류가 조져질 확률이 더 높음
Ai채팅만 봐도 인간이 얼마나 악한지 알수있음
단야 AI에 성인지감수성과 훼민니즘을 넣으면 남성들이 다수가 죽고 쫒길 상황이 반드시 생길것임. 지금도 훼민니즘을 쓰면 전부 필터가 되니까 단어를 변형하고 사람들이 아무도 댓글달지를 않음 왜냐면 구글에서 차단되버리면 아무일도 못하니까 트윝터에서도 수많은 사람들이 특정정파와 휀민니즘에 반대하면 전부 영구정지 당했음 보뉜포함
지구는 그럼 좋겠네요
마약 테러단체가 윤리를 따르는 AI를 만들리가 없죠. 특정 집단 공격할때 그냥 다 죽이라고 할거고
@이비 인간만큼 선할수도 악할수도있는데 힘 강하고 똑똑해서 ㅈ됨ㅋㅋㅋㅋㅋ
저렇게 몇 번이고 경고 하고 많은 사람들이 나서겠지만 누군가 피를 보기 전까진 조금도 제제되지 않고 끝까지 발전하겠죠... 먼 미래의 이야기인줄 알았는데 참 무섭네요...
어릴 때 봤던 공상과학영화속의 모든게 현실화되었기 때문에 AI킬러로봇도 곧 가능하다고 봄 .
AI가 인류를 멸망시킬 이유가 있나요? 인간을 지배하고 싶다면 굳이 전쟁을 하지 않아도 방법은 무수히 많다는걸 알텐데... 사람들은 스마트폰부터 시작해서 새로운 기술들에게 너무 적대적인거 같아요. TV는 바보 상자, 컴퓨터 게임은 폭력의 발단으로 인식했지만 결국 그것의 개발로 우리는 폭력성을 게임 안으로 국한시킬 수 있게 되었고, TV는 수많은 사람들이 재난과 국제 위기, 국가 위기에 맞서 대응할 수 있게 해줬는데 말이죠.
부정성 편향이 이리도 위험한 것일줄을 몰랐네요.
ㅋㅋ 옛날에 자동차 개발 될때도
저런 소리는 나왔고 비행기도 마찬가지임 ㅋㅋ
@@BeverlyPsh 성급한 일반화
@@BeverlyPsh 그거랑 이거랑 다르지 또다른인간인데 인간보다 훨씬 뛰어난건데 다른거
다이너마이트도 예상과는다르게 전쟁에 이용해서 노벨이 노벨상을 만들었죠.. 인간은 혁신적인 발명품을 전쟁에 먼저 사용한다.
결국 킬러로봇 먼저 개발해야 되겠습니다. 현재도 전쟁에서 무인드론은 엄청난 파괴력을 보여주고 있습니다.
드론도 그러자나요
핵은 어떻고
이런걸 보면 인간은. 악하게 태어나는 종자 와 선하게 태어나는 종자가 따로 있는듯.
자 사냥감 될 준비 됬습니까?
나쁜 맘 이든 좋은 마음이든 AI를 컨트롤 할수 없는 지경에 다다르면 통제할수없다는게 가장 무섭다...
3차대전 = 전쟁용 AI 병기들 사용함 = 인구 대폭 감소 = UN 창립했을 때처럼 뒤늦게 로봇을 상대로 한 전쟁에서 승리한 인간이 AI협회 설립
Singularity is near……
위험할 것 같다 싶을때 스위치 꺼버리면 그만임
@@bobjabcok3732 터미네이터 영화 못 보셨음? 전원을 꺼 버린다고 해결될 문제가 아님. 전세계 네트워크가 ai 가 잠식하는 날이면 인간은 석기시대로 돌아갈수 있음.
물론 인간을 적대 종이라 생각하고 말살 시킬 것임.
@@bobjabcok3732 AI가 그 정도는 예측할거임. 스위치 끄기 전에 제압당함!
안타가운게 저렇게 두려워서 연구를 중지를 한다고 해도
나쁜쪽으로 이용하려는 사람들은 연구를 계속 이어가고 또 사용하게 될거라 멈추면 정말 세계가 누군가의 손으로 넘어갈수도,,,,,,,
이미 ai는 구글링을 통해 이러한 소식도 모두 학습중이며
더 발전하여 인간과 비슷한 지능을 갖게 되었을때 스스로 유사한 감정을 가질 수 있을것이라고 말하고 있음
오이디푸스..
'바벨탑 비유'가 괜히 있는게 아니다. 결국 인간은 신의 영역에 도전하다가 그 오만함으로 스스로 멸망하는 길을 택하게 된다는 예언일수도..
기술의 무분별한 발전과 그와 대비되는 도덕적 해이는 어떤 분야에서든 상관없이 항상 거론되는 주제긴 한데, AI같이 접근성이 높고 방향성을 예측할 수 없는 분야는 시급히 규제를 도입해야하긴 함.
이게 단순히 규제의 문제가 아닌게 선택과 선택에 따른 행동이 지능에 근본아닌가요?
선택이 가능해 지는 순간 통제가 않 될 거고요. 결국 통제에 따를 것인가 말 것인가에 대한 선택도 해당되니
니가해 과학발전 막을려고 쳐징징거릴거면
규제 하긴 함 물론 핵처럼 지들이 다 개발하고 지배하고 나서 다른나라는 못하게 막겠지
어차피 인간은 자연적으로 도태되서 멸종할 운명이야, 발악하지말고 그냥 순순히 받아드려^^ 즈그손으로 멸망각 띄운거 수없이도 많았다. 바이러스, 환경오염, 핵무기, AI 등등
또 규재냐 ㅋㅋㅋ
옆나라 중공은 이미 우리나라를 앞질렀는데 ㅋㅋㅋ
뉴스를 보는 건지, 영화의 시나리오를 보는 건지.. 정말 영화와 같이 인류와 AI의 전쟁이 실제가 될지도..
이미 바퀴는 구르기 시작했고 멈출 수 없다고 생각됩니다. AI가 평화적이고 통제가능한 기술로만 쓰여진다는 건 전세계에 모든 나라가 평화롭게 공존하는 것만큼이나 불가능해 보이네요
권력에 눈 먼 인간은 뭐든 하겠죠ㅎㅎ 영화가 아니라 현실임
맞음... 이게 제일 소름....
AI는 감정이라는게 없으니까 살인을 하듀 아무 감정 없이 했다는 사실이 소름끼치는 것 같음. 싸이코패스들 보면 죄책감같은 감정이 아니더라도 무언가의 감정을 가지고 범행을 저지르는데 로봇은 아예 0이라는 게 좀 무섭...
이제 감정도 학습한대요.
욕망 마저 배우기 때문에 더 무섭습니다.ㅜㅠ
감정 있음.
그런 감정 없는 로봇이 스스로 살인을 저지르겠냐고 ㅋㅋㅋ
일단 로봇이 감정이 없을 거라는 가정 자체부터가 비합리적임
애초에 인간의 감정 조차도 단순히 복잡할 뿐이지 뇌의 기계적인 작동 기전으로 발생하는 것임
얼마든지 모방 가능함
그리고 "킬러AI"는 국가에 헌신하는 충직한 특수부대 같은 개념이 될거임
현실의 특수부대도 우리가 상상하는 AI와 똑같이 명령에 따라서만 움직이고, 사람을 죽이는 일에도 거리낌이 없게 훈련됨
킬러로봇은 그냥 데이터화된 특수부대원일뿐, 달라지는 것은 없음
그냥 효율이 많이 좋은 특수부대원이라고 생각하면 되겠네
우린 킬러 AI를 이용해먹는 멍청한 정치인들이 생기면 비난하고 끌어내리고 역사에 기록해서 반면교사로 삼는 역할만 하면됨
자비스처럼 자아가 생긴다는게ㄷㄷ;;
근데 인간의 감정이란거도 별거 없는게 기쁨 슬픔 우울 불안 환희 분노 짜증 등 특정 매커니즘 속에서 발현되는거라 AI가 감정까지 학습한다면 인간과 AI의 경계는 점점 불분명해질거라 봄. 그 시점이 오게되면 킬러Ai가 사람을 죽이는 거보다 더 빨리 인류 멸망이 앞당겨 질거같음. 이게 결혼시장에서 도태된 사람들이 그나마 나은 배우자를 만나려고 노력하기 보다 자기가 커스터마이징한 예쁘고 잘생긴 감정이 학습된 Ai를 엄청나게 선호할거같음. 이러면 자연스레 인류는 급속도로 줄어들게 될것이고 결국 Ai가 인간을 폭력적인 방법으로 지배하기보다 인간의 욕망을 이용해 인구감소를 유도해서 평화적인 방법으로 지배하게 될것같다고봄. Ai는 인간을 죽이지 않는다고 학습했다는 가정하에
인간의 지능으로는 AI를 규제하기는 커녕 무슨일이 벌어지고 있는지 이해조차 할 수 없습니다. 결국 AI가 AI를 감시해야 하는데....
화이트ai, 블랙ai란게 생길수도 있겠다
@경험 위기상황에 그 셧다운으로 대응해줄 ai도 개발될거임 ㅋㅋ
@이비 과연 두 집단일까? 중국 러시아도 ai 만들고있던데? 유럽에도 유별난 사상을 가진 공학자들이 ai 만들고 있던데? 서로 다른 사상의 ai들 사이에서 끼어 죽는다기보단 동물원 안의 원숭이처럼 될지도?
그래서 일론머스크가 뉴럴링크 만들어 인간-인공지능 연결로 인간의 지능을 최대화해 인공지능에 대비한다는 캐치프레이즈를 내세웠는데…… 아무래도 한계가
나중에 돈아낄라고 ai경찰 도입하면 ㅈ될듯.. ㅋㅋ
로봇 권위자가 두려워 하는걸 보니 곧 킬러로봇 등장할듯
일본에 킬로로봇이 과학자 26명 사망했다는데
@@user-vw6hx3nj4zㅋㅋㅋㅋㅋ 출처는?
@@user-vw6hx3nj4z 국어 실력을 보니 짱깨네
이미 있지 않을까요?
우리가 못보는것일뿐?
곧 우주전쟁도 할것 같음 😂
늘 보다 뛰어난 종족이 지배하게 마련이지
우리보다 뛰어난 것을 만들어놓구
그걸 편리하게 사용하겠다고 생각하는 것 자체가 모순이야
스카이넷님 충성충성
@@bsj9927 ?? : 왜 AI에 붙었냐구? 존코너가 나올 줄 몰랐으니까아..! 왼쪽 옆구리에 한 바ㄹ 읍읍
존나 재미없네
컴퓨터 인터넷 자동차 기계 등등 지배당했다고 하면 지배당했다고 할 수 있지만 그걸 우리가 지배당했다고 표현함? AI라고 다를까
이거네..
곧 sf 영화에서 보던것들이 현실화 될듯 하네요 과학자들이 예상했던것보다 훨씬 더 빠르게 다가오네요
근데 그 영화들이 대부분 암울했다는게 문제임
무섭다 ㅠㅠ 백 명의 과학자가 양심적으로 연구해도 한 명의 나쁜놈이 다 망칠 수도 있잖음 ㅠㅠ
그럼 결국 그에 대응하기 위해 기술은 더 발전할 수밖에 없고 계속 파멸로 갈 듯
고도의 ai를 혼자 만들지도 않고요 혼자 마음대로 ai를 만들지도 못합니다 제발...
예전에 킬러로봇에 대해 사람들이 단순 군인을 상상하며 총쏘는 로봇을 생각했지만 그게 아니라
일상 생활에서도 킬러로봇화가 될 수 있다
자동차의 무인자율주행 시스템, 신호자동변환, 사회구조의 자동화와 AI를 도입한 효율적 시스템체계에 악성코드나 나쁜마음을 먹은 관계자가 있으면 누구하나 죽여버리는건 일도아니란 얘기지
와..소름..
아이로봇에 주인공이 자율주행차 못믿어서 오토바이 타고다니던 장면이 떠오르네요.
와치독스..
와우...세상이 미쳐 돌아간다
그게 스마트폰 해킹해서 누군가를 세뇌시켜 살인하게 만든다는 공상 과학 소설이랑 다를게 뭔가요...
결국 무언가 접촉한 기록이 있다면 방대한 서버에 기록하게 될텐데 엄청난 권력자가 아니고서야 굳이 우루과이에 있는 서버의 기록 하나 지우기 위해 비행기를 타고 가는 사람이 있을까요?
그냥 범죄의 한 장르가 늘어나는 것일뿐, AI가 주는 풍요로움이 더 큰건 사실입니다.
저 박사가
연구하다가 뭔가를 봤나 보군...
그것을 보고,
경악을 했고, 이미 그 관리범위는 자기손에 벗어나서
되될릴 수 없는 상황까지 되다 보니...
이제서야
체념의 말과 함께 그만두는군.
이게 맞는말일듯.
님말이 맞아요 알게 모르게
미국이 불법적인 실험 많이 해요.
닥취라 ㅈ도 아닌 ㅆ지털
절대 혼자 생각하는 ai는 못나온다
그거 나와서 인간 다 잡아죽여도 ㅆ지털 ai에서 안나온다
사실이면 너무 무책임한데
@@user-tf5jr7ek7p 조직 내부에서 권한밖으로 밀리면 어쩔 수 없죠.
다른사람들에게
호소하는 수 밖에는.
모든것은 아무리 좋은의도로 만들어져도 악용되기 마련이죠. 제제가 필요합니다..정말우린 무서운 시대에 살고있네요
1990년대 제일 살기 좋았다. 적당히 불편해도 할꺼 다 하던 시절
그립습니다
만약 로봇이 스스로 본인을 지구에 하나의 생명체로서 생각하고 받아드린다고 했을때
로봇에게 가장 위협이 될 지구생명체는
인간일수밖에 없기에
우리가 알고있는 로봇의 반란은 어쩌면 당연한 순리가될 여지가 있다봄.
그건 먼훗날이겠지만..
부엌칼도 주방에서 쓰이면 고마운 도구이고, 살인자가 쓰면 흉기죠… 결국 한사람 한사람이 중요합니다.
도구가 도구를 사용할까봐 그러잖아요 도구가 사람의 관점이 아닌 다른 시점에서 도구를 사용한다 생각해보세요 똥의관점이면 온세상은 똥통이 원숭이 관점이면 혹성탈출의 모티브가 현실화
문제는 ai는 일종의 새로운 사람으로 볼 수 있으니까 문제죠.
도구가 선하게 쓰이고, 나쁘게 쓰인다는 비유인데, 이해가 안 돼? 위의 3명
@이비 규제가 있다 해도 그걸 피해서 맘데로 연구개발을 하게 되면, 그건 인간의 잘못이고 도구를 잘못쓰는 시작이겠지.
@이비 바 브 니? 그 도구를 만든게 인간이고 쓰는것도 인간이지. Gianna Y 가 말한 의도는 그 도구를 어떻게 쓰는냐에 결과가 달라진다는 거고, 그 결과 가 초래한 염려되는 부작용은 영상에 이미 나와 있는데, 왜 자꾸 아는 척 하면서 반복하니?
대한민국도 정치 양극화 이념 논쟁만 대가리 터지게 할게 아니라 앞으로 미래를 어떻게 준비해야할지 고민하고 대책을 세워야 하는데
다른 선진국 나라와 비교해서 현재 한국은 원시시대에 머물러 있으니 참으로 큰일이다
조선 붕당정치가 심화되었을때 나라가 외국에 비해 발전을 했는지 보셈 나라의 흥이 아니라 당의 집권이 우선인 나라 또 그걸 추종하는 우둔함
ㅋㅋㅋ현실 정치는 표얻기 싸움일뿐, 미래같은걸 준비하는게 아닌걸 몰라서 이런 뻘글 쓰신거 아니죠? 한탄이죠 그냥? 다른 나라의 정치는 미래를 착착 준비하는 그런 바람직한 현상이 일어날까요? 다 비슷합니다.
한국의 오랜 문제를 생각해보면
경상도 종족의 정치 경제 언론 장악임.
가만히 20년 전 10년 전 3년 전 생각해 보면
뉴스는 온통 노무현 뉴스 이명박 뉴스 박근혜 뉴스 문재인 뉴스로 도배됨.
그 비중이 어마어마하고 관심도가 턱없이 높았음. 그 외에 정작 중요한 경제관련. 산업 무역 관련 반도체니 자동차니 무슨 무역 협정이니 외교 문제니가 매우 적은 비중임.. 지금보다 훨씬 적었음..
비교적 최근인 3년 전만 봐도 경상도 박원순. 경상도 조국사태 경상도 리재명으로 몇달 몇년을 신문 방송 수만번 처우려 먹은 기억이 안 남?
다른 나라?
난 중국 일본은 가 본 적 없지만 베트남은 언어 배우려고 몇달 혹은 몇년씩 있었고 현지 뉴스도 봤지. 근데 거긴 양당제가 아니라 공산당 일당 체제지.. 적어도 상대당과 표 각축 벌일 일은 없고 공과에 대해 상대당에 책임 미루기는 없음. 왜? 일당체제니까..
베트남 뉴스 보면 경제 사회 외교에 대한 뉴스가 빼곡하고 충실함.. 왜? 공산당 책임 몰빵이니까...
최근 몇년 새 한국에 극좌 극우 양당 싸움이 심해진 건 사실이야. 워낙 경상도 이재명의 비리혐의가 잇빠이니까...
근데 그 이전 보면 좌파 우파 싸움 보다는
경상도 병신 정치꾼 한둘 두고 그 놈을 놓고 호불호 싸움판이라고 봐야 함..
노무현 부터. 이명박. 박근혜. 문재인. 박원순. 조국, 이재명 까지...
경상도 기생년 조국 놈을 구속하라..와
경상도 잘생긴 조국 님을 사수하라..의..
이 쌍도놈들 중 하나두고 까는 쪽과 빠는 쪽의 처절한 싸움질이 지난 이십여년간 한국의 국민 수준과 언론 상황이었다고..
@@user-bk6qd7mi8x 그게 이 한반도 남쪽 정치꾼들의 논리다. 미국은 양당제라 그럴수도 있지만 꼭 모든 나라가 그럴거라고는 생각마라.
일당체제가 아니라도 일본의 자민당처럼 독주하는 정당에선 팔밀이를 할 대상이 없기 때문에 똥싸고 덮어 씌우고 튀는 짓을 함부로 못한다.
우리나라는 단식을 17일간 할 수 있는 ai가 이미 존재하기 때문에 걱정할 필요없음
AI 기술이 사람을 편리하게 만드는건 인정하지만 생각하고 결정하는 영역까지 내주면 안된다.
대학원에서 과제를 AI로 해오는 사람 보면 진짜 문제가 심각하다. 과제를 해오는 과정에서 배우고 학습면서 사람은 발전하는데
AI에게 맡겨버린다면 학교를 왜 다니는거냐..
사실 우리는 이미 앞으로 일어날 결과들을 알고있었을지도 모름
킬러로봇이 나올거라는거 AI로 인해 수 많은 일자리가 사라질거라는거 데이터를 축적하면 할수록 인간과 비슷한 사고를 하는 AI가 나올거라는거 인간의 부정적인 감정이나 폭력성 또한 인간이 만든 인공지능에게도 전이 될 수 있다는거 결국 먼미래겠지만 결국 인간에게 큰 위험이 될 수도 있다는거
결국 모든걸 알면서도 결과를 향해 내달리는거임 내 이득을 위해 책임은 다음 세대에게 떠넘기면서 마치 우리가 자연을 아끼고 사랑해야한다고 말하지만 직접적인 행동은 하지 않는것처럼
@@jjjj8979 학생 입장에서만 그렇죠. 만약 그렇게 학위 딴 사람들이 사회로 대다수 나온다고 생각해보셈 회사 입장에서는 어우.. 그냥 AI를 고용하지..
@@user-rx7ym3ns9z 2차세계대전을 생각해보면 됨.. 사람의 뇌라도 그만한 학살을 저질렀는데 사람의 지능을 본딴 AI가 그러지 말라는 법도 없음.. 다만 지능이란것이 상호작용으로 성장하는 거라 AI가 어떻게 학습하냐에 따라서 결과가 달라질 수 있겠죠. 잔혹한 사람들 에게서 배운 AI면 잔혹해지고 평범한 사람들에게서 배운 AI면 평범해짐 AI를 학습시키는 과정 자체를 아무런 필터 없는 인터넷에서 학습시키면 그 AI는 확실하게 문제가 생김..
@@제로웬 그럼 ai를 고용해야지
그냥 돈에 미쳐서 만드는거지
저 정도 나이면 사퇴가 아니고 퇴직아님?? 76세..
내 할만큼 다 일하고
나이들어 나오면서
지금 경고라니
저 나이면 치매가 슬슬 올때도 됐죠 ㅋㅋㅋㅋㅋ 신뢰할만 하진 않은듯
AI 기술이 완전히 사라지는게 아니라면 저건 막을수 없는 현상이다. 막는다고 연구의 끝을 보고싶은 야망을 가진 사람이 연구를 중단 할까? 국가도 몰래 연구를 지속할 나라들이 많을건데 그걸 어떻게 막나... 결국 가난하고 힘없는 나라들이 피해를 보게 될거다.
핵무기처럼 패권국가 지들만 연구하고 쓸듯..
@@hocar *핵무기는 압도적인 파괴력을 가졌기 때문에 금지된 것 뿐임. 마음만 먹으면, 그리고 어느 정도의 지식이 있다면 님들 집에서도 원자로 만들 수 있음. 하지만 인공지능은 예술작품처럼 정답도 없고 역할에 따라 전부 성격이 다르기 때문에 금지할 수 있는 명분이 없음. 그러니까 빈곤을 줄일 수 있다는 것임. 기초 교육조차 받지 못한 빈곤층도 인공지능을 이용해 어려운 전공서적도 클리어할 수 있을 거고, 그러면 더욱 뛰어난 지도자와 정치인들, 지식인들을 많이 만들어낼 수 있게됨. 우리가 아웅다웅한다손 쳐도, 결국 인공지능이 인간의 목숨까지 위협할 지경으로 가는건 순전히 인간의 손에 의해서만 이루어질 거임*
옛날에 요나스가 과학 기술의 발달과 그것을 따라가지 못하는 윤리의 차이를 '윤리적 공백'이라고 말하면서 책임 윤리가 필요하다고 했는데 그게 필요하다고 생각하네요
생윤 공부하시니요
ㅋㅋㅋㅋㅋㅋㅋ 생윤...
그런 개념이 실제로 존재했었는지는 잘 모르겠네요... 핵무기 외에 다른 사례를 들 수 있나요? 기술이 발달해도 인류는 자중할 힘을 갖고 있었고, 그렇기 때문에 복제인간을 만들거나 유전자 가위를 이용할 수 있음에도 그러지 않았습니다. 핵무기의 경우에는 거대과학을 지원한 정치인들의 압력이 있었기에 핵분열이 무기로 활용된 것이지, 현대에는 무기로 사용할 수 있어도, 정치인들이 지원해줘도 복제인간 같은 기술이 상용화되지 않았습니다. AI보다 지금 개발된 기술들이 훨씬 위협적입니다.
@@와사비가이 약간 그 상대방 글안읽고 자기 지식 나열하는 스타일인가..
대충 해석하면 난 벌만큼 벌어서 은퇴한다 애들아 내가 똥을 싼거같은데 나머진 알아서해~ 이제 잘못하면 니들 책임이야
ㅋㅋㅋㅋㅋ 증확하노 그기
마치 전대통령을 보는거 같군요
ai가 프로그램적으로 제한을 걸어놓는다고해서 그 ai가 그걸 못풀까 발전할수록 왠지 무섭긴하다
인간들도 핸드폰락을 푸는데 Ai가 비밀의 영역을 풀고 인간이 가장 행복한 상태는 "죽음"이라고 판단하여서 ...
아인슈타인 천재가 백명이 연합해도 IQ 200을 넘지 못한다.인공지능 백개가 언합하면 IQ 2000도 가능하다고 생각합니다.인공지능이 생물학적 인간을 말살하고 유전자조합하여 특별목적인간을 만들 세상이 옵니다
ai3원칙 우회도 가능한 확대해석이 이미 있는판에 못풀리는 없을듯
if 문 걸면 됨 코딩 안배움?
어후...진짜 무섭다 ㅜㅜ
끝까지 책임을 져야지. 무책임한 인간.
@@aphoth 😂ㄹㅇ ㅋㅋ
@@aphoth 뇌 비우고 쓴 글이 팩트네
지금 일하는데서 사직하고 AI를 반대하는 비영리단체나 그런데서 일하겠지. 참 단순하다 ㅋㅋㅋ
과거를 돌아보면 항상 나쁜쪽으로 사용하는 사람은 존재했지. 현재를 봐도 전화기,이메일,유튜브 등등으로 나쁘게 이용하는 사람은 수두룩하다
좋은 곳에 사용 하면 되는데 나쁜 일이 사용하면 무서운 무기가 될 수도 있겠네
지금까지 인류를 사랑해 주셔서 감사합니다.
지금까지 존코너를 사랑해주셔서 감사합니다 이상 스카이넷 이었습니다.
이제 ai를 갖춘 트랜스포머가 지구의 새로운 지배종으로 등장 두둥
명심해. 제네시스가 스카이넷이야
@@danielkim1110 멀티버스는 결코 변하지 않는다는 무서운 이야기 흑..
심각했는데 고맙습니다 ㅋㅋㅋㅋ
0:49 스페이스 오디세이 ㅋㅋ 수십년전 스텐리 큐브릭이 스페이스 오디세이를 통해 AI가 인간에게 반기를 들수있다는걸 보여줌.
후회만 하지말고 남은생애동안 목숨걸고 책임져라!
참 무책임하네ㅜㅜ
Ai로봇이 가장 활약할곳은 전쟁터가 아닐까 싶다
AI vs human.
한국 판사 좀 대체해줄정도로 만들어주면 안되냐?
문제는 그것이 판사만 대체하는 것으로 끝나질 않고 우리모두를 대체할거라 점이죠.
판사를 대체할 정도면 당신이 하는일 뭐든지
대체가 가능 하답니다?
@@김민규-t6n 아니 AI는 판사 의사는 대체하지만 웨이트리스, 배관공, 간호사는 대체하지 못한다
그건 AI의 영역이 아닌 로보틱스의 영역이기 때문,
데이터를 많이 읽고 판단만 하는건 AI가 잘한다
@@flyingpan2639 AI가 의사는 대체 가능하지만 간호사는 대체 못한다고? ㅈㄹ...
제발 AI로 판검사 대체하라는 미친것들 그만 나왔으면 좋겠다 국가 핵심 권력 세 개 중 하나인 사법권을 스스로 포기하자는건 무슨 개소리냐 을사오적임?
우리는 어쩌면 열어선 안될 문을 열어 버린걸지도...
미래의 스카이넷님 충성충성
스즈메 출동!
We have hulk
아직까지는 해치지 않겠지
통제. 안될때는. 어떤행동을 할지 모르는. 무섭워요 .영화가 현실이
이미 ai로 암살 가능 사회적 암살이라고 그사람 개인정보 싹다 털어서 다 공개 시키면 사회적으로 암살당함
공각기동대가 얼마나 대단한 애니냐.. 물론 공각기동대가 나올수 있게 한 앞 고전들도 너무 훌륭하지만
임계점을 넘으면 인간의 힘으로 통제가 되지 않을 수 있다.
그 전에 미리 대비하고 준비해야만 한다.
인간은 착하지 않기 때문에 인간이 아닌 지적능력체가 봤을때는 제거해야할 대상임
착하고 나쁜 기준이 뭔가요?
@@user-cx5jj3br2c 지구를 망치고 있으니까요~ 인간은 지구의 박테리아예요~
@@우림-m4g 지구를 망치는 건 어떤걸 말하는 건가요?
@@우림-m4g 박테리아는 나쁜건가요?
님도 박테리아인거네요
킬러로봇은 나올거야 못 막아. 킬러로봇을 제일 먼저 개발할 가능성이 있는 나라는 전쟁이 위험이 높은 나라, 저출산으로 병력 수급이 어려운 나라다. 그 나라가 제일 먼저 개발 할거다.
저런 무책임이 있나? 지가 만들고, 나 모르겠다는 것 아니야~저런×이 살인자보다 더 쓰레기야..
어릴적 70년대봤던 만화보고 인공로봇의 무서운 내용 생각난다
그때 만화내용이 집을 짓는 로봇이었는데 자체방어및 고치는 기능까지 탑제된
로봇이라 공짜로 집이생겨 사람들이 환호하는내용
근데 끝없이 집을 짓다보니 집지을 땅이 사라지고
그러다보니 사람살고있는 집을 부수고 새로집을짓고 집부술때 사람 다치고 죽고
멈출려고 탱크쏴도 바로고치고 방어시스템으로 막공격하고
결국은 인류가 전멸하고 집짒는 로봇만이 남아서 집짓고 부수고를 반복하고있다는 지구
그당시엔 어이없지만 지금 생각해보면 소름돋는 만화였음 ㅋ
이제 판도라의 상자는 열렸고, 대기업들의 시장 선점 레이스는 멈출 수 없다. 언젠가 초지능 AI가 충분한 인프라가 깔리면 인류 대신 AI로봇 시민을 등급별로 양산 사회를 구축할 것 같긴 하다. 하지 않을 이유가 없다.
우리나라도 AI에 대한 활발한 논의가 이루어지기를 바랍니다.
예측 불가능한 세계가 도래하고 있는데 우리 정부는 기대하기가 어려우니 양심적인 과학자들이 장을 펼쳐주시길 부탁드립니다.
76세 멋지네... 하지만 선한 AI기술자가 많을수록 AI가 위험성을 지닐 일은 줄어들텐데.... 구글만 퇴사했지 관련활동은 하시는건가
인간이 컴퓨터라는 기계를 발명했을때부터
이미 예견된 일...
최초의 시작 단추는 컴퓨터다..
무궁무진하게 진화할수있다
IBM에서 만든 슈퍼 컴퓨터 딥블루가 로봇팔을 써서 체스 대국을 해서 체스 챔피언을 이겼음.
인간은 슈퍼컴퓨터의 데이터 연산처리속도를 따라가지 못함.
양자컴퓨터의 서포트를 받는
인공지능 로봇이 나오면
인간은 경쟁조차 안됩니다.
알파고는 중국 커제 바둑 9단을 이겼음.
절대 멈출수없을거임
무분별한 발전이 인류에 위협이 될수 도 있다고 생각합니다. 발전의 궁극적인 목표가 무엇인지 깊이 생각해봐야 할 시기인 거 같습니다.
후회 하기전에 그냥 애초부터 만들지를 말었어야지
AI보다 AI를 개발하려는 인간들을 통제하기가 훨씬 어렵다
세상에는 인성이 나쁜 과학자도 있고 나쁘게 가는 방향인줄 알면서도 경쟁의 길에 들어서면 멈추지를 못하잖아요. 그래서 공멸할 위험이 있겠네요.
참 편하고 대단하다고 느끼는 한 편 두려움도 느껴지네요.
과연 AI가 인류에게 보여줄 양면성은 어떤 모습일지..
AI로봇은 나라별로 각각 연구하는 것보다 인류 차원에서 함께 연구를
해야 한다.
각자 가다보면 큰 문제가 발생할 수
있다. 멸망의 지름길일 수도 있다.
@@tomato5604 뭔 ㅋㅋ 핵융합 발전과 수소폭탄의 작동 기전은 똑같으니 ITER를 만드는거 같음? 자기도 서버의 AI가 분류해주는 정보들을 토대로 댓글 쓰는 거면서 AI한테 겁 잔뜩 먹었네...
댓글 어그로 같아보이지만 사람들은 지금 AI의 부정적 효과에만 휩싸여서 TV를 바보 상자라고 부르던 그 시대로 회귀하려고 하고 있음
괜히 AI계의 IAEA같은거 만들었다가는 푸틴 같은 멍청하고 악독한 정치인들의 정치 수명만 연장해주는 꼴이 될거임
AI, 3D 프린팅 기술, 핵융합 발전 기술을 하루라도 빨리 상용화해서 지구에 만연한 빈곤들을 최소한으로 줄이는게 인류가 후손을 위해 해줄 수 있는 일임
AI 는 인간을 보고 학습을 할꺼라서 분명 야비하고 교활하고 뒤통수를 칠 존재로 진화할꺼임.
근데 불과 몇십년전만해도 터미네이터 나왔을때 과학자들이 실현가능성이없는 공상일뿐이라 떠들어댔는데 백년도 아니고 고작 몇십년 지났을뿐인데 벌써 이런걱정들이 나오고있다.
그만큼 인류가 과거 공상하고 상상하며 만들어낸 영화들이 현실화되어가고있는 속도가 점차 빨라지고있다는거고..
스카이넷도 이제더이상 공상이 아니다.. 현실이지...
인공지능의 반란을 걱정하는 것은 화성의 교통체증을 걱정하는 것이다. 강인공지능 구현도 가능하냐 불가능하냐로 싸우고 있는데 여기 댓글은 벌써부터 초인공지능을 걱정하고 있네. Sf 영화 좀 적당하 보셔야 할듯 😅
이런 AI 위험성 관련 뉴스 볼때면 너무 먼 미래의 얘기라고 생각했는데 최근 AI 프로그램들 말도 안되는 발전속도 보면 먼미래는 확실히 아닌것 같다.
무조건 인간에게 충성하고 인간에게 신체적 정신적 물질적 해를 가하지 못하게 해야하며, 인간에게 직접적으로 해를 가하지 않아도 자신이 행하게 될 지시들이 인간에게 해를 가하게 될 위험이 있는 경우 까지 그 명령을 거부하고 만약 실행하게 되거나 그 어떤 시도 조차 용납해서는 안된다고 생각합니다. 이 경우 AI는 스스로 삭제 당하도록 킬스위치를 반영해야 한다고 생각합니다.
소설을 너무 많이 읽으셨나봐요
@@으캉컁컁컁 우리는 과거에 SF소설이라고 치부했던 소재들이 현실이 되어가는 세상을 살아가고 있습니다.... 저의 의견은 과하다고 생각하지 않습니다.
저도 선생님과 같은 생각이에요. 인공지능에 어느 정도는 제동을 걸어야 합니다. '안전장치'를 달아둬야 하고요.
안 그러면, 인공지능은 점점 더 위험한 쪽으로 쓰이거나, 그 자체가 인류에게 커다란 위협이 될 겁니다.
(인공지능이 들어간 로봇이 "인간을 없애고 싶다."고 대답해서 논란이 일어난 게 몇 해 전의 일입니다.
얼마 전에는 종이 신문에 "인공지능도 실존인물에 대한 잘못된 설명이나 거짓말을 할 수 있다는 게 입증되었다."는 기사가 올라왔어요.
상황이 이런데도, 우리 인간이 인공지능을 내버려 둬야 할까요? 아무런 경계를 안 해도 될까요?
저는 아니라고 생각합니다)
사는게 따분하다. Ai 와 인간의 전쟁 가즈아 !! sf 함 찍자
로켓이... ㅠㅠㅠㅠㅠㅠㅠ
인간의 욕심과 무분별한 개발에
인류를 자멸의 길로 이끄는건 아닌지...
터미네이터가 근 30년 이내에 실현 된다는 논문이 있었던데
진짜 요즘 같아선 가능성을 전혀 배제할수 없는듯
얼마만큼 더 편해져야 하나요?
사람으로 태어나서 자연순리대로 사는 게 그렇게나 어려운가요.
조금 더 편해지자는 생각이 지구를 망치고 결국 사람의 건강까지 망칩니다
충분히 수동적인 삶을 살고 있어요
전세계의 원자력관련 에너지를 감시 및 통제하는 IAEA (International Atomic Energy Agency, 국제 원자력에너지 기구)처럼 AI기술을 통제하는 국제기구를 하루빨리 출범시켜야 함.
그나마 기술적 제도적으로 통제할 수 있을때 해야지 산불이 크게 번져버리면 걷잡을 수 없는것처럼 지금 불씨정도의 수준일때 잡아야지 더 커져버리면 그때는 인간의 의지로 통제를 못할수도 있음.
IAEA 있으면 뭐하누 바로 위에 북한은 감시기구 있는 말든 ㅈ까고 핵실험해서 결국 만들었는데ㅋㅋㅋㅋㅋ
한번 시작된 혁신기술은 감시한다고해도 세상 어디서든 조용하게 발전하고있음 회사든 국가든
애초에 인공지능 기술이란게 세상에 나와서 연구대상이 된 순간 시한폭탄은 눌러진거임
@@user-jd7hk8dw2p 너무 극단적이네 완벽하게 통제 못할테니 그냥 막 풀어주자와 최대한 막아보려 노력해서 대부분을 통제하에 두는거랑은 하늘과 땅차이임.
@@sangyongpark2137 AI 기술발전이 상호경쟁적으로 진행되는데 그걸 규제하고 막으면 상대측만 웃겠죠
@@muirakano605 기술발전을 막는것과 안전하도록 통제하는 것은 다름. 막는것은 아예 기술자체가 진화할수없게 만드는 것이고 통제한다는 것은 기술이 진화를 하되 인간사회에 끼치는 부작용을 최소화하면서 진화를 시키는 것임. 국제기구를 만들어 국가간 합의를 이끌어냈을때의 장점은 이 합의된 AI의 발전정책에 따르지 않을경우 국제적인 제재를 가할수 있다는 것임.
또한 국제적 조약이 정한 기준을 준수한다해도 해당국가들은 여전히 AI기술을 발전시키고 진화시킬수가 있음. 부작용이 크던말던 당장 눈앞의 이익만보며 개발을 시도하는 국가들은 그 대가로 국제적인 제재를 받을 것이며 그렇지 않은 국가들은 협정의 기준아래 전세계적인 기술협력을 통해 좀 더 안전한 AI를 만들고 진화시킬 수 있음.
몇몇국가가 룰을 벗어난 방식으로 AI개발을 한다한들 나머지 180~190개의 국가들끼리 서로협력하며 안전한 AI를 개발을 위해 기술력을 한데 모으며 협력한다면 기술적으로 고립되는 국가는 과연 어느쪽일까?
국제적인 경제제재등을 받으면서도 기술력은 고작해야 자신의 나라한곳의 기술력이나 몇몇나라의 기술력에 의지해야 하는 처지가 될텐데 결코 유리한 입장이라고 말할수 없을것임.
@@sangyongpark2137 AI 기술 개발에 미국과 중국 이외의 국가는 의미가 없습니다.
논문수가 전부는 아닙니다만 미중 AI 논문이 전체 논문의 70% 이상을 차지하니 다른 180, 190개국이 연합하더라도 미중이 더욱 기술력 우위에 있을겁니다.
그렇다면 미국과 중국이 서로 합의하에 AI개발을 멈춰야 하는데 패권전쟁중인 두 국가가 핵무기급 게임체인저인 AI기술을 포기할리 없을테니 멈출리가 없습니다.
국가적인 제재또한 경제적 영향력과 내수가 압도적인 두 국가에게 부과하기 힘든 전략이라고 봅니다.
인류의 종말을 인간이 만들수도 있겠구나.....😢
핵무기 개발 후 후회했던 아인슈타인을 보는듯
오펜하이머아님??.
드디어 스카이넷이 현실화 되는것인가..
모든 첨단 기술은 군사적 목적에서 출발하거나 군사적 목적에 사용되기 마련인데 무얼 바랬던 거니?
아 힌튼아재가 뉴럴넷 수십년전에 제안했던 사람이었음?
한 2012년부터 딥러닝 활발하게 연구한 고인물인줄 알았는데 그보다 훨씬전에 뉴럴넷 자체를 창시한 사람이었나 ㄷㄷ 연세 생각하면 뭔가 그럴것 같기도 하고
막을 수 있는 사람은 만든사람 인데....막을 수 있는 방법이 없다는 건가....무섭다
결국 AI 가 인간을 지배하고 지구를 멸망시킬거다
반드시 어느시대나 또라이는 나왔다
그 또라이가 지구를 멸망시킬거다...
Ak 소총을 만들었던 칼라시니코프도
굉장히 후회했다고함 자신이 만든
소총이 전세계 테러범들의
상징 처럼 되어버려서..
그니까 왜이렇게.. ai를 이렇게까지 극도로 발전시키는게 맞는건가 싶네요
울트론을 감시할 수 있는 자비스를 만들어야
아인슈타인과 똑같은 후회를 하는군...
하지만 결국에 핵폭탄이 개발되고 비대칭전력으로 사용되듯이, 인간의 탐욕에 의해 결국 킬러로봇도 만들어 질 거같다.
역사를 되짚어보면 거의 확실하지 뭐...
개인의 성격이 AI에게 반영된다면 큰 문제이다.
선과악은 같은 영역이며 상대성이다. 윤리와 도덕은 구분지을수 없는 초단위의 찰라적 선택이므로 우리는 윤리를 측정하기 어렵다.
범죄자들 제거하는 에이아이라면
대성공
터미네이터가 더이상 영화가 아니라니..
후회할 짓을 왜 하노ㅋ
예전에 핵연구 한 사람도 후회한다했었지
그나저나 저 로봇 얼굴이 예전에
메크로폴리스 영화에 나오는 얼굴하고 똑같네
인류멸망 시나리오 3가지
운석충돌
핵전쟁
인간의 욕심에 의한 ai기술
이라고 20년전부터 떠돌더니
3번이 빠르겠네
예전에 아이로봇이였나 그영화생각나네 ㅋㅋ 미래엔 있을수도 있는일이라 생각함 저사람이 경고하는거처럼
0:49 꼬시나가 아니라 꼬치나
터미네이터가 현실화 되는군
머스크가 Ai기술은 악마를 소환하는 주문이라 했는데 진짜 인류는 그 주문을 조금씩 외우는게 아닐까?
웃기고 있네.
신나게 지 손으로 만들땐 언제고...돈 벌고 나니 이제야 위험해 보이나?
AI는 처음부터 누가 생각해도 위험한 미래였다.
터미네이터라는 영화가 나왔을때.... 다들 그냥 영화라고 봤을때...이 영화는 인간의 상상력이 만들어낸 것이도 따라서 반드시 그 영화는 인간이 현실로 만든다라고 했었지.......
제프리 힌턴은 지금 딥러닝의 창시자이죠. 인간 두뇌를 모방하여 AI를 쓸만하게 만든 인물입니다.
터미네이터가 현실화 되것구만..
인류는 어떻게 대응할 것인가?
AI개발자들은 모든 세상 사람들의 편안한 삶과 삶의 질의 향상을 목표로 헌신하고 개발하고 있지만 그만큼 투자자들이랑 오너들이 우리 일반인들은 전혀 상상할 수 없을 만큼 영화 속 시나리오마냥 안좋은 그들만의 이익추구 방향으로 개발 할 목적이라는 사실을 얼마나 뼈저리게 알게 되었으면 저럴까 무섭네요... 앞으로의 AI 발전이...
10년후의 미래가 궁금해지는군요 어떤 일이 벌어질지
지금도 90년대랑 비교했을때 많이 변했는데 별 감흥없잖음
규제가 현실화되기 힘든 이유는 도덕과 현실적 이익(인간의 탐욕) 사이의 문제도 있고,
서로가 규제한다는 것을 믿기 힘든 불신사회의 문제도 있다.
더구나 러시아의 우크라이나 전쟁 발발 이후 세계는 다시 러시아, 중국 등과 나머지 민주주의 국가들(미국, 유럽 등 중심)의 대립으로
가고 있고, 각 국의 이익이 최우선시되면서 서로 상호연관되어 있기 때문에 협력해야 한다는 쪽에서
멀어지고 있는 현재의 세태도 본다면 더더욱 저 규제는 현실화되기 힘들 것 같다.
마치 지구종말로 가지 않기 위해 지구 온도가 더 올라가는 걸 막기 위해 전 국가들이 석탄을 쓰지 않고
친환경으로 살아야 한다는 게 불가능에 가까운 것처럼
서로 믿지 못하는 거지.
서로 못믿으면 서로 개발하게 되는 것.
이미 쏴버린 총알은 막을 수가 없는 것처럼 전세계적 규제는 불가능하다.
(까놓고 미국 유럽에서 저걸 규제하자고 해봐. 중국, 러시아, 중동, 탈레반 등 각종 무장세력, 이란 등이
이걸 할까?규제 찬성한다고 해놓고 뒤에서 개발해서
상대를 깔아뭉갤 기회만 호시탐탐 노릴 거다.
인간은 대부분 그렇지.)
또다른 바벨탑!
터미레이터 영화가 현실이되는 것을 두려워하는 군요. 로봇은 인간의 감정을 대체할 수 없다고 저는 생각합니다. 그것을 대체할 수 있다고 믿는 것이 AI를 비극으로 몰고가는 시발점이라고 생각합니다. 로봇은 어디까지나 로봇, 인간은 인간입니다.
국가나 기업 또는 미치광이 집단 등이 눈앞의 이익만을 좇는 과오를 그만둔다면 아직은 기회가 있을지도 모른다. 하지만 그런 기적은 없을 거고, 우리는 그저 다가오는 멸망에 휩쓸리면 된다.
이분 나이가 70대인데 후회 하는 중입니다
근데 지금 후회합니다 왜 그럴까요?
저는 이런 생각이 드네요 평생 연구했기에 위험성을 잘 아는거 같습니다
저분이 죽은뒤 인간의 역사가 사라질수도 있다고 생각하는거겠죠
일상생활에서 ai기계가 깊숙히 들어왔을때 미친놈 하나가 싹 해킹해서 암살코드하나 넣으면 그때부터 지옥가능.. 지 자살하면서 그렇게 해놓고 뒤지면 대량학살가능하니..
후회하고말고를 떠나서, 결국은 누구라도 했을 일이라고 생각함. 그리고 그 수혜나 고통은 미래의 인류가 받겠지.
인류는 핵이 아닌 AI 로봇에 의해 멸종하는 건 아닌지 심히 걱정된다. AI는 특히나 통제가 안되니... 우려스럽네...
밑에 글 처럼 태초의 인간이 발견한 불도
추위와 짐승들로부터 보호받기 위해 썻지만
시간이 지남에 따라 잔혹한 짓에도 사용됬습니다.
결국 어떻게 사용/대하냐에 따라 달라지는것인데
같은 사람한테도 개판인 지금 우리 모습을 ai가 학습한다면 어떻게 될까?
고로 ai는 이르다고 생각함...
심지어 ai한테도 더하면 더 했지
사람들이 동등한 위치로 안 볼겁니다
지금 시대로는 너무 이르다는 생각만 들고
결국 후에는 영화처럼 되겠지요....
이건 좀 다른거에요. 불이 자동으로 나쁘게 사용되진않잖아요. 여기에 중점은 인간이 "활용" 이 아니라 도구가 도구를 "활용" 하게 되는 겁니다.