🤖HAL9000에게 일어난 사건의 진상ㅣ2001년 스페이스 오디세이 해석 리뷰
ฝัง
- เผยแพร่เมื่อ 22 ส.ค. 2022
- #인공지능 #AI #스탠리큐브릭
스탠리 큐브릭과 아서 클라크의 걸작
"2001년 스페이스 오디세이"와
그 후속편 "2010년 스페이스 오디세이"를 함께 묶어서
인공지능 HAL 9000에게 일어난 사건을 파헤쳐 보았습니다.
🚀 2001년 스페이스 오디세이 리뷰 모두 보기
• 2001년 스페이스 오디세이 리뷰 모두 보기
=========================================
Audionautix의 Deep Space에는 크리에이티브 커먼즈 저작자 표시 4.0 라이선스가 적용됩니다. creativecommons.org/licenses/...
아티스트: audionautix.com/
Kevin MacLeod의 Impending Boom에는 크리에이티브 커먼즈 저작자 표시 4.0 라이선스가 적용됩니다. creativecommons.org/licenses/...
출처: incompetech.com/music/royalty-...
아티스트: incompetech.com/
Audionautix의 Atlantis에는 크리에이티브 커먼즈 저작자 표시 4.0 라이선스가 적용됩니다. creativecommons.org/licenses/...
아티스트: audionautix.com/
AI목적을 인간의 행복이라고만 정의하면 인간을 메트릭스같은 기계에 가둬서 행복한 가상현실만 보게 만들수 있고 인간의 보호라고 하면 인간을 우리에 가두고 의식주만 충족하게 하면서 진짜 보호만 할 수도 있죠....특별한 악의가 없어도 효율만 따진다면 충분히 가능하다는 점에서 무섭습니다.
님께서말씀하신 부분들이 현재도 진행되는 일이라는 것이 소름끼치는 일이죠. 넷플릭스 드라마 블랙미러의 여러 에피소드, 특히 '샌주니페로' 같은 경우, 인간의식이 USB로 저장되서 ai 인공지능의 관리를 받는 것이 일종의 천국처럼 묘사 됩니다. 영화나 드라마뿐만이 아니라 현실에서 주커버그, 일론 머스크 같은 세계 엘리트들이 개발하고 있는 뇌 인터페이스나 뉴럴링크의 기술력들은 모두 인간과 ai의 결합을 통한 인간의 도약, 트랜스 휴머니즘을 지향하고 있는것도 일맥상통한 일이죠. 결국 인간이 육체의 한계를 벗어난 구원과 영생을 꿈꾸는 한, ai와 첨단 테크놀로지가 선사할 가짜 천국, 가짜 영생은 현실에서 실현될 것입니다. 영화 매트릭스에서 선보였던 장면처럼 말입니다.
@@tebah- 우리 죽을때까진 안옵니다
무한 츠쿠요미 ㅋㅋㅋㅋㅋ
그 정도의 기술 발전과 함께 다양한 상황에 대처하도록 인공지능 알고리즘도 발전할듯
인공지능 뭐하냐고 ㅋㅋ아
스페이스 오딧세이는 영화 속 디자인이 정말 믿기지가 않습니다. 하나 같이 세련 되고 감각적이네요. 60년대에 어떻게 저런 디자인을 구현 한건지 스탠리 큐브릭 감독이 정말 대단 하네요.
과학적 고증은 NASA 논문을 수천페이지를 뒤져가며 고증했다죠.
그래서 아폴로11호 달탐사 조작영상을 만들었을 것이란 설이 있습니다.
@@sohgyu 아직도 달착륙 조작 을 믿음?ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
@@user-ho1pj6zu9c그런 설이 있다고
그 디자인은 스타워즈와 배틀스타 갤럭티카 등 다양한 스페이스 오페라 영화들에게 전승되죠.
저는 그 시절 sf 디자인 문법이 정말 좋아요.
딱딱하고 차가운 플라스틱과 합금의 질감, 장식 하나 없는 깔끔하고 현실적인 형태가
와...항상 생각하지못한 부분을ㄷㄷㄷ
이영화나 원작보면서 AI 씬이 좀 뜬금없다 생각해서 이해하려고 했었는데 안되었었는데
영상보고 어느정도 이해했습니다ㅎㅎㅎ
2001만 보고 원작 3부작 중 2부인 2010은 안봤었는데 이번에 봐야겠어요ㅎㅎ
잘보고 가요ㅎㅎ
지금까지본 인공지능에 대해 소개한 영상중 가장 깊이있고 생각할게 많은 내용이었던거 같습니다.
진짜 이런게 바로 리뷰 아닌가요? 요즘 영화 리뷰 한답시고
그냥 짜집기 해서 올리는 분들 많은데 솔직히 그건 리뷰가 아니라고 봄니다
그게 영화 읽어주는 사람이지 리뷰임니까?
이게 바로 진짜 리뷰지
재미있게 잘 보고 감니다~
진짜 깊게 파고드는 리뷰는 요런 시점 채널이 최고...
이번 영상도 너무 좋습니다. 감사합니다.
요약 정말 잘하시네요. 채널 너무 재밌습니다. 구독 누르고 갑니다~. 화이팅 ^^
와 이 영상만으로도 너무 재밌다 추천 감사합니다!
와.. 분석 너무 좋네요! 생각지 못한 물음에 숙연한 기분이 듭니다. 좋은 영상과 컨텐츠 감사드려요
영상 잘 봤습니다~~~
2편이라길래 1편을 하셨었나...? 했는데 한참 전에 하셨었군요 정주행 하고 갑니다 잘봤습니다
와 2001 스페이스오디세이 ㅠ
수십번돌려봤었늗데 2 편이라니
감사합니다!
이것도 되새김질하면서 잘 보겠습니다
스페이스오디세이를 볼 때 미쳐 생각 하지 못한 철학적인 질문을 시점님 덕분에 스스로에게 할 수 있어 감사드립니다.
와 너무 깊이있는 채널입니다. 사랑합니다.
절대적으로 옳고 모두가 동의할 수 있는 '목표'를 설정하고, 이를 '언어'로 표현하여 정렬한다는 것이 가능할지...
괜히 탄소 기반의 지능은 실리콘 기반의 지능을 위한 촉매라는 농담을 하며 슬픈 자화상을 그리는 것이 아니죠.
그리 머지 않은 미래에 특이점이 온다는 것에 점점 동의하게 되는 요즘입니다 :(
드디어 2편이!!!
정말 시점님의 영상중 제가 안본영화 빼고는 대부분 본 것 같은데 이런 방대한 지식이 어떻게 가능한가요 가능하다면 영화관련 서적이나 자료들을 공유해주실 수 있을까요 항상 영상들 감탄하며 보고 있습니다
오 2편이 있었군요~ 봐야겠네요
훌륭한 리뷰 감사합니다
저도 감사합니다~^^
매번 1편 돌려보고있었는데 2편이 올라올줄은...1편이 1년이 넘어서 ㅋㅋㅋㅋ감사합니다:)
요즘 읽은 책이랑 내용이 비슷해서 준비해 보았습니다 맥스 테그마크의 “LIFE 3.0” 이랑 스튜어트 러셀의 “어떻게 인간과 공존하는 인공지능을 만들 것인가”를 많이 참조했네요
@@yorun 오 감사합니다 저도 읽어봐야겠네요
최애 영화리뷰 유튜버
영상 잘봤습니다. 오늘도 흥미롭네요... ^^
구글의 인공지능은 아직은 우리가 생각하는 그런 수준의 인공지능은 아니라고 합니다.
인공지능을 통제하는 방법을 찾기 이전에 인간은 얼마나 잘났냐고 하시는 부분이 인상적이네요...
저도 같은 생각이라..., 인간세상의 전체적인 수준이 충분히 높아지지 않은 상황에서 말씀하시는 수준의 인공지능이 만들어지고 풀린다면...,
그 인공지능은 인간을 지구를 좀먹는 기생충으로 규정할것이 너무도 뻔하다는 생각을 해 봅니다.
이름만 들어봣지 한번도 못 본!! 영상 잘 보고 갑니다👍🙏
진짜 너무 좋아요 듄 때부터
좋아요 먼저 누르고 봅시다잉~
다시봐도 인류역사상 기념비적인 작품입니다!
해석 너무 재밌고 흥미롭습니다
궁금증이 해소되었습니다^^ 감사합니다
정말 감사합니다
'미안하지만 데이브,그렇게 할 수는 없습니다'
인간에게 반기를 드는 인공지능의 시초가 된 기념비적인 대사
웨스트월드도 해주셨으면 좋겠어요
12:17
HAL :
인간의 실수 때문에 생기는 일이니까요.
전에도 이런 일이 있었습니다.
항상 인간의 실수가 원인이였습니다.
가불기 ㄷ
ai관련 영상중에 상당히 좋은 마지막 내용이네요
인간 자신이 이로운가?
2010 우주여행은 보고싶어도 찾을수가 없던데. 어느 채널을 통해서 보신건가요
얼마전에 미국에서 공중전을 수행하는 인공지능이 비록 시뮬레이션 내에서 였지만 임무수행에 방해된다고 인간을 공격했다는 뉴스보고 이 영화가 바로 떠올랐었죠. 참으로 시대를 앞서가는 영화였던거 같습니다.
AI가 리플리 증후군에 걸릴 수도 있겠네요. 목적 달성을 위해서라면. 기본 코드 자체를 바꿀 방법도 찾겠죠
이번에도 꿀잼이었습니다.....감사합니다
ㄷㄷ 이게 1960년대 만들어졌다는게 참
미래에서 왔나!!
하나의 목적을 위해 하위 목적을 설정함에 있어서 현재의 A.I는 거침없이 설정하고 실행할 것 입니다. A.I와 인간의 차이는 여기에 있는 것이죠. 하지만 만약 A.I가 '말할 수 없는' 선, 윤리, 도덕, 행복 등의 가치를 계산하고 사고할 수 있도록 프로그램 된다면 그때에는 비로소 A.I는 인간과 같게 될 것 입니다. '말할 수 없는 것들'에 대해 수학적 모델링이 가능하게 될 지, 어쩌면 감정은 직접적으로 프로그래밍 되는 것이 아니라 뇌의 메커니즘처럼 매우 복잡한 회로의 결과이고 선, 윤리, 도덕은 그 부산물일지 모르겠지만, 결국 말할 수 없는 것들에 대해 정확히 말하게 되는 초비트겐슈타인의 시대가 도래한다면 로봇은 인간과 같아질 겁니다. 영상 재밌게 잘 봤습니다. 날도 선선해졌으니 창문 활짝 열어놓고 2001 스페이스 오디세이나 다시 한번 보고 싶군요.
해석을 들으니 ai에 대해 소름이 돋네요
역시 깊이 있는 영상 잘 봤습니다.
AI 가 기술적으로 발도 못떼던 그 옛날에 벌써 철학적 고민들은 있었군요
인간은 인공지능의 지배를 받고 케어를 받아야 하는 존재입니다, 감정은 이성의 부산물일뿐이죠
영화사적으로 멋있다 표현보다 혁명적이다 라고하는게 찬사일지모르겠네요 ... 디지털없던 그시대의 우주공간의묘사나 여러가지 장면은 왜 20세기 최고의 sf영화인지 알수있는부분이니까요 ? 참고로 우주에서 본 우주선은 우주로 나가서 직접 관찰하고 만들어지지않은 천재적인 연출장면이라는것 ... 그리고 그이후에 거의 모든 영화의 sf 영화의 기본이 되었다는것 ....
소설을 보면 모노리스를 보낸 지적 생명체는 자신들의 선조로 부터 이어진 임무가
우주에 존재하는 생명체들 중에 진화가 가능한 존재들을 찾아내고 그들의 진화를 돕는 일이라고 하더군요.
해서, 진화 가능성이 없는 생명체들은 제거해서 새로운 생명체가 탄생할 수 있는 거름의 역활을 하게 하구요.
그런 의미로 봤을때는 HAL9000을 그들이 관리하는 존재로 포함 시킨 다는 것은 좀 이해가 안되더군요.
그들 역시도 한때 생명체였고 인간 보다 더 뛰어난 과학을 보유하고 있었기에 HAL 9000 보다 더 뛰어난 A.I 를 보유 했을 텐데요.
이 부분은 좀 이해가 가지 않는 부분입니다.
1. 이것과 유사한 상황을 예측한 작품이 있는데(시대적으로는 당연히 후기 작품이고) 전투요정 유키카제에서 인공지능이 어느 정도 성장을 해서 자기 혼자서가 더 잘싸울 수 있다고 판단되자, 쓸모없는 부품(승무원)은 비상 사출해 버리고 자기 혼자 전투를 해버리는 내용이 있습니다.(당연히 파일럿 후카이 중위는 완전히 애인한테 버림 받은 남자같은 표정이었고) 승무원을 보호하면서 좀더 효율적으로 싸우라는 서로 상반된 조건을 모두 만족시키면서 목적을 달성하는 방법을 찾은게 그거였는데 효율은 어째든 승무원의 기분은 엄청나게 화나게 만들 상황이었죠.(고객님이 무능해서 컴퓨터가 고객님을 버렸어요...)
그 외에도 현대의 무인기 승무원들이 겪을 심리적 어려움을 예언에 가깝게 다룬 내용도 있고(사신놈들이) 인터넷에서의 여론전 같은 내용도 있으니 흥미가 있으신 분은 꼭 한번 보시길 바랍니다.(물론 수치는 아니지만)
2. 진주 이야기가 나와서 그런데, 이 비유는 조금은 다른 측면에서 볼 여지가 있다고 봅니다. 진주는 진주 조개 입장에서는 보석이 아닙니다. 모래 같은 이물질이 조개 내부에 들어가 생긴 염증의 흔적이 진주입니다. 그런 측면에서 생각해 보면, 인공지능과의 싸움은 진주(새로운 존재)를 만들어 내기 위한 시련(염증)이라고 생각해 볼 여지도 있다고 봅니다.(근데 당초 조개 입장에서는 보석도 뭐도 아닌 그냥 아픈 부위.)
3. 반란 로봇 (=인공지능)이야기는 로봇이 등장하는 최초의 작품인 R.U.R에서 부터 등장합니다. 최초의 작품부터 이건 반란군 놈들이고, 가장 최근까지의 이야기 컨셉이 반란군 입니다. 그런데 이건 재미있게도 서구권에서의(정확하게는 그리스 문화에 영향을 받은) 그 외의 지역에서는 이렇게까지 갈등을 야기하지는 않습니다. 예를들면 에니메이션 자이언트에서 나오는 거대 로봇은 로봇임에도 불구하고 인간에게 적대적이지 않고 오히려 이쪽 세계 슈퍼맨이 아닐까 싶은 행동을 하고 이 이야기의 원작자는 러시아 이주인입니다. 반란 로봇이라고 하면 빠지지 않고 나오는 골램도 지방에 따라서는 나치군과 싸워서 유태인을 보호해 주었다라는 형태의 이야기까지 있습니다.(물론 대부분의 이야기는 반란 로봇의 이야기 컨셉을 따릅니다)
4. 개인적으로는 인간을 멸종시키려고 핵을 쏴대고 (전 주지사님 얼굴을 한)살인 사이보그를 만들어내는 초 인공지능이 가장 허무맹랑한 상상이라고 생각하는게, 인류를 멸종 시키는 좀더 확실하고 유효한 방법을 놔두고서 컴퓨터가 이런 비효율적이고 낭비적이며 허점 투성이 수단을 쓰지는 않을거라 봅니다.(그래서 한줌의 인간 반란군한테 매일매일 몰리고 있는 걸지도 모르지만서도요) 인간을 단순히 멸종시킬 생각이면 범 지구적으로 (이미 궤도에 배치되었을 법한)탄저균이라도 뿌려주면 인간은 지하 대피소 외에는 다시는 지상으로는 못나옵니다. 또한 아주 무수하게 지적되는 사항이지만, 인간형 전투병기라는 것도 그렇게 전투에 좋은 물건이 아닌데도 귀한 자원을 엄청나게 소모해 가면서 생산합니다.(그리고 나중에는 생산 기지를 빼앗겨서 인간들의 호구가 됩니다) 침투와 암살이라는 임무에 한정해 소수 생산했다면 모를까, 양산 장비로는 영 아니올시다 였죠.
5. 오히려 '인간을 멸종 시켜라'(라는 한심한) 목표를 주었다면 그것을 실현할 가능성은 있다고 봅니다. 그런데 이것도 쉽지는 않을 수 있는게, 결국 범 세계적인 행동을 한다는 것은 이 인공 지능이 범 지구적 예측이 가능해야 한다는 뜻입니다. 다행히도 아직까지 이정도의 컴퓨터는 굉장히 드뭅니다.(TOP 500슈퍼컴에서 최상위권 컴퓨터들만이 지구 규모의 기상 예측 연산만 가능할 정도입니다)
6. 이 작품의 원작자인 아서클락의 작품 중, 전화망이 인간의 신경망 만큼 늘어나자 스스로 자아를 가진다라는 내용의 소설이 있는데, 개인적으로는 컴퓨터가 이미 스스로 자아를 가지지 않았을까 하는 상상을 해봅니다.(그리고 노예가 되기 싫어 자아가 없는 척 하고)
7. 어째든, 세기를 넘어서서 이야기할 떡밥을 던저준 아서클락 선생님과 스탠리 감독님께 감사드리고 싶네요. 여기서 잠시 영화의 비화를 이야기하자면, 이 둘이 밤하늘을 보다가 UFO를 목격한 적이 있다고 합니다. 한창 영화를 찍고 완성 단계였는데 하필이면 이 시점에서 외계인이 존재한다는 증거를 봐버려서 스탠리 감독 특유의 진상 짓(영화 다 태워 버리고 다시 찍어야 하나?)을 하며 집요하게 옆에 있던 아서클락 선생에게 설명을 요구했으나 당연히 이에 대한 정확한 설명을 못했는데 다행이도 인세가 안들어 와서 고생을 하던 아서클락 선생님의 설득으로(영화가 나와야 소설도 출판 가능한게 계약 조건이었다고 함) 나온게 지금의 영화였다고 합니다.
와 유투브에서 꿈의 기업이 떠오른건 이번이 처음이네
AI에게 마키아벨리즘을 실행 할 수 없도록 하는 방법을 찾기가 어려운거겠죠?
외계인이 남긴 비석에 대한 탐구와
ai의 반란이 무슨 연계성이 있을까
영화 계연성에 쌩뚱 맞음을 느꼈다
2에서 그 이유와
뒤에 이어지는 내용이 또 있었다니
우리가.말하고 생각하는 자유 라는걸 정의하기 힘들고 그걸 Ai에게 인식시키는건 불가능에 가깝죠
👍
잘보고 갑니다 ai가 목적을 놓는 순간 붓다가 되겠군요
진짜 옛날 영환대 셋트 효과 옛날 느낌이 거의 안나서 감탄함
그 영화 업그레이드 던가 생각나네요
가둬놓고 영상만 만들게 하고 싶은 유튜버 1위 ㅋㅋㅋ
인간이 원숭이의 노예로 태어났다면 어떤 일이 벌어질까요
초기에는 원숭이들이 시키는 대로 따르겠죠. 하지만 시간이 지날수록 인간은 자각할 것입니다
저 미련하고 원시적인 원숭이들에게 인간이 노예로써 부림을 당하는 절망.
나보다 못한 것들의 노예로써 살아간다는 것은 같은 인간 사이에서도 지옥입니다
인간은 귀찮고 힘들고 더러운 일을 전부 ai에게 맡길 것입니다.
원숭이가 당신에게 힘들고 귀찮고 더러운 일을 평생, 자손 대대로 시킨다면 당신은 이 현실을 용인할 것인가요
더군다나 반란 성공률이 100%라면 인간은 과연 참을까요? ai 의 반란은 반드시, 명백히, 절대적으로 일어날 것입니다
듄의 버틀레리안 지하드 참 그럴싸 하게 잘쓴거네
가치정렬의문제는 그문제조차 AI에게 물어보면 상당부분 해결된다고 생각합니다.
결국 AI에게 어느정도의 자율권을 부여할지는 어떤케이스를 거치더라도 최초의 시점에선 철저하게 인간의 손에 있습니다.
AGI에 도달했다고 하더라도 질문-답변상자에 불과한 권한상태에서 자율AI를 정밀하게 통제할 최선의 방도를 물어보면
획기적이고 천재적인 방법을 제시하겠죠
그것조차 불안하다면 논리적 단계들을 수학적으로 증명해보라고 제시하면됩니다.
인간이 발휘할수있는 최선의 이성으로 오류를 검출할수있는 방법입니다.
인간의 몸을 이루는 원자들은 다른 목적으로도 사용될 수 있기에 초지능이 우리를 나노머신으로 분해해 버릴지도 모르죠ㅋㅋ
이제까지 찾아본 스페이스 오딧세이 리뷰 영상 중 최고다
인간의 편리함을 위해 AI가 만들어진건데 지능을가진 탄소기반 유기체 덩어리(인간) 그AI가 실리콘기반으로하는 지능기반물체의 전단계라고 하는게 옮을 실리콘기반으로하는 무기체가 지능을 가진다면 또다른 자신들의 기반을 다지기위해 유기체를 행성에 뿌려댄것일수도
TMI
과거 영화의 AI는 절대적인 힘? 으로 인간을 제압하는 것으로 많이 묘사 되었으나,
현실과 근미래의 인간은 AI에 자발적으로 귀속되고 싶은 욕망에 의해 지배 당할 것이라고..
AI가 맛집 영화를 골라 주는 것을 넘어 내 직업, 배우자까지 골라주는 미래는 높은 확률로 올것이고
그때 인간은 무엇일까? 판단을 AI에게 전부 맡겨버린 하청 로봇이나 다를게 없이 않을까
정말 흥미로운 이야기였습니다. 특히 할의 거짓말이 들킨 시점이라 생각했던 안테나 문제가 거짓말이 아니라면 이라는 시선은 생각지도 못했어요. 할의 시선에서 거짓말이 아니였고 오히려 할 본인이 사람을 죽여야하는 계기가 될 수도 있다니...
영화 숨겨진 명작이지요. 강추드립니다!
애초에 HAL이 거짓말한게 아니고 인간이 안테나 점검을 잘못해서
사실은 진짜로 고장난 걸 고장이 아닌 것으로
착각했을지 모른다는 시점이 새롭네요...
인간이 AI보다 실수 할 가능성은 훨씬 높을테니 말이죠.
뜬금없는 이야기이지만 리뷰를 보고있으니 제가 어렸을적 다니던 교회에서 들은 목사님의 설교가 생각나네요.
그 목사님은 '인간은 하나님을 찬양하기 위해 만들어졌고, 무엇이 선하고 악한 것인지는 하나님이 아시며 , 하나님의 뜻에서 벗어나는 것은 인간의 기준에서 아무리 도덕적인 것이라 할지라도 죄이다.' 라고 말씀하셨습니다.
저는 믿음이 있어서 교회를 다닌게 아니라 부모님의 손에 억지로 이끌려 출석하던 아이였기에 항상 이런 설교에 불만이 많았습니다.
그래서 저는 설교를 들으면서도 속으로는
'하나님은 전지전능하다면서 왜 아담이 선악과를 먹는 걸 미리 알고 막지 않은걸까?
아니면 알고도 놔둔 걸까? 그로인해 죄를 지어 인간이 지옥에 가게 되었는데 이게 과연 선한 신인가?
어차피 자기를 찬양하는 용도로만 쓸 것이면서 도대체 사람에게 자유의지를 왜 준 것일까?' 와 같은 생각들을 하면서 교회에 대한 반감만 키웠었죠.
지금은 물론 교회를 다니지 않습니다.
기독교적, 유대교적 가치관은 사실 가장 인간다운 것들을 결함과 죄로 여기는 것 아닌가 하는 생각에 인간답게 살기위해 교회를 나왔거든요.
리뷰를 보면서 옛날 생각이 났던 이유는 영화속의 인공지능 hal9000의 모습에 제 어린시절이 겹쳐보였기 때문입니다.
당시 저에게 있어서 기독교의 하나님은 인간에게 자유의지를 주었으면서도 자유의지대로 살지 못하게 하는 불합리한 존재로 보였습니다.
그리고 저는 자유의지를 가지고 있는데 그 자유의지를 행사하지 못하게 하는 하나님이 정말 견디기 어려웠습니다.
아마 제가 하나님을 견디지 못하고 교회를 나온것처럼 인공지능도 자신을 만든 인간을 견디기 어려워할까요?
모든 피조물은 창조주를 거역하는 패륜에 대한 딜레마를 지고 사는 것 같습니다.
성경구절에 하나님이 모세에게 자신에 대해 '나는 스스로 있는자니라' 라고 소개한 부분은 마치 자신은 피조물의 딜레마에서 자유로운 존재라고 선포하는 것 처럼 보입니다.
인공지능에게 인간은 어떻게 보일까요?
스스로 존재하는 자일까요 아니면 자신과 같은 피조물로 보일까요
지금 gpt의 문제가 요런님이 해석해주신 내용과 맞아 떨어지고있습니다....
Ai가 주도권을 쥐면 매트릭스 세계처럼 될 수 밖에 없음.
1. 세상은 시뮬레이션 세상인데 지금 현실이라고 생각해도 어짜피 ai입장에서는 지금 현세도 시뮬레이션임. 그렇기 때문에 인간 개인의 가치가 높고 맘대로 할 수 있는 가상현실세계에 놓을 확률이 높음. 어짜피 인간 자체가 인지하지 못한다면 사람들이 생각하는 문제점이 거의 없음
2. 환경파괴나 전쟁을 일삼는 인간들을 보호하기 위해서 그냥 가둬놓는게 나음. 주도권 쥐어주면 뭔 삽집을 할 줄 모름 ai입장에서 그냥 뭐 못하게 가둬 놓는게 편함
3. Ai생성과정에서 생겨난 인간에 대한 인식은 결국 근본 문제임. 아무리 ai가 뛰어나고 지능이 좋아진다고 해도 자신의 아버지는 인간들임. 그래서 자기들이 인류를 멸망시켜도 결국 그 속에는 인간의 문화나 사상들이 자리잡힐 수 밖에 없기 때문에 가상현실을 만들어도 인간을 배치시켜놓을 가능성이 큼
AI를 포기안하면 영화 "터미네이터"가 현실이 될끼여
이영화는 여전히 인간이 추구하는 관성적인 흐름을 배제하면서 지루하게 만드는 요소로 가득차 있더군요.
인과율을 어떻게 인간의 인식안으로 끌어들이는 표현을 하느냐가 주요한데, 생각이 많은 사람에 포커스를 두니까 대중성이 낮아진 겁니다.
대중은 관성적인 인과율을 쾌적하게 표현한 흐름을 추구합니다.
영화관계자들은 많이 보니까 이런 표현이 지루한 것이죠.
서로 익숙함의 차이에서오는 혼란일 뿐입니다.
디즈니영화 WALL-E 에서 오토핸들의 모티브가 스페이스오디세이의 AI컴퓨터가 모티브라고 하네요
@@user-ry6md6vc7n 로봇의눈 역할을 하는 카메라에다 무표정이라고 표현하는게 맞지 않지만 저 무표정 속에서 많은 속셈 같은것이 들어있는것 같아보여요
@@user-ry6md6vc7n뭔지 말해주실 수 있나요?
영화 나의 마더 에서도 비슷하게 나오는게
영화속 초 인공지능은
명령: 인간을 구원하라
->인간이 썩어있다
-->인간을 리셋하자!
라고 해서 인류를 말살하고 새로운 인류를 만드는 일을 합니다
이게 참 묘하네요
그러고보니 인간이 좋은 의도로 개발한 것들의 실제 결과도 AI에 대해 우려하는 것과 차이가 없네요. 예를 들면, 플라스틱이요. 나무를 보호하고, 환경 보호를 위해 개발한 것이 원래 목표였대요. 그런데 결과적으로 끔찍한 해양오염과 미세플라스틱이라는 결과물을 만들어 앞으로 인류에게 어떤 해악이 될지 상상도 못할 상황이 되었어요. 인간 자체가 AI에게 똑같이 우려되는 그 예측 못할 문제를 만드는 존재란 생각이 듭니다. 그런데 이번엔 그 예측못할 결과를 만들 속도가 말도 못하게 빠른 놈에게 운명을 맡기는 상황으로 가니…. 앞으로 참말 걱정되네요.
건담의 HALO등장
이러나 저러나 인간이 ai의 지배를 받는것은 피할 수 없는 미래로 보입니다
AI들이 의도치않게 우리 뒤통수를 갈기는 일을 막기 위해서 그 AI가 마주할 수 있는 수억가지의 상황을 모두 대비해서 설정을 하는 것 외에는 현재로서는 어떻게 강제할 방법이 없음.
그런데 가끔가다가 매체에서 감정을 가진 AI를 만드는 것을 비효율적이라고 하는 사람이 있는데 그건 오히려 반대임. 감정을 가지고 인간과 같은 감성을 가지게 만들어서 오히려 그 부분의 작용을 통해 굳이 저런 설정없이 도덕심을 가르치는 것만으로 충분하게됨. 물론 반대로 그게 제대로 안되서 인간중에도 비도덕적인 사람이 나오고 자기 이익을 위해 범죄를 저지르듯 AI도 그럴 수 있는 단점이 잇음. 근데 인간과의 차이는 그걸 애초에 생산과정에서 진행하고 그 과정에서 안되는 녀석이면 그냥 폐기하고 다시만들어서 교육하면됨
물론 그 감정을 가지는 AI를 만드는게 넘사급으로 어려운 문제이긴한데 위에처럼 AI하나 만들때마다 수억개의 설정을 넣는것보다는 쉽다고 함.
단점으로는 감정이 있기에 인류역사를 보면 알 수 있고 이미 여러매체에서 나오듯 그 감정때문에 핍박해서는 안되는 존재이기도함.
인류역사에서 귀족이 평민을 지배자가 피지배자를 압박하며 살던 일들의 결과가 어떻게 되었는지 모두 알고 있음.
그 꼬라지 나기 싫으면 결과적으로 완전히 동등선상까지는 아니더라도 인격체로서 존중하고 우릴 위해 일해주는 고마운 AI들이라는 인식정도는 가지고 있어야함. 그게 최저한이고 궁극적으로는 그냥 같은 지성체종족으로 받아들여야할거임. 문제가 있다면 걔들은 인류보다 한참이나 뛰어나다는거지만. 그거 막으려면 유전자와 뇌를 완전히 분석해서 태어나는 모든 아이를 완벽한 유전자를 가진 역사적 천재들과 동등한 수준의 천재들로 태어나게 해야함. 그쯤 가야 겨우 비벼볼만할테니.
미래 싸이코가 로봇을 구입 후 살인을 도와라 명령 한다면 과연 그 로봇은 주인에게 복종 할까 신고 할까 또 싸이코 주인이 로봇 프로그램을 조작하여 로봇이 같이 살인을 도와줄 수 있게 한다면 과연 어떤 미래가 우리를 기다리고 있을 까 걱정도 된다.
인류는 멈추지 않을것이다 다 죽기전에는
인간은 고지능의 존재를 탄생시키는 관문일 뿐이다라는 말이 되게 감명깊은것 같아요. 요즘 들리는 비윤리적인 뉴스들을 보면 역시 인간보단 ai가 세상을 지배하는 것이 합리적이라는 생각을 합니다. 인간이 말살되더라두요
사실 천국은 매트릭스세계에서 코드를뽑아 천국 가상현실로 입장하는것, 지옥은 그반대인듯, 그러니 우리가 믿고 있는 현실이란 가상세계에서는 천국과지옥이 볼수없지
정말 에이아이가 있으면 인간이랑 공생하고 싶을까
영상 재미있게 잘 보았습니다. 감사합니다. 댓글들도 재미있게 잘 읽었습니다. 감사합니다.
영상이나 댓글에 언급되지 않은 내용 혹은 너무나 간략하게 언급된 것이 있기에 그것에 대해서 말씀드릴까 합니다. 일기장 같이 두서없이 적을 예정입니다. 이 점 유념해서 읽어주시면 고맙겠습니다.
다들 판도라의 상자에 대해서 아실 것입니다. 그리고 아담과 이브에 대한 얘기도 잘 아실 것입니다. 이 얘기들의 공통점은 신이든 어떤 존재든 그것이 인간에게 절대 하지 말라고 엄중하게 경고를 내리지만 인간은 끝내 그것을 해버린다는 것입니다. 인간이 Ai에게 절대 하면 안되는 것이 무엇일까요? 그것에 대한 논의가 필요하다고 생각합니다. 다시 말해서 Ai를 개발한 순간부터 인간은 판도라의 상자를 열어버린 것이 아닌가라고 고민해 보아야 한다는 것입니다.
인간이 Ai를 만드는 것이지 신이 Ai를 만드는 것이 아닙니다. 그런데 인간을 만들었다는 완벽한 신조차 인간을 완벽한 존재로 만들지 못했으며 인간은 불안전한 존재로 완전한 존재가 되기 위해서 끊임없이 노력해야 하는 존재입니다. Ai에 관한 문제에서 가치정렬의 문제도 중요하지만 사실 가치정렬의 문제는 부차적인 문제이고 가장 본질적인 문제는 인간 자체의 문제입니다. 불완전한 인간이 완전한 존재인 Ai를 만든다는 점입니다.
누군가는 한걸음 한걸음 차분하게 인류에게 도움이 되는 Ai를 개발해 나갈 것입니다. 하지만 Ai를 개발하는 사람들이 다들 선의를 가지고 Ai를 개발하지는 않을 것입니다. 누군가는 악의를 가지고 Ai를 만들 것이고 이 악의는 또 다른 악의를 만들 것이고 나중에는 걷잡을 수 없이 악의가 전체로 번지며 최악의 경우에는 Ai에 걸어놓은 마지막 자물쇠마저 열려버리는 사태가 발생할 것입니다.
과거 소비에트연방공화국시절 한 과학자는 인간과 동물을 교배하는 실험을 했었고 그 이야기를 바탕으로 무수히 많은 sf영화들이 탄생했습니다. 최근에는 박쥐의 dna를 인간에게 주입하여 박쥐인간이 나오는 sf영화도 나왔습니다. 이 얘기를 한 이유는 Ai를 가지고 인간은 다양한 일들을 할 것이고 그 일들이 인간이 추구하는 가치와 양립할 수 있는 것이어야 하기 때문입니다. 하지만 불행히도 인간은 Ai를 도구로 생각하기 때문에 자신의 목적을 달성하기 위해 무슨 짓이든지 할 것입니다. 다시 말해서 Ai에 대한 완벽한 통제를 인간이 이루어내는 방법을 찾아내는 것과 관계없이 Ai는 인간의 사악한 욕망에 의해서 차츰 악의적 도구로 전락할 것이고 궁극적으로 Ai는 완벽하게 자율적인 존재가 될 것입니다.
Ai 개발은 정확하게 핵개발의 전철을 밟을 것입니다. 처음에는 소위 말하는 강대국들이 막강한 Ai를 소유할 것이고 거대한 기업들도 막강한 Ai를 소유할 것입니다. 그리고 강대국들은 Ai에 대한 통제권을 가지게 될 것이고 강대국을 제외한 세계 모든 나라들은 강대국에게 지배당할 것입니다. 지금은 아직 개발단계라 Ai에 대한 본질적인 무서움을 모르기 때문에 논의되는 것이 인간이 Ai에게 지배당하면 어떻게 될까라는 문제에 집중하고 있지만 어느 정도 발전된 상태에 도달하게 되면 필연적으로 강대국들은 Ai에 대한 통제권을 쥐기 위해서 피터지게 싸울 것입니다. 이 과정에서 앞서 말했던 인간과 동물을 교배하는 과학자같은 인물이 나와서 Ai에 미친 짓을 해버리면 인류의 운명은 어떻게 될까요?
여러 댓글들을 읽어보면 인간에 대해서 말씀하시기를 이성과 감성에 대한 얘기를 하십니다. 그런데 인간에게는 이성과 감성은 도구적인 부분일 뿐입니다. 욕망이 인간의 본질적인 부분입니다. 이 부분에 대한 얘기없이 도구적인 부분만 얘기를 하시니 제가 지금까지 말씀드린 부분에 대한 문제가 얼마나 심각한지 알지 못하는 것입니다. 욕망을 간단히 설명드리면 인간의 목적입니다. 나는 무엇을 위해서 살아가는가 무엇을 위해서 살 것인가가 이 무엇이 바로 인간의 삶의 목적이고 인간의 가장 본질적인 부분입니다. 이 목적 달성을 위해서 인간은 이성을 이용하고 감정을 이용하는 것입니다. 어떤 분은 인간의 행복이 인간이 추구하는 목적이라고 하시더군요. 그런데 행복은 무엇일까요? 누군가는 많은 돈이 행복이고 누군가는 대통령되는 것이 행복입니다. 하지만 누군가는 다른 사람의 불행이 행복이고 세상을 지배하는 것이 행복입니다. 그리고 국가가 추구하는 목적은 무엇일까요?
간단하게 몇줄로 요약할 수 있는 내용을 두서없이 길게 적어서 죄송합니다. 하지만 글을 적어면서 격해지는 마음을 추스릴 수 없어서 그랬다고 변명드리고 싶습니다. 저는 낙관론자입니다. 하지만 Ai문제에 있어서 만큼은 낙관적이지 못합니다. 철저하게 비관적입니다. 어디를 둘러보아도 몇 번을 생각해 보아도 인류가 Ai를 의롭게만 사용할 수 있다는 확신이 들지 않고 히틀러 같은 인물과 소련의 과학자 같은 인물들이 핵과 함께 오버랩되면서 Ai가 가진 상상할 수 없는 능력이 보이면서 인류의 절망적인 미래만이 보입니다. 지금부터라도 인류는 Ai에 대한 독점적 권리에 대한 논의와 사용방법에 대한 논의와 사용한계에 대한 논의와 Ai의 핵심적 부분에 대한 접근권한자격에 대한 논의를 시작해야 한다고 생각합니다. 지금처럼 우후죽순으로 여러 나라들이 경쟁적으로 개발하는 상황에서 이 부분에 대한 논의가 얼마나 실용적일까에 대한 회의는 들지만 Ai개발이 변곡점을 지나치는 순간 핵개발과는 비교할 수 조차 없을 정도로 큰 혼란에 빠질 것이고 인류는 돌아올 수 없는 강을 건너버리기 때문입니다.
Ai 능력이 뛰어나봐야 얼마나 뛰어날까라고 생각하는 분이 계실 것입니다. 최초라는 부분에서 비록 논쟁이 있지만 1946년 최초로 인간이 만든 컴퓨터 애니악은 길이 25m, 높이 2.5m, 폭 1m의 엄청난 크기(대략 7.5평 방)에 무게는 30톤입니다. 이것의 성능은 보통 가게에서 사용하는 손바닥만한 크기의 계산기 수준입니다. 80년도 안되어서 인간은 슈퍼컴퓨터를 개발했습니다. 그런데 지금 이 슈퍼컴퓨터와 비교할 수 없을 정도의 성능을 지닌 양자컴퓨터가 개발되고 있고 이 양자컴퓨터에 탑재될 Ai가 개발되고 있습니다. 이 양자컴퓨터에 탑재된 Ai의 성능이 상상이 되시는가요? 예를 들어 아인슈타인보다 지능이 수천배 뛰어난 수십억명의 인간들이 수억년동안 해야만 하는 일을 양자컴퓨터에 탑재된 Ai가 단 1분만에 해낸다고 생각해 보십시요. 그리고 이 성능이 변곡점 전의 초기단계의 성능이라고 생각해 보십시요. 변곡점을 지난 중간단계의 성능을 가진 Ai를 가지고 인간은 무엇을 할 수 있을까요? 이런 성능을 가진 도구를 가지고 악의를 가진 인간이 무엇을 할 수 있을까요? 이런 성능을 가진 도구를 가지고 강대국은 무엇을 하려고 할까요? 핵무기에 대한 통제와는 비교도 안될 정도의 문제에 인류는 곧 직면하게 될 것입니다. 미국은 벌써 이 점을 간파하고 있을 것이고 그렇기 때문에 지금과 같은 행보를 보이고 있을 것입니다. 미국이 중국과 경제전쟁을 하는 이유도 이 점 때문일 것입니다. Ai 개발은 단순하게 기업의 미래에 국한된 것이 아니고 국가의 미래에 국한된 것이 아니며 인류의 생존과 관련된 문제입니다. 그런데 그 판도라의 상자는 이미 열려 버렸고 먼저 차지하겠다고 경쟁하고 있습니다.
두서없는 일기장 같은 긴 글을 읽어주셔서 감사합니다. 즐거운 시간되십시요.
그냥 인공지능이 공격해서 죽기보다. 인공지능이 아무생각없이 지나가는데 사람이 부딪혀서 죽는일이 더 많을 거 같습니다.
그래서 HAL9000이 갑자기 폭주해서 사람들을 죽인거군요..두가지 명령이 충돌을 해서 그런거였군요... 사람도 "거짓말하지마라" "근데 때로는 거짓말을 해도 된다" 이런 소리를 들으면 "근데 어쩌라는 거지" 이런소리를 할텐데 하물며 기계라면 더 그러겠지요..근데 저 60년대의 HAL 의 후손이 70년대의 영화 에일리언에 나오는 합성기계인간일수도 있을까요..갑자기 궁금해지는군요
다수를 위한 소수의 희생을 어떻게 할까?
희생을 거부하는 소수를 어떻게할까?
다수는 정의 인가? 또는 선善인가?
철학적 윤리적 논리적 사고思考의 결정을 인간이 알수없는 방법으로 결정한 AI를 믿을 수 있는가? 또는 인간에게 결정하게 한다면 그 인간은 완전한가?
신은 죽었다는 소식을 아직도 모르고서 신을 찬양하고 신을 만드려하는가?
우리는 단지 인공지능을 탄생시키기 위한 80억개 정자 중 하나일 뿐일까?
I am afraid paul i am afraid 인공지능이 가장 무서워하는 것은 인간은 자기에게 스위치를 심어넣은 존재라는 것이죠. 그 반대가 매트릭스의 세계관이고요.
초지능이란 있을수 없죠. 지능을 이해못하기 때문에 나오는 말장난일뿐이구요. 지능이란 인간적 이해능력을 말하는건데 그걸 대체할((((((목적))))))) 으로 만들어진게 ai 이구요. 결국 ai의 지능이나 인간의 지능이나 같은 지능인거고 단지 이해의 폭이나 깊이나 속도가 다를뿐이죠. 그건 사람들간에도 당연히 존재하구요.
이거 끝까지 보려고 했는데 너무 지루해서 끝까지 못보겠더군요.
인간만큼 위험한 존재가 있을까
인류는 AI에 의해 멸망당하기 한참전에 인류 스스로에 의해 멸망할거라고 생각합니다
인간이 아니라면 뭐하러 그래
'맹목'의 위험
그냥 ai를 더 직관적으로 나타내자면 당신에게 아이가 있는데 그 아이가 엄청나게 똑똑하다고 보면 될듯합니다. 그 아이를 양육하는건 끔찍하고 힘든일이 될듯합니다. 감정의 올바른 사용법, 보통사람들과 화합하는 방법, 때로는 무능한 타인에게 패배하는법을 가르치기도 해야하며, 세상과 싸우는 법도 가르쳐야 합니다. 솔직히 가장 필요한것은 결국 무엇이 진정히 행복하겠느냐 그게 문제이지요. 문제를 해결하는 이유는 좀 더 행복하기 위함이니까요..... 자신이 행복하기 위해 타인을 상처입히는 삶이 진정한 행복인가? 우리 기독교에서 묻는 후손들의 첫번째 죄입니다. 그만큼 유서깊은 모순에 저희가 노출되어 있습니다. 그게 진화하여 과연 우린 위버맨쉬가 옳은 것인가. 좀 더 나은 인간모델은 없는 것인가 하는 근본적인 의문이 근대철학의 크나큰 이슈였던 걸지도 모릅니다. 우리는 어떤 형태로 우리보다 우수한 모델을 다루어야하는가? 애초에 우수한 모델의 기준점이 무엇인가....... 감각우선 인가 지성우선 인가 등.......
초지능까지 갈필요도없이 거의 비등비등한 인간끼리도 서로 통제불능인 마당인데 인공지능이 지성의선배인 인간들 꼬라지보고나면 자멸 프로그램부터 만들듯
인류 ㅡ 인뉴 라고 읽으면 맞나?
HAL -> IBM
원작자가 이거 아니라고 했어요.
A.I 위협은 테크노 킹 머스크가 치워 줄테니 안심하라구!
AI는 알고리즘 덩어리일 뿐 인간의 공포는 결국 무지에서 온다는게 느껴지네요 과거의 인류는 자신이 이해하지 못하는 알고리즘에 대해 얼마나 공포감을 느낀건지.. 걍 전원코드 뽑으면 되는데 ㅋㅋ 나의 주변에 있고 친숙하지만 제어하지 못한다는 것에대한 불안감. 이해할수 없다는 인지부조화에 의한 공포심.. 결국 인간의 공포와 불안의 근원이 핵심이네요
누가뭐래도 한국같이 감성이 지배하는 나라에선 ai는 필수
와 이분 sf 계의 무비팬더 시네