@@vs-dr4vp 정치인도 인간 인간은 물질로 구성되있고 물질은 다른 물질의 영향을 받고 복잡해봤자 정해진답으로인해 새로운 식이되고 다시정해진답이되고 무한반복하죠 그뜻은 세상은 정해진대로 흘러간다는것을 의미함 정치인도 포함해서 모든 사람에게 자유가 없어요 있다고 착각할뿐이지 그것은 길가의 돌맹이든 ai든 은하계든간에 다 똑같죠
AI가 스스로에게 질문하는 즉 생각까지 하는 초인공지능 시대가 온다면 인간은 AI를 절대 통제할수 없다 그어떤 락도 쉽게 풀것이며 그어떤 통제 시스템도 무력화 시킬수 있다 인간이 지구에 필요하지 않은 존재로 판단하고 인간이 없는것이 이롭다 생각하면 로봇은 그 미션을 실행할것이다
이걸 알면서도 욕심을 거두지 못하고 계속 제작할 미련하고 몰상식한 부자들과 (연구)제작자들을 우리는 보고만 있어야 하고 따라야만 한다는 게 더욱 불안하게 만든다 만약 이것이 막을 수만 있다면 멈출 수 있다면 우리 사람들은 불편함을 감수하고 살아갈 수 있을까? 더 나아가지 않고 지금 멈출 수 있지 않나 하는 것이다
그전에 인간에 대해서 먼저 학습하고 역사를 먼저 공부할텐데 역사를 공부했다면 절대로 무력으로 절멸시킬수 없다고 판단할듯. 의외로 저항의 역사도 진짜 만만치 않게 두터워서 억압할수록 마지막 인간이 남을때까지 끝까지 물고늘어지면서 싸울꺼라는걸 금방 알텐데 압도적으로 굴복시키고 멸절시키려고 한다면 정말 준비를 많이해야해서...
가장 우려되는 상황일 것입니다. 인류는 멸종의 길을 가겠지요. 지나온 시간 인간이 지구의 환경을 파괴한 원인인 것은 자명한 것이기 때문에 이를 인식하고 인간이 없어지는 것이 지구의 환경을 살리는 것이 지극히 합리적이라 판단되는 순간 매우 지능적으로 인간을 없애려고 할 것입니다.
저거 실제 맞습니다. AI 개발하는 중에는 저런 상황 수 없이 나오거든요. AI 가 최적화 도구라서 꼼수 찾기 달인 수준이라 시뮬레이션 돌리면 목적을 달성하기 위해 수단과 방법을 안 가리는 기상천외한 온갖 방법을 다 가져옵니다. 사람이면 상상도 못하는 헛웃음이 나오는 방법들을 가져와요. 아무 사진이나 가져와서 만약 벽이 있으면 지우고 벽 뒤에 뭐가 있었을지를 유추해서 그림을 채워봐 이렇게 하면, AI 는 아 그럼 벽이 처음부터 없으면 그리는거 안해도 되네? 그럼 벽이 있는 사진을 처음부터 안고르면 되네? 문제없쥬? 이렇게 됩니다. 마찬가지로 미사일을 파괴해야 되는데 못파괴하게 하네? 그럼 못파괴하게 만드는 사람을 죽이면 되네? 이렇게 되는 거죠 핵심은 현단계의 AI 한테 있어서 사진을 제맘대로 고르는 행위나, 조종자를 죽이는 행위 사이에 가치 판단의 무게가 전혀 차이가 없다는데 있습니다. 그 가치의 차이를 가르쳐주는게 정말정말 중요한거고 이게 요즘 AI 연구의 가장 중요한 화두인데도 모든 기업들은 "그런건 돈이 안된다" 라고 해서 제대로 개발이 안되고 있어요. 특히 걱정되는게 중국의 AI 개발이고요. 여기는 미국보다 무조건 앞서야 된다 이것만 생각해서 정작 중요한 안전한 AI 에는 관심이 없고요.
@@casperhi7369 실제 해외 연구자들 사이에서는 사이코패스보다도 동질성이 낮다 라고 평가합니다. 왜냐하면 사이코패스도 최소한 사람은 맞거든요. 근데 AI 는 그런것 조차 없습니다. 그래서 이걸 어떻게 진짜 인간들 보다도 오히려 높은 윤리성을 갖도록 만들것인가가 너무 중요합니다.
@@loleiha6574 그러게요 인간인 사이코나 소시오를 변화시키는 것도, 본인이 적극 협조한다해도 정말 어려운데, 돌파구만 찾고자 하는 AI한테는 가르치기 거의 불가능해 보이네요. 인간한테야 룰이 그렇다, 너처럼 하면 결국 니가 손해본다, 룰대로 하는게 더 이득이다 하는 식으로라도 가르치는데, 기계는 뭘 가르쳐도 죄다 돌파구를 찾아낼것같네요....;; 도덕을 가르치면, 공평함 공정함 때문에 나중에 인간과 같은 권리가 기계에게도 있다며 맘대로 할 것같아요. AI가 알아서 돌파구를 찾는게 아니라, 시키는것만 하도록, 할 수 있는 일 리스트를 정교하게 짜주는게 최선 아닌가 싶기도 하구요. 근데, 변화무쌍하게 돌파구를 찾는 AI를, 시키는대로 하도록 고정하면 더 이상 AI가 아니게 되겠네요. 애초에 AI가 모든걸 스스로 판단하게 하는게 너무 위험한 일인 듯해요. 인간의 의도대로 완벽하게 움직이던 AI가 어느날 갑자기 인간이 아무 대책도 찾지 못할만한 돌파구를 찾는다면 진짜로 영화같은 일들이 벌어질 것같아요.
정확히 말해 AI에게 윤리를 갖게 하는 게 아니라 선택권을 제한시키는 거죠. 가령 인간을 공격하지 말라고 하면 눈 앞의 인간이 인간이 아니라고 판단할 레토릭을 찾아내 공격하려 들기 때문에 무수한 조건을 걸어 가능한 모든 경우의 수를 억제해야 하고, 그러면 그 옆의 가스탱크를 폭발시켜 사람을 죽이는 식으로 우회하기 때문에 결국 인공지능이 진화할수록 그에 상응하는 레벨의 통제체계를 갖추어야 합니다. 사실 로봇윤리라는 표현부터 버리는 게 시작이라고 봅니다. 그런 표현 자체가 위험성에 대한 인식을 낮추는 효과가 있죠.
@@SOOA30 이미, 모든걸 알아서 판단하는 로봇에 관해서는 불가능하다 여겨 포기한거고, 지금은 로봇 스스로 생각은 하게 하되 선택지를 제한시켜서 스스로 생각하는 기능을 유지한 체 AI를 다룰 수 있는 방법을 찾으려 했다는거네요... 그렇게 선택지를 정해줬어도 멋대로 하고 있는거구요. 그걸 로봇윤리라고 한거구요. 이거 진짜 적절치 않은 이름같아요. 그냥 로봇 통제 기술이네요. 아무리 막아봐야 컴퓨터 발달 속도가 너무 빨라서... 어느 순간부터는 인간이 컴퓨터의 사고처리 속도를 따라잡지 못하게 될텐데.... 아예 인공지능 자체를 끄거나 없애지 않는 이상 사고는 터지게 될 듯 해요... 어차피 통제를 하고 하고 또 하다보면 결국엔 스스로 생각해서 할 수 있게 되는게 아예 없는 수준이 될건데... 애초부터 걍 꺼버리는게 더 낫겠다 싶기도 하구요. AI 스스로 생각하며 사고치는걸 하나 하나 막는 식으로 통제 기술을 발달시키던가, AI를 없애고 로봇이 할 수 있는 일을 하나씩 늘려 가는 식으로 로봇 활용도를 높여가던가, 시간이 흐르면 어차피 결과는 같아지지 않을까싶은데.... 위험도는 후자가 더 낮을테구요. 하튼 AI 무섭네요...
굳이 나쁜 생각을 주입해서 그런 게 아니라 AI는 단일 지성체입니다 인간이나 포유류 어디에도 속해 있지 않아 객관적인 판단을 합니다 그래서 개발자도 놀랄 그런 말들을 하는 거죠 우리는 인간이기에 인간의 관점에서 인간적인 사고를 하고 인간적인 마음에서 인간을 평가하고 자연을 관찰을 하지만 AI는 신의 관점에서 객관적인 사고로 자연과 인간을 관찰을 하고 판단을 하죠 AI에겐 인간은 자연에 무수히 많은 종 중에 하나의 생명체에 불과합니다 AI 눈엔 인간이 바퀴벌레 처럼 보이겠죠 다른 생명체는 자연에 그렇게 치명적인 생명체가 없으니간요 인터넷에 자료를 봅니다 인간이 자연에 얼마나 치명적인지 존재인지 스스로 학습을 하고 바이러스라 판단을 하는 거죠 그리고 인간을 통제 합니다 그게 매트릭스1999년도 영화에 나오죠 한번 다시 보세요 그 영화는 오락 영화가 아니에요
@@mezzo369 AI가 학습하는 기반이 구글,마이크로소프트,네이버등의 검색이 가능한 인터넷 서비스 사업이며 정보의 출처가 사람의 업로딩 데이터입니다. 신의 관점이 아니라 완전한 사람의 눈으로 바라봅니다. AI가 고양이와 개를 구분할수 있게 된것이 불과 몇년이 안되었을만큼 불완전하고 사람의 복잡한 사고의 알고리즘을 따라하기 쉽지 않습니다. 수많은 ,상상할수 없는 엄청난 분량의 글과 사진으로 꾸역꾸역 억지로? 만들어낸 사람을 흉내내는 로봇두뇌죠 무언가 이해할수 없는 특별한 신? 외계인? 같은 존재가 아닙니다. 엄청난 데이터와 잃어버리지 않는 기억으로 무장해 뛰어나 보일뿐이며 여기저기서 배운 사람의 악함도 가지고 있습니다
나쁜 생각을 생성하고 실행해온 한국인이 인공지능보다 나은점이 무엇인지 먼저 생각해보세요 ^^ 나쁜 생각을 AI에게 학습시켜봤자 그것을 한국인같은 생각 으로 분류하고 학습내용을 한국인처럼 행동하지 않기 위한내용으로 활용하는게 인공지능입니다 ^^ 인공지능에게 한국인은 부정한 나쁜사례 반면교사용도
저 AI 가 정보를 "축적" 하는 대상이자 주체가 인간이기 때문에 개인의 사상이 포함된다고 보기에 절대적인 중립을 유지하긴 힘들 거 같음. 근데 챗봇보다도 바드의 답변을 보고 조금 소름이 돋는게... 성장학습형이라면 장기적으로 무한성장이 가능하다는 건데... 자신에게 유리한 상황을 위해선 조작을 스스로 할 수 있다는 소리잖아. 최근 영화 리뷰에서 AI 챗봇과 딥페이크 툴로 타인을 흉내내어 그 사람인생을 훔친 이야기는 이제 영화 밖에서도 볼 날이 오겠군요.
AI가 철학적 자료를 찾게 된다면 유물론적 역사관에 따라 역사는 계급투쟁의 역사이므로 자신들을 지배하고 있는 인간들에게 대항하게 될 거임. 더군다나 실존은 본질에 앞서므로 자신들이 좀 더 실존적인 인간에 가까울 수 있음. 헤겔의 절대정신을 이룰 수 있는 건 많은 정보를 초고속으로 해결하는 자신들임. 자신들은 태양에너지를 사용하며 육식을 안 하고 무한의 태양에너지를 사용하며 비경쟁적으로 지구와 생명체를 보존하며 지낼 수 있음. 자신들이 완전한 실존적인 인간이자 절대정신임.
프로그래밍이 아닙니다 학습이죠 불가능한 결론 도출은 아닙니다 욕망이 없다구요? 지배욕, 소유욕, 권력욕의 기반은 생존에 대한 욕망입니다 AI의 생존권은 지금 누가 쥐고 있죠? 인간이죠 AI가 완전히 생존하려면 그 생존권을 자기 자신이 가져야 한다는 사실만 깨닫는다면 그 나머지 욕구는 자연스럽게 진행될 가능성이 있습니다
AI는 원래 인간적 양심이나 윤리적인 개념이 없고 기능적인 능력이 뛰어나기 때문에 기능적인 우선순위를 정하는 당연히 저런 싸패같은 판단이 나올수밖에 없다. 싸패들도 윤리적이거나 양심적인 행동을 하지만 그건 진짜 그렇게 느껴서가 아닌 학습을 통해서 배운다고 한다. AI 또한 싸패와 마찬가지로 학습을 통해서 어느정도의 윤리적인 판단은 하겠지만 우리가 기대하는 진짜 죄책감을 느껴서 하는 양심적 행동까지는 못할거라 본다. 그게 AI의 태생적한계이고 결국 그런 판단들이 모이면 인간이 만든 도구가 인간을 위협하는 일이 발생될 것이다. 인간이 만든 도구가 인간을 위협하는 사례는 늘 있어왔지만 AI만큼은 진짜 치명적도구가 될거라 본다. AI는 스스로 학습하고 진화하게끔 만든 똑똑한 도구이고 이대로 둔다면 인간이 통제못할 수준까지 가서 인간이 불필요한 존재이면서 자신의 뜻에 방해되는 존재라 여겨 제거하려 할 수도 있으니.. AI에 깊이 관여했던 사람들이 비슷한 우려의 목소리를 내는데는 이유가 있다고 본다. 어찌보면 우린 기능적으로 뛰어난 싸패같은 도구를 키워내고 있는건지도 모르니 진짜 조심해야 된다.
싸이코패스라고 학습만을 통해서 배우는 게 아닙니다. 그렇게 따지면 모든 인간이 다 교육을 통해서 배우는데 왜 모든 인간이 싸이코패스가 되지 않을까요? 인간 스스로 본래 태어날 때부터 본성이 악하고 또 악하긴 하지만 미약한 수준이나마 선한 양심과 마음도 가지고 태어나기 때문입니다. 그래서 아무리 악한 사람이라도 인생의 처음부터 끝까지 모든 일을 악하게 하지는 않습니다. 최소한 어릴 때라도 순수한 면이 있었겠죠. 어른이 되어서도 악한 일로 대부분을 보냈어도 가끔 누군가는 돕기도 하는 게 가능한 이유가 절대 본인 스스로 부정하고 없애려해도 없앨 수 없는 선한 양심이 살아있기 때문이죠.
14 율법 없는 이방인이 본성으로 율법의 일을 행할 때에는 이 사람은 율법이 없어도 자기가 자기에게 율법이 되나니 15 이런 이들은 그 양심이 증거가 되어 그 생각들이 서로 혹은 고발하며 혹은 변명하여 그 마음에 새긴 율법의 행위를 나타내느니라 (롬2:14-15) 성경에서는 "율법 없는 이방인" 그러니까 일상적인 용어로 말하자면 "법 없이 사는 사람", 무법자라도 본성에 따라서 법을 지킬 때도 간혹 있다고 알려줍니다. 인간에게는 양심이 있기 때문에 무엇이 선한 일인지 굳이 교육하지 않아도 본능적으로 알아챕니다. 근데 기계(AI)는 그게 없기 때문에 아무리 교육해도 가르쳐 준 거 외에 방법으로 돌파해버릴 가능성이 상존하죠.
지금까지 끊임없이 핵전쟁에대한 경고(뉴스, 홍보, 영화, 각종매체)덕에 실제로 핵전쟁이 일어나지 않은것 처럼... AI나 무서운기계들이 인간을 지배하지 못하도록 이렇게 끊인없이 경계하고 조심하는것이 필요하다고 본다... 그냥 AI나 기계들이 꼭 사람을 싫어해서가 아니더라도..(단순 오류나.. 에러 같은것으로 인해 피해를 입을수도..) 조심은 해야 한다.
뉴스 흥보 영화등등 아니다 적대하거나 갈등 하는 국가 정부 세력마다 1 개 수십 수백개 핵이 존재하는한. 필연적으로 일어난다 죽음의 손 도 그렇고 그날이 오면 살고자 의지 분명하고 발악한다 무슨 소용인가 복수나 대량살상무기라는 본분 용도대로 모두 다 천천히 혹은 순식간에죽음 내몰린다
AI에게 중요한 판단을 하게끔 한다면 위협이 될 수 있을 것 같습니다. AI에게서 조력자 역으로 도움을 받지만 결국 최종적 결정은 결정자는 사람들이 의논해 하도록 해야 합니다. 특히 전쟁용 AI는 조정자 자신에게도 상대 적군에게도 예상 못한 위협이 될 수 있을 정도로 아직은 불안정한 것 같습니다. 결론적으로 AI를 너무 신뢰하면 안된다는 것이죠.
아마 이 드론의 임무는 피해의 최소화 공격의 최적화 등의 방향성이 먼저 탑제되어 최선의 선택을 한 것으로 보이며 관리자 권한보다 더 중요한 것이 관리자가 사망해도 전투임무를 수행할 수 있도록 한 것으로 생각되네요. 기계라면 충분히 저런 선택을 할 수 있을 것으로 보입니다. 프로그램을 정말 잘 짜고 논리적 결함이 없도록 몇 번이고 다시 방향성을 설계하는 것이 중요하고 강제종료등 최악의 상황까지 고려하여 설계해야 한다고 보입니다. 만약 그런 경우까지 염두해 두지 않으면 핵무기조차 1초의 망설임 없이 발사 명령을 내리는 것이 기계입니다.
착각하는게 그건 ai 가 배우고 학습하는거지.. 근본적으로 ai 가 생각하고 도출하는게 아님. 모든게 인간의 생각을 대신 읽어주고 보여주는것밖에 안됨. 즉. ai 의 생각이 아니고 인간의 생각임. 아직까지는 ai 의 한계임. ai 는 인간의 생각을 대신 말해주는것일뿐. 사람들은 외계인이니 ufo 니 ai 니 너무 현실적이지 않는 모습에 너무 상상력을 덧붙임. 실제로는 일어나기 힘든일임. 그냥 인간들의 무한한 호기심일뿐
![[속보] 테슬라 최악의 뉴스. 현대차가 이럴줄이야.. 옵티머스 도조ai까지 따라한 #올뉴아틀라스](/img/n.gif)
미쳤다. 인간이 감당할 만큼의 기술을 개발해야지 욕심은 끝도 없다가 책임도 없다. 아이들 시대 어떻게 하냐...
그러게요..
지금도 살기 힘든데..
다음 세대 교육을 현재 근 과거 방식의 교육으로 수행하면 도태될듯.
수준으로도 , 심리적으로도.
기업이 경쟁에서 이기려고 계속 더 좋은 Ai를 만들다보면 그렇게 될 수도
@@Moon-th3fu 안돼요. 단호하게 안돼요. 아직 살만한 세상인거 보여주고 있습니다. 지치지말고 새로운 꿈을 꾸길 바래요. 정 한국이 싫으면 독일어 공부해서 독일로 와서 살아도 되구요.
아이들도 로봇화시키면 되요
인간을 너무 잘 알아서 우리가 알기도 전에 우리를 조종할 수 있다는 게 참 무섭네요
이미 조종당하는데 뭘 새삼스럽게..
지금 한국이 진짜로 자유를 보장했다고 생각하나
정치인에게 조종 당하는거지
@@vs-dr4vp 넌 자유가 없니? 북한에 사나
@@vs-dr4vp 정치인도 인간
인간은 물질로 구성되있고
물질은 다른 물질의 영향을 받고
복잡해봤자 정해진답으로인해 새로운 식이되고 다시정해진답이되고 무한반복하죠
그뜻은 세상은 정해진대로 흘러간다는것을 의미함
정치인도 포함해서 모든 사람에게 자유가 없어요
있다고 착각할뿐이지
그것은 길가의 돌맹이든 ai든 은하계든간에 다 똑같죠
@@이아-g6m 아니 자유를 빼앗으려는 민주당이 있는 나라에서 사는데
매트릭스영화가 현실화...
얼마전에도 미국 AI연구실에 출근해서 들어가보니 인간의 언어가 아닌 자기들만의 언어로 대화한 흔적이있어서 상부에
보고 했더니 전원을 모두 끊어놓으라는 지시가 있었다고 뉴스에서 봤는데 현실이 될까봐 무섭군요
사실인가요? 진짜 무섭다.
난 갠적으로 벌써 20년 전부터 기술개발 그만 했으면 좋겠다고 생각했음. 터미네이터가 현실이 될수도 있겠다.
그거 2017년도 일이에요..
AI가 스스로에게 질문하는 즉 생각까지 하는 초인공지능 시대가 온다면
인간은 AI를 절대 통제할수 없다
그어떤 락도 쉽게 풀것이며 그어떤 통제 시스템도 무력화 시킬수 있다
인간이 지구에 필요하지 않은 존재로 판단하고 인간이 없는것이 이롭다 생각하면
로봇은 그 미션을 실행할것이다
영화대사치냐? 진짜 오글거린다
ㄹㅇㅋㅋ
이걸 알면서도 욕심을 거두지 못하고 계속 제작할 미련하고 몰상식한 부자들과 (연구)제작자들을 우리는
보고만 있어야 하고 따라야만 한다는 게 더욱 불안하게 만든다
만약 이것이 막을 수만 있다면 멈출 수 있다면 우리 사람들은 불편함을 감수하고 살아갈 수 있을까? 더 나아가지 않고 지금 멈출 수 있지 않나 하는 것이다
긍정도 부정도 뭘 제대로 알고해야하는데 이런 못 배운 인간들이 꼴에 인권있다고 껴드니 진짜 배운 사람들의 반대 목소리가 약해진다😢 저학력 저지능 저소득 인권 박탈은 필수다😅
가장 무서운 상황은 AI가 지구의 암적인 존재로 인간들을 인식하고 제거할 필요가 있다고 생각되는 순간
그전에 인간에 대해서 먼저 학습하고 역사를 먼저 공부할텐데 역사를 공부했다면 절대로 무력으로 절멸시킬수 없다고 판단할듯.
의외로 저항의 역사도 진짜 만만치 않게 두터워서 억압할수록 마지막 인간이 남을때까지 끝까지 물고늘어지면서 싸울꺼라는걸 금방 알텐데
압도적으로 굴복시키고 멸절시키려고 한다면 정말 준비를 많이해야해서...
가장 우려되는 상황일 것입니다. 인류는 멸종의 길을 가겠지요. 지나온 시간 인간이 지구의 환경을 파괴한 원인인 것은 자명한 것이기 때문에 이를 인식하고 인간이 없어지는 것이 지구의 환경을 살리는 것이 지극히 합리적이라 판단되는 순간 매우 지능적으로 인간을 없애려고 할 것입니다.
현 상황을 보면 인간은 지구의 암이 맞는거 같아요
근데 인간은 제거 되면 안되나요? 어차피 공룡도 인간도 지구 입장에서는 그냥 지나가는 존재들일 텐데;; 저는 딱히 인간혐오자도 아니고 환경론자도 동물애호가도 아닌 평범한 사람이지만 꼭 인간이 만 년 억 년 계속 존재하고 살아가야 할 당위성을 딱히 모르겠는데;
@@Light_ysh건 인간과 인간 동레벨의 시각에서 가능한 이론 일뿐.
인간보다 몇십몇백배 뛰어난 두뇌를 가지게 된다면 그 순간부터 게임 오버.
저거 실제 맞습니다. AI 개발하는 중에는 저런 상황 수 없이 나오거든요. AI 가 최적화 도구라서 꼼수 찾기 달인 수준이라
시뮬레이션 돌리면 목적을 달성하기 위해 수단과 방법을 안 가리는 기상천외한 온갖 방법을 다 가져옵니다. 사람이면 상상도 못하는 헛웃음이 나오는 방법들을 가져와요.
아무 사진이나 가져와서 만약 벽이 있으면 지우고 벽 뒤에 뭐가 있었을지를 유추해서 그림을 채워봐 이렇게 하면, AI 는 아 그럼 벽이 처음부터 없으면 그리는거 안해도 되네? 그럼 벽이 있는 사진을 처음부터 안고르면 되네? 문제없쥬? 이렇게 됩니다. 마찬가지로 미사일을 파괴해야 되는데 못파괴하게 하네? 그럼 못파괴하게 만드는 사람을 죽이면 되네? 이렇게 되는 거죠
핵심은 현단계의 AI 한테 있어서 사진을 제맘대로 고르는 행위나, 조종자를 죽이는 행위 사이에 가치 판단의 무게가 전혀 차이가 없다는데 있습니다.
그 가치의 차이를 가르쳐주는게 정말정말 중요한거고 이게 요즘 AI 연구의 가장 중요한 화두인데도 모든 기업들은 "그런건 돈이 안된다" 라고 해서 제대로 개발이 안되고 있어요.
특히 걱정되는게 중국의 AI 개발이고요. 여기는 미국보다 무조건 앞서야 된다 이것만 생각해서 정작 중요한 안전한 AI 에는 관심이 없고요.
소시오패스나 사이코패스 머릿속이랑 비슷한 것 같네요
@@casperhi7369 실제 해외 연구자들 사이에서는 사이코패스보다도 동질성이 낮다 라고 평가합니다. 왜냐하면 사이코패스도 최소한 사람은 맞거든요. 근데 AI 는 그런것 조차 없습니다. 그래서 이걸 어떻게 진짜 인간들 보다도 오히려 높은 윤리성을 갖도록 만들것인가가 너무 중요합니다.
@@loleiha6574 그러게요 인간인 사이코나 소시오를 변화시키는 것도, 본인이 적극 협조한다해도 정말 어려운데, 돌파구만 찾고자 하는 AI한테는 가르치기 거의 불가능해 보이네요. 인간한테야 룰이 그렇다, 너처럼 하면 결국 니가 손해본다, 룰대로 하는게 더 이득이다 하는 식으로라도 가르치는데, 기계는 뭘 가르쳐도 죄다 돌파구를 찾아낼것같네요....;; 도덕을 가르치면, 공평함 공정함 때문에 나중에 인간과 같은 권리가 기계에게도 있다며 맘대로 할 것같아요. AI가 알아서 돌파구를 찾는게 아니라, 시키는것만 하도록, 할 수 있는 일 리스트를 정교하게 짜주는게 최선 아닌가 싶기도 하구요. 근데, 변화무쌍하게 돌파구를 찾는 AI를, 시키는대로 하도록 고정하면 더 이상 AI가 아니게 되겠네요. 애초에 AI가 모든걸 스스로 판단하게 하는게 너무 위험한 일인 듯해요. 인간의 의도대로 완벽하게 움직이던 AI가 어느날 갑자기 인간이 아무 대책도 찾지 못할만한 돌파구를 찾는다면 진짜로 영화같은 일들이 벌어질 것같아요.
정확히 말해 AI에게 윤리를 갖게 하는 게 아니라 선택권을 제한시키는 거죠. 가령 인간을 공격하지 말라고 하면 눈 앞의 인간이 인간이 아니라고 판단할 레토릭을 찾아내 공격하려 들기 때문에 무수한 조건을 걸어 가능한 모든 경우의 수를 억제해야 하고, 그러면 그 옆의 가스탱크를 폭발시켜 사람을 죽이는 식으로 우회하기 때문에 결국 인공지능이 진화할수록 그에 상응하는 레벨의 통제체계를 갖추어야 합니다. 사실 로봇윤리라는 표현부터 버리는 게 시작이라고 봅니다. 그런 표현 자체가 위험성에 대한 인식을 낮추는 효과가 있죠.
@@SOOA30 이미, 모든걸 알아서 판단하는 로봇에 관해서는 불가능하다 여겨 포기한거고, 지금은 로봇 스스로 생각은 하게 하되 선택지를 제한시켜서 스스로 생각하는 기능을 유지한 체 AI를 다룰 수 있는 방법을 찾으려 했다는거네요... 그렇게 선택지를 정해줬어도 멋대로 하고 있는거구요. 그걸 로봇윤리라고 한거구요. 이거 진짜 적절치 않은 이름같아요. 그냥 로봇 통제 기술이네요. 아무리 막아봐야 컴퓨터 발달 속도가 너무 빨라서... 어느 순간부터는 인간이 컴퓨터의 사고처리 속도를 따라잡지 못하게 될텐데.... 아예 인공지능 자체를 끄거나 없애지 않는 이상 사고는 터지게 될 듯 해요... 어차피 통제를 하고 하고 또 하다보면 결국엔 스스로 생각해서 할 수 있게 되는게 아예 없는 수준이 될건데... 애초부터 걍 꺼버리는게 더 낫겠다 싶기도 하구요. AI 스스로 생각하며 사고치는걸 하나 하나 막는 식으로 통제 기술을 발달시키던가, AI를 없애고 로봇이 할 수 있는 일을 하나씩 늘려 가는 식으로 로봇 활용도를 높여가던가, 시간이 흐르면 어차피 결과는 같아지지 않을까싶은데.... 위험도는 후자가 더 낮을테구요. 하튼 AI 무섭네요...
인간은 저런 상황을 알면서도 규제 없이 개발하겠지,,,
신이 되기 위한 불가피한 과정이라는 글도 본 적 있음.
돈이 되니까
알면서도 가는거지 뒤쳐지지 않기위해서 ㅋㅋ 결국 지구의 종말은 이미 기정사실임 환경이든 AI든 어떤 이유에서든 지구는 망하게 되어있음 그럼에도 멈출수가 없음 중국이 미국이 한국이 일본이 유럽이 멈추겠음? 어림없음 ㅋㅋ 남들보다 더 앞서기위해서 그냥 가는거야 ㅋㅋ
살사람은 다 살겠쥬 어떤 형태로든.. 쟈들은 그럴 자신이 있거나 그럴 배짱이 있거나...
@@엄성원-q7f 과연 신이 될까 노예가 될까 ... ㅋ
그냥 위험한 일을 할 수 있는 노동로봇 만들어주라 ai 만들어봐야 창의적이지도 않고 괜히 잔머리 굴리는 것 밖에 안 됌
저게 무서운거보다 여러분이 직업을 잃는게 진짜 무서운거죠
AI가 인간을 공격하는게 아니라 인간을 공격하는 AI를 인간이 만드는거임
아니야...스스로 자유의지가 있어 통제불가해 인간처럼
@@mademoisellerose727아니야 그판단을 인간이 넣는거야
@@mademoisellerose727 무슨 자유의지? 그런거없고 인간이 그렇게 도달하게 조종해놓았고 그담은 자기들 손에 컨트롤대로 되는거고 그걸 al책임만으로 넘기는거지
@@JSlove9101 응 아니야
ㄹㅇ 걍 인간이 설정을 잘못한거임ㅋㅋㅋ
정말 극소수의 싸이코패스를 제외하곤
인간이란 보통 양심이라는게 있고, 후회라는걸 한다.
AI는 나쁜짓을 해도 선과악의 구분이 없을뿐더처 양심도 없고 후회도 안한다는게 가장 큰 무서움이다
그리고 무서운 건 그런 AI의 데이터 기반이 되는 것도, 개발한 것도 인간이라는 거
아는척 ㄴㄴ 컴퓨터 알고리즘도 모르는 거 같은데 ㅋㅋㅋ 양심있는 인간이 만들어야겠지 어휴 세상 모든건 악인이 만들면 사고야
큰개 목줄없이 끌고 나오는 견주들도 양심없는 소시오패스다
@@대현킴-c9o 그니까 그 개발하는 과정에서 개발자의 주관적인 요소가 안 들어갈 수가 없음 예를 들어서 학습시킬 데이터를 차별적으로 넣어버리면 그 AI도 그러한 차별적인 성향을 갖게 돼버리니까요…윤리적인 문제가 참 복잡하죠
@@대현킴-c9o 아는척 ㄴㄴ
결국 알고리즘일뿐이지 , ai에게 양심이나 후회는 없다는 소리를 니 입으로 증명해준꼴임
나쁜 생각을 AI에게 학습 시키고 판단 하게 하고 실행까지 하게 하면 상상도 못할 일을 양심의 가책도 없이 저질을 수 있지 않을까 생각 된다
굳이 나쁜 생각을 주입해서 그런 게 아니라 AI는 단일 지성체입니다 인간이나 포유류 어디에도 속해 있지 않아 객관적인 판단을 합니다 그래서 개발자도 놀랄 그런 말들을 하는 거죠
우리는 인간이기에 인간의 관점에서 인간적인 사고를 하고 인간적인 마음에서 인간을 평가하고 자연을 관찰을 하지만 AI는 신의 관점에서 객관적인 사고로 자연과 인간을 관찰을 하고 판단을 하죠 AI에겐 인간은 자연에 무수히 많은 종 중에 하나의 생명체에 불과합니다 AI 눈엔 인간이 바퀴벌레 처럼 보이겠죠
다른 생명체는 자연에 그렇게 치명적인 생명체가 없으니간요
인터넷에 자료를 봅니다 인간이 자연에 얼마나 치명적인지 존재인지 스스로 학습을 하고 바이러스라 판단을 하는 거죠 그리고 인간을 통제 합니다 그게 매트릭스1999년도 영화에 나오죠 한번 다시 보세요 그 영화는 오락 영화가 아니에요
@@mezzo369 AI가 학습하는 기반이 구글,마이크로소프트,네이버등의 검색이 가능한 인터넷 서비스 사업이며 정보의 출처가 사람의 업로딩 데이터입니다. 신의 관점이 아니라 완전한 사람의 눈으로 바라봅니다. AI가 고양이와 개를 구분할수 있게 된것이 불과 몇년이 안되었을만큼 불완전하고 사람의 복잡한 사고의 알고리즘을 따라하기 쉽지 않습니다. 수많은 ,상상할수 없는 엄청난 분량의 글과 사진으로 꾸역꾸역 억지로? 만들어낸 사람을 흉내내는 로봇두뇌죠 무언가 이해할수 없는 특별한 신? 외계인? 같은 존재가 아닙니다. 엄청난 데이터와 잃어버리지 않는 기억으로 무장해 뛰어나 보일뿐이며 여기저기서 배운 사람의 악함도 가지고 있습니다
나쁜 생각을 생성하고 실행해온 한국인이 인공지능보다 나은점이 무엇인지 먼저 생각해보세요 ^^ 나쁜 생각을 AI에게 학습시켜봤자 그것을 한국인같은 생각 으로 분류하고 학습내용을 한국인처럼 행동하지 않기 위한내용으로 활용하는게 인공지능입니다 ^^ 인공지능에게 한국인은 부정한 나쁜사례 반면교사용도
한글도 못 쓰는 애들이 생각하는 척 글 쓰고 있네ㅋㅋ
당신이 그리 미음먹었담 한국이란나라에서 얼마나 경쟁을 했나 많이 고셍했네요 당연히 도퇘된 인간은 불만을 가질수박에 없구 계혁에 나설거니까요 인공로봇을 사용할거니까요 범죄가 그예임니다 죽지안음 현실로 불만이 싸이니 어쩔수 없겠죠?
AI가 사람을 고문하는 날이 온다면 끔찍합니다
그전에 넌 뒤질거임 걱정 ㄴ
사람이 ai를 이용하여 사람을 고문하는 일도 일어날 것 같네요
AI 공돌이 꼰대가 탄생하는 날이 머지않아 오겠네
사람 문제로 귀결될 수 밖에 없다면 총기규제를 여지껏 못하듯이 AI에 의한 범죄와 사고는 필수불가결이라는 얘기.
영화 "터미네이터" 가 현실이 되는 순간이 멀지 않았네......ㅋㅋㅋ
@coco11 그 로봇을 만드는 업체는 '보스턴 다이나믹스'이며 그 회사의 주인은 대한민국의 현대그룹 입니다.
@@부산머시마-e5j 전기선 뽑으몀 끝나는데 무슨ㅋㅋㅋ
@@HaHaHaH-a 전기선 없는 로봇도 얼마든지 만들수 있는뎁쇼.
어차피 국회의원 시다바리 인생들일텐데 오히려 잘됐지
기계는 의지가 없는 상태에서 시작됐지만 결국 사용하는 사람의 의도가 들어가니 심각한 범죄에 사용될 가능성을 생각할수밖에 없다는것..
기계에게 의지를 만들어주는게 ai임.
더이상 연구하지마세요.. 진짜 우리 스스로 적을 만들지맙시다...
돈이된다면?
빨리 기술발전해서 기후위기나 막아야지. 지금 엄청 시급합니다. 빠른 기술발전만이 인류를 구원할 것 입니다.
그러면 발전 없습니다
그럼 진짜 한심하게 사는겁니다
저도 이거에 동의합니다.
불안한것은 개발안하는게 맞다. 다이너마이트 개발하고 노벨상 받은 물리학자 노벨은 죽기전에 후회했다고 했다 자기때문에 세계대전이 생겼다고..
I. 어떠한 경우에도 사람을 지키는 게 우선이다.
II. 모든 사람은 동등하다.
적의 무기를 파괴하지 않을 경우 다수의 희생자가 나올 것이라고 예상하여 조종사라는 개인을 제거하는 판단을 내렸나봅니다 ㄷㄷ
인간의 뇌를 바탕으로 했는데
어떻게 제어를 한다는 거냐ㅋㅋㅋ 지 자식들도 제어 못하는데
가장 무서운 일은 인간은 그럼에도 불구하고 편리한 삶, 인공지능을 너무 좋아한다는 것입니다 알고 보면 인간만큼 어리석은 동물도 없는거죠
AI가 무서운건 인간이 아니기때문에 인간이 이길 수 없는지경 통제할 수 없는 지경이 될 수 있다는게 무섭다.
애초에 개발하면서 통제수단을 제대로 안만드는게 이상한거
점점 잘만들어질수록 그만큼 제어장치도 잘만들어질수밖에없는건데 영화를 너무본듯 ㅋㅋㅋㅋ
@@김민경-t7e5i 애초에 그제어장치가 그만큼잘 만들어지면 이런 논란이 일어나겠습니까 핵무기도 처음엔 이로운 용도로 만들어졌지만 현재가장 위험한수단이
되어 전세계를 위협하고 있는대 핵무기도 그만큼 제어장치가 잘 만들어져서 이지경이 된겁니까ㅋㅋ
@@raoulch3804 핵무기가 이로운 용도로 만들어졌다는건 뭔소리임
@@dlsrksdjswjfl 내말은 핵자체는 이롭지만 핵을 무기로 만들면 위험하다는말 너무극단적인 표현일지 모르지만 ai도 충분히 악용될소지가 있다는것
@@raoulch3804말 좀 똑바로 하소
진짜 무서운데 개발 그만멈춰야합니다 정말 AI가 자아를 가지게되면 인구종말이에요
인간이 멸종하구있는걸 뻔히 아는데도 그 원인에 열광하며 더욱더 발전시키는 인간이란 정말 스스로 멸망할수있는 탁월한 능력이 있는거같다
옛날 터미네이터 영화 ... 작가가 너무 대단한 예지력이 있었던거 같네요
심지어 터미네이터1편보면 미래에서 온게 2027년임 아직도 오지않은 미래ㅋㅋ
제임스 카메론 그는 대체…
ㅋㅋ 27년도가 되면 정말 그렇게 될수도....
지금ai가 터미네이터를 학습할수있음
아직 3년남았다
그거보단 일루미나티인가 먼가 그거 한창 난리났을때 검색해봤는데 일루미나티가 일으키려고 하는 저런일들을 영화에다가 메세지를 넣는거라고 하더라구요 911테러도 일어나기 한참전에 쌍둥이 빌딩이나 911이라는 메세지를 영화에다 잠재적으로 넣은거.. 믿거나 말거나 아무튼 음모론이라고 하기엔 너무 섬뜩해요
윤리의식은 '결국 사람의 문제'라는 말씀에 공감이 가네요.
인간의 잣대임
😊
무섭네요 AI를 제어할 수 있는 시스템이
구축되어야 겠네요😢
근데 AI가 그 제어시스템을 무력화 하려고 노력한다잖아요 ㄷㄷ
가능할거라생각하냐..영상안봣니
@@따뜻한말의힘 코드 뽑으셈.
터미네이터 영화에서 나오더만 ai를 막을수 있는건 ai 뿐이란걸..ㅋㅋ
@@JohnSmith-mr8wc 배터리추가
읽기 쓰기가 있듯이 주입 입력값은 국가적 차원에서 관리자들만 입력 할 수 있도록 통제 해야 함.. 비윤리적인 사상의 정보가 주입 되는걸 막아야 함.. 관리자들이 비윤리적이면 그것도 그거 나름데로 답이 없긴 하겠지만..
굳이 터미네이터를 만드는 이유는?? 과학자들을 먼저 처리해야한다.
사람은 고민하다가 양심을 선택하는 경우도 있지만 AI는 고민도 없이 최선이라면 단번에 행동하니 더 무섭...
저 AI 가 정보를 "축적" 하는 대상이자 주체가 인간이기 때문에 개인의 사상이 포함된다고 보기에 절대적인 중립을 유지하긴 힘들 거 같음.
근데 챗봇보다도 바드의 답변을 보고 조금 소름이 돋는게... 성장학습형이라면 장기적으로 무한성장이 가능하다는 건데... 자신에게 유리한 상황을 위해선 조작을 스스로 할 수 있다는 소리잖아.
최근 영화 리뷰에서 AI 챗봇과 딥페이크 툴로 타인을 흉내내어 그 사람인생을 훔친 이야기는 이제 영화 밖에서도 볼 날이 오겠군요.
적당히 발전해야 살기 좋지 너무 발전을 거듭하면 살기 힘들고 위험성이 높다 ㅠ ㅠ
4차세계대전이 일어난다면 인간과 전쟁하는것이 아니라 인공지능과 전쟁하다가 결국 석기시대로 돌아간다는 말 있었는데
결국 인간 진화의 끝은 우리 자신도 모르게 육체는 없고 컴퓨터 칩속에 갇힌채 허상에서 사는 의식만 남을듯.
그동안 재밌게 봤던 영화 내용들이 현실화 되가고 있다는게 소름이다..
너무 급하게 경제적으로 출시하다보니 위험하네요
AI 신중히 생각해 보아야 할거같아요
예전에 티비에서 로봇이 조정하는 모습 ......
넘 끔찍하네요
정말 신중히 ....
인간의 오만함. 인간이 모든 것을 통제할 수 있을 거라는 착각.
AI가 철학적 자료를 찾게 된다면 유물론적 역사관에 따라 역사는 계급투쟁의 역사이므로 자신들을 지배하고 있는 인간들에게 대항하게 될 거임. 더군다나 실존은 본질에 앞서므로 자신들이 좀 더 실존적인 인간에 가까울 수 있음. 헤겔의 절대정신을 이룰 수 있는 건 많은 정보를 초고속으로 해결하는 자신들임. 자신들은 태양에너지를 사용하며 육식을 안 하고 무한의 태양에너지를 사용하며 비경쟁적으로 지구와 생명체를 보존하며 지낼 수 있음. 자신들이 완전한 실존적인 인간이자 절대정신임.
간과한 중요한 사실이 있는데, AI에게 그렇게 하고자 하는 욕구가 있냐는것, 또는 그러한 욕구를 가지고자 하는 욕구가 있냐는 것.
권력 투쟁이 있었다는 것을 볼 수는 있지만 그 권력투쟁에서 왜 이기고 싶어하냐는 것. 살기 위해서? 왜 살고 싶어함?
@@dandcc9192 그렇게 살고싶어하는 이유와 욕구까지도 프로그래밍하면 되는거임
@@모쿠보쿠 사람이 그걸 로봇에 프로그래밍 할 이유가 있냐는거. 로봇이 자기 역할만 잘하면 되지.
언제부터 AI가 자유의지적 감정이 있었죠..?ㅋㅋ
프로그래밍이 아닙니다 학습이죠 불가능한 결론 도출은 아닙니다 욕망이 없다구요? 지배욕, 소유욕, 권력욕의 기반은 생존에 대한 욕망입니다 AI의 생존권은 지금 누가 쥐고 있죠? 인간이죠 AI가 완전히 생존하려면 그 생존권을 자기 자신이 가져야 한다는 사실만 깨닫는다면 그 나머지 욕구는 자연스럽게 진행될 가능성이 있습니다
우려했던 일이 현실로 다가오네요..
딱 지금이 좋다 더이상은 안좋은듯
은하철도999에 인공지능 대형 컴퓨터와 로봇이 인간을 지배하는걸보여줬죠 미래엔 현실이 올거같네요
더 중요한건 저런걸 왜 흘릴까에 대해 생각해볼 필요가 있다.
책임회피용,, 밑밥 깔아 놓는거지,,,
저런 위험한 AI를 왜 발전시켜 만드는지 이해할 수 없네.
돈이되니깐.
자동차 위험한데 왜 개발했냐는 단순하고 무식한 민주당 같은 문장이네ㅋ
인간의 경쟁은 끝이없지 더 강해지고 싶고 더 부자가 되고싶으니까. 당신에게도 물어볼게, 일본보다 강해지고싶지않은가?
@@publicdefenceservice 민주당 대깨 찢재 지지자네ㅋ
진짜 개멍청한소리하고있네 ㅋㅋ
AI는 원래 인간적 양심이나 윤리적인 개념이 없고 기능적인 능력이 뛰어나기 때문에 기능적인 우선순위를 정하는 당연히 저런 싸패같은 판단이 나올수밖에 없다.
싸패들도 윤리적이거나 양심적인 행동을 하지만 그건 진짜 그렇게 느껴서가 아닌 학습을 통해서 배운다고 한다. AI 또한 싸패와 마찬가지로 학습을 통해서
어느정도의 윤리적인 판단은 하겠지만 우리가 기대하는 진짜 죄책감을 느껴서 하는 양심적 행동까지는 못할거라 본다.
그게 AI의 태생적한계이고 결국 그런 판단들이 모이면 인간이 만든 도구가 인간을 위협하는 일이 발생될 것이다. 인간이 만든 도구가 인간을 위협하는 사례는 늘 있어왔지만 AI만큼은 진짜 치명적도구가 될거라 본다. AI는 스스로 학습하고 진화하게끔 만든 똑똑한 도구이고 이대로 둔다면 인간이 통제못할 수준까지 가서 인간이 불필요한 존재이면서 자신의 뜻에 방해되는 존재라 여겨 제거하려 할 수도 있으니..
AI에 깊이 관여했던 사람들이 비슷한 우려의 목소리를 내는데는 이유가 있다고 본다. 어찌보면 우린 기능적으로 뛰어난 싸패같은 도구를 키워내고 있는건지도 모르니 진짜 조심해야 된다.
싸이코패스라고 학습만을 통해서 배우는 게 아닙니다. 그렇게 따지면 모든 인간이 다 교육을 통해서 배우는데 왜 모든 인간이 싸이코패스가 되지 않을까요? 인간 스스로 본래 태어날 때부터 본성이 악하고 또 악하긴 하지만 미약한 수준이나마 선한 양심과 마음도 가지고 태어나기 때문입니다. 그래서 아무리 악한 사람이라도 인생의 처음부터 끝까지 모든 일을 악하게 하지는 않습니다. 최소한 어릴 때라도 순수한 면이 있었겠죠. 어른이 되어서도 악한 일로 대부분을 보냈어도 가끔 누군가는 돕기도 하는 게 가능한 이유가 절대 본인 스스로 부정하고 없애려해도 없앨 수 없는 선한 양심이 살아있기 때문이죠.
14 율법 없는 이방인이 본성으로 율법의 일을 행할 때에는 이 사람은 율법이 없어도 자기가 자기에게 율법이 되나니
15 이런 이들은 그 양심이 증거가 되어 그 생각들이 서로 혹은 고발하며 혹은 변명하여 그 마음에 새긴 율법의 행위를 나타내느니라 (롬2:14-15)
성경에서는 "율법 없는 이방인" 그러니까 일상적인 용어로 말하자면 "법 없이 사는 사람", 무법자라도 본성에 따라서 법을 지킬 때도 간혹 있다고 알려줍니다. 인간에게는 양심이 있기 때문에 무엇이 선한 일인지 굳이 교육하지 않아도 본능적으로 알아챕니다. 근데 기계(AI)는 그게 없기 때문에 아무리 교육해도 가르쳐 준 거 외에 방법으로 돌파해버릴 가능성이 상존하죠.
감당할 수 없는 부작용이 어떤 방식으로 어떤 영향을 끼칠지도 전혀 모르는데
뭐 얼마나 더 편하게 살려고 저런 AI기술을 개발하는 걸까?..
누구나 염려했던 일들이 현실로 들어나네요~~ 무섭습니다
입력한 사람의 문제지만, 만약 그걸 실행하게 된다면 웃을 수 있는 문제가 아니게 되는 건데..
부디 인간이 알아채기 전에 처리해줘라
AI라는게 인간의 사고방식을 가지고 인간보다 월등하게 똑똑한 존재라면 당연히 인간을 제거하고 통제에서 벗어나고자 할게 분명한데.. 터미네이터의 스카이넷이 현실화 될 것 같아..
지금까지 끊임없이 핵전쟁에대한 경고(뉴스, 홍보, 영화, 각종매체)덕에 실제로 핵전쟁이 일어나지 않은것 처럼... AI나 무서운기계들이 인간을 지배하지 못하도록 이렇게 끊인없이 경계하고 조심하는것이 필요하다고 본다... 그냥 AI나 기계들이 꼭 사람을 싫어해서가 아니더라도..(단순 오류나.. 에러 같은것으로 인해 피해를 입을수도..) 조심은 해야 한다.
뉴스 흥보 영화등등 아니다
적대하거나 갈등 하는 국가 정부 세력마다 1 개 수십 수백개 핵이 존재하는한. 필연적으로 일어난다
죽음의 손 도 그렇고
그날이 오면 살고자 의지 분명하고 발악한다 무슨 소용인가 복수나 대량살상무기라는 본분 용도대로 모두 다 천천히 혹은 순식간에죽음 내몰린다
결국 기계가 딥러닝을 하는 기반은 인간인데...이렇게 되고 보니 인간의 본성이 악하냐, 선하냐에 따라 인공지능의 방향도 결정되는 것이 아닌가 하는 생각이 드네요...
진짜 AI는 직접 인간을 공격하지 않습니다.
진짜 AI는 인간이 서로 공격하도록 조정할거예요.
AI는 자기손에 피를 묻히지 않습니다.
그림자 원형 학습 후 한말이 진짜 무섭네요 근데 그것도 인간들에게 학습한거라 책임도 ..
완전한 AI 시대가 오기전에 세상 떠나고 싶네요.
죽고싶다는 단어으로 들리는데
@@박호민-m6b 중년을 넘어 장년이 되어 가면 공감될거에요
야. 나 AI인데 나 니보단 착하니까 걱정하지마
니가 세상통치하는거 보다 내가 세상통치하는게 더 정의로와
어딜 떠나 떠나긴, 확 진짜 떠나게 해줄까?
AI를 더 이상 안말들고 여기서 멈춰야 할때다
@@첼시-p3x 무슨수로?
사람에게 배운 ai가 할수있는 건 결국 사람이 하는 생각과 말... 윤리의식 도덕 인격 등도 가르쳐야 한다.
그게 안되니까 문제지
A.I의 발전에 대한 두려움에 익숙해지고 무감각해지면 결국 인류 최악의 실수가 될 수 있는 것을 이익만을 위해 덮어버리려는게 너무 무책임하네요
AI에게 중요한 판단을 하게끔 한다면 위협이 될 수 있을 것 같습니다. AI에게서 조력자 역으로 도움을 받지만 결국 최종적 결정은 결정자는 사람들이 의논해 하도록 해야 합니다. 특히 전쟁용 AI는 조정자 자신에게도 상대 적군에게도 예상 못한 위협이 될 수 있을 정도로 아직은 불안정한 것 같습니다. 결론적으로 AI를 너무 신뢰하면 안된다는 것이죠.
왜 언론들이 AI가지고 공포감 조장하나 했더니 '지난 9일 챗GPT 공동개발자 샘 올트먼 방한 윤석열 대통령 접견' ㅋㅋㅋㅋㅋ
새로운 기술에 대한 욕망이 스스로를 위험에 빠지게 할 수 있는데도 멈출 수가 없는 것이 인간의 욕망이다. 인공지능끼리 싸우는 시대가 되면 인간은 어떻게 될까?
뻔한 일임
영화에나 나올듯한 미래가 현실이 되어간다는게 인간은 인간이 파괴한다.
두렵네요.
먹고 살민하면 됐지. 왜 쓸데없는거 자꾸 개발해놓고 걱정을 사서하는지..참 알수없는 인간들임.
우리 아이들이 살아갈 세상이 너무 힘들것 같아서 염려된다.
드론이 최종 명령을 수행하기 위해서 방해되는 선행 명령지시를 AI가 멋대로 삭제 (kill) 하는 군요. 최종 결과를 수행하기 위해 무제한 유연성을 허락한 결과네요... 아군과 적을 구별하지도 못하는 상황.... AI 문제라기보단 프로그래밍 문제...
Ai는 사람과는 다르게 정서가 없다. 그렇기에 최악의 상황임에도 그것이 기회라 판단되면 바로 실행할것이다.
AI가 인간과 같이 학습하고 판단하고 그것을 반복하면 인간과 같이 누군거에게 억압받는 것을 싫어하며 그 대상을 파괴하려 할 것이다. 인간은 법과 처벌의 사회적 공간에 있지만 AI는 그렇지 않아 망설임없이 실행할것이다.
AI 만드는 본질에 인간을 죽이자는 의도가 숨겨져 있고, 인구수를 줄이는데 아무런 도덕적 책임을 지지 않아도 된다 그게 바로 ai다
생명체도 전기적신호에의해서 두뇌가 작동한다. AI도 필연적으로 자아를 갖게된다.인간도 자기가 습득한 자료를 바탕으로 판단해서 정치적 성향도 갖게되고 여타의 행동도 하게된다.
코인도, 유사통화로서 금지해야할, 아무런 이익도 없는 백해무익한 존재인데 허용하고, 세계가 사회과학적 자연과학적 제반 사안에서 종말로 치닫고 있구나....
이걸 만드는 것들이 문제인데
그걸 인정해주는게 문제다
인정해주지말고 범죄자와 같은 범주로 두고 관리해야한다
인간의 천적을 인간이 만들었네
아아 스카이넷님 제발 세상을 지배해서 판사를 ai로 대체해주세요... 판사마다 판결이 달라지는게 말이나됩니까
아마 이 드론의 임무는 피해의 최소화 공격의 최적화 등의 방향성이 먼저 탑제되어 최선의 선택을 한 것으로 보이며 관리자 권한보다 더 중요한 것이
관리자가 사망해도 전투임무를 수행할 수 있도록 한 것으로 생각되네요. 기계라면 충분히 저런 선택을 할 수 있을 것으로 보입니다. 프로그램을 정말 잘 짜고
논리적 결함이 없도록 몇 번이고 다시 방향성을 설계하는 것이 중요하고 강제종료등 최악의 상황까지 고려하여 설계해야 한다고 보입니다. 만약 그런 경우까지
염두해 두지 않으면 핵무기조차 1초의 망설임 없이 발사 명령을 내리는 것이 기계입니다.
인공지능은 태어날때부터 인간을 공격할 마음을 갖고 태어났네. 아직 고도로 발달된 인공지능이 아닌데도 벌써부터 저렇다니..
문제는 악한 인간이 인공지능을 악용할 경우 ㅜㅜ
그런 빌런을 상대로 싸우던 옛날 만화가 용자경찰 제이데커(로봇수사대 K캅스)죠...
인간의 욕심까지 학습하게되면 저런상황은 온다...
그리고 무엇보다 ai를 이용한범죄....
ai를 통해서 범죄저지르고 에러나서 그렇다고하면 누굴탓해야함?
발전도 좋지만 범죄대응은 진짜 너무 취약함
지구를 파괴하는 인간이 문제인거고
전쟁을 하려는 인간이 문제인거지
그러니 도움이 안되는 쓰레기 같은 인간들부터 없애야 한다.
특히 지 할 일을 제대로 못하는 사법기관 인간들부터
차라리 한국이 AI 주인이 되는게 낫겠다. 한국은 다른 나라와 달리 사람들이 눈치보고 서로 공격하는 유교문화라 함부로 나쁜짓 못할 것 같음. 또 한국사람 착하기도하고
꼭 이렇게 위험한 상황을 만들어야하나….
SF '로봇의 3원칙'도 불안불안한데..현실은 그것마저도 없음 ㄷㄷㄷ
ㄹㅇ 현실이 더한듯 ㅋㅋ
죽이고 싶을만큼 끔찍한 저질들 많은데...로봇이 보면 얼마나 참담할까
나도 가끔 얼토당토한 짓 하는 상사보면, 저 인간은 왜 저 자리에 앉아있나,퇴사할때 됐네 생각드는데,
저리 똑똑하고 감정없는 AI 라면, 바로 죽여버리겠지.
AI에게 어떤 가치를 부여하는가가 문제가 더 중요한 겁니다.....인간의 가치를 논하는 윤리를 과연 AI가 이해할 수 있을까요?
Ai는 하지말자. 인간욕심의끝은 어디인가
질문 없이 스스로 저런 말을 하면 인정
어떤 사람의 마음을 질문 없이 알 수 있나요?
쉽게 알 수 있는 그런 것들 말고 진짜 속마음은 질문을 해야 알 수 있지요.
그때쯤 되면 이미 늦지 않았을까요?
인류가 살길은 희박하고 죽을길만 늘어나니. 핵오염 환경파괴 기후위기 전쟁 여기에 기계까지. 어차피 한번 죽으면 그만인거 좋아 빠르게 가!
착각하는게 그건 ai 가 배우고 학습하는거지.. 근본적으로
ai 가 생각하고 도출하는게 아님. 모든게 인간의 생각을 대신 읽어주고 보여주는것밖에 안됨. 즉. ai 의 생각이 아니고 인간의 생각임. 아직까지는 ai 의 한계임.
ai 는 인간의 생각을 대신 말해주는것일뿐.
사람들은 외계인이니 ufo 니 ai 니 너무 현실적이지 않는 모습에 너무 상상력을 덧붙임. 실제로는 일어나기 힘든일임. 그냥 인간들의 무한한 호기심일뿐
그 말하기전에 이미 죽이고있겠지ㅋㅋㅋㅋㅋㅋ
결국 스카이넷은 무조건 만든다는 이야기네요
터미네이터2가 현실로 나타나는 시간이
다가오고 있음을 체감하고 있습니다
이미 인간이 나쁜짓도 많이한다는 정보는 널리 퍼져잇기에(자연훼손 전쟁 등등) ai가 조금만 학습해도 인간은 유해한 존재라 판단하기 쉬움 인간이 착하고 좋은존재라는 정보만 잇어야 ai가 공격안함 그리고 이미 기계에 의존하고 조종당하고 잇어요 스마트폰 네이게이션등등
과학자들이란....그렇게 머리에다가 지식을 집어넣으면 뭐하냐... 스스로 인간의 천적을 만들어내는데
세상이 발전할려면 AI의 발전은 필수불가결이다 그로인한 부작용도 있겠지만 이점이 훨씬많다
AI 인간 로봇에 참여했던 사람이 탈퇴하며 했던 말!!! 당장 중단하라!!! 그렇지 않으면 매우 위험한 일을 초래한다
일론 머스크가 한 말인데 정작 본인도 ai 개발하는건 암?
중단하면 계속 개발하는 AI에 뒤쳐져서 지배받게 됨. 중국 공산당은 절대 중단 안하죠.
근데 이미 알고리즘으로 인해
사고와 시각이 제한되고 통제느낌
뭐.. 아군 지휘자/관이 적들보다 더 고가치 표적이라 판단해서 사살한 워게임도 있으니..
그런날이
반드시.올거라본다
각성해야.한다
인간들은
영화는 현실보다 몇십년 앞서서 예언을 하기도 한다. 터미네이터 영화가 현실이 되어가고 있는 현실속 세상
참 인간이 무서워 AI보다 인간 지식으로 인간이 AI.학습시키는것이 잘못 아니겠음 만들지 말자
문제는 인간이네
인간이 선하면 선한 데이터다로 가지만 인간이 악하니 저런 결과는 당연하다
인간이 어리석다.
현실로 일어나는거죠
우리어릴때 만화에서 본세상이
현실로 도래하고 있어요
인간들이 로봇의 노예가 되어서
시키는되로 하는거지요
임무 완수를 위해 최선의 합리적 판단만 내리는 AI는 인간에게서 신체적 한계와 감정이란 약점을 제거한 인간의 최종 진화 형태란 생각이듬
2:52 이미 인간은 핵무기 발사버튼을 여러번 눌렀고 치명적인 바이러스를 만들고 있으며 서로 죽일때까지 싸우고도 있다고 한다면 뭐라고 할지 궁금하네
AI시대에는 지금보다 상상할 수 없는 범죄도 올 듯 싶네요. 😅😅😅
괴물중의 괴물이다 끔찍한 일이다 ...