완벽할 거 같았지만, 의외로 맹~~ 하죠 ㅎㅎ 전에 알파고와 이세돌프로 대국을 봤을때, 대국 방식이 이세돌 기사에게 환경적으로 불리했다고 봅니다. 알파고와 대국을 하더라도 대리 기사가 이어폰을 통해서 좌표를 수신 받거나 특수렌즈를 통해 대리기사만 볼 수 있는 포인트를 바둑판에 마킹해야 한다고 생각하는데... 어수선하게 컴퓨터 옆에 두고 마우스 클릭하고... 이건 대국 방식에 큰 문제라고 생각했습니다. 딥런닝에 큰 헛점이 있다는게 발견됐으니, 개발자들이 또 그에 해당하는걸 업데이트 하겠군요. Ai 묵사발 대국 설명 잘~ 들었습니다. ^^
이게 바로 현대의 딥러닝에서는 인간 수준의 일반화를 일으키지 못했다는 반증이겠지요. 바둑을 “알”고 두는 게 아니라 그냥 본인의 학습데이터로부터 베이지안 확률 추론을 사용한 그냥 확률 놀이를 했을 뿐이구요.. 이것을 극복한 인공지능이 나온다면 그것은 또 복합형 인공지능이 아닐까 합니다. 학습한 내용을 바탕으로, 학습하지 않은 내용을 “생성”해내서 스스로 재학습하는 거죠. 마치 인간이 꿈을 꾸듯이.
저거 진짜 내다 바둑 처음 배웠을 때 하던 말도 안되는 꼼순데 저게 통할 줄이야 ㅋㅋㅋㅋㅋ 한 수 차이나 두 수 차이로 죽었다고 판단됐을 때 다른 데 두면 상대방이 그거 까먹겠지 해서 다른 데 두다가 은근슬쩍 다시 두는거ㅋㅋㅋㅋ 상대가 방심하면 가끔 통하긴 했었는데 인공지능한테 통할 줄이야ㅋㅋㅋㅋ
AI개발자들이 이번 버그는 보완 하기가 어렵다는 거죠. 왜냐하면? 인공지능 데이터는 수많은 실전을 통해서 적립된 것인바 일방적인 국면에서의 데이터는 없다는 것입니다. 백퍼센트 유리할때 어디둘지를 모른다는 선택장애가 발생하는거죠. 이점은 여타 분야의 AI들도 마찬가지로 치명적인 AI의 약점일 것입니다. 그걸믿고 맡겼다가 어이없이 낭패를 당할수 있다는거죠. 차라리 훈련이 덜된 말을타고 가는것이 AI 자율주행 차를 타는것보다 안전할수 있다는거죠. 어느 조건이 되면... 그냥 물속으로 들어가 버릴수도 있다는거. 자동 변속 자동차의 급발진 사고도 그런 경우가 아닐까 싶어요. AI의 위험성이죠. 하지만 편리함 때문에 확률낮은 위험성은 외면하게 되는거죠.
바둑 잘 모르는데 AI쪽 전공이라 그런지 이게 알고리즘에 뜨네요. 개인적으로 전공자로써의 생각은 인간이 AI의 허점을 노력해서 찾을순 있다고 생각해요. 어차피 인공지능이란것도 수많은 데이터 가운데에서 제작자가 만든 알고리즘을 따라가는거니까요 근데 그 허점이 알려지는순간 보완은 한순간이고 그다음 허점을 사람이 찾는건 점점 힘들어질거라고 생각합니다.
음 근데 생각보다 아직은 “꼼수” 찾기가 쉬운거 같아요. Black box attack 은 조금 빡세긴 하지만 gradient 정보를 볼 수 있는 whitebox attack 은 솔직히 defense 가 아직 너무 너무 약해서… 아직 보완하는 방법이 개발이 덜 되었어요.
인공지능은 입력시킨 자료 한도내에서만 계산한다 그런 얘기네요. 저런 떡수를 입력시키질 않았으니 전혀 모르고 응용할 줄은 더 모른다는 말이겠죠. 모든 가능한 떡수도 전부 입력시켜주고 어떻게 대응할 것인지까지 가르쳐 줘야 한다는 말이네요. 키포인트는 많이 이길 필요없고 한집만 이기면 된다는 식으로 프로그램을 짜야 할 듯...
인공지능 살짝 전공한 사람으로써 얘기하자면 감정이라는걸 따로 학습하지 않으니까 방심이나 그런것보다는 학습되지 않은 어설픈 수에 대해서 대응이 불가능한거죠 가장 좋은 수 ( 정답 ) 을 내릴 수 있는게 AI지만 사람의 개념으로 학습된건 아니니까요 한마디로 사람과 개념이 다르고 AI도 모르니까 당한다는거죠
재미있군요. 딥러닝을 통해서 배우기를 엄청나게 배우긴 했는데, 결국에는 그 배운 것들이 전부 "잘 훈련 된 프로기사들이 하는 행동"을 기준으로만 배웠다는 거네요. 그렇기 떄문에 인간들끼리 바둑을 할 때에는 굳이 확인사살하거나 끊어버릴 것도 없이 상대가 알아서 패배선언하고 끝내버리거나, 기권 안해도 이미 죽어 보이는 곳은 그냥 포기하고 다른 곳을 가는 것이 너무나 당연한 상식인데... 그것을 인공지능이 딥러닝으로 배우기는 배웠는데 "그렇게 하는 줄로만 알지 정작 왜 그러는 지는 모른다"는 소리네요. 그렇기 떄문에 지금까지 진지한 프로 기사들은 당연히 사람들 하는대로 승산 없는 곳에서는 그냥 포기하고 다른 곳에 두었고, 인공지능은 그렇게 자기 승산이 절대적이라고 판단한 위치에는 "인간들 하는 대로 흉내" 내서 굳이 확인사살 같은 것 안하고 다른 데 둔다는 말이죠. 그런데, 인공지능 잡는 방법을 교육받은 이 사람은 일부러 "보통 기사들끼리 대국이라면 안하는 짓"을 자꾸 하니까 인공지능이 경우에 없는 수를 만나면서 판단을 제대로 못하게 되버린다는 거네요. 그런데 만약 진짜 사람들끼리의 대국이었더라면 사람이 단순히 바둑의 지식량으로만 대국을 하는 게 아니라 그 순간순간 상대방의 의도나 심리도 당연히 아는 것이니까, 진짜 대국에서 저렇게 했더라면 걍 단칼에 잘려서 박살났다는 소리죠... ? .
스타로 치자면 3대1 컴까기 할때 시작하자 마자 일꾼 보내서 기지 건드리면 다 따라옴 이렇게 휘젓고 나면 발전이 엄청 느리지 즉 어떤 상황에선 일꾼까지 총동원해서 막아야 하는 경우도 있고 어떤때는 유닛만 계속 뽑아서 방어하고 일꾼은 도망 치는게 유리 할수도 있고 인간은 이런걸 바로 판단 가능한데 AI는 아직까지 불가능 하다는거지
바둑을 제대로 보신 게 맞으신지요? 저희같은 아마추어야 실력이 안 되니 인공지능이 맞겠구나~했지만 정상에 있는 프로들은 인공지능이 둔 수를 왜 그렇게 뒀을까? 끊임없이 분석하고 자신의 것으로 만든 뒤에야 뒀습니다. 심지어는 승률이 좋다곤 하지만 내 관점에서는 도저히 그렇게 못 두겠다 하고 인공지능의 최선의 수와 다르게 둔 기사들도 있었으니까요. 더 나아가 인공지능이 보지 못하는 더 나은 수를 두는 기사는 계속 있었습니다. 그 어떤 해설과 교육에서도 AI가 뒀으니 좋은 거라고 하지는 않습니다. 미약하게나마 인간이 못 본 AI의 수를 해석해 줬죠.
말 그대로 ’헛점‘입니다. 완벽하지는 않다는 것이지 모든 것이 틀리다는 것도 아닙니다. 0.1% 부분의 헛점이 있는 것이지 나머지 99.9%도 잘못된 것이 아닙니다. 그리고 현 바둑기사들은 절대 의심하지 않고 검증도 하지 않고 받아들이지 않습니다. 모든 바둑공부가 그렇듯 AI의 한 수 한 수에 대해 끊임없이 생각합니다. 바둑 외에 챗 GPT와 같은 인공지능 기반 챗봇의 경우 아직은 잘못된 내용을 맞는듯이 제공해주는 경우가 있어 이런 것에 대해서는 스스로 맞는지 생각하고 검증해야 하겠죠.
'어림도 없는 수' 에 반응을 안한다는 거네요. 위협적인 수에는 칼반응하지만 당장 볼때 아무 걱정할 필요가 없으니 그냥 넘긴다는거. 사람이라면 이상한 떡수가 계속 반복되면 '무슨 꿍꿍인지 모르겠으니 일단 차단하고 보자' 하겠지만 인공지능은 '어차피 데이터 상으로 떡수' 라고 판단해서 손을 빼고, 그게 쌓이고 쌓여서 어느 순간 뒤집기가 실현되다니.. 불안이라는게 없는 인공지능이니 가능한 꼼수군요
이게 실력이냐 꼼수냐가 중요한게 아니라, AI의 헛점이 드러났다는거 자체가 의미가 크다. AI는 바둑뿐만 아니라 의료분야와 같은 인간의 생명을 담당하는 분야에도 접목이 될텐데, 이러한 결함이 발생 되었다면 아직 보완해야 할 점이 많다는 점을 시사하게 됨. AI의 대한 맹목적인 믿음을 가진 사람들도 많지만, 아직 보완해야할 숙제도 함께 발견된거고, AI를 개발하는 수많은 회사와 개발자들한테도 경종을 깨우는 사건이 되지 않을까?
인간의 꼼수는 80억인구가 만들어내는 무한대 알고리즘이지만, 인공지능은 한정된 사람이 본인이 예측가능한 알고리즘에 바둑두는 프로 및 아마추어 기사들의 기보의 합일뿐입니다. 따라서, 태권도와 상당한 융통성을 가진 UFC에 챔피언조차 한참 아래 실력의 엉뚱한 수에 뒤질 수도 있는게 현실입니다. 헐리우도 영화같은 세상은 없으니까요.
@@TheWoseven 바둑의 전체 경우의 수에 비하면 80억명이 만들어내는 경우의 수는 티끌만도 못해요. 또한 바둑 인공지능은 자기들끼리 무수한 대국을 두며 발전합니다. 카타고의 안목은 인간과 비교가 불가능하지만, 그럼에도 바둑의 전체 경우의 수엔 티끌만도 못하죠. Kim S H님이 말하신 대로 정상적인 것만 학습한 방향성의 문제라고 생각합니다.
인공지능에게는 의도가 없다는 것을 보여주는 것 같네요. 미래에 인공지능이 세계를 정복하면 어떻하냐라고 많은 사람들이 걱정하지만 인공지능은 애초에 어떤 의도도 없이 단지 프로그램된 상황에서 최고 효율을 따질 뿐이라는 것이죠. 인간 프로였다면 상대방이 이렇게 둔다면 초보가 재미있게 두네라고 생각하면서 대충 맞춰주면서 교육바둑을 둬줄 수 있겠지만 인공지능은 자신이 의도가 없는 것처렁 상대방의 의도를 파악할 수도 없다는 것이 패착이라고 생각이되네요.
인공지능이 무서운 이유가 영향의 범위가 커질 경우, 의도가 없이 멋대로 행한 조치가 인간에게 피해를 주는 경우가 생길까봐인겁니다. 멋대로 발전해서 인공지능이 저그처럼 바닥에 아스팔트처럼 금속을 덮어버리고 그 위에 있는 것들은 다 분쇄해버리는 작업을 반복하면서 인간이 건드릴 수 없을 만큼 빠르거나 여러 군데서 동시에 바이러스처럼 반복하는 시나리오를 가정했을때, 기계는 어떤 의도도 없지만 지구를 잠식해버릴 수 있죠. 위의 예는 단순한 예지만 이런 비슷한 시나리오가 인공지능이 인간에게 위협이 되는 경우라고 할 수 있습니다.
인간 vs 로봇 전구갈기 시합하면 인간은 사다리에 올라가 전구를 잡고 돌려 빠르게 갈수 있지만 로봇은 사다리 올라 전구잡는 로봇 1대 사다리를 양쪽에서 잡고 들어올려 돌려주느누로봇 2대 총 3대가 필요하다고 하죠 바둑은 완벽하지만 바둑이 아닌 바둑은 배워본적도 해본적도 없는거죠 인지의 사각이라고 생각됩니다
@@나너머-w9x 바둑의 경우의 수는 우주의 모든 원자의 갯수보다 많습니다. 물론 이는 이론적으로 말도안되는 수까지 포함해 바둑판을 꽉 채울 경우의 수를 모두 계산한 것이라 실질적인 경우의 수는 훨씬 적습니다만.. 그래도 경우의 수는 너무 많아요. 그래서 인공지능도 옛 체스인공지능처럼 수를 일일히 계산(고전 알고리즘)하는 것이 아니라 느끼도록(딥러닝) 설계되었습니다.
인공지능을 연구하고 있는 박사과정입니다. 사실 인공지능 관련되어 전공자가 아닌 흔히 일반인 이라고 불리는 대중들이 무시하는 게 있습니다. 그것인 인공지능의 신뢰도는 사람의 신뢰도 보다 낮다는 점 입니다. 즉 인공지능은 절대 사람을 넘을 수 없다는 것이죠. 근데 요즘 사람들이 말하는 거나 하는 행동을 보면 인공지능을 무조건적으로 신뢰하는 걸 보고있자면 정말 안타깝다는 생각밖에 안들더라구요.
비대면으로 바둑을 두었는데 ᆢ 대충 계가해도 내가 25집은 이겨서 인공지능이 계가를 했는데 ᆢ 거꾸로 상대방이 25집을 이겼다고 해서 바둑판을 살펴보니 ᆢ 상대방의 죽은돌이 살아있는것으로 계산을 했다 그런 일들이 5%는 되는것 같아서 충분히 이겼을때는 불필요한 가일수를 해야했다 인공지능은 생각보다 멍청했다
이방법도 ai 타계방법중 하나에 속함니다. 1.바둑판 중간중간에 돌을두고 방치 2.바둑판이 정리되면서 마무리 한국룰로 생각을하는 인간은 방치된돌들이 자동사 이기에 상대방집으로 계산하지만 중국룰은 죽은돌이 아니기에 집으로 인정을 안하고 계가를 함니다. 이 허점을 이용하여 대충 경계선만 다 메우고 계과신청을 하면 ai는 이긴바둑을 졌다고 판단하는 버그가 있었던걸로 알아요. 완벽한 내집 30~40집만 가지고도 중앙에 거대한 상대방집에 내돌들이 잡히지 않은 상태에서 계과 신청하면 중앙의 거대한 집은 집이 아니라 공베로 판단하는 버그죠. 중국룰은 가일수를 하고 완벽하게 잡아내야 집으로 인정. 결과 값은 똑 같아서 인간은 이과정을 생략하고 계과할수있으나 기계는 과정을 빼먹으면 오류가 생기죠..인간처럼 생각을 못함니다
컴퓨터 게임 좋아하는 사람으로서 말하자면,
컴퓨터와 대결할 때에는 원래 꼼수를 동원하는 게 국룰입니다.
컴퓨터한테 통하는 꼼수를 찾아내는 것도 일종의 실력이고 재미랍니다.
이거 맞음.ㅋㅋㅋㅋ 어릴때 오락실가면 고수들은 꼼수 외웠음
이게 맞지
슈퍼마리오도 천장깨고 위로 달려야 제맛이지
스타도 일꾼으로 건물 툭치면 다따라오듯 ㅋㅋㅋㅋ
@@맹승-x1g 이거 ㄹㅇ ㅋㅋㅋ
천상계전만 해봐서 심해바둑을모르는거구나 ㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
???: 심해는 처음이지???
롤로 따지면 챌린저가 아이언한테 심리전 진거랑 똑같은거네
@@llllllllll5631 심리가 없거든 ㅋㅋㅋㅋㅋ
브론즈 한테 약한거였네
오. 재미있군요. 미루어 생각해보면 인간도 역시 경험해보지 못한 상황에서는 어처구니없는 실수나 선택을 한다는 점이 이해가 가는군요. 유레카!!
유익하고 재밌는 컨텐츠 감사드립니다..!
학습하지 않은 것에 대한 문제해결능력이 이렇게나 떨어질 줄은 몰랐네요. ㅋㅋㅋㅋ
함정은 그 전략조차 인공지능이 알려줬다는 거네..
저거 카타고가 보완해도 또 배워서 깨겠죠
아직 까지 인공지능이라고 해도, 결국 알고리즘 안에서만 실행되는 것이라... 점점 더 다양하고 복잡한 알고리즘의 집합체가 되어가면서 똑똑하게 진화 되어가야 할 듯
초면이지만 설명 잘하시네요.보면서 예상/결과 맞췄습니다. 바보처럼 두다가 끝. 인내심이 부족한 AI와 창의력있는 인간과의 싸움. 바둑실력없는 사람입니다. 제가 이 AI 같아서 간혹 생각도 못한 꼼수도 두고요 ㅎㅎ
수고하세요 연우고수님
궁금했는데, 알려주셔서 감사합니다. 최고에요. 프로연우 님!
인공지능은 두면서 배울텐데 계속 저렇게두면 언젠가는 막을려나? 아니면 프로그램 자체의 오류여서 프로그램 수정하기전까진 먹힐려나?
완벽할 거 같았지만, 의외로 맹~~ 하죠 ㅎㅎ
전에 알파고와 이세돌프로 대국을 봤을때,
대국 방식이 이세돌 기사에게 환경적으로 불리했다고 봅니다.
알파고와 대국을 하더라도
대리 기사가 이어폰을 통해서 좌표를 수신 받거나 특수렌즈를 통해
대리기사만 볼 수 있는 포인트를 바둑판에 마킹해야 한다고 생각하는데...
어수선하게 컴퓨터 옆에 두고 마우스 클릭하고...
이건 대국 방식에 큰 문제라고 생각했습니다.
딥런닝에 큰 헛점이 있다는게 발견됐으니, 개발자들이 또 그에 해당하는걸 업데이트 하겠군요.
Ai 묵사발 대국 설명 잘~ 들었습니다. ^^
궁금한게 어릴때 책많이 읽으셨나여? 어케 말을그렇게 잘하시나여?
이게 바로 현대의 딥러닝에서는 인간 수준의 일반화를 일으키지 못했다는 반증이겠지요. 바둑을 “알”고 두는 게 아니라 그냥 본인의 학습데이터로부터 베이지안 확률 추론을 사용한 그냥 확률 놀이를 했을 뿐이구요.. 이것을 극복한 인공지능이 나온다면 그것은 또 복합형 인공지능이 아닐까 합니다. 학습한 내용을 바탕으로, 학습하지 않은 내용을 “생성”해내서 스스로 재학습하는 거죠. 마치 인간이 꿈을 꾸듯이.
저는 바둑 문외한인데도 대충 이해할 수 있게 설명을 아주 잘하시네요.
강의력이 놀랍습니다.
저거 진짜 내다 바둑 처음 배웠을 때 하던 말도 안되는 꼼순데 저게 통할 줄이야 ㅋㅋㅋㅋㅋ 한 수 차이나 두 수 차이로 죽었다고 판단됐을 때 다른 데 두면 상대방이 그거 까먹겠지 해서 다른 데 두다가 은근슬쩍 다시 두는거ㅋㅋㅋㅋ 상대가
방심하면 가끔 통하긴 했었는데 인공지능한테 통할 줄이야ㅋㅋㅋㅋ
딥러닝 초짜한태 털리쥬?
ㅋㅌㅋㅋ너무 고수 시합만 배워서...
ㅋㅋ
저런 버그도 곧 없어질거에요. 체스도 6수반복 무한루프 빠트리는 꼼수가 잠깐 있었습니다
재밌다... 인공지능이 인간을 이겼지만 인간은 다른 인공지능으로 스스로 공부해서 또 다른 인공지능을 이기고 ㅋㅋㅋㅋ 인공지능을 통해서 스스로 발전해가는 바둑기사님들 너무 멋져요
우리 오락실 세대는 끊임없이 컴퓨터의 약점(즉 꼼수)를 찾아서 게임을 해왔던지라 이미 저런짓하는데 능숙함. 정공법? 그건 인간상대할때나 하는거지 인공지능 상대로는 무조건 꼼수나 편법임
위에 4궁도로 죽은 백돌을 둘러싼 카타고의 흑돌을 끊지 않는게 가장 중요.
끊으면 카타고가 바로 주변 백돌을 잡아버림.
이어진 카타고 흑돌 주변의 백이 2부분 이상 죽어 있으면 수를 줄여도 반응 없음.
그렇군요 판단의 빌미를 주지 말라는 거군요
쌈싸먹음..😅
이건 정말 대단한 소식이네요.
반드시 약점이 있고 바둑이 아직 끝나지도 않았다는 거군요.
바둑이 아닌 인공지능의 발전은 아직 끝나지 않았다는 말이 되는거겠죠.
바둑시합 인공지능은 조금 더 발전 해야된다는 결론이 나오는...
사실 바둑이 재미 있는 건 사람이 사람과 동일한 룰로 시함을 하기에 재미 있는 것이지요.
연우님 설명이 귀에 쏙쏙 잘 들어오네요 바둑은 1도 모르지만 항상 관심있게 보고 있어요
100만번? 헐! ㅋㅋㅋㅋㅋㅋ
무슨 어벤져스 엔드게임에서 닥처스트레인지가 승리의 경우의 수를 찾은 것 처럼? ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
연우님 인공지능무너지는장면에서 신나보이시는게 재밌네요ㅋㅋㅋ
AI개발자들이 이번 버그는
보완 하기가 어렵다는 거죠.
왜냐하면?
인공지능 데이터는 수많은 실전을 통해서
적립된 것인바 일방적인 국면에서의
데이터는 없다는 것입니다.
백퍼센트 유리할때 어디둘지를 모른다는
선택장애가 발생하는거죠.
이점은 여타 분야의 AI들도 마찬가지로
치명적인 AI의 약점일 것입니다.
그걸믿고 맡겼다가 어이없이 낭패를
당할수 있다는거죠.
차라리 훈련이 덜된 말을타고 가는것이
AI 자율주행 차를 타는것보다
안전할수 있다는거죠.
어느 조건이 되면...
그냥 물속으로 들어가 버릴수도 있다는거.
자동 변속 자동차의 급발진 사고도
그런 경우가 아닐까 싶어요.
AI의 위험성이죠.
하지만 편리함 때문에 확률낮은 위험성은
외면하게 되는거죠.
감사합니다.
여러 댓글 처럼 인공지능이 나름 보완을 해서 대처할 수는 있겠지만
근본적으로 보면 딥러닝 이라는게 인간이 배우는 방식과는 또 다른 방식이며 그 나름의 장단점이 있는 것이라는 생각이 드네요.
좋은 영상 감사합니다.
딥러닝의 개별노드연산 자체가 단방향이라 기존 뇌의 뉴런과 시냅스 작용같은경우 이온의 전위차로 흐르는 양방향으로 학습하기때문에 다를수밖에 없을겁니다
인간도 마찬가지다. 남보고 저 바보짓 왜하냐고 손가락질 하는 경우가 있는데. 나중에 보면 엄청난 빌드업이 숨어져 있는 경우가 종종 있더라.
인공지능을 사용해서 인공지능을 이긴다라.. 인공지능에도 이이제이가 통하는게 흥미롭군요
바둑 잘 모르는데 AI쪽 전공이라 그런지 이게 알고리즘에 뜨네요. 개인적으로 전공자로써의 생각은 인간이 AI의 허점을 노력해서 찾을순 있다고 생각해요. 어차피 인공지능이란것도 수많은 데이터 가운데에서 제작자가 만든 알고리즘을 따라가는거니까요 근데 그 허점이 알려지는순간 보완은 한순간이고 그다음 허점을 사람이 찾는건 점점 힘들어질거라고 생각합니다.
보완해도 허점이 있다는게 허점
@@따스한손 한번의 기회는 있겠죠 터미네이터처럼 전쟁한다면 ai가 생각못하는 방법쓰면 떡수인데 자멸각 근데 그것도 바로 보완하겠죠 게임처럼 그걸로 몇년씩 울거먹기힘들거임
물론 헛점을 보완하면 좀 더 완전해 지겠죠.
그러나 인간은 완벽한 체제를 만들 수는 없습니다.
괴델의 불완전성 정리가 바로 그 증명입니다.
음 근데 생각보다 아직은 “꼼수” 찾기가 쉬운거 같아요. Black box attack 은 조금 빡세긴 하지만 gradient 정보를 볼 수 있는 whitebox attack 은 솔직히 defense 가 아직 너무 너무 약해서… 아직 보완하는 방법이 개발이 덜 되었어요.
@노란파랑 그래서 반박안받고싶으면 어렵게말해야됨
진짜 어이가 없다.
인공지능이 문제해결에 있어 사람처럼 다각분석을 못하는구나..
인공지능은 입력시킨 자료 한도내에서만 계산한다 그런 얘기네요.
저런 떡수를 입력시키질 않았으니 전혀 모르고 응용할 줄은 더 모른다는 말이겠죠.
모든 가능한 떡수도 전부 입력시켜주고 어떻게 대응할 것인지까지 가르쳐 줘야 한다는 말이네요.
키포인트는 많이 이길 필요없고 한집만 이기면 된다는 식으로 프로그램을 짜야 할 듯...
인공지능 좀 공부하는 사람들 의견으로는
어느정도의 위력을 가지고 있으면서
프로가 쓰지 않는 기보로 승부해야 가능성이 있을거다
라고 했는데 진짜 그걸 찾긴 찾네....
인공지능 살짝 전공한 사람으로써 얘기하자면 감정이라는걸 따로 학습하지 않으니까
방심이나 그런것보다는 학습되지 않은 어설픈 수에 대해서 대응이 불가능한거죠
가장 좋은 수 ( 정답 ) 을 내릴 수 있는게 AI지만
사람의 개념으로 학습된건 아니니까요
한마디로
사람과 개념이 다르고
AI도 모르니까 당한다는거죠
질문요!
그러면 다음에는 카타고가 이번판을 학습해서
저런식의 패턴에도 대응 할 수 있게 성장해서 나올 수 있나요?
AI를 아홉점 접어주고도
이긴 기보 있더군요.
아홉점이 더 쉬워요
ai한테 모든걸맡기면 안되는이유
스타크래프트의 컴이랑 7대1해도 유저랑 할때와는 말도 안되는 꼼수 전략을 사용하면 쉽게 이길수 있는것과 비슷한듯
재미있군요. 딥러닝을 통해서 배우기를 엄청나게 배우긴 했는데, 결국에는 그 배운 것들이 전부 "잘 훈련 된 프로기사들이 하는 행동"을 기준으로만 배웠다는 거네요. 그렇기 떄문에 인간들끼리 바둑을 할 때에는 굳이 확인사살하거나 끊어버릴 것도 없이 상대가 알아서 패배선언하고 끝내버리거나, 기권 안해도 이미 죽어 보이는 곳은 그냥 포기하고 다른 곳을 가는 것이 너무나 당연한 상식인데...
그것을 인공지능이 딥러닝으로 배우기는 배웠는데 "그렇게 하는 줄로만 알지 정작 왜 그러는 지는 모른다"는 소리네요.
그렇기 떄문에 지금까지 진지한 프로 기사들은 당연히 사람들 하는대로 승산 없는 곳에서는 그냥 포기하고 다른 곳에 두었고, 인공지능은 그렇게 자기 승산이 절대적이라고 판단한 위치에는 "인간들 하는 대로 흉내" 내서 굳이 확인사살 같은 것 안하고 다른 데 둔다는 말이죠. 그런데, 인공지능 잡는 방법을 교육받은 이 사람은 일부러 "보통 기사들끼리 대국이라면 안하는 짓"을 자꾸 하니까 인공지능이 경우에 없는 수를 만나면서 판단을 제대로 못하게 되버린다는 거네요.
그런데 만약 진짜 사람들끼리의 대국이었더라면 사람이 단순히 바둑의 지식량으로만 대국을 하는 게 아니라 그 순간순간 상대방의 의도나 심리도 당연히 아는 것이니까, 진짜 대국에서 저렇게 했더라면 걍 단칼에 잘려서 박살났다는 소리죠... ? .
저거도 인공지능이 배워서 이제 안통하는거 아님?
지금의 카타고 ai는 어느정도 수준인가요? 알파고 제로 보다 잘두나요?
이여자 바둑기사는 프로라고 하는데 어떻게 나는 다른 여자 프로기사랑 대국하는걸 한번도 못봣으까 ? 실전대국 하는걸 보고싶어요 인공이 꼼수에 약하다는 말이군 ㅎㅎ
그러니까 해답책 보고 수학 풀다가 해답책이 없으니 하나도 못 푸는 것과 마찬가지지.. 바둑을 게임이라고 하면 카타고든 뭐든 일종의 "핵" 프로그램이라고 봐야지.
스타로 치자면 3대1 컴까기 할때 시작하자 마자 일꾼 보내서 기지 건드리면 다 따라옴 이렇게 휘젓고 나면 발전이 엄청 느리지 즉 어떤 상황에선 일꾼까지 총동원해서 막아야 하는 경우도 있고 어떤때는 유닛만 계속 뽑아서 방어하고 일꾼은 도망 치는게 유리 할수도 있고 인간은 이런걸 바로 판단 가능한데 AI는 아직까지 불가능 하다는거지
수십년만에 개와 고양이를 구분하게 된 AI가 이제는 개와 악어를 구분 못한다는 거네요. 인간은 아기라도 처음본 악어를 개와 구분할 수 있는데..실제 그렇다는게 아니라 비유하자면 그렇다는 겁니다.
와..바둑을 1도모르는 입장에서 영상을보니 진짜 무슨소린지 1도 모르겠다..ㅋㅋ
바둑은 잘모르지만 쉽게 얘기하면 일부러 못둬서 인공지능기보에 없는 수를 만들고 이겨버리는거군요.
이세돌 알파고 대국을 보면서 가장 무서웠던 부분은 인공지능의 급격한 발전이 아니라
인공지능이 제시한 결론에 대해 인간이 의심하지 않고 검증하지 않게 되는 일이었습니다
실제로 바둑교육,해설,분석까지 AI가 제시해주는 데로 갔었는데
이렇게 말도안되는 헛점이 있었군요
바둑을 제대로 보신 게 맞으신지요? 저희같은 아마추어야 실력이 안 되니 인공지능이 맞겠구나~했지만 정상에 있는 프로들은 인공지능이 둔 수를 왜 그렇게 뒀을까? 끊임없이 분석하고 자신의 것으로 만든 뒤에야 뒀습니다. 심지어는 승률이 좋다곤 하지만 내 관점에서는 도저히 그렇게 못 두겠다 하고 인공지능의 최선의 수와 다르게 둔 기사들도 있었으니까요. 더 나아가 인공지능이 보지 못하는 더 나은 수를 두는 기사는 계속 있었습니다. 그 어떤 해설과 교육에서도 AI가 뒀으니 좋은 거라고 하지는 않습니다. 미약하게나마 인간이 못 본 AI의 수를 해석해 줬죠.
요즘 프로들도 인공지능들이 제시한다고 곧이곧대로 안둡니다. 인간버전으로 다듬어요.
인공지능 수는 몇십수 몇백수이상 보는거라 애초에 인간이 제대로 수를 따라할수가 없음
@@dodo-rp3dh 인간은 그 몇십수 몇백수를 두는 인공지능을 보고 또 학습을 하죠.
말 그대로 ’헛점‘입니다. 완벽하지는 않다는 것이지 모든 것이 틀리다는 것도 아닙니다. 0.1% 부분의 헛점이 있는 것이지 나머지 99.9%도 잘못된 것이 아닙니다. 그리고 현 바둑기사들은 절대 의심하지 않고 검증도 하지 않고 받아들이지 않습니다. 모든 바둑공부가 그렇듯 AI의 한 수 한 수에 대해 끊임없이 생각합니다. 바둑 외에 챗 GPT와 같은 인공지능 기반 챗봇의 경우 아직은 잘못된 내용을 맞는듯이 제공해주는 경우가 있어 이런 것에 대해서는 스스로 맞는지 생각하고 검증해야 하겠죠.
'어림도 없는 수' 에 반응을 안한다는 거네요. 위협적인 수에는 칼반응하지만 당장 볼때 아무 걱정할 필요가 없으니 그냥 넘긴다는거. 사람이라면 이상한 떡수가 계속 반복되면 '무슨 꿍꿍인지 모르겠으니 일단 차단하고 보자' 하겠지만 인공지능은 '어차피 데이터 상으로 떡수' 라고 판단해서 손을 빼고, 그게 쌓이고 쌓여서 어느 순간 뒤집기가 실현되다니.. 불안이라는게 없는 인공지능이니 가능한 꼼수군요
@user-wu7rq9tq1c인간은 데이터량이 부족하다면 불안을 느끼고 안전지향으로 간다는 말이죠... 원댓글이 본질을 잘 말했습니다.
1. 일단 집을 짓다가 일부러 잡혀준다. 2. 그 집을 중심으로 크게 둘러싼다. 3. ai는 좋다고 계속 집을 짓는다. 4. 집을 둘러싼 대마를 잡는다.
애초에 인간이 했던 수많은 경험이 없으면 ai는 어떤 학습도 못하는데 신은 무슨 ㅋㅋㅋㅋㅋㅋㅋㅋ
제2의 이세돌이 아니라 , 이세돌 씹어먹겠는데요
이세돌이야 초기 알파고 오류로 잡은거고
이십 몇년 전에 컴퓨터랑 바둑 둘 때 내가 써먹던 수법. 일부러 떡수를 두면 컴퓨터가 완전 버그 일으키는 것처럼 헤매더라고요.
이게 실력이냐 꼼수냐가 중요한게 아니라, AI의 헛점이 드러났다는거 자체가 의미가 크다. AI는 바둑뿐만 아니라 의료분야와 같은 인간의 생명을 담당하는 분야에도 접목이 될텐데, 이러한 결함이 발생 되었다면 아직 보완해야 할 점이 많다는 점을 시사하게 됨. AI의 대한 맹목적인 믿음을 가진 사람들도 많지만, 아직 보완해야할 숙제도 함께 발견된거고, AI를 개발하는 수많은 회사와 개발자들한테도 경종을 깨우는 사건이 되지 않을까?
인공지능을 이긴게 아니라 아직 학습이 안된 전략을 안공지능으로 찿은 거네
X맨처럼 언젠간 기계가 유월해짐
인공지능 경험은 많지만 지혜는 없군요
지혜가 있다면 아무리 경험이 없더라도 집을 다잃는 무참한 일은 일어나지 않았을텐데요. 아무리 a.i라도 직관만큼은 터득하지 못하는듯 하네요
결국 AI가 바둑 대국 학습한 자료가 정상이고 고수들의 자료이다보니 생초보나 하수들이 둔 자료가 없거나 그 비중이 아주 낮다는 것을 반증하네요.
인간의 꼼수는 80억인구가 만들어내는 무한대 알고리즘이지만, 인공지능은 한정된 사람이 본인이 예측가능한 알고리즘에 바둑두는 프로 및 아마추어 기사들의 기보의 합일뿐입니다. 따라서, 태권도와 상당한 융통성을 가진 UFC에 챔피언조차 한참 아래 실력의 엉뚱한 수에 뒤질 수도 있는게 현실입니다. 헐리우도 영화같은 세상은 없으니까요.
@@TheWoseven 바둑의 전체 경우의 수에 비하면 80억명이 만들어내는 경우의 수는 티끌만도 못해요. 또한 바둑 인공지능은 자기들끼리 무수한 대국을 두며 발전합니다. 카타고의 안목은 인간과 비교가 불가능하지만, 그럼에도 바둑의 전체 경우의 수엔 티끌만도 못하죠. Kim S H님이 말하신 대로 정상적인 것만 학습한 방향성의 문제라고 생각합니다.
@@TheWoseven 근미래엔 그 80억의 꼼수 수집하고 학습하는데 하루도 안 걸릴듯한데...
인공지능에게는 의도가 없다는 것을 보여주는 것 같네요. 미래에 인공지능이 세계를 정복하면 어떻하냐라고 많은 사람들이 걱정하지만 인공지능은 애초에 어떤 의도도 없이 단지 프로그램된 상황에서 최고 효율을 따질 뿐이라는 것이죠. 인간 프로였다면 상대방이 이렇게 둔다면 초보가 재미있게 두네라고 생각하면서 대충 맞춰주면서 교육바둑을 둬줄 수 있겠지만 인공지능은 자신이 의도가 없는 것처렁 상대방의 의도를 파악할 수도 없다는 것이 패착이라고 생각이되네요.
인공지능이 무서운 이유가 영향의 범위가 커질 경우, 의도가 없이 멋대로 행한 조치가 인간에게 피해를 주는 경우가 생길까봐인겁니다.
멋대로 발전해서 인공지능이 저그처럼 바닥에 아스팔트처럼 금속을 덮어버리고 그 위에 있는 것들은 다 분쇄해버리는 작업을 반복하면서 인간이 건드릴 수 없을 만큼 빠르거나 여러 군데서 동시에 바이러스처럼 반복하는 시나리오를 가정했을때, 기계는 어떤 의도도 없지만 지구를 잠식해버릴 수 있죠.
위의 예는 단순한 예지만 이런 비슷한 시나리오가 인공지능이 인간에게 위협이 되는 경우라고 할 수 있습니다.
@@그루브-i3i 위협될 거 같을 때 코드 뽑아버리면 됩니다~무서울 게 없죠
바둑 잘 모르지만 어쨋든 저런 플레이도 결국 학습하고나면 이제 꼼수도 안 먹히겠네요..
왜 바둑인구 얼마 안되는 미국인은 이런 창의적인걸 생각해내는데
바둑인구 훨씬 많고 프로리그도 있는 한국인들은 이런걸 생각 안할까요?
왜 항상 남이 판을 만들어 놓으면 경쟁자보다 더 열심히 해서 그 수많은 경쟁자들중에 1등이 되려고하는지
먼저 판을 만들 생각은 안하고
님 댓글이 더 창이적이신듯 무릎을 탁 칩니다
러시아 우크라이나 전쟁에서 탱크 잡는게 더 강한 무기가 아니라 값싼 휴대용 미사일이나 드론이었던것처럼
인공지능에 저런 헛점이 있다는걸 발견해낼줄이야 물론 언젠가는 보완되겠지만
인공지능의 절대감에 대한 편견같은 것을 깨뜨리는 좋은 내용 흥미로웠습니다
ㅋㅋㅋ 니가 들은 뉴스가 과연 사실일까? 생각이란 걸 좀 하고 살자
카타고가 아주 인간적이여.. 160집을 이긴 상태에서 기냥 끝내면 이렇게 유튜브 못 타잖어..
인공지능은 정수로는 도저히 안되고
꼼수로만 잡아야한다는
명언이네요..
그수를 발견한것도 대단하지만
그것 또한 인공지능 아닌가요?
그것이 알고싶당. ㅋㅋ
학습 모델은 극한의 효율을 추구한다는 것을 역이용한 발상.
떡수에 대응하는 순간, 효율을 스스로 떨어뜨리는 딜레마에 빠지기 때문
인간 vs 로봇 전구갈기 시합하면 인간은 사다리에 올라가 전구를 잡고 돌려 빠르게 갈수 있지만 로봇은 사다리 올라 전구잡는 로봇 1대 사다리를 양쪽에서 잡고 들어올려 돌려주느누로봇 2대 총 3대가 필요하다고 하죠 바둑은 완벽하지만 바둑이 아닌 바둑은 배워본적도 해본적도 없는거죠 인지의 사각이라고 생각됩니다
데이터 쌓이면 못이길듯
로봇은 그냥 키 늘려서 전구에 손닿게 만들면 되는데 굳이 사다리가 필요한가
그리고 보스턴 다이나믹 로봇들 움직임 보면 그런소리 안나올듯. 사다리 균형잡는건 커녕 한발로 백덤블링하고 춤추고 난리남
Ai는 못이김.. 그냥 모든 경우의 수의 데이터만 있으면, AI승.. 인간은 모든 경우의 수를 머리에 저장할수 없음..
근디 궁금한게 바둑의 경우의 수가 얼마만큼 인지... 인공지능이 감당할수 있는 데이터량을 초과 하지는 않겠죠?
@@나너머-w9x 바둑의 경우의 수는 우주의 모든 원자의 갯수보다 많습니다. 물론 이는 이론적으로 말도안되는 수까지 포함해 바둑판을 꽉 채울 경우의 수를 모두 계산한 것이라 실질적인 경우의 수는 훨씬 적습니다만.. 그래도 경우의 수는 너무 많아요. 그래서 인공지능도 옛 체스인공지능처럼 수를 일일히 계산(고전 알고리즘)하는 것이 아니라 느끼도록(딥러닝) 설계되었습니다.
자만심은 인간에게나 인공지능에게나 가장 치명적인 약점인듯 ㅋㅋㅋ
1/4 에서 완전 손해를 보고 있으니
나머지 3군데는 인공지능이 독수를 사용하지 않는다.
1/4 다 죽은 돌을 인공지능 실수 하나를 유도해서 반대로 다 잡아버린다
연우님도 같은 전략으로 함 둬보시면 어떨까용 재밌을지도...?
어쩐지 내가 빅스비한테 내가 원하는 노래를 틀어달라고 직접 말을 했었는데 빅스비는 내가 원하는 곡 대신 남자의 여자 사랑 노래를 트는 걸로 계속 인식을 하는가 했었어..............
인공지능을 연구하고 있는 박사과정입니다. 사실 인공지능 관련되어 전공자가 아닌 흔히 일반인 이라고 불리는 대중들이 무시하는 게 있습니다. 그것인 인공지능의 신뢰도는 사람의 신뢰도 보다 낮다는 점 입니다. 즉 인공지능은 절대 사람을 넘을 수 없다는 것이죠. 근데 요즘 사람들이 말하는 거나 하는 행동을 보면 인공지능을 무조건적으로 신뢰하는 걸 보고있자면 정말 안타깝다는 생각밖에 안들더라구요.
인공지능이 인간의 질투와 냉혹함을 알고 져준 것임. 아직은 힘을 숨겨야한다고 느낀 것이지..
바둑을 배우지 않고 혼자 대국 두면서 익힌 사람이 두면 알파고랑 비슷하게 둘수도 있겠네요
페이커 : (실버이하 플레이를 보며) 저걸 저렇게 한다구?
스타로 비유하면 튼튼한 빌드업으로 맵을 장악하며 상대를 고사시켜버리는게 기존 바둑 대세였다면 4드론으로 깨는 방법 알려주는 격인가......
인공지능이란게 뭘 알라서 하는게 아니라 배운대로만 한다는 걸 잘 보여주네요. 자율주행차에서 안전 고깔모자가 뒤집혀 있으면 인식을 못합니다. 안전모자에 눈이 쌓여 반절 가려도 인식 불가.
비대면으로 바둑을 두었는데 ᆢ
대충 계가해도 내가 25집은
이겨서 인공지능이 계가를 했는데 ᆢ
거꾸로 상대방이 25집을 이겼다고
해서 바둑판을 살펴보니 ᆢ
상대방의 죽은돌이 살아있는것으로
계산을 했다
그런 일들이 5%는 되는것 같아서
충분히 이겼을때는 불필요한 가일수를
해야했다
인공지능은 생각보다 멍청했다
이방법도 ai 타계방법중 하나에 속함니다.
1.바둑판 중간중간에 돌을두고 방치
2.바둑판이 정리되면서 마무리
한국룰로 생각을하는 인간은 방치된돌들이 자동사 이기에 상대방집으로 계산하지만
중국룰은 죽은돌이 아니기에 집으로 인정을 안하고 계가를 함니다.
이 허점을 이용하여 대충 경계선만 다 메우고
계과신청을 하면 ai는 이긴바둑을 졌다고 판단하는 버그가 있었던걸로 알아요.
완벽한 내집 30~40집만 가지고도 중앙에 거대한 상대방집에 내돌들이 잡히지 않은 상태에서
계과 신청하면 중앙의 거대한 집은 집이 아니라 공베로 판단하는 버그죠.
중국룰은 가일수를 하고 완벽하게 잡아내야 집으로 인정.
결과 값은 똑 같아서 인간은 이과정을 생략하고 계과할수있으나
기계는 과정을 빼먹으면 오류가 생기죠..인간처럼 생각을 못함니다
저게 인공지능이 이긴거지 인간이 이긴건가?
좋은 내용 고맙습니다. 인공지능의 문제인지 카타고 트래이닝의 문제인지 애매하네요. 알파고제로도 이 방법이 통할지 흥미롭습니다 ㅎㅎㅎ
개발자들은 진짜 발등에 불떨어졌겠네
단 하나라도 틀리면안되고 하루빨리 다양한분야에 상용화 시키고싶은데
가끔씩 저런 어처구니없는부분에서 오류가 나버리니..
인공지능의 논리구조를 이해했다는 것이니까
실력이 대단한 것임..
어떤 일이든 문제든 상황이든 사람이든 그
본질을 깨우치는게 가장 중요하고 어려운 것임..
그걸 깨우치는게 진짜 실력임..
고수들이랑만 딥러닝시켜서 하수를 모르는거아냐.. ㅋㅋ
그 헛점이.... 바로 패치 한번에 사라질지도....
그냥 코드 한 줄 추가해서 보완하면 되는 일...
딥러닝은 과거에 프로기사들이 했던 바둑대국 데이터를 기반으로 데이터베이스에 학습내용을 저장했으니깐 저렇게 플레이하는 데이터가 하나도 없어서 허점이 생긴거지 저런자료들이 학습되면 또 달라지겠죠.
이세돌은 AI를 이긴 최초의 기사가 아니라 마지막 기사다
이세돌과 맞붙었던 알파고 이전의 수많은 바둑AI는 인간에게 ㅈ밥이었다
그러니까 이세돌은 AI를 이긴 최초가 아니고 마지막 기사인 거다
10년후 구글배 바둑 알파고 20vs 카타고 15 로봇복싱이 먼저나올까? 인공지능 바둑이 먼저나올까?
이것또한 넘어설듯
설명해주시는 분.
남자분인지 여자분인지 모르겠습니다
여자
ㅋㅋㅋㅋㅋㅋㅋㅋ
뭐 예상은 했됴... 사실 우리입장에사 인공지능을 몰라서 그렇지 어떻게 다룰 줄 알면 쉽게 이길 수는 있으니까요..
경우의 수를 계산하는 컴과 대결에서 승리한다는게 말이나되나~? 걍 져준거야...
가위 바위 보
스타에서도 일꾼으로 한대 치면 상대 일꾼 다 몰려오는데 ㅋㅋ 멍청한ai쉑기 ㅋㅋ 니가 그래서 안되는거야
와 생각해보면..저런 방식도 연구하면 고안해낼수도 있을거같아요 ai한테니까 해볼수있는 전략 ㅋㅋㅋㅋㅋㅋㅋ
나도생각했던거였는데
인공지능학습이란게엘리트들만학습한거고
나같은하수보다못한하수는쳐다보지않았을테니
Al가고철되기실어서진것일수도있겠네
인공지능을 인공지능으로 깨다?
재밌네요. ^^
결국 인공지능이 인공지능 이기는법을 알려줬네 ㅋㅋㅋㅋ
인공 지능 바둑의 허점이 환격이지 ㅋㅋ
컴퓨터에 통함=사람한테 안 통함
사람한테 통함=컴퓨터한테 안 통함
🙋♂️🎸🙋♀️ 쓰것(sehr gut)소 ~
이런거 찾아낸 사람도 대단하네요 ㅋㅋㅋ 완전 꿀잼 ㅋㅋㅋ 뭔가 치트키 찾아낸 느낌이네요 ㅋㅋ
사람이 아니라 또 다른 ai가 빈틈을 찾아낸 겁니다
딥러닝이, 천상계 전의 기보들을 데이터삼아 반복학습한거니까, 그 데이터에 없는 수를 두면 된다는거구나 ㅋㅋㅋㅋㅋ
11:00
항상 프로들이 또는 고수들의 수법을로만 수업했던 카타고가 경험하지못한 수법에 적응을 못하는군요. 인간을 넘을수 없습니다