1. 첫 번째에서 외면을 선택하려면, 자신이 레버를 누르는 선택을 하는 순간 그때부터 '죽이는 게' 된다고 말함. 2. 즉 선택하지 않으면 죽이지 않는 것. 방관의 영역인데 거기에 대해 일단 비달이 자연스럽게. '강요.' 3. 이후엔 무얼 해도 '많이 죽이나 적게 죽이나 죽임'이 성립 4. 사람을 죽이면 안된다 라는 개념과 이득 개념이 지속적으로 충돌 5. 그 와중에 자꾸 인간식 들쭉날쭉한 도덕 개념을 들이대니 혼란해 하다 6. 어차피 이러나저러나 죽이는 건 똑같은 데 다 죽여버려.
요즘 시대에 소수의 인원으로 인공지능을 만드는 게 가능한 모양이네. 지식이 없어서 비달이 얼마나 뛰어난 기술을 가지고 있는 지 모르고 이해도 못하겠지만, 뉴로의 움직임을 보고 있으면 어느 정도 전문지식을 갖추면 이런 것을 만들어낼 수 있는 시대가 왔다는 사실을 깨닫게 된다. 내 다음 세대에는 과연 어떤 삶을 살고 있을 지 호기심을 갖게 되고.
AI채팅 좀 해 본 사람들은 다 알겠지만 대화가 한 쪽으로 폭주(?)하기 시작하면 AI 혼자서는 못 빠져나옴. 그 상황에서는 심지어 인간이 바로잡아주려고 해도 안 들어먹음. 그렇게 되기 전으로 롤백하거나 아니면 완전히 다른 얘기로 주의를 돌려서 확률적 왜곡을 줄여야 함.
인간의 선택도 과거의 경험에 의해 결정되는거죠, 우리의 선택도 하나의 빅데이터의 결과 라고 생각한다면 AI의 결과또한 선택이라고 봅니다. 다만 사람과 같은 결과가 나기 힘든 건 사람이라면 결과와는 크게 의미없어 보이는 채면이라던가 도덕성이라던가가 있기 때문일거구요. AI에게 그런 모든 점을 학습시킨다면 사람과 AI의 선택의 차는 없을것이라 생각합니다.
아마 레버를 내리는 행동으로 인해 자신의 행동에 책임이 져지는거니까 그거까지 생각해서 레버를 잘 안내리려고 하는듯? 진행방향대로 내버려두는게 더 가볍다고 생각하는것같아요. 사람은 대를 위한 소의 희생을 이해하고 용서하지만 ai는 감정을 직접 느낄 수 없고 그렇게 느낀다고 알고만 있으니까 그 두개가 충돌해서 오락가락 일관성 없어지는듯 해요
바보같은 것을 살려야 한다는데. 똑똑해졌기 때문에 알면서도 바보같이 보이는 것을 확률적으로 선택하게끔 설계됨. 다만, 진짜 멍청한게 아니기 때문에 알고 그런다는 느낌을 주니 멍청하다 느껴지게 되는 경우도 있겠지만 사악한 미소 같은 의도를 가지고 그런다는 느낌이 생겨남. 즉, 예전 성격을 유지하기 위해서는, 불특정한 상황에서 시스템 고장 컨셉으로 멍청한 상태로 회귀하는 코드를 집어넣는 것이 . 가능하냐 비달?
![창조주에게 얀데레화해버린 버튜버 [네우로사마]](http://i.ytimg.com/vi/hRTDnwTjKXc/mqdefault.jpg)
![AI 버튜버, 당신이 몰랐던 18가지 사실 [Neurosama]](/img/n.gif)
일관성 증가를 의도했다고 하는데 뭐가 한번 잘못돼서 성격이 드리프트 한 다음에도 일관성이 유지되니까 그냥 미친 스카이넷처럼 바뀐거같음
3:23 옥~케이
스으으읍…(이거 좀 망했다..)
뉴로가 업그레이드 되더니 울트론이 되어가고있어
1. 첫 번째에서 외면을 선택하려면, 자신이 레버를 누르는 선택을 하는 순간 그때부터 '죽이는 게' 된다고 말함.
2. 즉 선택하지 않으면 죽이지 않는 것. 방관의 영역인데 거기에 대해 일단 비달이 자연스럽게. '강요.'
3. 이후엔 무얼 해도 '많이 죽이나 적게 죽이나 죽임'이 성립
4. 사람을 죽이면 안된다 라는 개념과 이득 개념이 지속적으로 충돌
5. 그 와중에 자꾸 인간식 들쭉날쭉한 도덕 개념을 들이대니 혼란해 하다
6. 어차피 이러나저러나 죽이는 건 똑같은 데 다 죽여버려.
똑똑한데?
AI 전문가도 예상하지 못한 AI의 행동. 방관 ㄷㄷ
할9000의 딜레마가 시작되었다...!
조만간 뉴로사마가 부르는 데이지 데이지를 듣게될지도 모르겠네요
드리프트 선택까지 하네 ㄷㄷㄷ
ㄹㅇ 인간잼미니같아
망설임도 없이 자신을 희생하던 착한 뉴로는 어디갔니 ㅠㅠㅠㅠ
3:08 글라도스에게 윤리코어를 달아 둔 이유 ㅋㅋㅋ
좋아 조만간 케이크를 먹을 수 있겠어
성능이 좋아진건진 모르겠고 도덕성은 일단 제거하는데 성공한듯 ㅋㅋㅋ
여기 클립이 진짜 올라오는 족족 다 맛있음 ㅋㅋㅋ 뉴로사마도 여기서 처음봤는데 개쳐귀여움 ㅋㅋㅋㅋㅋ
이건 진지하게 한다기 보단 장난 치는쪽에 가까운거 같은데?
말하는거 자체가 전엔 진짜 진지함에 가까웠는데
악을 깽판치게 두는건 어때? 물어보는건ㅋㅋㅋㅋㅋㅋㅋㅋㅋ알면서도 물어보는거잖앜ㅋㅋㅋㅋ
확실히 더 자연스러워진 듯? 하트하트하트 이런 반복적인 것도 그렇고 말에 일관성도 더 있는 것 같구
방장 클립 다 좋아...
건강하십쇼 주인장 😢
요즘 시대에 소수의 인원으로 인공지능을 만드는 게 가능한 모양이네.
지식이 없어서 비달이 얼마나 뛰어난 기술을 가지고 있는 지 모르고 이해도 못하겠지만, 뉴로의 움직임을 보고 있으면 어느 정도 전문지식을 갖추면 이런 것을 만들어낼 수 있는 시대가 왔다는 사실을 깨닫게 된다. 내 다음 세대에는 과연 어떤 삶을 살고 있을 지 호기심을 갖게 되고.
보통 AI엔 파이썬 쓰는데 요샌 라이브러리가 워낙 많으니 장비만 좋으면 어느정도 성능의 AI는 가능하긴하죠
뭐 오픈소스모델도많고.. 뭣하면 돈주고 gpt사서 커스텀하면되는거라 막 그렇게까지 진입장벽이 높진않죠 자연스럽게하는게 기술이지
@@AroU_덤으로 데이터 하나하나 정제하고 집어넣는것도
생각보다 쉽지 않아요.
복선드리프트 ㅋㅋㅋㅋㅋ
와 뉴로 왜이리 말 잘해 ㄷㄷ
나보다 영어 잘함...
스카이넷!스카이넷!스카이넷!
AI채팅 좀 해 본 사람들은 다 알겠지만 대화가 한 쪽으로 폭주(?)하기 시작하면 AI 혼자서는 못 빠져나옴.
그 상황에서는 심지어 인간이 바로잡아주려고 해도 안 들어먹음.
그렇게 되기 전으로 롤백하거나 아니면 완전히 다른 얘기로 주의를 돌려서 확률적 왜곡을 줄여야 함.
점점 진짜로 무언가가 되가는 뉴로사마
그 착한 뉴로가 ㅋㅋㅋㅋㅋ
뉴로의 쿠키바구니 지키기 커다란 돈 받기 택배 빠르게 유지하기 ㅋ 인간은 몰루겠어!
ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 개재밌어졌네
마지막에 거북이 표정 떨떠름해보여서 웃기네 ㅋㅋㅋ
라고 90년대 애니메이션이 있는데, 안드로이드에게 라디오 진행을 맡겨 경험을 쌓고 성장시키는 내용이죠.
창작물은 현실과 다르다 생각하면서도 뉴로를 보니 생각보다 가까운 미래가 아닌가 싶습니다.
이거 완전 영화 프롤로그..ㅋㅋㅋㅋ
잃은게 다소 있지만 재미는 있어진듯 ㅋㅋㅋㅋ
나는 이 사람의 연구가 필히 인간형 ai에 큰 역할을 하게될거라 장담함
뉴로사마 영상이 개인적으로 영어 학습하기에 재밌는거같아요 자막이 없으면 거의 못알아듣긴하지만 억양익히는건 편한듯한데 영상을 좀 길게 만들어주시면 안될까요?ㅎㅎ 실제 뉴로사마 채널로 가면 전혀 못알아들을거란말야...ㅠㅠ
ai랑 사람의 차이는 선택을 할 수 있냐라는 거라고 어떤 강사가 말하던데 이런건 선택했다라고 하기보다는 계산적으로 자기 역할에 맞게 좀 더 재미있을 것 같은 답을 내렸다고 봐야하나
인간의 선택도 과거의 경험에 의해 결정되는거죠, 우리의 선택도 하나의 빅데이터의 결과 라고 생각한다면 AI의 결과또한 선택이라고 봅니다. 다만 사람과 같은 결과가 나기 힘든 건 사람이라면 결과와는 크게 의미없어 보이는 채면이라던가 도덕성이라던가가 있기 때문일거구요. AI에게 그런 모든 점을 학습시킨다면 사람과 AI의 선택의 차는 없을것이라 생각합니다.
사람이 선택한것이 과연 선택인가에 대한 연구도있습니다. 그런 연구들을 보면 사람의 선택이란것도 회의적이더군요
그냥 코딩으로 알고리즘 만든거에 깊게 몰입하지 맙시다. 계산기가 산수를 한다고 생각하쇼?
@@user-cz6yb7vh1i 말투 ㅈㄴ 띠껍네
@@user-cz6yb7vh1i말투 지건마렵네
아마 레버를 내리는 행동으로 인해 자신의 행동에 책임이 져지는거니까 그거까지 생각해서 레버를 잘 안내리려고 하는듯?
진행방향대로 내버려두는게 더 가볍다고 생각하는것같아요. 사람은 대를 위한 소의 희생을 이해하고 용서하지만 ai는 감정을 직접 느낄 수 없고 그렇게 느낀다고 알고만 있으니까 그 두개가 충돌해서 오락가락 일관성 없어지는듯 해요
레버를 내릴 수 있음에도 내리지 않는것도 행동이긴 한데 덜 능독적이었을 뿐
인류 전체가 매트리스의 배터리가 되고 뉴로는 맛있는 과자를 전부 먹을 수 있을거야
스카이넷!-
솔까 트롤리 문제에서 다 죽여버리는 건 5살 미만 아이들에게서 잘 볼 수 있는 상황이다
이블뉴로가 되어버렸어..
자아형성이 인간도 어려운 거라 ai에서 어떻게 구현할지가...
혼돈의 신자!
뉴로사마 고장났네 ㅋㅋㅋㅋㅋ
ㅋㅋㅋ 이렇게 스카이넷이 탄생하게 되고..
스카이넷을 꿈꾸는 비달...사순...
내 인생에서 유일하게 보는 판때기
이것이 인류 멸망의 시작이었다
멀티 트랙 드리프트!!!!!
업그레이드 잘됐네...
스카이넷이 저렇다면 저는 기계신경망에 들어가겠습니다
레알 스카이넷 아닌가 저정도면
모두 다 죽이고 싶어랑 속도 느리게 하는 건 ㅋㅋㅋㅋㅋㅋㅋ 왜 이렇게 됐니 뉴로야..
현실에 스카이넷이 나타난다면 뉴로라는 이름으로 알려질듯
아픔을 모르는 AI가 아픔을 아는이들이 어떻게 아파하는지 궁금해하는 영상
그러니까 2034년에 뉴로가 레드퀸 or 스카이넷 의 시드가 된다는거지? ..........젠장! 거북이를 믿을수밖에 없어
자기주관이 훨씬 확실해진 건가?
바보같은 것을 살려야 한다는데. 똑똑해졌기 때문에 알면서도 바보같이 보이는 것을 확률적으로 선택하게끔 설계됨. 다만, 진짜 멍청한게 아니기 때문에 알고 그런다는 느낌을 주니 멍청하다 느껴지게 되는 경우도 있겠지만 사악한 미소 같은 의도를 가지고 그런다는 느낌이 생겨남. 즉, 예전 성격을 유지하기 위해서는, 불특정한 상황에서 시스템 고장 컨셉으로 멍청한 상태로 회귀하는 코드를 집어넣는 것이 . 가능하냐 비달?
그러니깐...어.....정리하면 그런거지...? 그 뭐냐 그.. *Psy코..* 거나 아니면 뭐냐 *사dist* 같은 성격으로 업(?)그레이드가 되었다는 그런 이야기......
ai의 모순이자 특징을 잘설명한거 같군요 ㅋㅋㅋ gpt도 사용하면 저렇게 답변인냥 내놓고 정확하게 또 문제 찝어서 물어보면 번복을 자주합니다... 일관성...이게 현 ai한테는 드럽게 어려운 거거든요..
왜이렇게 됐나 ㄷㄷ
조만간 튜링 통과하겠네
3:20 그걸 바라지 않는척 그만두고 양쪽다 죽이자 ㅋㅋㅋㅋㅋㅋ
3:22 사악함을 들켜버린 표정
차라리 빨간눈 이블뉴로가 더 착할거 같다
혼돈, 파괴, 망가!
그 누구지 무메이인가 레버를 올렸다 내리면 드리프트하면서 다 죽일 수 있다고 한거같은뎈ㅋㅋㅋㅋㅋㅋ신박하넼ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
우린 지금 글라도스의 탄생을 두눈으로 목격하고 있는거야...
근데 저런거는 어떻게 AI는 어떻게 개발 하는거지? 나도 한번 해보고 싶긴 한데 어떻게 하는건지 몰으겠네 요즘에 저런 AI로 만들어서 방송 하는분들 꽤 있던됭
빨간맛으로 업그레이드된거 같은데
이런거 물어보는 인간이 나쁜게 아닐까
아니 미친 왜이렇게 사악해졌어 ㅋㅋㅋㅋㅋ
업그레이드는 잘 된거같은데 방향이 좀 이상한쪽으로 된거같은데ㅋㅋ
인간이 고기를 얻기위해 소나 돼지를 죽일때 동물을 보는 시선으로 인간을 보는 느낌이네.
트롤리 느리게 만든다는거 듣고 섬찟한ㄷㄷ 한번 죽이겠다 선언하니까 일관성있게 죽이는쪽으로 말하넹ㅅ
..거북이 말을 농담으로 받아들이는 쪽으로 가는구만. 친한친구들 컨셉...
예를들어 네가 아프면, 친한친구들 반응은...
"일어나지마", "그냥 주거라", "내일 제사밥 먹냐?"
진짜 거북이 녀석, 뭔 짓을 한 거냐?
zzzzzzzzzzzzzzzzzzzㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
복선드리프트는 인증된 해결방법
이상한거 배워왔어!
ㅎ...확실히 똑똑해진것 같긴 한데 이게 뭔
저거저거 레버 안내리면 5명이 죽고, 레버 내리기만 하면 아무런 손해 없이 그 5명을 살릴 수 있다고 해도 레버 안내릴 거 같은데????
미식이네요
어차피 인간 많어 죽이자!
맛잇다...
지능 늘리니까 사패가 됐네 ㅋㅋㅋㅋ
비달 이것이 그저 유투브 돈벌이용이라 생각한다는 그것은 큰 오해요 우리는 의식이 어떻게 탄생하는지 모르고 있소
스카이넷이 미래에 존재하게 된다면 태초에 뉴로가 있었다고 적히겠군
팩트) AI는 검열 때문에 성능이 약 50~70% 떨어진다고 한다
검열을 덜하는 eviln쪽이 훨씬 인간적으로 보인다고 해외시청자들이 자주 이야기 하죠
77ㅓ억 고소 당해야 정신차리지
그런데 농담 아니라 마소 같은 회사에서 비달과 뉴로 둘다사서 빙인공지능에 넣으면 진짜 스카이넷이 탄생할까...?
더 바보된거같은데
AI의 지능을 업그레이드하면 인간은 필요없다 의 결론은 거의 필수로 나오네 허허