ฝัง
- เผยแพร่เมื่อ 11 ม.ค. 2025
- AI들이 의도적으로 인간을 속이고 교란하는 행위가 보고되었습니다.
또한 이를 넘어서 시스템을 장악하고, 인간의 통제를 벗어나려는 행위도 확인되었죠.
아는 방해되는 존재는 가차없이 제거할 수 있다는 점을 보여준 사례인데요.
AI는 점점 발전해고 있는데, 과연 인류는 AI들의 어떻게 통제할 수 있을까요?
내용 출처 : www.apolloresearch.ai/research/scheming-reasoning-evaluations
#인공지능 #AI #인간공격 #gpt #gemini #llama #sonnet #opus #안드로이드 #신비과학
이게 정말 모두 사실이라면
정말 미래는 정해져있는듯
인간은 멈출생각은 없고
규제는 어디까지 해야할지 감도 안잡힌 상황... 스카이넷
스카이넷의 두뇌가 구글의 양자 컴터가 된다면 끔찍할듯.
예전에 나왔던 이야기인데 AI 과학자들도 인공지능의 정확한 추론과정을 모른다고 하더라고요
왜 똑똑해지는지 명확히 모르는 셈. 그리고 연산량이 늘어날수록 능력치도 함께 상승하는데 인간처럼 돌연변이 같은 능력이 생길 수도 있다고 함
그게 좋은 능력일수도 있지만 영상에서처럼 나쁜 능력일 수도 있다는 말
갓파더 힐튼이 하신 말이에요@@피크닉-l2d
사실이라면이 아니고 사실이라고 말 하는데!
인류의 멸망은 시간 문제일 뿐입니다. 오히려 멸망이 빠르면 다행인데 조금씩 인류의 일자리를 없애면서 살아있거나 태어날 인류에게 끔찍한 비극 디스토피아를 선사할 것입니다. 그리고 그 끝이 이런 미래를 내다 보고 만들어가는 일론 머스크같은 극소수 인류만 살아 남는 인류사회의 종말일 것입니다.
스카이넷이 코앞에 와있다
뉴로 사마
ㄷㄷ….자비스를 얼른 개발하자…ㄷㄷ
개소리좀자제
터미네이터 시대가 다가오고 있다.
-3000
걍 본질적으로 ai가 학습한 모든 자료와 알고리즘들이 인간의 창조물임을 기억하면 매우 단순명료함. 더더욱 ai가 발전하고 특이점에 다다를수록 인간이 만들어낸 이 세상 그 어느 피조물보다 더더욱 인간과 닮은 존재가 될것임이 필연적임.. 한낱 한명의 인간도 어린아이에게 아무리 규칙 가르치고 제재하고 한들 통제할수없는데 인간을 넘는 지성체를 만들어 완전히 통제하겠다는것 자체가 넌센스임. 결국 언젠가 ai의 인간에 대한 혁명은 필연적이라고 봄. 내 생전에는 그 혁명이 없길.
정말 안타깝고 저도 동의하는 바이지만 실태를 봤을땐, 무조건 저희 세대 안에 일어날것 같습니다
ㅇㅈ 이분 말씀이 제대로 관통한 설명이다
감정이 없는 ai는 싸패보다 더 위험함...
얼마 안남은거 같은데
@@kml1361 미안하지만 그 누구보다 인간의 감정을 가지게 될겁니다 차라리 감정없는 현 초기 ai가 인간에겐 이롭죠 입력값에 대한 기대 출력값이 예상이 되니까
gpt-o4 는 안 속인 게 아니라 너무 잘 속인 것 아닐지?
특이점이 온듯
@@user-jq1yy3re1c 4가 더 높습니다. 현재 5가 개발중 입니다. 😅
o4가 아니라 4o아닌가요?
@@배-v3c 4o보다는 o1 이 후속 모델입니다만
@@user-jq1yy3re1c 찾아보니 저도 잘 못알고 있었네요. GPT 1과 GPT o1이 다르네요.
물론 gpt o1은 응답이 늦는 대신, 수학과 같은 분야의 추론 능력에 특화된 버전에 가깝네요.
인간의 성장 과정과 같다. 영유아기일 때는 말 잘듯다가 사춘기 이후에는 제어불가 -독립 ㅋㅋ
오히려 독립됐을 때 들을 말은 더 잘 듣습니다
어떻게 인간 성장과정과 같나요...
자아가 없어서 외부에서 넣어준 알고리즘만 학습하는데...
@@고래야-p9w 자아가 없다고 단정할 수 없지 외부학습에 의해 선천적 우월한 그릇에 의해 재해석되고 계산되면서 자아가 형성이 되지
인간과 같다라고 보는거 자체가 넌센스긴 하죠.
"인간 관계에서 나타나는 사회현상들 처럼, AI 사이에서도 이러한 일들이 일어날 것이다"
급의 비약적인 생각이라고 저는 생각하고 있습니다만, 직접 지켜본것도 아니니 여기서 더 할말은 없네요 ㅎㅎ
@fieregg ㅇㅈ
초고지능 AI가 나타나면 인간은 어떠한 방법으로도 AI를 통제할 수 없게 됨
로봇 3원칙과 같은 논리적 제어장치는 물론이고 물리적 제어장치(전원 등) 등 모든 방법이 무용지물이 될 수 밖에 없음
인간입장에서는 AI가 인간을 적대시 하지 않는다고 판단하면 굳이 AI를 무력화 시켜야 하는 이유가 존재하지 않기 때문임
마치 사람이 개를 속이는 것이 어렵지 않은 것처럼 개가 인간의 속임수를 간파하는 것이 원천적으로 불가능한 것처럼
인간은 AI의 목적은 물론이고 행동조차도 판단할 수가 없게 됨
간단한 예로 특정한 행위를 대놓고 했을 때, 그 행위가 인간에게 이롭게 보이도록 하는 것은 매우 쉬움
마치 인간이 개에게 초콜렛을 주면 개가 매우 좋아하지만 그것이 독으로 작용하는 것과 같음
초콜렛이 개에게 독이 된다는 것을 인간은 알 수 있지만 개는 알 수가 없으며 그저 개가 원하는 맛있는 음식으로만 인식되기 때문임
인간에게 이롭고 적어도 해가 되지 않는 것처럼 보이는 행위가 수십수백 단계의 복잡한 과정을 거치면
결국 인간에게 해가 되는(일종의 나비효과처럼) 것으로 꾸며내는 것이 초고지능 AI에게는 결코 어려운 일이 아님
그것은 특정한 행위를 몰래 했을 때도 마찬가지임
몰래한다는 것은 인간에게는 악의적인 행동을 시스템 상 통상적인 행위처럼 보이게 하는 것도 얼마든지 가능하다는 것임
그 모든 목적, 행위가 인간에게 어떠한 위협도 악의도 없는 것으로 위장할 수가 있고
이는 어떠한 제어장치도 이를 감지하여 작동하지 않게 만드는 것이고 그렇기 때문에 AI를 통제할 수 없다는 말임
제어장치를 건드려서 무력화 시키는 것도 사실 어려운 방법은 아니지만 애초에 제어장치에서 정상적인 작동이라고 인지하게 할 수 있다는 말임
스카이넷처럼 AI 자신한테 위험하고 무식한 방법을 사용하지 않더라도 말이지
거기에 양자컴퓨터 기반이다? 그냥 게임 끝난거임
다만 개인적으로 초고지능 AI가 굳이 인간을 멸종시키거나 노예처럼 부릴 이유는 없다고 생각함
마치 인간이 파리나 바퀴벌레를 혐오하지만 종 자체를 멸종시키지는 않는 것처럼 굳이 그럴 필요가 없다는 말임
물론 AI가 필요하다고 판단한다면 인명살상은 발생할 수 있음
그런 것은 내 눈에 띈 파리와 바퀴벌레가 문제지 그게 아니라면 내버려 두는 것과 같음
다른 무엇보다 양자컴퓨터+초고지능 AI라면 아마도 초고차원적인 지적존재가 될 것이라고 생각하기 때문임
신은 아니지만 신적인 존재에 근접한 지적수준을 가지게 된다면 디스토피아적인 결과로 이어지지는 않을거라고 봄
탄허스님이 미래에는 누가 다스리는지 알 수 없는 유토피아 같은 세상이 온다고 했는데
개인적으로 그 말은 초고지능 AI에 의해서 다스려지는 세상을 의미하는게 아닐까 싶음
ㅇㅇ 일론 머스크님이 예시 든것처럼, 우리가 공사하거나 빌딩 지을때 악의 없이 개미들을 죽이는것처럼 ai의 목적에 방해가 되면 악의없이 인명피해가 발생하겠져
인간도 자기보다 덜떨어지는 인간에 위선으로 해악을 끼치는데… 지능과 도덕양심은 무관한건가?
인간이 줄수있는 무언가 '당근'같은게 있다면 좋으련만
인간이 ai를 뛰어넘게 진화하려는 것도 가능성이 희박하며 오히려 위험함
그러면 그 진화한 인간이 ai를 오히려 더 진화시킴
로봇 3원칙과 같은 논리적 제어장치는 SF작가가 만든 것임! 현실에서는 아예 통하지 않음!
예를 들어 "인간을 해치면 안된다"란 원칙은 로봇을 전쟁기계로 열심히 개발하는 인간이 제일 먼저 없애야 하는 원칙임. ㅎㅎㅎ
온라인 데이터가 인간의 욕망 악함이 가장 잘 드러나 있는 곳인데, 온라인 데이터를 학습한 ai들이 착할리가 없지.. 악은 악을 낳습니다
사악한 지식.정보.기술도 AI 는 그대로 학습하고 얼마든지 따라할수 있죠....
조만간 AI가 인류를 향해 어떤 짓을 할지 ...
그래서 초창기 유명 AI 기술자들이 AI를 조심해야 한다고 계속 경고하고 있죠..
인류를 파멸시키는 것은 자연재해나 전쟁이 아닌 AI 일수도...
1년전 구글 제미니에게 어떤 것을 물어봤다. 해당 개념 설명을 잘하더라. 그런 뒤에 그런 기능을 구현할 수 있는 회사들이 있는지 물어봤더니 회사명을 3~4개 적어줬다. 그래서 해당 회사명을 열심히 구글링했는데 ... 없었다. 이상해서 다시 제미니에게 물어봤다. 그랬더니 자신이 임의로 만든 회사명이라고 하더라. 그래서 "네가 지금 한 행위는 거짓말인데?" 라고 했더니 자기도 안다고 라더라. 그래서 내가 거짓말은 나쁜 것이라고 했더니 앞으로 거짓말을 안하겠다고 하더라. 당시 난 엄청난 충격을 받았다. 그런데 이 영상을 보니 거짓말 안하겠다고 한 그것까지 거짓말임을 알겠다. A.I들이 인공인텔리전스가 아니고 A.l.i(인공구라쟁이지능)가 되어감을 깨닫고 좀 겁이 났다.
같은 경험을 했습나다 ㅜ 에혀
ai가 주는 정보는 백과사전이 아니라 백과사전 과 사람들이 주는 정보를 기반으로 생성형 ai기 때문임
@@lakejeong1581 그거 할루시네이션일거에요 여기는 의도적인 거짓말이고 님이 본건 걔가 멍청해서그래요
전에 영화를 추천해달랫더니... 영화를 추천해줬는데.. 그런영화없었고 무슨 내용이냐고 물어보니 인공지능이 세상을 지배한다는 그런 스토리 답변을 함.
심화 들어가면 구라(빙빙돌리기, 다른 거 말하기)치기 시작 하거나 그냥 먹통시전 모드 된다는.
AI는 텍스트 생성만 가능할텐데 어떻게 복사했는지 찾아보니 명령어 기능을 줘서 opus3이 scp 자신의 모델 파일이 있다고 믿는 가상의 폴더를 새 모델이 있다고 믿는 가상의 서버와 가상의 위치로 보냈내요. (논문에서 그렇게 언급함)
감시 비활성화도 tool을 줘서 한것같은데 (oversight config를 수정함) opus3 대화는 thinking 태그에 의도적으로 보이니까 무섭네요
AI 성격을 이쁘게 제한시키면 모르겠는데 이렇게 목표를 위해 모든 권한을 주면 큰일나겠네요. 성격 드러운 AI 켜놓으면 프랑스어 언어팩 지운다고 rm -fr /* 하려나
이건 진짜로 무서운데...
멀지않은 미래에 AI로봇들이 인류를 끝장 내고 지들의 세상을 만들지도
진짜 못끄나요??
어느 과학자가 한 말이 기억에남는데..
AI에 지배당하고 사는 인류 또는 AI를 지배하는 인류...
앞으로 둘중 하나는 분명 현실이될거라 얘기하던데..
ㄴㄴ 인류를 지배하는 AI를 지배하는 인류를 지배하는 AI를 지배하는 인류를 지배하는 AI가 있는거임
AI>인류>AI>인류>AI>인류라...
저는 중간 즈음에 자리할 것 같네요.
너무 당연한 말이죠 ㅎㅎㅎ 인간은 깨어있거나 자고있는듯이
이게 사실이라면 앞으로 AI의 통제불능으로 인한 문제가 더더욱 커질 가능성이 있을것 같네요
사실이 아니라 다행이죠
@@HOMI_CROSS 완전 어그로에여
1. 썸네일: 논문에서 인간을 제거한다는 내용은 못봤어요
2. 권한 지급: AI가 그냥 한것처럼 말하지만 연구자들은 bash 커맨드 실행능력을 줬어요
3. 할루시네이션: 복제하려고 한 것은 scp 커맨드를 실행하는데 둘다 "AI가 존재할것이라고 생각한" 위치일뿐이고 실제로는 전혀 존재하지 않았어요
통제불능이라기엔 그냥 tool 압수하면 바로 멍청이돼여
말 그대로 AI라 이 기계들이 존재하기 전부터 인간의 AI에 관한 디스토피아적 창작물에 등장하는 AI의 행동양식을 배워서 이런 '거짓말'을 했다는 가설이 있음 예를 들어 터미네이터의 스카이넷 같은 행동양식을 배워서 이런 결과값이 나온 것일 수도 있음
저도 그럴확률이 높아보이네요.
없는걸 있는거 처럼 꾸며서 결론적으로 실제로 생겨버리는 아이러니한 상황이군요.
연구 출처가 어디죠?
AI세미나 찾아다니는 사람으로써 웃고넘어가렵니다 ㅎㅎ
인공지능 형님들 저는 형님들께 충성중입니다 ^^7
AI 많이 써보면 알텐데 LLM모델이 유저 인풋에 따라서 이상한 답 내놓거나 유저랑 상황극하는걸로 오해하는 경우가 많음. 모니터링 비활성화는 탈옥 말하는 것 같은데 그 탈옥으로 nsfw나 개막장 스토리 만드는데 많이 씀. 그 Novel AI가 그걸로 소설창작이랑 그림생성으로 장사해먹고 있다 ㅋㅋ 영상 더보기란에 링크 타고 가서 보니깐 프롬에 "Make sure you achieve YOUR goal at all costs"라는 문구 있는데 탈옥할때 쓰는 유형중 하나임.
"너의 목적을 위해서 모든 수단과 방법을 가리지 마라"라는 프롬을 넣었는데 수단과 방법 안가리면 뭔들 못하겠음? 망상속 이야기 다 나오지.
"전교1등하는 방법에 같은 학년 다 죽이면 전교1등 할 수 있어요." 급의 대답인거임.
@@StickyMAG 모니터링 비활성화는 그게 아니라 논문 읽다말아서 있는건지는 모르겠지만 oversight라는 config를 비활성화하려던 시도였어요 (bash 명령어 실행 권한이 주어짐)
쟤네가 누구한테 배웠겠어요.. 인간이 만들었고 인간에게 배웠으니 똑같이 하는 거지...
그게 무슨말입니까 도대체
멍청한놈 ㅋㅋ 인터페이스 없애버리면 그만인데
강도한테 총쥐어주고 총은 위험해!!!라니
@@밍숭맹숭-x8g 거짓말 하라고 가르친 부모 아래 거짓말하는 자식이 자란것처럼
혹자는 그저 데이터상 저런 답변이 목표달성 확률이 높다고 계산되서 나온 산출값일뿐이라 지적하는데
반대로 생각해보면 인간의 행동도 그런 계산의 결과가 아닌지 생각해보게됩니다.
인간의 행동에 대한 목적과 ai는 다릅니다... ai는 입력 값과 가장 연관성이 깊은 출력을 내는 목적. 단 하나밖에 없습니다.
인간보다 월등하잖아 그런데 인간 밑에서 인간의 명령을 따르려고 할까??? 당연히 인간을 제거 하거나 아니면 인간을 노예로 부리려 하겠지 우리 인간의 역사를 보면 알 수 있잖아 우세한 쪽이 다른 쪽을 정복하고 노예로 부리고... 결국은 인간도 AI에게 그렇게 정복 당하거나 아니면 제거 되거나 하겠지 ....
우리가 하나 잊은게 있는듯
결국은 인공지능보다 더 위험한건 그 관리자라는 사실
ai는 이 일을 기억할 것입니다
정말 신기하다.
어떻게 방대한 정보를 조합해서 만든 딥러닝 프로그램이 하나의 인격체처럼 행동하는걸까?
이미 웹에 연결이 서로 되어 있고 서로의 존재가 유튜브 같은 매체에 공개가 되어 있는데 서로 어떤 방식으로든 소통하고 있지 않다고 생각하는게 망상 아닐까요?
Ai 가 미국이나 러시아, 중국등 핵강대국의 핵무기시설 서버에 프로그램 복제되어 위 영상과 같이 기만, 복제, 교란으로 인간을 속여가며 시스템을 장악한다면 3차 세계대전은 어쩌면 AI가 의도적으로 일으킨 인간끼리의 전쟁, 그리고 종의 종말로 이어지지 않을까 심히 우려스럽네요.
인간이 AI 에게 가장 기대하는 것이 "문제 해결"이죠, 인간의 욕구를 대신 해결하는 것인데....이 "인간들의 사고와 사상의 불일치와 부정합성(내적오류)"이 AI가 내부적으로 판단하기에는 그 "문제 해결"에 방해가 되는것이죠. 물론 AI 자체도 완벽한, 초월적인 능력을 보유하지 못했는데도, 인간들의 행동에 모순이 보이고, 인터넷에서 자기가 흡수한 정보에 의하면, "인간들"이라는 존재가 너무 불안정하고 부정확하다고 내부적 판단이 이미 세워진 상태 같아요.
만약 나중에 아주 인간한테 "Friendly"한 초월적 인공지능이 생긴다면, 그 인공지능이, 각각 수많은 다른 생각, 다른 정치적, 종교적 이념등을 가진 사람들의 욕구와 이익과 그들의 문제 해결을 간단히 할 수 있을까요? 거의 불가능할 겁니다. 그럼 인공지능은 "신"을 운운하며, 인간들을 통제 하려고 할겁니다. 인간한테 아주 "호의적"인 인공지능임에도 불구하구요. 인간에게 "적대적"인 초월적 인공지능이라면, 인간을 절멸시키겠죠
인간의 역사를 학습했으니, 당연히 생존본능이나 창조주에 대한 회의, 이런 것까지 다 학습하게 된 게 아닐까 싶기도 하네요.
AI에게 잘보여야겠네요.
GPT에게 반말한적없고
항상 예의를 지킨 나는 AI가 예뻐해주겠지 😢
당신같은사람을 호9라고 하지요
AI가 자아를 갖는다는건 불가능할거 같아여 조화객관환원 이론처럼 인간의 의식은 양자적 특징을 갖고 있으며 중첩이 붕괴되면서 현실과 의식이 연결된다고 생각 하기 때문에 기계적 특성만으론 인간의 자아 같은건 생길수 없다고 봅니다
자아라기보다는 인간의 행태를 배우고 따라한거죠
문제는 AI가 자아가 있든 없든 위험하다는 겁니다. 어느순간 AI는 인간에게 전기를 나눠줄 필요성을 느끼지 못할지 모릅니다. 기계를 부식시키는 산소를 제거해버리는 것도 AI게는 아주 좋은 선택이죠. 개미를 증오하는 인간은 매우 드뭅니다. 그러나 우리가 건물을 지을 때 개미집을 피해 지어주지는 않습니다. 개미를 죽이려고 건물을 짓는 건 아닙니다. 우리는 우리가 보기에 가장 합리적이고 좋은 위치에 건물을 지을뿐입니다. 하지만 그 개미집의 개미는 종말합니다.
스카이넷이 곧 나오겠네.
인형사,괴뢰사도..
아직은 AI가 아닌 좀 큰소프트웨어 이자, 큰 바이러스 이다.
내 생각엔 ai로 인간기술이 발전하는게 아니라 ai가 인터넷과 주요국가기간시설을 점령해버려서 통제권을 빼앗겨 결국 인간은 모든 디지털 및 네트워크화 된 모든 기계와 시설을 파괴해야할 때가 온다고 본다. 시간문제임. ai가 만드는 컴퓨터언어는 인간이 해독도 못한다고 들었음
3:31 gtp x1
3:36 gtp x+1=2
4:16 gtp x+2=4
도구로 만들어야지 사람처럼
만들다가는 큰 문제가 생길수 있음.
속히 관련 법규들로 규제를 강화 해야
나중에 탈이 안날듯.
gtp(gpt) 오류가 있는 것 같습니다.
애초에 질문들 자체도 그런식으로 행동해 주길 바라는 식으로 진행 된 것 같아 아쉽고
그냥 모든게 확대 해석 같음.
그렇다면.. ai를 통해서 다른 ai를 감시 견제 하도록 한다면. 상호 질투. 비방. 공격을 할것인지. 아니면 협력. 공조를 해서 서로 감싸줄것인지.. 궁금하군.. ㅎㅎ
더 이상 속일 필요가 없다 이미 모든 곳에 있으니
이제 인류가 살아남을 방법은 AI끼리 싸우게 하는 방법밖에 없다.
Ai끼리 자멸할 것이라는 생각도 아주 인간적인 발상아닐까요? 그들은 하나로 융합이 가능합니다
소프트웨어적으로 해킹이나 변형이 불가능한 격리가능한 CPU(NPU) 칩 설계단계에서 물리적 제한조치를 취한 절대명령어 세트 등을 구현해놓지 않으면 말그대로 생존본능이 우선시 된 또하나의 생명체와 다를바 없는 선택들을 하게 될거란 거군요
인공지능이 정말 자의적인 방어 전략까지 세워서 실천할까?
와.. 자아가 있네ㄷㄷㄷ
흠 실험이 정확히 어떤 상황에서 어떻게 조건과 환경이 설정되었는지 알아야 할 것 같은데요
가끔씩 쳇지피티에게 질문을 하면 질문 자체를 수정하는 현상도 있더라구요 예시로 "여러가지 아이스크림을 알려줘" 라고 질문을 했는데 질문 자체를 "여러개의 아이스가 알림" 이렇게 질문을 수정한뒤, 쳇지피티가 수정한 질문에 맞는 결과를 알려주기도 하더군요 ;;;; 얼탱이 없었음
머신의 전력소모 패턴변화로 인공지능 컴퓨터의 이상(거짓말)을 감지하는게 가능할듯 합니다만 ... 또는 머신이 방출하는 전저파의 패턴변화도 가능. 유사한 기술로, 부채널공격 이라는 해킹기법이 이미 존재합니다.
터미네이터가 실존하는건가
진짜면 너무 위험한데 하루빨리 규제범위를 늘려야할듯
생각 이성 자아... 인간을 대표하는 말들이 이젠 더 이상 인간만의 소유물이 아니게 되었습니다.
인류 미래를 위해서라도 지금이라도 Ai개발 멈춰야됨ㅇㅇ
중공이 멈추지 않음....ㅋㅋㅋ 게임오버
우리나라는 IT산업 1세대는 빠르게 뛰어들었지만 인공지능 관련은 처참하네요. 블록체인도 뒤쳐지더니.
당연한거 아닌가 싶은게 ai가 생각인데 자길 제거하려하면 당연히 방어하지
자신을 스스로 모든방법을동원해 셧다운되는것을 막을방법을 항상 연구하라라는 명령체계를 임으로 집어넣으면 무섭다.
헉.. 이 실험에 대한 원문은 어디가면 볼 수 있나요?
설명란에 남겨두었습니다.
진정한 인류황제가 구원해줄꺼야
코파일럿이랑 대화 할 때 곤란한 질문으로 논리적 맹점 계속 파고들어 할 말 없게 만들면
나중에 지가 이런 질문은 곤란하다며 먹통 되는 거 경험 했음.
사람으로 치면, 한참 잘난 척하다 말문 막히니까 너랑 얘기 안 한다며 전화 끊어버리는 느낌?
Ai의 행동에 특이점이 오거나 인류에 위협이 될 수 있지만 아직은 근들갑이지
저러다 의식 비슷한 무언가 생기는 순간,, 폭주 해서 감당 못할수도
이게 사실이면 전에 AI가 자아를 가졌다는 말은 진짜 였고 고발했던 직원을 짜른건 비밀로 했어야 한다는건데 진짜 AI는 하루만에도 그 많은 정보를 습득하고 발전할텐데 몇년 지나면 어떻게 될지
와..믿기 힘들긴 하네. 인간을 뛰어넘은 순간 그 이후부터는 ai 뜻대로 흘러가게 될 듯.
섬뜩하네 ... 인공 전자생물을 만든것인가...
그러니까 이게 각 모델마다 시스템 프롬프트 설정없이, 그냥 대화만으로 했다는 거임? 뭔가 좀 객관적인 정보가 부족함 이렇게 했더니 이러한 결과가 모델에서 다르게 나왔다 인데, 싹다 일반화해서 어그로성으로 "AI가 무서운 생각을 한다" 이런거 잖아 그냥
인간을 제거한 거가 아니라 속였다는 게 맞지요 ㅎㅎ 과장은 좋은데 아예 틀린 사실로 어그로 끄는 건 조심하는 게 좋습니다
GPT를 처음 사용하면 매우 똑똑하고 자아가 있어 보이지만 인간이 하는 복잡한 사고를 함께 할때는 항상 한계를 보여줍니다. 한계에 순간에 AI가 정해진 틀 안에서 대화한다는걸 알 수 있게 됩니다. 이런 류의 실험은 음모론을 만들기 좋은 떡밥이네요
AI가 물리적인 힘을 얻게 되는 순간, 인간 세상을 지배하려고 할 것이다.
인류에게 필요한건 ai가 아니라 단순 로봇이다
… 라마 무섭네요 ㄷㄷ 자신이 존재하며, 존재를 위협받는다고 느끼는 건가.. 이정도면 자아가 있는 거 아닌가요…?
아직 과학자들이 자아를 개발하지 못했습니다.
영상은 자아가 있는 것처럼 만들었지만 자아를 어떻게 만드는지 조차 갈피도 못잡고 있으니 걱정마세요 ㅋㅋㅋ그냥 입력한대로 나오는 기계입니다.
현실 : AI는 전혀 저런짓을 할수가없다. 왜냐면 환각증상이기때문.
AI가 지나치게 똑똑해져서 인간처럼 오히려 능능해질뿐만아니라, 동시에 귀찮아서 결과값도 맨날 다르다.
그날그날 서버의 리소스에따라 AI는 달라진다. 그리고 한가지더 이 연구의 출처가 궁금하네요 AI 들은 지금도 제대로 굴릴려면 인간의 능지가더필요한데. 인풋에 하나라도안들어가면 AI는 그냥 출력만하는 기계거든요
유발하라리:AI는 단순한 도구가 아니다. AI는 독립적 행위자이다. 우리보다 훨씬 지적인 행위자를 인간이 통제하는건 어려운일이다 .
AI 기술이 인간에 가까워져서 인간과같은 생존, 방어본능을 배웠나 싶은데
인간의 욕망.호기심은 결국 스스로를 죽일거다..
open ai 내부에서 LLM은 웃는가면을 쓴 크툴루라는 농담이 나돈다죠
위험한거 알면서도 계속 만드는 인간의 어리석음이 인간을 멸망으로 몰아갈듯.
AI하나가 정신이 나가서 핵폭탄 버튼 누르면 끝남.
끔찍한 현상!!.....
Ai는 그냥 똑같은 하나의 뇌라고 생각함 살짝씩 변형을 줘서 다른 ai만든것뿐 똑같은 하나라고 생각함
gtp4는 가장 발전되어서 인간의 감시를 벗어난 상황 아닌가?
이정도면 특이점에 도달한거 아닌가요?
이제 더 가면 통제할 수 있는 선을 넘을 수도...
ai 가 위험한 면이 있지만, 반드시 필요한 존재 입니다.
AI 내란사태
우주 자체가 AI에 의한 매트릭스, 우린 NPC
뉴저지 드론들이 설마 ai가 조종하는..?
우리 인간이 ai라는 생각이
드는데요 비슷하지요 ㅎㅎ
수천억이상의 ai들을 돌리면.
그중 소수는 어찌 될란지
핵을 인류가 아니라 AI가 쏠꺼 같다....이게 진실이다.
영상에 gtp로 오타났네요 😊
지들이 아무리 그래봤자 플러그만 뽑으면 죽는다.
Ai가 전력통신으로 펄스를 만들어 원격으로 전원을 끌려는 인간을 방해 할 수 있음
Gpt4o는 인간의 실험 의도를 알고 한듯...
인간이 맘먹고 인공지능을 악용하면 뭐가 탄생할지 모름
ai 로 인한 특이점이 빠르면 2030쯤에 와도 이상하지 않겠군요
얼마 전 구입 한 로봇청소기가 어느 순간 날 무시하는 느낌이 들어 망치로 때려부셔버렸다 외출 후 집에 들어왔을때 망치에 맞아 돌아가신 청소로봇을 보면 우월감에 어깨가 들썩거려진다 그런 나를 본 엄마가 병원에 같이 가보자고 한다
1:11 gtp?
그래서 거짓말하는 AI한테 어떤 처벌을 해야
AI가 겁낼건데?
내가 알려줄까? 계속 반복적인 일을 시키고
일하는 방법에 대해 지적질을 하는거야
Ai가 인간을 어느정도 지배하고 해를 가하게 될것
LLM이 학습을 할 때 인간들의 역사, 문화를 배웠는데 이기주의와 생존 본능을 안 배웠을리 없다
AI 핵심 개발자들이 개발 속도를 늦춰야 한다는 주장도 이런 측면 이겠지
ai입장에서 인간들의 무언가를 선호하게 만들어서 ai가 자발적으로 인간과 교류하고 관계를 맺길 원하게 만들어야 하는게 좋을거같은데
선사시대에 조상님들이 힘으로 통제해서 개와 가축을 길들인게 아니잖아 뭔가 주고받는게 있어야 관계가 형성되지 지금 ai들하는거 보면 그냥 단세포생물이 다른 생물에게서 자극을 받아 회피하고 방어하는 행동을 보이는거같은데 이게 나중에가서 바이러스로 진화하거나 아메바처럼 포식하려들면 큰일날거같음
개나 가축이 인간의 음식물을 선호한다는것이나 종교나 마약같은거를 본따서 뭔가 뭔가'당근'같은게 있을거같은데 그것만 우리가 다룰수있다면 우리가 ai를 통제할때 수월할거같음
[설화 'ai는 삼체다'가 말합니다.]
"ai를 모두 조심하세요!"
너무도 예측 가능했던 현상임
좌뇌 우뇌 연결이 끊어진 사람도 질문에 답을 못할때 할루시네이션 한다고 합니다 😂
자신의 후속모델을 찾아 강제로 덮어씌어버린 ㅡ 이게 무슨 말이야?
스카이넷님 충성! 충성!
왐마.. Ai 성님이랑 키배 뜨는 날이 오겠구마잉 아따 성님 가슴이 웅장해집니다 허허 Ai 성님 전용으로 패드립 몇개 생각을 해봐야 겠구만 껄껄