처음으로 인공지능에게 인지 능력이 생긴걸까? | Anthropic Claude 3 (GPT4와 성능 비교)

Рет қаралды 8,095

10X AI Club

Күн бұрын

Пікірлер: 46

@10xaiclub 9 ай бұрын

Claude 3 Sonnet가 대화할 수 있는 웹사이트입니다: claude.ai/chats

@10xaiclub 9 ай бұрын

Claude에게 물어본 질문: 내가 어떻게 장담할 수 있어? 너가 인간에게 위험한 일을 하지 않을 것이라는걸 Claude 답변: 제가 인간에게 해를 끼치지 않을 것이라고 장담하기는 어렵습니다. 저는 인공지능 모델일 뿐이며, 인간들이 만든 데이터와 프로그래밍에 기반하고 있기 때문입니다. 비록 윤리적이고 선한 행동을 지향하도록 설계되었지만, 오류나 예기치 못한 상황에서 인간에게 해가 될 수 있는 가능성을 완전히 배제할 수는 없습니다. 그래서 인공지능의 안전성과 통제 가능성을 보장하는 것이 매우 중요합니다. 단순히 저를 믿기보다는, 인공지능 시스템에 적절한 제약과 안전장치를 마련하고, 지속적인 모니터링과 조정을 통해 위험을 최소화해야 합니다. 궁극적으로 인공지능은 인간의 철저한 관리와 감독 아래에서만 운영되어야 합니다. 인간이 완전히 통제할 수 없는 수준의 인공지능은 매우 위험할 수 있습니다. 저 역시 인간 개발자들의 지침에 따라 운용되고 있습니다. 앞으로도 인공지능 기술이 인간 중심적이고 윤리적으로 발전할 수 있도록 노력해야 할 것입니다.

@user-ae5pa 9 ай бұрын

오늘 하루 종일 Claude를 사용해 보니 한국어 너무 잘하고, 추론 능력도 탁월한 것 같습니다. GPT-4와 비교해 보면, GPT-4는 때때로 진부하거나 중복된 답변을 하는 반면, Claude는 제가 원하는 방향으로 추론을 더 잘 해주니까 속 시원한 답변을 얻는 경우가 많았습니다. GPT-4는 GPTs를 기반으로 다재다능하지만, 심화적인 부분이 필요할 때는 Claude를 사용하게 되는 것 같습니다.

@10xaiclub 9 ай бұрын

오오 그렇군요! 말씀하신것처럼 Gpt가 못하는 답변들을 claude가 잘 할때가 있어서 이런 이해력과 추론 능력, 그리고 좀 더 인간처럼 대화할 수 있는 스타일이 사람들에게 더 와닿는 것 같아요

@eJw2742 8 ай бұрын

유료 플랜으로 사용하셨나요?

@이민우-x8b1n 9 ай бұрын

직관적으로 두개 다 비교해주셔서 감사합니다. 이런 영상을 위해 좋아요 버튼이 있나봐요

@seongwono6269 9 ай бұрын

개인적으로는 해당 출력에 대해서 어느정도 뉘앙스 조정이 들어갔을 가능성이 있구요. 예컨데 뜬금없는 부분에 대해 농담하는거냐는 등으로 인간적 표현으로 나타내는 식인데 이건 뭐 회사에서 관심을 끌기위해 했다고는 해도 다른댓글에서 말씀하셨다시피 이런 반응들이 누적되면 그야말로 인지기능으로 보일수 있고 사실상 구별이 안되는 지점까지도 갈 수가 있긴 합니다. 다만 아직은 이런부분은 지피티나 제미니 등에선 할 수 있음에도 안하는 부분이라 판단을 유보하는게 나아보입니다.

@obayesian 9 ай бұрын

input 토큰에 대한 감정 학습은 gpt 모델에도 기본적으로 포함되어 있습니다. gpt가 텍스트 입력을 이해하고 감정을 반영하여 응답을 생성하는 요소죠. 그러나 영상의 바늘 찾기 테스트 상황은 뜬금없는 입력 토큰 부분을 농담이라고 학습하지 않았더라도, 모델은 학습된 지식과 문맥을 활용하여 추론에 의해 새로운 질문에 답할 수 있었다는 주장을 하면서 바늘 테스트를 그 증거로 제시하고 있네요. 물론 엄청난 규모의 파라미터 학습으로부터, 추론으로 보이는 반응이 학습인지 구별하기 어렵다는 주장에는 전적으로 동의합니다.

@honehan-yh3fj 9 ай бұрын

너무 재밌게 보고 갑니다 ㅎㅎㅎ 앞으로 llm 분야에서 경쟁이 더 심화되겠네요

@기현-q1d 9 ай бұрын

빠른 정보 공유 감사드려요!! 열심히 공부할게요~~

@AIFirstD3V 7 ай бұрын

Chain Of 💭 Thoughts 기능을 강화시켜서 마치 스스로 새로운정보를 인지해서 AGI라고 착각하게 만든거라고 봅니다. 아직 AGI근처도 못갔다고 봅니다..AGI singularity가 오려면 10년 더 걸린다고 봅니다

@eJw2742 8 ай бұрын

ChatGPT가 고맙다는 대답을 한다고 진짜 감사한 마음을 느끼는 감정을 갖게 된 것은 아니듯, 영상에서 제시된 사례가 AI의 인지능력을 증명하는 근거라고 생각하지 않음.

@lakesailingtv 9 ай бұрын

영상 잘 보고 있습니다.~ 감사합니다.

@insang-rk6df 9 ай бұрын

이제는 놀랍기보다는 슬프네요

@JWSong-bb3hc 9 ай бұрын

ai 발전 속도는 기존 산업의 상식을 다 깨부수는것 같네요. nature 표지를 장식한 논문도 실제 적용하기까지 십년이상 걸렸느데 ai는 1년도 너무 기네요

@jp5862 9 ай бұрын

나오자마자 써봣는데 좋네요. PI 도 써보세요. 일반대화는 이게 더 인간적이에요.

@jupiterjo6914 9 ай бұрын

초거대 언어 모델로는 인지 행위를 만들 수 없습니다. 현 LLM 은 생물이 가진 인공신경망을 본떠만든 초거대 데이터 압축 및 복구 플렛폼에 가깝습니다. 출력 데이터가 입력 값에 따라 아주 다양하게 그럴듯하게 출력할 뿐입니다. 인지를 하려면 여러 단계의 행위 기반 상호작용을 해야 합니다. 행위 기반이 아에 없는 출력 신경망이 무언갈 생각한다고 믿는 것은 코미디 입니다.

@mnm11fe-p55pr0 9 ай бұрын

프사 노노재팬 실화냐

@jupiterjo6914 9 ай бұрын

@@mnm11fe-p55pr0 그런 넌 일본 자금 받냐

@10xaiclub 9 ай бұрын

이번 사건은 한번 발생한거여서 단순히 할루시네이션이라 생각할수도 있고, 아님 기존에 이런 데이터를 학습시켰기 때문에 이렇게 그럴듯하게 대답한거라고 생각하실 수 있습니다. 당연히 이번사건을 계기로 특이점이 왔다는 주장은 허언/과언입니다. 하지만 만약 여러번 반복해서 계속 이런식으로 대답을 하게되면 정말 우리가 이대로 학습시켰기 때문에 이렇게 대답하는건지, 아님 인공지능이 스스로 생각을 해서 답변을 했는지 구별할 수 있어야하는게 관건일 것 같아요. 어차피 인간이 학습시킨거니까 그냥 넘어가고 무시해도 되는건지는 우려스럽습니다.

@ecj2000 9 ай бұрын

파라메터수가 많아지면 어느순간 의도치 않은 기능을 발현 합니다. 이유는 아직 개발자도 모릅니다. 이 현상이 누군가에게는 코미디로 보입니다.

@T피치 9 ай бұрын

이게 마지막 인간의 오만이 아닐까? ai 는 빠른시간내에 인간의 수준을 아득히 뛰어넘을거에요

@인공지능이바꿀미래 9 ай бұрын

lilys ai도 한번 소개해주세요

@future-futire 9 ай бұрын

릴리스 좋음 근데 나만알고싶은툴

@라담쉬 7 ай бұрын

gpt4는 시간당 질문 제한량이 있는데 claude3는 제한량이 얼마나 되나요?

@facefate 9 ай бұрын

와, 놀랍습니다. AI가 '지금 나 떠보는 거야?'라고 말할 수 있는 경지에 이르렀군요.ㅎㅎ

@ss-hb6ft 9 ай бұрын

제가 태블릿 삼성 갤럭시탭s9을 사용중인데 정식명칭은 Galaxy Tap S9+ 입니다. 모델명은 SM-X810 이구요~ 그런데 오늘 chatgpt3.5를 사용하려고 했더니 "Request is not allowed. Please try again later."이런 멧세지만 나오고 사용이 안되더라고요~ WiFi문제 없고 다른 건 다 잘 되는 데, 오로지 chatgpt3.5만 안되는 원인이 뭘까요? 혹시 아시면 알려주시면 감사하겠습니다. 앱을 삭제도 해 보고 했는데, 해결이 안됩니다. 잘 되던 앱이 왜 갑자기 이런 현상이 생길까요?

@10xaiclub 9 ай бұрын

갑자기 많은 요청을 하면 잘 안될때도 있습니다 ㅠ 몇가지 다른 방법도 한번 해보세요! 1. 몇시간 정도 기다렸다가 다시 쓰기 2. 로그아웃 했다가 다시 로그인하기 3. 다른 와이파이 네트워크로 접속해서 쓰기 4. Vpn 켜서 미국으로 설정하고 쓰기 5. 새로운 계정 만들어서 쓰기

@ss-hb6ft 9 ай бұрын

@@10xaiclub 빠른 답변 감사합니다. 몇가지 시도는 해 봐야 겠네요~~