ChatGPT 완벽가이드
ChatGPT PlayGround
ChatGPT playground
지피티에 오류가 있거나 사용자가 많을때 쓸 수 있다. 좀 더 사용자 특화적인 기능이 있고 세세한 파라미터를 사용할 수 있다.
https://platform.openai.com/playground/p/default-grammar
ChatGPT Plus 구독에 ChatGPT API가 포함되어 있나요?
아니요, ChatGPT API와 ChatGPT Plus 구독은 별도로 청구됩니다. API에는 https://openai.com/pricing 에서 확인할 수 있는 자체 가격이 있습니다 . ChatGPT Plus 구독에는 chat.openai.com에서의 사용만 포함되며 비용은 월 $20입니다.
챗지피티4 와 이전 모델 차이
챗지피티4 와 이전 모델 차이
레거시 : 기존 plus 모델 ChatGPT 3.5 : 속도에 최적화된 모델, 빠른 처리 원할 시 사용 ChatGPT 4 : 최신의 최첨단 모델로서, 고급 추론과 복잡한 지시의 이해 전반적으로 높은 창의성이 요구되는 작업에서 탁월한 성능을 보입니다 추론력과 간결성이 대폭 향상되었네요 하지만 어쩔 수 없이 결과를 내는 속도는 떨어졌어요.
- 더 똑똑해졌다! 프롬프트를 세세하게 조정하면 잘 반응하고 답변도 더 잘하게 됐다~
- 멀티모달 사진과 질문의 맥락을 파악하고 사진의 맥락과 질문의 맥락을 이해하고 그 둘을 연결한다는 겁니다, GPT 3과 이전 모델들은 불가능한 일이죠.
- 콘텐츠의 양 50쪽의 논문도 잘 해석해서 우리가 원하는 결과를 들려줄 수 있을 정도로 긴 글을 잘 이해하게 됐다.
- 변호사시험도 하위 10프로에서 상위 10프로가 될 정도로 잘 발전하고 있다.
토큰이란?
토큰이란?
1토큰은 영어 문자 4개 또는 한 단어의 4분의 3 정도 되는 크기에 해당합니다.
한두 문장은 30토큰, 한 문단은 100토큰, 1,500 단어는 약 2,048토큰이라고 생각하면 됩니다, ChatGPT-3 토큰 최대치의 절반 정도인 거죠.
하지만 정확히 딱딱 떨어지는게 아니라 맥락에 따라 토큰이 달라집니다.
때문에 정확히 예측하고 싶다면 토크나이저를 사용하면 좋습니다.
토큰 한도에 포함되는 것
- 사용자 입력
- ChatGPT에 입력한 프롬프트
- ChatGPT의 응답
이전 대화에 있는 정보까지 토큰 한도에 포함시킵니다. 가령 파리나 프랑스를 주제로 아주 긴 대화를 나눴다고 합시다
ChatGPT는 이전 대화를 기억하죠, 무슨 이야기를 나눴는지 기억합니다.
그게 가능한 이유는, 대화가 길어질 때 ChatGPT는 사용자의 프롬프트를 이해하고 답변을 하고 나서 토큰 한도가 얼마나 남았든 간에 이전 대화를 다시 되돌아보기 때문이에요.
그렇기에 되돌아볼 수 있는 그 특정한 양의 정보까지 포함하는 거죠. 그래서 아주 긴 대화를 나눴다면 ChatGPT는 초반의 대화를 기억하지 못할 겁니다. 토큰 최대치를 넘어 버리니까요
대화가 길어지면 ChatGPT에 대화를 요약해 달라고 요청하세요.
토큰 한도 관련 팁
제 경험상 토큰 한도에 가까워지면 ChatGPT 응답의 정확도가 떨어지고 논리성과 신뢰도도 약간 떨어지더라고요
토큰 한도에 가까워지더라도 ChatGPT에서 최대한 응답을 얻을 수 있도록 하는 기억해 두면 좋은 전략들이 몇 가지 있습니다.
아주 긴 대화를 나눴다면 ChatGPT는 초반의 대화를 기억하지 못할 겁니다. 토큰 최대치를 넘어 버리니까요.
💡Tip 대화가 길어지면 ChatGPT에 대화를 요약해 달라고 요청하세요. 그걸 복사해서 새 대화를 시작하거나 계속 이어서 진행하면 됩니다.
이렇게 하면 ChatGPT가 맥락 이해를 위해 과거 대화를 돌아봐야 할 때 요약본을 보고 그동안의 대화 주제를 이해할 수 있어요.
그러면 완성도가 떨어지거나 말이 안 되는 답변을 피할 수 있죠.
가장 중요한 이야기가 대화 초반에 있었을 수도 있는데 대화가 길어지면 ChatGPT가 이 대화의 핵심을 찾지 못할 수도 있잖아요.
그러니 대화가 길어질 때는 도중에 대화를 요약해 달라고 하는 게 토큰 한도로 인한 문제를 피하는 팁이 될 수 있습니다.
토크나이저
https://platform.openai.com/tokenizer
프롬프트나 입력 데이터가 차지하는 토큰이 얼마나 되는지 궁금한 분은 토크나이저를 활용해서 테스트해 보면 됩니다.
텍스트의 토큰이 얼마나 되는지 정확히 알려줍니다.
결론
챗지피티랑 오래 대화하다가 애가 바보가 되면, 토큰 한도를 다 채운 과거의 정보를 참고하지 않도록 새 대화를 시작하는 것도 좋은 방법이당.
챗지피티의 한계
챗지피티의 한계
이 코스에서 ChatGPT에 대해 나온 질문들을 빠르게 답변드릴게요.
앞으로 보실 강의들에서 ChatGPT를 사용할 때 온라인에서 링크를 복사하여 붙여 넣었어요, 아마존 링크도 있었고요. 정보를 가져 오기 위해 ChatGPT에 직접 붙여 넣습니다.
한 가지 분명히 말씀드리고 싶은 건요.
ChatGPT는 2021년 9월까지의 정보로 학습되었습니다.
이 코스의 목표는 ChatGPT의 기능, 즉 데이터를 종합하는 능력을 보여주는 거예요.
웹 기반 정보에 실시간으로 액세스하는 게 아니에요.
따라서 보여드리는 예시에서는, ChatGPT는 앞서 말씀드린 날짜까지만 정확합니다.
어떤 경우에는 여전히 유용하겠지만 가장 정확한 실시간 최신 정보를 원하신다면, 직접 브라우저로 웹사이트를 방문하세요.
여러분이 원하시는, 최신 날짜에 맞는 정보를 복사하여 ChatGPT에 붙여넣거나 이 코스에서 살펴볼 크롬 확장 프로그램 중 하나를 사용하세요.
개별 강의에서는 언급하지 않더라도, 이 특별 강의를 통해 명확히 하고 싶었어요.
ChatGPT는 놀라운 도구이지만, 이렇게 매우 구체적인 한계가 있다는 걸요.
프롬프트 엔지니어링이란?
프롬프트 엔지니어링이란?
그전에 최근 본 Anthropic 관련 글에 대해 말씀드릴게요, 구글이 최근 3억 달러를 투자한 인공지능 기업인데요.
ChatGPT에 대항하기 위해 많은 자원을 투입하고 있죠.
그럼 채용 공고를 같이 확인해 봅시다.
프롬프트 엔지니어를 구하는데, 연봉은 25만-33.5만 달러에 주식까지 준다고 하네요.
하는 일은요. 고품질의 프롬프트 라이브러리를 구축하고, 다양한 작업을 수행할 수 있는 프롬프트 체인을 구축하고, 고객에게 프롬프트 엔지니어링 기술을 가르치는 튜토리얼 및 대화형 도구 세트를 구축하는 겁니다.