챗gpt 모델 (GPT-3, Codex) 및 주요 파라미터 (챗gpt 사용법, 프롬프트 엔지니어링)
by 아지니어 (아빠 + 엔지니어)2023. 2. 28.
챗gpt 모델 (GPT-3, Codex)및 주요 파라미터 (챗gpt 사용법, 프롬프트 엔지니어링)
안녕하세요.
이번 포스팅에서는 챗gpt에서 사용되는 모델 및 관련 주요 파라미터에 대해 공유드리고 이러한 사항들을 직접 테스트해 보실 수 있는 방법에 대해 공유드리고자 합니다.
챗gpt 모델 (GPT-3, Codex) 주요 파라미터 (챗gpt 사용법)
챗gpt 모델? 어떤 게 있나요? 동작원리는요?
챗gpt 모델 (GPT-3, Codex), 프롬프트 엔지니어링
우선 챗gpt는 openAI에서 개발한 API 중 하나로, 우리는 openAI에서 지원해 주는 API를 통해 채팅이라는 형태로 인공지능과 대화를 할 수 있는 것입니다.
잘 아시는 것처럼 챗gpt가 지원하는 큰 서비스 중 하나는 일반 자연어처리를 통한 다양한 completion 작업이며 또 다른 하나는 소프트웨어 코드를 분석 또는 생성하는 것이라 할 수 있습니다.
그리고 이러한 서비스를 가능케 하도록 사용된 모델이 바로 GPT-3와 Codex라는 모델입니다.
따라서 챗gpt는 사용자의 프롬프트에 따라 GPT-3와 Codex 모델을 적절히 사용하여 사용자에게 답변을 제공하는 것이며 이러한 모델을 제대로 이해한다면 챗gpt를 통해 프롬프트 엔지니어링을 진행함에 있어 보다 효율적일 수 있어 챗gpt 사용법 중 어쩌면 가장 중요한 부분이라 할 수 있을 듯합니다.
GPT-3와 Codex에 대해 조금 더 자세히 살펴보면 GPT-3는 Generative Pre-trained Transformer 3의 약자로 OpenAI에서 개발한 대규모 언어 모델을 의미하며, Codex는 OpenAI에서 개발한 소프트웨어 자동 생성 모델을 지칭합니다.
1) GPT-3
- 텍스트 생성, 번역, 요약 등 다양한 자연어 처리 (NLP) 작업을 수행할 수 있는 능력을 갖추고 있으며 인간과 대화하는 챗봇 등 인공지능(AI) 응용 프로그램에서도 사용될 수 있습니다.
- GPT-3는 대규모 데이터셋에서 학습된 Transformer 아키텍처를 사용하여 자연어 처리 작업을 수행하며 이 모델은 입력된 텍스트를 이해하고, 문맥을 파악하여 이어지는 단어나 문장을 예측할 수 있습니다.
2) Codex
- Codex는 기존 소프트웨어 코드를 분석하고, 이를 기반으로 새로운 소프트웨어 코드를 생성하는 능력을 가지고 있으며 이를 통해 개발자가 보다 쉽고 빠르게 코드를 작성할 수 있도록 도와줄 수 있습니다.
- 대규모 코드베이스에서 학습된 인공신경망을 사용하여 소프트웨어 코드를 생성하기에 주어진 요구사항에 맞게 적절한 코드 생성을 위해 코드베이스를 분석할 수 있으며 이를 이해하고 생성하는 능력을 가지고 있습니다.
챗gpt에서 지원하는 파리미터의 수는 어떤 API에 대해 이야기하느냐에 따라 답변이 천차만별일 수 있는데, 해당 포스팅에서는 챗gpt 사용법의 일환으로 챗gpt를 통해 프롬프트 엔지니어링 진행 시 해당 답변의 다양성을 결정짓는 중요한 파라미터에 대해 소개해 드리려 합니다.
이는 Temperature라는 파라미터로 해당 파라미터를 변경하면 사용자의 질문에 대한 답변이 일괄적이지 않고 매우 다양하게 제공되기에 보다 창의적인 프롬프트 엔지니어링을 하시는 분들에게는 반드시 알아야 할 사항이라 할 수 있습니다.
Temerature 파라미터는 0에서 1의 값을 가지며, 높은 값은 더욱 창의적인 결과를 생성하고 낮은 값은 예측 가능한 또는 동일한 결과를 생성하도록 지원됩니다.
아래 그림을 참조하시면 playground에서 챗gpt 모델 아래 부분에 temperature 파라미터를 변경할 수 있는 곳이 있는데, 여기를 통해 해당 값을 변경해 주시면 스스로 해당 결과를 테스트해 보실 수 있습니다.
챗gpt 파라미터, temperature, source: openai.com
아래는 제가 temperature 값을 변경하여 임의로 진행한 결과입니다.
1) Temperature를 0으로 설정한 경우에는 '삶이 무엇일까'라는 2번의 질문에 동일한 답변을 제공하는 것을 확인할 수 있습니다.
챗gpt 사용법, 파라미터, temperature, source: openai.com
2) 두번째 사례에서는 Temperature를 0.75로 설정했으며 이 경우에는 '삶이 무엇일까'라는 2번의 질문에 서로 상이한 답변을 제공하는 것을 확인할 수 있습니다.
챗gpt 사용법, 파라미터, temperature, source: openai.com
오늘은 챗gpt 사용법 중 가장 중요한 부분이라고 개인적으로 판단되는 챗gpt 모델에 대한 간단한 이해와 temperature라는 주요 파라미터에 대해 함께 알아보았습니다.
개인적인 판단으로는 프롬프트 엔지니어링은 향후에도 지속적으로 요구되어지는 스킬 중 하나로 여겨질 것이며 올바르고 효과적인 프롬프트 엔지니어링을 위해서는 사용하는 ai 모델의 특징에 대해 보다 깊은 이해가 선행되어야 할 것으로 보여집니다.
댓글