비즈니스 기회
구글의 ‘Prompt Poet’을 만나다
이미지 크레디트: 로지텍
인공 지능 시대에 프롬프트 엔지니어링은 대규모 언어 모델(LLM)의 잠재력을 최대한 활용하기 위한 중요한 새로운 기술입니다.
이것은 ChatGPT와 같은 AI 모델에서 관련성 있고 유용한 출력을 추출하기 위해 복잡한 입력을 만드는 기술입니다. 많은 LLM이 기술에 익숙하지 않은 사용자에게 친숙하고 자연스러운 대화 프롬프트에 잘 응답하도록 설계되었지만, 고급 프롬프트 엔지니어링 기술은 또 다른 강력한 제어 수준을 제공합니다. 이러한 기술은 개별 사용자에게 유용하며 정교한 AI 기반 애플리케이션을 구축하려는 개발자에게 절대적으로 중요합니다.
게임 체인저 : Prompt Poet
‘Prompt Poet’은 최근 구글(Google)이 인수한 맞춤형 대화형 AI를 위한 플랫폼이자 메이커스페이스인 Character.ai에서 개발한 획기적인 도구입니다. Prompt Poet은 Gemini와 같은 Google의 AI 프로젝트 전반에 걸쳐 프롬프트 컨텍스트 관리의 미래 방향을 살펴볼 수 있는 기회를 제공할 수 있습니다.
Prompt Poet은 몇 가지 주요 이점을 제공하며 단순성과 초점에서 Langchain과 같은 다른 프레임워크와 차별화됩니다.
- 로우 코드 접근 방식: 코드 집약적인 프레임워크와 달리 기술 사용자와 비기술 사용자 모두를 위한 프롬프트 디자인을 단순화합니다.
- 템플릿 유연성: YAML 및 Jinja2를 사용하여 복잡한 프롬프트 구조를 지원합니다.
- 컨텍스트 관리: 외부 데이터를 원활하게 통합하여 보다 동적이고 데이터가 풍부한 프롬프트 생성 프로세스를 제공합니다.
- 효율성: 문자열 조작 엔지니어링에 소요되는 시간을 줄여 사용자가 최적의 프롬프트 텍스트를 작성하는 데 집중할 수 있도록 합니다.
이 기사는 프롬프트 엔지니어링에서 컨텍스트의 중요한 개념, 특히 지침 및 데이터의 구성 요소에 중점을 둡니다. Prompt Poet이 어떻게 데이터가 풍부한 동적 프롬프트 생성을 간소화하여 LLM 애플리케이션의 효율성을 높일 수 있는지 살펴보겠습니다.
컨텍스트의 중요성: 지침 및 데이터
LLM 애플리케이션을 커스터마이징하는 것은 종종 어떻게 동작하는지에 대한 자세한 지침을 제공하는 것을 포함합니다. 이것은 성격 유형, 특정 상황을 정의하거나 역사적 인물을 모방하는 것을 의미할 수 있습니다.
챗봇과 같은 LLM 애플리케이션을 커스터마이징한다는 것은 종종 작동 방법에 대한 구체적인 지침을 제공하는 것을 의미합니다. 이것은 특정 유형의 성격 유형, 상황 또는 역할 또는 특정 역사적 또는 가상의 인물을 설명하는 것을 의미할 수 있습니다. 예를 들어, 도덕적 딜레마에 대한 도움을 요청할 때 모델에게 특정 사람의 스타일로 답변하도록 요청할 수 있으며, 이는 귀하가 받는 답변 유형에 큰 영향을 미칩니다. 다음 프롬프트를 변형하여 세부 정보(예: 선택한 사람)가 얼마나 중요한지 확인합니다.
Simulate a panel discussion with the philosophers Aristotle, Karl Marx, and Peter Singer. Each should provide individual advice, comment on each other's responses, and conclude. Suppose they are very hungry.
The question: The pizza place gave us an extra pie, should I tell them or should we keep it?
세부 사항이 중요합니다.
효과적인 프롬프트 엔지니어링에는 구체적이고 맞춤화된 데이터 컨텍스트를 만드는 작업도 포함됩니다. 이는 개인 사용자 데이터, 실시간 정보 또는 전문 지식과 같은 관련 사실을 모델에 제공하는 것을 의미하며, 그렇지 않으면 액세스할 수 없습니다. 이 접근 방식을 통해 AI는 정보가 없는 일반 모델에서 가능한 것보다 사용자의 특정 상황에 훨씬 더 관련성이 높은 출력을 생성할 수 있습니다.
Prompt Templating을 통한 효율적인 데이터 관리
ChatGPT에 데이터를 입력하기만 하면 수동으로 로드할 수 있습니다. 일부 소프트웨어를 설치하는 방법에 대한 조언을 구하는 경우 하드웨어에 대해 알려야 합니다. 완벽한 이력서 작성에 도움을 요청하면 먼저 귀하의 기술과 경력 기록을 알려야 합니다. 그러나 개인적인 용도로는 괜찮지만 개발에는 작동하지 않습니다. 개인적인 용도로도 각 상호 작용에 대한 데이터를 수동으로 입력하는 것은 지루하고 오류가 발생하기 쉽습니다.
여기에서 프롬프트 템플릿이 작동합니다. Prompt Poet은 YAML과 Jinja2를 사용하여 유연하고 역동적인 프롬프트를 생성하여 LLM 상호 작용을 크게 향상시킵니다.
예: 일일 플래너
Prompt Poet의 기능을 설명하기 위해 실시간 데이터를 기반으로 사용자에게 예정된 이벤트를 상기시키고 하루를 준비하는 데 도움이 되는 컨텍스트 정보를 제공하는 일일 계획 도우미라는 간단한 예제를 통해 작업해 보겠습니다.
예를 들어 다음과 같은 출력을 원할 수 있습니다.
Good morning! It looks like you have virtual meetings in the morning and an afternoon hike planned. Don't forget water and sunscreen for your hike since it's sunny outside.
Here are your schedule and current conditions for today:
- **09:00 AM:** Virtual meeting with the marketing team
- **11:00 AM:** One-on-one with the project manager
- **07:00 PM:** Afternoon hike at Discovery Park with friends
It's currently 65°F and sunny. Expect good conditions for your hike. Be aware of a bridge closure on I-90, which might cause delays.
이를 위해서는 모델에 적어도 두 가지 컨텍스트, 즉 1) 작업에 대한 사용자 지정 지침, 2) 사용자 상호 작용의 실제 컨텍스트를 정의하는 데 필요한 데이터를 제공해야 합니다.
Prompt Poet은 이 컨텍스트를 처리하기 위한 몇 가지 강력한 도구를 제공합니다. 지침의 일반적인 형식을 저장할 템플릿을 만들고 쿼리를 실행하려는 시점에 특정 데이터로 채우는 것으로 시작하겠습니다. 위의 예에서 다음 Python 코드를 사용하여 'raw_template'를 만들고 'template_data'를 채우는 데 사용할 수 있으며, 이는 Prompt Poet 'Prompt' 개체의 구성 요소입니다.
아래 코드는 Prompt Poet의 'Prompt' 클래스를 사용하여 여러 데이터 소스의 데이터를 템플릿에 채워 하나의 일관된 프롬프트를 형성합니다. 이를 통해 일일 계획 도우미를 호출하여 개인화된 상황 인식 응답을 제공할 수 있습니다. 이 모델은 날씨 데이터, 교통 업데이트, AQI 정보 및 캘린더 이벤트를 가져옴으로써 자세한 요약 및 미리 알림을 제공하여 사용자 경험을 향상시킬 수 있습니다.
전체 작업 코드 예제를 복제하고 실험할 수 있으며, 이는 작은 훈련 예제 세트로 모델을 제시하는 것과 관련된 강력한 프롬프트 엔지니어링 기술인 few-shot 학습도 구현합니다.
결론
프롬프트 엔지니어링의 기초, 특히 명령어 및 데이터의 역할을 마스터하는 것은 LLM의 잠재력을 극대화하는 데 매우 중요합니다. Prompt Poet은 이 분야에서 강력한 도구로 두각을 나타내며 동적이고 데이터가 풍부한 프롬프트를 생성하기 위한 간소화된 접근 방식을 제공합니다.
Prompt Poet의 로우 코드, 유연한 템플릿 시스템을 통해 프롬프트 디자인을 액세스 가능하고 효율적으로 만들 수 있습니다. LLM의 훈련에 사용할 수 없는 외부 데이터 소스를 통합함으로써 데이터 채워진 프롬프트 템플릿은 AI 응답이 정확하고 사용자에게 관련성이 있는지 더 잘 보장할 수 있습니다.
Prompt Poet과 같은 도구를 사용하여 프롬프트 엔지니어링 기술을 향상시키고 다양한 사용자 요구 사항을 정밀하게 충족하는 혁신적인 AI 애플리케이션을 개발할 수 있습니다. AI가 계속 발전함에 따라 최신 프롬프트 엔지니어링 기술에 능숙한 상태를 유지하는 것이 필수적입니다.
이상의 기사는 2024년 8월 8일 VentureBeat에 게재된 “Meet Prompt Poet: The Google-acquired tool revolutionizing LLM prompt engineering”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Meet Prompt Poet: The Google-acquired tool revolutionizing LLM prompt engineering | VentureBeat