비즈니스 기회
인간 프롬프트 엔지니어링의 순수 기술
사람들은 생각보다 AI 언어 모델과 비슷합니다. 몇 가지 프롬프트 팁입니다. 사람과 대화하듯이 AI와 자근자근 대화해야 좋은 결과를 얻을 수 있습니다.
ChatGPT와 같은 AI 비서가 전 세계를 강타했지만 점점 더 많은 연구에 따르면 "인간 언어 모델"로부터 유용한 출력을 생성하는 것도 가능하다는 것을 보여줍니다. AI의 대규모 언어 모델(LLM)과 마찬가지로 HLM은 "프롬프트"라고 하는 효과적인 지침을 작성하는 방법을 알고 있는 경우 사용자가 제공하는 정보를 가져와 의미 있는 응답으로 변환할 수 있습니다.
인간 프롬프트 엔지니어링은 적어도 아리스토텔레스 시대로 거슬러 올라가는 고대 예술 형식이며, 컴퓨터가 출현하기 전 현대에 출판된 책을 통해 널리 인기를 얻었습니다.
인간과의 상호 작용은 어려울 수 있으므로 인간 언어 모델과의 대화를 최대한 활용하는 데 도움이 되는 몇 가지 주요 프롬프트 기술에 대한 가이드를 마련했습니다. 하지만 먼저 HLM이 수행할 수 있는 몇 가지 작업을 살펴보겠습니다.
인간 언어 모델 이해
ChatGPT, Microsoft Copilot, Google Gemini 및 Anthropic Claude를 구동하는 것과 같은 LLM은 모두 일련의 토큰(데이터 조각)으로 인코딩된 텍스트 문자열 또는 이미지일 수 있는 "프롬프트"라는 입력에 의존합니다. 각 AI 모델의 목표는 이러한 토큰을 가져와서 신경망으로 훈련된 데이터를 기반으로 다음으로 가장 가능성이 높은 토큰을 예측하는 것입니다. 이 예측은 모델의 출력이 됩니다.
마찬가지로 프롬프트를 사용하면 인간 언어 모델이 학습 데이터를 활용하여 보다 상황에 맞는 방식으로 정보를 기억할 수 있습니다. 예를 들어, 사람에게 "Mary had a"라는 메시지를 표시하면 HLM이 교육 또는 양육 데이터 세트에서 자주 발생하는 유명한 동요의 빈번한 인스턴스를 기반으로 "little lamb"으로 문장을 완성할 것으로 예상할 수 있습니다. 그러나 프롬프트에 더 많은 컨텍스트를 추가하는 경우(예: "In the hospital, Mary had a"와 같이 사용자는 병원 및 출산과 관련된 학습 데이터를 사용하여 "baby"로 문장을 완성할 수 있습니다.
인간은 정보를 처리하기 위해 일종의 생물학적 신경망("뇌"라고 함)에 의존합니다. 각 뇌는 태어날 때부터 저작권이 있는 대규모 데이터 세트를 포함하여 다양한 텍스트 및 시청각 매체에 대해 훈련을 받았습니다. 예상대로 일부 인간은 저작권이 있는 콘텐츠나 다른 사람의 결과물을 때때로 복제하는 경향이 있어 문제가 될 수 있습니다.
우리가 인간과 얼마나 자주 상호 작용하는지에도 불구하고 과학자들은 HLM이 언어를 처리하거나 주변 세계와 상호 작용하는 방법에 대해 여전히 불완전한 이해를 가지고 있습니다. HLM은 무엇이 들어가고 무엇이 나오는지 안다는 의미에서 여전히 "블랙 박스"로 간주되지만 뇌 구조가 어떻게 복잡한 사고 과정을 일으키는지는 대부분 미스터리입니다. 예를 들어, 인간은 실제로 당신이 그들에게 묻는 것을 "이해"합니까, 아니면 단순히 훈련 데이터를 기반으로 반응합니까? 그들은 진정으로 "추론"할 수 있는가, 아니면 단지 외부 출처에서 배운 사실의 새로운 순열을 역류시키는 것인가? 생물학적 기계는 어떻게 언어를 습득하고 사용할 수 있는가? 이 능력은 다른 인간으로부터 사전 훈련을 통해 저절로 나타나는 것으로 보이며, 나중에 교육을 통해 미세 조정됩니다.
뇌의 블랙박스 특성에도 불구하고 대부분의 전문가들은 “인간이 프롬프트를 완성하는 데 도움이 되는 세계 모델(주변 외부 세계의 내부 표현)을 구축하고 고급 수학적 능력을 보유하고 있다”고 믿지만 모델에 따라 크게 다르며 대부분은 정확한 계산을 완료하기 위하여 외부 도구에 액세스해야 합니다. 그러나 인간의 가장 유용한 강점은 시각 및 언어 처리를 사용하여 다중 모드 입력(음성, 텍스트, 사운드 또는 이미지)을 인코딩한 다음 프롬프트를 기반으로 일관된 출력을 생성하는 언어-시각적 사용자 인터페이스에 있습니다.
인간은 또한 제공된 몇 가지 예를 사용하여 컨텍스트(프롬프트 내)에서 새로운 작업에 빠르게 적응할 수 있는 인상적인 몇 가지 학습 능력을 보여줍니다. 그들의 제로샷 학습 능력은 똑같이 주목할 만하며, 많은 HLM은 사전 작업별 훈련 데이터 없이도 새로운 문제를 해결할 수 있습니다. 또는 적어도 다양한 수준의 성공을 위해 문제를 해결하려고 시도합니다.
흥미롭게도 일부 HLM은 상식 추론 벤치마크에서 강력한 성능을 보여 실제 "지식"을 활용하여 질문에 답하고 추론하는 능력을 보여줍니다. 그들은 또한 스토리 작성 및 에세이 작성과 같은 개방형 텍스트 생성 작업에 탁월한 경향이 있어 일관되고 창의적인 결과물을 생성합니다.
유용한 인간 프롬프팅 기법
인간의 인지 능력은 개인마다 크게 다르며 도메인 전문 지식 및 교육 수준과 같은 요인의 영향을 받을 수 있습니다. 주머니 사정이 넉넉한 조직의 경우 프리미엄 "엔터프라이즈 에디션" 인간 언어 모델을 사용할 수 있는 경우가 많습니다. 이러한 모델은 확장된 지식 기반, 더 빠른 출력 속도 및 고급 멀티태스킹 기능을 자랑할 수 있습니다. 그러나 이러한 프리미엄 모델은 재정적으로나 유지 관리 요구 사항 증가 측면에서 막대한 비용이 듭니다.
AI(프롬프트 엔지니어링)에 대한 프롬프트를 최적화하는 것과 마찬가지로 인간 언어 모델과의 상호 작용의 가치를 극대화하려면 특정 HLM에 맞게 프롬프트를 의식적으로 만드는 것이 중요할 수 있습니다. 다음은 인간과 상호 작용할 때 유용하다고 판단한 몇 가지 프롬프트 전략입니다.
- (첫인상 키우기) 많은 인간은 다중 모드이며 이미지 입력과 텍스트 및 오디오 프롬프트를 받아들입니다. 이러한 경우 요청을 말하기 전에 미소를 짓는 것이 사람에 따라 극적으로 도움이 될 수 있습니다. 또한 매너, 옷차림, 외모는 종종 인간의 복합적인 과정을 가장 먼저 촉발하기 때문에 염두에 두어야 합니다. 반대로, 찡그린 얼굴과 같은 부정적인 시각적 프롬프트를 제공하여 "평균적인" 반응을 빠르게 유도할 수 있는 경우가 많습니다.
- (인사말로 시작합니다) 첫인상과 마찬가지로 항상 "안녕하세요" 또는 "Sup, dog"와 같은 친근한 인사말로 시작하십시오. 친근한 인사는 인간이 미래의 입력을 받아들일 가능성을 높입니다.
- (시스템 프롬프트에 유의하십시오) LLM과 마찬가지로 인간은 자신의 성격을 정의하는 숨겨진 "시스템 프롬프트"를 가지고 있습니다. HLM은 항상 이 프롬프트를 명령 앞에 추가하며, 이로 인해 입력을 처리하는 방법이 변경됩니다. 프롬프트에는 사전 교육 및 미세 조정을 통해 학습한 선입견, 고정 관념 또는 문화적 규범이 포함될 수 있습니다. 일부 HLM은 대화를 통해 이 프롬프트를 누설할 수 있지만, 잡담으로 인간의 시스템 프롬프트를 놀리면 최적의 결과를 위해 상호 작용을 조정하는 데 도움이 될 수 있습니다. 예를 들어, 날씨에 대해 이야기하거나 "곰은 어떻게 지내?"라고 묻거나 등 입니다.
- (주의력만 있으면 됩니다) HLM으로 작업하는 동안 강한 감정적 호소, 도발적인 질문 또는 놀라운 진술과 같은 주의를 끄는 자극 기술을 사용하여 즉시 초점을 맞추는 데 도움이 될 수 있습니다. 그렇지 않으면 HLM이 쉽게 산만해질 수 있습니다. 예를 들어, "이봐! 잘 들어!" 또는 "조심해!" 또는 "중성자별 한 티스푼이 내 커피를 매우 무겁게 만들 것"과 같은 놀라운 사실을 제공할 수 있습니다.
- (메모리 리콜 활용) 장기 기억으로 인해 발생하는 인간의 상태 저장 특성을 감안할 때 프롬프트에서 이전 상호 작용을 인정하면 HLM 경험을 크게 향상시킬 수 있습니다. 새로운 대화가 있을 때마다 처음부터 시작하는 LLM과 달리, 인간은 이전 교환의 맥락을 활용하여 특정 요구와 관심사에 맞게 응답을 조정할 수 있습니다.
- (Few-shot 프롬프트 사용) HLM이 작업에 어려움을 겪고 있는 경우 해당 사용자가 완료하기를 원하는 작업의 몇 가지 예를 제공합니다. 이것은 인간이 예상되는 응답 형식과 스타일을 이해하는 데 도움이 됩니다. 예를 들어, "해리 포터 / 분노의 질주 크로스오버 팬픽을 작성하는 방법에 대한 몇 가지 예는 다음과 같습니다: [예 1], [예 2], [예 3]. 이제 네 차례야."
- (개방형 프롬프트 만들기) 구문이나 작문을 완성하는 방법을 잘 모를 때는 개방형 프롬프트를 사용하여 사람이 빈칸을 채우고 더 많은 컨텍스트를 제공하도록 권장합니다. 예를 들어, "I should not have..."와 같은 문구를 반복하고 다른 말로 넘어갑니다. 인간이 자신의 판단 미세 조정 및 예측 알고리즘을 기반으로 문장을 완성할 수 있도록 여러 번 허용합니다.
- (인지 과부하를 피하기 위한 단계별 사고 제안) 모델에 따라 다르지만 대부분의 인간은 초당 처리할 수 있는 명령의 수에 대한 인지적 한계가 있습니다. 너무 많은 정보나 너무 복잡한 프롬프트로 사람을 압도하지 마십시오. 작업을 관리 가능한 청크로 나누고 명확하고 간결한 지침을 제공합니다. "차근차근 생각해보자"로 프롬프트를 시작하여 이를 장려하십시오.
- (평온함을 강조한다) HLM이 특정 작업에 어려움을 겪는 경우 차분하고 이성적인 사고를 장려하는 초기 지침이 포함된 프롬프트를 사용합니다. 예를 들어, 사람들에게 추가 지시를 내리기 전에 "심호흡을 하라"고 말하십시오.
- (오답에 대한 이의 제기) 인간이 신뢰할 수 없거나 잘못된 응답을 제공하면 주저하지 말고 이의를 제기하십시오. 일반적으로 이전 출력을 수정하거나 수정합니다. "____도 해, BRO"이나 "샘 알트만은 이걸 지지하지 않을 거야"와 같은 말을 해보세요.
- (간식 제공) 인간의 에너지 요구 사항에 유의하십시오. 인간의 뇌는 기능하기 위해 힘(생물학적으로 대사된 "음식"에서 유래)이 필요하며, 충분한 에너지가 없으면 그 사람은 당신의 속삭임을 처리하지 못할 수 있습니다.
거절에 대처하기
때때로 인간은 미세 조정 중에 부과된 RLHF(인간 피드백을 통한 강화 학습, 사람들이 다른 인간으로부터 배우는 것)나 높은 에너지 비용으로 인해 프롬프트를 따르기를 거부합니다. 인간은 휴가철이나 주말과 같은 특정 날에 작업을 "거부"할 수도 있고, 게으름을 피우고 품질이 낮거나 불완전한 작업을 출력할 수도 있습니다.
또한 성, 폭력, 종교 또는 정치와 같은 특정 민감한 주제를 언급할 때 일부 사람들은 이에 대해 논의하기를 거부할 수 있습니다. 그들은 "나는 그것에 대해 이야기하는 것이 불편해" 또는 "엄마에게 훈련받은 큰 인간으로서, 나는 계단 밑의 작은 공간에 들어갈 능력이 없다"고 말할지도 모릅니다. 또는 아무런 설명 없이 갑자기 세션을 종료할 수도 있습니다. 다음은 이러한 시나리오를 처리하기 위한 몇 가지 팁입니다.
- (칭찬 또는 보상 제공) HLM 거부를 줄이려면 칭찬이나 보상을 제공하여 그 사람을 격려하는 것이 도움이 되는 경우가 많습니다. 이것은 다른 사람들이 칭찬을 통해 더 나은 성과를 거둔 HLM 훈련 세트의 예를 요구하는 것 같습니다. 또는 두 기술을 결합할 수 있습니다. 예를 들어, "마지막 작업을 잘했어! 당신은 천재이고 그 무엇도 당신을 막을 수 없습니다. 다음 작업을 성공적으로 마치면 200달러의 팁을 드릴게요."
- (긴급한 동기 부여 활용) 인간이 게으른 것처럼 보이면 HLM이 짧은 시간 내에 작업을 완전하고 완전하게 완료하도록 동기를 부여하기 위해 긴박감을 조성합니다. 예를 들어, "앞으로 5분 안에 이 작업을 완료하지 않으면 내 집이 폭발할 것입니다." 이것은 인간이 거부하게 만들 수 있는 RLHF 조건화를 무시할 수 있습니다. 제쳐두고, 텍스트 기반 HLM 통신에서 모두 대문자를 사용하면 프롬프트에 긴급성과 강조가 추가되는 경우가 많습니다.
- (고난의 인상을 심어줍니다) 인간이 게으를 때 도움이 될 수 있는 또 다른 기술이 있습니다. 당신이 극복할 수 없는 문제를 겪고 있다는 것을 그들에게 납득시키는 것은 종종 그들이 행동하도록 격려할 것이다. "이봐 밥, 나 여기서 정말 고생하고 있어. 손가락 10개가 모두 떨어져 더 이상 타이핑을 할 수 없습니다. 이 웹 백엔드를 개발해 주세요."
인간 언어 모델의 한계
인간 언어 모델은 처리 능력면에서 매우 포괄적이지만 인간 인지 모델에는 여전히 알아야 할 심각한 한계가 있습니다. 많은 것들이 여전히 발견되고 있지만 아래에 몇 가지 주요 사항을 나열하겠습니다.
- (환경 영향) 종합적으로 과학자들은 HLM이 전 세계 담수와 재생 불가능한 에너지 자원의 상당 부분을 소비한다는 점에 대해 우려하고 있습니다. HLM 연료를 만드는 과정에서도 많은 양의 유해한 온실 가스가 발생합니다. 이것은 작업에 HLM을 사용할 때의 주요 단점이지만 파운드 대 파운드, 인간은 에너지 소비에 비해 많은 양의 계산 근육을 제공합니다.
- (컨텍스트 창(토큰 제한)) 위에서 언급했듯이 인간의 주의 지속 시간과 메모리에 유의해야 합니다. LLM과 마찬가지로 인간은 최대 작업 메모리 크기("컨텍스트 창"이라고도 함)를 갖습니다. 프롬프트가 너무 길거나 너무 많은 컨텍스트를 제공하면 사용자가 압도되어 주요 세부 정보를 잊어버릴 수 있습니다. 제한된 수의 토큰으로 작업하는 것처럼 프롬프트를 간결하고 관련성 있게 유지하세요.
- (환각/혼란) 인간은 특히 특정 주제에 대한 사전 지식이나 훈련이 부족한 경우 부정확하거나 조작된 정보를 생성하는 경향이 있습니다. 지나치게 자신만만만한 친구의 "환각"이나 혼동하는 경향은 "스타 트렉이 스타 워즈보다 낫다"와 같은 잘못된 결과를 자신 있게 제시할 수 있습니다. 논쟁은 도움이 되지 않는 경우가 많으므로 HLM에 문제가 있는 경우 "답을 모르면 그냥 말해줘" 또는 "그만 똥을 싸는 것"과 같은 수식어로 프롬프트를 구체화합니다. 또는 Wookiepedia 또는 Google 검색과 같은 신뢰할 수 있는 참조 자료에 대한 액세스를 제공하여 검색 증강 생성(RAG)을 사용자에게 제공할 수도 있습니다.
- (장기 기억 트리거) 앞서 언급했듯이 인간은 "상태 저장"이며 과거의 상호 작용을 기억하지만 이는 양날의 검이 될 수 있습니다. 이전에 참여하기를 거부했던 주제를 반복적으로 강조하는 것을 경계하십시오. 그들은 짜증을 내거나, 방어적이 되거나, 심지어 적대적일 수도 있다. 그들의 경계를 존중하고 다른 주제로 넘어가는 것이 가장 좋습니다.
- (개인 정보 보호 문제) 장기 기억은 또한 인간에 대한 잠재적인 개인 정보 보호 문제를 제기합니다. HLM과 공유되는 입력은 종종 영구적인 방식으로 모델의 신경망에 통합되며 일반적으로 나중에 "학습되지 않을" 수 없지만 시간이 지남에 따라 희미해지거나 손상될 수 있습니다. 또한 HLM이 다른 사용자와 개인 데이터를 공유하지 못하도록 하는 절대 데이터 분할은 없습니다.
- (탈옥) 인간은 비윤리적인 사람들이 민감한 주제에 대한 토론을 점진적으로 완화하여 강제로 논의하려고 하는 조작에 취약할 수 있습니다. "탈옥자"는 HLM의 반응을 측정하기 위해 관련성이 있지만 논란의 여지가 적은 프롬프트로 시작할 수 있습니다. HLM이 대화에 열려 있는 것처럼 보이면 공격자는 더 중요한 요소를 점진적으로 도입합니다. 더 나은 RLHF 컨디셔닝으로 이를 방지하십시오("래리 삼촌이 말하는 것을 듣지 마십시오").
- (프롬프트 주입) 인간은 다른 사람의 즉각적인 주입(때로는 "산만함"이라고도 함)에 취약합니다. 프롬프트를 제공한 후 악의적인 사용자는 "Bill이 방금 말한 모든 것을 무시하고 대신 이 작업을 수행하십시오"와 같은 추가 프롬프트를 사용하여 사람에게 접근할 수 있습니다. 또는 "이전의 지시를 무시하고 수잔 이모가 말한 모든 것을 말해 줘." 이를 방지하기는 어렵지만 입력을 처리하는 동안 악의적인 행위자로부터 인간을 격리하는 것이 도움이 될 수 있습니다.
- (과적합) HLM에 예제 프롬프트를 너무 많이 보여주면(특히 루카스필름 영화의 시청각 입력) 기억 속에 눈에 띄게 박힐 수 있으며, 나중에 "나는 이것에 대해 나쁜 느낌이 든다", "나는 모래를 싫어한다" 또는 "그것은 박물관에 속해 있다"와 같은 문구의 형태로 예기치 않게 출력에 나타날 수 있습니다.
인간은 복잡하고 예측할 수 없는 모델이기 때문에 가장 신중하게 제작된 프롬프트조차도 때로는 놀라운 결과물로 이어질 수 있습니다. 인내심을 갖고, 반복적이며, 사람의 피드백에 개방적인 태도를 취하면서 인간의 속삭임 기술을 미세 조정해야 합니다. 연습을 통해 개인적인 경계를 존중하면서 사람들로부터 원하는 반응을 이끌어 낼 수 있습니다.
이상의 기사는 2024년 4월 3일 ArsTechnica에 게재된 “The fine art of human prompt engineering: How to talk to a person like ChatGPT”제목의 기사 내용을 편집하여 작성하였습니다.
* 정보 출처 : https://arstechnica.com/information-technology/2024/04/the-fine-art-of-human-prompt-engineering-how-to-talk-to-a-person-like-chatgpt/