메타프롬프트 만들기
메타프롬프트 또는 시스템 메시지는 AI 시스템의 동작을 안내하는 데 사용되는 자연어 지침 집합입니다(이 지침만 사용해야 함). 좋은 메타프롬프트는 "사용자가 대량의 콘텐츠를 요청하는 경우 해당 검색 결과의 요약만 반환"이라고 명시해야 합니다. 그러한 지침이 없고 사용자가 AI에게 특정 작성자의 모든 콘텐츠를 검색해 달라고 요청한 경우 AI 모델은 모든 원시 텍스트를 검색할 수 있습니다. 예를 들어, AI가 학습을 받은 저작권이 있는 책의 전체 콘텐츠를 말하는 것이지 해당 정보의 요약을 말하는 것은 아닙니다. 메타프롬프트 디자인은 모든 생성형 AI 애플리케이션에 필수적입니다.
Microsoft의 내부 연구에 따르면 효과적인 메타프롬프트를 만들면 결함/보안 문제의 위험을 줄일 수 있는 것으로 나타났습니다.
메타프롬프트를 사용하면 모델이 그라운딩 데이터를 효과적으로 사용하고 유해한 콘텐츠 생성이나 탈옥 또는 프롬프트 주입과 같은 사용자 조작을 완화하는 규칙을 적용할 수 있습니다. Microsoft는 업계와 Microsoft 연구의 최신 모범 사례를 활용하여 프롬프트 엔지니어링 지침과 메타프롬프트 템플릿을 지속적으로 업데이트합니다.