Azure Functions에 대한 Azure OpenAI 의미 체계 검색 입력 바인딩

아티클
05/21/2024

Important

Azure Functions용 Azure OpenAI 확장은 현재 미리 보기 상태입니다.

Azure OpenAI 의미 체계 검색 입력 바인딩을 사용하면 포함에서 의미 체계 검색을 사용할 수 있습니다.

Azure OpenAI 확장의 설정 및 구성 세부 정보에 대한 자세한 내용은 Azure Functions용 Azure OpenAI 확장을 참조하세요. Azure AI 검색의 의미 체계 순위 지정에 대해 자세히 알아보려면 Azure AI 검색의 의미 체계 순위 지정을 참조하세요.

참고 항목

참조 및 예는 Node.js v4 모델에 대해서만 제공됩니다.

참고 항목

참조 및 예는 Python v2 모델에 대해서만 제공됩니다.

참고 항목

두 C# 프로세스 모델이 모두 지원되지만 격리된 작업자 모델 예제만 제공됩니다.

예시

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.


public class EmbeddingsStoreOutputResponse
{
    [EmbeddingsStoreOutput("{url}", InputType.Url, "AISearchEndpoint", "openai-index", Model = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%")]
    public required SearchableDocument SearchableDocument { get; init; }

    public IActionResult? HttpResponse { get; set; }
}

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

        return searchableDocument;
    }

}

@FunctionName("PromptFile")
public HttpResponseMessage promptFile(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.POST},
        authLevel = AuthorizationLevel.ANONYMOUS)
        HttpRequestMessage<SemanticSearchRequest> request,
    @SemanticSearch(name = "search", connectionName = "AISearchEndpoint", collection = "openai-index", query = "{prompt}", chatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%", embeddingsModel = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%" ) String semanticSearchContext,
    final ExecutionContext context) {
        String response = new JSONObject(semanticSearchContext).getString("Response");

예는 아직 제공되지 않습니다.

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

    type: 'embeddings',
    maxChunkLength: 512,
    model: '%EMBEDDING_MODEL_DEPLOYMENT_NAME%'
})

app.http('getEmbeddingsFilePath', {
    methods: ['POST'],
    route: 'embeddings-from-file',
    authLevel: 'function',
    extraInputs: [embeddingsFilePathInput],
    handler: async (request, context) => {
        let requestBody: EmbeddingsFilePath = await request.json();
        let response: any = context.extraInputs.get(embeddingsFilePathInput);

        context.log(
            `Received ${response.count} embedding(s) for input file ${requestBody.FilePath}.`
        );
        
        // TODO: Store the embeddings into a database or other storage.

이 예에서는 파일에 대해 의미 체계 검색을 수행하는 방법을 보여 줍니다.

파일 메시지를 표시하는 function.json 파일은 다음과 같습니다.

{
  "bindings": [
    {
      "authLevel": "function",
      "type": "httpTrigger",
      "direction": "in",
      "name": "Request",
      "methods": [
        "post"
      ]
    },
    {
      "type": "http",
      "direction": "out",
      "name": "Response"
    },
    {
      "name": "SemanticSearchInput",
      "type": "semanticSearch",
      "direction": "in",
      "connectionName": "AISearchEndpoint",
      "collection": "openai-index",
      "query": "{prompt}",
      "chatModel": "%CHAT_MODEL_DEPLOYMENT_NAME%",
      "embeddingsModel": "%EMBEDDING_MODEL_DEPLOYMENT_NAME%"
    }
  ]
}

function.json 파일 속성에 대한 자세한 내용은 구성 섹션을 참조하세요.

using namespace System.Net

param($Request, $TriggerMetadata, $SemanticSearchInput)

Push-OutputBinding -Name Response -Value ([HttpResponseContext]@{
        StatusCode = [HttpStatusCode]::OK
        Body       = $SemanticSearchInput.Response
    })

예는 아직 제공되지 않습니다.

특성

SemanticSearchInput 특성을 적용하여 다음 매개 변수를 지원하는 의미 체계 검색 입력 바인딩을 정의합니다.

매개 변수	설명
ConnectionName	연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션	검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
쿼리	쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
EmbeddingsModel	포함에 사용할 모델의 ID입니다. 기본값은 `text-embedding-3-small`입니다. 이 속성은 바인딩 식을 지원합니다.
ChatModel	채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 `gpt-3.5-turbo`입니다. 이 속성은 바인딩 식을 지원합니다.
SystemPrompt	선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 `Query`의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
MaxKnowledgeCount	선택 사항. `SystemPrompt`에 삽입할 지식 항목 수를 가져오거나 설정합니다.

주석

SemanticSearchInput 주석을 사용하면 다음 매개 변수를 지원하는 의미 체계 검색 입력 바인딩을 정의할 수 있습니다.

요소	설명
이름	입력 바인딩의 이름을 가져오거나 설정합니다.
connectionName	연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션	검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query	쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddingsModel	포함에 사용할 모델의 ID입니다. 기본값은 `text-embedding-3-small`입니다. 이 속성은 바인딩 식을 지원합니다.
chatModel	채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 `gpt-3.5-turbo`입니다. 이 속성은 바인딩 식을 지원합니다.
systemPrompt	선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 `Query`의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
maxKnowledgeCount	선택 사항. `SystemPrompt`에 삽입할 지식 항목 수를 가져오거나 설정합니다.

데코레이터

미리 보기 중에 입력 바인딩을 다음 매개 변수를 지원하는 semanticSearch 형식의 generic_input_binding 바인딩으로 정의합니다.

매개 변수	설명
arg_name	바인딩 매개 변수를 나타내는 변수의 이름입니다.
connection_name	연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션	검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query	쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddings_model	포함에 사용할 모델의 ID입니다. 기본값은 `text-embedding-3-small`입니다. 이 속성은 바인딩 식을 지원합니다.
chat_model	채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 `gpt-3.5-turbo`입니다. 이 속성은 바인딩 식을 지원합니다.
system_prompt	선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 `Query`의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
max_knowledge_count	선택 사항. `SystemPrompt`에 삽입할 지식 항목 수를 가져오거나 설정합니다.

구성

바인딩은 function.json 파일에 설정한 이러한 구성 속성을 지원합니다.

속성	설명
type	`semanticSearch`이어야 합니다.
direction	`in`이어야 합니다.
이름	입력 바인딩의 이름입니다.
connectionName	연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름을 가져오거나 설정합니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션	검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query	쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddingsModel	포함에 사용할 모델의 ID입니다. 기본값은 `text-embedding-3-small`입니다. 이 속성은 바인딩 식을 지원합니다.
chatModel	채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 `gpt-3.5-turbo`입니다. 이 속성은 바인딩 식을 지원합니다.
systemPrompt	선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 `Query`의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
maxKnowledgeCount	선택 사항. `SystemPrompt`에 삽입할 지식 항목 수를 가져오거나 설정합니다.

구성

바인딩은 코드에 정의된 다음 속성을 지원합니다.

속성	설명
connectionName	연결 문자열 값이 포함된 앱 설정 또는 환경 변수의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
컬렉션	검색할 컬렉션, 테이블 또는 인덱스의 이름입니다. 이 속성은 바인딩 식을 지원합니다.
query	쿼리에 사용할 의미 체계 쿼리 텍스트입니다. 이 속성은 바인딩 식을 지원합니다.
embeddingsModel	포함에 사용할 모델의 ID입니다. 기본값은 `text-embedding-3-small`입니다. 이 속성은 바인딩 식을 지원합니다.
chatModel	채팅 응답을 위해 호출할 대규모 언어 모델의 이름을 가져오거나 설정합니다. 기본값은 `gpt-3.5-turbo`입니다. 이 속성은 바인딩 식을 지원합니다.
systemPrompt	선택 사항. 대규모 언어 모델 프롬프트에 사용할 시스템 프롬프트를 가져오거나 설정합니다. 시스템 프롬프트에는 `Query`의 결과로 가져온 정보가 추가됩니다. 결합된 프롬프트는 OpenAI 채팅 API로 전송됩니다. 이 속성은 바인딩 식을 지원합니다.
maxKnowledgeCount	선택 사항. `SystemPrompt`에 삽입할 지식 항목 수를 가져오거나 설정합니다.

사용

전체 예제는 예제 섹션을 참조하세요.

다음을 통해 공유

Azure Functions에 대한 Azure OpenAI 의미 체계 검색 입력 바인딩

예시

특성

주석

데코레이터

구성

구성

사용

피드백

추가 리소스

다음을 통해 공유

Azure Functions에 대한 Azure OpenAI 의미 체계 검색 입력 바인딩

예시

특성

주석

데코레이터

구성

구성

사용

관련 콘텐츠

피드백

추가 리소스