콘텐츠로 이동

LLM 구성 목록¶

GET /api/v1/llm_cfg/list

개요¶

현재 워크스페이스의 LLM 애플리케이션 구성을 조회하며, 페이징, 필터링 및 통계 메트릭 집계를 지원합니다.

Query 요청 파라미터¶

파라미터명	유형	필수	설명
search	string		애플리케이션 이름으로 검색 허용: False
type	string		애플리케이션 유형, 현재는 `Langfuse`만 지원 허용: False 선택 값: ['Langfuse']
pageIndex	int		페이지 번호 허용: False $default: 1
pageSize	int		페이지당 항목 수 (최대 100) 허용: False $default: 20
timeRange	array		통계 정보 시간 범위(밀리초 타임스탬프 배열); 전달하지 않으면 기본 최근 24시간, 예: `[1711900800000,1711987200000]` 허용: False

매개변수 추가 설명¶

API 설명¶

현재 워크스페이스의 LLM 애플리케이션 구성 목록을 반환하며, 페이징, 필터링 및 통계 메트릭 집계를 지원합니다.

`quick_list`와의 차이점¶

이 API는 페이징을 지원합니다.
이 API는 clientToken을 반환합니다.
이 API는 ifTokenExpired를 반환합니다.
이 API는 LLM 호출 통계 정보를 통합합니다.

통계 정보 필드¶

필드	설명
`statisticalInfo.callCount`	호출 횟수
`statisticalInfo.errorCount`	오류 횟수
`statisticalInfo.tokensCount`	토큰 총량
`statisticalInfo.p50`	요청 지연 시간 p50
`statisticalInfo.p75`	요청 지연 시간 p75

시간 범위 설명¶

timeRange를 사용하여 통계 조회 시간 범위를 지정할 수 있으며, 형식은 밀리초 타임스탬프 배열 [start, end]입니다.
전달하지 않으면 기본 최근 24시간으로 설정됩니다.
통계 서비스를 일시적으로 사용할 수 없는 경우에도 API는 구성 목록을 반환하지만, 통계 필드는 비어 있을 수 있습니다.

필터 규칙¶

search는 jsonContent.name을 기준으로 검색합니다.
type은 jsonContent.type을 기준으로 정확히 필터링합니다.

요청 예시¶

curl 'https://openapi.guance.com/api/v1/llm_cfg/list?pageIndex=1&pageSize=20&type=Langfuse' \
  -H 'Content-Type: application/json' \
  -H 'DF-API-KEY: <DF-API-KEY>' \
  --compressed

응답¶

{
    "code": 200,
    "content": {
        "data": [
            {
                "appId": "llm_app_demo",
                "jsonContent": {
                    "name": "Langfuse Prod",
                    "type": "Langfuse",
                    "site": "https://cloud.langfuse.com",
                    "extend": {
                        "service": "prod"
                    }
                },
                "uuid": "llm_app_demo",
                "workspaceUUID": "wksp_xxxx32",
                "clientToken": "token_xxx",
                "ifTokenExpired": false,
                "statisticalInfo": {
                    "callCount": 12,
                    "errorCount": 0,
                    "tokensCount": 456,
                    "p50": 10,
                    "p75": 15
                }
            }
        ],
        "pageInfo": {
            "count": 1,
            "pageIndex": 1,
            "pageSize": 20,
            "total": 1
        }
    },
    "errorCode": "",
    "message": "",
    "success": true,
    "traceId": "TRACE-68EEEB4A-9ABC-4DDB-A72B-40F07F2699A5"
}