SSE 디버깅

Server-Sent Events(SSE)는 HTTP 프로토콜을 기반으로 구축된 실시간 통신 기술로, 서버가 지속적인 단방향 연결을 통해 클라이언트에 업데이트를 푸시할 수 있도록 합니다. SSE는 AI 모델 응답 스트리밍, 실시간 알림, 실시간 데이터 피드에 일반적으로 사용됩니다.

SSE를 사용하면 사용자는 서버에서 스트리밍되는 추론 모델의 사고 과정과 생성된 콘텐츠를 즉시 확인할 수 있습니다.

사전 요구 사항

Apidog 버전 2.3.10 이상

Content-Type: text/event-stream을 반환하는 HTTP 엔드포인트

SSE 연결 시작하기

새 엔드포인트 생성

Apidog에서 새 HTTP 프로젝트를 생성하고, 새 엔드포인트를 추가한 다음, AI 모델의 엔드포인트 또는 SSE 서버 URL을 입력하십시오.

요청 보내기

요청을 보낸 후 응답 헤더 Content-Type에 text/event-stream이 포함되어 있으면, Apidog는 반환된 데이터를 SSE 이벤트로 자동 파싱합니다.

실시간 응답 보기

응답 패널의 Timeline 보기에서 실시간 메시지를 확인하십시오. 콘텐츠는 자연어 형식으로 표시됩니다.

메시지 자동 병합

버전 요구 사항

자동 병합 기능을 사용하려면 Apidog 버전 2.7.14 이상이 필요합니다.

Apidog는 널리 사용되는 AI 모델에 대한 기본 지원을 포함하며, 다음 형식의 스트리밍 응답을 자동으로 인식하고 병합합니다.

형식	설명
OpenAI API Compatible	대다수의 AI 모델 제공업체에서 사용됩니다.
Gemini API Compatible	Google의 Gemini 모델 형식입니다.
Claude API Compatible	Anthropic의 Claude 모델 형식입니다.
Ollama API Compatible	로컬에 배포된 AI 모델을 위한 JSON Streaming(NDJSON) 형식입니다.

AI 모델의 응답이 이러한 형식 중 하나와 일치하면, Apidog는 메시지 조각을 완전한 답변으로 자동 병합하며, 콘텐츠는 Markdown 형식으로 미리 표시됩니다.

추론 모델 지원

DeepSeek R1과 같은 특정 모델의 경우, Apidog는 타임라인에 모델의 사고 과정을 표시하여 AI 추론을 더 명확하고 직관적으로 확인할 수 있도록 합니다.

병합 규칙 사용자 지정

Auto-Merge 기능이 제대로 작동하지 않는 경우, 특정 사용 사례에 따라 사용자 지정 추출 규칙을 구성할 수 있습니다.

JSONPath 추출 규칙 구성

SSE가 기본 제공 인식 규칙(OpenAI, Gemini, Claude 등)을 따르지 않는 JSON 콘텐츠를 반환하는 경우, 필요한 콘텐츠를 추출하도록 JSONPath를 수동으로 구성하십시오.

SSE 응답 예시:

data: {"choices":[{"index":0,"message":{"role":"assistant","content":"H"},"logprobs":null,"finish_reason":"stop"}]}

data: {"choices":[{"index":0,"message":{"role":"assistant","content":"i"},"logprobs":null,"finish_reason":"stop"}]}

JSONPath 구성:

content 필드를 추출하려면 다음을 사용하십시오.

$.choices[0].message.content

JSONPath 분석:

구성 요소	설명
`$`	JSON 객체의 루트
`choices[0]`	`choices` 배열의 첫 번째 요소
`message.content`	`message` 객체 아래의 `content` 속성

추출된 결과:

Hi

후처리 스크립트 사용

JSON이 아닌 SSE 메시지의 경우 다음을 수행할 수 있습니다.

데이터를 수동으로 처리하려면 post processor scripts를 사용하십시오.

사용 중인 모델 형식에 대한 피드백을 제공하여 향후 기본 지원 가능성을 검토받으려면 technical support에 문의하십시오.

FAQ

SSE 타임라인에 메시지가 표시되지 않으면 어떻게 해야 합니까?

이 문제는 일반적으로 서버의 응답이 SSE 형식 지침을 따르지 않을 때 발생합니다. 표준 SSE 메시지 형식에는 다음이 필요합니다.

메시지 콘텐츠는 data: 뒤에 와야 합니다.

각 메시지는 두 개의 줄바꿈 문자로 구분되어야 합니다(메시지 사이에 빈 줄 하나).

SSE 메시지 형식에 대한 자세한 내용은 MDN documentation - Using Server-Sent Events를 참조하십시오.

더 알아보기

Deepseek API(R1 및 V3)를 사용하는 방법？

DeepSeek API 키를 얻고 API를 디버깅하기 위한 완전한 가이드입니다.

사전 요구 사항#

SSE 연결 시작하기#

메시지 자동 병합#

추론 모델 지원#

병합 규칙 사용자 지정#

JSONPath 추출 규칙 구성#

후처리 스크립트 사용#

FAQ#

더 알아보기#

사전 요구 사항

SSE 연결 시작하기

메시지 자동 병합

추론 모델 지원

병합 규칙 사용자 지정

JSONPath 추출 규칙 구성

후처리 스크립트 사용

FAQ

더 알아보기