Debugging SSE

Server-Sent Events (SSE) adalah teknologi komunikasi waktu nyata yang dibangun di atas protokol HTTP, yang memungkinkan server mendorong pembaruan kepada klien melalui koneksi persisten satu arah. SSE umum digunakan untuk streaming respons model AI, notifikasi langsung, dan umpan data waktu nyata.

Dengan SSE, pengguna dapat langsung melihat proses berpikir model penalaran dan konten yang dihasilkan saat dialirkan dari server.

Prasyarat

Apidog versi 2.3.10 atau yang lebih baru

Endpoint HTTP yang mengembalikan Content-Type: text/event-stream

Memulai Koneksi SSE

Buat Endpoint Baru

Di Apidog, buat proyek HTTP baru, tambahkan endpoint baru, dan masukkan URL untuk endpoint model AI atau server SSE.

Kirim Permintaan

Setelah mengirim permintaan, jika header respons Content-Type menyertakan text/event-stream, Apidog secara otomatis mengurai data yang dikembalikan sebagai peristiwa SSE.

Lihat Respons Waktu Nyata

Lihat pesan waktu nyata dalam tampilan Timeline pada panel respons, tempat konten ditampilkan dalam format bahasa alami.

Gabung Otomatis Pesan

Persyaratan Versi

Apidog versi 2.7.14 atau yang lebih baru diperlukan untuk fungsionalitas gabung otomatis.

Apidog menyertakan dukungan bawaan untuk model AI populer dan secara otomatis mengenali serta menggabungkan respons streaming dalam format berikut:

Format	Deskripsi
Kompatibel dengan OpenAI API	Digunakan oleh sebagian besar penyedia model AI
Kompatibel dengan Gemini API	Format model Gemini dari Google
Kompatibel dengan Claude API	Format model Claude dari Anthropic
Kompatibel dengan Ollama API	Format JSON Streaming (NDJSON) untuk model AI yang diterapkan secara lokal

Ketika respons model AI cocok dengan salah satu format ini, Apidog secara otomatis menggabungkan fragmen pesan menjadi balasan lengkap, dengan konten yang dipratinjau dalam format Markdown.

Dukungan Model Penalaran

Untuk model tertentu, seperti DeepSeek R1, Apidog menampilkan proses berpikir model dalam timeline, sehingga memberikan tampilan penalaran AI yang lebih jelas dan intuitif.

Menyesuaikan Aturan Penggabungan

Jika fitur Auto-Merge tidak berfungsi dengan benar, Anda dapat mengonfigurasi aturan ekstraksi khusus berdasarkan kasus penggunaan spesifik Anda.

Konfigurasikan Aturan Ekstraksi JSONPath

Ketika SSE mengembalikan konten JSON yang tidak sesuai dengan aturan pengenalan bawaan (OpenAI, Gemini, Claude, dll.), konfigurasikan JSONPath secara manual untuk mengekstrak konten yang diperlukan.

Contoh Respons SSE:

data: {"choices":[{"index":0,"message":{"role":"assistant","content":"H"},"logprobs":null,"finish_reason":"stop"}]}

data: {"choices":[{"index":0,"message":{"role":"assistant","content":"i"},"logprobs":null,"finish_reason":"stop"}]}

Konfigurasi JSONPath:

Untuk mengekstrak bidang content, gunakan:

$.choices[0].message.content

Rincian JSONPath:

Komponen	Deskripsi
`$`	Root dari objek JSON
`choices[0]`	Elemen pertama dari array `choices`
`message.content`	Atribut `content` di bawah objek `message`

Hasil yang Diekstrak:

Hi

Gunakan Skrip Post Processor

Untuk pesan SSE non-JSON, Anda dapat:

Menggunakan skrip post processor untuk menangani data secara manual

Menghubungi dukungan teknis untuk memberikan umpan balik mengenai format model yang Anda gunakan agar berpotensi mendapatkan dukungan bawaan

FAQ

Apa yang harus dilakukan jika timeline SSE tidak menampilkan pesan?

Masalah ini biasanya terjadi ketika respons server tidak mengikuti pedoman format SSE. Format pesan SSE standar memerlukan:

Konten pesan harus muncul setelah data:

Setiap pesan harus dipisahkan oleh dua karakter baris baru (satu baris kosong di antara pesan)

Untuk detail lebih lanjut mengenai format pesan SSE, lihat dokumentasi MDN - Menggunakan Server-Sent Events.

Pelajari Lebih Lanjut

Cara Menggunakan Deepseek API (R1 & V3)？

Panduan lengkap untuk memperoleh kunci DeepSeek API dan men-debug API.

Prasyarat#

Memulai Koneksi SSE#

Gabung Otomatis Pesan#

Dukungan Model Penalaran#

Menyesuaikan Aturan Penggabungan#

Konfigurasikan Aturan Ekstraksi JSONPath#

Gunakan Skrip Post Processor#

FAQ#

Pelajari Lebih Lanjut#

Prasyarat

Memulai Koneksi SSE

Gabung Otomatis Pesan

Dukungan Model Penalaran

Menyesuaikan Aturan Penggabungan

Konfigurasikan Aturan Ekstraksi JSONPath

Gunakan Skrip Post Processor

FAQ

Pelajari Lebih Lanjut