API & Backend

FastAPI ve Gemini 3.7 API ile Gerçek Zamanlı Streaming ve Function Calling

Python FastAPI backend kullanarak Google Gemini API ile Server-Sent Events (SSE) tabanlı gerçek zamanlı yapay zekâ streaming ve araç çağırma (function calling) mimarisi.

17 Ağustos 20264 dk

Modern Streaming Mimarisi

Kullanıcıya yanıt üretirken modelin tüm çıktısını beklemek yerine ilk token'ları milisaniyeler içinde iletmek modern web uygulamalarının vazgeçilmezidir.

FastAPI'nin `StreamingResponse` bileşeni ve Server-Sent Events (SSE) standardı ile kesintisiz bir veri akışı sağlayabilirsiniz.

main.py

from fastapi import FastAPI
from fastapi.responses import StreamingResponse
from google import genai

app = FastAPI()
client = genai.Client()

@app.get("/api/stream")
async def stream_ai_response(prompt: str):
    async def event_generator():
        response = client.models.generate_content_stream(
            model="gemini-3.7-flash",
            contents=prompt,
        )
        for chunk in response:
            if chunk.text:
                yield f"data: {chunk.text}\n\n"

    return StreamingResponse(event_generator(), media_type="text/event-stream")