Get started with Live API

Live API की मदद से, Gemini के साथ कम इंतज़ार के साथ रीयल-टाइम में आवाज़ और वीडियो के ज़रिए इंटरैक्ट किया जा सकता है. यह ऑडियो, वीडियो या टेक्स्ट की लगातार स्ट्रीम को प्रोसेस करता है, ताकि उपयोगकर्ताओं को तुरंत और इंसानों की तरह बोलकर जवाब दिए जा सकें. इससे, उपयोगकर्ताओं को बातचीत करने का स्वाभाविक अनुभव मिलता है.

Live API के बारे में खास जानकारी

Live API में कई सुविधाएं मिलती हैं. जैसे, आवाज़ की गतिविधि का पता लगाना, टूल का इस्तेमाल और फ़ंक्शन कॉल करना, सेशन मैनेजमेंट (लंबी बातचीत को मैनेज करने के लिए), और कुछ समय के लिए बने रहने वाले टोकन (क्लाइंट-साइड की पुष्टि को सुरक्षित करने के लिए).

इस पेज पर, उदाहरणों और बुनियादी कोड सैंपल की मदद से, आपको इस सुविधा को इस्तेमाल करने का तरीका बताया गया है.

ऐप्लिकेशन के उदाहरण

यहां दिए गए उदाहरणों में, एंड-टू-एंड इस्तेमाल के उदाहरणों के लिए, Live API का इस्तेमाल करने का तरीका बताया गया है:

  • AI Studio पर लाइव ऑडियो स्टार्टर ऐप्लिकेशन, जो Live API से कनेक्ट करने और माइक्रोफ़ोन और स्पीकर के ज़रिए, ऑडियो को दोनों तरफ़ स्ट्रीम करने के लिए, JavaScript लाइब्रेरी का इस्तेमाल करता है.
  • Live API से कनेक्ट होने वाले Pyaudio का इस्तेमाल करके, Live API Python कुकबुक.

पार्टनर इंटिग्रेशन

अगर आपको डेवलपमेंट की प्रोसेस आसान बनानी है, तो Daily या LiveKit का इस्तेमाल करें. ये तीसरे पक्ष के पार्टनर प्लैटफ़ॉर्म हैं. इन्होंने WebRTC प्रोटोकॉल के साथ Gemini Live API को पहले ही इंटिग्रेट कर लिया है, ताकि रीयल-टाइम ऑडियो और वीडियो ऐप्लिकेशन को आसानी से डेवलप किया जा सके.

बिल्डिंग शुरू करने से पहले

Live API का इस्तेमाल करके मॉडल बनाने से पहले, दो अहम फ़ैसले लेने होते हैं: मॉडल चुनना और लागू करने का तरीका चुनना.

ऑडियो जनरेशन आर्किटेक्चर चुनना

अगर ऑडियो पर आधारित कोई इस्तेमाल का उदाहरण बनाया जा रहा है, तो आपके चुने गए मॉडल से यह तय होता है कि ऑडियो जनरेशन का कौनसा आर्किटेक्चर इस्तेमाल किया जाए, ताकि ऑडियो रिस्पॉन्स बनाया जा सके:

  • नेटिव ऑडियो: इस विकल्प से, सबसे नैचुरल और असली लगने वाली आवाज़ मिलती है. साथ ही, कई भाषाओं में बेहतर परफ़ॉर्मेंस मिलती है. इससे भावनाओं को समझने वाली बातचीत, पहले से तैयार ऑडियो (जिसमें मॉडल कुछ इनपुट को अनदेखा करने या उनका जवाब देने का फ़ैसला ले सकता है), और "सोचने" जैसी ऐडवांस सुविधाएं भी चालू होती हैं. नेटिव ऑडियो, इन नेटिव ऑडियो मॉडल के साथ काम करता है:
    • gemini-2.5-flash-preview-native-audio-dialog
    • gemini-2.5-flash-exp-native-audio-thinking-dialog
  • हफ़्फ़-कैस्केड ऑडियो: इस विकल्प में, कैस्केड मॉडल आर्किटेक्चर (नेटिव ऑडियो इनपुट और टेक्स्ट-टू-स्पीच आउटपुट) का इस्तेमाल किया जाता है. यह प्रोडक्शन एनवायरमेंट में बेहतर परफ़ॉर्मेंस और भरोसेमंदता देता है. खास तौर पर, टूल के इस्तेमाल के साथ. हाफ़-कैस्केड ऑडियो, इन मॉडल के साथ काम करता है:
    • gemini-live-2.5-flash-preview
    • gemini-2.0-flash-live-001

लागू करने का तरीका चुनना

Live API के साथ इंटिग्रेट करते समय, आपको लागू करने के इनमें से किसी एक तरीके को चुनना होगा:

  • सर्वर-टू-सर्वर: आपका बैकएंड, WebSockets का इस्तेमाल करके Live API से कनेक्ट होता है. आम तौर पर, आपका क्लाइंट आपके सर्वर को स्ट्रीम डेटा (ऑडियो, वीडियो, टेक्स्ट) भेजता है. इसके बाद, सर्वर उसे Live API को फ़ॉरवर्ड करता है.
  • क्लाइंट-टू-सर्वर: आपका फ़्रंटएंड कोड, डेटा स्ट्रीम करने के लिए WebSockets का इस्तेमाल करके, सीधे Live API से कनेक्ट होता है. इस दौरान, यह आपके बैकएंड को बायपास करता है.

अपनी प्रोफ़ाइल बनाना शुरू करें

इस उदाहरण में, WAV फ़ाइल को पढ़ा जाता है. इसके बाद, उसे सही फ़ॉर्मैट में भेजा जाता है और मिले डेटा को WAV फ़ाइल के तौर पर सेव किया जाता है.

ऑडियो को 16-बिट PCM, 16kHz, मोनो फ़ॉर्मैट में बदलकर भेजा जा सकता है. साथ ही, AUDIO को जवाब के मोड के तौर पर सेट करके ऑडियो पाया जा सकता है. आउटपुट में 24kHz के सैंपल रेट का इस्तेमाल किया जाता है.

Python

# Test file: https://storage.googleapis.com/generativeai-downloads/data/16000.wav
# Install helpers for converting files: pip install librosa soundfile
import asyncio
import io
from pathlib import Path
import wave
from google import genai
from google.genai import types
import soundfile as sf
import librosa

client = genai.Client()

# Half cascade model:
# model = "gemini-live-2.5-flash-preview"

# Native audio output model:
model = "gemini-2.5-flash-preview-native-audio-dialog"

config = {
  "response_modalities": ["AUDIO"],
  "system_instruction": "You are a helpful assistant and answer in a friendly tone.",
}

async def main():
    async with client.aio.live.connect(model=model, config=config) as session:

        buffer = io.BytesIO()
        y, sr = librosa.load("sample.wav", sr=16000)
        sf.write(buffer, y, sr, format='RAW', subtype='PCM_16')
        buffer.seek(0)
        audio_bytes = buffer.read()

        # If already in correct format, you can use this:
        # audio_bytes = Path("sample.pcm").read_bytes()

        await session.send_realtime_input(
            audio=types.Blob(data=audio_bytes, mime_type="audio/pcm;rate=16000")
        )

        wf = wave.open("audio.wav", "wb")
        wf.setnchannels(1)
        wf.setsampwidth(2)
        wf.setframerate(24000)  # Output is 24kHz

        async for response in session.receive():
            if response.data is not None:
                wf.writeframes(response.data)

            # Un-comment this code to print audio data info
            # if response.server_content.model_turn is not None:
            #      print(response.server_content.model_turn.parts[0].inline_data.mime_type)

        wf.close()

if __name__ == "__main__":
    asyncio.run(main())

JavaScript

// Test file: https://storage.googleapis.com/generativeai-downloads/data/16000.wav
import { GoogleGenAI, Modality } from '@google/genai';
import * as fs from "node:fs";
import pkg from 'wavefile';  // npm install wavefile
const { WaveFile } = pkg;

const ai = new GoogleGenAI({});
// WARNING: Do not use API keys in client-side (browser based) applications
// Consider using Ephemeral Tokens instead
// More information at: https://ai.google.dev/gemini-api/docs/ephemeral-tokens

// Half cascade model:
// const model = "gemini-live-2.5-flash-preview"

// Native audio output model:
const model = "gemini-2.5-flash-preview-native-audio-dialog"

const config = {
  responseModalities: [Modality.AUDIO], 
  systemInstruction: "You are a helpful assistant and answer in a friendly tone."
};

async function live() {
    const responseQueue = [];

    async function waitMessage() {
        let done = false;
        let message = undefined;
        while (!done) {
            message = responseQueue.shift();
            if (message) {
                done = true;
            } else {
                await new Promise((resolve) => setTimeout(resolve, 100));
            }
        }
        return message;
    }

    async function handleTurn() {
        const turns = [];
        let done = false;
        while (!done) {
            const message = await waitMessage();
            turns.push(message);
            if (message.serverContent && message.serverContent.turnComplete) {
                done = true;
            }
        }
        return turns;
    }

    const session = await ai.live.connect({
        model: model,
        callbacks: {
            onopen: function () {
                console.debug('Opened');
            },
            onmessage: function (message) {
                responseQueue.push(message);
            },
            onerror: function (e) {
                console.debug('Error:', e.message);
            },
            onclose: function (e) {
                console.debug('Close:', e.reason);
            },
        },
        config: config,
    });

    // Send Audio Chunk
    const fileBuffer = fs.readFileSync("sample.wav");

    // Ensure audio conforms to API requirements (16-bit PCM, 16kHz, mono)
    const wav = new WaveFile();
    wav.fromBuffer(fileBuffer);
    wav.toSampleRate(16000);
    wav.toBitDepth("16");
    const base64Audio = wav.toBase64();

    // If already in correct format, you can use this:
    // const fileBuffer = fs.readFileSync("sample.pcm");
    // const base64Audio = Buffer.from(fileBuffer).toString('base64');

    session.sendRealtimeInput(
        {
            audio: {
                data: base64Audio,
                mimeType: "audio/pcm;rate=16000"
            }
        }

    );

    const turns = await handleTurn();

    // Combine audio data strings and save as wave file
    const combinedAudio = turns.reduce((acc, turn) => {
        if (turn.data) {
            const buffer = Buffer.from(turn.data, 'base64');
            const intArray = new Int16Array(buffer.buffer, buffer.byteOffset, buffer.byteLength / Int16Array.BYTES_PER_ELEMENT);
            return acc.concat(Array.from(intArray));
        }
        return acc;
    }, []);

    const audioBuffer = new Int16Array(combinedAudio);

    const wf = new WaveFile();
    wf.fromScratch(1, 24000, '16', audioBuffer);  // output is 24kHz
    fs.writeFileSync('audio.wav', wf.toBuffer());

    session.close();
}

async function main() {
    await live().catch((e) => console.error('got error', e));
}

main();

आगे क्या करना है