SDK-Anleitungen
Integration der Vantero API mit verschiedenen SDKs und Frameworks.
OpenAI-Kompatibilität
Die Vantero API ist vollständig OpenAI-kompatibel. Sie können jedes OpenAI-kompatible SDK verwenden.
Code-Beispiele
Installation
terminalbash
npm install openaiBasis-Nutzung
index.tstypescript
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.VANTERO_API_KEY,
baseURL: "https://api.vantero.chat/v1",
});
const response = await client.chat.completions.create({
model: "mistral-small",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello!" }
],
});
console.log(response.choices[0].message.content);Streaming
streaming.tstypescript
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.VANTERO_API_KEY,
baseURL: "https://api.vantero.chat/v1",
});
const stream = await client.chat.completions.create({
model: "mistral-small",
messages: [{ role: "user", content: "Tell me a story" }],
stream: true,
stream_options: { include_usage: true },
});
for await (const chunk of stream) {
const content = chunk.choices[0]?.delta?.content || "";
process.stdout.write(content);
if (chunk.usage) {
console.log("\nusage:", chunk.usage.total_tokens);
}
}Streaming
Echtzeit-Antworten mit Server-Sent Events für bessere Benutzererfahrung.
Function Calling
Ermöglicht dem Modell, definierte Funktionen aufzurufen.
Vision (Bilder)
Analysieren Sie Bilder mit multimodalen Modellen wie GPT-4o.
JSON-Mode
Erzwingen Sie strukturierte JSON-Ausgaben für einfache Weiterverarbeitung.