NVIDIA OpenAI-Uyumlu API: Açık Modelleri Ücretsiz Kullanın

NVIDIA’dan Ücretsiz OpenAI-Uyumlu API

NVIDIA, geliştiriciler için harika bir hizmet sunuyor: OpenAI-uyumlu bir API ile açık kaynak modelleri ücretsiz kullanabilirsiniz. Bu, mevcut OpenAI kodunuzu minimum değişiklikle NVIDIA altyapısında çalıştırmanızı sağlıyor.

API Detayları

Hızlı Başlangıç

1. API Key Alın

1. build.nvidia.com adresine gidin
2. NVIDIA hesabınızla giriş yapın
3. “Get API Key” butonuna tıklayın
4. Key’inizi güvenli bir yerde saklayın

2. Python ile Kullanım

from openai import OpenAI

client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1",
    api_key="nvapi-YOUR_API_KEY"
)

response = client.chat.completions.create(
    model="meta/llama-3.1-70b-instruct",
    messages=[
        {"role": "user", "content": "Merhaba! Bana Python hakkında bir şey anlat."}
    ],
    max_tokens=1024
)

print(response.choices[0].message.content)

3. cURL ile Test

curl https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer nvapi-YOUR_API_KEY" \
  -d '{
    "model": "meta/llama-3.1-70b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Desteklenen Modeller

NVIDIA API’si birçok popüler açık kaynak modeli destekliyor:

Meta Llama Serisi

• meta/llama-3.1-8b-instruct
• meta/llama-3.1-70b-instruct
• meta/llama-3.1-405b-instruct

Mistral Serisi

• mistralai/mistral-7b-instruct-v0.3
• mistralai/mixtral-8x7b-instruct-v0.1
• mistralai/mixtral-8x22b-instruct-v0.1

Diğer Modeller

• google/gemma-2-27b-it
• microsoft/phi-3-medium-128k-instruct
• nvidia/nemotron-4-340b-instruct

OpenAI’dan Geçiş

Mevcut OpenAI kodunuzu NVIDIA API’sine taşımak çok kolay:

# Önce (OpenAI)
client = OpenAI(api_key="sk-...")

# Sonra (NVIDIA)
client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1",
    api_key="nvapi-..."
)

# Kod geri kalanı aynı kalır!

Avantajları

1. Ücretsiz: Deneme ve geliştirme için mükemmel
2. OpenAI Uyumlu: Mevcut kodu minimum değişiklikle kullanın
3. Açık Modeller: Llama, Mistral gibi güçlü açık kaynak modeller
4. NVIDIA Altyapısı: Hızlı ve güvenilir inference

Sınırlamalar

• Rate limit’ler mevcut (ücretsiz tier için)
• Bazı modeller için bekleme süresi olabilir
• Tüm OpenAI özellikleri desteklenmiyor olabilir (function calling, vision vb.)

Sonuç

NVIDIA’nın OpenAI-uyumlu API’si, özellikle:

• Prototip geliştirme
• Öğrenme ve deneyler
• Açık kaynak model karşılaştırmaları
• Düşük bütçeli projeler

için mükemmel bir seçenek. Hemen build.nvidia.com adresinden API key alın ve deneyin!

Kaynaklar

• NVIDIA AI Playground
• NVIDIA API Docs
• OpenAI Python SDK