Claude Code İçinde Yerel LLM'leri Ajan Olarak Nasıl Çalıştırılır (2026)
Claude Code'da yerel LLM'leri ajan olarak nasıl yapılandıracağınızı öğrenin. 2026 iş akışları için donanım gereksinimlerini, gecikme ödünleşimlerini ve gizlilik avantajlarını karşılaştırın.
1X2.TV — Yapay Zeka Futbol Tahminleri
Yapay zekâ destekli futbol maç tahminleri, bahis ipuçları ve detaylı analiz. 50.000'den fazla maçı analiz eden makine öğrenmesi algoritmalarıyla güçlendirilmiştir.
Tahminleri AlGiriş: Yerel Otonomiye Geçiş
2026 yılına gelindiğinde, geliştirici ekosistemi bulut tabanlı API çağrılarından hibrit, yerel olarak çalıştırılan çıkarım (inference) modeline köklü bir şekilde geçiş yaptı. Büyük Dil Modellerinin (LLM) ilk dönemleri, her İstem'i uzak bir sunucuya göndermenin sağladığı kolaylıkla tanımlanırken, yüksek performanslı kodlama ajanları için günümüzdeki standart; veri egemenliği, gecikme süresinin azaltılması ve maliyet öngörülebilirliğini önceliklendiriyor. Çok adımlı görevleri yürütme yeteneğiyle öne çıkan ajan tabanlı kodlama çatısı Claude Code, yerel model arka uçlarını (backend) destekleyecek şekilde evrildi. Bu sayede geliştiriciler, karmaşık ajanları tamamen kendi donanımlarında çalıştırabilir, sürekli internet bağlantısı ve token başına faturalandırma ihtiyacını ortadan kaldırabilir.
Bu rehber, Claude Code ekosistemi içinde yerel LLM'leri ajan olarak yapılandırmayı detaylandırıyor. Mimari gereksinimleri, gerekli donanım özelliklerini ve yerel çıkarım ile bulut tabanlı alternatifler arasındaki pratik ödünleşimleri (trade-off) inceleyeceğiz. Telifli kod tabanlarıyla çalışan veya hava boşluklu (air-gapped) ortamlarda faaliyet gösteren ekipler için bu geçiş artık yalnızca bir optimizasyon değil; bir zorunluluktur.
Mimari Genel Bakış: Claude Code Yerel Modellerle Nasıl Etkileşime Girer?
Claude Code gibi bir ajan tabanlı kodlama aracının temel mekanizması bir döngüye dayanır: ajan bir görev alır, bir eylem sırası planlar, kod veya dosya değişikliklerini yürütür, sonuçları gözlemler ve yinelemeler. 2026'da bu döngü, yerel çıkarım motorlarıyla çalıştırılabilir. Entegrasyon genellikle llama.cpp, Ollama veya vLLM gibi OpenAI uyumlu bir REST arayüzü sunan standartlaştırılmış yerel API sunucuları üzerinden gerçekleşir.
Yerel çalıştırma için yapılandırıldığında Claude Code, varsayılan uzak uç noktasını bir localhost URL'si (ör. http://localhost:11434/v1) ile değiştirir. Ajanın sistem istemi, araç tanımları ve konuşma geçmişi serileştirilir ve yerel çıkarım motoruna gönderilir. Motor tokenları işler ve sonraki eylemi döndürür. Model yerel donanımda çalıştığı için gecikme profili önemli ölçüde değişir. Bulut API'leri, devasa paralelleştirme sayesinde neredeyse anlık token akışı sunarken, yerel çıkarım kullanılan belirli GPU veya CPU'nun bellek bant genişliğiyle sınırlıdır.
Donanım Gereksinimleri ve Model Seçimi
Yerel olarak yetkin bir kodlama ajanı çalıştırmak, model boyutu ile donanım yeteneği arasında bir denge gerektirir. 2026'da güvenilir ajan tabanlı kodlama için asgari uygulanabilir model boyutu yükseldi. Küçük modeller (7B parametrenin altında), otonom kod çalıştırma için gereken karmaşık çok adımlı akıl yürütmede genellikle zorlanır ve bu durum sonsuz döngülere veya halüsinasyonlu bağımlılıklara yol açar.
Üretim düzeyindeki yerel ajanlar için geliştiriciler genellikle 14B ile 32B parametre aralığındaki modelleri hedefler ve bunları 4-bit veya 8-bit hassasiyete kuantize eder. Bu modeller, üst düzey tüketici GPU'larının (24GB ile 48GB VRAM'e sahip olanlar gibi) veya özel çıkarım hızlandırıcılarının bellek kısıtlamaları içine sığar.
| Model Sınıfı | Tipik Boyut | VRAM Gereksinimi (4-bit) | Ajan Tabanlı Güvenilirlik | En İyi Kullanım Senaryosu |
|---|---|---|---|---|
| Küçük | 7B - 8B | 6 GB - 8 GB | Düşük | Basit otomatik tamamlama, linting |
| Orta Seviye | 14B - 20B | 10 GB - 14 GB | Orta | Tek dosyalı yeniden yapılandırma, hata ayıklama |
| Büyük | 32B - 70B | 20 GB - 45 GB | Yüksek | Çok dosyalı mimari değişiklikler |
Ajan tabanlı görevlerin standart sohbete kıyasla daha büyük bağlam pencereleri gerektirdiğini belirtmek kritiktir. Bir kodlama ajanı, tüm kod tabanının durumunu bağlamında tutmalıdır. Bu nedenle, yerel dağıtımlar hem model ağırlıkları hem de KV-önbelleği için yeterli bellek ayırmalıdır. Bağlam penceresi kullanılabilir VRAM'i aşarsa, çıkarım motoru sistem RAM'ine yük aktarır ve bu durum saniye başına token (TPS) veriminde önemli bir düşüşe neden olur.
Yapılandırma Adımları
Claude Code'da yerel bir arka uç yapılandırmak üç temel adımdan oluşur:
- Çıkarım Motorunu Dağıtın: Ollama veya llama.cpp gibi yerel bir sunucu kurun. Kodlama görevleri için optimize edilmiş kuantize bir model indirin. Sunucunun çalıştığından ve localhost üzerinden erişilebilir olduğundan emin olun.
- Agent Yapılandırmasını Güncelleyin: Claude Code yapılandırma dosyasını,
base_urlöğesini yerel uç noktaya yönlendirecek şekilde değiştirin. Yerel sunucular genellikle kimlik doğrulama gerektirmediğinden,api_keyöğesini bir yer tutucu dize olarak ayarlayın. - Örnekleme Parametrelerini Ayarlayın: Yerel modeller, bulut muadillerinden farklı örnekleme sıcaklıkları gerektirebilir. Ajan tabanlı kodlama için, deterministik araç kullanımını sağlamak ve halüsinasyonlu komut olasılığını azaltmak adına daha düşük bir sıcaklık (0,1 ile 0,3 arası) önerilir.
Yerel Ajan Tabanlı Çalıştırmanın Artıları ve Eksileri
Yerel LLM'leri ajan olarak çalıştırma kararı, belirgin ödünleşimleri beraberinde getirir. Aşağıda, avantajların ve dezavantajların dürüst bir değerlendirmesi yer almaktadır.
Artılar
- Veri Egemenliği: Kod, makineden hiç çıkmaz. Bu durum, katı fikri mülkiyet koruma politikalarına sahip şirketler veya veri ikametinin zorunlu olduğu düzenlenmiş sektörlerde faaliyet gösterenler için kritiktir.
- Öngörülebilir Maliyetler: Donanım satın alındıktan sonra, çıkarımın marjinal maliyeti sadece elektriktir. Token başına faturalar olmadığı için, yüksek hacimli geliştirme ekiplerinde bütçeleme stabil hale gelir.
- Gecikme Bağımsızlığı: Yerel çıkarım, ağ dalgalanmalarına veya bölgesel API hız sınırlamalarına tabi değildir. Mutlak hız, üst düzey bir bulut API'sinden daha düşük olsa da, yinelemeli döngüler için tutarlılık genellikle daha üstündür.
- İzole (Air-Gapped) Çalışma Yeteneği: Yerel ajanlar, internet erişiminin yasak olduğu güvenli ortamlarda çalışabilir; bu da savunma veya havacılık bağlamlarında kesintisiz geliştirme iş akışlarını mümkün kılar.
Eksiler
- Donanım Yatırım Maliyeti (CapEx): Üst düzey GPU'lara veya çıkarım hızlandırıcılara yapılan ilk yatırım oldukça yüksektir. Bu durum, maliyetleri operasyonel giderlerden (OpEx) sermaye giderlerine (CapEx) kaydırır.
- Daha Düşük Tepe Verim: Üst düzey donanımla bile, yerel çıkarım genellikle devasa bulut kümelerinin saniye başına tepe token sayısıyla boy ölçüşemez. Karmaşık görevlerin tamamlanması daha uzun sürebilir.
- Model Kalitesi Tavanı: 2026 itibarıyla, en yetenekli sınır (frontier) modelleri hala özel ve yalnızca bulut tabanlıdır. Yerel açık ağırlıklı modeller etkileyici olsa da, son derece karmaşık mimari kararlar için üst düzey özel sistemlerin nüanslı akıl yürütme yeteneklerinden yoksun olabilirler.
- Bakım Yükü: Geliştiriciler, model güncellemelerini, nicemleme formatlarını ve çıkarım motoru uyumluluğunu yönetmek zorundadır; bu da operasyonel yükü artırır.
Performans Optimizasyonu Stratejileri
Yerel bir ajanın faydasını en üst düzeye çıkarmak için geliştiriciler çeşitli optimizasyon stratejileri uygulamalıdır. Öncelikle, yerel çıkarım motoru destekliyorsa spekülatif kodlamayı kullanın. Büyük bir hedef modeli küçük bir taslak modelle eşleştirerek, kaliteden ödün vermeden aktarım hızını artırabilirsiniz.
İkinci olarak, bağlamı agresif bir şekilde yönetin. Ajan döngüleri, bağlam penceresini gereksiz araç çıktılarıyla hızla doldurabilir. Ajanın döngüsü içinde bağlam budama veya özetleme adımlarının uygulanması, bellek tükenmesini önlemeye yardımcı olur.
Son olarak, hibrit mimarileri göz önünde bulundurun. 2026'da birçok ekip, rutin görevler (yeniden yapılandırma, birim testleri, linting) için yerel bir model kullanır ve yalnızca üst düzey mimari planlama için bulut API'sine yükseltir. Bu yaklaşım, yerel çıkarımın gizlilik ve maliyet avantajlarını yakalarken, gerektiğinde bulut modellerinin en yüksek yeteneğini korur.
Sıkça Sorulan Sorular
Yerel LLM'leri paylaşımlı bir geliştirme makinesinde çalıştırmak güvenli mi? Evet, çıkarım motoru düzgün bir şekilde yalıtılmışsa güvenlidir. Ollama gibi yerel sunucular izole süreçler olarak çalışır. Ancak, ajana açıkça yazma izinleri verilmediği sürece modelin kod tabanına salt okunur erişimi olduğundan emin olun.
32B parametreli bir model için ne kadar VRAM'e ihtiyacım var? 4-bit kuantize edilmiş 32B'lik bir model için, genellikle hem ağırlıkları hem de orta düzeyde bir bağlam penceresini (4K ile 8K token) barındırmak için 20 GB ile 24 GB arasında VRAM gerekir. Daha büyük bağlamlar daha fazla bellek gerektirecek veya sistem RAM'ine taşacaktır.
Yerel modelleri çok dosyalı yeniden yapılandırma için kullanabilir miyim? Evet, ancak güvenilirlik değişkenlik gösterir. Orta ve büyük yerel modeller (14B ve üzeri), ilgili dosyaları barındıracak kadar büyük bir bağlam penceresine sahipse genellikle çok dosyalı yeniden yapılandırmayı başarabilir. Daha küçük modeller, birden fazla dosya arasında tutarlılığı korumakta zorlanabilir.
Yerel çıkarım motoru bir görev sırasında çökerse ne olur? Yeniden deneme mantığı ile yapılandırılmışsa, ajan döngüsü genellikle zarif bir şekilde başarısız olur. Ancak, yerel çıkarım durumlu (stateful) olduğu için, bir çökme, çıkarım sunucusunun yeniden başlatılmasını ve modelin yeniden yüklenmesini gerektirebilir; bu da birkaç dakika sürebilir. Bulut API'leri genellikle geçici hatalardan daha hızlı kurtulmayı sağlar.
Yapay Zeka Hisse Senedi Tahminleri — Akıllı Piyasa Analizi
Yapay zeka destekli borsa tahminleri ve teknik analiz. Güven skorları ve risk metrikleriyle hisse senetleri, ETF'ler ve kripto için günlük tahminler alın.
Bugünkü Tahminleri GörüntüleBir yapay zeka aracı mı geliştiriyorsunuz veya pazarlıyorsunuz?
AI Tools Hub'da listelenin, incelenin veya öne çıkarın — Çok dilli, 12 aylık sponsorlu içerikler. 49 $'dan başlayan fiyatlarla.
AI Tools Hub Ekibi
Uzman Yapay Zeka Aracı İnceleyicileri
Yapay zeka tutkunları ve teknoloji uzmanlarından oluşan ekibimiz, ihtiyaçlarınıza en uygun çözümü bulmanıza yardımcı olmak için yüzlerce yapay zeka aracını test eder ve inceler. Gerçek dünya kullanımına dayalı dürüst ve derinlemesine analizler sunarız.