Kimi K3.1 Pro açık ağırlık vadediyor: kendi modelim ile bulut API arasında iş bölümü

Moonshot, Kimi K3.1 Pro'yu yayımladı ve ağırlıkları 4 Kasım'a kadar açmayı vadediyor. Bağımsız testler onu birinci sıradaki kapalı modellerin yanına koyuyor. Aynı günlerde n8n hangi açık modelin hangi ekran kartına sığdığını gösteren bir tablo yayımladı, Vercel 30 dolara açık modeller için abonelik ekledi, Ollama ise küçük karar modellerini öğrendi. İşletme sahibi için soru aynı: neyi kendinde hesaplamalı, neyi API'ye vermeli ve hangi kurala göre bölmeli.

Ne çıktı

Simon Willison 23 Ekim'de Kimi K3.1 Pro hakkında yazdı: model API üzerinden erişilebilir, ağırlıklar 4 Kasım 2026'ya kadar vadediliyor. Fiyat milyon giriş tokeni için 2 dolar, milyon çıkış tokeni için 10 dolar; GPT-6.1 Sol ile aynı, Claude Opus 5.5'in yarısı. Highspeed sürümü iki kat fiyata 2-3 kat daha hızlı. Artificial Analysis endeksinde model 55 puan aldı, Claude Opus 5.5'in puanı 58.

Latent Space 24 Ekim'de özetinde ayrıntıları ve itirazları topladı. Model 2,8 trilyon parametreli, bunun 104 milyarı aktif, bağlam bir milyon token. Hemen ardından aritmetik: 2,8 trilyon parametre 16 bit biçimde 5,6 TB, 4 bit biçimde 1,4 TB civarı demek. Yazarlar açıkça yazıyor: “kendinde çalıştırabilirsin” ile “sıradan bilgisayarda çalışır” farklı özellikler. Lisans ve küçük Flash sürümü henüz duyurulmadı.

Vercel 23 Ekim'de Kimi K3.1 Pro'nun iki sürümünü de AI Gateway'e ekledi: sağlayıcı fiyatları komisyonsuz, anahtar başına bütçe ve arıza durumunda sağlayıcı değiştirme. Bir hafta önce, 15 Ekim'de, aynı Vercel Token Pass'i başlattı: ayda 30 dolara ekip GLM 5.3 ve Kimi K3 için 80 dolarlık kredi alıyor, kullanılmayan kısım yanıyor, kredi bitince istekler ek ücret olmadan duruyor. Küçük bir ekip için bu, anlaşılır bir harcama tavanı.

n8n 22 Ekim'de kendi modeller ve bulut API'leri hakkında bir inceleme yayımladı. En yararlı kısmı tablo: Qwen3 8B 8 bit sürümde yaklaşık 8 GB video belleğinde, 24B'lik Mistral Small 3.1 4 bit kuantizasyonla 12-16 GB, kuantizasyonsuz 44-55 GB, 109B'lik Llama 4 Scout 55 ile 80 GB arası. Desteklediğim öneri: görevi önce API üzerinden açık modellerden geçirin, kararlı biçimde başa çıkan en küçük modeli bulun ve yalnızca onu kendinize kurun. Toplu işleme için GPU sunucusunu yalnızca iş süresince kiralamayı öneriyorlar.

Bir de 25 Ekim tarihli Ollama v0.40.11 sürümü, sürüm notları: macOS'ta OpenAI uyumlu uç nokta üzerinden konuşma üretimi geldi, d3 ailesi ise vLLM Semantic Router'dan 2B, 4B, 9B ve 27B'lik karar modellerini getirdi: metin veya görsel verdiniz, evet ya da hayır, listeden bir seçenek veya olasılıklı puan aldınız. Bu, OpenAI'nin Decisions API olarak sattığı şeyin yerel karşılığı.

İşletme için ne anlama geliyor

Ürün bileşimlerinin Excel spesifikasyonlarında durduğu, yanında yüklenici fiyatlarının ve tasarım belgelerinin bulunduğu bir üretimi ele alalım. Bu dosyaları dış servise göndermek istenmiyor, hacim de sabit: her gün aynı belge türleri. Bu, kendi sunucunuzdaki küçük modelin işi: sıralamak, kalem numaralarını çekmek, eksikleri işaretlemek. Nadir ve karmaşık görevi, yeni tedarikçiden gelen standart dışı keşfi, bulut modeline vermek daha ucuz: haftada bir oluyor.

Bu örnekten çıkan kural basit. Sabit hacim ve hassas veri, görevi kendi sunucunuza çeker. Tek belgede doğruluğun önemli olduğu nadir ve karmaşık görevler buluta çeker. Gerisine aritmetik karar verir: aylık istek sayısına karşı donanım ve ona bakan insan.

Bende nasıl

ABD'deki PDR şirketi için yaptığım belge ayrıştırıcılarda üç bulut servisi kullanıyorum, Anthropic, OpenAI ve Gemini, her biri kendi görevi için. Orada her keşifte doğruluk önemli: belgeler 60-70 sayfaya kadar çıkıyor, tek satırdaki hata paraya mal oluyor. Doğrulayıcılar bağlandıktan sonra belgelerin yaklaşık %99,9'u elle düzeltme olmadan geçiyor, çalışan yalnızca son kontrolü yapıyor.

Konuşmayı ise tam tersine yerelde çalıştırdım. 2023 sonu ve 2024 başında Londra'daki bir danışmanlık şirketi için yerel Whisper modeliyle altyazı sistemi yaptım: Google Drive'dan videolar, podcastler, YouTube, çıkışta zaman damgalı SRT. Kayıt dakikası için ödeme gerekmiyordu.

Stüdyomun sunucusu ortak, 2 GB bellekli; orada site ve stüdyonun iç servisi “Birlikte Kahve” Docker'da çalışıyor. Oraya hiçbir model sığmaz, sığarmış gibi de yapmıyorum. Kimi K3.1 Pro'yu çalıştırmadım: Latent Space özetindeki hacme göre ona veri merkezi gerekiyor, küçük işletme sunucusu bunu taşımaz. Ona API üzerinden, diğerlerinin yanında bir sağlayıcı daha olarak bakardım.

Ben ne yapardım

Görevleri üç yığına ayırırdım: hassas verili sabit akış, nadir karmaşık durumlar ve hatanın hiçbir şeye mal olmadığı her şey.

İlk yığın için n8n tablosundan, benim gerçek örneklerimi kararlı biçimde geçen en küçük modeli alırdım. Demoda değil, 50-100 gerçek belgede kontrol ederdim.

İkinci yığın için AI Gateway gibi bir geçit veya anahtar başına bütçeli kendi proxy'mi kurardım. O zaman model değişikliği yapılandırmada bir satırdır.

Yıllık başabaş noktasını hesaplardım: GPU kiralama veya kart satın alma artı bakım saatleri, token faturasına karşı. Hacim küçükken bulut daha ucuz ve bu normal.

İlgili yazılar

Model sonuçlarının kontrolü hakkında: Veri işlemede AI: çıkarma ve doğrulama yazısı ve Sonucu doğrulanabilen süreçte AI sayfası. Vaka çalışmaları: PDR şirketi için belge ayrıştırıcılar ve yerel Whisper ile SRT altyazı. Aynı konudaki yazılardan: neden ücretsiz araçlarla kuruyorum, kendi sunucunuzda konuşma modelleri, küçük işletmenin AI bütçesinde ne değişiyor ve cihaz üstünde model ve dağıtık sahalar. Daha önce: kabul edilen görev başına AI maliyeti ve bilgi grafı mı, vektör RAG mi. İşlemenin hangi kısmını kendinizde tutacağınıza karar veriyorsanız, hacmi ve belge türlerini anlatın. Görevi konuşalım.