Bakımcılara 1 milyon, token'ların %71,5'i açık modellerde: bana niye ücretsiz araçlar lazım

Sentry açık kaynak bakımcılarına bir yılda bir milyon dolar verdi, Vercel kendi gateway'inde açık modellerin token'ların %71,5'ini işlediğini hesapladı, Anthropic Agent Skills standardını Linux Foundation çatısındaki bir vakfa devretti, NVIDIA Run:ai'nin kodunu açtı, Red Hat ise iki yazıyla şirketlerin topluluklara neden katılması gerektiğini anlattı. İşletme sahibi için bu bir para meselesi: işin ne kadar büyük kısmı açık araçlarla yapılabiliyorsa bütçede o kadar az abonelik ve tek tedarikçiye o kadar az bağımlılık var.

Neler yayımlandı

Sentry 21 Ekim'de bakımcıları destekleme yıllık bütçesini 750.000 dolardan 1.000.000 dolara çıkardığını yazdı. 495.000 dolar thanks.dev üzerinden Sentry'nin kullandığı paketlerin yüzlerce bakımcısına, 100.000 dolar ecosyste.ms Funds üzerinden kritik paketlere, kalanı vakıflara gitti: 60.000 dolarla Python Software Foundation'dan 5000 dolarla Alpine Linux'a kadar. Sentry'nin başlattığı Open Source Pledge ekimde iki yaşına girdi: 37 katılımcı şirket toplam 8.421.535 dolar ödedi. Python Software Foundation'ın yıllık AWS gideri yaklaşık %69 arttı: ajanlar paket kuruyor, CI daha sık çalışıyor.

Vercel 15 Ekim'de AI Gateway'inin ekim endeksini yayımladı. Açık ağırlıklı modeller her on token'ın yediden fazlasını işliyor ve her dört dolardan neredeyse birini alıyor; giderlerdeki payları hazirandan bu yana dört kattan fazla arttı. Gateway üzerinden eylül gideri aralığın yaklaşık 13 katı, ortalama token fiyatı ise %47 daha düşük. DeepSeek-V4.1-Flash eylüldeki bütün token'ların neredeyse yarısını işledi ve giderlerin %2,6'sını aldı.

Simon Willison 22 Ekim'de Anthropic'in haberini not etti: Agent Skills standardı Linux Foundation çatısındaki Agentic AI Foundation'a devredildi, daha önce MCP protokolünün gittiği yere. Vakfı Anthropic, Block ve OpenAI ile birlikte kurdu.

NVIDIA 13 Ekim'de yapay zeka iş yüklerini ve GPU'ları orkestre eden Run:ai platformunun bütün kodunu NVIDIA DSX AI Factory Platform'un parçası olarak açtığını duyurdu. Elimde yalnızca duyuru var, lisans koşulları içinde yok.

Red Hat 23 Ekim'de topluluğa katılımın şirkete bağlı olduğu teknolojilerin gelişiminde söz hakkı verdiğini yazdı, 20 Ekim'de ise Linux Foundation'ın “Navigating Open Source Software Development in the Generative AI Era” raporunu inceledi: yapay zeka, işletim sistemleri ve bulut altyapısıyla aynı yoldan büyüyebilir. İki yazının da elimde yalnızca girişi var.

Örnek: servis şirketinde çağrı deşifresi

Bir servis şirketi çağrıları kaydediyor ve her biri için deşifre ile kısa bir değerlendirme istiyor. Bulut servisi dakika başına para alıyor ve fatura çağrı sayısıyla birlikte büyüyor. Kendi sunucusundaki yerel tanıma modeli sunucunun maliyeti kadar tutuyor ve dakika sayısına bağlı değil.

Açık araçlar, hacmin büyüdüğü ve görevin tekrarlandığı yerde avantajlı. Bu anlamda açık model Nginx ya da MariaDB'den farklı değil.

Bende nasıl çalışıyor

Kendi ve ücretsiz araçları severim, iki proje bunu gösteriyor. 2023 sonu ve 2024 başında Londra'daki bir danışmanlık şirketi için blogger'lara altyazı sistemi yaptım: girişte Google Drive klasöründen video ya da YouTube bağlantısı, çıkışta zaman damgalı SRT dosyası. Konuşmayı yerel Whisper modeli tanıyordu, ücretli deşifre servisi yoktu, bu yüzden kayıt dakikası başına ödeme gerekmiyordu. Sunucu da para tutuyor elbette, ama hacim için ayrı ödeme yoktu. Altyazıları videoya bindirme planlardaydı, ama müşteri projeyi durdurdu.

İkinci örnek yeni. 2026 eylül ve ekiminde “Birlikte Kahve” servisini tasarladım ve yaptım; bu bir IT şirketinin iç servisi: çalışanlar toptancı Tasty Coffee'den ortak kahve siparişi veriyor, servis toplu siparişi topluyor ve tedarikçinin sepetini kendisi dolduruyor. Stüdyonun 2 GB bellekli ortak sunucusunda, Nginx arkasında Docker'da çalışıyor; veritabanı SQLite, uygulama React ve TypeScript. Servis çalışanlara ve yöneticilere toplamda ayda 100 saatten fazla kazandırıyor. Pahalı olanı ucuza yapabildiğimde gururlanıyorum.

Açık olan sahipsiz değil: PDR şirketinin ve çiftliğin sunucuları Debian'da, MariaDB neredeyse bütün projelerimde, kononov.dev Next.js, Node.js ve SQLite ile Nginx arkasında Docker'da çalışıyor. Sentry haklı: başkasının emeğiyle para kazanan şirketler o emeği desteklemeli.

Ben ne yapardım

Şirketin hangi servislere hacme göre ödediğini hesaplardım: deşifre dakikaları, tanıma sayfaları, token'lar. Hacmin büyüdüğü yerde kendi sunucudaki açık modele bakardım.

Bulut modellerini tamamen atmazdım. PDR şirketinin ayrıştırıcılarında belgeleri kontrol etmek için üç dış servis kullanıyorum ve tasarruf için onları doğruluk karşılaştırması yapmadan yerel modelle değiştirmezdim.

Sürümleri sabitlerdim: “sadece güncellenen” açık model, sonucu güncellenen bir kütüphane kadar değiştirir.

Her modelin ticari kullanım lisansını müşterinin sunucusuna girmeden önce kontrol ederdim. Bütçede de kullandığınız şeyleri desteklemek için bir satır bırakırdım: en azından onsuz sistemin duracağı bir iki proje için.

İlgili yazılar

Belge incelemesinde modeller ve sonucun kontrolü: Veri işlemede yapay zeka: çıkarma ve doğrulama yazısı. Hizmet alanları: sonucun kontrol edilebildiği süreçte yapay zeka ve belgeler, veriler ve tekrarlanabilir işleme için Python. Projeler: yerel Whisper ile videodan SRT altyazı ve “Birlikte Kahve” servisi. Komşu yazılarım: kendi model ile API arasında yönlendirme ve kendi sunucuda konuşma deşifresi; daha önce model kataloğunu ve fiyatları uygulama sürümünden neden ayırmak gerektiğini yazmıştım. Bir yapay zeka servisine hacme göre ödüyorsanız ve bunun ne kadarının kendi sunucunuza taşınabileceğini anlamak istiyorsanız, hangi görevler ve hangi hacim olduğunu anlatın. Görevi konuşalım.