Gizli AI çıkarımı, işlem yetkisini kendiliğinden sağlamaz

Gizli çıkarım, kurumsal AI güvenliğinin bir bölümünü çözer. Altyapı işletmecisi istemi okuyamasa bile ajan doğru kullanıcıyı belirlemeli, izinli belgeleri seçmeli ve sonuç doğuran işlem için yetki almalıdır. Brave, Twilio, Docker ve CNCF yayınları, platform seçmeden önce bu sorumlulukları ayırmaya yardımcı oluyor.

Brave'ın 15 Ekim duyurusu Leo'daki belirli GLM yolu için cihazda şifreleme, doğrulanmış ortam ve TEE içinde çıkarımı anlatıyor. Bu kapsam bütün tarayıcı modellerine genişletilemez. Twilio'nun aynı günkü ajan kimliği yazısı, işlemi sahibine ve sınırlı yetkiye bağlıyor. Docker'ın 14 Ekim güvenlik incelemesi otonom yürütme risklerini ele alıyor. CNCF'deki 8 Ekim katkı yazısı doğrulanabilir sonraki sistem durumunun önerilmesini savunuyor. Sonuncusu zorunlu CNCF standardı değildir.

Dört sınır farklı kanıt ister

Aktarım şifrelemesi yoldaki dinlemeyi sınırlar. Gizli hesaplama sağlayıcının altyapısına bir sınır ekler. Yetki devri işlemin kimin adına yapıldığını belirler. Yürütme katmanı, belirli değişikliğin şu anda izinli olup olmadığını denetler. Bir kontrolün geçmesi diğerlerini karşılamaz.

Çalışanın bir sözleşmeyi açıklamasını istediğini düşünün. İstemin korunmasından önce uygulama bu çalışanın o sözleşmeyi okuyabildiğini doğrulamalıdır. Sonraki mesajda vadenin değiştirilmesi istenirse yeni bir işlem doğar. Okuma hakkı şirketin yükümlülüğünü değiştirme yetkisi vermez.

Bu nedenle izinli veriyi uygulama seçmeli, araçlar sınırlandırılmış parametreler kabul etmeli ve politika yürütme öncesinde yeniden uygulanmalıdır. Model işi önerebilir; erişim kurallarının tek koruyucusu olamaz. Böylece yalnızca güvenli davranmasını söyleyen bir istem yerine somut kararlar sınanabilir.

Satın alma görüşmesinde de kanıtın kapsamını sorun. Sağlayıcının istemi okuyamaması, aşağıdaki aracın doğru izinle çalıştığını göstermez. Kullanıcının oturum açması da hazırlanan değişikliğin güncel belgeye uyduğunu kanıtlamaz. Her sınırın hangi bileşen tarafından uygulandığı belli olmalıdır.

Ortam doğrulaması yanıt doğrulaması değildir

Attestation, belirtilen tasarım içinde çalışan ortamı ve kodu doğrulamaya yarar. Yanıtın doğruluğunu kanıtlamaz, düşmanca talimatı zararsız yapmaz. Yalıtılmış ajan belgeyi yanlış anlayıp istenmeyen bir işlem önerebilir. Hata gizli kalırken uygulanırsa yine zarar verebilir.

Gözlemlenebilirlik de aynı sınırlara uymalıdır. Okunabilir istemlerin saklanmaması vaadi, ayrıntılı araç günlükleriyle sessizce bozulmamalıdır. İnceleme için çoğu zaman çalışma kimliği, politika sürümü, işlem, yetki sonucu ve teknik hata kodu yeterlidir. Belge içeriğini saklamak ayrıca gereklilik, erişim ve saklama süresi kararı gerektirir.

Kullanıcının cihazı ve sonuçların gittiği servisler de değerlendirmeye dahildir. Yanıt sıradan e-postayla gönderiliyorsa çıkarım gizliliği bütün veri yolunu açıklamaz. Girdiden alıcıya kadar rotayı, yedek sağlayıcıları ve arıza davranışını çıkarın. Servis kesintisi, gizli verinin başka koşullara sessizce taşındığı an olmamalıdır.

Varsayımsal sözleşme yardımcısı

Bu tasarım örneğinde yardımcı bir bölümün sözleşmelerini okur, açıklar ve değişiklik taslağı hazırlar. Erişim çalışana bağlanır, yalnızca gereken parçalar modele gider. Öneri kesin alanları ve dayanakları olan bir taslak olarak tutulur. Yürütücü servis işlemden önce izinleri ve kayıt sürümünü tekrar denetler.

Çalışan yeni tarihi onaylarken başkası sözleşmeyi değiştirdiyse eski onay yeni belgeye otomatik uygulanmaz. Fark gösterilip yeniden karar alınır. Devredilen yetki iş sürerken sona ererse ajan anlaşılır durumla durur. Ortak yönetici anahtarıyla devam etmek ilk anlaşmayı değiştirir.

Bu yapı klasöre sohbet arayüzü eklemekten daha fazla iş ister, ancak sınırları sınanabilir. Pilot öncesinde kaldırılmış erişimi, aramada yabancı belgeyi, süresi dolmuş onayı ve gizli çıkarım servisinin kesilmesini deneyin. Beklenen sonuç açıklanabilir ret veya doğru kişiye yönlendirmedir.

İş kuralları, durumlar ve izinler yazısı uygulama sınırını açıklar. Özel API vakası bağlantılı uygulama bağlamını sunar. Yardımcınızın erişim sınırlarını konuşurken korunması gereken işlem ve verilerden başlayabiliriz.