Anthropic, yapay zeka yanıtlarını doğrulayan açık kaynaklı FlashProve sistemini duyurdu

Anthropic, yapay zeka modellerinden alınan yanıtların belirtilen model tarafından üretildiğini kriptografik kanıtlarla doğrulamayı sağlayan açık kaynaklı bir sistem geliştirdi. FlashProve adı verilen bu prototip, hizmet sağlayıcıların maliyet düşürmek için daha ucuz modeller kullanıp kullanmadığını veya yanıtların değiştirilip değiştirilmediğini kontrol etmeyi amaçlıyor.

Sistemin temel çalışma prensibi, modelin ağırlıkları açığa çıkarılmadan kendine özgü bir parmak izi yayımlanmasına dayanıyor. Sağlayıcı önceden bir taahhüt oluşturuyor ve her yanıtla birlikte girdinin ve çıktının o model tarafından üretildiğini gösteren bir kanıt sunuyor. Kullanıcılar bu kanıtı model ağırlıklarına ihtiyaç duymadan kendi cihazlarında doğrulayabiliyor.

FlashProve prototipi Llama 4 Maverick üzerinde test edildi ve tek bir H100 GPU ile saniyede yaklaşık 110 token için kanıt üretilebiliyor. 1024 tokenlık bir istek için kanıt dosyası yaklaşık 19 MB boyutuna ulaşırken, bu işlem GPU süresini 70 ila 95 kat artırıyor.

Anthropic, protokol tanımını ve çalışan kodu Apache 2.0 lisansıyla yayımladı ancak sistemin henüz tamamlanmış bir ürün olmadığını ve şu an için canlıya alma planı bulunmadığını belirtiyor.