AI işaretleme sistemi: Claude’un metinlerine gizli dijital damga

Anthropic şirketi, Claude tarafından üretilen metinlerin yapay zekâ tarafından oluşturulduğunu tespit etmeyi kolaylaştırmak için yeni bir işaretleme sistemi geliştiriyor. Bu sistem, Claude’un ürettiği içeriklere algılanamazya dayalı dijital olarak imzalanmış kaynak metadatası ekleyecek. Anhtropic’in ekibi, metinlerde görünmez filigranlar ve dosyalardaki kaynak bilgilerini kullanıcılar ile üçüncü taraflar tarafından tespit edilebilmesini sağlayacak araçlar üzerinde çalışıyor. Bu gelişme, 2 Ağustos’ta yürürlüğe girecek Avrupa Birliği Yapay Zekâ Yasası’na uyum sağlamayı hedefliyor.

İşaretleme sistemi, C2PA metadatasını tespit etmeye yönelik Google Gemini dahil çeşitli araçlarla birlikte test edilecek. Ancak bu araçların Claude tarafından işlenen dosyalarda çalışıp çalışmayacağı henüz net değil. Şirket, bu tespit sistemine ilişkin daha fazla ayrıntının ileride yayımlanacak teknik belgelerde paylaşılacağını belirtiyor. Meta verileri eklemek, metinlerin kaynağını görünür kılacak ama görünmez bir damga olarak kalacak.

Yeni sistem hemen bütün Claude modellerinde devreye girmeyecek. Bu karar, sistemin geniş kapsamlı testlerden geçmesi ve kullanıcı deneyimini olumsuz etkilememesi için alınmış. Şirket, bu sistemin Avrupa Birliği’nin yeni kurallarına uyumda önemli bir adım olduğunu vurguluyor. Ancak sistemin tam olarak ne zaman yayına gireceği henüz açıklanmamış.

Böylece, yapay zekâ tarafından oluşturulan içeriklerin şeffaflığı artırılacak. Kullanıcılar, Claude metinlerinde gizli dijital damgayı tespit edebilecek araçlar sayesinde içeriklerin doğruluğunu kontrol edebilecekler. Bu sistem, AI içeriklerinin izlenebilirliğini sağlayarak güveni pekiştirmeyi amaçlıyor. Ne zaman tam olarak devreye girecek, henüz net değil, ama gelişmeleri yakından takip ediyoruz.

Kaynak: Orijinal Haber