Yapay zekâ alanında güvenlik odaklı yaklaşımıyla öne çıkan Anthropic, ABD'de yapay zekâ düzenlemelerine ilişkin tartışmaları yeniden alevlendirecek kapsamlı öneriler sundu. Şirket, özellikle en güçlü yapay zekâ sistemlerinin bağımsız denetimlerden geçirilmesini ve ciddi güvenlik riskleri ortaya çıkması halinde yetkili kurumların müdahale edebilmesini sağlayacak yasal araçların oluşturulmasını istedi.
Anthropic'in önerileri, gelişmiş yapay zekâ modellerinin toplum, ekonomi ve ulusal güvenlik üzerindeki potansiyel etkilerine yönelik endişelerin arttığı bir dönemde gündeme geldi.
Bağımsız güvenlik testleri zorunlu hale gelebilir
Şirketin Kongre'ye ilettiği tavsiyelerde, en yüksek kapasiteye sahip yapay zekâ modellerinin piyasaya sürülmeden önce bağımsız güvenlik değerlendirmelerinden geçirilmesi gerektiği vurgulandı. Anthropic'e göre yalnızca şirketlerin kendi iç test süreçlerine güvenmek, gelecekte ortaya çıkabilecek sistemik riskleri önlemek için yeterli olmayabilir.
Öneride, yapay zekâ geliştiricilerinin risk analizleri, güvenlik önlemleri ve test sonuçları konusunda daha şeffaf davranmalarını sağlayacak yasal yükümlülüklerin de değerlendirilmesi gerektiği ifade edildi.
Federal düzenleme olmadan eyalet yasalarının kaldırılmasına karşı çıktı
Anthropic, yapay zekâ alanında eyalet düzeyindeki düzenlemelerin tamamen etkisiz hale getirilmesine de mesafeli yaklaştı. Şirket, Kongre'nin güçlü ve kapsamlı bir federal yapay zekâ yasası çıkarmaması halinde mevcut eyalet düzenlemelerinin korunması gerektiğini savundu.
Bu yaklaşım, son dönemde ABD'de yapay zekâ düzenleme yetkisinin federal hükümet ile eyaletler arasında nasıl paylaşılması gerektiğine ilişkin süren tartışmaların merkezinde yer alıyor.
Katastrofik risklere karşı özel yetki talebi
Anthropic'in dikkat çeken önerilerinden biri de yüksek riskli yapay zekâ sistemlerinin oluşturabileceği olağanüstü senaryolara yönelik oldu. Şirket, kamu güvenliği, kritik altyapılar veya ulusal güvenlik açısından ciddi tehdit oluşturabilecek modeller söz konusu olduğunda devlet kurumlarının belirli müdahale yetkilerine sahip olması gerektiğini savundu.
Bu kapsamda, riskli sistemlerin kullanımının sınırlandırılması veya durdurulması gibi araçların yasal zemine kavuşturulması gerektiği görüşü öne çıktı.
Anthropic, yapay zekâ kaynaklı potansiyel felaket risklerinin yalnızca gönüllü şirket politikalarıyla yönetilemeyeceğini, kamu otoritelerinin de sürece dahil olması gerektiğini savunuyor.
Yapay zekâ güvenliği tartışmaları hız kazanıyor
Şirket son aylarda da yapay zekâ güvenliği konusunda daha sert önlemler alınması gerektiğine yönelik çeşitli açıklamalar yapmıştı. Anthropic yöneticileri, yapay zekâ sistemlerinin giderek daha fazla otonom davranış sergileyebileceği ve gelecekte kendi gelişim süreçlerini hızlandırabilecek seviyelere ulaşabileceği konusunda uyarılarda bulunuyor.
Uzmanlar ise yapay zekâ alanındaki hızlı ilerlemenin inovasyonu desteklerken aynı zamanda denetlenebilirlik, hesap verebilirlik ve güvenlik standartlarının da güçlendirilmesini zorunlu hale getirdiğini belirtiyor.
Anthropic'in son önerileri, ABD'de önümüzdeki dönemde şekillenecek yapay zekâ mevzuatında güvenlik testleri, şeffaflık yükümlülükleri ve yüksek riskli sistemlere yönelik müdahale mekanizmalarının daha fazla gündeme gelmesine neden olabilir.
