Kaliforniya Yasası, Yapay Zekaya Yeni Kurallar Getiriyor

Kaliforniya Eyalet Meclisi, birçok değişiklik yapıldıktan sonra Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (Sınır Yapay Zeka Modelleri için Güvenli ve Güvenceli İnovasyon Yasası) (SB 1047)’yi onayladı. Daha önce bu ay yapılan değişiklikler sonrasında bu onay geldi.

Eyalet Senatörü Scott Wiener tarafından sunulan SB 1047, ileri düzey yapay zeka ile ilişkili riskleri hafifletmeyi hedefliyor, örneğin otonom silahlar veya büyük çaplı siber saldırılar. Ayrıca, Business Insider (BI) tarafından bildirildiği üzere, bu yasa, yapay zeka modelleri geliştiren şirketlerin, öldürme anahtarları ve üçüncü taraf testleri dahil olmak üzere güvenlik önlemleri uygulamasını zorunlu kılıyor.

SB 1047’nin önemli hükümleri arasında, önemli ölçüde hesaplama gücü gerektiren ve önemli zarara neden olma potansiyeli olan “kaplanmış modeller” için geliştiricilere katı sıhhi tesisat protokolleri bulunmaktadır.

Bu protokoller, geliştiricilerin beklenmeyen sonuçlar veya kötü niyetli kullanım gibi riskleri ele almak için kapsamlı güvenlik önlemleri uygulamalarını gerektirir. Ayrıca, geliştiricilerin uyumu sağlamak için yıllık bağımsız denetimlerden geçmeleri ve herhangi bir AI güvenlik olayını 72 saat içinde Adalet Bakanlığı’na bildirmeleri gerekmektedir.

Bu tasarı aynı zamanda hesaplama kümesi operatörlerine de sorumluluklar yükler ve onlardan bu yüksek riskli modellerin eğitimini alan müşterileri belirlemelerini ve potansiyel tehlikeleri hafifletme adımları atmalarını talep eder.

SB 1047, teknoloji sektörü içerisinde önemli bir tartışma yarattı. Savunucuları, gelişmiş AI’nın potansiyel tehlikelerinden halkı korumanın hayati önem taşıdığını savunurken, karşıtları, bu tasarının yenilik üzerindeki potansiyel etkisi hakkında endişelerini dile getiriyorlar.

Eleştirmenler ayrıca bu düzenlemelerin şirketlere yük getirebileceğini ve büyük teknoloji devleriyle rekabet etme yeteneklerini sınırlayabileceğini savunuyor. Ancak, Senator Wiener bu yasayı savundu ve AI geliştirmeye 100 milyon doların üzerinde harcama yapan şirketlere yönelik olduğunu, daha küçük startupları muaf tuttuğunu belirtti, Fortune tarafından bildirildiği gibi.

Elon Musk, X CEO’su ve xAI’nin kurucusu, faturayı desteklediğini ifade etti. Bazılarını rahatsız etme potansiyeline sahip olduğunu kabul etti, ancak halka açık riskleri önlemek için düzenlemenin gerekliliğini vurguladı.

Ancak, diğer büyük AI şirketleri ve uzmanlar karşı çıktılar. Örneğin, LA Times raporlarında OpenAI’in Baş Strateji Sorumlusu Jason Kwon’un Wiener’e bir mektup yazdığını belirtiyor, “Federal düzeyde yönetilen bir AI politikaları seti, eyalet yasalarının parçalı yapısı yerine, inovasyonu teşvik edecek ve ABD’yi küresel standartların geliştirilmesinde lider konuma getirecektir.”

Ayrıca, AI uzmanı Stanford profesörü Fei-Fei Li, argümanını sunarken, yasanın iyi niyetli olduğunu ancak önemli yan etkileri olabileceğini belirtti. Bunlar arasında açık kaynaklı topluluğa zarar vermek ve akademik erişimi, hayati AI modellerine sınırlamak da bulunmaktadır.

Tartışmalara rağmen, SB 1047 ayrıca, sorumlu AI geliştirmeyi desteklemek ve araştırmacılara ve geliştiricilere gerekli kaynaklara erişim sağlamak için CalCompute adında bir kamu bulut hesaplama kümesi oluşturmayı önermektedir.

Bu yasa tasarısı, Kaliforniya’daki AI’ı düzenleme yolunda önemli bir adımı temsil ederken, eleştirmenler ve destekçiler aynı şekilde, hızla evrilen AI manzarasının, ortaya çıkan zorlukları ve fırsatları ele almak için yasanın daha fazla revizyon gerektirebileceğini kabul etmektedirler.