Yapay zekâ teknolojisi son yıllarda hayatın hemen her alanında daha fazla kullanılırken, gelişmiş modellerin oluşturabileceği güvenlik riskleri konusunda da tartışmalar yoğunlaşıyor.
ABD’nin teknoloji sektörünün merkezlerinden California ise yapay zekâ alanında daha kapsamlı denetim mekanizmaları oluşturmak için yeni bir adım attı.
California Valisi Gavin Newsom, 18 Eylül’de imzaladığı kararnameyle eyaletin yapay zekâ güvenliği alanındaki çalışmalarının hızlandırılmasını istedi. Kararname kapsamında bağımsız denetim mekanizmalarının güçlendirilmesi ve ileri düzey yapay zekâ modelleri için acil durumlarda devre dışı bırakma mekanizmasının geliştirilmesine yönelik çalışmaların ilerletilmesi öngörülüyor.
“ACİL KAPATMA TUŞU” GÜNDEMDE
Kararnamenin en dikkat çeken başlıklarından biri, gelişmiş yapay zekâ modelleri için “kill switch” olarak ifade edilen acil kapatma mekanizması.
Bu sistemin temel amacı, bir yapay zekâ modelinin ciddi bir güvenlik riski oluşturduğu veya kontrol dışına çıktığı değerlendirilen durumlarda sistemin hızlı biçimde devre dışı bırakılabilmesini sağlamak.
Ancak söz konusu mekanizmanın şu anda bütün yapay zekâ sistemlerinde kullanılmaya başlanmış hazır bir “kapatma düğmesi” olmadığı belirtiliyor. Newsom’un kararnamesi, böyle bir mekanizmanın oluşturulmasına yönelik çalışmaların hızlandırılmasını ve güvenilirliğinin bağımsız kuruluşlar tarafından değerlendirilmesini öngörüyor.
Bu yönüyle California’nın hamlesi, yapay zekâ sistemlerinin yalnızca geliştirilmesi ve kullanılması değil, gerektiğinde güvenli biçimde sınırlandırılması konusunu da düzenleme gündeminin merkezine taşıyor.
BAĞIMSIZ DENETİM MEKANİZMASI GELİŞTİRİLECEK
Kararnamenin bir diğer önemli ayağını bağımsız denetim oluşturuyor.
California yönetimi, gelişmiş yapay zekâ sistemlerini geliştiren şirketlerin güvenlik uygulamalarının şirketlerin kendi değerlendirmeleriyle sınırlı kalmamasını hedefliyor.
Buna göre ileri düzey yapay zekâ şirketlerinde bağımsız doğrulama kuruluşlarının daha etkin rol üstlenmesi planlanıyor. Bu kuruluşların güvenlik planlarını, risk değerlendirmelerini ve şirketlerin yayımladığı şeffaflık raporlarını incelemesi öngörülüyor.
Eyalet yönetimi ayrıca yapay zekâ güvenliği alanında denetim gerçekleştirecek kuruluşların bağımsızlığı ve çalışma standartları konusunda da yeni kurallar oluşturmayı planlıyor.
UZMANLARDAN YAPAY ZEKÂ GÜVENLİĞİ İÇİN KILAVUZ
Newsom’un imzaladığı kararname kapsamında uzmanlardan oluşan bir çalışma grubunun da devreye alınması planlanıyor.
Grubun yaklaşık iki ay içerisinde California’nın yapay zekâ güvenliği ve denetimiyle ilgili mevzuatının güçlendirilmesine yönelik tavsiyeler hazırlaması bekleniyor.
Bu çalışmaların, gelişmiş yapay zekâ modellerinin nasıl denetlenmesi gerektiğinden acil durumlarda hangi güvenlik önlemlerinin uygulanacağına kadar çeşitli başlıkları kapsaması planlanıyor.
Eyalet yönetimi, hazırlanan tavsiyelerin ilerleyen dönemde yeni yasal düzenlemelerin temelini oluşturabileceğini değerlendiriyor.
YAPAY ZEKÂNIN KONTROLÜ TARTIŞILIYOR
California’nın hamlesi, yapay zekânın gelişim hızına ilişkin uluslararası tartışmaların yoğunlaştığı bir dönemde geldi.
Yapay zekâ şirketleri daha gelişmiş ve daha bağımsız hareket edebilen modeller üzerinde çalışmalarını sürdürürken, bu sistemlerin ne kadar güvenilir biçimde kontrol edilebileceği konusunda teknoloji dünyasında farklı görüşler bulunuyor.
Bazı araştırmacılar, sistemlerin yetenekleri arttıkça güvenlik testlerinin ve insan denetiminin de aynı hızda geliştirilmesi gerektiğini savunuyor.
Son dönemde yapay zekâ şirketlerinde görev yapan bazı araştırmacıların da güvenlik ve kontrol mekanizmalarının yeterliliği konusunda kamuoyuna uyarılarda bulunması, tartışmaları daha da büyüttü.
ANTHROPIC CEO’SUNDAN GELİŞİM HIZI UYARISI
Yapay zekâ güvenliği tartışmalarında teknoloji şirketlerinin yöneticilerinden gelen açıklamalar da dikkat çekiyor.
Anthropic CEO’su Dario Amodei, yapay zekânın çok hızlı geliştirilmesinin mevcut güvenlik ve kontrol mekanizmaları üzerinde baskı oluşturabileceği yönünde değerlendirmelerde bulundu.
Amodei’nin açıklamaları, yapay zekâ sistemlerinin geliştirilme hızının güvenlik çalışmalarının kapasitesiyle dengelenmesi gerektiği tartışmasını yeniden gündeme taşıdı.
Bu tartışmanın merkezinde ise önemli bir soru bulunuyor: Yapay zekâ sistemlerinin yetenekleri hızla artarken, insanlığın bu sistemleri denetleme kapasitesi aynı hızda gelişebilecek mi?
CALIFORNIA’NIN MEVCUT YASALARI DA HIZLANDIRILACAK
Newsom’un son kararnamesi, California’nın daha önce kabul ettiği yapay zekâ düzenlemelerinin uygulanmasını da hızlandırmayı hedefliyor.
Eyalet yönetimi, yapay zekâ sistemlerinin bağımsız biçimde değerlendirilmesine yönelik SB 813 ve AI denetçilerinin kayıt altına alınmasına ilişkin AB 1405 kapsamında oluşturulan mekanizmaların uygulama takvimlerinin hızlandırılmasını istiyor.
Böylece California, yapay zekâ şirketlerinin yalnızca kendi güvenlik değerlendirmelerine dayanmak yerine bağımsız denetim süreçlerinden geçmesini amaçlıyor.
“KONTROLDEN ÇIKMA” SENARYOLARI DA İNCELENECEK
Yeni düzenleme çalışmalarında yalnızca klasik güvenlik ihlallerinin değil, yapay zekâ sistemlerinin kontrolünün kaybedildiği durumların da ele alınması planlanıyor.
Kararnamede, “kontrol kaybı” olarak tanımlanabilecek olayların kritik güvenlik olayları kapsamına alınması yönünde değerlendirme yapılması isteniyor.
Bu yaklaşım, yapay zekâ güvenliğinin yalnızca veri gizliliği, siber saldırılar veya yanlış bilgi üretimi gibi mevcut risklerle sınırlı tutulmaması anlamına geliyor.
California yönetimi, daha gelişmiş yapay zekâ sistemlerinin ortaya çıkarabileceği yeni risklere karşı da düzenleyici bir çerçeve oluşturmayı hedefliyor.
TEKNOLOJİ MERKEZİ CALIFORNIA’DA YAPAY ZEKÂ SINAVI
Dünyanın en büyük teknoloji şirketlerinin ve çok sayıda yapay zekâ girişiminin bulunduğu California, sektörün gelişmesinde merkezi bir konuma sahip.
Bu nedenle eyalette alınan kararlar yalnızca California açısından değil, ABD’de yapay zekâ düzenlemelerinin geleceği açısından da yakından takip ediliyor.
Newsom yönetimi, California’da oluşturulan yapay zekâ güvenlik çerçevesinin ülke genelinde uygulanabilecek bir model haline gelmesi çağrısında da bulunuyor.
YAPAY ZEKÂ İÇİN YENİ DÖNEM Mİ?
California’nın son kararı, yapay zekâ teknolojisinin yalnızca inovasyon ve ekonomik büyüme açısından değil, güvenlik ve kamu denetimi açısından da ele alınmaya başladığını gösteren yeni gelişmelerden biri oldu.
Özellikle “acil kapatma tuşu” önerisi, yapay zekâ sistemleri üzerinde son kontrolün kimde olması gerektiği sorusunu gündeme getiriyor.
Henüz tüm gelişmiş yapay zekâ modellerinde kullanılmaya başlanmış tek bir fiziksel veya evrensel kapatma sistemi bulunmuyor. California’nın çalışması ise böyle bir mekanizmanın teknik ve hukuki olarak nasıl uygulanabileceğinin araştırılmasını amaçlıyor.
Uzman grubunun hazırlayacağı tavsiyeler, eyaletin önümüzdeki dönemde yapay zekâ şirketlerine yönelik güvenlik ve denetim kurallarını nasıl şekillendireceği açısından belirleyici olabilir.
Böylece yapay zekâ yarışında yalnızca “daha güçlü sistemler nasıl geliştirilecek?” sorusu değil, “güçlenen sistemler gerektiğinde nasıl durdurulacak?” sorusu da düzenleyici kurumların öncelikli gündemlerinden biri haline geliyor.
