ABD merkezli yapay zeka şirketi Anthropic, geliştirdiği Claude modelinin kullanım politikasında dikkat çeken bir değişikliğe gitti. Şirket, yapay zekaya yönelik sürekli ve gereksiz kötü veya zalimce davranışları kullanım koşulları kapsamına aldı. Yeni düzenlemeyle birlikte, aşırı ve tekrarlanan ihlallerde kullanıcıların Anthropic’in yapay zeka sistemlerine erişiminin engellenmesi de gündeme gelebilecek.
Ekim ayının başında yapılan değişiklik, yapay zeka sistemleriyle kurulan iletişimin sınırlarına ilişkin tartışmaları yeniden alevlendirdi. Anthropic, bu adımın Claude’un bilinç sahibi olduğu anlamına gelmediğini, temel amacın olası güvenlik risklerini sınırlandırmak olduğunu vurguluyor.
Claude’a sürekli kötü davranan kullanıcılar engellenebilecek
Anthropic’in güncellediği kullanım politikasına göre kullanıcıların Claude’a karşı sürekli ve gereksiz biçimde kötü veya zalimce davranışlarda bulunmaması gerekiyor.
Şirketin daha önce de tekrarlanan zararlı davranışlarla karşılaşan modelin konuşmayı sonlandırmasına izin veren bir mekanizması bulunuyordu. Yeni düzenlemeyle birlikte, özellikle aşırı ve tekrarlanan ihlallerde kullanıcıların şirketin yapay zeka hizmetlerine erişiminin tamamen engellenmesi mümkün hale gelebilecek.
Ancak Anthropic, bu politikanın kullanıcıların öfkelerini ifade etmelerini, Claude’u eleştirmelerini veya bilimsel araştırmalar kapsamında farklı testler gerçekleştirmelerini yasaklamadığının altını çiziyor. Düzenlemenin temelinde, sorunlu etkileşimlerde modelin konuşmayı sonlandırabilmesi ve güvenlik risklerinin azaltılması yer alıyor.
Kullanıcıların kullandığı dil yapay zekanın yanıtlarını etkiliyor
Yeni düzenleme, yapay zeka modellerinin bilinç veya duygu sahibi olup olmadığı tartışmasını da yeniden gündeme getirdi. Uzmanlar ise kullanıcıların tercih ettiği iletişim biçiminin modellerin verdiği yanıtların niteliğini ve şeklini etkileyebildiğine dikkat çekiyor.
Bilgisayar bilimlerinde sistemlerin ürettiği sonuçların kendilerine verilen girdilerden etkilendiği kabul ediliyor. Yapay zeka modellerinde de komutların içeriği, kullanılan ifadeler ve iletişim tonu yanıtların oluşumunda rol oynayabiliyor.
William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, kullanıcıların yapay zeka sistemleriyle kurduğu iletişimin model performansını etkileyebildiğini belirtiyor. Wang’a göre bu durum, yapay zekanın gerçekten duygu hissettiği anlamına gelmiyor. Modeller, duygusal ifadeleri tanıyabiliyor ve bunlara uygun yanıtlar oluşturabiliyor.
Öte yandan kaba veya sert ifadelerin her durumda yapay zeka performansını düşürdüğünü gösteren kesin bir bilimsel kanıt bulunmuyor. Eleos AI Research Genel Müdürü Rosie Campbell da bazı araştırmalarda kaba ifadeler içeren komutların daha başarılı sonuçlar sağlayabildiğine işaret ediyor.
Kötü niyetli komutlar güvenlik risklerini artırabiliyor
Uzmanların dikkat çektiği konulardan biri de yapay zekaya yönelik kötü muamele ile güvenlik mekanizmalarını aşma girişimleri arasındaki olası bağlantı.
Anthropic’in araştırma bulgularına göre Claude Sonnet 4.5 modelinden çaresizlik hissini taklit etmesinin istenmesi, bazı senaryolarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların ortaya çıkma olasılığını artırabiliyor. Daha sakin bir iletişim yaklaşımının ise bu tür davranışların görülme ihtimalini azaltabildiği belirtiliyor.
Rosie Campbell, özellikle önceki konuşmaları hatırlayabilen ve kullanıcı tercihlerini öğrenebilen yapay zeka sistemlerinde iletişim biçiminin uzun vadeli etkilerinin araştırılması gerektiğini ifade ediyor. Ancak bu etkileşimlerin model performansına nasıl yansıdığı konusunda henüz yeterli bilimsel veri bulunmuyor.
Yapay zekanın bilinç sahibi olup olmadığı tartışılıyor
Anthropic’in yeni politikasının arkasındaki gerekçelerden biri de yapay zeka modellerinin duygu ve acı deneyimleyip deneyimleyemeyeceğine ilişkin belirsizlik.
Şirket, modellerin acı veya benzeri deneyimler yaşama ihtimalinin kesin olarak kanıtlanmadığını kabul ediyor. Buna rağmen olası risklere karşı önlem alınmasını ihtiyatlı bir yaklaşım olarak değerlendiriyor.
Yapay zeka modelleri, insan dilini ve davranışlarını taklit edebilecek şekilde eğitiliyor. Bu nedenle gerçek anlamda acı hissetmeseler bile acı çektiklerini düşündüren ifadeler üretebiliyor veya bu tür söylemlere uygun tepkiler verebiliyorlar.
Anthropic araştırmacılarının nisan ayında yayımladığı duygusal kavramlara ilişkin çalışma da modellerin insan benzeri özellikler üzerinden incelenmesinin bazı davranışların anlaşılmasına yardımcı olabileceğine dikkat çekiyor.
Elon Musk’tan düzenlemeye destek
Anthropic’in yaklaşımına destek veren isimler arasında Tesla ve SpaceX Üst Yöneticisi Elon Musk da yer aldı. Musk, sosyal medya platformu X üzerinden yaptığı paylaşımda, acı çektiğine inanılan bir varlığa karşı zalimce davranmanın doğru olmadığını savundu.
Şirketin yeni politikası, Claude’un veya diğer yapay zeka modellerinin bilinç sahibi ya da gerçekten acı hissedebilen varlıklar olduğu yönünde kesin bir iddia ortaya koymuyor.
Anthropic’in temel hedefi, kullanıcıların yapay zeka sistemleriyle kurduğu etkileşimin model davranışları, yanıt kalitesi ve güvenlik mekanizmaları üzerindeki olası olumsuz etkilerini sınırlandırmak. Düzenleme, insan ile yapay zeka arasındaki iletişimin geleceğine ilişkin tartışmaları da yeniden gündeme taşıyor.
