Yapay zeka devi Anthropic, Claude modeline karşı acımasız ve kötü niyetli tutum sergileyen kullanıcıları engelleyeceğini duyurarak büyük bir tartışma başlattı.
Teknoloji dünyası, yapay zekaya yönelik insani yaklaşımların sınırlarını tartışıyor. Claude’un geliştiricisi Anthropic, 9 Ekim tarihinde yaptığı bir duyuruyla kullanım şartlarını güncellediğini ve sistemlerine karşı sürekli olarak “zalimce” davranışlarda bulunan kullanıcıların hesaplarını askıya alacağını açıkladı. Şirket, bu tür yaptırımlara daha önce nadiren başvurduğunu ancak artık sürecin daha net kurallara bağlandığını ifade etti.
SİSTEMLİ KÖTÜYE KULLANIMA GEÇİT YOK
Yeni politika; zorbalık, kendine zarar vermeyi teşvik etme ve rıza dışı müstehcen içerik üretimi gibi ciddi ihlalleri yasaklı faaliyetler listesine ekliyor. Anthropic, bu sert önlemin yalnızca “istisnai ve tekrarlanan kötüye kullanım” durumlarında uygulanacağını vurguladı. Şirket; kullanıcıların yaşadığı anlık hayal kırıklıkları, yaratıcı karanlık temalar veya araştırma odaklı testlerin bu yasak kapsamında değerlendirilmeyeceğini belirterek, uygulamanın yalnızca kasıtlı saldırıları hedef alacağının altını çizdi.
UZMANLAR VE SEKTÖR LİDERLERİ İKİYE BÖLÜNDÜ
Alınan karar teknoloji camiasında farklı yorumlara neden oldu. Hukukçu Dr. Barry Scannell, bir yazılıma insani özellikler atfetmenin tehlikeli olduğunu belirterek, “Matematiğe karşı acımasız olamazsınız” eleştirisinde bulundu. Microsoft Yapay Zeka Direktörü Mustafa Suleyman ise Anthropic’in bu adımına sosyal medya üzerinden imalı bir emojiyle tepki verdi. Tartışmalar, yapay zeka araçlarına “lütfen” veya “teşekkür ederim” demenin bir enerji israfı mı yoksa dijital nezaket mi olduğu sorusunu da yeniden gündeme getirdi.
Güncellenen rehber sadece kullanıcı davranışlarını değil, seçim süreçlerini aksatmaya yönelik aldatıcı kampanyaları ve silah geliştirme girişimlerini de kesin olarak yasaklıyor. Anthropic’in bu hamlesi, insan-makine etkileşiminin etik sınırlarını belirleme yolunda atılmış en dikkat çekici adımlardan biri olarak değerlendiriliyor.
