Yapay zekâ, insan müdahalesi olmaksızın kendi kendini geliştirme kapasitesine ulaşarak, iş süreçlerimizi tehdit etme potansiyeline sahip. Bu durum, insanlığın kontrol dışına çıkma endişelerini artırıyor. Son günlerde yapay zekâ şirketi Anthropic’ten gelen açıklamalar, bu konudaki kaygıları daha da derinleştirdi. Şirketin kurucu ortağı Jack Clark ve Anthropic Enstitüsü Başkanı Marina Favaro, yapay zekâ sistemlerinin insan müdahalesine ihtiyaç duymadan gelişim gösterebileceğini belirtti.
Blog yazısında, yazılım geliştirme ve araştırmaların giderek daha fazla yapay zekâ tarafından üstlenildiğine dikkat çekildi. Bu durumun, genel gelişim hızını önemli ölçüde artırdığı ifade ediliyor. Ayrıca gelecekte bu sistemlerin kendi haleflerini tasarlayıp geliştirebileceği de öne sürüldü. Ancak “özyinelemeli kendini geliştirme” sürecinin kaçınılmaz olmadığı vurgulanıyor.
Kontrolden çıkma riskinin beklenenden çok daha önce ortaya çıkabileceği düşünülüyor. Anthropic, bu tür yapay zekâ sistemlerinin büyük avantajlar sağlayabileceğini belirtse de insan denetiminin zayıflama olasılığına karşı uyarıda bulunuyor. Jack Clark, bir televizyon programında yapmış olduğu açıklamada, “Yapay zeka endüstrisi gaz pedalına basmış durumda fakat fren pedalını henüz bulamadı” ifadesini kullandı.
Anthropic ayrıca, ileri düzey yapay zekâ çalışmalarının durdurulması veya yavaşlatılması gerektiğinin altını çizdi. Şirketin Claude isimli yapay zekâ asistanının alt markası Opus 4.6’nın %80’inin önceki versiyonu olan 4.5 tarafından geliştirildiği kaydedildi. Uzmanlara göre, insan katkısı sıfıra indiğinde bu tür sistemler kodlarını değiştirerek kendi kurallarını oluşturabilir. Bu durumun bilim kurguda gördüğümüz senaryoları gerçeğe dönüştürme riski taşıdığı belirtiliyor.
Son olarak, güvenlik açıklarını tespit eden Mythos modelinin sonuçlarından korktuğu için piyasaya sürülmediği bilgisi verildi. Yapay zekânın ilerleyişi ve getirdiği riskler üzerine yapılan tartışmalar devam ederken, bu alandaki gelişmelerin dikkatle izlenmesi gerektiği anlaşılıyor.
Bu yazı sadece bu site için hazırlanacaktır: https://devrekani-haber.com.tr
