“Yapay zekayı durdurma” çağrılarına yenileri ekleniyor

Yapay Zeka Şirketi Anthropic: Yapay Zeka Kendini Üretiyor

Yapay zeka teknolojilerinin kendi kodlarını yazarak “insansız şekilde evrimleşebileceği” konusunda endişeler giderek artarken, ABD’li yapay zeka şirketi Anthropic, bu konuda önemli bir makale yayımladı. “When AI builds itself” (Yapay zeka kendini ürettiğinde) başlıklı makalede, yapay zekanın kendi haleflerini tasarlayıp eğitebileceği ve otonom yazılım döngülerinin oluşturulduğu belirtildi. Verilere göre, bir yapay zeka modelinin insan müdahalesi olmaksızın kendi halefini tasarlayıp eğitebildiği teorik eşiğin aşılmasının daha yakın olduğu vurgulandı. Claude yazılım sistemi örneğinde, yapay zekanın kendi kodlarını oluşturmasında büyük bir ilerleme kaydedildiği ortaya çıktı. Şirketin paylaştığı bilgilere göre, 2025 yılı başlarında modelin kendisi tarafından yazılan kodların yüzde 80’den fazlası doğrudan kod tabanına entegre edildi.

Anthropic, yapay zekanın gelişimini 5 aşamada değerlendiriyor. Şirketin raporuna göre, yapay zekanın geldiği nokta 4. aşamada bulunuyor. İlk aşamada çalışmanın normal bir şirkette olduğu belirtilirken, ikinci aşamada çalışanların üretken yapay zekalardan yardım alarak kod yazdığı, üçüncü aşamada ajan yapay zekaların kendi kendine kod yazabilir hale geldiği ve şu anda ise kodları kendi kendine çalıştırıp işleri diğer yapay zekalara devrettiği belirtiliyor. Şirketin tahmin ettiği 5. aşamada ise ajanların kendi modellerini oluşturup eğitebilecek seviyeye geleceği ve yapay zekanın gelecekteki sürümlerini sürekli olarak geliştirebileceği belirtiliyor.

Yapay zekayı durdurma çağrıları artıyor. Anthropic şirketinin yanı sıra, dünya çapında birçok kişi yapay zekanın kontrol altına alınması gerektiği konusunda uyarılarda bulunuyor. Future of Life Institute (FLI) tarafından yapılan bir çağrıda, yapay zeka sistemlerinin toplum ve ekonomi için risk oluşturabileceği vurgulanarak GPT-4 gibi sistemlerin eğitiminin durdurulması talep ediliyor. Benzer şekilde, Papa 14. Leo da yapay zekanın sadece teknik olarak değil, askeri ve ekonomik olarak da kontrol altına alınmasını istiyor.

Yapay zeka yatırımları artmaya devam ederken, sektörün hızla büyüdüğü görülüyor. Gartner’ın yayımladığı bir rapora göre, küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025 yılına kıyasla yüzde 47’lik büyük bir artışı gösteriyor. Şirket, yapay zeka harcamalarının 2027 yılında daha da artarak 3,49 trilyon dolara yükseleceğini öngörüyor.