Anthropic’ten siber güvenlik raporu: Claude yapay zeka modeli biyolojik silah geliştirmede, Rus siber casusluğunda ve İran propagandasında kullanılmak istendi.
Yapay zeka şirketi Anthropic, geliştirdiği Claude modelinin biyolojik silah geliştirmek amacıyla kötüye kullanılmasını engellediğini duyurdu. Şirketin son tehdit istihbaratı raporuna göre, Claude modeli ayrıca Rusya bağlantılı siber casusluk faaliyetlerinde ve İranlı bir propaganda kurumu tarafından kullanılmaya çalışıldı.
Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları, otel Wi-Fi dolandırıcılıkları ve muhalifleri belirlemeye yönelik gözetim sistemlerine kadar uzandı. Anthropic, hizmetlerinin kötü niyetli amaçlarla kullanılmasını ifşa etme sorumluluğu gereği raporu yayımladığını belirtti.
Raporda, devlet destekli gruplar, suçlular, casus yazılım satıcıları, propaganda kurumları ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı detaylandırıldı. Claude Haiku, Sonnet ve Opus modellerinin kötü niyetli kullanım girişimlerinin Aralık 2025 ile Ağustos 2026 arasında engellendiği kaydedildi.
Modelin, silah gelişimini destekleyebilecek şekillerde kullanılmasına karşı önlemler alındı. Bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyecek biçimlerde kullanma girişimleri de engellendi. Raporda, bu tür beş vaka incelendi ve sınır yapay zeka modellerinin biyolojik kötü niyetli kullanımının en ciddi risklerden biri olduğu vurgulandı.
Ayrıca Claude’un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatlar ile bunları çalıştıran hedefleme ve kontrol sistemleri için yazılım geliştirmede kullanıldığı altı vaka kaydedildi.
