Anthropic’in yayımladığı 154 sayfalık rapor, yapay zeka sohbet robotu Claude’un kötü niyetli kullanımına dair çarpıcı bulgular ortaya koydu. Rapora göre Rusya’da serbest çalışan küçük bir grup, otonom bir kamikaze saldırı dronu sürüsü için yazılım geliştirmek amacıyla Claude’u kullandı. Söz konusu yazılım; nihai hedef yönlendirmesi, hedef seçimi ve birden fazla hava aracı arasındaki koordinasyon gibi kritik işlevleri yerine getirecek biçimde tasarlandı. Rapor, bu tür bir kullanımın yapay zeka sistemlerinin kötü amaçlı aktörlerin eline geçtiğinde ne ölçüde tehlikeli sonuçlar doğurabileceğini gözler önüne seriyor. Değerlendirmeye göre grup, geliştirme sürecinde coğrafi engelleri aşmak için VPN kullandı. Hedef olarak ise üst üste Ukrayna’nın Donetsk bölgesindeki bir konum seçildi.
Raporun en dikkat çekici tespitlerinden biri, dron sürüsünün son kararı bir insan vermeksizin kendi hedeflerini belirleyip patlamak üzere bu hedeflere çarpacak şekilde programlanmış olması. Bu yapı, otonom silah sistemlerinin insan onayı olmadan ölümcül kararlar alabileceği bir senaryoyu somutlaştırıyor. Anthropic, söz konusu grubun programlama aşamasında hedef seçimini tek bir bölge üzerinde yoğunlaştırdığını belirledi. Şirketin coğrafi kısıtlamalarını aşmak için kullanılan VPN, kötü niyetli aktörlerin güvenlik önlemlerini nasıl baypas edebildiğini de gösteriyor. Bu bulgular, yapay zeka geliştiricilerinin kötüye kullanımı engellemek için daha katmanlı önlemler alması gerektiğini ortaya koyuyor. Rapor, yalnızca dron teknolojisiyle sınırlı değil; aynı zamanda yapay zekanın siber saldırılarda artan rolüne de ışık tutuyor.
Anthropic’in tespitlerine göre siber suçlular ve devlet destekli korsanlar, siber saldırıların büyük bir kısmını planlamak ve yürütmek için yapay zekayı giderek daha fazla kullanıyor. Raporda, bir korsan grubunun bu araçları Ukrayna hükümeti, ordusu ve diplomasi sektörlerindeki hedeflere karşı yürüttüğü operasyonlarda değerlendirdiği öne sürülüyor. İddiaya göre grup; oltalama saldırıları, otel Wi-Fi ağlarını ele geçirme ve WhatsApp hesabı ele geçirme gibi yöntemlere başvurdu. Söz konusu grubun, kötü amaçlı yazılımının güvenlik savunmaları tarafından ne zaman tespit edildiğini otomatik olarak algılayan bir sistem kurmak için de yapay zekadan yararlandığı belirtiliyor. Bu sistemin, tespitten kaçınana kadar kodu yeniden yazabildiği iddia ediliyor.
Raporun ortaya koyduğu tablo, yapay zeka sohbet robotlarının yalnızca meşru amaçlarla sınırlı kalmadığını gösteriyor. Anthropic, kötü niyetli kişilerin Claude’u devlet destekli gözetleme ve propaganda operasyonları için nasıl kullandığını da belgelendirdi. 154 sayfalık değerlendirme, yapay zeka şirketlerinin kötüye kullanımı tespit etme ve engelleme konusunda karşılaştığı güçlükleri gözler önüne seriyor. Coğrafi engellerin VPN gibi basit araçlarla aşılabilmesi, mevcut güvenlik önlemlerinin yetersiz kaldığı noktalara işaret ediyor. Rapordaki bulgular, yapay zeka güvenliği konusunda düzenleyici çerçevelerin ve denetim mekanizmalarının güçlendirilmesi gerektiği yönündeki tartışmaları da beraberinde getiriyor.
Siber saldırı yöntemlerinin giderek karmaşıklaşması, kurumlar ve bireyler için yeni riskler doğuruyor. Oltalama saldırıları, ağ ele geçirme girişimleri ve hesap korsanlığı gibi tehditler, yapay zeka desteğiyle daha da zor tespit edilir hale geliyor. Raporda yer alan iddialar, savunma tarafındaki yazılımların da yapay zeka destekli saldırılara karşı güncellenmesi gerektiğini gösteriyor. Anthropic’in bulguları, yapay zeka geliştiricileri ile güvenlik uzmanları arasında daha sıkı işbirliği ihtiyacını ortaya koyuyor. Kötü amaçlı yazılımların tespitten kaçmak için kendini yeniden yazabilmesi, geleneksel güvenlik yaklaşımlarının sınırlarını zorluyor. Bu durum, hem özel sektör hem de kamu kurumları için yeni savunma stratejileri geliştirilmesini zorunlu kılıyor.
