Ne oluyor?
Güvenlik firması Huntress'in son dokuz aydır izlediği olaylara göre saldırganlar, yapay zekâ platformlarının herkese açık paylaşım özelliklerini zararlı içerik barındırmak için kullanıyor.
Önemli ayrım: bu platformlar hacklenmiyor. Saldırganlar platformların güvenlik açığını değil, kullanıcıların o alan adlarına duyduğu güveni kullanıyor.
Bir bağlantının tanıdık bir alan adında olması, o bağlantıdaki içeriğin o kurum tarafından hazırlandığı anlamına gelmiyor. Paylaşıma açık her platformda içeriği yazan kullanıcıdır — saldırgan da bir kullanıcıdır.
Saldırı neye dayanıyor?
Kurumsal güvenlik eğitimlerinin çoğu çalışanlara "adrese bakın" der. Tuhaf bir alan adı görürsen tıklama, tanıdık bir alan adı görürsen devam et.
Bu kampanya tam olarak o refleksi hedefliyor. Çalışan adrese bakıyor, tanıdık bir yapay zekâ platformunun adını görüyor ve rahatlıyor. Oysa gördüğü şey platformun kendi içeriği değil, o platformda birinin oluşturup herkese açtığı bir sayfa.
Saldırganın kazandığı şey teknik bir erişim değil; ödünç alınmış bir itibar.
Üç yöntem
- Sahte indirme sayfası. Saldırganlar yapay zekâ platformlarının yayımlama özelliğini kullanarak gerçeğine benzeyen indirme sayfaları oluşturuyor. Temmuz ayında görülen bir kampanyada, Claude masaüstü uygulamasının sahte indirme sayfası üzerinden zararlı yazılım dağıtıldı; Huntress bu kampanyanın 29'dan fazla kurumu etkilediğini bildirdi.
- Paylaşılan sohbet bağlantısı. Saldırgan yapay zekâ platformunda bir sohbet oluşturup içine zararlı yönergeler yazıyor, sonra sohbeti herkese açık hâle getiriyor. Ortaya çıkan bağlantı platformun kendi alan adında olduğu için güvenilir görünüyor. Görülen örneklerden biri, Apple destek rehberi gibi hazırlanmış sahte bir sohbetti.
- Arama sonuçlarını zehirleme. Bu paylaşılan bağlantılar arama motorları tarafından dizinleniyor. Saldırganlar da bunları "şu hata nasıl düzeltilir" gibi sık aranan sorun giderme sorgularında üst sıralara çıkaracak şekilde hazırlıyor. Yani kurban bağlantıya tıklamak zorunda değil; kendi sorununu ararken bulup açıyor.
Bu üçüncü yöntem en sinsisi, çünkü kimse kurbana bir şey göndermiyor. Kurban kendi iradesiyle arıyor, kendi iradesiyle tıklıyor.
En tehlikeli adım
Bu sayfaların çoğunda ortak bir son adım var: kullanıcıdan hazır bir komutu kopyalayıp kendi bilgisayarında çalıştırması isteniyor.
"Sorununuzu çözmek için aşağıdaki komutu terminale yapıştırın."
Bu adımda güvenlik yazılımının engelleyebileceği bir indirme yok. Kullanıcının kendisi, kendi yetkisiyle, bir komutu elleriyle çalıştırıyor.
Huntress'in belgelediği örneklerde bu yolla çalınanlar arasında kimlik bilgileri, şifreleme anahtarları, bulut oturum bilgileri, tarayıcı çerezleri, SSH anahtarları ve mesajlaşma uygulaması oturumları var. Yani tek bir yapıştırılan komut, kullanıcının eriştiği her yere açılan bir kapı olabiliyor.
Kurumunuzda ne yapmalısınız?
- Çalışanlara tek bir net kural verin: internetten kopyalanan hiçbir komut, kim söylerse söylesin, doğrulanmadan çalıştırılmaz. Kaynağın ne kadar güvenilir göründüğü bu kuralı değiştirmez.
- Kurumsal cihazlarda yalnızca onaylı uygulamaların çalışmasına izin verin. Uygulama izin listesi, bu saldırının son adımını doğrudan keser.
- Zamanlanmış görevlerdeki ve başlangıçta çalışan öğelerdeki değişiklikleri izleyin. Bu tür zararlılar kalıcılığı çoğunlukla buradan kurar.
- Güvenlik eğitimini "tuhaf alan adına tıklama" seviyesinden çıkarın. Bugünkü saldırıların adresi tuhaf değil; tanıdık.
- Yazılımları yalnızca üreticinin kendi resmî sitesinden indirin. Arama sonucundaki ilk bağlantı, üreticinin sitesi olmak zorunda değil.
Asıl mesele
Yapay zekâ platformları bu hikâyede kurban tarafında. Kötüye kullanılan şey teknolojileri değil, tanınırlıkları. Aynı yöntem yıllardır bulut depolama servisleri, kod paylaşım siteleri ve doküman platformları için de kullanıldı; liste sadece güncellendi.
Buradan çıkan kural teknolojiden bağımsız: bir bağlantının nerede durduğu, içindekinin doğru olduğunu göstermez. Paylaşıma açık her platformda içeriği yazan kişi, platformun kendisi değildir.
Kurumsal tarafta bunun karşılığı, yapay zekâ kullanımını yasaklamak değil — zaten yasaklanamıyor, çalışanlar kişisel cihazlarından kullanmaya devam ediyor. Karşılığı, kurumun hangi araçları hangi yetkilerle kullandığını bilmesi ve bu kullanımın denetlenebilir bir çerçevede olması.