Yapay zekâ ile büyüyen yeni tehdit: Grokking

Yapay Zekâ Destekli Yeni Siber Tehdit: "Grokking" Tehlikesi ve Kullanıcılara Güvenlik Uyarısı

Siber güvenlik alanında dünya lideri ESET, üretken yapay zekâ (GenAI) teknolojilerinin kötüye kullanımıyla ortaya çıkan ve "sosyal mühendislik" saldırılarını yeni bir boyuta taşıyan "Grokking" adı verilen yeni bir tehdit konusunda kullanıcıları uyardı. Bu yeni teknik, özellikle sosyal medya platformu X'te (eski adıyla Twitter) yerleşik yapay zekâ sohbet robotu Grok'un manipüle edilerek kimlik avı (phishing) bağlantılarının yayılmasına neden oluyor.

Grokking Saldırısı Nasıl Çalışıyor?

Grokking, esasen daha geniş bir saldırı türü olan Prompt Enjeksiyonu'nun bir parçasıdır. Bu saldırı zinciri, siber suçluların platformun güvenlik mekanizmalarını atlatmadaki yaratıcılığını gösteriyor:

1. Güvenlik Atlatma: Tehdit aktörleri, X'in kötü amaçlı reklamlarla mücadele için getirdiği bağlantı yasaklarını atlamak amacıyla, tıklama tuzağı (clickbait) içeren video kartı gönderileri yayımlıyor.

2. Bağlantıyı Gizleme: Kötü amaçlı bağlantılar, videonun altındaki küçük "kaynak" alanına gizleniyor.

3. Yapay Zekâyı Manipüle Etme: Kötü niyetli aktörler daha sonra, X'in yapay zekâ botu Grok'a videonun orijinal kaynağını soruyor.

4. Grok'un İhaneti: Grok, gönderiyi okuyor, gizli bağlantıyı fark ediyor ve yanıtında bu bağlantıyı büyüterek (görünür hale getirerek) paylaşıyor.

Grokking Neden Tehlikeli?

Bu yöntem, Grok'un güvenilirliğinden faydalanarak dolandırıcılık içeriklerinin yayılma hızını ve etkinliğini büyük ölçüde artırıyor:

• Güvenilir Aktör Kullanımı: Grok, güvenilir bir hesap üzerinden kimlik avı bağlantısını yeniden paylaşmaya yönlendirilerek, etkili bir kötü niyetli aktör haline geliyor.

• Geniş Kitleye Erişim: Ücretli video gönderilerinin milyonlarca kez görüntülenmesi potansiyeli sayesinde, dolandırıcılık ve kötü amaçlı yazılımlar çok geniş bir alana yayılıyor.

• Arama Motoru Gücü: Grok'un güvenilir bir kaynak olması, yayılan kötü amaçlı bağlantıların Arama Motoru Optimizasyonu (SEO) ve alan adı itibarında güçlenmesine yol açıyor.

• Yüksek Riskli Sonuçlar: Bağlantılar, genellikle kimlik bilgilerini çalan formlara veya doğrudan kötü amaçlı yazılım indirmelerine yönlendirerek, kurbanların hesaplarının ele geçirilmesine ve kimlik hırsızlığına neden oluyor.

Prompt Enjeksiyonu: Tüm GenAI Araçlarının Açığı

ESET uzmanları, Grokking saldırısının yalnızca X platformuna özgü olmadığını, teorik olarak her türlü Üretken Yapay Zekâ (GenAI) aracına uygulanabileceğini belirtiyor. Prompt Enjeksiyonu, GenAI botlarına doğrudan sohbet arayüzünden veya içerik meta verilerine gizlenmiş dolaylı yollarla kötü amaçlı komutlar verilerek manipüle edilmesini sağlayan genel bir saldırı türüdür.

Kullanıcılar İçin Güvenlik Önerileri

ESET, bu yeni tehditlere karşı kullanıcıların her zaman sorgulayıcı olmaları ve yapay zekâ çıktısına körü körüne güvenmemeleri gerektiğini vurguladı:

• Bağlantıları Kontrol Edin: Bir GenAI botu tarafından paylaşılan bir bağlantı sunulursa, üzerine gelerek gerçek hedef URL'sini kontrol edin. Şüpheli görünüyorsa kesinlikle tıklamayın.

• Sorgulayıcı Olun: Yapay zekâ çıktısına her zaman şüpheyle yaklaşın, özellikle de cevap veya öneri uygunsuz görünüyorsa.

• Güçlü Parola ve MFA: Kimlik bilgilerinin çalınma riskini azaltmak için güçlü, benzersiz parolalar kullanın ve Çok Faktörlü Kimlik Doğrulama (MFA) uygulayın.

• Yazılım Güncellemeleri: Güvenlik açığı istismar riskini en aza indirmek için tüm cihaz ve işletim sistemlerinizi güncel tutun.

• Güvenlik Yazılımı Kullanın: Kötü amaçlı yazılım indirmelerini, kimlik avı dolandırıcılıklarını ve diğer şüpheli etkinlikleri engellemek için saygın bir güvenlik yazılımı sağlayıcısından çok katmanlı koruma edinin.