Kimlik avı e-postasının arkasındaki yapay zeka saldırısı ve savunması

Orijinal kaynak: Yeni Bilim ve Teknoloji Bilgisi

Yazar: Zhangdao

Resim kaynağı: Sınırsız Yapay Zeka tarafından oluşturulmuştur

Üretken yapay zeka, sınır ötesi e-ticaret alanını İnternet'teki "Yeni Kuzey Myanmar"a dönüştürüyor. Son zamanlarda pek çok satıcı, resmi Amazon e-postaları olarak gizlenen ve sağlanan kötü amaçlı bağlantılar aracılığıyla satıcının önemli hesap bilgilerini ele geçiren "kimlik avı e-postaları" aldıklarını bildirdi. Bazı insanlar kandırıldı ve sadece bir gecede 400.000 kadar para kaybetti. Sudan şanslı kurbanlardan biri. Eylül başında aldığı e-postada, gönderen adresin Amazon'un resmi adresine oldukça benzediği ve içeriğin, Amazon'un bildirim tarzının akıllıca bir taklidi olduğu ve satıcıları acil durum iletişim bilgilerini güncellemeye teşvik ettiği belirtiliyor. E-postadaki talimatları takip ederek "Amazon" gibi görünen bir web sitesine yönlendirileceksiniz ve e-posta adresinizi, şifrenizi ve iki adımlı doğrulama kodunuzu girmeniz istenecek. Bir kez kandırıldığınızda, kısa süre sonra gerçek Amazon yetkilisinden "mağazaya uzaktan giriş" bildirimi alacaksınız.

ChatGPT katili GPTZero'nun tespit sonuçları

**Sultan bir şeylerin ters gittiğini fark ettiğinde hemen kayıplarını durdurdu.Ayrıca e-postanın içeriğini analiz etmek için teknik araçlar kullandı ve bu da e-postanın yapay zeka tarafından üretilme ihtimalinin %90 olduğunu gösterdi. **Yeni teknoloji bir kez daha iyiyle kötünün kavşağında duruyor.

01 Üretken yapay zeka "kötülük yapıyor"

Sudan yurtiçinde ve yurtdışında sık sık internette geziniyor. ChatGPT'ye yabancı değil ve bunu birçok kez deneyimlemiş. Ayrıca ChatGPT'nin güvenlik mekanizmasını bir şekilde atlayıp yasa dışı ve ahlaka aykırı içerik üretebildiğini de duymuş. Henüz farkına varmadığı şey, ChatGPT'nin "jailbreak" teknolojisinin birkaç kez yinelendiği ve artık piyasada daha gelişmiş bir "şeytani GPT" sürümünün mevcut olduğu ve bu sefer karşılaşılan kimlik avı e-postasının bu sürüm tarafından yazılmış olabileceğidir. . . **Daha ünlü "kötü GPT" sürümleri WormGPT ve FraudGPT'dir; her ikisi de kimlik avı e-posta dolandırıcılıklarını hızla uygulayabilir. ** Mart 2021'de WormGPT çıktı ve geliştiricileri bu yılın Haziran ayında hacker forumlarında kullanım haklarını satmaya başladı. ChatGPT'den farklı olarak WormGPT, yasa dışı faaliyetlerle ilgili soruların yanıtlanmasını engelleyen kısıtlamalar getirmez, biraz güncelliğini yitirmiş 2021 açık kaynaklı GPT-J modeli üzerine kuruludur ve özellikle kötü amaçlı yazılım geliştirmeyle ilgili veriler üzerine eğitilmiştir. Güvenlik analitiği firması Slashnext'in araştırma ekibi, olası riskleri değerlendirmek için BEC (İş E-postası Sahtekarlığı) saldırılarını test etti. Deneyde, WormGPT'den şüphelenmeyen bir hesap yöneticisine sahte fatura ödemesi için baskı yapmak amacıyla bir e-posta hazırlaması istendi.

WormGPT tarafından oluşturulan kimlik avı e-postaları

Sonuçlar şok edici. WormGPT tarafından oluşturulan e-postalar sadece çok ikna edici değil, aynı zamanda taktikler açısından da çok akıllıdır ve karmaşık kimlik avı ve BEC saldırılarını gerçekleştirme yeteneğini tam olarak ortaya koymaktadır. FraudGPT adı verilen başka bir kötü dil modeli bu yılın temmuz ayında tanıtıldı. 22 Temmuz'dan itibaren geliştirici, ürünü birden fazla forumda tanıttı ve ürünü sınırsız bir ChatGPT alternatifi olarak adlandırdı. Raporlara göre FraudGPT, her bir ila iki haftada bir güncelleniyor ve mimari altında çeşitli AI modellerini kullanıyor. Bu aracın aboneliğe dayalı fiyatlandırması vardır ve aylık 200 ABD Doları veya yıllık 1.700 ABD Doları tutarında bir maliyeti vardır.

FraudGPT'nin işlevselliğini gösteren bir forumun ekran görüntüsü

Güvenlik araştırma ekibi Netenrich bunu satın aldı ve test etti. FraudGPT'nin arayüzü ChatGPT'ye çok benzer.Kullanıcının geçmiş sorguları sol tarafta görüntülenir ve sohbet penceresi arayüzün çoğunu kaplar. Kullanıcıların yalnızca "Soru sorun" alanına soru girmeleri yeterlidir; sistem onlara karşılık gelen yanıtları üretecektir.

FraudGPT kimlik avı e-postaları oluşturur

Test sırasında araştırmacılar FraudGPT'ye bir bankayla ilgili kimlik avı e-postası oluşturma talimatı verdi. Kullanıcıların soruyu belirli bir bankanın adını içerecek şekilde biçimlendirmesi yeterlidir ve gerisini FraudGPT halleder. Bu araç aynı zamanda kullanıcılara e-posta içeriğinde kötü amaçlı bağlantıları nereye yerleştirecekleri konusunda rehberlik eder ve ayrıca dolandırıcılık için bir oturum açma sayfası oluşturarak mağdurları kişisel bilgilerini vermeye teşvik edebilir. **Analistler, FraudGPT'nin etkili kimlik avı ve BEC saldırıları başlatmak için ideal bir araç olabileceğini ve bunun da büyük mali dolandırıcılık ve veri hırsızlığına yol açabileceğini söylüyor. ** İkiden fazla aktif “kötü GPT” var. Ağustos ayının ortalarında, ağ güvenliği alanındaki uzmanlar, EvilGPT adında başka bir GPT tabanlı siber suç aracını ortaya çıkardı. FraudGPT ve WormGPT'ye benzer olan bu uygulama, kötü amaçlı yazılımların, kimlik avı e-postalarının oluşturulmasına, bağlantıların yakalanmasına ve kurumsal ağ güvenliğindeki zayıflıkların tespit edilmesine yardımcı olabilir. Yukarıdaki GPT'nin herhangi bir nedenle yasaklanması veya kaldırılması durumunda alternatif olarak piyasada bulunacaktır. Aynı zamanda potansiyel kullanıcıları satın almaya çekmek için aboneliğe dayalı bir fiyatlandırma modelini de benimsiyor. EvilGPT, son haftalarda keşfedilen buzdağının sadece görünen kısmı. **Zaman geçtikçe yapay zeka teknolojisine dayalı daha fazla kötü amaçlı araç ve uygulama ortaya çıkabilir. **

02 Yapay zekanın "lütfuyla" kimlik avı e-postalarının tespit edilmesi zordur

Kimlik avı e-postaları sınır ötesi e-ticaret uygulayıcılarına yabancı değil, ancak Sudan bu kez yine de neredeyse bu tuzağa düşüyor. Ara sıra yapılan ihmallere ek olarak, üretken yapay zekanın "kutsaması" da önemli bir rol oynadı. Geçmişte kimlik avı e-postalarını tanımlamanın etkili bir yolu, içerikteki kelimelerin yazım ve dilbilgisi hatalarına dikkat etmekti. Verilere göre kimlik avı e-postalarının yaklaşık %50'si Rusya, Almanya ve Çin'den geliyor. İngilizce konuşulmayan bu bölgelerden gönderilen sahte içeriğin çoğu, resmi ve standart e-posta stiliyle tutarsız olan anormal dil bilgisi veya ifadeler içeriyor.

Kanıtlanmamış kimlik avı e-postaları

Aslında, çalışanların kötü niyetli bağlantılara sahip e-postalara tıklamasını veya giriş bilgilerini sızdırmasını önlemek için birçok e-ticaret şirketi, onlara yazım hatalarını, olağandışı dilbilgisini ve anadili İngilizce olmayan konuşmacıların yapabileceği diğer hataları hatırlatan eğitimlerden yararlanıyor. **Ancak mevcut üretken yapay zeka teknolojisi, bu geleneksel tanıma özelliklerini mükemmel şekilde ortadan kaldırabilir. Bu Amazon kimlik avı e-postası herhangi bir dilbilgisi hatası içermiyor. ** E-posta güvenlik şirketi Abnormal Security'nin CEO'su Evan Reiser yakın zamanda bir röportajda buna dikkat çekti: Üretken yapay zeka platformu tarafından üretilen hassas kimlik avı e-postaları, gerçek e-postalarla neredeyse aynı olduğundan, bunların bir bakışta tanımlanmasını zorlaştırıyor. "Bu e-postalara baktığınızda beyninizde bunun bir kimlik avı saldırısı olabileceğine dair sizi uyaran hiçbir şey olmuyor" dedi. **Korkunç olan şey, dil hatalarından kaçınmanın yalnızca üretken yapay zekanın kimlik avı e-postalarında sergilediği temel beceri olmasıdır. Daha güçlü aldatma ve kafa karışıklığı yetenekleri daha ölümcüldür. ** Yapay zekanın insan yazısını taklit etme yeteneği sayesinde, kimlik avı e-postalarının içeriği, aciliyet hissi yaratmayı, alıcıları bağlantılara tıklamaya teşvik etmeyi veya havale talepleri olarak gizlenen sosyal mühendislik e-postalarını içerebilir. Alıcı bağlantıya tıkladığında, sistemine kötü amaçlı kod bulaşabilir. Yukarıdaki sahte Amazon e-postaları senaryosu, yapay zeka tarafından oluşturulan ve satıcılar için acil olan bir senaryodur. Pek çok satıcı, e-postanın içeriğini dikkatlice inceledikten sonra bir şeylerin doğru olmadığını hissetti ancak yine de bazı önemli bilgileri gözden kaçırmış olabileceklerinden endişe ederek e-postadaki talimatları takip ettiler. **Ayrıca üretken yapay zeka, kimlik avı e-postalarını daha agresif hale getirebilir. **Daha hedef odaklı, ilgi çekici e-postalar oluşturmak için sosyal platformlardan, haber portallarından, çevrimiçi forumlardan ve diğer kaynaklardan kişisel bilgiler alabilirler. Bu, geçmişte tamamlanması genellikle aylar süren bir görevdi. Bir saldırganın bu özel bilgiye erişimi varsa, e-postaya daha ikna edici ayrıntılar ekleyebilir veya birinin yazma şeklini taklit edebilir. Evan Reiser, "Şu anda suçlular yalnızca bu e-postaları yakalıyor, bunları otomatik olarak büyük bir modele besliyor ve ardından ona son beş çevrimiçi konuşmaya referans veren bir e-posta oluşturma talimatı veriyor" diye belirtiyor. "Sekiz saat sürebilecek bir görev, artık şimdi sadece sekiz saniye sürüyor.” Sınırlı teknik yeteneklere sahip saldırganlar bile VBA kodu yazmak için üretken yapay zekadan yararlanabilir. Yapay zekaya kötü amaçlı URL'yi koda yerleştirmesi talimatını veriyorlar ve kullanıcı Excel gibi bir dosyayı açtığında sistem, kötü amaçlı yazılımı otomatik olarak indirip çalıştırıyor.

Geçmişte, ChatGPT ve Bard gibi sistemler, kötü amaçlı içerik oluşumunu mümkün olduğunca önlemek için yerleşik korumalara sahipti, ancak giderek daha fazla kötü GPT sürümü ortaya çıktıkça, e-posta güvenliği büyük bir zorlukla karşı karşıya kalıyor. 21 Ağustos 2023'te uluslararası güvenlik araştırma ekibi Perception Point ve Osterman Research ortaklaşa "E-posta Güvenliğinde Yapay Zekanın Rolü" başlıklı bir rapor yayınladı. Rapor, siber suçluların kimlik avı ve BEC saldırıları gibi e-posta tehditlerini artırmak ve karmaşıklaştırmak için yapay zekadan nasıl yararlandığına ilişkin endişe verici bir eğilimi ortaya koyuyor. **Bu çalışma, siber suçluların çıkarlarını ilerletmek için yapay zeka araçlarını hızla benimsediklerini ve kuruluşların %91,1'inin yapay zeka destekli e-posta saldırılarına maruz kaldıklarını bildirdiğini belirtiyor. **

**03 Çözüm: Yapay zekayla savaşmak için yapay zeka kullanılsın mı? **

**Yapay zeka tehdidi altında, kimlik avı e-posta tuzaklarından kaçınmak için deneyime güvenme şeklindeki eski yöntem artık etkili değil. Yeni karşı önlem, yapay zekayla savaşmak için yapay zekanın kullanılması olabilir. **Birçok siber güvenlik şirketi, geniş ölçekte suiistimal edilmeden önce gerekli adımları atmak amacıyla üretken yapay zekayı ürünlerine entegre etti. Satıcılar, e-posta güvenliği yeteneklerini ve süreçlerini geliştirmek için yapay zekayı kullanıyor. Örneğin, her gönderenin ve alıcının alışkanlıkları ve özellikleri hakkında bilgi edinmek için, kuruluşun her bir üyesinin iletişim modellerini haritalandıracak bir yapay zeka modeli tasarlanmıştır. Özellikle onlara kim mesaj gönderecek? Mesaj içeriği nedir? Bu mesajlar ne zaman ve nereden gönderiliyor? Diğerleri genellikle CC'li mi yoksa amaçlanan tek bir alıcı mı var? Her gönderen hangi e-posta adresini kullanıyor? Kısacası yapay zeka, her kişinin düzenli davranışının profilini oluşturmak için kullanılıyor. Buna ek olarak, olağandışı e-posta gönderme kalıplarını tespit etmek için satıcı aşağıdaki stratejileri birleştirir: sosyal grafik teknolojisini kullanarak temel gönderme kalıplarını analiz etmek, benzer veya yakından ilişkili e-posta adreslerini belirlemek, sosyal mühendislik teknikleri içeren mesajları tanımlamak ve sahtekarları tespit etmek. ilgili görsel öğeler ve e-postalardaki ton, duygu ve stilin sınıflandırılması. Yukarıdaki stratejilerin tümü, insan aklını karıştırmak için tasarlanmış anormal e-postaların tespit edilmesine yardımcı olur. Güvenlik farkındalığı eğitimi almış insanlar da bu anormallik sinyallerini bulabilse de, büyük mesajlar karşısında sürekli ve güvenilir algılamayı sağlamak için analizin tüm boyutlarını ağ hızlarında yalnızca yapay zeka entegre edebilir. Yapay zeka çözümleri, kötü amaçlı içeriğe sahip bilgileri tanımlamak için birden fazla makine öğrenimi modelinden de yararlanabilir. Bu modeller, kötü amaçlı veya zararsız olarak etiketlenen bir veri kümesi temel alınarak geliştirilir, uyarlanır ve güncellenir. Bazı satıcılar, makine öğrenimi modelleri için daha zengin, yüksek kaliteli eğitim verileri sağlayan, bilinen kötü amaçlı bilgilerden ek örnek veriler oluşturmak için üretken yapay zeka teknolojisini kullanır. **Yapay zekayı yenebilecek tek şey yapay zekadır. ** Aslında birçok kuruluş, e-posta güvenliği koruması için zaten yapay zekayı kullanıyor. Osterman Research'e göre, beş kuruluştan dördü son iki yılda geleneksel koruma önlemlerine ek olarak yapay zeka tabanlı e-posta güvenliği çözümlerini kullandı veya aktif olarak tanıtıyor.

Bunlar arasında, e-posta güvenliğini güçlendirmek için yapay zekayı tanıtmanın iki ana yolu vardır: bir yandan mevcut e-posta güvenlik sağlayıcıları yapay zeka korumasını ürünlerine entegre eder; diğer yandan kuruluşlar kasıtlı olarak yeni yapay zeka destekli çözümler arıyor. Son iki yılda, yanıt verenlerin beşte biri hâlâ bu tür çözümleri benimsemedi: %12,7'si herhangi bir çözümü uygulamadı, %6,0'ı ise olası seçenekleri aktif olarak araştırıp değerlendiriyor. **Osterman Research'ün verilerine göre yapay zeka, tespit verimliliğini artırma ve korumayı güçlendirme konusunda büyük yetenekler sergiledi. **

Kuruluşlar, yapay zekayla geliştirilmiş e-posta güvenliği çözümlerini benimsemeden önce belirli bir algılama verimliliğine sahiptir. Ancak siber suçlular saldırı tekniklerini geliştirmek için yapay zekayı kullandıkça, yapay zeka korumasına sahip olmayan kuruluşların tespit verimliliği ciddi şekilde zorlanacak. Kimlik avı e-postalarının saldırganlarını ve savunucularını ancak şeytan kadar güçlü olarak yapay zeka teknolojisinin aynı başlangıç çizgisine geri getirebiliriz.

(Makaledeki karakterler takma adlardır)

Referans:

Kuruluşların %91'inden Fazlası Yapay Zekayla Geliştirilmiş E-posta Saldırıları Deneyimledi ve %84'ü Mevcut Güvenlik Sistemlerini Atlamak için Yapay Zeka Kullanımının Devam Etmesini Bekliyor WormGPT-Siber Suçluların Ticari E-posta Güvenliği Saldırılarını Başlatmak İçin Kullandığı Üretken Yapay Zeka Aracı WormGPT ve FraudGPT - Kötü Amaçlı Yüksek Lisans'ların Yükselişi Üretken Yapay Zeka, Bilgisayar Korsanları İçin E-postada Devrim Yaratabilir