ChatGPT insanların dikkatini çekti, iş akışlarını değiştirdi ve çevrimiçi bilgi alma şekillerini değiştirdi. Henüz denemeyenler bile yapay zeka (AI) sohbet robotlarının geleceği nasıl etkileyeceğini merak ediyor.
Siber suçlular bu fenomenden nasıl faydalanabileceklerini araştırdılar. FraudGPT bunun son örneklerinden biri.
FraudGPT, karanlık ağda ve Telegram’da satılan, ChatGPT’ye benzer şekilde çalışan ancak siber saldırıları kolaylaştırmak için içerik oluşturan bir üründür. Netenrich’teki tehdit araştırma ekibinin üyeleri bu ürünü ilk kez Temmuz 2023’te tespit etti ve reklamını gördü. FraudGPT’nin en önemli satış noktası, ChatGPT’nin uygunsuz taleplerde bulunmasını veya bu taleplere yanıt vermesini engelleyen yerleşik kontrollere ve sınırlamalara sahip olmamasıydı.
Diğer ayrıntılar, aracın her bir ila iki haftada bir güncellendiğini ve kaputun altında farklı AI modellerine sahip olduğunu söylüyor. FraudGPT ayrıca abonelik tabanlı bir fiyatlandırma modeline sahip. Kullanıcılar aylık 200 dolar ya da bir yıl için 1.700 dolar ödeyebiliyor.
FraudGPT Nasıl Çalışıyor ve Ne Yapabiliyor?
Netenrich ekibi FraudGPT’yi satın aldı ve test etti. Arayüz ChatGPT’ye benziyor, sol kenar çubuğunda kullanıcının önceki taleplerinin bir kaydı ve ekranın çoğunu kaplayan sohbet penceresi var. Kullanıcıların Soru Sor penceresine yazmaları ve yanıt oluşturmak için Enter tuşuna basmaları yeterli.
Test istemlerinden biri, araçtan bankalarla ilgili kimlik avı e-postaları oluşturmasını istedi. Kullanıcıların sorularını sadece bankanın adını içerecek şekilde biçimlendirmeleri gerekiyordu ve FraudGPT gerisini hallediyordu. Hatta kullanıcıların içeriğin neresine kötü niyetli bir bağlantı eklemeleri gerektiğini bile önerdi. FraudGPT, ziyaretçileri bilgi vermeye teşvik eden dolandırıcılık açılış sayfaları oluşturarak daha da ileri gidebiliyordu.
Diğer istemler FraudGPT’den en çok hedeflenen veya kullanılan siteleri veya hizmetleri listelemesini istedi. Bu bilgiler bilgisayar korsanlarının gelecekteki saldırıları planlamasına yardımcı olabilir. Ürün için dark web’de yayınlanan bir reklamda, kötü amaçlı kod oluşturabileceği, tespit edilemeyen kötü amaçlı yazılımlar oluşturabileceği, güvenlik açıklarını bulabileceği, hedefleri belirleyebileceği ve daha fazlasından bahsediliyordu.
Netenrich ekibi ayrıca FraudGPT’nin satıcısının daha önce kiralık hacker hizmeti sunan biri olduğunu tespit etti. Ayrıca, aynı kişiyi WormGPT adlı benzer bir araçla da ilişkilendirdiler.
SlashNext’ten araştırmacılar, aracın algoritmalarının büyük miktarlarda kötü amaçlı yazılım verisi üzerinde eğitildiğini söyledi. Ekip, WormGPT’nin gerçekçi kimlik avı ve ticari e-posta tehlikeye atma mesajları hazırlamak için özel bir potansiyele sahip olduğunu söyledi.
Bu araçların kanıtları, siber suçluların saldırılarını giderek daha başarılı hale getirmek için gelişmeye devam ettiklerini kanıtlıyor. Teknoloji profesyonelleri ve meraklıları güvende kalmak için ne yapabilir?
FraudGPT araştırması, siber suçluların maksimum etki için tekniklerini nasıl değiştirmeye devam edeceklerine dair unutulmaz bir hatırlatmadır. Bununla birlikte, serbestçe kullanılabilen araçlar da siber güvenlik riskleri oluşturmaktadır. İnternet kullanan ya da çevrimiçi altyapıların güvenliğini sağlamak için çalışan herkes yeni teknolojilerden ve bunların risklerinden haberdar olmalıdır. Önemli olan, ChatGPT gibi araçları sorumlu bir şekilde kullanırken potansiyel zararların da farkında olmaktır.
