İnsanlar zaten ChatGPT'yi kötü amaçlı yazılım yazmaya çalışıyorlar.

gettyimages-1245391800.jpg

ChatGPT AI sohbet botu, mevcut olduğu kısa süre içinde birçok heyecan yarattı ve şimdi bazıları zararlı kod üretmeye yardımcı olmak için kullanılmak üzere görevlendirilmiş gibi görünüyor.

ChatGPT, insanlarla sohbet eder gibi etkileşimde bulunan yapay zeka destekli doğal dil işleme aracıdır. Diğer işlevler arasında, e-posta, makale ve kod yazma gibi görevlerde yardımcı olmak için kullanılabilir.

Ayrıca: ChatGPT nedir ve neden önemlidir? Bilmeniz gerekenler

Chatbot aracı, yapay zeka araştırma laboratuvarı OpenAI tarafından Kasım ayında piyasaya sürüldü ve AI'in nasıl geliştirildiği ve bundan sonra nasıl kullanılabileceği konusunda yaygın ilgi ve tartışma yarattı. ChatGPT programcıların yerini mi alacak?

Ama herhangi bir araç gibi yanlış ellere geçtiğinde kötü amaçlı amaçlar için kullanılabilir; Check Point'deki siber güvenlik araştırmacıları, yeraltı hackleme topluluklarının kullanıcılarının ChatGPT'nin nasıl kullanılabileceğini deneysel olarak incelediklerini ve siber saldırıları kolaylaştırmak ve kötü amaçlı operasyonlara destek sağlamak için nasıl kullanılabileceğini bulduklarını söylüyor.

"Hiç teknik bilgisi olmayan tehdit aktörleri bile kötü amaçlı araçlar yaratabilirler. Ayrıca, Check Point tehdit istihbarat grubu yöneticisi Sergey Shykevich'in ZDNET'e söylediği gibi, sofistike siber suçluların günlük operasyonları daha verimli ve kolay hale gelebilir - enfeksiyon zincirinin farklı parçalarını oluşturmak gibi,"

OpenAI'nin hizmet şartları, zarar vermeyi amaçlayan yazılımlar olarak tanımladığı "fidye yazılımı, tuş kaydediciler, virüsler veya diğer yazılımların üretimini deneyen içerikleri" yasaklar. Ayrıca, spam oluşturma girişimleri ve siber suça yönelik kullanımlar da yasaklanmıştır.

Ancak birkaç önemli yeraltı hacker forumundaki faaliyet analizi, siber suçluların zaten kötü amaçlı araçlar geliştirmek için ChatGPT'yi kullandığını gösteriyor ve bazı durumlarda, geliştirme veya kodlama becerileri olmayan düşük seviyeli siber suçluların bile kötü amaçlı yazılım oluşturmasına olanak tanıyor.

Ayrıca: İnternetin korkutucu geleceği: Yarının teknolojisi bugünkünden daha büyük siber güvenlik tehditleri oluşturacak

Aralık ayının sonunda görünen bir forum konusunda, yayımlanan araştırmalar ve sıradan kötü amaçlı yazılımlar hakkında yazılan yazıları kullanarak kötü amaçlı yazılım türlerini ve tekniklerini yeniden oluşturmak için ChatGPT'yi kullandıklarını belirten bir gönderici yer almıştı.

Bununla birlikte, Python tabanlı bir bilgi hırsızı kötü amaçlı yazılım oluşturarak, Microsoft Office belgeleri, PDF'ler ve resimler de dahil olmak üzere yaygın dosyaları arar, kopyalar ve bunları bir Dosya Aktarım Protokolü sunucusuna yükler.

Aynı kullanıcı ayrıca, ChatGPT'yi kullanarak Java tabanlı kötü amaçlı yazılım oluşturduğunu ve PowerShell'i kullanarak enfekte sistemlere gizlice başka kötü amaçlı yazılımlar indirip çalıştırabileceğini gösterdi.

Araştırmacılar, bu başlıkları atan forum kullanıcısının "teknoloji odaklı" göründüğünü ve daha az teknik yeteneğe sahip siber suçluların nasıl kötü amaçlı amaçlar için AI araçlarını kullanacaklarını göstermek için paylaşımlar yaptığını, gerçek örnekleriyle birlikte ne şekilde yapılacağını tamamladığını belirtiyor.

Bir kullanıcı ilk oluşturdukları betiği olarak tanımladıkları Python betiğini gönderdi. Forum üyelerinden biriyle bir tartışma sonrasında ChatGPT'nin ona oluşturmasında yardımcı olduğunu söyledi.

Senaryonun analizi, dosyaları şifrelemek ve çözmek için tasarlandığını göstermektedir. Bazı çalışmalarla bu, düşük seviyeli siber suçluların kendi şantaj kampanyalarını geliştirmesine ve dağıtmasına neden olabilecek fidye yazılımına dönüştürülebilir.

"Tabii ki, yukarıda bahsedilen kodlar zararsız bir şekilde kullanılabilir. Ancak, bu komut dosyası, hiçbir kullanıcı etkileşimi olmadan birinin bilgisayarını tamamen şifrelemek için kolayca değiştirilebilir. Örneğin, kodları olası hale getirerek karşı tarafın verilerini fidye yazılımına dönüştürebilir," dedi Check Point.

"Kod ve sözdizimi açısından bazı iyileştirmeler gerektirecek, ancak işlevsel hale geldiğinde, bu araç fidye yazılımı gibi benzer eylemleri gerçekleştirebilir," dedi Shykevich.

Ayrıca: Siber güvenlik: 2023'te endişeleneceğiniz yeni şeyler bunlar

Siber suçluların ChatGPT'yi denediği tek şey kötü amaçlı yazılım geliştirme değil; Yılbaşı gecesi bir yeraltı forumu üyesi, araçla kısa süre önce hesap bilgisi, kredi kartı bilgisi, kötü amaçlı yazılım ve daha fazlasının satın alınıp satılabileceği otomatik bir karanlık web pazarı işletmek için kullanabilecekleri betikler oluşturduklarını gösteren bir konu gönderdi.

Cyber suçlu, karanlık web pazarı için bir ödeme sistemi olarak Monero, Bitcoin ve Ethereum kripto para birimlerinin güncel fiyatlarını almak için üçüncü taraf bir API kullanarak oluşturulan bir kod örneği bile sergiledi.

ChatGPT kullanılarak üretilen kötü amaçlı siber etkinliklerin gerçekte aktif bir şekilde çalışıp çalışmadığını söylemek zordur, çünkü Sykevich'in açıkladığı gibi, "teknik bir açıdan belirli bir kötü amaçlı yazılımın ChatGPT kullanılarak yazılıp yazılmadığını bilmek son derece zor".

Ancak ChatGPT ve diğer Yapay Zeka araçlarına olan ilgi arttıkça, düşük maliyetli ve en az çaba ile kötü amaçlı kampanyalar yürütmeye yardımcı olmak için teknolojiyi istismar etmek isteyen siber suçlular ve dolandırıcıların dikkatini çekecekler. ZDNET OpenAI'dan yorum istedi, ancak yayın zamanına kadar henüz yanıt alamadı.