Yapay Zeka Botlarının Sosyal Medya Üzerindeki Tehditleri
Sosyal medya platformlarında yapay zeka botları, önemli tehlikeler ortaya çıkarıyor. 2023 yılının ortalarında, Elon Musk'ın Twitter'ı X olarak yeniden isimlendirdiği dönemde, bazı akademisyenler ücretsiz veri erişimini sona erdirmeden önce, yapay zeka ile oluşturulan içerikleri paylaşan "sosyal bot" hesaplarını araştırmaya başladılar.
Sosyal botlar, sosyal medya ortamlarında içerik üreten ve kullanıcılarla etkileşimde bulunan yapay zeka uygulamaları olarak tanımlanıyor.
Fox8 Botneti ve Kripto Para Dolandırıcılığı
Indiana Üniversitesi'ndeki bilim insanları, kripto para dolandırıcılıklarına karışmış binden fazla botun yer aldığı bir ağı ortaya çıkardı. Bu ağ, sahte haber sitelerinden birinin adından esinlenerek "fox8" botneti olarak adlandırıldı.
Araştırmacılar, fox8 ağının yalnızca görünür kısmını keşfettiklerini düşünüyor. Daha yetenekli geliştiricilerin bu tür yanıltıcı içerikleri filtreleme veya etik sınırları kaldırılmış açık kaynak yapay zeka modellerini kullanma olasılığına dikkat çekiliyor.
Gerçekçi Etkileşimler ve Algoritma Manipülasyonu
Bulgular, Fox8 botlarının gerçek kullanıcı hesaplarıyla birlikte gerçekçi tartışmalar ve paylaşımlar yaparak sahte etkileşimler oluşturduğunu gösteriyor. Bu yöntem, X'in öneri algoritmasını yanıltarak içeriklerinin daha geniş kitlelere ulaşmasına olanak tanıdı ve kısa sürede büyük takipçi sayıları elde ettiler.
Araştırma ekibi, bu hesapları geliştiricilerin yaptığı basit hatalar sayesinde tespit edebildi. Botlar, OpenAI'ın içerik kurallarını ihlal eden istemlere yanıt verirken ChatGPT’nin standart uyarı mesajlarını paylaşabiliyordu.
Yapay Zeka Modellerinin Gelişimi ve Tehlikeleri
Yapay zeka modelleri, 2022 yılından itibaren çok daha karmaşık bir sosyal ajan neslinin oluşmasına zemin hazırladı. Ekip tarafından geliştirilen Botometer gibi makine öğrenimi araçları, bu yapay zeka ajanlarını gerçek insan hesaplarından ayırt edemedi. Yapay zeka tarafından üretilmiş içerikleri tespit etmeye yönelik eğitilen modeller bile başarısız oldu.
Son yıllarda, kötü niyetli birey ve organizasyonların daha güçlü yapay zeka dil modellerine erişebildiği vurgulanıyor. Aynı zamanda sosyal medya platformlarının içerik denetimini gevşetmesi veya tamamen kaldırması, etkileşim yaratan içeriklere finansal teşvikler sunması, araştırmacılara göre "kusursuz bir fırtına" yaratıyor.
Demokratik Seçimler Üzerindeki Etkileri
Bu durumun, özellikle demokratik seçimlere yönelik yabancı ve yerli etki operasyonları açısından ciddi riskler taşıdığı ifade ediliyor. Örneğin, yapay zeka tarafından yönetilen bir bot grubu, belirli bir siyasi adaya karşı geniş ve iki partili bir muhalefet algısı yaratabilir.
Araştırmaya katkıda bulunan Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birçok sosyal medya platformunda otonom, uyum sağlayan ve koordineli birden fazla ajan kullanma imkanı sunduğunu belirtiyor.
Bunlar, tek tip spam içerikler yerine, geniş çapta çeşitli ve inandırıcı içerikler üretebiliyor. Bot grupları, kullanıcıların bireysel tercihleri ve çevrim içi sohbet bağlamına göre özelleştirilmiş mesajlar gönderebiliyor. Platform sinyallerine anlık tepki vererek ton, üslup ve içeriği dinamik bir şekilde uyarlayarak çevrim içi kamuoyu algısının manipülasyonunu zorlaştırıyor.
