Yapay zeka ile üretilmiş fotoğraflar, taklit sesler ve deepfake videolar, savaş alanlarından seçim kampanyalarına kadar “bilgi manipülasyonunun ve dolandırıcılığın en etkili ve tehlikeli araçları” haline geliyor.
Sensity AI araştırmalarına göre, Rusya-Ukrayna Savaşı’nda Ukraynalı siyasetçiler ve askerler, deepfake videolarla “teslim olmaya çağıran” veya “savaş suçu işlediğini itiraf eden” kişiler olarak gösteriliyor. Tayvan’da seçim dönemlerinde politikacıların sahte konuşmaları sosyal medyada yayılarak karşıt adaylara yönelik manipülasyon yapılıyor. Japonya’da ise yapay zekayla üretilmiş sahte doğal afet görüntüleri halkta panik yaratmak için kullanılıyor.
Sensity AI’nin kurucu ortağı Francesco Cavalli, yapay zekayla üretilen içeriklerin ne kadar gerçekçi hâle geldiğine dikkat çekti. Cavalli, özellikle taklit seslerin yüksek risk oluşturduğunu, eğitimli gözler için bile yapay medyanın ayırt edilmesinin giderek zorlaştığını belirtti.
Araştırmada, ABD’de bir dolandırıcının Dışişleri Bakanı Marco Rubio’yu taklit ederek uluslararası diplomatik temaslar kurduğu örnekler de yer aldı. Cavalli, “Yapay zekayla oluşturulmuş içerik kendiliğinden zararlı değil, kullanım şekli ve yeri önemli” diyerek platformlara ve teknoloji şirketlerine proaktif önlemler alma çağrısında bulundu.
Sensity AI, dört aşamalı analiz sistemiyle yüz manipülasyonu, tamamen yapay üretim görsellerin tespiti, taklit ses analizi ve adli inceleme süreçlerini yürütüyor. Cavalli, “Görmek artık inanmak demek olmayacak” diyerek yapay zekayla üretilmiş medya konusunda farkındalığın önemini vurguladı.
Yorum Yazın