Yapay Zeka İçerikleriyle Manipülasyon Tehlikesi!

“Yapay zeka ürünlerini tanımak imkansız hale geldi”

Yapay zeka tehdit tespit platformu Sensity AI’nin araştırmalarına göre, Rusya-Ukrayna Savaşı’nda Ukraynalı siyasetçiler ve askerler, deepfake videolarla manipüle ediliyor. Aynı şekilde Tayvan’da seçim dönemlerinde Çin kaynaklı yapay zeka içerikleri kullanılarak karşıt görüşlü adaylar hedef alınıyor. Japonya’da ise doğal afet görüntüleri yapay zeka ile kurgulanarak halkı panik içinde bırakmak amaçlanıyor.

Yapay zekayla manipülasyon

Yapay zeka araçlarının insan seslerini taklit etme yeteneği, en yüksek risk oluşturan alan olarak görülüyor. Dolandırıcılar, yapay zeka kullanarak siyasetçileri taklit ederek farklı ülkelerin devlet görevlileriyle iletişime geçebiliyor. Bu durum, seslerin kolayca taklit edilebilmesi ve tespit edilmesinin zor olmasıyla ilişkilendiriliyor.

Proaktif denetim ve işbirliğinin önemine vurgu yapan Francesco Cavalli, yapay zeka ile üretilen içeriklerin etiketlenmesinin yeterli olmadığını belirtiyor. Teknoloji şirketlerine ve platformlara, yapay zeka tabanlı manipülasyonlarla mücadelede daha etkin adımlar atma çağrısı yapıyor. Yapay zeka içeriklerinin yayılmasını engellemek için proaktif önlemler alınması gerektiğini ifade ediyor.

“Görmek artık inanmak demek olmayacak”

Sensity AI’nin geliştirdiği sistemler, yapay zeka ile üretilen içerikleri tespit etmek için dört aşamalı bir analiz sürecinden geçiyor. Bu analizlerin sonuçları, resmi soruşturmalarda ve mahkemelerde delil olarak kullanılabiliyor. Cavalli, yapay zeka içeriklerinin yaygınlaşmasıyla birlikte görsel medyaya olan güvenin azaldığını belirterek, insanların bu konuda bilinçlendirilmesi gerektiğini vurguluyor. Artık gördüklerine tamamen inanmanın zorlaştığını ve yapay zeka ile üretilen içeriklerin risklerine karşı daha dikkatli olunması gerektiğini belirtiyor.