Güney Kore polisi, "deepfake" içeriklerle mücadele için tespit sistemi geliştirecek

Yonhap'ın haberine göre, Güney Kore'de yapay zekayla üretilen "cinsel içerikli" görüntü ve seslerle ilgili suçlardaki artışın önüne geçmek için çalışmalar devam ediyor.

Güney Kore polisince yapılan açıklamada, deepfake içerikleri tespit edebilecek sistem kurmak için yaklaşık 6 milyon dolar yatırım yapılacağı belirtildi.

Açıklamada, projenin 2027'ye kadar tamamlanmasının öngörüldüğü ve sistem sayesinde deepfake videoların tespitinin hızlanacağı ifade edildi.

Güney Kore'de 2024'te 1094 deepfake suçuyla ilişkili 573 şüpheli gözaltına alındı.

Güney Kore'de "deepfake" olayları

Güney Kore'de okul ve üniversitelerle bağlantılı bazı sohbet gruplarında çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun "deepfake" yöntemi aracılığıyla manipüle edilen ses ve görüntülerini içeren "cinsel içerikli" videoların yayıldığı belirlenmişti.

Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, bu görüntülerin yayıldığı Telegram'la ilgili "suça yataklık etme" gerekçesiyle ön soruşturma açıldığını açıklamıştı.

Güney Kore İletişim Standartları Komisyonu (KCSC) yetkilileriyle bir araya gelen Telegram yetkilileri, sorunun ciddiyetinin farkında olduklarını belirtmiş, bu tür yasa dışı materyallere karşı sıkı önlemler dahil "sıfır tolerans politikası" uygulanacağı sözünü vermişti.