Meta ikut berinisiatif mencegah penyebaran foto mesra remaja
Meta menggandakan upayanya untuk mencegah penyebaran foto dan video intim anak muda di aplikasinya. Perusahaan hari Senin mengumumkan bahwa Facebook dan Instagram adalah anggota pendiri Take It Down, sebuah inisiatif baru dari National Center for Missing and Exploited Children (NCMEC) yang akan memudahkan pengguna muda dan orang tua mereka untuk menghapus foto intim mereka yang diposting secara online. Jejaring sosial Prancis Yubo, situs dewasa PornHub, dan layanan berlangganan konten OnlyFans adalah anggota lain dari inisiatif ini.
“Take It Down bekerja dengan menetapkan sidik jari digital unik, yang disebut nilai hash, ke gambar atau video telanjang, sebagian telanjang, atau eksplisit secara seksual dari orang-orang di bawah usia 18 tahun,” jelas NCMEC. Siapa pun yang ingin menghapus foto atau video eksplisit dapat mengunjungi tautan ini dan memilih file dari ponsel atau komputer mereka. Perhatikan bahwa ini tidak akan mengunggah file di mana pun. Sebagai gantinya, Take It Down akan menganalisis file di perangkat untuk membuat “hash” atau sidik jari digital dari file tersebut. Hash ini dapat mengidentifikasi salinan persis dari foto atau video tersebut di seluruh platform online yang didukung.
Setelah hash dibuat, Take It Down akan menambahkannya ke daftar aman yang dikelola oleh NCMEC. Perusahaan yang berpartisipasi dapat menggunakan daftar itu untuk memindai platform mereka. Jika sistem mengembalikan kecocokan, yaitu menemukan salinan persis dari foto atau video yang ingin Anda hapus, sistem akan melakukan tindakan untuk membatasi penyebarannya. Ini pada akhirnya dapat menghapus file dan juga memblokir akun yang mempostingnya. Selama ini, identitas Anda tetap anonim, sehingga melindungi privasi Anda. Perhatikan bahwa Take It Down akan mempertahankan hash, sehingga dapat memblokir upload foto atau video eksplisit yang sama di masa mendatang.
Meta secara finansial mendukung pengembangan inisiatif ini
Dalam siaran persnya, Global Head of Safety Meta Antigone Davis mengatakan bahwa perusahaan secara finansial mendukung pengembangan Take It Down. Sekarang bekerja dengan NCMEC untuk mempromosikan di seluruh platformnya, termasuk Facebook dan Instagram. Biggie jejaring sosial juga berencana untuk mengintegrasikan layanan dengan platform ini, sehingga memudahkan pengguna untuk melaporkan konten yang berpotensi melanggar. Take It Down kemungkinan akan menjadi bagian dari sistem pelaporan konten yang ada di Facebook dan Instagram.
Ini adalah yang terbaru dari serangkaian upaya yang telah dilakukan Meta selama bertahun-tahun untuk membuat platformnya lebih aman bagi kaum muda. Perusahaan mengatakan telah mengembangkan lebih dari 30 alat untuk mendukung keamanan remaja dan keluarga di seluruh aplikasinya. Pada November tahun lalu, Facebook memblokir “orang dewasa yang mencurigakan” dari mengirim pesan kepada remaja di Instagram dan Facebook. Itu juga telah bergabung dengan berbagai perusahaan lain di masa lalu untuk memerangi sextortion dan mencegah penyebaran segala bentuk materi pelecehan seksual anak (CSAM) secara online.
