Meta akan Menggunakan AI untuk Menghindari Kebohongan di Instagram

 

Baru-baru ini, Meta, perusahaan induk dari platform media sosial Instagram, mengumumkan rencana besar untuk meningkatkan perlindungan terhadap remaja di platform mereka. Rencana ini mencakup penggunaan alat kecerdasan buatan (AI) yang disebut "adult classifier" untuk mendeteksi dan menangkap remaja yang berbohong tentang usia mereka saat membuat akun atau beraktivitas di Instagram. Langkah ini diambil sebagai respons terhadap meningkatnya kekhawatiran dari regulator, orang tua, serta ahli kesehatan mental yang khawatir akan dampak buruk media sosial terhadap kesejahteraan remaja, terutama dalam hal privasi dan paparan terhadap konten berbahaya.

 Menurut informasi yang dilansir oleh Engadget pada 6 November 2023, Meta berencana untuk mulai menerapkan alat AI ini pada awal tahun 2025. Tujuan utama dari penerapan alat ini adalah untuk memastikan bahwa pengguna Instagram yang berusia di bawah 18 tahun akan mendapatkan pengaturan privasi yang lebih ketat, guna melindungi mereka dari risiko yang mungkin muncul di platform sosial tersebut.

   Cara Kerja 'Adult classifier'

 Alat kecerdasan buatan ini, yang diberi nama "adult classifier," akan bekerja dengan menganalisis berbagai indikator yang ada pada aktivitas pengguna di Instagram. Beberapa indikator yang akan dipertimbangkan antara lain adalah akun-akun yang diikuti oleh pengguna, jenis konten yang sering mereka interaksikan, serta berbagai pola perilaku lainnya yang dapat menunjukkan usia pengguna yang sebenarnya.

 Jika alat ini mendeteksi bahwa seorang pengguna yang telah menyatakan dirinya berusia lebih dari 18 tahun, tetapi berdasarkan analisis data tersebut tampaknya berusia di bawah 18 tahun, maka akun tersebut akan otomatis dipindahkan ke pengaturan akun remaja. Hal ini berarti akun tersebut akan mendapatkan pengaturan privasi yang lebih ketat, sesuai dengan usia pengguna yang sebenarnya. Pengaturan privasi yang dimaksud mencakup beberapa hal, seperti:

 1.  Akun yang Secara Otomatis Diatur ke Mode Privat  

   Mode privat ini membuat konten yang diunggah oleh remaja hanya bisa dilihat oleh pengikut yang mereka terima. Hal ini bertujuan untuk membatasi interaksi dengan orang asing yang tidak dikenal.

 2.  Pembatasan dalam Mengirim Pesan kepada Orang yang Tidak Dikenal  

   Salah satu risiko besar bagi remaja di media sosial adalah potensi interaksi dengan orang yang tidak mereka kenal, termasuk orang dewasa yang bisa memiliki niat buruk. Oleh karena itu, dengan alat ini, remaja yang teridentifikasi akan memiliki pembatasan dalam mengirim pesan ke orang yang tidak terhubung langsung dengan mereka.

 3.  Verifikasi Identitas untuk Pengguna yang Mengubah Usia  

   Bagi remaja yang mencoba mengubah usia mereka secara manual agar terlihat lebih tua di platform, Meta akan meminta mereka untuk memverifikasi identitas mereka. Proses verifikasi ini bisa dilakukan dengan mengunggah ID resmi atau dengan menggunakan teknologi verifikasi usia seperti Yoti, yang juga telah digunakan oleh Meta untuk fitur Facebook Dating.

   Upaya Meta dalam Melindungi Remaja di Media Sosial

 Langkah penggunaan alat 'adult classifier' ini bukanlah pertama kalinya Meta mencoba untuk meningkatkan keamanan pengguna remaja. Sebelumnya, pada bulan September, Meta telah mengumumkan bahwa mereka akan menerapkan pengaturan privasi yang lebih ketat secara otomatis pada akun-akun yang terdeteksi milik remaja di bawah usia 16 tahun. Kebijakan ini bertujuan untuk membatasi paparan remaja terhadap konten berbahaya dan interaksi yang tidak diinginkan, seperti perundungan atau kontak dengan orang asing yang dapat membahayakan mereka.

 Salah satu aspek penting dari kebijakan ini adalah bagaimana Meta mengatur profil remaja secara default. Akun-akun remaja yang terdaftar di bawah usia 16 tahun secara otomatis akan diprivate, yang artinya hanya teman-teman yang sudah diterima oleh pengguna yang bisa melihat postingan mereka. Selain itu, fitur-fitur yang memungkinkan interaksi langsung dengan orang yang tidak dikenal juga dibatasi untuk mengurangi risiko yang dapat mengancam keselamatan mereka.

   Akurasi dan Banding

 Namun, meskipun rencana ini terdengar menjanjikan, ada beberapa tantangan yang masih perlu diatasi oleh Meta, terutama terkait dengan akurasi dari alat "adult classifier" ini. Meta sendiri belum mengungkapkan seberapa akurat alat ini dalam mengidentifikasi usia seseorang. Oleh karena itu, perusahaan menyadari bahwa kemungkinan adanya kesalahan dalam proses identifikasi adalah hal yang mungkin terjadi.

 Untuk mengatasi hal tersebut, Meta berencana untuk memberikan opsi bagi pengguna yang merasa bahwa mereka telah salah diidentifikasi oleh sistem untuk mengajukan banding. Artinya, jika seorang pengguna merasa bahwa mereka telah ditandai sebagai remaja padahal mereka sebenarnya sudah dewasa, mereka dapat mengajukan permohonan untuk peninjauan ulang. Ini adalah langkah yang penting agar hak pengguna tidak dilanggar akibat kesalahan teknologi.

 Selain itu, Meta juga akan menandai akun-akun baru yang mencoba membuat profil menggunakan alamat email yang sudah terkait dengan akun lain, namun dengan tanggal lahir yang berbeda dari yang sebelumnya terdaftar. Tindakan ini bertujuan untuk mencegah orang dewasa yang mencoba menipu sistem dengan membuat akun palsu yang menyamar sebagai remaja.

   Tantangan dan Harapan ke Depan

 Langkah Meta ini jelas menunjukkan komitmen mereka untuk meningkatkan perlindungan terhadap remaja di media sosial. Penggunaan alat kecerdasan buatan ini diharapkan dapat mengurangi potensi risiko yang dapat mengancam keselamatan remaja, seperti perundungan online, eksploitasi seksual, atau paparan terhadap konten berbahaya. Namun, tantangan yang dihadapi dalam penerapan teknologi seperti ini sangat besar. Selain masalah akurasi dalam identifikasi usia, ada juga kekhawatiran mengenai bagaimana sistem ini akan menangani masalah privasi pengguna, serta kemungkinan penyalahgunaan data pribadi.

 Ke depan, diharapkan Meta terus berinovasi untuk menciptakan lingkungan yang lebih aman dan sehat bagi remaja di platform mereka. Pengawasan yang lebih ketat terhadap usia pengguna serta peningkatan pengaturan privasi akan menjadi langkah penting dalam menciptakan ruang digital yang lebih aman dan nyaman, terutama bagi generasi muda yang tumbuh besar di era media sosial ini.

 Dengan adanya langkah-langkah proaktif seperti ini, diharapkan remaja dapat menikmati manfaat media sosial tanpa harus terpapar risiko yang dapat merugikan kesehatan mental dan fisik mereka. Meta tentu saja harus terus memantau efektivitas kebijakan ini dan siap melakukan penyesuaian jika diperlukan, agar bisa tetap menjaga keseimbangan antara inovasi teknologi dan perlindungan hak-hak pengguna muda.