Waspada! Algoritma Adu Domba dan Deepfake AI Sedang Mempermainkan Emosimu, Sadar atau Tidak?
Menurut survei APJII 2026, pengguna internet Indonesia sudah mencapai 235,2 juta jiwa, atau sekitar 81,72% populasi. Mayoritas dari mereka online 4 sampai 6 jam setiap hari, dan komunikasi serta media sosial menjadi alasan terbesar kita berselancar.
Angka itu terdengar membanggakan. Tapi coba jujur: berapa kali kamu ikut marah, ikut komentar pedas, atau ikut menyebar sebuah video viral yang ternyata belum jelas kebenarannya? Satu potongan video 20 detik tanpa konteks bisa memicu ribuan komentar penuh amarah dalam hitungan jam.
Pertanyaan yang jarang kita ajukan: siapa yang diuntungkan dari kemarahanmu?
Cara Kerja "Algoritma Adu Domba"
Mari kita luruskan dulu. Algoritma media sosial tidak punya ideologi dan tidak membenci kelompok mana pun. Tujuannya sederhana: membuatmu bertahan di layar selama mungkin. Konten yang memancing marah, takut, atau rasa "kelompokku diserang" cenderung menghasilkan komentar, *share*, dan durasi tonton yang tinggi. Hasilnya, konten semacam itu lebih sering disodorkan kepadamu.
Belum tentu ada pihak yang sengaja merancang platform untuk memecah belah bangsa. Tapi efeknya bisa sama saja, dan di situlah ruang bagi pihak yang memang berniat memanfaatkannya, seperti akun palsu, buzzer, dan penebar hoaks.
Dua mekanisme yang perlu kamu kenal:
- Filter bubble: algoritma menyaring konten berdasarkan apa yang pernah kamu sukai, sehingga kamu jarang melihat sudut pandang lain.
- Echo chamber: kamu dikelilingi orang yang sependapat, sehingga merasa "semua orang setuju denganku" dan menganggap pihak seberang makin ekstrem.
Hasil akhirnya berbahaya. Kita mudah curiga pada sesama warga, mudah percaya pada apa pun yang membenarkan keyakinan kita, dan mudah dimobilisasi oleh isu yang dibuat untuk menyulut.
Waspadai tanda-tanda konten pemancing emosi:
- Judul atau narasi yang memicu marah dan menyudutkan kelompok tertentu
- Pola "kita vs mereka" tanpa ruang abu-abu
- Tanpa sumber jelas, hanya potongan video atau tangkapan layar
- Desakan "sebarkan sebelum dihapus!"
Sisi Gelap AI: Wajah dan Suara Bisa Dipalsukan
Sekarang bayangkan emosi yang sudah mudah disulut itu bertemu dengan teknologi yang mampu meniru manusia nyata. Inilah titik temu yang diincar penipu.
Data berbicara. Indonesia Anti-Scam Center (IASC) mencatat 432.637 laporan dengan total kerugian masyarakat mencapai Rp9,1 triliun hingga pertengahan Januari 2026. Mafindo menyoroti bahwa modus penipuan kini dilengkapi kloning suara dan deepfake wajah. Bahkan, para pelaku bisa membeli "paket lengkap" berisi basis data calon korban, skrip manipulasi psikologis, perangkat lunak deepfake, hingga infrastruktur pencucian uang.
OJK juga mencatat 1.379 laporan penipuan keuangan yang terindikasi memakai AI sejak IASC beroperasi pada 22 November 2024 hingga akhir Juni 2026. Hanya 13 laporan di akhir 2024, sisanya 1.366 laporan terjadi sepanjang 2025 sampai semester I-2026. Modus yang paling banyak dilaporkan adalah investasi bodong dengan deepfake tokoh publik. Identitas lembaga resmi pun bisa dipalsukan.
Beberapa skenario yang sudah terjadi atau sangat mungkin terjadi:
- Deepfake tokoh: video pejabat, artis, atau pengusaha terkenal seolah-olah mempromosikan investasi "pasti untung".
- Kloning suara: telepon dari "anak", "atasan", atau "saudara" yang meminta transfer darurat dengan suara yang terdengar sama persis.
- Pembobolan verifikasi: wajah atau suara sintetis dipakai untuk menembus proses KYC dan otorisasi transaksi, sebagaimana dibahas dalam forum AFTECH dan OJK.
- Pemalsuan dokumen dan identitas lembaga resmi untuk meyakinkan korban.
Perhatikan polanya. Baik algoritma adu domba maupun penipu AI sama-sama menyerang emosimu: marah, takut, panik, serakah, dan rasa terdesak oleh waktu. Orang yang sedang emosional berpikir lebih pendek, dan itu persis yang mereka butuhkan.
Langkah Konkret untuk Melindungi Diri
Untuk menjaga kepala tetap dingin di media sosial:
- Jeda 10 detik sebelum membagikan atau berkomentar. Tanyakan, "Apakah aku sudah tahu konteks lengkapnya?"
- Cek sumber asli, bukan hanya potongan atau tangkapan layar. Cari beritanya di lebih dari satu media tepercaya.
- Sengaja keluar dari gelembung: ikuti beberapa sumber dengan sudut pandang berbeda, dan bersihkan rekomendasi atau riwayat tontonan secara berkala.
- Kenali emosimu. Kalau sebuah konten membuatmu langsung marah, curigai bahwa itu memang dirancang begitu.
- Jangan beri panggung pada provokator. Mengabaikan sering kali lebih efektif daripada membalas.
Untuk menangkal deepfake dan penipuan AI:
- Terapkan prinsip 2L dari OJK: Logis dan Legal. Apakah untungnya masuk akal, dan apakah pihaknya terdaftar resmi?
- Verifikasi balik. Jika ada telepon atau video call dari "keluarga" atau "atasan" yang meminta uang, tutup dan hubungi kembali lewat nomor yang kamu simpan sendiri.
- Buat kata sandi rahasia keluarga yang hanya diketahui orang terdekat, untuk memastikan siapa yang sebenarnya menelepon.
- Curigai kesempurnaan dan urgensi: janji untung besar, tokoh terkenal yang tiba-tiba menawarkan investasi, dan batas waktu mepet adalah lampu merah.
- Kurangi jejak pribadi: batasi video, rekaman suara, dan foto yang bisa diakses publik, karena itu bahan baku tiruan.
- Aktifkan verifikasi dua langkah di akun penting, dan jangan pernah membagikan OTP, PIN, atau kode verifikasi kepada siapa pun.
Jika terlanjur jadi korban: segera hubungi bank atau penyedia jasa pembayaran agar transaksi bisa ditunda atau dana diblokir, lalu laporkan ke IASC dan aparat penegak hukum. Kecepatan sangat menentukan.
Kesimpulan: Kesadaran Adalah Pertahanan Pertama
Teknologi tidak akan berhenti makin canggih, dan penipu selalu bergerak cepat mengadopsinya. Kita tidak bisa mengandalkan platform atau regulator saja, karena pertahanan terkuat tetap kebiasaan berpikir kritis dari pengguna itu sendiri.
Algoritma akan terus menawarkan amarah, dan penipu akan terus menawarkan kepanikan serta keserakahan. Tugas kita adalah berhenti sejenak, memeriksa, lalu memutuskan dengan kepala dingin, bukan dengan emosi yang disulut orang lain.
Artikel lainnya
Bukan Cuma Chatbot! Agentic AI Mulai “Kerja Sendiri”, Gimana Nasib Pekerja dan UMKM Indonesia?
Bisakah kita beradaptasi dengan perkambangan secepat ini?
Bukan Cuma Kripto! Aset Nyata Mulai Naik ke Blockchain, Ini Peluang dan Aturan Mainnya di Indonesia
Tokenisasi Real World Assets (RWA) membuka cara baru memiliki emas, properti, hingga tagihan logistik secara patungan, tapi aturan OJK-nya masih disusun.