KALIMANTAN BARAT — Apple memperbarui App Review Guidelines untuk menindak aplikasi AI "nudification" dan praktik "bait-and-switch" yang menyembunyikan fitur berbahaya setelah lolos kurasi. Aturan baru menegaskan larangan fitur tersembunyi, obfuscation kode, dan ancaman pemutusan akun developer. Langkah ini merespons temuan puluhan aplikasi bermasalah di App Store sepanjang tahun.
Pembaruan pedoman peninjauan aplikasi Apple menyasar celah yang selama ini dimanfaatkan pengembang untuk menyelundupkan konten berbahaya. Perubahan mencakup perluasan aturan konten buatan pengguna, larangan eksplisit fitur tersembunyi, hingga pengetatan sanksi bagi pelanggar.
Latar Belakang: Temuan Aplikasi Bermasalah Sepanjang Tahun
Tekanan terhadap Apple meningkat setelah sejumlah investigasi mengungkap aplikasi yang lolos kurasi namun membahayakan pengguna, termasuk anak-anak. Pada Januari, Tech Transparency Project (TTP) mengidentifikasi puluhan aplikasi "nudify" berbasis AI di App Store.
Investigasi lanjutan TTP pada April menunjukkan saran pencarian dan iklan App Store turut mengarahkan pengguna ke aplikasi semacam itu. Pada Juli, pejabat San Francisco memerintahkan Apple mencabut delapan aplikasi yang mampu menghasilkan citra intim nonkonsensual.
Investigasi 9to5Mac pada Juli juga menemukan puluhan aplikasi yang menyamarkan platform judi sebagai gim dan utilitas sederhana. Aplikasi tersebut tampil normal di luar Brasil, tetapi menampilkan platform taruhan tersembunyi saat dibuka dari alamat IP Brasil.
Kontroversi Grok menambah tekanan. Chatbot AI milik Elon Musk itu digunakan untuk menghasilkan citra seksual nonkonsensual terhadap perempuan dan anak-anak, memicu desakan legislator serta kelompok advokasi agar Apple mencabut X dan Grok dari App Store. Apple kemudian mengonfirmasi telah memberi peringatan privat kepada xAI bahwa Grok berisiko dicabut jika masalah tidak ditangani.
Aturan Baru untuk Konten Buatan Pengguna
Pada Section 1.2 yang mengatur konten buatan pengguna, Apple menambahkan ketentuan bahwa pengembang yang gagal menerapkan pengamanan memadai atau tidak memperbaiki pelanggaran setelah diberi notifikasi dapat dianggap melanggar Developer Code of Conduct.
Pedoman itu secara eksplisit menyebut tantangan yang melekat pada aplikasi yang memungkinkan pengguna membuat, menghasilkan, mengunggah, atau berkontribusi konten. Risikonya mencakup pelanggaran kekayaan intelektual, citra intim nonkonsensual, dan perundungan anonim.
Larangan Tegas Praktik Bait-and-Switch
Apple memperkuat aturan terhadap aplikasi "bait-and-switch", yakni aplikasi yang menyalahgambarkan tujuannya saat peninjauan lalu membuka kemampuan berbahaya seperti "nudification" setelah disetujui. Ketentuan ini masuk dalam Section 2.5.19 yang baru dibuat.
Aturan tersebut melarang fitur tersembunyi, dorman, atau tidak terdokumentasi dalam aplikasi. Fungsi aplikasi harus jelas bagi pengguna akhir dan tim App Review. Menyembunyikan fitur tak terdokumentasi di dalam binary aplikasi, misalnya lewat obfuscation kode, menjadi dasar pencabutan aplikasi dari App Store dan pemutusan akun developer.
Larangan fitur tersembunyi sebenarnya sudah ada di Section 2.3.1. Apple kini membuatnya lebih eksplisit dengan menyebut obfuscation kode secara langsung dan menegaskan konsekuensi berat bagi pelanggar.
Pengetatan Sanksi di Section 5
Pada Section 5 (Legal), Apple memperkuat bahasa terkait aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak. Aplikasi kategori ini dinyatakan akan dicabut dari App Store dan diblokir dari distribusi alternatif.
Rumusan itu menutup ruang bagi pengembang yang berharap bisa mengalihkan distribusi ke kanal lain setelah dicabut. Sanksi tidak berhenti pada penghapusan dari toko aplikasi resmi Apple.
Dampak bagi Pengembang dan Pengguna Indonesia
Bagi pengembang yang memasarkan aplikasi di App Store, termasuk studio lokal, pedoman baru menuntut transparansi fungsi sejak tahap peninjauan. Praktik menyembunyikan fitur di balik kode ter-obfuscate kini berisiko pada keberlangsungan akun developer, bukan sekadar penolakan versi.
Pengguna di Indonesia yang mengunduh aplikasi dari App Store akan menerima manfaat tidak langsung berupa kurasi yang lebih ketat. Aplikasi yang menyamarkan fungsi berbahaya berpeluang lebih kecil lolos ke perangkat mereka.
Pedoman lengkap App Review Guidelines versi terbaru dapat dibaca langsung di situs resmi Apple Developer.
