Liputan6.com, Jakarta -OpenAI meluncurkan alat berbasis artificial intelligence (AI) untuk mendeteksi materi kekerasan seksual terhadap anak atau Child Sexual Abuse Material (CSAM).
Teknologi ini dirancang untuk membantu organisasi perlindungan anak mengidentifikasi gambar berbahaya, termasuk yang dibuat menggunakan AI generatif.
Dikutip dari Mashable, Selasa (17/11/2026), teknologi baru tersebut menggunakan image classifier untuk mengenali tanda-tanda visual dalam gambar dan membantu petugas menentukan materi yang perlu diperiksa lebih dahulu.
Advertisement
Dalam pengumumannya, Senior Vice President National Center for Missing & Exploited Children (NCMEC), John Shehan, mengatakan, "Teknologi memiliki peran penting dalam membantu mengidentifikasi materi kekerasan seksual terhadap anak."
Berbeda dari sistem yang hanya mencocokkan gambar dengan basis data materi yang sudah diketahui, alat ini dirancang untuk mengenali gambar baru yang belum pernah teridentifikasi sebelumnya.
Kemampuannya juga mencakup pendeteksian gambar yang diduga dibuat atau dimanipulasi menggunakan AI.
Sistem akan menghasilkan skor risiko untuk membantu petugas menentukan gambar yang perlu mendapat perhatian lebih dahulu. OpenAI juga menyematkan sinyal khusus untuk menunjukkan kemungkinan suatu gambar dihasilkan menggunakan AI.
Pengembangan teknologi ini melibatkan NCMEC, organisasi nirlaba yang mengelola CyberTipline, pusat pelaporan eksploitasi anak secara daring di Amerika Serikat.
Ada di OpenAI API
OpenAI menyediakan akses ke alat pendeteksi tersebut secara gratis melalui OpenAI API. Namun, layanan itu hanya tersedia bagi organisasi yang telah melewati proses verifikasi dan memperoleh persetujuan.
Dalam pengujian internal, OpenAI mengklaim teknologi barunya mampu mengurangi jumlah gambar yang perlu diperiksa hingga 48%, sembari menemukan jumlah materi berbahaya yang kurang lebih sama dengan sistem sebelumnya.
Gambar yang ditandai oleh sistem ini juga dikatakan memiliki kemungkinan sekitar dua kali lebih besar mengandung materi kekerasan seksual terhadap anak. Hasil pengujian bersama mitra turut menunjukkan potensinya dalam mempercepat proses pemeriksaan.
Advertisement
Fitur Peringatan Keamanan di ChatGPT
Selain mengembangkan alat pendeteksi gambar, OpenAI memperkenalkan peringatan baru di ChatGPT untuk menghentikan percobaan pengguna mencari materi eksploitasi seksual anak.
Sistem akan menampilkan pemberitahuan mengenai dampak perilaku itu sekaligus mengarahkan pengguna ke layanan bantuan khusus.
OpenAI juga akan menghapus percakapan yang ditandai dan menghentikan sementara akses pengguna ke ChatGPT selama 24 jam. Pelanggaran berulang bisa berujung pada pembatasan lebih lama, penutupan akun, atau pelaporan kepada pihak berwenang.
Perusahaan turut menyediakan panduan bagi pengembang untuk mencegah, mendeteksi, dan melaporkan materi berbahaya. OpenAI juga menyiapkan perangkat berbasis AI serta pelatihan bagi penyidik yang menangani kasus eksploitasi anak.
Penyalahgunaan AI terhadap Anak Meningkat
Peluncuran teknologi ini berlangsung ketika laporan terkait penggunaan AI dalam eksploitasi seksual anak meningkat tajam.
Menurut NCMEC, laporan CyberTipline yang berkaitan dengan AI generatif meningkat dari sekitar 4.700 pada 2023 menjadi lebih dari 400.000 pada 2025. Childlight yang dikutip The Guardian menjelaskan kenaikan tersebut mencapai lebih dari 8.400% dalam dua tahun.
Namun, angka itu mencakup berbagai laporan yang memiliki keterkaitan dengan AI generatif. Tidak semuanya merupakan gambar eksploitasi seksual anak yang sudah dikonfirmasi sebagai hasil buatan AI.
Advertisement
:strip_icc():format(webp)/kly-media-production/medias/9399376/original/083406300_1794894768-cek_fakta_-_bpjs_kesehatan_25_T.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9399232/original/003114300_1794888054-cek_fakta_taman.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9311957/original/053974000_1785469440-Cek_Fakta_Tidak_Benar_Ini_Link_Pendaftaran_-_2026-07-31T104301.344.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9348780/original/066704200_1789457937-cek_fakta_-_pekerja_migran.jpg)
:strip_icc():format(webp)/kly-media-production/medias/5399810/original/068925400_1762009108-OPENAI.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9391954/original/072137000_1793958689-Vertical_500x656_-_Dayatana.png)
:strip_icc():format(webp)/kly-media-production/medias/9398106/original/007827400_1794725724-WhatsApp_Image_2026-11-15_at_1.29.54_PM__1_.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/9395218/original/051780400_1794382367-1000470660.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9394714/original/091279300_1794326757-Kasatgas_PRR_Pascabencana_Sumatera_Muhammad_Tito_Karnavian_mengunjungi_Masjid_Giok_di_Kabupaten_Nagan_Raya.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/5672844/original/088874200_1778500755-WhatsApp_Image_2026-05-11_at_17.39.23.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/9393878/original/030670200_1794263476-IMG-20261109-WA0074.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9384842/original/038343100_1793183418-IMG_5436.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9354358/original/056083700_1790048825-1001035495.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9345690/original/067748100_1789050705-WhatsApp_Image_2026-09-10_at_21.02.17.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/9344472/original/056989200_1788947104-WhatsApp_Image_2026-09-09_at_4.34.59_PM.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/9329986/original/052581700_1787307659-WhatsApp_Image_2026-08-21_at_17.03.26.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/9308204/original/009529000_1785132477-WhatsApp_Image_2026-07-27_at_12.46.15_PM.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/5447736/original/015145700_1765962219-Vertical_500x656_-_SIXtainability.png)
:strip_icc():format(webp)/kly-media-production/medias/9292496/original/090511000_1783600392-NTB_Karbon.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/5579843/original/047446500_1778100078-bhavitha.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9395696/original/023160700_1794418118-WhatsApp_Image_2026-11-12_at_00.15.30.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/9396488/original/000643100_1794488747-IMG-20261112-WA0010_1.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9395039/original/009443800_1794377424-IMG-20261110-WA0061.jpg)
:strip_icc():format(webp)/kly-media-production/medias/5487907/original/007579500_1769683336-Huta_Kota_Rejang_Lebong.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9393311/original/068751500_1794206004-162342.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9393025/original/080611300_1794188920-Foto_6__1_.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/4952251/original/088033100_1727224556-WhatsApp_Image_2024-09-25_at_07.34.35.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/1588019/original/097014900_1538998899-PG_1.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9392062/original/015622700_1793969928-WhatsApp_Image_2026-11-06_at_12.54.23_PM.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/1106799/original/086489900_1452475545-shutterstock_Poison.jpg)
:strip_icc():format(webp)/kly-media-production/medias/5375808/original/093355300_1759983741-Ilustrasi_ChatGPT_1.jpg)
:strip_icc():format(webp)/kly-media-production/medias/5442152/original/049315200_1765528917-chatgpt-openai-gpt.jpeg)
:strip_icc():format(webp)/kly-media-production/medias/5516293/original/057322900_1772274881-ChatGPT_Ramadan_2026_01.jpg)
:strip_icc():format(webp)/kly-media-production/medias/4309628/original/096718200_1675223815-Kreator_ChatGPT_OpenAI.jpg)
:strip_icc():format(webp)/kly-media-production/medias/5400475/original/049561600_1762127255-chat.jpg)
:strip_icc():format(webp)/kly-media-production/medias/4838233/original/057874200_1716263381-AP24141612292346.jpg)
:strip_icc():format(webp)/kly-media-production/medias/9361882/original/003311900_1790752787-IMG_0076.jpg)