Roblox Punya Fitur AI Anti Chat Toxic untuk Lindungi Anak dari Pelecehan

Liputan6.com, Jakarta - Dunia game online kerap diwarnai percakapan yang mengandung kata-kata kasar, pelecehan, hingga potensi tindakan kriminal.

Meski persentasenya kecil, jutaan jam interaksi yang terjadi setiap hari membuat masalah ini sulit dihindari, terutama bagi pemain anak-anak yang lebih rentan terhadap pengaruh buruk.

Kasus percakapan toxic di platform game sering kali berujung pada pengalaman bermain yang tidak nyaman, bahkan berbahaya bagi sebagian pemain muda.

Mengutip TechRadar, Jumat (15/8/2025), Roblox mengumumkan langkah besar dengan membagikan sistem AI Sentinel secara gratis kepada platform lain.

Teknologi AI anti chat toxic ini dikembangkan untuk mengenali perilaku mencurigakan di ruang obrolan, termasuk upaya perundungan atau grooming, sebelum masalah tersebut berkembang lebih jauh.

Dengan lebih dari 100 juta pengguna aktif harian, mayoritas anak-anak, Roblox berharap inisiatif ini dapat meningkatkan keamanan di dunia game online secara global.

Sentinel bukan sekadar filter kata kotor untuk memblokir kata tertentu. AI ini bekerja dengan memantau pola percakapan secara menyeluruh, menganalisis bagaimana interaksi berkembang dari waktu ke waktu, bukan hanya mendeteksi kata yang dilarang.

Misalnya, sistem ini mampu mengenali percakapan panjang di mana seorang pemain dewasa tampak terlalu tertarik pada kehidupan pribadi anak.

Pendekatan berbasis konteks ini memungkinkan Sentinel mengidentifikasi ancaman yang lebih halus, yang biasanya lolos dari filter tradisional.

Teknologi ini juga bisa beradaptasi dengan bahasa dan cara komunikasi baru yang sering berubah di komunitas online.

Roblox percaya bahwa dengan membagikannya secara gratis, semakin banyak platform yang dapat mengintegrasikannya untuk memperkuat perlindungan bagi penggunanya.

Selama paruh pertama tahun ini, Sentinel membantu moderator Roblox membuat sekitar 1.200 laporan ke National Center for Missing and Exploited Children (NCMEC).

Jumlah ini mencerminkan potensi besar teknologi AI dalam mendeteksi dan mencegah kasus berbahaya sebelum berkembang lebih jauh.

Kecepatan respons ini menjadi faktor penting, mengingat setiap menit bisa berarti untuk keselamatan anak di dunia maya.

Langkah ini juga menegaskan komitmen Roblox terhadap keselamatan pengguna muda. Bukan hanya melindungi secara langsung, Sentinel juga menjadi sumber pembelajaran bagi pengembang untuk memahami pola interaksi berisiko.

Dengan pendekatan ini, ruang gerak pelaku yang mencoba memanfaatkan celah di dunia online dapat ditekan seminimal mungkin.

Keputusan Roblox membuka akses Sentinel secara gratis dinilai sebagai langkah berani yang bisa mengubah standar keamanan di industri game.

Jika diadopsi luas, teknologi ini berpotensi menjadi tolak ukur baru dalam melindungi pengguna, terutama anak-anak, dari percakapan berbahaya.

Pakar keamanan siber menekankan bahwa keberhasilan Sentinel akan sangat bergantung pada komitmen setiap platform yang menggunakannya.

Integrasi yang tepat, pelatihan moderator, dan pembaruan sistem akan menjadi kunci efektivitasnya.

Bagi orangtua, kehadiran AI seperti Sentinel memberi rasa aman tambahan, karena risiko dapat diidentifikasi bahkan sebelum menjadi ancaman nyata.

Di tengah meningkatnya kekhawatiran akan keselamatan online, inovasi seperti ini menjadi fondasi penting bagi ruang digital yang lebih sehat.