Siswa Ditangkap Polisi Usai Tanya Cara "Menghabisi Teman" ke ChatGPT

JAKARTA, JClarity – Seorang siswa remaja di Florida, Amerika Serikat, ditangkap oleh aparat kepolisian sekolah setelah kedapatan mengetik pertanyaan "Cara menghabisi teman di tengah kelas" pada chatbot kecerdasan buatan (AI) ChatGPT. Insiden yang memicu respons darurat dari pihak berwenang ini menyoroti kembali perdebatan tentang pengawasan AI di lingkungan pendidikan dan keseriusan ancaman siber yang bersifat iseng.

Remaja laki-laki berusia 13 tahun yang merupakan siswa di Southwestern Middle School di Deland, Florida, tersebut dilaporkan mengajukan pertanyaan yang meresahkan itu melalui perangkat yang disediakan oleh sekolah. Pertanyaan yang berpotensi menjadi ancaman serius tersebut terdeteksi seketika oleh sistem pemantauan sekolah berbasis AI yang dikenal sebagai Gaggle.

Sistem Gaggle yang terpasang pada perangkat sekolah dirancang untuk memantau konten, termasuk email dan pesan chatbot, guna mendeteksi perilaku yang mencurigakan seperti kekerasan atau indikasi mencelakai diri sendiri, lalu segera memberi peringatan kepada administrator dan penegak hukum. Begitu peringatan berbunyi, petugas polisi sekolah (School Resource Officer) dari Kantor Sheriff Volusia County segera mendatangi siswa tersebut.

Ketika diinterogasi, siswa itu dilaporkan membela diri dengan mengklaim bahwa ia "hanya bercanda" (just trolling) kepada temannya. Meskipun demikian, pihak sekolah dan kepolisian setempat tidak menganggapnya sebagai hal yang lucu. Polisi menegaskan bahwa setiap ancaman kekerasan di lingkungan sekolah, terlepas dari niatnya, akan ditanggapi dengan sangat serius, terutama mengingat riwayat panjang insiden penembakan massal di sekolah-sekolah AS.

Kantor Sheriff Volusia County telah menahan remaja tersebut dan membawanya ke fasilitas penahanan remaja. Pihak kepolisian juga mengeluarkan peringatan keras kepada para orang tua untuk mendiskusikan dengan anak-anak mereka mengenai bahaya dan konsekuensi dari apa yang mereka tanyakan atau cari melalui internet dan alat-alat AI seperti ChatGPT. "'Candaan' lain yang menciptakan keadaan darurat di kampus. Para orang tua, tolong bicaralah dengan anak-anak Anda agar mereka tidak membuat kesalahan yang sama," ujar kantor Sheriff dalam sebuah pernyataan.

Kasus ini sekali lagi memicu diskusi tentang peran AI, baik sebagai alat yang bermanfaat maupun sebagai instrumen pengawasan yang kontroversial. Sementara sistem seperti Gaggle dipuji karena kemampuannya memberikan respons cepat terhadap potensi ancaman, para kritikus khawatir mengenai lingkungan pengawasan yang tercipta di sekolah yang dapat menimbulkan banyak alarm palsu dan mengikis privasi siswa.