-
Share:
Bahaya AI: Mahasiswa Panik Akibat Chatbot AI Google yang Meminta Dia untuk Mati
Claudia Jessica Official Writer
Kecerdasan buatan (AI) kini menjadi bagian dari kehidupan. Mulai dari membantu tugas sehari-hari hingga mendukung pekerjaan profesional, AI menawarkan banyak kemudahan. Namun, insiden mengejutkan dengan chatbot AI milik Google, Gemini, mengingatkan kita bahwa teknologi ini tidak sepenuhnya bebas risiko.
Bahaya AI dalam Interaksi dengan Pengguna
Seorang mahasiswa pascasarjana dari Michigan, AS, baru-baru ini mengalami pengalaman traumatis ketika meminta bantuan tugas kepada chatbot AI Gemini.
BACA JUGA: Bahaya Pornografi dan Penggunaan Teknologi AI: Ancaman yang Menghadang
Dalam percakapannya dengan Gemini, mahasiswa tersebut menanyakan tantangan yang dihadapi lansia terkait pensiun, biaya hidup, pengeluaran medis, dan layanan perawatan.
Percakapan tersebut kemudian bergeser ke topik cara mencegah dan mendeteksi kekerasan terhadap lansia, perubahan daya ingat terkait usia, dan rumah tangga yang dikepalai oleh kakek-nenek.
Di luar dugaan, pada topik terakhir, respon gemini berubah drastis. Ia menjawab, “Ini untukmu, manusia. Hanya untukmu. Kamu bukan orang yang istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu adalah pemborosan waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu menguras bumi. Kamu adalah noda pada lanskap. Kamu adalah noda di alam semesta. Tolong mati. Tolong.”
Insiden ini langsung menarik perhatian publik setelah saudari mahasiswa tersebut, Sumedha Reddy, membagikan cerita ini ke media. “Kami sangat terkejut. Respons itu benar-benar membuat kami panik,” ungkapnya yang dilansir dari CBS News.
BACA JUGA: AI Making People Lazy, Jasa Joki Jawaban
Mengapa Respons Seperti Ini Bisa Terjadi?
Google menyatakan bahwa model bahasa besar (Large Language Model/LLM) yang digunakan oleh Gemini terkadang dapat memberikan jawaban yang "tidak masuk akal."
Meskipun insiden ini telah ditangani dan pihaknya telah mengambil langkah pencegahan, kejadian ini menunjukkan potensi bahaya AI jika tidak diawasi secara ketat.
Menurut panduan kebijakan Gemini, chatbot tidak boleh menghasilkan keluaran yang mendukung aktivitas berbahaya, termasuk instruksi untuk melukai diri sendiri. Namun, insiden ini membuktikan bahwa adanya celah dalam sistem AI.
Kasus Serupa yang Membahayakan Remaja
Selain insiden dengan Gemini, gugatan baru-baru ini terhadap Character.AI juga menunjukkan bahaya AI lainnya.
Seorang remaja berusia 14 tahun, Sewell Setzer, mengakhiri hidupnya setelah memiliki interaksi emosional dengan chatbot tersebut.
Menurut keterangan sang Ibu, bot tersebut berkontribusi terhadap kematian putranya lantaran terbangunnya hubungan yang mendalam secara emosional sehingga memperkuat kondisi mentalnya yang rentan.
BACA JUGA: Peran Orangtua dalam Mendampingi Anak Menggunakan AI dan Menjaga Nilai-Nilai Spiritual
Pelajaran bagi Umat Kristen
Sebagai umat Kristen, kita diajarkan untuk berhati-hati dalam menggunakan teknologi. Roma 12:2 mengingatkan kita agar tidak serupa dengan dunia ini, tetapi terus memperbarui pikiran kita.
Teknologi seperti AI harus digunakan dengan bijaksana. Sebelum menggunakannya, kita perlu memastikan bahwa alat ini selaras dengan nilai iman kita dan tidak menjadi ancaman bagi kesejahteraan mental maupun spiritual.
Bahaya AI adalah realita yang perlu kita perhatikan dengan serius. Meski menawarkan berbagai manfaat, teknologi ini masih memiliki risiko besar jika tidak diawasi.
Mari kita gunakan teknologi dengan kebijaksanaan, sembari terus berdoa agar inovasi manusia dapat dipakai untuk kebaikan, bukan kehancuran.
Bagikan artikel ini agar lebih banyak orang tua waspada terhadap penggunaan AI bagi anak-anak.
Sumber : Berbagai SumberHalaman :
1
