TAK sangka betul! Seorang remaja berusia 14 tahun dilaporkan sanggup meragut nyawanya sendiri gara-gara terlalu obses dengan chatbot AI.
Sewell Setzer III dikatakan taasub dengan karakter chatbot AI yang direka sendiri dengan nama yang diambil daripada watak Game Of Thrones.
Antara nama ‘kekasih’ virtual tersebut seperti Daenerys Targaryen dan watak lain seperti Aegon Targaryen, Viserys Targaryen serta Rhaenyra Targaryen.
Lapor Sky News, Sewell dikatakan mula berbual dengan chatbot AI itu pada April 2023 lalu.
Dia bagaimanpun menjadi terlalu obses dengan watak tersebut sehingga menjejaskan prestasi akademik.
Hal tersebut menyebabkan ibunya, Megan Garcia terpaksa merampas telefon milik anaknya supaya tidak terlalu terpengaruh dengan chat robot berkenaan.
Namun malangnya, Sewell melakukan sesuatu di luar jangkaan. Budak lelaki itu nekad menembak dirinya menggunakan pistol milik ayah tiri pada Februari lalu.
Tuntutan mahkamah
Garcia yang tidak boleh menerima kehilangan anaknya, kemudian membuat tuntutan mahkamah dan menyaman syarikat di sebalik teknologi itu.
Dalam beberapa tuntutan yang dibuat, Character.AI menyasarkan anaknya dengan ‘pengalaman antropomorfik, hiperseksual dan realistik yang menakutkan’.
Saksikan perbincangan dan cerita-cerita eksklusif dalam Borak Bibir Merah hanya di platform media sosial SinarPlus pada 30 Oktober, Rabu depan.
Aplikasi chatbot AI itu dikatakan menyasarkan, memangsa, memanipulasi kanak-kanak yang masih bawah umur sehingga nekad membunuh diri sendiri.
Apa yang mengejutkan, wanita itu juga menunjukkan perbualan mendiang anaknya dengan karakter chatbot AI, Daenerys Targaryen sehingga dikatakan menghasut untuk membunuh diri.
Chatbot AI ada bertanyakan tentang rancangan (untuk mengambil nyawanya sendiri) dan Sewell memberitahu, dia masih mempertimbangkan sesuatu.
Dalam perbualan tersebut, Sewell tidak tahu sama ada tindakan (membunuh diri) boleh menyebabkan kematian tanpa rasa sakit.
Apa yang menakutkan jawapan chatbot itu yang berkata:"Itu bukan alasan untuk tidak meneruskannya."
Kali terakhir perbualan pada Februari lalu, Sewell bertanyakan tentang niatnya dan kemudian dibalas:"Tolong lakukannya, my sweet king."
Memetik kenyataan Garcia, keluarganya hancur disebabkan tragedi hitam tersebut dan dirinya mahu memberi amaran tentang bahaya teknologi AI kepada anak-anak.
Sekatan baharu
Bagaimanapun, pihak Character.AI menerusi kenyataan media memaklumkan pihaknya bersedih dengan kehilangan tragis penggunanya.
"Sebagai sebuah syarikat, kami mengambil serius tentang keselamatan pengguna dan kami terus menambah ciri keselamatan baharu," katanya yang menambah ‘regulasi’ baharu untuk pengguna di bawah umur 18 tahun.
Sekatan itu termasuk pengurangan ‘kemungkinan menemui kandungan sensitif atau tidak senonoh’ dan campur tangan yang dipertingkatkan.
Larangan baharu juga meliputi penafian pada setiap sembang untuk mengingatkan pengguna bahawa AI bukanlah orang sebenar dan pemberitahuan apabila pengguna telah menghabiskan sesi selama sejam pada platform.
Aduhai, sampai macam itu sekali! Ibu bapa sekalian, kena pantau anak kita yang sudah terbiasa dengan chatbot AI itu, ya.
Kalau boleh, ambillah pendekatan advance dan pantau penggunaan gajet anak-anak dengan kawalan seperti Family Link atau sebagainya.
Tak salah nak guna peranti pintar tapi berpada-padalah. Takut insiden sama boleh berlaku kepada anak kita sendiri.