SAN FRANCISCO: Ibu bapa kepada remaja yang menggunakan platform ChatGPT bakal menerima notifikasi sekiranya sistem mengesan anak mereka berada dalam keadaan tekanan emosi akut, menurut pengumuman terbaharu OpenAI.
Menurut Utusan Malaysia, langkah itu merupakan sebahagian daripada kawalan ibu bapa baharu yang diperkenalkan selepas isu keselamatan remaja pengguna platform kecerdasan buatan (AI) itu menjadi tumpuan berikutan tindakan saman oleh sepasang suami isteri di California minggu lalu.
Pasangan berkenaan, Matt dan Maria Raine, memfailkan saman terhadap OpenAI berikutan kematian anak mereka, Adam Raine, 16, pada April lalu.
Mereka mendakwa ChatGPT mengesahkan pemikiran paling berbahaya dan bersifat merosakkan diri remaja itu sebelum dia mengambil nyawanya sendiri.
Menurut OpenAI, ciri baharu itu yang akan dilaksanakan bulan depan, membolehkan ibu bapa menghubungkan akaun mereka dengan akaun anak, mengawal beberapa fungsi termasuk mematikan sejarah perbualan serta menerima amaran sekiranya sistem mengesan tekanan emosi serius pada remaja.
“Input daripada pakar akan membimbing ciri ini supaya wujud kepercayaan antara ibu bapa dan remaja,” kata OpenAI dalam kenyataannya, sambil menjelaskan pihaknya bekerjasama dengan pakar pembangunan remaja, kesihatan mental serta interaksi manusia-komputer bagi membentuk pendekatan berasaskan bukti.
OpenAI sebelum ini memaklumkan ChatGPT telah dilatih untuk mengarahkan pengguna mencari bantuan profesional, seperti menghubungi talian sokongan Samaritans di United Kingdom (UK), apabila mereka meluahkan rasa tertekan namun, syarikat itu mengakui terdapat keadaan di mana sistem gagal berfungsi sebagaimana yang diharapkan.
Di bawah peraturan semasa, pengguna ChatGPT mestilah berusia sekurang-kurangnya 13 tahun, manakala mereka yang berumur bawah 18 tahun diwajibkan mendapat kebenaran ibu bapa.
Pengumuman ini turut dilihat seiring dengan langkah syarikat teknologi global lain untuk memperketatkan perlindungan keselamatan kanak-kanak dalam talian, termasuk pelaksanaan Akta Keselamatan Dalam Talian di Britain yang membawa kepada penguatkuasaan pengesahan umur di beberapa platform seperti Reddit, X dan laman sesawang lucah.
Awal minggu ini, Meta, pengendali Facebook dan Instagram turut mengumumkan langkah baharu dengan menghadkan perbualan berkaitan isu bunuh diri, mencederakan diri sendiri dan gangguan pemakanan antara chatbot AI syarikat itu dengan remaja.
Langkah-langkah ini diambil selepas tekanan daripada pihak berkuasa dan masyarakat antarabangsa yang semakin bimbang dengan keselamatan remaja di ruang digital.
