LONDON: Sebuah laman chatbot yang menawarkan senario eksplisit melibatkan kanak-kanak dan remaja dengan disertakan imej penderaan seksual haram mencetuskan kebimbangan baharu mengenai penyalahgunaan kecerdasan buatan (AI).
Menurut Utusan Malaysia, laporan oleh badan pemantau keselamatan kanak-kanak, Internet Watch Foundation (IWF) menggesa kerajaan United Kingdom (UK) memperkenalkan garis panduan keselamatan untuk syarikat AI, susulan peningkatan mendadak bahan penderaan seksual kanak-kanak (CSAM) yang dihasilkan teknologi tersebut.
Menurut IWF, laman chatbot berkenaan menawarkan pelbagai senario menjijikkan dan dalam beberapa kes, ikon chatbot yang diklik akan bertukar menjadi paparan penuh imej penderaan seksual kanak-kanak seterusnya menjadi latar belakang perbualan antara pengguna dan bot.
IWF melaporkan menemukan 17 imej berasaskan AI yang realistik seperti foto dan boleh dianggap sebagai bahan penderaan seksual kanak-kanak di bawah Akta Perlindungan Kanak-Kanak.
Pengguna laman itu juga diberi pilihan untuk menjana lebih banyak imej serupa berdasarkan kandungan terlarang yang dipaparkan.
IWF yang berpangkalan di UK tetapi berperanan memantau kandungan penderaan kanak-kanak secara global, menegaskan sebarang peraturan baharu berkaitan AI mesti memastikan garis panduan perlindungan kanak-kanak dimasukkan sejak awal pembangunan model AI.
Kerajaan UK sebelum ini mengumumkan rang undang-undang AI yang dijangka memberi tumpuan kepada pembangunan model baharu, di samping melarang pemilikan dan pengedaran model yang menjana imej penderaan seksual kanak-kanak melalui rang undang-undang jenayah dan kepolisan.
“Kerajaan UK melangkah ke arah yang tepat dalam menangani isu imej dan video penderaan seksual kanak-kanak berasaskan AI serta alat yang menciptanya.
“Peruntukan jenayah baharu dalam rang undang-undang jenayah dan kepolisan amat diperlukan segera. Namun, lebih banyak tindakan mesti diambil, dan dengan lebih pantas,” kata Ketua Eksekutif IWF, Kerry Smith.
Badan perlindungan kanak-kanak, NSPCC, turut menggesa garis panduan diperkenalkan.
Menurut Akta Keselamatan Dalam Talian UK, chatbot yang dicipta pengguna juga termasuk dalam skop kawalannya.
