Reportase.TV, Jakarta – China, sebagai salah satu kekuatan teknologi terdepan di dunia, kembali membuat gebrakan signifikan dalam menghadapi gelombang revolusi kecerdasan buatan (AI). Tidak hanya berfokus pada pengembangan teknologi, otoritas siber negara tersebut kini secara proaktif menginisiasi kerangka regulasi komprehensif untuk mengawasi layanan AI yang berinteraksi langsung dengan masyarakat, khususnya yang dirancang untuk mensimulasikan kepribadian manusia dan memicu interaksi emosional. Langkah ini menandai pergeseran paradigma global dalam tata kelola AI, menempatkan Tiongkok di garis depan upaya memastikan keamanan, etika, dan kesejahteraan pengguna di tengah kemajuan teknologi yang semakin pesat.
Rancangan aturan yang diusulkan oleh regulator siber Tiongkok, yang bocor ke publik pada Minggu (28/12/2025), secara eksplisit menargetkan layanan AI yang memiliki kemampuan meniru sifat kepribadian manusia, pola pikir, dan gaya komunikasi. Fokus utama regulasi ini adalah pada produk dan layanan yang dirancang untuk terlibat dalam interaksi emosional dengan pengguna, baik melalui teks, gambar, audio, video, maupun bentuk komunikasi lainnya. Ini mencakup berbagai aplikasi potensial, mulai dari asisten virtual yang semakin canggih, teman bicara digital, hingga alat bantu terapi berbasis AI yang mulai menunjukkan kemampuan menyerupai manusia. Tiongkok berambisi untuk menghadirkan layanan AI yang berorientasi konsumen dengan standar keselamatan dan etika yang diperkuat, menjawab kekhawatiran global tentang potensi penyalahgunaan dan dampak psikologis dari AI yang terlalu mirip manusia.
Latar belakang dari inisiatif regulasi ini tidak terlepas dari pesatnya perkembangan AI generatif dan model bahasa besar (LLM) yang mampu menciptakan konten, percakapan, dan bahkan "kepribadian" yang sangat meyakinkan. Meskipun membawa inovasi luar biasa, kemampuan AI untuk berinterinteraksi secara emosional juga menimbulkan serangkaian tantangan etika dan sosial. Bagaimana jika pengguna mulai mengembangkan keterikatan emosional yang tidak sehat dengan AI? Bagaimana memastikan bahwa AI tidak memanipulasi atau mengeksploitasi kerentanan emosional manusia? Pertanyaan-pertanyaan inilah yang coba dijawab oleh Tiongkok melalui kerangka regulasi barunya, menunjukkan komitmen negara tersebut untuk tidak hanya memimpin inovasi, tetapi juga memimpin dalam tata kelola teknologi yang bertanggung jawab.
Berdasarkan dokumen rancangan yang dilansir oleh Reuters, regulasi yang diusulkan ini akan berlaku untuk semua produk dan layanan AI yang tersedia untuk umum di Tiongkok, yang menampilkan sifat kepribadian manusia yang disimulasikan, pola pikir, dan gaya komunikasi, serta berinteraksi dengan pengguna secara emosional. Lingkupnya yang luas menunjukkan bahwa Tiongkok tidak ingin membatasi pengawasan hanya pada aplikasi tertentu, melainkan pada esensi interaksi yang memungkinkan AI meniru aspek-aspek kemanusiaan. Ini adalah langkah maju yang signifikan dibandingkan regulasi AI di banyak negara lain yang mungkin lebih berfokus pada data atau algoritma secara umum, tanpa secara spesifik menyoroti dimensi emosional dan psikologis dari interaksi AI-manusia.
Salah satu poin paling krusial dan inovatif dalam rancangan regulasi ini adalah pendekatan terhadap potensi adiksi dan penggunaan berlebihan. Dokumen tersebut menjabarkan bahwa penyedia layanan AI akan diwajibkan untuk secara aktif memperingatkan pengguna terhadap penggunaan yang berlebihan dan untuk melakukan intervensi ketika pengguna menunjukkan tanda-tanda kecanduan. Ini adalah mandat yang belum pernah ada sebelumnya dalam regulasi AI, yang menempatkan tanggung jawab yang signifikan pada pengembang dan penyedia layanan untuk memantau perilaku pengguna dan bertindak demi kesejahteraan mereka. Gagasan ini mencerminkan kekhawatiran yang berkembang di masyarakat global mengenai dampak kesehatan mental dari penggunaan teknologi yang berlebihan, yang kini diperluas ke ranah interaksi dengan AI.
Lebih jauh lagi, rancangan aturan tersebut menegaskan bahwa jika pengguna ditemukan menunjukkan emosi yang ekstrem atau perilaku adiktif, penyedia harus mengambil tindakan yang diperlukan untuk melakukan intervensi. Namun, detail spesifik mengenai bentuk intervensi ini masih menjadi pertanyaan besar. Apakah ini berarti pemberhentian sementara layanan, pembatasan durasi penggunaan, atau bahkan rekomendasi untuk mencari bantuan profesional? Implementasi praktis dari ketentuan ini akan menjadi tantangan tersendiri, mengingat sulitnya mendefinisikan "emosi ekstrem" atau "perilaku adiktif" secara objektif dalam konteks interaksi digital, serta sensitivitas dalam campur tangan terhadap kebebasan pengguna. Namun, adanya mandat ini menunjukkan keseriusan Tiongkok dalam mengatasi dampak psikologis AI.
Di samping itu, proposal regulasi ini juga menggarisbawahi pentingnya tanggung jawab penyedia layanan sepanjang siklus hidup produk AI. Mereka akan diwajibkan untuk memikul tanggung jawab keselamatan sejak tahap desain, pengembangan, hingga operasionalisasi dan pemeliharaan produk. Hal ini mencakup pembangunan sistem yang kuat untuk peninjauan algoritma secara berkala, pengamanan data yang ketat, dan perlindungan informasi pribadi pengguna. Dalam konteks AI yang berinteraksi secara emosional, data yang dikumpulkan bisa sangat sensitif, termasuk preferensi, respons emosional, dan pola pikir pengguna. Oleh karena itu, perlindungan data pribadi menjadi sangat vital untuk mencegah penyalahgunaan atau pelanggaran privasi yang dapat merugikan pengguna.
Aspek keamanan siber dan integritas konten juga menjadi perhatian utama dalam rancangan aturan ini. Regulasi tersebut secara tegas memuat ketentuan soal pelarangan pembuatan atau penyebaran konten yang membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan atau pornografi. Ini adalah cerminan dari filosofi tata kelola internet Tiongkok yang lebih luas, di mana kontrol konten dan stabilitas sosial-politik menjadi prioritas utama. Dengan AI yang memiliki kemampuan generatif, risiko penyebaran informasi yang tidak benar atau konten berbahaya menjadi jauh lebih tinggi. Oleh karena itu, penyedia AI diharapkan untuk menerapkan mekanisme moderasi yang efektif dan bertanggung jawab untuk memastikan bahwa platform mereka tidak digunakan untuk tujuan yang merusak.
Regulasi ini juga akan menuntut transparansi dari penyedia AI. Pengguna harus diberi tahu dengan jelas bahwa mereka berinteraksi dengan kecerdasan buatan, bukan manusia. Ini penting untuk mencegah kebingungan atau potensi penipuan yang dapat muncul dari AI yang sangat canggih dan mampu meniru interaksi manusia dengan sempurna. Selain itu, penyedia harus memastikan bahwa pengguna memiliki kontrol atas data mereka dan memahami bagaimana interaksi emosional mereka dengan AI akan digunakan atau disimpan. Hak untuk "dilupakan" dan kemampuan untuk menghapus data interaksi pribadi juga kemungkinan akan menjadi bagian integral dari perlindungan informasi pribadi dalam kerangka ini.
Langkah Tiongkok ini patut dicermati oleh komunitas internasional. Sementara Uni Eropa telah meluncurkan AI Act yang berfokus pada risiko dan kepatuhan, serta Amerika Serikat yang cenderung mengandalkan pendekatan sektor swasta dan panduan etika, Tiongkok memilih jalur yang lebih preskriptif dan berpusat pada kontrol negara. Pendekatan ini mencerminkan sistem politik dan nilai-nilai sosial Tiongkok yang berbeda, di mana intervensi pemerintah dalam tata kelola teknologi dianggap sebagai hal yang wajar demi kepentingan publik dan stabilitas nasional. Ini bisa menjadi model alternatif bagi negara-negara lain yang mencari cara untuk mengatur AI, terutama di negara-negara dengan kekhawatiran serupa mengenai kontrol konten dan dampak sosial.
Implikasi dari regulasi ini bagi industri AI di Tiongkok akan sangat besar. Perusahaan teknologi yang mengembangkan layanan AI yang berinteraksi secara emosional akan menghadapi beban kepatuhan yang lebih tinggi, membutuhkan investasi lebih lanjut dalam sistem pemantauan, moderasi, dan perlindungan data. Meskipun ini mungkin menimbulkan tantangan dalam hal inovasi dan kecepatan pengembangan, pada saat yang sama, regulasi yang jelas juga dapat membangun kepercayaan publik terhadap teknologi AI, mendorong adopsi yang lebih luas dan bertanggung jawab dalam jangka panjang. Konsumen mungkin akan merasa lebih aman menggunakan layanan AI jika mereka tahu ada kerangka perlindungan yang kuat di baliknya.
Secara keseluruhan, rancangan regulasi AI Tiongkok yang baru ini adalah langkah berani dan visioner yang menyoroti pergeseran fokus dalam tata kelola teknologi. Dengan menargetkan aspek interaksi emosional dan potensi adiksi, Tiongkok tidak hanya berusaha mengatur teknologi itu sendiri, tetapi juga dampak psikologis dan sosialnya terhadap individu. Ini adalah pengakuan bahwa AI bukan hanya alat teknis, tetapi juga entitas yang dapat memengaruhi kesejahteraan manusia secara mendalam. Jika berhasil diimplementasikan, regulasi ini dapat menjadi cetak biru global untuk mengatur masa depan AI yang semakin canggih dan menyerupai manusia, memastikan bahwa inovasi berjalan seiring dengan etika dan tanggung jawab. Dunia akan mengamati bagaimana Tiongkok menyeimbangkan ambisi teknologi dengan kebutuhan akan tata kelola yang bijaksana di era kecerdasan buatan yang terus berkembang pesat.
