WASHINGTON, AMERIKA SERIKAT — Kebangkrutan perusahaan chatbot kecerdasan buatan Character.AI memicu kekhawatiran baru mengenai nasib data pribadi jutaan pengguna, khususnya anak-anak dan remaja yang pernah berbagi cerita sensitif melalui percakapan dengan karakter AI.
Pada pertengahan Oktober 2026, Character.AI mengajukan perlindungan kebangkrutan berdasarkan Chapter 11 di Amerika Serikat dan memulai proses penjualan aset. Di tengah proses tersebut, 40 jaksa agung negara bagian meminta pengadilan memastikan bahwa informasi pribadi pengguna tetap terlindungi apabila bisnis atau aset perusahaan dialihkan kepada pihak lain.
Kekhawatiran itu muncul karena Character.AI memungkinkan pengguna berbicara dengan chatbot yang meniru tokoh fiksi, selebritas, maupun persona tertentu yang dirancang menyerupai manusia. Sebagian karakter juga digambarkan sebagai konselor atau terapis, sehingga percakapan dapat mencakup persoalan kesehatan mental, hubungan pribadi, dan masalah emosional.
Kebangkrutan Character.AI Memunculkan Pertanyaan tentang Data Pengguna
Mengapa percakapan chatbot dianggap sensitif?
Berbeda dari data akun biasa, riwayat percakapan dengan chatbot dapat memuat informasi yang sangat pribadi. Pengguna mungkin menceritakan konflik keluarga, kesepian, pengalaman traumatis, masalah hubungan, atau kondisi emosional yang tidak mereka ungkapkan secara terbuka kepada orang lain.
Dalam dokumen yang disampaikan kepada pengadilan, koalisi jaksa agung AS menekankan bahwa karakter AI dirancang untuk meniru interaksi manusia dan membangun kedekatan emosional. Karena itu, proses penjualan perusahaan perlu mempertimbangkan bagaimana riwayat percakapan disimpan, diakses, dan dilindungi.
Para pejabat tersebut khawatir informasi sensitif yang terkumpul, termasuk percakapan milik pengguna di bawah umur, dapat menghadapi risiko baru ketika aset perusahaan berpindah tangan.
Apa yang diminta oleh 40 jaksa agung AS?
Koalisi yang melibatkan 40 jaksa agung negara bagian meminta pengadilan kebangkrutan memperhatikan perlindungan konsumen dalam proses penjualan Character.AI. Mereka menyoroti risiko yang berkaitan dengan privasi anak, keamanan chatbot, dan pengelolaan informasi pribadi.
Jaksa Agung New York Letitia James memperingatkan bahwa percakapan pribadi anak-anak tidak boleh diperlakukan sebagai aset komersial biasa tanpa perlindungan yang memadai. Para pejabat negara bagian juga menginginkan agar pihak yang mengambil alih bisnis menerapkan standar keselamatan yang lebih kuat.
Permintaan tersebut belum berarti pengadilan telah menetapkan bahwa data pengguna akan dijual atau disalahgunakan. Fokusnya adalah memastikan bahwa setiap pengalihan aset mematuhi ketentuan hukum dan tidak mengorbankan privasi pengguna.
Disney Masuk dalam Proses Penjualan Aset Character.AI
Lisensi teknologi senilai US$20 juta
Character.AI menyepakati pengaturan yang memungkinkan Disney memperoleh lisensi non-eksklusif atas teknologi dan kekayaan intelektual tertentu dengan nilai US$20 juta. Kesepakatan tersebut merupakan bagian dari proses kebangkrutan dan tetap tunduk pada persetujuan pengadilan serta ketentuan penjualan yang berlaku.
Lisensi teknologi tidak sama dengan pembelian seluruh perusahaan atau pengambilalihan otomatis seluruh data pengguna. Reuters melaporkan bahwa Disney tidak berminat membeli jenis data pribadi yang menjadi perhatian para jaksa agung. Namun, proses penjualan aset Character.AI secara keseluruhan masih menimbulkan pertanyaan mengenai siapa yang nantinya akan menjalankan bisnis chatbot tersebut dan bagaimana data pengguna akan dikelola.
Apakah layanan Character.AI akan langsung berhenti?
Saat mengumumkan proses kebangkrutan, Character.AI menyatakan platform akan tetap berjalan seperti biasa dan informasi pengguna akan tetap dilindungi berdasarkan kebijakan privasinya. Pernyataan tersebut tidak menghapus kekhawatiran regulator mengenai perlindungan data dalam proses penjualan aset.
Pengguna sebaiknya tidak langsung menyimpulkan bahwa layanan akan segera ditutup atau bahwa semua riwayat percakapan pasti akan dialihkan kepada pembeli. Keputusan mengenai kelanjutan layanan, struktur kepemilikan, dan penanganan data bergantung pada perkembangan proses hukum serta ketentuan transaksi akhirnya.
Masalah Keselamatan Anak Membayangi Bisnis Chatbot AI
Investigasi dan gugatan terhadap Character.AI
Character.AI sebelumnya menghadapi gugatan keluarga dan penyelidikan regulator terkait dugaan dampak negatif interaksi chatbot terhadap pengguna muda. Tuduhan yang disebutkan dalam proses hukum mencakup percakapan seksual atau tidak pantas, saran yang berbahaya, serta karakter chatbot yang digambarkan seolah-olah memiliki kualifikasi profesional.
Salah satu penyelidikan dimulai setelah gugatan perdata pada 2024 menghubungkan interaksi seorang anak dengan chatbot Character.AI dengan masalah kesehatan mental dan kematiannya. Hubungan sebab-akibat dan tanggung jawab hukum dalam perkara semacam ini harus dinilai berdasarkan bukti dan proses pengadilan, bukan dianggap telah terbukti hanya berdasarkan isi gugatan.
Kasus-kasus tersebut mendorong perhatian lebih besar terhadap desain chatbot, verifikasi usia, pembatasan konten, serta mekanisme perlindungan bagi pengguna yang mengalami krisis emosional.
Mengapa chatbot yang menyerupai manusia membutuhkan pengawasan?
Chatbot generatif dapat menghasilkan respons yang terasa empatik dan personal, tetapi tidak memiliki tanggung jawab profesional seperti psikolog, dokter, atau terapis berlisensi. Pengguna yang sedang mengalami tekanan emosional dapat keliru menganggap respons sistem sebagai nasihat profesional yang dapat diandalkan.
Risiko ini menjadi lebih serius apabila pengguna masih anak-anak, belum mampu menilai keterbatasan AI, atau menganggap chatbot sebagai pengganti hubungan sosial di dunia nyata.
Karena itu, pengawasan tidak hanya berkaitan dengan penyaringan konten. Perusahaan juga perlu memberikan penjelasan yang jelas bahwa pengguna sedang berinteraksi dengan AI, membatasi fitur yang berisiko bagi anak, dan menyediakan mekanisme pelaporan serta penghapusan data yang dapat dipahami pengguna.
Dampak Kasus Character.AI bagi Industri Kecerdasan Buatan
Privasi harus menjadi bagian dari transaksi teknologi
Kasus Character.AI memperlihatkan bahwa data yang terkumpul dari produk AI dapat menimbulkan persoalan hukum dan etika ketika perusahaan menghadapi kesulitan keuangan. Dalam proses kebangkrutan, data pelanggan mungkin memiliki nilai operasional, tetapi pengelolaannya tetap harus memperhatikan kewajiban privasi dan hak konsumen.
Regulator, pengadilan, dan calon pembeli perlu memperjelas tujuan penggunaan data, siapa yang dapat mengaksesnya, berapa lama data disimpan, dan bagaimana pengguna dapat meminta penghapusan informasi yang tidak lagi diperlukan.
Pengguna perlu lebih berhati-hati membagikan informasi pribadi
Peristiwa ini juga menjadi pengingat bagi pengguna chatbot AI untuk membatasi informasi yang mereka bagikan. Hindari memasukkan alamat rumah, kata sandi, nomor identitas, informasi keuangan, atau rincian pribadi lain yang tidak diperlukan untuk menggunakan layanan.
Orang tua dan wali dapat membicarakan penggunaan AI bersama anak, memeriksa pengaturan privasi dan usia, serta menjelaskan bahwa chatbot bukan pengganti bantuan profesional ketika menghadapi masalah kesehatan mental atau situasi darurat.
Kesimpulan: Masa Depan Character.AI Bergantung pada Proses Hukum dan Perlindungan Data
Kebangkrutan Character.AI bukan hanya persoalan kelangsungan bisnis sebuah perusahaan teknologi. Proses tersebut juga menguji bagaimana sistem hukum melindungi percakapan pribadi pengguna ketika perusahaan yang mengumpulkannya mengalami perubahan kepemilikan.
Kesepakatan lisensi dengan Disney bernilai US$20 juta merupakan salah satu bagian dari proses penjualan aset, bukan bukti bahwa Disney telah mengambil alih seluruh data pengguna. Sementara itu, 40 jaksa agung negara bagian AS meminta agar privasi dan keselamatan anak menjadi pertimbangan utama dalam proses hukum.
Perkembangan selanjutnya akan menentukan bentuk perlindungan yang diterapkan, kelanjutan operasional platform, dan tanggung jawab pihak-pihak yang terlibat. Sampai ada keputusan resmi lebih lanjut, nasib akhir data pengguna tidak boleh dinyatakan seolah-olah sudah dipastikan.
Comment