LLM dan Bahayanya: Pintar Merangkai Kata, Belum Tentu Benar

Hampir semua orang kini pernah bertanya kepada chatbot kecerdasan buatan (AI): meminta ringkasan rapat, membuat surat, menerjemahkan dokumen, sampai menulis kode program. Di balik layanan seperti ChatGPT, Gemini, Claude, atau Copilot ada teknologi yang sama: Large Language Model atau LLM.

LLM memang memudahkan pekerjaan. Tetapi justru karena jawabannya terdengar begitu fasih dan meyakinkan, banyak pengguna lupa bahwa teknologi ini punya sisi berbahaya. Tulisan ini mengajak kita mengenal apa itu LLM dan bahaya apa saja yang sudah terbukti terjadi, berikut cara memakainya dengan aman.

Apa Itu LLM?

LLM adalah model AI yang dilatih dengan teks dalam jumlah sangat besar. Dari latihan itu, model belajar pola bahasa: kata apa yang paling mungkin muncul sesudah rangkaian kata tertentu. Saat kita mengetik pertanyaan, LLM menyusun jawaban kata demi kata berdasarkan peluang tersebut.

Inilah kunci untuk memahami bahayanya. LLM tidak "mengetahui" kebenaran seperti manusia memeriksa fakta. Ia menghasilkan teks yang masuk akal secara bahasa. Sering kali teks itu juga benar, tetapi tidak selalu.

Bahaya 1: Halusinasi, Mengarang dengan Percaya Diri

Istilah "halusinasi" dipakai untuk jawaban AI yang terdengar meyakinkan tetapi keliru atau sepenuhnya karangan. Ini bukan sekadar teori.

Kasus paling terkenal terjadi di Amerika Serikat dalam perkara Mata v. Avianca. Pengacara penggugat mengajukan dokumen ke pengadilan yang mengutip sejumlah putusan pengadilan hasil riset dengan ChatGPT. Ternyata putusan-putusan itu tidak pernah ada. Pada 22 Juni 2023, Hakim P. Kevin Castel menjatuhkan sanksi denda US$5.000 kepada dua pengacara dan firma hukumnya. Mereka juga diwajibkan memberi tahu klien serta setiap hakim yang namanya dicatut sebagai penulis putusan palsu tersebut. Menariknya, hakim menegaskan bahwa memakai AI tidak otomatis salah. Yang salah adalah tidak memeriksa ulang hasilnya.

Mengapa LLM berhalusinasi? Makalah peneliti OpenAI berjudul Why Language Models Hallucinate (September 2025) menjelaskan bahwa cara melatih dan menguji model justru memberi "nilai" pada tebakan dibanding mengakui ketidaktahuan. Ibarat ujian pilihan ganda tanpa pengurangan nilai: menebak tanggal ulang tahun seseorang masih punya peluang 1 banding 365 untuk benar, sedangkan menjawab "saya tidak tahu" pasti bernilai nol. Akibatnya, model terdorong untuk menebak. OpenAI sendiri menyatakan model terbarunya lebih jarang berhalusinasi, tetapi halusinasi masih terjadi.

Dampaknya sudah merembes ke dunia ilmiah. Sebuah studi di arXiv tentang rujukan fiktif dalam makalah ilmiah memperkirakan bahwa pada Agustus 2025, sekitar 1,91% makalah di repositori SSRN memuat rujukan yang tidak ada, dan para penulisnya menyebut angka itu kemungkinan masih batas bawah. Rujukan palsu bahkan bisa lolos ke dokumen akademik.

Bahaya 2: Data Rahasia Ikut Terkirim

Apa pun yang kita ketik ke chatbot dikirim ke server penyedia layanan. Banyak pengguna tidak menyadari hal ini.

Pada 2023, sejumlah karyawan divisi semikonduktor Samsung dilaporkan menempelkan bahan rahasia ke ChatGPT: kode sumber yang bermasalah untuk diperbaiki, kode untuk dioptimalkan, dan rekaman rapat untuk dibuatkan notulen. Menurut laporan Bloomberg, Samsung kemudian melarang penggunaan sistem AI generatif di perangkat dan jaringan internal perusahaan. Memo internalnya mengingatkan bahwa data yang sudah diunggah sulit ditarik kembali dan dihapus.

Bagi pembaca di Indonesia, ini juga menyangkut hukum. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi mengatur hak subjek data pribadi, pemrosesan data pribadi, hingga sanksi administratif dan ketentuan pidana. Memasukkan data pribadi orang lain, misalnya data pelanggan, pasien, atau siswa, ke layanan AI tanpa dasar yang jelas bisa menimbulkan masalah.

Bahaya 3: Prompt Injection, LLM Bisa "Disetir" Orang Lain

Ketika LLM tersambung ke surel, dokumen, atau internet, muncul celah baru bernama prompt injection. Penyerang menyisipkan perintah tersembunyi, misalnya di sebuah halaman web, lalu LLM yang diminta meringkas halaman itu ikut menjalankan perintah tersebut. Akibatnya bisa sampai membocorkan informasi sensitif.

OWASP, komunitas keamanan aplikasi yang daftar "Top 10"-nya menjadi rujukan industri, menempatkan prompt injection di peringkat pertama dalam OWASP Top 10 for LLM Applications 2025, sama seperti pada edisi sebelumnya. OWASP juga mencatat bahwa teknik seperti RAG (Retrieval Augmented Generation) dan fine-tuning belum cukup untuk menutup celah ini sepenuhnya. Artinya, risiko ini belum punya obat yang tuntas.

Bahaya 4: Senjata Baru bagi Penipu

Teknologi AI generatif, termasuk yang menghasilkan suara dan video, juga dimanfaatkan penjahat. Pada Januari 2024, seorang staf keuangan kantor Arup di Hong Kong mengikuti panggilan video dengan orang-orang yang tampak seperti direktur keuangan perusahaan dan sejumlah rekan kerjanya. Menurut polisi Hong Kong, semua peserta selain korban adalah deepfake. Korban akhirnya mentransfer HK$200 juta (sekitar US$25,6 juta) dalam 15 transaksi ke lima rekening bank. Penipuan baru ketahuan sekitar sepekan kemudian, saat korban menghubungi kantor pusat.

LLM sendiri berperan di sisi teks: membuat surel penipuan atau pesan yang tata bahasanya rapi dan meyakinkan, sehingga tanda-tanda klasik penipuan seperti salah ketik makin sulit dijadikan patokan.

Bahaya 5: Terlalu Bergantung dan Berhenti Memeriksa

Bahaya yang paling halus justru datang dari diri kita sendiri. Karena jawabannya cepat dan rapi, kita tergoda menerima begitu saja. Kasus pengacara di atas menunjukkan pola ini: masalahnya bukan pada alatnya, melainkan pada langkah verifikasi yang dilewati.

Bagaimana Aturannya di Indonesia?

Pemerintah sudah menerbitkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial pada 19 Desember 2023. Surat edaran ini menjadi pedoman bagi pelaku usaha yang menjalankan kegiatan pemrograman berbasis AI serta penyelenggara sistem elektronik publik dan privat. Nilai-nilai yang ditekankan antara lain inklusivitas, aksesibilitas, keamanan, kemanusiaan, serta kredibilitas dan akuntabilitas. Implementasinya meliputi AI sebagai pendukung aktivitas manusia, pelindungan privasi dan data, serta pengawasan untuk mencegah penyalahgunaan.

Perlu dicatat, kedudukannya masih surat edaran, sehingga para pengamat hukum menilai sifatnya sebagai pedoman etika dan belum mengikat seperti undang-undang.

Cara Memakai LLM dengan Aman

Bahaya-bahaya di atas bukan alasan untuk menjauhi LLM, melainkan alasan untuk memakainya dengan sadar. Beberapa langkah praktis:

Periksa ulang fakta, angka, dan rujukan. Buka sumber aslinya. Jika rujukan tidak bisa ditemukan, anggap tidak ada.
Jangan masukkan data rahasia atau data pribadi seperti NIK, data pelanggan, kode sumber perusahaan, atau dokumen internal, kecuali layanan itu memang disetujui oleh organisasi Anda.
Waspadai permintaan transfer uang lewat pesan, telepon, atau panggilan video, meskipun wajah dan suaranya tampak dikenal. Konfirmasi lewat jalur lain yang sudah Anda ketahui.
Batasi akses LLM ke surel, berkas, dan sistem penting, terutama untuk aplikasi yang dibangun sendiri. Perlakukan isi dari luar sebagai data, bukan perintah.
Tetap manusia yang bertanggung jawab. Gunakan LLM sebagai asisten, bukan pengambil keputusan akhir.

Penutup

LLM adalah alat yang sangat kuat: ia bisa merangkai kata secepat kilat, tetapi ia tidak menjamin kebenaran, tidak menjaga rahasia kita secara otomatis, dan bisa dimanfaatkan pihak yang berniat jahat. Mengenal bahayanya adalah langkah pertama agar kita tetap memegang kendali atas teknologi ini, bukan sebaliknya.