Cara kerja model bahasa besar, dijelaskan sederhana
Tanpa rumus dan tanpa istilah yang tidak perlu — apa yang sebenarnya terjadi ketika Anda mengetik pertanyaan dan sebuah model menjawabnya.
Ringkasan
- Model bahasa tidak menyimpan jawaban, melainkan memprediksi kelanjutan teks satu potongan demi satu potongan.
- Teks dipecah menjadi token; token adalah satuan yang dihitung dalam penagihan hampir semua layanan AI.
- Pengetahuan model membeku pada saat pelatihan — peristiwa setelahnya tidak diketahui kecuali disuplai lewat konteks.
- Kalimat benar dan kalimat salah dihasilkan dengan mekanisme yang sama, sehingga keduanya sama-sama terdengar meyakinkan.
- Untuk pekerjaan yang menuntut akurasi, keluaran model tetap harus diperiksa terhadap sumber aslinya.
Bagi model, semuanya adalah token
Hal pertama yang terjadi ketika Anda mengirim pertanyaan adalah pemecahan teks menjadi potongan-potongan kecil yang disebut token. Sebuah token kira-kira setara tiga perempat kata dalam bahasa Indonesia, meski panjangnya tidak seragam: kata umum seperti “yang” bisa menjadi satu token utuh, sedangkan istilah teknis atau nama asing kerap terpecah menjadi beberapa token.
Pemecahan ini bukan detail teknis yang bisa diabaikan, karena dua alasan praktis. Pertama, token adalah satuan penagihan. Ketika sebuah layanan menyebut harga per satu juta token, yang dimaksud adalah potongan-potongan ini, bukan kata. Kedua, bahasa Indonesia umumnya menghasilkan lebih banyak token dibanding bahasa Inggris untuk isi yang setara, sehingga biaya memproses teks berbahasa Indonesia cenderung sedikit lebih tinggi.
Setelah dipecah, setiap token diubah menjadi rangkaian angka. Sejak titik ini, model tidak lagi bekerja dengan huruf atau kata — ia bekerja dengan angka. Seluruh proses berikutnya adalah operasi matematis atas angka-angka tersebut.
Apa yang dipelajari model saat dilatih
Pelatihan model bahasa bertumpu pada satu tugas yang mengejutkan sederhananya: menebak token berikutnya. Model diberi potongan teks dalam jumlah sangat besar, diminta menebak kelanjutannya, lalu parameternya disesuaikan sedikit demi sedikit setiap kali tebakannya meleset. Proses ini diulang miliaran kali.
Mengapa tugas sesederhana itu menghasilkan kemampuan luas
Untuk menebak kata berikutnya dengan baik pada teks yang sangat beragam, model terpaksa menyerap banyak hal sekaligus: aturan tata bahasa, hubungan antarkonsep, pola penalaran yang sering muncul, dan sejumlah besar informasi faktual yang terkandung dalam data latih. Kemampuan meringkas, menerjemahkan, atau menjawab pertanyaan tidak diajarkan secara terpisah — semuanya muncul sebagai efek samping dari menguasai tugas menebak tadi.
Penyelarasan setelah pelatihan awal
Model hasil pelatihan awal belum siap dipakai sebagai asisten. Ia hanya melanjutkan teks, termasuk melanjutkan pertanyaan dengan pertanyaan lain. Karena itu ada tahap lanjutan yang mengajarkan model untuk mengikuti instruksi, menjawab dengan format yang berguna, dan menolak permintaan tertentu. Tahap inilah yang membuat model terasa seperti lawan bicara, bukan sekadar mesin pelengkap kalimat.
Pengetahuan yang membeku
Konsekuensi penting dari cara pelatihan ini: pengetahuan model berhenti pada saat data latihnya dikumpulkan. Peristiwa yang terjadi setelah titik itu tidak diketahui model, kecuali informasinya disertakan langsung dalam percakapan. Inilah alasan sebuah model bisa menjawab dengan percaya diri tentang keadaan yang sudah berubah.
Jendela konteks dan pengaruhnya
Jendela konteks adalah jumlah token maksimum yang bisa diproses model dalam satu permintaan — mencakup pertanyaan Anda, dokumen yang dilampirkan, dan jawaban yang dihasilkan.
| Situasi | Yang terjadi | Cara menyiasati |
|---|---|---|
| Dokumen melebihi jendela konteks | Bagian yang tidak muat terpotong dan tidak terbaca model. | Potong dokumen menjadi bagian bertema, proses satu per satu. |
| Percakapan menjadi sangat panjang | Bagian awal percakapan terdorong keluar dan terlupakan. | Ringkas kesepakatan penting, lalu tempelkan ulang sebagai konteks baru. |
| Konteks besar dikirim tiap permintaan | Biaya naik tajam karena token dihitung berulang. | Kirim hanya bagian yang relevan, bukan seluruh dokumen. |
| Instruksi ditaruh di tengah teks panjang | Model cenderung kurang memperhatikan bagian tengah. | Letakkan instruksi penting di awal atau akhir. |
| Butuh informasi terbaru | Model tidak mengetahuinya karena di luar data latih. | Suplai dokumen sumbernya langsung dalam permintaan. |
Mengapa model bisa salah dengan sangat meyakinkan
Inilah bagian yang paling sering disalahpahami. Model tidak memiliki mekanisme bawaan untuk memeriksa kebenaran. Ia menghasilkan kelanjutan yang paling masuk akal secara statistik berdasarkan pola dalam data latih. Kalimat yang benar dan kalimat yang keliru diproduksi lewat jalur yang persis sama, sehingga keduanya keluar dengan nada sama-sama yakin.
Gejala ini biasa disebut halusinasi. Bentuknya beragam: nama orang yang tidak pernah ada, kutipan peraturan dengan nomor pasal yang keliru, angka statistik yang terdengar wajar tetapi tidak bersumber, atau tautan yang formatnya benar tetapi tidak mengarah ke mana pun.
Beberapa kondisi memperbesar kemungkinannya. Pertanyaan tentang hal yang jarang dibahas membuat model bekerja pada wilayah dengan sedikit contoh. Permintaan yang mengandung anggapan keliru mendorong model mengikuti anggapan itu. Permintaan detail yang sangat spesifik — nomor, tanggal, kutipan persis — adalah wilayah paling rawan, karena di situlah tebakan yang mendekati saja sudah terhitung salah.
Cara mitigasi yang paling efektif adalah menyuplai sumbernya. Ketika dokumen yang relevan disertakan dalam permintaan, model tidak perlu mengandalkan ingatan pelatihannya. Teknik ini banyak dipakai di sistem tanya jawab perusahaan, dan menurunkan tingkat kesalahan secara berarti — meski tidak menghilangkannya.
Arti praktisnya bagi pemakaian sehari-hari
Perlakukan keluaran sebagai draf, bukan jawaban final. Untuk pekerjaan yang konsekuensinya nyata — dokumen hukum, angka keuangan, informasi medis — verifikasi ke sumber aslinya tetap wajib.
Sertakan konteks daripada mengandalkan ingatan model. Menempelkan dokumen yang relevan hampir selalu memberi hasil lebih akurat dibanding meminta model mengingat sendiri.
Waspadai detail yang sangat spesifik. Semakin spesifik angka atau kutipan yang diberikan model tanpa sumber, semakin besar kemungkinan itu hasil tebakan.
Perhatikan panjang percakapan. Bila jawaban mulai melenceng dari kesepakatan awal, kemungkinan besar bagian awal sudah terdorong keluar dari jendela konteks.
Untuk sisi biaya dari semua ini, lihat penjelas kami tentang komponen tagihan menjalankan AI di perusahaan.
Panduan lain di IDN96
Panduan memilih smartphone
Menentukan prioritas, membaca klaim, dan menghitung biaya jangka panjang.
Merawat baterai perangkat
Penyebab penurunan kapasitas dan kebiasaan pengisian yang benar-benar berpengaruh.
Memahami tahapan pendanaan startup
Arti seed hingga Seri C, valuasi, dilusi, dan cara membaca angkanya.
Tentang tulisan ini
- Ditulis oleh
- Muhammad Riski, editor kecerdasan buatan, kanal Kecerdasan Buatan. Bidang yang ia kuasai dan susunan penanggung jawab ada di halaman Redaksi.
- Jenis tulisan
- Penjelas evergreen. Menjelaskan cara kerja dan cara menilai, bukan melaporkan peristiwa bertanggal.
- Cara kami menyusun
- Setiap klaim ditelusuri ke sumber primer dan disunting oleh editor yang tidak menulis artikel ini. Alur lengkapnya dijelaskan di pedoman redaksi.
- Menemukan kekeliruan?
- Kirim ke [email protected] dengan menyertakan tautan halaman ini. Ditanggapi dalam satu hari kerja lewat prosedur koreksi.
- Kepentingan komersial
- Tulisan ini bukan konten bersponsor dan tidak dibayar pihak mana pun.