Bikin Chatbot Sendiri? HIMATESDA Kasih Bocoran Teknologi LLM Buat Kamu!

Table of Contents

Wah, buat kalian yang penasaran banget sama teknologi di balik chatbot kekinian kayak ChatGPT, ada kabar seru nih! Himpunan Mahasiswa Teknologi Sains Data (HIMATESDA) dari Fakultas Teknik Maju dan Multidisiplin (FTMM) Universitas Airlangga (UNAIR) baru aja ngadain acara keren. Namanya Data Science Training Center (DSTC), dengan tema yang bikin ngiler: “Introduction to LLM: Build Your Own Chatbot”. Acaranya digelar di Ruang 6.09, Gedung Kuliah Bersama, Kampus MERR-C UNAIR pada Minggu, 4 Mei 2025 lalu.

Acara DSTC ini memang sengaja dibuat buat ngenalin teknologi canggih Large Language Model alias LLM. Ini penting banget lho buat nambah skill kalian, terutama yang tertarik atau memang lagi mendalami bidang teknologi sains data. Biar makin afdal, HIMATESDA ngundang narasumber yang kompeten banget di bidangnya. Dia adalah Geraldus Wilsen, seorang AI Engineer sekaligus peneliti muda yang pastinya punya banyak insight buat dibagi.

Memahami Dasar LLM: Otak di Balik Chatbot¶

Jadi, apa sih LLM itu sebenarnya? Nah, Mas Wilsen ngejelasin kalau LLM, termasuk yang dipakai di chatbot populer, itu kerjanya pakai sistem probabilitas. Gampangnya gini, mereka itu kayak cuma nebak kata selanjutnya yang paling mungkin muncul berdasarkan data yang udah mereka “pelajari”. Iya, bener, mereka tuh bukan pintar dari lahir. Kecerdasan mereka datang dari data super banyak yang mereka lahap, data-data ini dikumpulkan dari berbagai sumber, termasuk dari raksasa teknologi kayak Google dan Meta.

Bayangin aja, data yang mereka pelajari itu jumlahnya bisa triliunan kata dari berbagai teks di internet, buku, artikel, dan lain-lain. Dari data sebanyak itu, mereka belajar pola, struktur kalimat, fakta, sampai hal-hal yang kadang bikin kita takjub kok bisa tahu. Tapi intinya, saat kamu nanya, mereka itu lagi ngitung kemungkinan kata demi kata biar responsnya paling masuk akal atau paling relevan sama pertanyaanmu. Seru kan?

Terus, kemampuan LLM itu ternyata tergantung banget sama “ukuran” modelnya. Model yang ukurannya kecil, ya kemampuannya terbatas. Mirip kayak anak kecil yang baru belajar ngomong, diajak ngobrol hal-hal kompleks ya belum nyambung. Beda banget sama model yang ukurannya gede. Mereka ini bisa nangkap konteks yang rumit, ngerti nuansa bahasa, bahkan bisa diajak diskusi topik-topik yang dalam. “Model kecil itu ibarat anak kecil yang baru belajar bicara, sementara model besar sudah seperti orang dewasa yang bisa kita ajak diskusi mendalam,” kata Mas Wilsen ngasih perumpamaan yang gampang dicerna. Jadi, makin gede modelnya, makin “pintar” dia ngerti dan ngasih respons.

Bongkar Rahasia: Komponen Penting Bikin Chatbot¶

Di sesi praktek yang seru, Mas Wilsen ngajak para peserta buat bedah tuntas gimana sih cara kerja LLM dari sisi teknisnya, terutama buat bikin chatbot. Ini penting banget, soalnya kalau cuma pakai LLM yang sudah jadi kayak ChatGPT aja, kita nggak bisa kustomisasi buat kebutuhan spesifik. Nah, biar bisa bikin sendiri, kita harus ngerti pondasinya.

Ada beberapa konsep teknis fundamental yang dibahas, kayak embedding, tokenization, dan retrieval-augmented generation (RAG). Kedengeran rumit ya? Tenang, dijelasinnya pelan-pelan kok. Proses-proses ini tuh krusial banget dalam membangun chatbot. Kenapa? Karena komputer kan nggak ngerti teks kayak kita. Teks itu harus diubah dulu jadi bentuk yang dipahami komputer, yaitu angka. Nah, di sinilah tokenization dan embedding berperan.

Tokenization itu proses memecah teks panjang jadi unit-unit yang lebih kecil, biasanya kata atau bagian kata. Misalnya kalimat “Saya suka data” bisa dipecah jadi [“Saya”, “suka”, “data”]. Terus, embedding itu proses ngubah setiap token itu jadi angka. Tapi nggak cuma jadi angka biasa, angka-angka ini direpresentasikan dalam ruang multidimensional yang disebut ruang vektor. Nah, di ruang vektor ini, kata-kata atau frasa yang punya makna mirip akan punya posisi yang saling berdekatan. Keren kan? Jadi, komputer itu “ngerti” kemiripan makna dari kedekatan posisi vektornya.

Setelah teks diubah jadi vektor embedding, data ini disimpan di tempat khusus namanya vector database. Basis data ini dioptimalkan buat nyari data berdasarkan kemiripan vektornya, bukan cuma kecocokan kata kunci biasa. Nah, sistem pencarian berdasarkan kemiripan vektor ini yang nantinya dipakai sama LLM buat nyari informasi relevan saat kita mengajukan pertanyaan. Jadi, ketika kamu nanya “apa manfaat pisang?”, sistem akan nyari vektor pertanyaan itu di vector database, terus nemuin vektor-vektor dokumen yang paling mirip (misalnya dokumen tentang nutrisi pisang, resep pisang, dll.), dan ngambil dokumen-dokumen itu buat dibaca sama LLM.

Berikut ilustrasi sederhana proses Tokenization dan Embedding secara konseptual:

Teks Asli	Tokenisasi	Embedding (Contoh Sederhana Vektor 2D)
“apel”	[“apel”]	[0.8, 0.1]
“jeruk”	[“jeruk”]	[0.7, 0.2]
“mangga”	[“mangga”]	[0.9, 0.05]
“buah”	[“buah”]	[0.75, 0.15]
“komputer”	[“komputer”]	[-0.5, -0.8]
“pemrograman”	[“pemrograman”]	[-0.6, -0.7]

Catatan: Dalam dunia nyata, vektor embedding itu punya dimensi ratusan atau bahkan ribuan, jauh lebih kompleks dari contoh 2D ini, tapi idenya sama: kata atau frasa yang maknanya dekat, vektornya juga dekat.

“Tokenization mengubah kata menjadi angka, lalu embedding memetakan angka-angka tersebut ke dalam ruang vector. Setelah itu akan tersimpan di vector database (basis data khusus untuk menyimpan vector) berdasarkan kemiripan, yang nantinya terpakai saat LLM menjawab pertanyaan,” jelas Mas Wilsen. Ini fundamental banget buat ngerti gimana chatbot bisa ‘membaca’ dan ‘memahami’ data teks.

Jurus Ampuh Bikin Chatbot Lebih Pintar & Relevan¶

Membangun chatbot yang jago itu nggak cuma soal ngasih data ke LLM dan berharap dia ngerti semua. Ada teknik-teknik lanjutan yang bikin chatbot kita makin sakti. Di acara DSTC ini, dikenalin juga yang namanya semantic chunking. Ini adalah cara buat memecah teks panjang, misalnya isi dokumen atau artikel, jadi bagian-bagian kecil alias “chunk”. Bedanya sama mecah biasa, semantic chunking ini berusaha mecah berdasarkan makna atau topik, bukan cuma jumlah karakter atau paragraf. Kenapa penting? Biar saat sistem nyari info relevan, dia bisa nemuin chunk yang pas dan lengkap, nggak kepotong-potong di tengah jalan atau malah ngambil bagian yang nggak nyambung. Ini bikin informasi yang dikasih ke LLM jadi lebih akurat.

Selain itu, ada juga strategi keren yang namanya Chain of Thought (CoT). Ini tuh semacam trik prompting atau cara ngasih instruksi ke LLM biar dia nggak langsung ngasih jawaban, tapi “berpikir” atau menalar secara bertahap. Mirip kayak kita lagi nyelesaiin soal matematika yang butuh beberapa langkah. Kita nggak langsung nulis jawaban akhir kan, tapi nulis langkah-langkahnya.

“CoT penting ketika model tidak langsung paham [pertanyaan atau instruksi kompleks]. Kita perlu memandunya agar mampu berpikir selangkah demi selangkah. Ini seperti cara kita memecahkan sebuah soal,” terang Mas Wilsen. Dengan CoT, kita bisa minta LLM buat mikir logis, ngebreakdown masalah, baru deh ngasih jawaban final. Ini bikin respons LLM jadi lebih akurat, transparan (kita bisa lihat proses “pemikirannya”), dan jarang “halusinasi” atau ngarang bebas.

Coba lihat perbandingan instruksi sederhana dengan dan tanpa Chain of Thought:

Tanpa CoT:
Instruksi: Jika A adalah ibu B, dan B adalah ayah C, siapa A bagi C?
LLM mungkin menjawab langsung: Nenek.

Dengan CoT:
Instruksi: Jika A adalah ibu B, dan B adalah ayah C, siapa A bagi C? Mari berpikir selangkah demi selangkah.
LLM berpikir/menalar:
Langkah 1: A adalah ibu dari B.
Langkah 2: B adalah ayah dari C.
Langkah 3: Karena B adalah ayah C, maka B adalah generasi sebelumnya dari C.
Langkah 4: Karena A adalah ibu B, dan B adalah generasi sebelumnya C, maka A adalah generasi kakek/nenek dari C.
Langkah 5: Karena A adalah seorang ibu (perempuan), maka A adalah nenek C.
Jawaban Akhir: Nenek.

Contoh di atas sangat disederhanakan, tapi intinya, CoT membantu LLM memecah masalah kompleks menjadi langkah-langkah logis, meningkatkan akurasi dan keandalan jawabannya.

Terakhir, Mas Wilsen ngasih contoh alur lengkap penggunaan Retrieval-Augmented Generation (RAG). Ini adalah metode powerful yang lagi hits banget buat bikin chatbot yang bisa ngomongin data spesifik punya kita sendiri, bukan cuma data umum yang dia pelajari saat training.

Begini alurnya RAG secara umum:
1. Pengguna kasih data: Kalian punya dokumen, artikel, laporan, atau data teks apapun yang spesifik.
2. Data diubah jadi embedding: Data itu diproses pakai teknik tokenization dan embedding tadi, lalu dipecah jadi chunk-chunk.
3. Disimpan di vector database: Chunk-chunk beserta vektor embedding-nya disimpan di vector database. Ini jadi “pengetahuan” tambahan buat chatbot kita.
4. Pengguna ajukan pertanyaan: Kalian nanya sesuatu yang relevan sama data spesifik tadi.
5. Sistem melakukan Retrieval: Pertanyaan kalian juga diubah jadi vektor, terus sistem nyari chunk data di vector database yang paling mirip sama pertanyaan itu. Ini tahap “retrieval” alias pengambilan.
6. Augmentasi Prompt & Generation: Chunk data yang paling relevan tadi diambil dan digabungin sama pertanyaan kalian. Gabungan ini kemudian dikasih ke LLM sebagai prompt yang diperkaya (augmented prompt). LLM lalu baca prompt ini (termasuk data spesifik dari chunk), dan menghasilkan (generate) jawaban berdasarkan gabungan informasi dari pengetahuannya sendiri DAN data spesifik yang barusan diambil.

Kalau digambarkan pakai diagram Mermaid, alur RAG bisa kira-kira begini:

mermaid graph TD A[User Query] --> B[Embed Query]; B --> C[Search Vector DB]; C --> D[Retrieve Relevant Chunks]; E[Your Specific Data] --> F[Chunk & Embed Data]; F --> G[Store in Vector DB]; D --> H[Augment Prompt with Chunks]; H --> I[Large Language Model (LLM)]; I --> J[Generated Answer]; G -- data store --> C;

“RAG adalah metode ketika LLM tidak punya informasi [spesifik yang kamu tanyakan, tapi ada di datamu]. Ini membuat chatbot tidak hanya mengandalkan apa yang sudah ia hafal sebelumnya, tetapi juga mampu memberikan jawaban relevan dari sumber data aktual yang tersedia,” pungkas Mas Wilsen. Intinya, RAG itu kayak ngasih catatan contekan terbaru ke LLM setiap kali ada pertanyaan, jadi dia nggak perlu nginget semua hal dari awal training, tapi bisa ngasih jawaban yang spesifik, up-to-date, dan berdasarkan data yang beneran ada di koleksimu. Ini solusi jitu buat bikin chatbot yang bisa jawab pertanyaan seputar dokumen perusahaan, database produk, atau basis pengetahuan spesifik lainnya.

Penutup¶

Acara DSTC “Introduction to LLM: Build Your Own Chatbot” dari HIMATESDA ini jelas ngasih banyak banget wawasan baru buat para mahasiswa, khususnya yang pengen terjun ke dunia AI dan Data Science. Nggak cuma teori, tapi juga dibekali pemahaman proses teknis yang fundamental buat bisa bikin chatbot sendiri dari nol. Belajar konsep kayak tokenization, embedding, semantic chunking, RAG, sampai Chain of Thought itu kunci buat kalian yang mau nggak cuma jadi pengguna, tapi juga kreator teknologi LLM. Ini skill yang lagi banyak dicari lho di industri!

Semoga penjelasan singkat ini bisa ngasih gambaran buat kalian yang nggak sempat ikut acaranya kemarin. Teknologi LLM itu perkembangannya cepet banget, dan ngerti dasar-dasarnya itu penting biar nggak ketinggalan. Siapa tahu, dari sini ada di antara kalian yang terinspirasi buat bikin chatbot keren dengan kemampuan unik yang belum ada!

Gimana, makin tertarik kan buat nyelamin teknologi LLM dan nyoba bikin chatbot sendiri? Punya pertanyaan atau ide proyek chatbot yang pengen diwujudkan? Atau mungkin ada pengalaman lain terkait LLM yang mau dibagi? Jangan ragu tinggalkan komentar di bawah ya! Mari kita diskusi dan belajar bareng!