(0275) 2974 127
Perkembangan artificial intelligence (AI) dan large language model (LLM) membuat banyak organisasi mulai menggunakan model AI untuk berbagai kebutuhan, mulai dari chatbot, customer service, analisis dokumen, klasifikasi teks, hingga pembuatan konten. Namun, model AI yang telah dilatih sebelumnya biasanya dirancang untuk tujuan yang bersifat umum sehingga belum tentu menghasilkan performa optimal untuk kebutuhan yang sangat spesifik.
Salah satu pendekatan yang dapat digunakan untuk menyesuaikan kemampuan model adalah AI fine-tuning. Dengan metode ini, model yang sudah melalui proses pre-training dapat dilatih kembali menggunakan dataset yang lebih spesifik agar perilakunya lebih sesuai dengan tugas, format output, atau domain tertentu.
Fine-tuning berbeda dengan membuat model AI dari awal. Prosesnya memanfaatkan model yang sudah memiliki kemampuan dasar sehingga proses adaptasi dapat dilakukan dengan sumber daya dan data yang lebih terarah. Google menjelaskan bahwa supervised fine-tuning dapat digunakan untuk mengajarkan kemampuan atau tugas tertentu kepada model menggunakan data yang memiliki pasangan input dan output yang diharapkan.
AI fine-tuning adalah proses menyesuaikan model AI yang telah dilatih sebelumnya dengan melakukan pelatihan tambahan menggunakan dataset tertentu agar model dapat bekerja lebih baik pada tugas atau kebutuhan yang spesifik.
Model dasar atau pretrained model telah memperoleh pengetahuan dan pola umum dari proses pelatihan berskala besar. Fine-tuning kemudian digunakan untuk melakukan adaptasi terhadap kebutuhan yang lebih spesifik.
Sebagai contoh, sebuah perusahaan dapat menggunakan model bahasa yang sudah memiliki kemampuan memahami dan menghasilkan teks, kemudian melakukan fine-tuning menggunakan kumpulan percakapan customer service perusahaan. Tujuannya bukan membuat model memahami bahasa dari awal, tetapi membantu model menghasilkan respons yang lebih sesuai dengan pola komunikasi, format, dan jenis tugas yang dibutuhkan.
Fine-tuning juga tidak selalu berarti seluruh parameter model harus diperbarui. Pada pendekatan Parameter-Efficient Fine-Tuning (PEFT), hanya sebagian kecil parameter tambahan yang dilatih sehingga kebutuhan komputasi dan penyimpanan dapat dikurangi secara signifikan.
Model AI yang telah dilatih sebelumnya memiliki kemampuan general-purpose. Artinya, model dapat menangani berbagai macam tugas, tetapi belum tentu memahami aturan khusus yang dibutuhkan oleh suatu organisasi atau aplikasi.
Misalnya, sebuah perusahaan memiliki chatbot yang harus menjawab pertanyaan pelanggan berdasarkan gaya bahasa tertentu. Prompt engineering dapat digunakan untuk memberikan instruksi, tetapi dalam beberapa kasus instruksi saja belum cukup untuk menghasilkan pola output yang konsisten.
Fine-tuning dapat menjadi salah satu pendekatan untuk mengajarkan pola tersebut melalui contoh data. Model dapat dilatih menggunakan contoh input dan output yang menggambarkan bagaimana respons seharusnya diberikan. Beberapa kebutuhan yang dapat mendorong penggunaan fine-tuning antara lain:
Namun, fine-tuning bukan solusi untuk semua kebutuhan AI. Jika masalah utama adalah model tidak memiliki informasi terbaru atau membutuhkan akses terhadap dokumen internal yang terus berubah, pendekatan seperti Retrieval-Augmented Generation (RAG) dapat lebih sesuai daripada memasukkan seluruh informasi tersebut ke dalam proses fine-tuning.
Secara sederhana, fine-tuning dimulai dari model yang sudah dilatih sebelumnya. Model tersebut kemudian diberikan dataset khusus yang menggambarkan tugas atau perilaku yang diinginkan. Alurnya dapat digambarkan sebagai berikut:
Pretrained Model
↓
Persiapan Dataset
↓
Pembersihan & Validasi Data
↓
Pembagian Training & Validation Data
↓
Fine-Tuning
↓
Evaluasi Model
↓
Testing
↓
Deployment
↓
Monitoring & Iterasi
1. Memilih Pretrained Model
Tahap pertama adalah memilih model dasar yang sesuai dengan kebutuhan. Pemilihan dapat mempertimbangkan:
Tidak semua model memiliki kemampuan atau mekanisme fine-tuning yang sama. Pada layanan AI terkelola, ketersediaan model yang dapat di-fine-tune juga dapat berubah dari waktu ke waktu. Karena itu, dokumentasi penyedia model perlu diperiksa sebelum implementasi.
2. Menyiapkan Dataset
Dataset merupakan salah satu faktor paling penting dalam proses fine-tuning. Data harus menggambarkan jenis input dan output yang ingin dihasilkan oleh model. Untuk supervised fine-tuning, data biasanya terdiri dari contoh input yang dipasangkan dengan output yang dianggap benar. Google menjelaskan bahwa supervised fine-tuning menggunakan data beranotasi untuk mengajarkan model melakukan tugas tertentu. Contohnya, untuk chatbot customer service:
Input:
Bagaimana cara mengubah password akun?
Output:
Untuk mengubah password, masuk ke halaman pengaturan akun,
pilih menu Keamanan, kemudian pilih Ubah Password.
Semakin relevan dan konsisten dataset terhadap tujuan fine-tuning, semakin mudah model mempelajari pola yang diinginkan.
3. Membersihkan Data
Dataset perlu diperiksa sebelum digunakan. Data yang bermasalah dapat berupa:
Dataset yang besar tidak otomatis menghasilkan model yang lebih baik. Kualitas, relevansi, konsistensi, dan representasi data juga sangat penting.
4. Membagi Dataset
Dataset biasanya perlu dipisahkan untuk kebutuhan training dan evaluasi. Tujuannya adalah memastikan model tidak hanya diuji menggunakan data yang telah dilihat selama proses training. Secara umum dapat terdapat:
Pembagian tersebut membantu tim mengevaluasi apakah model benar-benar mampu melakukan generalisasi terhadap contoh yang belum pernah digunakan dalam proses training.
5. Menentukan Metode Fine-Tuning
Fine-tuning dapat dilakukan dengan beberapa pendekatan. Salah satu perbedaan penting adalah antara full fine-tuning dan parameter-efficient fine-tuning.
| Metode | Cara Kerja | Kebutuhan Resource | Kelebihan |
|---|---|---|---|
| Full Fine-Tuning | Memperbarui seluruh atau hampir seluruh parameter model | Tinggi | Fleksibilitas adaptasi lebih besar |
| PEFT | Hanya melatih sebagian kecil parameter tambahan | Lebih rendah | Lebih hemat memory, compute, dan storage |
| LoRA | Salah satu teknik PEFT dengan parameter tambahan berukuran relatif kecil | Lebih rendah | Efisien untuk banyak skenario adaptasi |
Pada full fine-tuning, jumlah parameter yang diperbarui sangat besar sehingga kebutuhan komputasinya juga dapat meningkat. Sebaliknya, PEFT mempertahankan sebagian besar parameter model dasar dan hanya melatih sejumlah kecil parameter tambahan. Hugging Face menjelaskan bahwa pendekatan PEFT dirancang untuk mengurangi biaya komputasi dan penyimpanan ketika mengadaptasi model besar.
6. Melakukan Training
Pada tahap ini, dataset digunakan untuk memperbarui parameter model sesuai metode fine-tuning yang dipilih. Training biasanya menggunakan hyperparameter tertentu, seperti:
Nilai yang tepat bergantung pada model, dataset, task, dan resource yang tersedia. Training yang terlalu agresif atau terlalu lama dapat meningkatkan risiko overfitting, yaitu ketika model terlalu menyesuaikan diri dengan data training sehingga performanya pada data baru justru menurun.
7. Melakukan Evaluasi
Setelah proses training selesai, model perlu dievaluasi menggunakan data yang sesuai. Evaluasi dapat menggunakan metrik yang berbeda tergantung task. Misalnya:
| Jenis Task | Contoh Evaluasi |
|---|---|
| Text classification | Accuracy, precision, recall, F1-score |
| Summarization | ROUGE atau evaluasi berbasis kualitas |
| Translation | BLEU dan metrik lain |
| Question answering | Exact Match, F1 |
| Chatbot | Human evaluation, task success, safety, consistency |
| Structured output | Validity dan kesesuaian format |
Untuk model generatif, evaluasi tidak sebaiknya hanya mengandalkan satu angka. Kualitas output, konsistensi, keamanan, dan kemampuan model mengikuti instruksi juga perlu diperiksa.
Supervised Fine-Tuning (SFT) adalah metode fine-tuning menggunakan dataset yang berisi contoh input dan output yang diharapkan. Model belajar dari pasangan contoh tersebut untuk meningkatkan kemampuannya pada task tertentu. Misalnya:
Input:
Apa manfaat menggunakan HTTPS?
Output yang diharapkan:
HTTPS membantu melindungi komunikasi antara browser
dan server dengan menggunakan enkripsi.
Dengan banyak contoh yang berkualitas, model dapat mempelajari pola respons yang diinginkan.
SFT sering digunakan untuk mengadaptasi model bahasa terhadap tugas tertentu karena struktur datanya relatif mudah dipahami: terdapat input dan jawaban target yang digunakan sebagai contoh pembelajaran. Google juga menjelaskan supervised fine-tuning sebagai pendekatan yang menggunakan data beranotasi untuk mengajarkan model kemampuan tertentu.
Parameter-Efficient Fine-Tuning atau PEFT adalah pendekatan yang menyesuaikan model dengan hanya melatih sebagian kecil parameter tambahan, bukan seluruh parameter model. Pendekatan ini menjadi penting karena model AI modern dapat memiliki jumlah parameter yang sangat besar. Melatih seluruh parameter dapat membutuhkan memory, GPU, waktu, dan storage yang signifikan.
Dengan PEFT, parameter utama model dapat dipertahankan sementara komponen tambahan dilatih untuk melakukan adaptasi. Hugging Face menyediakan library PEFT yang mencakup berbagai metode seperti LoRA, AdaLoRA, IA3, prompt tuning, prefix tuning, dan metode lainnya.
LoRA atau Low-Rank Adaptation adalah salah satu teknik Parameter-Efficient Fine-Tuning yang memungkinkan model diadaptasi dengan melatih parameter tambahan berukuran relatif kecil. Alih-alih memperbarui seluruh bobot model, LoRA menambahkan struktur parameter tertentu pada bagian model yang ditargetkan. Hal ini dapat mengurangi jumlah parameter yang perlu dilatih.
Karena hanya sebagian kecil parameter yang diperbarui, adapter hasil training juga dapat berukuran jauh lebih kecil dibandingkan keseluruhan model. Hugging Face mencatat bahwa metode PEFT seperti LoRA dapat mengurangi kebutuhan memory dan membuat adapter lebih mudah disimpan serta digunakan.
Fine-tuning sering kali disamakan dengan prompt engineering atau RAG, padahal ketiganya memiliki fungsi yang berbeda.
| Aspek | Prompt Engineering | Fine-Tuning | RAG |
|---|---|---|---|
| Prinsip | Memberikan instruksi melalui prompt | Melatih model menggunakan dataset khusus | Mengambil informasi eksternal saat inference |
| Mengubah parameter model | Tidak | Ya, tergantung metode | Tidak secara langsung |
| Cocok untuk | Instruksi dan eksperimen cepat | Perilaku/task yang konsisten | Informasi eksternal dan dinamis |
| Data training | Tidak wajib | Dibutuhkan | Membutuhkan knowledge base/retrieval source |
| Informasi terbaru | Bergantung pada sumber yang diberikan | Tidak otomatis menjadi terbaru | Dapat mengambil sumber terbaru |
| Biaya implementasi | Relatif rendah | Lebih tinggi | Bervariasi |
| Contoh | Menentukan format jawaban | Mengajarkan pola output tertentu | Menjawab berdasarkan dokumen perusahaan |
Ketiga pendekatan tersebut juga dapat digunakan secara bersamaan. Sebuah aplikasi dapat menggunakan fine-tuning untuk membentuk perilaku model, RAG untuk menyediakan informasi khusus, dan prompt engineering untuk mengatur instruksi pada setiap permintaan.
Fine-tuning dan training dari awal merupakan dua proses yang berbeda.
| Aspek | Fine-Tuning | Training dari Awal |
|---|---|---|
| Model awal | Menggunakan pretrained model | Tidak menggunakan model siap pakai |
| Data | Relatif lebih spesifik | Sangat besar dan beragam |
| Resource | Umumnya lebih rendah | Sangat tinggi |
| Waktu training | Lebih singkat | Dapat sangat lama |
| Tujuan | Adaptasi model | Membentuk model dasar |
| Kompleksitas | Lebih rendah | Sangat tinggi |
| Biaya | Relatif lebih rendah | Dapat sangat mahal |
Training dari awal biasanya membutuhkan dataset dalam skala besar dan infrastruktur komputasi yang sangat besar. Fine-tuning lebih berfokus pada adaptasi model yang sudah memiliki kemampuan dasar. Karena itu, organisasi yang hanya membutuhkan model dengan kemampuan khusus biasanya tidak perlu membuat model AI dari awal.
Fine-tuning dapat memberikan beberapa manfaat ketika diterapkan pada kebutuhan yang tepat.
1. Meningkatkan Performa pada Task Spesifik
Model general-purpose mungkin memiliki kemampuan yang luas, tetapi performanya pada task tertentu belum tentu optimal. Dataset khusus dapat digunakan untuk membantu model menyesuaikan diri dengan kebutuhan tersebut.
2. Membuat Output Lebih Konsisten
Jika aplikasi membutuhkan format jawaban tertentu, fine-tuning dapat membantu model mempelajari pola output berdasarkan contoh yang diberikan.
3. Menyesuaikan Gaya Respons
Fine-tuning dapat digunakan untuk mengadaptasi gaya respons tertentu, selama dataset dan tujuan training dirancang dengan tepat.
4. Mengurangi Ketergantungan pada Prompt yang Panjang
Dalam kondisi tertentu, perilaku yang ingin dipertahankan secara konsisten dapat dipelajari melalui fine-tuning sehingga instruksi yang harus diberikan pada setiap request dapat dibuat lebih sederhana. Namun, hal tersebut bukan berarti fine-tuning selalu membuat prompt menjadi lebih pendek atau selalu lebih murah. Hasilnya bergantung pada model, task, dan arsitektur aplikasi.
5. Mengoptimalkan Model untuk Kebutuhan Khusus
Fine-tuning dapat digunakan ketika organisasi membutuhkan model yang dioptimalkan untuk workflow tertentu dibandingkan model general-purpose.
Meskipun memiliki manfaat, fine-tuning juga memiliki sejumlah tantangan.
1. Membutuhkan Dataset Berkualitas
Model dapat mempelajari pola yang terdapat dalam data training. Jika data mengandung kesalahan, bias, atau pola yang tidak diinginkan, model berpotensi mempelajari masalah tersebut.
2. Membutuhkan Resource
Full fine-tuning model besar dapat membutuhkan GPU memory, compute, storage, dan waktu yang cukup besar. Pendekatan PEFT dapat mengurangi kebutuhan tersebut, tetapi tetap membutuhkan resource yang sesuai dengan model dan skala training.
3. Risiko Overfitting
Model dapat terlalu menyesuaikan diri dengan dataset training sehingga performanya pada data yang berbeda justru menurun.
4. Membutuhkan Evaluasi yang Baik
Model yang terlihat lebih baik pada beberapa contoh belum tentu benar-benar mengalami peningkatan performa secara keseluruhan. Evaluasi menggunakan dataset yang representatif tetap diperlukan.
5. Tidak Otomatis Menambahkan Knowledge Terbaru
Fine-tuning bukan mekanisme otomatis untuk membuat model mengetahui informasi yang selalu berubah. Jika kebutuhan utama adalah memberikan akses terhadap informasi terbaru atau sumber internal, retrieval dapat menjadi pendekatan yang lebih tepat.
6. Risiko Data Sensitif
Dataset fine-tuning harus ditangani secara hati-hati, terutama ketika mengandung data pelanggan, informasi internal, atau data pribadi. Organisasi perlu memastikan data yang digunakan memang boleh diproses dan sesuai dengan kebijakan keamanan serta privasi yang berlaku.
Fine-tuning dapat dipertimbangkan ketika prompt engineering saja belum memberikan hasil yang konsisten dan organisasi memiliki dataset yang cukup representatif untuk mengajarkan perilaku atau task tertentu. Beberapa contoh kebutuhan yang cocok antara lain:
Sebaliknya, jika kebutuhan utama hanya memberikan konteks tambahan pada setiap pertanyaan, prompt engineering atau RAG dapat menjadi pilihan yang lebih sederhana.
Tidak semua aplikasi AI membutuhkan fine-tuning. Jika model dasar sudah memberikan hasil yang memadai melalui prompt yang baik, melakukan fine-tuning dapat menambah kompleksitas tanpa memberikan manfaat yang sebanding.
Fine-tuning juga mungkin bukan pilihan utama apabila kebutuhan aplikasi adalah mengakses informasi yang berubah secara berkala. Dalam kondisi tersebut, sistem retrieval dapat mengambil informasi terbaru dari database, dokumen, atau knowledge base pada saat inference. Oleh karena itu, keputusan menggunakan fine-tuning sebaiknya dibuat berdasarkan hasil evaluasi, bukan hanya karena model dapat di-fine-tune.
Fine-tuning dapat digunakan dalam berbagai skenario.
Chatbot Customer Service
Perusahaan dapat menyiapkan dataset percakapan yang menunjukkan cara chatbot menjawab pertanyaan pelanggan sesuai standar perusahaan. Model kemudian dapat diadaptasi agar lebih konsisten dalam menjalankan pola respons tertentu.
Klasifikasi Dokumen
Model dapat disesuaikan untuk mengelompokkan dokumen ke dalam kategori khusus perusahaan. Contohnya:
Analisis Sentimen
Model dapat diadaptasi untuk mengenali pola sentimen yang spesifik terhadap industri tertentu.
Ekstraksi Informasi
Model dapat dilatih agar lebih konsisten dalam mengambil informasi tertentu dari teks dan menghasilkan output terstruktur.
Asisten Internal
Organisasi dapat menggunakan fine-tuning untuk mengadaptasi model terhadap workflow internal tertentu. Namun, informasi perusahaan yang sering berubah tetap dapat lebih sesuai disediakan melalui retrieval atau sumber data eksternal daripada dijadikan pengetahuan statis dalam model.
Keberhasilan proses ini tidak hanya bergantung pada ukuran model. Beberapa faktor penting meliputi:
Beberapa praktik berikut dapat membantu menghasilkan proses fine-tuning yang lebih terkontrol.
Tentukan Tujuan dengan Jelas
Sebelum mengumpulkan data, tentukan kemampuan apa yang ingin ditingkatkan. Jangan menggunakan tujuan yang terlalu umum seperti “membuat AI lebih pintar”. Tujuan sebaiknya dapat diukur melalui task dan metrik tertentu.
Gunakan Data yang Representatif
Dataset sebaiknya menggambarkan kondisi nyata yang akan dihadapi model setelah deployment.
Bersihkan Dataset
Hapus duplikasi, data tidak relevan, contoh yang salah, dan informasi yang tidak seharusnya digunakan.
Buat Evaluation Set Terpisah
Jangan menggunakan data training yang sama untuk mengukur keberhasilan model.
Mulai dari Model Dasar yang Sesuai
Pemilihan model awal dapat memengaruhi hasil dan kebutuhan resource secara signifikan.
Pertimbangkan PEFT
Jika full fine-tuning terlalu mahal atau membutuhkan resource besar, metode PEFT seperti LoRA dapat menjadi alternatif. PEFT memang dirancang untuk mengadaptasi model dengan hanya melatih sebagian kecil parameter tambahan.
Bandingkan dengan Baseline
Model hasil fine-tuning sebaiknya dibandingkan dengan model dasar menggunakan dataset dan metrik yang sama. Dengan cara tersebut, tim dapat mengetahui apakah fine-tuning benar-benar memberikan peningkatan atau hanya membuat model terlihat lebih baik pada contoh tertentu.
Tidak selalu. Fine-tuning lebih tepat dipahami sebagai proses mengadaptasi model untuk kebutuhan tertentu, bukan sekadar membuat model menjadi lebih pintar dalam semua hal. Model yang di-fine-tune dapat memiliki performa lebih baik pada task tertentu, tetapi hal tersebut tidak berarti kemampuannya meningkat secara universal. Bahkan, fine-tuning yang buruk dapat menyebabkan performa pada beberapa kemampuan lain menurun. Karena itu, keberhasilan fine-tuning harus dinilai berdasarkan tujuan yang telah ditentukan sebelumnya.
Tidak selalu. Besarnya perubahan bergantung pada metode yang digunakan. Pada full fine-tuning, sejumlah besar atau seluruh parameter yang ditargetkan dapat diperbarui. Sementara itu, pada PEFT hanya sebagian kecil parameter tambahan yang dilatih, sedangkan sebagian besar parameter model dasar tetap dipertahankan. Dengan demikian, istilah “fine-tuning” mencakup berbagai teknik adaptasi dengan tingkat perubahan parameter yang berbeda.
AI fine-tuning adalah proses mengadaptasi model AI yang telah dilatih sebelumnya menggunakan dataset khusus agar performanya lebih sesuai dengan task, domain, format output, atau pola perilaku tertentu. Pendekatan ini berbeda dengan training dari awal karena memanfaatkan kemampuan yang sudah dimiliki oleh pretrained model, sehingga proses adaptasi dapat dilakukan secara lebih terarah.
Fine-tuning dapat dilakukan melalui berbagai metode, mulai dari full fine-tuning hingga pendekatan Parameter-Efficient Fine-Tuning (PEFT) seperti LoRA. PEFT menjadi salah satu pilihan yang menarik ketika organisasi ingin mengurangi kebutuhan komputasi dan penyimpanan saat mengadaptasi model AI berukuran besar.
Namun, fine-tuning bukan solusi untuk semua permasalahan AI. Penggunaannya sebaiknya didasarkan pada kebutuhan, kualitas dataset, serta hasil evaluasi yang terukur. Jika kebutuhan utama adalah meningkatkan konsistensi perilaku atau performa model pada task tertentu, fine-tuning dapat menjadi pilihan. Sementara itu, jika sistem membutuhkan informasi eksternal yang sering berubah, pendekatan seperti RAG atau mekanisme retrieval dapat lebih sesuai.
Dengan dataset yang berkualitas, pemilihan model yang tepat, evaluasi yang terukur, serta metode fine-tuning yang sesuai, organisasi dapat mengembangkan sistem AI yang lebih terarah dan relevan dengan kebutuhan aplikasi. Bagi Anda yang ingin mempelajari lebih banyak mengenai AI, machine learning, cloud computing, server, hosting, dan berbagai perkembangan teknologi digital, Blog Hosteko dapat menjadi salah satu referensi untuk menambah wawasan dan mengikuti pembahasan teknologi secara lebih luas.
Setelah memahami perbedaan VPN dan proxy, langkah berikutnya adalah menentukan layanan yang sesuai dengan kebutuhan.…
Dalam pengembangan aplikasi modern, melakukan deployment secara langsung ke seluruh pengguna memiliki risiko yang cukup…
WordPress menyediakan editor yang digunakan untuk membuat dan mengelola konten seperti artikel dan halaman. Sejak…
Internet memberikan akses cepat ke berbagai informasi dan layanan, tetapi aktivitas online juga melibatkan pertukaran…
Database merupakan salah satu komponen penting dalam aplikasi modern. Seiring bertambahnya jumlah pengguna, transaksi, dan…
Memilih software ERP bukan sekadar membandingkan jumlah fitur atau mencari vendor yang paling populer. ERP…