IMPLEMENTASI FINE-TUNING UNTUK PREDIKSI KALIMAT SOLUSI DARI KALIMAT MASALAH PADA ARTIKEL ILMIAH MENGGUNAKAN MODEL LARGE LANGUAGE MODELS (LLM)

NURINAYAH, ALFIYATU (2025) IMPLEMENTASI FINE-TUNING UNTUK PREDIKSI KALIMAT SOLUSI DARI KALIMAT MASALAH PADA ARTIKEL ILMIAH MENGGUNAKAN MODEL LARGE LANGUAGE MODELS (LLM). Undergraduate thesis, Universitas Islam Sultan Agung Semarang.

	Text Teknik Informatika_32602100020_fullpdf.pdf Download (1MB)
	Text Teknik Informatika_32602100020_pernyataan_publikasi.pdf Restricted to Registered users only Download (185kB)

Abstract

Prediksi solusi kalimat masalah dalam artikel ilmiah merupakan suatu tantangan karena tidak semua kalimat masalah dalam artikel menyebutkan solusi secara eksplisit. Oleh karena itu, penelitian ini dilakukan untuk mengembangkan model yang mampu memprediksi solusi kalimat masalah dengan menerapkan fine-tuning pada model Llama 3.2 1B Instruct. Model ini dilatih menggunakan 99 data latih yang berisi pasangan kalimat masalah dan solusi untuk memahami pola hubungan keduanya. Evaluasi dengan metrik ROUGE menunjukkan bahwa model mencapai skor yang cukup baik, dengan skor ROUGE-1 sebesar 0,611, ROUGE-2 sebesar 0,496, dan ROUGE-L sebesar 0,576. Selama proses pelatihan, nilai loss mengalami penurunan yang cukup signifikan yaitu dari 0.4394 pada epoch pertama menjadi 0.0286 pada epoch kelima yang menandakan bahwa model semakin memahami pola pada data pelatihan. Namun penelitian ini menghadapi beberapa kendala, seperti ketidakmampuan model dalam memprediksi solusi beberapa kalimat secara akurat, terutama jika permasalahan yang diberikan tidak berada dalam cakupan data pelatihan. Selain itu, ketika model diterapkan dalam aplikasi, hasil prediksi terkadang kurang relevan, kemungkinan besar disebabkan oleh keterbatasan komputasi pada perangkat yang digunakan. Oleh karena itu, diperlukan penelitian lebih lanjut untuk meningkatkan akurasi model dan mengoptimalkan kinerjanya agar lebih stabil ketika diterapkan pada sistem dengan sumber daya terbatas. Kata Kunci : Fine-tuning, Llama3.2 1B Instruct, Prediksi Solusi, Artikel Ilmiah, NLP.

Item Type:	Thesis (Undergraduate)
Subjects:	T Technology > T Technology (General)
Divisions:	Fakultas Teknologi Industri Fakultas Teknologi Industri > Teknik Informatika
Depositing User:	Pustakawan 1 UNISSULA
Date Deposited:	12 Jun 2025 01:59
URI:	http://repository.unissula.ac.id/id/eprint/40030

Actions (login required)

View Item