Mencari setelan: Misalkan Anda sudah memiliki model pembelajaran mendalam yang efisien yang menjalankan tugas A. Sekarang Anda harus menjalankan tugas B yang cukup mirip dengan tugas A. Anda tidak perlu membuat model terpisah dari awal untuk tugas B. Cukup perbaiki model yang sudah ada yang menjalankan tugas A secara efisien.
Contoh: Anda memiliki model terlatih yang mengidentifikasi semua jenis mobil. Model mobil telah mempelajari banyak fitur seperti tepi, bentuk, tekstur, lampu depan, gagang pintu, ban, kaca depan dst. Sekarang Anda harus membuat model yang dapat mengidentifikasi truk. Kita tahu bahwa banyak fitur mobil dan truk yang serupa. Jadi, mengapa harus membuat model baru untuk truk dari awal? Mari kita ubah saja model mobil yang sudah ada untuk membuat model baru untuk truk.
Transfer Pembelajaran: Kita dapat mentransfer pembelajaran dari model yang ada pada mobil ke model baru pada truk. Jadi, transfer pembelajaran terjadi saat menyempurnakan model yang ada.
Keuntungan Transfer Learning dan Fine Tuning:
Membuat model baru adalah tugas yang sangat sulit dan memakan waktu. Kita perlu memutuskan banyak hal saat membuat model seperti:
1. Berbagai jenis lapisan yang digunakan (terhubung penuh, berbelit-belit, kapsul, LSTM, dll.)
2. Berapa banyak lapisan yang harus digunakan?
3. Berapa banyak node dalam satu layer?
4. Fungsi aktivasi mana yang digunakan pada lapisan mana?
5. Teknik regularisasi mana yang harus digunakan?
6. Pengoptimal mana yang harus digunakan?
7. Menyetel berbagai hiperparameter seperti menginisialisasi bobot, laju pembelajaran, momentum, ukuran batch, jumlah epoch, dll.
Jadi, jika kita dapat menyempurnakan model yang sudah ada, kita dapat terhindar dari tugas-tugas di atas dan menghemat waktu dan tenaga kita.
Bagaimana cara menyempurnakan model?
Kita perlu membuat beberapa perubahan dan penyempurnaan yang wajar pada model yang sudah ada untuk membuat model baru. Berikut ini adalah beberapa langkah dasar untuk menyempurnakan model yang sudah ada:
1. Hapus lapisan keluaran: Pertama-tama hapus lapisan keluaran yang mengidentifikasi mobil. Tambahkan lapisan keluaran baru yang sekarang akan mengidentifikasi truk.
2. Tambahkan dan hapus lapisan tersembunyi: Truk memiliki beberapa fitur yang berbeda dari mobil. Oleh karena itu, tambahkan beberapa lapisan tersembunyi yang akan mempelajari fitur-fitur baru truk. Hapus lapisan tersembunyi yang tidak diperlukan dalam kasus truk.
3. Bekukan lapisan yang tidak diubah: Bekukan lapisan yang dipertahankan (tidak diubah) sehingga tidak ada pembaruan bobot yang terjadi saat kita melatih model ini lagi pada data baru dengan truk. Bobot hanya boleh diperbarui pada lapisan tersembunyi yang baru.
