Key Discussion: Cathay Financial Holdings Manfaatkan Model Bahasa Kecil Berbasis Sumber Terbuka untuk Memahami Kebutuhan Nasabah

Inovasi Dalam Penggunaan AI untuk Layanan Keuangan

Key Discussion – Perusahaan keuangan Cathay Financial Holdings (Cathay FHC) terus mengembangkan pemanfaatan teknologi kecerdasan buatan (AI) generatif dalam sektor jasa keuangan. Dalam upayanya, Cathay FHC memperkenalkan kerangka kerja AI generatif bernama GAIA, serta mengadopsi strategi AI-as-a-Service (AIaaS) yang bertujuan meningkatkan efisiensi operasional dan menghadirkan pengalaman layanan yang lebih personalisasi bagi nasabah. Langkah ini sejalan dengan komitmen perusahaan untuk memperkuat kapabilitas teknologi sektor keuangan melalui inovasi berkelanjutan.

Kerangka Kerja AI-as-a-Service

Cathay FHC menegaskan bahwa GAIA tidak hanya menjadi alat pengembangan model, tetapi juga menyediakan solusi komprehensif untuk berbagai aspek layanan keuangan. Dengan menerapkan pendekatan AI-as-a-Service, perusahaan mampu menyederhanakan proses implementasi teknologi, sekaligus memastikan skalabilitas dan fleksibilitas sistem. Hasil riset terbaru mereka pada acara NVIDIA GTC Taipei 2026 menunjukkan bahwa model bahasa kecil (SLM) yang dikembangkan secara open-source memiliki potensi signifikan dalam memahami kebutuhan nasabah secara lebih mendalam.

Dalam studi tersebut, Cathay FHC menguji sejumlah model SLM terpilih dari berbagai pengembang, termasuk Meta, TAIDE, TAME, NVIDIA, dan OpenAI. Hasil awal menunjukkan bahwa SLM yang disempurnakan mampu mengelompokkan kebutuhan nasabah dengan akurasi tinggi, bahkan hampir menyamai kinerja model bahasa besar (LLM) yang bersifat closed-source. Pendekatan ini memberikan solusi yang lebih efisien, karena mengurangi ketergantungan pada teknik prompt engineering yang rumit atau modul vector retrieval.

Kinerja Model Bahasa Kecil yang Disempurnakan

Cathay FHC menegaskan bahwa SLM yang dikembangkan memiliki kemampuan unik dalam memahami konteks layanan keuangan lokal, termasuk istilah industri dan pertanyaan nasabah yang ambigu. Hasil penelitian menunjukkan bahwa model ini mampu menangani berbagai skenario kompleks, seperti pemrosesan data yang terkait dengan produk keuangan atau analisis kebutuhan nasabah berdasarkan pola perilaku. Dengan kemampuan ini, perusahaan dapat menerapkan layanan seperti pengecekan saldo kredit pemilikan rumah (KPR), bantuan pembayaran kartu kredit, hingga navigasi layanan cabang secara lebih cepat dan akurat.

Salah satu keunggulan SLM adalah kemampuannya untuk memahami konteks layanan secara lokal. Dengan memanfaatkan teknik lokalisasi konteks khusus, model ini bisa mengenali istilah-istilah keuangan yang sering digunakan oleh nasabah Taiwan, serta menganalisis pertanyaan yang bersifat ambiguitas. Pendekatan ini berpotensi menjadi fondasi untuk layanan pencarian cerdas, otomatisasi pengalihan, dan pengalaman interaksi nasabah generasi berikutnya.

Strategi Data dan Privasi

Sebagai bagian dari pengembangan model, Cathay FHC memprioritaskan keamanan data dan privasi nasabah. Mereka menggunakan pendekatan data sintetis dalam proses pelatihan, sehingga tidak mengandalkan informasi nyata nasabah. Ini meminimalkan risiko kebocoran data dan memastikan kompatibilitas dengan regulasi yang ketat. Selain itu, perusahaan menerapkan berbagai teknik pengelompokan fungsi layanan, perancangan rangkaian data yang terarah, serta perluasan kata kunci untuk meningkatkan kapabilitas model.

Dari sisi tata kelola data, Cathay FHC menjelaskan bahwa integrasi SLM open-source memungkinkan pengelolaan data yang lebih fleksibel. Mereka juga membangun infrastruktur berbasis perangkat NVIDIA, seperti NVIDIA NeMo Customizer, NVIDIA NeMo Curator, dan NVIDIA TensorRT-LLM, serta memanfaatkan sumber daya komputasi dari arsitektur NVIDIA Hopper. Infrastruktur ini mendukung berbagai tahap pengembangan, mulai dari pembuatan data, penyesuaian model, optimalisasi inferensi, hingga evaluasi eksperimen.

Kemajuan Teknologi dan Tantangan Masa Depan

Dalam beberapa tahun terakhir, Cathay FHC secara konsisten mengembangkan inovasi AI untuk berbagai skenario layanan keuangan. Mereka membangun fondasi teknologi yang bisa dikembangkan lebih lanjut, baik untuk optimisasi proses internal, peningkatan layanan nasabah, maupun pemahaman pengetahuan keuangan secara mendalam. Perusahaan juga menekankan bahwa teknologi ini bisa digunakan untuk validasi aplikasi dan tata kelola model AI yang lebih terstruktur.

Hasil riset ini menunjukkan bahwa kombinasi data yang dirancang secara cermat dengan proses penyempurnaan model mampu meningkatkan stabilitas, efisiensi inferensi, serta kontrol dalam implementasi. Dengan mengurangi kompleksitas arsitektur sistem, SLM open-source berpotensi mengubah cara perusahaan menghadirkan layanan keuangan yang lebih responsif terhadap kebutuhan nasabah. Hal ini khususnya penting dalam era di mana permintaan nasabah berubah cepat dan regulasi semakin ketat.

Perusahaan berharap bahwa pengembangan model SLM ini bisa menjadi referensi praktis bagi industri keuangan dalam menyusun strategi pelatihan dan penerapan teknologi. Selain itu, Cathay FHC menyatakan bahwa mereka akan terus mengeksplorasi teknologi seperti klasifikasi berbasis konteks panjang dan pemahaman dokumen keuangan tingkat lanjut. Pendekatan ini dirancang untuk mempercepat inovasi dan menghadirkan solusi yang lebih efisien serta berorientasi pada kebutuhan nasabah.

Proses Pengujian dan Evaluasi

Dalam penelitian di NVIDIA GTC Taipei 2026, Cathay FHC melakukan pengujian berbagai model SLM dengan kerangka yang spesifik. Hasilnya menunjukkan bahwa model open-source yang telah disempurnakan mampu menangani tugas-tugas klasifikasi kebutuhan nasabah dengan kinerja yang sangat baik. Bahkan, performa model ini mendekati LLM yang sering digunakan oleh perusahaan lain, hampir menandingi kemampuan model terdepan di industri.

Pendekatan ini juga memungkinkan pengurangan biaya operasional, karena meminimalkan kebutuhan untuk modul external seperti vector retrieval. Selain itu, arsitektur sistem yang lebih sederhana memudahkan proses pemeliharaan dan pengembangan di masa depan. Cathay FHC menjelaskan bahwa penggunaan SLM bukan hanya tentang efisiensi komputasi, tetapi juga tentang kemampuan model untuk beradaptasi dengan konteks layanan keuangan lokal secara lebih baik.

Komitmen untuk Inovasi Berkelanjutan

Dengan ekosistem AI NVIDIA, Cathay FHC terus memperkuat kemampuan pengembangan model khusus sektor keuangan. Mereka menegaskan bahwa langkah ini bertujuan untuk menciptakan layanan yang lebih cerdas dan efisien, sekaligus memenuhi ekspektasi nasabah yang terus berkembang. Dalam prosesnya, perusahaan menggunakan perangkat NVIDIA yang terkini untuk menjamin kualitas dan skalabilitas teknologi.

Cathay FHC juga menyatakan bahwa mereka berkomitmen untuk mengembangkan riset AI yang aman, tangguh, dan sesuai dengan standar regulasi yang berl