virprom.com – Setelah Large Language Model (LLM), beberapa perusahaan teknologi berbondong-bondong membuat Small Language Model (SLM) versi mereka sendiri.
Perusahaan teknologi besar seperti Google, Meta, Microsoft, dan Apple sudah mulai membangun SLM untuk membuat perangkat lunak AI terjangkau.
LLM dan SLM adalah dua contoh bahasa yang merupakan elemen penting dan esensial untuk menjalankan perangkat lunak/alat Artificial Intelligence (AI).
Perbedaannya adalah LLM memiliki pilihan lebih banyak dan sumber daya lebih besar, sehingga dapat melakukan pekerjaan yang lebih kompleks. Pada saat yang sama, SLM memiliki parameter yang lebih sedikit dengan alat yang lebih sedikit, sehingga pekerjaannya lebih mudah dan spesifik.
Baca Juga: Apa itu LLM? Temui perangkat lunak di balik kecerdasan AI
Contoh LLM yang populer adalah “GPT” oleh OpenAI yang digunakan di chatbot AI ChatGPT dan “Gemini” oleh Google di chatbot Gemini (sebelumnya Bard).
LLM dilatih menggunakan database yang sangat besar yang dapat mencapai ratusan miliar atau miliaran parameter. Inilah sebabnya mengapa LLM disebut sebagai “model hebat” bahasa tersebut.
Faktanya, semakin tinggi jumlah parameternya, semakin baik program AI, dan semakin kompleks tugas yang dilakukannya.
Misalnya, versi terbaru OpenAI GPT-4o dan Google Gemini 1.5 Pro diperkirakan memiliki lebih dari 1 triliun parameter. Meta juga dikatakan melatih Llama AI versi 400 parameter.
Namun salah satu tantangannya adalah versi bahasa yang besar seperti GPT dan Gemini memerlukan daya komputasi dan memori yang besar, sehingga anggaran yang dibutuhkan juga besar.
Hal ini juga disebut akan menyulitkan perusahaan teknologi untuk meyakinkan klien korporat lainnya agar membayar lebih untuk mengambil LLM ini.
Menurut informasi yang dibagikan oleh Financial Times, prototipe AI tercanggih OpenAI, GPT 4, berharga US$5 (kira-kira Rs. 79.800) untuk 1 juta token (setara dengan 1 juta kata yang diketik atau dihasilkan). Sementara itu, Gemini 1.5 Pro berharga USD 7 (kira-kira Rs. 111.800) untuk 1 juta token.
Baca Juga: OpenAI Merilis Model AI GPT-4o yang Gratis, Cepat, dan Manusiawi
Namun, perusahaan seperti Meta dan Google sedang mengembangkan model bahasa kecil yang menggunakan beberapa miliar parameter sebagai alternatif yang lebih murah, efisien, dan lebih bermanfaat.
SLM juga memerlukan lebih sedikit energi untuk melatih dan mengoperasikannya, serta dapat melindungi informasi berharga.
Misalnya, Google memperkenalkan dua SLM open source pada Februari lalu, yaitu Gemma 2B dan Gemma 7B. SLM ini memiliki 2-7 miliar parameter.
Pada akhir April, Microsoft juga mengumumkan versi Phi-3, yang memiliki 3,8 miliar hingga 7 miliar parameter.