AI Microsoft Phi Silica Meluncur, Bisa Berjalan “Offline” di PC Copilot+

virprom.com – Microsoft meluncurkan model kecerdasan buatan (AI) terbarunya bernama Phi Silica minggu ini di acara Microsoft Build di Seattle, Washington, Amerika Serikat (AS). 

Berbeda dengan Copilot yang membutuhkan koneksi internet, Phi Silica Copilot Plus merupakan AI melalui chip AI laptop tipe PC (tanpa koneksi). 

Seperti yang Anda lihat, rangkaian laptop PC Copilot Plus yang mencakup Surface, Surface Pro, dan Surface Laptop juga diluncurkan di acara Microsoft Build. Artinya, laptop jenis ini merupakan laptop generasi pertama yang hadir dengan Phi Silica.

Phi Silica adalah model AI Model Skala Kecil (SLM). Tidak seperti model bahasa besar (LLM), pekerjaan SLM memiliki jejak memori yang kecil, sehingga dapat dijalankan di NPU tanpa bergantung pada koneksi jaringan.

Baca Juga: Microsoft Umumkan Copilot + PC, Laptop Custom dengan Dukungan AI

Dari segi teknologi, Microsoft mengatakan bahwa SLM memiliki 3,3 miliar “pengetahuan” yang memungkinkannya merespons dan menafsirkan permintaan pengguna secara akurat dan cepat. 

Dalam prosesnya, Phi Silica memiliki latensi 650 token per detik dan menggunakan daya sekitar 1,5 watt per detik. Simbol adalah unit dasar data, biasanya huruf atau kata, yang biasa digunakan untuk pemrosesan AI. 

Selain itu, pemrosesan sinyal akan disimpan dalam memori cache NPU. Pada saat runtime, proses AI berjalan di CPU dengan kecepatan pemrosesan 27 sinyal per detik. Artinya beban pada NPU akan lebih ringan karena dukungan CPU. 

Dalam hal ketersediaan, Phi Silica dapat menguji Copilot PC Plus apa pun, termasuk Surface, Surface Pro, dan Surface Laptop generasi baru yang ditenagai oleh chip ARM Qualcomm Snapdragon X Plus atau X Elite.

Baca Juga: Microsoft Mengumumkan Laptop PC Surface Copilot Plus Dengan Chip Snapdragon X Series

Tidak jelas apakah Phi Silica akan mengaktifkan fitur chatbot Copilot di komputer ini jika tidak ada koneksi internet. Tidak yakin bagaimana cara kerja Phi Silica dibandingkan dengan Copilot.

Namun yang jelas Phi Silica merupakan rencana baru Microsoft untuk “menyematkan” SLM langsung ke hardware untuk pertama kalinya, khususnya untuk segmen laptop Windows.

Selain Phi Silica, Microsoft juga memiliki SLM bernama “Phi”, dan model Phi Silica bisa dikatakan sebagai model Phi yang lebih kecil dan merupakan tambahan dari model AI Phi, demikian KompasTekno dari VentureBeat kumpulkan, Rabu. (22/05/2024) . 

Beberapa di antaranya adalah Phi-3-Mini dengan 3,8 miliar parameter, Phi-3-Small dengan 7 miliar parameter, Phi-3-Medium dengan 14 miliar parameter, dan Phi-3-Vision dengan 4,2 miliar parameter. Nantikan berita terbaru dan pilihan kami di ponsel Anda. Pilih saluran berita favorit Anda untuk bergabung dengan saluran WhatsApp virprom.com: https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan Anda telah menginstal aplikasi WhatsApp.

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Back To Top