Tahun 2028, Smartphone Bakal Bisa Jalankan AI Lokal 100 Miliar Parameter? • Jagat Gadget
CEO Qualcomm, Cristiano Amon, memprediksi smartphone yang mampu menjalankan model AI lokal dengan 100 miliar (100 Billion) parameter bisa hadir pada 2028. Ia juga mengungkap bahwa sejumlah perusahaan AI sedang mengembangkan perangkat dengan kemampuan tersebut. Namun, target ini memiliki tantangan besar, terutama soal kapasitas RAM, harga memori, dan panas yang dihasilkan.
Kapasitas RAM Masih Jadi Bottleneck
Menjalankan model AI sebesar 100 miliar parameter membutuhkan kapasitas memori yang sangat besar. Secara teori, model dengan quantization 4-bit (model ai yang sudah dikompresi) membutuhkan sekitar 50GB RAM, sedangkan versi 2-bit memerlukan setidaknya 25GB hanya untuk menyimpan parameternya saja. Itu belum kebutuhan RAM untuk OS serta operasi background lainnya.
Masalahnya, smartphone saat ini umumnya masih menawarkan RAM hingga 16GB, sementara harga dan pasokan DRAM masih belum kunjung normal. Bahkan jika kapasitas RAM mencukupi, sistem operasi dan aplikasi lain tetap membutuhkan memori tambahan. Menjalankan model besar secara terus-menerus juga berisiko membuat perangkat cepat panas dan mengalami penurunan performa.
Mungkinkah Terwujud pada 2028?
Melansir dari Wccftech, ada beberapa pendekatan yang bisa digunakan untuk mengatasi keterbatasan tersebut. Model AI bisa dijalankan sebagian melalui storage, meski kecepatannya lebih rendah dibandingkan RAM, atau menggunakan arsitektur Mixture of Experts (MoE) yang hanya mengaktifkan sebagian parameter saat memproses setiap token.
Baca Juga: Apa Maksud Halusinasi AI? Ini Penjelasannya • Jagat Review
Alternatif yang lebih realistis adalah memakai model AI lebih kecil yang telah melalui proses distilasi agar kemampuannya mendekati model besar. Dengan begitu, smartphone tidak harus menyediakan puluhan gigabita RAM khusus untuk AI.
Prediksi Qualcomm bukan hal yang mustahil, tetapi menjalankan model 100 miliar parameter secara lokal dan terus-menerus pada smartphone masih memiliki tantangan yang cukup besar. Menurut kalian, apakah prediksi tersebut bakal terwujud pada 2028?
