Tiiny AI Luncurkan PC Mini Seukuran Saku yang Menjalankan 120 Miliar LLM Secara Lokal

Superkomputer AI Tiiny AI Pocket Lab. (Foto: Gizmochina)

Sukoharjonews.com – Tiiny AI, sebuah startup yang berbasis di AS, telah mengumumkan Tiiny AI Pocket Lab, yang diklaim sebagai superkomputer AI pribadi terkecil di dunia. Perangkat ini hanya berbobot 300 gram, muat di satu tangan, dan memberikan kinerja komputasi AI hingga 190 TOPS.

Dikutip dari Gizmochina, Rabu (17/12/2025), perangkat ini telah secara resmi disertifikasi oleh Guinness World Records sebagai ‘MiniPC Terkecil (100 Miliar LLM Secara Lokal)’ dan dapat menjalankan hingga 120 miliar model bahasa besar (LLM) dengan parameter sepenuhnya di perangkat.

Pocket Lab memiliki CPU ARMv9.2 12 inti yang dipasangkan dengan NPU yang dirancang khusus, mencapai kinerja komputasi AI sekitar 190 TOPS. Perangkat ini dilengkapi dengan memori LPDDR5X 80GB dan SSD 1TB untuk mendukung beban kerja inferensi skala besar. Tiiny AI telah membangun perangkat ini untuk beroperasi dalam TDP 30W dan daya sistem tipikal 65W, menawarkan kinerja tinggi dengan konsumsi energi yang lebih rendah.

Tiiny AI mengatakan Pocket Lab menjawab kekhawatiran yang berkembang seputar ketergantungan cloud, privasi data, dan meningkatnya biaya energi. Perusahaan percaya bahwa pemrosesan AI lokal menawarkan alternatif yang lebih berkelanjutan dan aman daripada sistem berbasis cloud. Perangkat ini menyimpan semua data pengguna dan interaksi model secara lokal dengan enkripsi tingkat bank, menghilangkan kebutuhan akan akses internet atau server eksternal.

Pocket Lab mendukung penyebaran satu klik dari beberapa LLM sumber terbuka dan kerangka kerja agen. Ini termasuk GPT-OSS, Llama, Mistral, DeepSeek, Qwen, dan Phi, bersama dengan alat otomatisasi seperti ComfyUI, SillyTavern, dan Flowise. Sistem ini berjalan sepenuhnya offline dan memungkinkan kasus penggunaan seperti penalaran multi-langkah, pembuatan konten, pemahaman konteks yang mendalam, dan memori pribadi yang aman.

Perusahaan berencana untuk memamerkan Tiiny AI Pocket Lab di CES 2026. Mereka memposisikan produk ini untuk pengembang, peneliti, profesional, dan mahasiswa yang membutuhkan kemampuan AI portabel dan pribadi. Perangkat ini bertujuan untuk melayani kasus penggunaan dunia nyata dalam rentang parameter 10B hingga 100B, yang menurut perusahaan mencakup lebih dari 80% kebutuhan AI praktis. (nano)

Nano Sumarno:
Tinggalkan Komentar