Prime Intellect Meluncurkan Prab_preview Tumpukan Inferensi untuk Memperkuat AI Terdesentralisasi!
🧠⚙️🚀
Prime Intellect, sebuah protokol AI terdesentralisasi, baru saja mengungkap prab_preview Tumpukan Inferensi — yang dirancang untuk mengatasi tantangan besar AI seperti:
⏱️ Efisiensi dekoding autoregresif
🧠 Bottleneck memori cache KV
🌐 Latensi jaringan publik
Tumpukan ini menggunakan desain paralel pipa untuk kepadatan komputasi tinggi dan eksekusi asinkron, membuatnya lebih mudah untuk menskalakan model besar pada GPU seperti RTX 3090 & 4090 🔥💻.
Bersamaan dengan prab_preview, mereka meluncurkan 3 alat sumber terbuka:
PRIME-IROH: Backend komunikasi P2P
PRIME-VLLM: Menghubungkan vLLM dengan paralelisme pipa di jaringan publik
PRIME-PIPELINE: Sandbox penelitian untuk pengembang & penggemar AI
Ini adalah kemenangan besar untuk ruang Web3 + AI — menggabungkan desentralisasi dengan pembelajaran mesin mutakhir!
#PrimeIntellect #AIprotocols #Web3AI #vLLM #DeAI
#CryptoNews