Jakarta –
DeepSeek menghebohkan dunia karena merilis large language models atau LLM yang canggih dengan ongkos jauh lebih rendah dibandingkan kompetitor asal Amerika Serikat, tapi kemampuannya sebanding. Tentu sebagian pihak tak percaya dengan klaim tersebut.
DeepSeek menyebut hanya mengeluarkan sekitar USD 6 juta untuk membuat model AI DeepSeek R1 dan DeepSeek V3, yang dalam beberapa pengujian disebut melampaui ChatGPT, chatbot populer dari OpenAI.
Dalam pembuatannya, DeepSeek menyebut memakai chip Nvidia H800 dengan kemampuan lebih rendah dari Nvidia H100. Engineer DeepSeek mengklaim mereka memakai sekitar 2.000 Nvidia H800 untuk melatih modelnya dengan teknik khusus agar lebih efisien.
Memang sejak tahun 2022, Amerika Serikat melarang ekspor chip canggih Nvidia termasuk H100 atau A100 ke China, sedangkan chip seperti Nvidia H800 masih bisa diekspor. Namun menurut CEO Scale AI, Alexandr Wang, DeepSeek sebenarnya mempunyai 50 ribu unit Nvidia H100 tapi mereka menutup-nutupinya.
“Pemahaman saya adalah DeepSeek punya sekitar 50 ribu H100, yang tentu saja tidak bisa mereka bicarakan karena itu berlawanan dengan kontrol ekspor yang dilakukan Amerika Serikat. Saya pikir memang benar mereka punya lebih banyak chip dari yang diperkirakan orang,” katanya.
Mungkin saja mereka bisa memperoleh dan menimbun chip itu sebelum larangan AS diberlakukan, tapi diprediksi akses ke depan akan semakin sulit. “Ke depannya, mereka akan dibatasi oleh kontrol chip dan kontrol ekspor yang sudah kita lakukan,” tambah Wang yang dikutip detikINET dari CNBC.
Diduga, DeepSeek menggunakan kombinasi chip canggih Nvidia dengan chip yang kemampuannya lebih rendah. Wang pun menyebut dengan bantuan chip terlarang itulah, DeepSeek mampu menandingi AI dari AS meskipun tetap memuji kemampuan DeepSeek memang impresif.
Nvidia H100 sendiri jadi favorit lantaran mampu menangani data melimpah dalam kecepatan sangat tinggi. Harga per unitnya pun sangat mahal, yakni di kisaran USD 25 ribu.
(fyk/fyk)
