Rabu, Oktober 2

Jakarta

Induk TikTok ByteDance berencana mengembangkan model AI yang bakal dilatih menggunakan chip buatan Huawei.

Seperti diketahui, ByteDance sudah mengalihkan pesanan chipnya ke perusahaan lokal sejak Amerika Serikat melarang ekspor chip AI canggih dari perusahaan seperti Nvidia, yang menjadi pemimpin pasar di industri chip AI.

Namun karena AI kini punya peran sentral di berbagai industri, terutama teknologi, ByteDance terpaksa menggunakan chip buatan Huawei untuk melatih model AI yang akan mereka buat.


Menurut sumber rahasia yang dikutip oleh Reuters, chip AI dari Huawei yang dipakai oleh ByteDance ini adalah Ascend 910B, yang akan dipakai untuk melatih large language model (LLM) AI buatannya.

Seorang sumber lain juga menyebut ByteDance tengah berencana untuk membuat model AI baru, namun sumber ini tak bisa memastikan apakah ByteDance akan memakai chip dari Huawei.

Sementara itu ByteDance menepis kabar tersebut. Menurut mereka saat ini tak ada model AI baru yang sedang dikembangkan.

“Premis ini salah secara keseluruhan. Tidak ada model baru yang sedang dikembangkan,” kata ByteDance.

Saat ini ByteDance memang sudah menggunakan Ascend 910B, namun hanya dipakai untuk tugas-tugas yang membutuhkan komputasi rendah yang tidak terlalu intesif. Misalnya melatih model AI untuk tugas ringan seperti membuat perkiraan.

Sementara untuk melatih model AI secara penuh memang membutuhkan kemampuan komputasi yang jauh lebih besar, karena dataset-nya pun jauh lebih besar. Sehingga tugas ini lebih cocok dikerjakan menggunakan chip AI Nvidia yang performanya jauh lebih kencang.

Selama tahun 2024 ini ByteDance sudah memesan lebih dari 100 ribu chip Ascen 910B dari Huawei, alias menjadi salah satu konsumen chip AI Huawei yang terbesar. Namun pesanan yang bisa dipenuhi itu baru 30 ribu chip per Juli lalu. Hal ini, menurut seorang sumber yang dikutip Reuters, tak bisa memenuhi kebutuhan ByteDance.

Hal ini tentu menjadi masalah bagi ByteDance dan membatasi rencana pengembangan AI mereka. Yaitu pasokan chip yang terbatas dan kemampuan komputasi chip yang jauh lebih rendah dibanding chip AI Nvidia.

Teknologi AI ByteDance yang ada saat ini menggunakan LLM yang diluncurkan pada Agustus 2023 dan kemudian dinamai chatbot Doubao, serta dipakai di banyak aplikasi lain seperti fitur text to video bernama Jimen.

Penggunaan aplikasi-aplikasi AI ini melesat sejak awal 2024 ini, bahkan chatbot ByteDance ini menjadi salah satu aplikasi paling populer di China dengan jumlah pengguna aktif bulanan lebih dari 10 juta.

Maka dari itu tak aneh kalau ByteDance juga salah satu pengguna chip Nvidia H20, chip AI yang dibuat khusus oleh Nvidia untuk pasar China. Mereka juga menjadi klien terbesar Microsoft di Asia yang menggunakan layanan cloud computing untuk server pengolah AI.

(asj/asj)

Membagikan
Exit mobile version