Apple dan NVIDIA mengumumkan terobosan baru di bidang kecerdasan buatan saat berkolaborasi mengembangkan teknologi AI baru bernama ReDrafter. Hasilnya adalah peningkatan kecepatan pembuatan teks hingga 2,7 kali lipat, membuka potensi penerapan secara luas di masa depan.
ReDrafter adalah kombinasi cerdas dari dua teknik canggih: pencarian sinar dan perhatian pohon dinamis. Pencarian balok memperluas kemampuan untuk mengekspresikan teks secara bersamaan, sehingga menemukan hasil terbaik. Perhatian pohon dinamis mengatur dan menghapus duplikat yang tidak perlu selama pembuatan teks, sehingga meningkatkan efisiensi.
Dengan mengintegrasikan ReDrafter ke dalam kerangka TensorRT-LLM NVIDIA, Apple mencapai kinerja luar biasa. Hasil eksperimen menunjukkan bahwa teknik ini mempercepat pembuatan teks hingga 2,7 kali lipat dibandingkan metode tradisional, bila diterapkan pada model produksi skala besar.
Manfaat luar biasa dari ReDrafter mencakup percepatan yang signifikan dalam pengalaman pengguna, pengurangan biaya dengan penghematan energi dan sumber daya komputasi, serta membuka banyak aplikasi baru di berbagai bidang.
Kemitraan antara Apple dan NVIDIA menandai tonggak penting dalam pengembangan AI. ReDrafter bukan hanya sebuah teknologi terobosan, namun juga merupakan bukti kekuatan kolaborasi antar perusahaan industri terkemuka. Kita berharap dapat melihat aplikasi AI yang lebih cerdas dan nyaman di masa depan.
Apple dan NVIDIA bersama-sama mengembangkan ReDrafter, teknologi AI baru yang mempercepat pembuatan teks hingga 2,7 kali lipat, membuka potensi penerapan luas di masa depan.
Apple baru saja mengumumkan terobosan baru dalam kecerdasan buatan, bermitra dengan NVIDIA untuk secara signifikan mempercepat kinerja model bahasa besar (LLM). Pencapaian ini dicapai melalui penerapan teknik pembuatan teks baru yang disebut Recurrent Drafter (ReDrafter), yang menjanjikan akan merevolusi cara kita berinteraksi dengan aplikasi AI di masa depan.
ReDrafter adalah metode cerdas yang menggabungkan dua teknik canggih: pencarian sinar dan perhatian pohon dinamis. Pencarian balok membantu memperluas beberapa kemungkinan ekspresi teks secara bersamaan, sehingga menemukan hasil terbaik. Sementara itu, perhatikan bahwa pohon dinamis bertanggung jawab untuk mengatur dan menghapus duplikat yang tidak perlu selama proses pembuatan dokumen, sehingga membantu meningkatkan efisiensi.
Dengan mengintegrasikan ReDrafter ke dalam kerangka TensorRT-LLM NVIDIA, sebuah platform yang mengoptimalkan LLM yang berjalan pada GPU NVIDIA, Apple mencapai kinerja luar biasa. Berdasarkan hasil pengujian, teknik ini membantu meningkatkan kecepatan pembuatan teks hingga 2,7 kali lipat dibandingkan metode tradisional, bila diterapkan pada model produksi skala besar dengan puluhan miliar parameter.
Manfaat luar biasa:
- Akselerasi yang signifikan: Pengguna akan menerima respons yang lebih cepat dan pengalaman yang lebih lancar saat menggunakan aplikasi AI.
- Mengurangi biaya: Meminimalkan waktu pemrosesan menghemat energi dan sumber daya komputer.
- Membuka banyak aplikasi baru: Dengan peningkatan kinerja, LLM dapat diterapkan lebih luas di banyak bidang, mulai dari layanan pelanggan hingga pembuatan konten.
Kemitraan antara Apple dan NVIDIA menandai tonggak penting dalam pengembangan AI. ReDrafter bukan hanya sebuah teknologi terobosan, namun juga merupakan bukti kekuatan kolaborasi antar perusahaan industri terkemuka. Di masa depan, kita dapat melihat penerapan AI yang lebih cerdas dan nyaman, berkat kemajuan berkelanjutan di bidang ini.
Eksplorasi konten lain dari Heart To Heart
Berlangganan untuk dapatkan pos terbaru lewat email.
