Apple baru saja mengumumkan terobosan baru dalam kecerdasan buatan, bermitra dengan NVIDIA untuk secara signifikan mempercepat kinerja model bahasa besar (LLM). Pencapaian ini dicapai melalui penerapan teknik pembuatan teks baru yang disebut Recurrent Drafter (ReDrafter), yang menjanjikan akan merevolusi cara kita berinteraksi dengan aplikasi AI di masa depan.
ReDrafter adalah metode cerdas yang menggabungkan dua teknik canggih: pencarian sinar dan perhatian pohon dinamis. Pencarian balok membantu memperluas beberapa kemungkinan ekspresi teks secara bersamaan, sehingga menemukan hasil terbaik. Sementara itu, perlu diingat bahwa pohon dinamis bertanggung jawab untuk mengatur dan menghapus duplikat yang tidak diperlukan selama proses pembuatan dokumen, sehingga membantu meningkatkan efisiensi.
Dengan mengintegrasikan ReDrafter ke dalam kerangka TensorRT-LLM NVIDIA, sebuah platform yang mengoptimalkan LLM yang berjalan pada GPU NVIDIA, Apple mencapai kinerja luar biasa. Berdasarkan hasil pengujian, teknik ini membantu meningkatkan kecepatan pembuatan teks hingga 2,7 kali lipat dibandingkan metode tradisional, bila diterapkan pada model produksi skala besar dengan puluhan miliar parameter.
#Apple #NVIDIA #AI #ReDrafter #Teknologi Baru #Akselerasi #Kolaborasi #Revolusi #Aplikasi AI #Kemajuan #Lapangan AI #Acara Hari Ini
Apple dan NVIDIA berkolaborasi untuk mengembangkan ReDrafter, teknologi AI baru yang mempercepat pembuatan teks hingga 2,7 kali lipat, membuka potensi penerapan luas di masa depan.
Apple baru saja mengumumkan terobosan baru dalam kecerdasan buatan, bermitra dengan NVIDIA untuk secara signifikan mempercepat kinerja model bahasa besar (LLM). Pencapaian ini dicapai melalui penerapan teknik pembuatan teks baru yang disebut Recurrent Drafter (ReDrafter), yang menjanjikan akan merevolusi cara kita berinteraksi dengan aplikasi AI di masa depan.
ReDrafter adalah metode cerdas yang menggabungkan dua teknik canggih: pencarian sinar dan perhatian pohon dinamis. Pencarian balok membantu memperluas beberapa kemungkinan ekspresi teks secara bersamaan, sehingga menemukan hasil terbaik. Sementara itu, perlu diingat bahwa pohon dinamis bertanggung jawab untuk mengatur dan menghapus duplikat yang tidak diperlukan selama proses pembuatan dokumen, sehingga membantu meningkatkan efisiensi.
Dengan mengintegrasikan ReDrafter ke dalam kerangka TensorRT-LLM NVIDIA, sebuah platform yang mengoptimalkan LLM yang berjalan pada GPU NVIDIA, Apple mencapai kinerja luar biasa. Berdasarkan hasil pengujian, teknik ini membantu meningkatkan kecepatan pembuatan teks hingga 2,7 kali lipat dibandingkan metode tradisional, bila diterapkan pada model produksi skala besar dengan puluhan miliar parameter.
Manfaat luar biasa:
- Akselerasi yang signifikan: Pengguna akan menerima respons yang lebih cepat dan pengalaman yang lebih lancar saat menggunakan aplikasi AI.
- Mengurangi biaya: Meminimalkan waktu pemrosesan menghemat energi dan sumber daya komputer.
- Membuka banyak aplikasi baru: Dengan peningkatan kinerja, LLM dapat diterapkan lebih luas di banyak bidang, mulai dari layanan pelanggan hingga pembuatan konten.
Kemitraan antara Apple dan NVIDIA menandai tonggak penting dalam pengembangan AI. ReDrafter bukan hanya sebuah teknologi terobosan, namun juga merupakan bukti kekuatan kolaborasi antar perusahaan industri terkemuka. Di masa depan, kita dapat melihat penerapan AI yang lebih cerdas dan nyaman, berkat kemajuan berkelanjutan di bidang ini.
Eksplorasi konten lain dari Heart To Heart
Berlangganan untuk dapatkan pos terbaru lewat email.
