NVIDIA RTX hadirkan generative AI ke jutaan PC, dorong penggunaan AI untuk produktivitas harian

Techno.id - Menjadi pionir di industri PC selama beberapa dekade, NVIDIA telah mengubah lebih dari 100 juta GPU RTX-nya ke arah penggunaan generative AI melalui perangkat komputasi. Country Consumer Business Lead Indonesia, NVIDIA Adrian Lesmono dalam acara Media Workshop Further With AI, Faster on RTX menjelaskan, pemanfaatan AI makin berkembang di seluruh dunia, termasuk Indonesia yang terus diimbangi dengan inovasi teknologi baik dari sisi komputasi maupun software.

Menurutnya, pemanfaatan AI secara meluas akan memberikan dampak yang besar bagi setiap elemen kehidupan manusia serta bisnis. Tidak terbatas hanya pada industri gaming dan kreatif saja. Lebih lanjut ia mengayakan NVIDIA menjadi yang terdepan dalam implementasi AI. Beberapa milestone pengembangan inovasi NVIDIA guna mendukung implementasi AI dimulai sejak 2006 ketika merilis GPU yang sudah bisa diprogram untuk menjalankan AI. Kemudian, pada 2012, University of Toronto mengklaim VGA NVIDIA dapat menjalankan machine learning. Lalu, pada 2018, NVIDIA merilis GeForce RTX 2080 yang menjadi GPU pertama mendukung implementasi AI di PC.

foto: techno.id/yani andriyansyah

Berbagai inovasi terus dikembangkan NVIDIA, antara lain adalah akselerasi NVIDIA TensorRT pada model Stable Diffusion XL yang popular untuk alur kerja teks-ke-gambar. Lalu ada juga NVIDIA RTX Remix dengan tools tekstur generative AI, layanan mikro NVIDIA ACE dan lebih banyak game yang menggunakan teknologi DLSS 3 dengan Frame Generation.

Selain itu ada juga AI Workbench, sebuah toolkit terpadu yang mudah digunakan untuk para pengembang AI, tersedia dalam versi beta. NVIDIA juga menghadirkan TensorRT-LLM (TRTLMM), sebuah open-source library yang mampu mengakselerasi dan mengoptimalkan kinerja inferensi dari model bahasa besar terbaru (LLMs), kini mendukung lebih banyak model yang telah dioptimalkan sebelumnya untuk PC.

Diakselerasi TRT-LLM, NVIDIA ChatRTX, inovasi NVIDIA yang memungkinkan para pengguna untuk berinteraksi dengan beragam data pada Windows PC dan workstations yang didukung oleh NVIDIA RTX. Update terbaru ChatRTX memperluas kemampuan aplikasi ini dengan tambahan fitur dan dukungan untuk model terbaru. 

RTX AI PC dan Workstations

foto: techno.id/yani andriyansyah

NVIDIA RTX GPU memiliki kemampuan menjalankan beragam aplikasi pada level performa yang tinggi sehingga mampu mengoptimalkan potensi dari generative AI yang tertanam di PC. Tensor Core pada perangkat GPU ini secara luar biasa mampu meningkatkan performa kecepatan AI di berbagai aplikasi yang membutuhkan spesfikasi tinggi untuk bekerja dan bermain.

Beberapa RTX-Accelerated Generative AI

foto: techno.id/yani andriyansyah

1. NVIDIA RTX Remix

Platform untuk mengolah sejumlah game klasik berbasis RTX. Platform ini telah hadir dalam format beta dan menyediakan tools generative AI yang mampu memodernisasi tekstur dasar game klasik, dengan resolusi 4k, menggunakan materi rendering. 

2. NVIDIA ACE

Layanan mikro yang meliputi generative AI yang mendukung model percakapan dan animasi, yang memungkinkan developer menambahkan avatar digital yang cerdas dan dinamis ke dalam game.

3. TensorRT

Mampu mendongkrak kecepatan Stable Diffusion XL (SDXL) Turbo dan model berlatensi konsisten, dua metode popular untuk mengakselerasi Stable Diffusion. TensorRT meningkatkan performa bagi kedua metode tersebut hingga 60% dibandingkan posisi sebelumnya. Versi update dari ekstensi Stable Diffusion WebUI TensorRT telah tersedia, termasuk percepatan untuk SDXL, SDXL Turbo, LCM – LoRA dan memperkuat dukungan bagi LoRA.

4. NVIDIA DLSS 3 dengan Frame Generation

Menggunakan AI untuk meningkatkan frame rate hingga 4x dibanding waktu rendering pada umumnya. Akan hadir pada 12 dari 14 judul game baru yang didukung RTX, seperti Horizon Forbidden West, Pax Dei, dan Dragon’s Dogma 2.

5. ChatRTX

Dapat memudahkan pegiat AI menghubungkan LLM pada PC ke data pribadi mereka menggunakan teknik terkenal di dunia AI, yakni retrieval-augmented generation (RAG). ChatRTX memungkinkan pengguna untuk cepat berinteraksi dengan catatan pribadi, dokumen kerja, dan konten pribadi lainnya.

Selain itu, ChatRTX juga dapat digunakan sebagai referensi terbuka bagi suatu project, sehingga developer dapat dengan mudah mengimplementasikan kapabilitas tersebut di dalam aplikasi mereka sendiri.