Apple rilis kuartet model open-source, diklaim dapat membuat AI lebih akurat

24/04/2024, 22:45 WIB Yani Andriansyah
Apple rilis kuartet model open-source, diklaim dapat membuat AI lebih akurat

foto: techno.id/yani andriyansyah/copilot designer

Techno.id - Apple secara terbuka membagikan empat model AI berbasis open source yang menawarkan akurasi yang ditingkatkan untuk kueri. Alat ini diklaim dapat membantu pengembangan model AI di masa mendatang.

Seiring industri teknologi terus berpacu dengan perkembangan AI, Apple terus menawarkan lebih banyak gambaran tentang teknologi yang sedang dikerjakannya. Dalam rilis publik terbaru, Apple dikabarkan merilis kuartet model open-source.

Disebut sebagai Open Source Efficient LLMs, atau OpenELMs, model instruktur ini di-hosting di platform kolaboratif Hugging Face. Di sini Hugging Face digunakan untuk menjadi tuan rumah model AI, serta untuk melatih mereka dan bekerja dengan orang lain untuk melakukan perbaikan.

OpenELMs ini mengacu pada pustaka open source yang menggabungkan beberapa model bahasa besar (LLM) menggunakan algoritme evolusioner. Keempat model OpenELMs menggunakan strategi penskalaan berdasarkan lapisan untuk mengalokasikan parameter dalam lapisan model transformator untuk meningkatkan akurasi.

Model-model tersebut telah dilatih sebelumnya menggunakan pustaka CoreNet. Apple menyediakan model pra-pelatihan dan model yang disesuaikan dengan instruksi menggunakan parameter 270 juta, 450 juta, 1,1 miliar, dan 3 miliar.

Kumpulan data pra-pelatihan menggunakan kombinasi subset Dolma v1. 6, RefinedWeb, deduplicated PILE, dan subset RedPajama. Ini menghasilkan kumpulan data dengan sekitar 1,8 triliun token.

Para peneliti di balik proyek tersebut mengatakan bahwa reproduktivitas dan transparansi model bahasa besar sangat penting untuk memajukan penelitian terbuka. Ini juga membantu memastikan hasil yang dapat dipercaya, dan memungkinkan penyelidikan terhadap bias dan risiko model.

Mengenai keakuratan model, dijelaskan bahwa dengan menggunakan anggaran parameter sebesar satu miliar parameter, OpenELMs memiliki peningkatan akurasi sebesar 2,36% dibandingkan OLMo, sementara membutuhkan setengah dari jumlah token pra-pelatihan.

Ini bukan rilis publik pertama Apple tentang rutinitas AI. Pada Oktober tahun lalu, Apple membagikan LLM open source bernama Ferret, yang meningkatkan cara model menganalisis gambar. Lalu April lalu, versi baru Ferret menambahkan kemampuan untuk mengurai titik data dalam tangkapan layar aplikasi dan untuk memahami cara kerja aplikasi secara umum.

(brl/red)

RECOMMENDED ARTICLE

  1. 5 AI generator untuk membuat gambar berbasis open source, mudah dan gratis
  2. Microsoft perkenalkan Phi-3 Mini, model AI lebih kecil penantang GPT-3.5 yang cocok untuk smartphone
  3. Cara mudah memoles gambar AI agar lebih sempurna, bisa gunakan aplikasi edit foto bawaan laptop  
  4. Cara mendapatkan hasil gambar yang lebih baik menggunakan Canva AI Image Generator
  5. 3 Alasan kamu harus mencoba Microsoft Copilot, bikin pekerjaan jadi lebih mudah

HOW TO

TECHTAGS

TECHPEDIA

LATEST ARTICLE

Berbagai faktor yang perlu kamu ketahui mengenai CPU, otak dari sebuah komputer
Berbagai faktor yang perlu kamu ketahui mengenai CPU, otak dari sebuah komputer
8 Cara memperbaiki fitur gulir dua jari yang tidak berfungsi di touchpad laptop Windows
8 Cara memperbaiki fitur gulir dua jari yang tidak berfungsi di touchpad laptop Windows
Mengenal Perplexity AI, alat penelusuran Google bertenaga AI yang bisa digunakan untuk membuat konten
Mengenal Perplexity AI, alat penelusuran Google bertenaga AI yang bisa digunakan untuk membuat konten
7 Fitur yang harus dimiliki kamera smartphone untuk menandingi DSLR atau mirrorless
7 Fitur yang harus dimiliki kamera smartphone untuk menandingi DSLR atau mirrorless
X Sekarang menampilkan ringkasan acara berita yang dibuat AI
X Sekarang menampilkan ringkasan acara berita yang dibuat AI

TECHPEDIA Selengkapnya >