วีดีโอ

😎

Boleh bertanya langsung kalau misalnya pertanyaan singkat, tapi kalau butuh diskusi yang agak panjang Kreasof AI menyediakan kanal konsultasi publik kak yang bisa dijadwalkan secara otomatis melalui calendly. Cukup buka website Kreasof AI di (kreasof.my.id) dan masuk ke navigasi consult. Terimakasih ^^

Sebanyak N, tergantung jumlah step yang ada di dataset CoT

Hasil dari ML model itu bergantung kepada seberapa besar skala nya kak. Jadi ada yang disebut sebagai transformer scaling law yang menjelaskan, semakin banyak data, semakin besar ukuran model, dan semakin lama waktu training akan meningkatkan akurasi model. Jadi untuk jawaban kakak, bisa kalau kita melakukan training dengan model sebesar GPT, dengan data sebanyak yang dikumpulkan OpenAI, dan dengan durasi sebanyak waktu training GPT kak. Semoga jawaban nya membantu 🤗

@KreasofAI kykny susah yah bang, klo pengen di train kyk llm GPT, pasti nya butuh storage besar juga buat handle semua data ny 🗿

Untuk multiple datasets tetap train tokenizer nya sekaligus kalau mengacu ke implementasi tokenizer populer seperti Huggingface tokenizer dan OpenAI tiktoken. Lalu, untuk train model di fase SFT atau instruction tuning, tetap menggunakan next-token prediction, namun ada opsi hanya dilatih menggunakan answer sequence (bukan input sequence).

@@KreasofAI Sipp sangat membantu mas, terima kasih banyak untuk infonyaa 😁

Ada discord, tapi saya jarang online 😅

🔥🔥🔥

Oia, saya baru inget kalau bisa lewat situ. Biasanya kehabisan kuota per jam jadinya saya jarang coba lewat direct chat 😅

Mantap 🔥

Koreksi lagi, setelah melihat ulang pengetesan di menit ke 17:05 ternyata Gemini-exp 1114 menjawab dengan benar karena mencantumkan constraint 0 <= 2k <= n ✍✍✍

Iya, model yg ini kayaknya lebih mendingan dibanding finetuned model southeast asia lain karena fokusnya untuk konteks orang Indonesia + base model nya sudah jauh lebih bagus.

coba pakai komodo7B

Untuk ukuran segini sebenernya base model nya sudah bagus (Llama 3 8B dan Gemma 2 9B) dan knowledge cut-off nya masih terhitung baru di 2024 awal. Tapi memang tidak bisa disamakan dengan frontier model seperti GPT-4o atau Claude sonnet 3.5 yang dari awal resource nya jauh lebih banyak 😊

Kalau background nya non teknis, bisa mulai belajar prompting LLM dulu. Bisa otodidak aja, atau dari website seperti www.promptingguide.ai/ Kalau punya background software engineering bisa belajar dari inference LLM sendiri pake ollama, vLLM, atau llama.cpp. Terus bisa coba2 bikin AI agents pake API LLM gratis dari Google atau provider lain atau bisa coba langsung finetune LLM pake tools sederhana seperti unsloth ini. Kalau sudah punya background data atau ML, belajar tentang LLM tinggal memahami transformer model dan ekosistem nya, seperti Huggingface transformers atau Llama stack.

Betul, semoga jadi proyek jangka panjang goto kedepannya dan diseriusin

Model yg dipakai untuk production biasanya pakai vLLM yang pakai format native model tsb (safetensors) dan bukan GGUF. Menurut saya format GGUF itu khusus penggunaan pribadi atau single user. Kalau butuh throughput tinggi dan multiple concurrent user, vLLM masih lebih bagus.

Bisa, base model nya masih gemma dan llama

Acara tanggal 14, tapi model nya dirilis duluan

Mantap abangkuh 🔥

Untuk cara finetuning bisa mengikuti tutorial menggunakan unsloth saya sebelumnya di video ini ya th-cam.com/video/5-N2vbFgNKo/w-d-xo.htmlsi=TkRKLG08uPY6qzzb Tinggal pake template google collab dari unsloth terus ganti nama model dan sumber dataset nya. Model komodo-7b masih masuk famili Llama-2-7b jadi dapet support native dari library unsloth 🤗

Ada, justru saya konsep konten nya heavily inspired dari sepuh Hu-Po 😅 Tapi masih nunggu komunitas/audiens lebih luas dulu. Masih grinding pelan-pelan dulu dari upload video asinkronous karena lebih mudah.

​​@@KreasofAI Siap bang, semangat terus. Jangan lupa trompetnya pas opening sm closing 😂

gas 🔥

Hmm, sebenarnya ML model itu aslinya agnostik atau cuma berupa weights parameter yg bisa di run/develop di semua bahasa pemrograman. Mostly untuk ML development masih heavy relying on Python, dengan library bermacam2 seperti PyTorch, TensorFlow, atau Jax. Kapan2 mungkin saya bahas lebih detail di video terpisah. Dan terimakasih untuk saran nya 👍

udah loh, aku bikin video jalanin LLM pake LM studio 2 hari lalu 😅

Aku pake Python + pytorch sih untuk nulis kodingan nya karena yg paling simpel 😅

Oke, aku nanti buat video nya jalanin LLM untuk pemula 🫡

makasih bang

Mantap abangkuh 🔥