Transformers.js - бібліотека для роботи з моделями машинного навчання в браузері
ฝัง
- เผยแพร่เมื่อ 7 ก.พ. 2025
- Привіт! У цьому відео розглянемо JS бібліотеку transformers js, яка дозволяє працювати з попередньо навченими моделями в браузері. Також розберемо, як саме бібліотека працює з моделями та які інструменти для цього використовуються.
Посилання на репо - github.com/Mad...
Чудове відео. Потрібно буде протестувати таке в себе.
Привіт, Цікавий відос, дякую
на 4:12 модель важить 65.9мб і як я розумію далі при запуску ресурси клієнтського девайса будуть використані для запуску моделі. Чи перевіряв, які в середньому обмеження по запуску моделей у браузері?
Чи буде воно працювати, якщо я зайду з мобільного браузера чи якшо буде апка React Native/ Ionic?
Привіт, дякую!
Я не робив бенчмарків, але з того що розбирав у доках, для роботи з моделями таких розмірів, немає проблем, більше того комюніті працює на можливістю роботи і значно більшими за розміром моделями. Також є можливість використовувати web gpu -
huggingface.co/blog/transformersjs-v3 . Стосовно React Native/ Ionic, можлво будуть челденджі, але не думаю щось критичне, так чи інкше можна інтегрувати WebAssembly для обробки моделі (Власне ліба це робить під капотом...)
Якщо так на клієнті запускати модель для ідентіфікації об"єктів, яка точність у порівняні подібної модель, яка запускається на сервері?
Якщо модель та сама, то різниці не повинно бути, тут швидше гратиме роль час виконанння.. IMHO я б використовував моделі які важуть до 15мб в браузері, усе інше сервер.