Місцева велика модель мучилася всю ніч, врешті-решт обрана.
1. Основна модель: Qwen-30B-Instruct, для повсякденної роботи цього достатньо. (Досить добре дотримується інструкцій)
2. Резервне виведення: залишив 8-бітну модифіковану версію GPT OSS mlx. 4-бітна версія GPT-OSS не дуже підходить, не має сенсу виводити бюджет на три рівні.
3. coder всі напрямки, планує не враховувати локальну модель і використовувати SOTA флагман (все ж бо працювати ж)
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Місцева велика модель мучилася всю ніч, врешті-решт обрана.
1. Основна модель: Qwen-30B-Instruct, для повсякденної роботи цього достатньо. (Досить добре дотримується інструкцій)
2. Резервне виведення: залишив 8-бітну модифіковану версію GPT OSS mlx. 4-бітна версія GPT-OSS не дуже підходить, не має сенсу виводити бюджет на три рівні.
3. coder всі напрямки, планує не враховувати локальну модель і використовувати SOTA флагман (все ж бо працювати ж)