Дневник разработчицы: post #446 — TG.ME

Итого по 2-3 задаче:
1 - GPT - безусловный лидер. Форматирование на топовом уровне, глубокое использование тулов, расширенные ответы на высоком уровне. Я бы сказала, что он отстает от флагманов по апи, но справлется неплохо. Жаль не может читать картинки и весит очень много (63.4 GB)
2 - Gemma - справляется хуже GPT, но все еще дает хороший результат. Весит гораздо меньше (18.85 GB)
3 - Qwen - выглядит как пародия, если честно. То есть по-моим ощущениям, он вроде пытается подстроиться и показать, что он чет делает, но результат как будто бесполезный. Подойдет под простые описательные задачи, где не надо придумывать ничего нового и решать какие-то сложные задачи. Думаю, что нет смысла его использовать, учитывая, что Gemma справляется лучше. (20.43 GB)
4 - Nemotron - Когда я впервые запустила локально llm модели еще на старом ноуте, где у меня не было столько памяти, результат был примерно такой же, как у Nemotron. Я бы его вообще не рассматривала для применения. Но может быть мои тесты были слишком топорные. (26.1 GB)


Мой анализ очень поверхностный и я не претендую на то, что я сделала какой-то супер-отчет. Это все субъективный обзор. Однако, начинаю думать о том, что запускать агента на локальной ллмке, может, не такая уж плохая идея, учитывая такие неплохие результаты. Всем тем, у кого нет столько ресурсов, чтобы запускать у себя GPT на 120B, попробуйте Gemma 4, она в целом неплоха, и чтобы не держать к GPT отдельно модель для картинок, я бы может использовала ее.

А вы что пробовали гонять локально? Какие модели нравятся?
🔥7
June 13, 2026 214 44