گوگل از مدل اوپن سورس جدیدش یعنی Gemma 2 رونمایی کرده. این مدل در دو نسخه ۹ و ۲۷ میلیارد پارامتری منتشر شده و تا ۸ هزار توکن ورودی رو پشتیبانی میکنه.
دیتایی که برای ترین کردن این مدل استفاده شده دوبرابر نسخه قبلی هست و برای نسخه ۲۷ میلیارد پارامتری ۱۳ تریلیون توکن بوده. هرچند که گفته نشده این دیتا دقیقا چی بوده.
این مدل شباهت زیادی به نسخه قبلی داره اما استفاده از یک سری تکنیک جدید باعث شدن که نسبت به مدل قبلی متمایز بشه و به صورت بهینه تری اجرا بشه.
توی تکنیکال ریپورت های منتشر شده این مدل همچنان حرفی برای گفتن دربرابر رقبای اصلی مثل Llama 3 نداره ولی دربرابر مدل های کوچکتر مثل Mistral و Llama 3 (نسخه 7B) عملکرد خوبی از خودش نشون داده.
برای اجرای این مدل روی کامپیوترتون هم حداقل به ۱۶ گیگابایت VRAM و حدودا ۶۰ گیگابایت رم احتیاج دارید.
میتونید جزئیات مدل هارو از اینجا ببینید
@NerdsFeed
5July 1, 2024 362
