به گزارش خبرنگار علم و فناوری خبرگزاری برنا؛ مدل هوش‌مصنوعی Orca-Math در بنچمارک GSM8k pass@1 که مخصوص بررسی میزان توانایی در حل مسائل ریاضی است، امتیاز 86.81 درصد را کسب کرد. این رقم از امتیاز مدل‌های بزرگی مانند جمینای پرو، LLAMA-2-70 متا، GPT-3.5 و حتی از مدل‌های تخصصی ریاضی مانند MetaMath-70B و WizardMa8th-70B بیشتر است. قابل‌ذکر است که مدل پایه Mistral-7B نیز در بنچمارک GSM8k امتیاز 37.83 درصد را به‌دست آورد.
مدل Orca-Math با مجموعه داده‌ای متشکل از 200 هزار مسئله ریاضی آموزش دیده است؛ هرچند این میزان کوچک‌تر از سایر مجموعه داده‌های ریاضی است، اما این میزان داده امکان آموزش سریع‌تر و مقرون‌به‌صرفه را فراهم می‌کند. همچنین Orca-Math تحت یک فرایند یادگیری تکراری قرار داشته، بدین صورت که حل مسائل تکراری را تمرین می‌کرد و به‌طور مداوم براساس بازخورد سیگنال‌های ناظر، خود را بهبود می‌داد.
مایکروسافت مدل زبانی اصلی Orca با 13 میلیارد پارامتر را در ژوئن 2023 (خردادماه) معرفی کرد که از GPT-4 به‌عنوان معلم هوش مصنوعی خود استفاده می‌کرد.
Orca 2 نیز در نسخه‌های 13 و 7 میلیارد پارامتری در نوامبر 2023 (آبان‌ماه) معرفی شد که هر دو برپایه مدل متن‌باز متا یعنی Llama 2 LLM بودند. حالا عضو جدید خانواده Orca، با 7 میلیارد پارامتر، مخصوص حل مسائل ریاضی است و می‌تواند در این زمینه کاربردهای مختلفی داشته باشد.
انتهای پیام/