The final phase of training employed Group Relative Preference Optimization (GRPO) on a Polish dataset comprising 143,000 tasks with verifiable evaluation criteria across math, code, and STEM domains. This phase lasted for one epoch, during which the model was benchmarked on evaluation sets including math-500, AIME, AMC, Olympiad, and Minerva.

Czy ten model ma wtrenowany tryb rozumowania? Przy krótkim testowaniu na waszej stronie nie zauważyłem żadnych tendencji do generowania rozumowania. Nie widze też żadnych wyników tych testów AIME, MATH-500 itp. a chętnie bym je zobaczył. Wiem, że trenowanie GRPO nie oznacza jednoznacznie tego, że model będzie miał rozumowanie, ale jest to mocno skorelowane.

FYI DeepSeek R1-0528 robi rozumowanie po Polsku, więc powinno dać się łatwo zrobić z tego dataset SFT i wytrenować Bielika Myśliciela :) RL na małych modelach zazwyczaj jest mniej owocne niż SFT rozumowania większych modeli.