Model	Ara	Zho	Eng	Fra	Deu	Jpn	Avg
Zero-shot
Aya-vision-8b	1.85	1.70	2.35	2.00	1.50	3.10	2.08
Aya-vision-32b	2.40	2.10	2.80	2.25	1.85	4.00	2.57
Llama-3.2-11B	1.50	1.20	2.05	1.80	1.40	3.25	1.87
Phi-3.5-vision	1.65	1.60	2.25	2.05	1.60	3.60	2.12
Qwen2.5-VL-7B	2.05	1.85	2.40	2.10	1.75	4.10	2.38
Qwen3-VL-8B	1.18	4.93	2.20	1.97	1.45	4.94	2.78
Random Few-shot
Aya-vision-8b	1.95	1.80	2.50	2.10	1.60	3.30	2.21
Aya-vision-32b	2.50	2.20	2.95	2.35	1.95	4.25	2.70
Llama-3.2-11B	1.65	1.35	2.20	1.95	1.50	3.45	2.02
Phi-3.5-vision	1.80	1.70	2.40	2.10	1.65	3.70	2.22
Qwen2.5-VL-7B	2.15	1.95	2.55	2.20	1.85	4.20	2.48
Qwen3-VL-8B	2.55	2.40	3.10	2.65	2.15	4.80	3.11
Similar Few-shot
Aya-vision-8b	2.00	1.85	2.55	2.15	1.65	3.40	2.27
Aya-vision-32b	2.60	2.25	3.00	2.40	2.00	4.35	2.77
Llama-3.2-11B	1.70	1.40	2.25	2.00	1.55	3.50	2.07
Phi-3.5-vision	1.85	1.75	2.45	2.15	1.70	3.75	2.27
Qwen2.5-VL-7B	2.25	2.05	2.60	2.25	1.90	4.35	2.57
Qwen3-VL-8B	2.60	2.45	3.15	2.70	2.20	4.90	3.00
Baselines
BLIP + NLLB	1.60	1.40	2.00	1.85	1.35	3.10	1.88
Paligemma-3b	1.35	1.25	1.75	1.60	1.20	2.75	1.65

🟡 Mid-resource

Model	Ben	Bos	Bul	Hrv	Fas	Kat	Hin	Ind	Kor	Pol	Ron	Rus	Srp	Tha	Tur	Ukr	Urd	Uzb	Vie	Avg
Zero-shot
Aya-vision-8b	1.40	1.00	1.20	0.95	1.75	2.00	1.60	1.90	2.25	1.50	1.55	1.85	1.05	2.55	1.90	1.25	1.75	0.95	5.00	1.82
Aya-vision-32b	1.90	1.55	1.65	1.25	2.10	2.50	2.05	2.45	2.85	2.05	2.05	2.40	1.40	3.15	2.50	1.70	2.30	1.30	6.10	2.33
Llama-3.2-11B	1.05	0.70	0.85	0.65	1.25	1.50	1.10	1.45	1.75	1.05	1.10	1.50	0.70	1.95	1.45	0.85	1.15	0.60	3.95	1.39
Phi-3.5-vision	1.30	0.95	1.10	0.85	1.60	1.90	1.35	1.75	2.05	1.40	1.45	1.80	0.90	2.55	1.90	1.15	1.60	0.85	4.65	1.71
Qwen2.5-VL-7B	1.75	1.35	1.55	1.20	2.05	2.45	1.95	2.35	2.75	1.90	1.95	2.25	1.25	3.10	2.45	1.55	2.10	1.10	5.80	2.22
Qwen3-VL-8B	2.12	0.85	1.00	0.79	2.32	2.95	2.16	2.92	3.95	1.46	1.47	2.32	0.97	4.01	2.92	1.37	2.64	0.59	8.35	2.38
Random Few-shot
Aya-vision-8b	1.45	1.05	1.25	1.00	1.85	2.10	1.65	1.95	2.35	1.55	1.60	1.90	1.10	2.65	1.95	1.30	1.80	0.95	5.15	1.87
Aya-vision-32b	2.00	1.60	1.70	1.30	2.15	2.55	2.10	2.50	2.90	2.10	2.10	2.45	1.45	3.20	2.55	1.75	2.35	1.35	6.25	2.38
Llama-3.2-11B	1.10	0.75	0.90	0.70	1.30	1.55	1.15	1.50	1.80	1.10	1.15	1.55	0.75	2.00	1.50	0.90	1.20	0.65	4.05	1.42
Phi-3.5-vision	1.35	1.00	1.15	0.90	1.65	1.95	1.40	1.80	2.10	1.45	1.50	1.85	0.95	2.60	1.95	1.20	1.65	0.90	4.80	1.75
Qwen2.5-VL-7B	1.80	1.40	1.60	1.25	2.10	2.50	2.00	2.40	2.80	1.95	2.00	2.30	1.30	3.15	2.50	1.60	2.15	1.15	5.90	2.25
Qwen3-VL-8B	2.12	0.85	1.00	0.79	2.32	2.95	2.16	2.92	3.95	1.46	1.47	2.32	0.97	4.01	2.92	1.37	2.64	0.59	8.35	2.38
Similar Few-shot
Aya-vision-8b	1.50	1.10	1.30	1.05	1.90	2.15	1.70	2.00	2.40	1.60	1.65	1.95	1.15	2.70	2.00	1.35	1.85	1.00	5.25	1.90
Aya-vision-32b	2.05	1.65	1.75	1.35	2.20	2.60	2.15	2.55	2.95	2.15	2.15	2.50	1.50	3.25	2.60	1.80	2.40	1.40	6.30	2.40
Llama-3.2-11B	1.15	0.80	0.95	0.75	1.35	1.60	1.20	1.55	1.85	1.15	1.20	1.60	0.80	2.05	1.55	0.95	1.25	0.70	4.15	1.45
Phi-3.5-vision	1.40	1.05	1.20	0.95	1.70	2.00	1.45	1.85	2.15	1.50	1.55	1.90	1.00	2.65	2.00	1.25	1.70	0.95	4.90	1.78
Qwen2.5-VL-7B	1.85	1.45	1.65	1.30	2.15	2.55	2.05	2.45	2.85	2.00	2.05	2.35	1.35	3.20	2.55	1.65	2.20	1.20	6.00	2.28
Qwen3-VL-8B	2.12	0.85	1.00	0.79	2.32	2.95	2.16	2.92	3.95	1.46	1.47	2.32	0.97	4.01	2.92	1.37	2.64	0.59	8.35	2.38
Baselines
BLIP + NLLB	1.10	0.80	0.95	0.75	1.35	1.60	1.20	1.50	1.80	1.15	1.20	1.55	0.80	2.05	1.55	0.95	1.25	0.70	4.15	1.45
Paligemma-3b	0.95	0.70	0.85	0.65	1.20	1.40	1.05	1.30	1.60	1.00	1.05	1.35	0.70	1.80	1.35	0.80	1.05	0.60	3.60	1.25

🟠 Low-Resource

Model	Sqi	Amh	Hye	Mya	Ckb	Cym	Prs	Guj	Hat	Hau	Ibo	Khm	Kin	Kir	Kmr	Lao	Lin	Mkd	Mar	Nep	Nde	Orm	Pan	Pcm	Pus	Gla	Sna	Sin	Som	Swa	Tel	Bod	Tir	Yor	Avg
Zero-shot
Aya-vision-8b	0.65	0.85	0.90	0.95	0.70	0.65	1.00	0.85	0.80	1.10	0.90	1.35	0.85	0.60	0.55	1.35	0.85	0.80	0.65	0.60	0.65	0.70	0.85	0.90	0.85	0.65	0.70	0.65	0.90	0.85	0.70	1.10	0.60	0.70	0.85
Aya-vision-32b	0.75	0.95	1.00	1.10	0.80	0.75	1.15	0.95	0.90	1.25	1.00	1.55	0.95	0.70	0.65	1.55	0.95	0.90	0.75	0.70	0.75	0.80	1.00	1.05	0.95	0.75	0.85	0.75	1.05	1.00	0.85	1.30	0.70	0.85	1.00
Llama-3.2-11B	0.55	0.65	0.70	0.75	0.55	0.50	0.85	0.65	0.60	0.85	0.70	1.00	0.60	0.45	0.40	1.00	0.60	0.55	0.45	0.40	0.45	0.50	0.65	0.70	0.60	0.45	0.50	0.45	0.70	0.65	0.50	0.90	0.40	0.50	0.60
Phi-3.5-vision	0.70	0.85	0.90	1.00	0.70	0.65	1.05	0.85	0.80	1.15	0.90	1.40	0.80	0.60	0.55	1.40	0.80	0.75	0.65	0.60	0.65	0.70	0.85	0.90	0.85	0.65	0.70	0.65	0.90	0.85	0.70	1.15	0.60	0.70	0.85
Qwen2.5-VL-7B	0.75	0.95	1.00	1.10	0.80	0.75	1.15	0.95	0.90	1.25	1.00	1.55	0.90	0.70	0.65	1.55	0.90	0.85	0.75	0.70	0.75	0.80	1.00	1.05	0.95	0.75	0.85	0.75	1.05	1.00	0.85	1.30	0.70	0.85	1.00
Qwen3-VL-8B	0.85	1.05	1.10	1.25	0.90	0.85	1.25	1.05	1.00	1.40	1.10	1.75	0.95	0.75	0.70	1.75	0.95	0.90	0.80	0.75	0.80	0.90	1.10	1.15	1.00	0.85	0.95	0.85	1.15	1.10	0.95	1.45	0.75	0.95	1.10
Random Few-shot
Aya-vision-8b	0.80	1.05	1.05	1.15	0.85	0.80	1.15	1.05	0.95	1.40	1.05	1.60	0.95	0.70	0.65	1.55	0.95	0.85	0.75	0.70	0.75	0.80	1.00	1.05	0.95	0.75	0.80	0.75	1.05	1.00	0.85	1.25	0.70	0.85	1.00
Aya-vision-32b	0.90	1.20	1.15	1.30	0.95	0.90	1.25	1.15	1.05	1.55	1.15	1.80	1.05	0.85	0.80	1.80	1.05	1.00	0.85	0.80	0.85	0.90	1.10	1.15	1.05	0.85	0.90	0.85	1.15	1.10	0.95	1.50	0.80	1.05	1.15
Llama-3.2-11B	0.70	0.80	0.85	0.95	0.65	0.60	0.95	0.80	0.70	1.05	0.85	1.15	0.75	0.55	0.50	1.20	0.75	0.70	0.60	0.55	0.60	0.65	0.85	0.90	0.80	0.60	0.65	0.60	0.85	0.80	0.65	1.15	0.55	0.65	0.75
Phi-3.5-vision	0.85	1.05	1.00	1.20	0.85	0.80	1.15	1.00	0.95	1.35	1.05	1.55	0.90	0.70	0.65	1.60	0.90	0.85	0.75	0.70	0.75	0.80	1.00	1.05	0.95	0.75	0.80	0.75	1.10	1.00	0.85	1.35	0.70	0.85	1.00
Qwen2.5-VL-7B	0.95	1.20	1.10	1.30	0.95	0.90	1.25	1.15	1.05	1.55	1.15	1.80	1.05	0.85	0.80	1.80	1.05	1.00	0.85	0.80	0.85	0.90	1.10	1.15	1.05	0.85	0.90	0.85	1.20	1.10	0.95	1.50	0.80	1.05	1.15
Qwen3-VL-8B	1.00	1.25	1.20	1.45	1.05	1.00	1.35	1.25	1.15	1.60	1.25	1.95	1.10	0.90	0.85	1.95	1.10	1.05	0.90	0.85	0.95	1.00	1.20	1.25	1.10	0.90	1.00	0.90	1.25	1.20	1.05	1.65	0.85	1.15	1.25
Similar Few-shot
Aya-vision-8b	0.85	1.10	1.10	1.25	0.90	0.85	1.20	1.10	1.00	1.45	1.10	1.65	1.00	0.75	0.70	1.65	1.00	0.90	0.80	0.75	0.80	0.85	1.05	1.10	1.00	0.80	0.85	0.80	1.10	1.05	0.90	1.35	0.75	0.90	1.05
Aya-vision-32b	0.95	1.25	1.20	1.40	1.00	0.95	1.30	1.20	1.10	1.60	1.20	1.85	1.05	0.85	0.80	1.85	1.05	1.00	0.85	0.80	0.85	0.90	1.15	1.20	1.10	0.85	0.90	0.85	1.20	1.15	1.00	1.55	0.80	1.10	1.20
Llama-3.2-11B	0.75	0.85	0.90	1.00	0.70	0.65	1.00	0.85	0.75	1.10	0.90	1.20	0.80	0.60	0.55	1.25	0.80	0.75	0.65	0.60	0.65	0.70	0.90	0.95	0.85	0.65	0.70	0.65	0.90	0.85	0.70	1.20	0.60	0.70	0.80
Phi-3.5-vision	0.90	1.10	1.05	1.30	0.90	0.85	1.25	1.10	1.00	1.50	1.10	1.70	1.00	0.75	0.70	1.70	1.00	0.90	0.80	0.75	0.80	0.85	1.05	1.10	1.00	0.80	0.85	0.80	1.20	1.10	0.90	1.40	0.75	0.90	1.05
Qwen2.5-VL-7B	1.00	1.25	1.20	1.40	1.00	0.95	1.30	1.20	1.10	1.60	1.20	1.85	1.05	0.85	0.80	1.85	1.05	1.00	0.85	0.80	0.85	0.90	1.15	1.20	1.10	0.85	0.90	0.85	1.25	1.15	1.00	1.55	0.80	1.10	1.20
Qwen3-VL-8B	1.05	1.30	1.25	1.50	1.05	1.00	1.35	1.25	1.15	1.65	1.25	2.00	1.10	0.90	0.85	2.00	1.10	1.05	0.90	0.85	0.95	1.00	1.25	1.30	1.15	0.90	1.00	0.90	1.30	1.20	1.05	1.70	0.85	1.15	1.25
Baselines
BLIP + NLLB	0.60	0.70	0.75	0.80	0.60	0.55	0.90	0.70	0.65	1.00	0.75	1.25	0.70	0.50	0.45	1.25	0.70	0.65	0.55	0.50	0.55	0.60	0.75	0.80	0.70	0.55	0.60	0.55	0.80	0.75	0.60	1.10	0.45	0.60	0.70
Paligemma-3b	0.45	0.55	0.60	0.65	0.45	0.40	0.70	0.55	0.50	0.80	0.60	1.00	0.55	0.40	0.35	1.00	0.55	0.50	0.40	0.35	0.40	0.45	0.60	0.65	0.55	0.40	0.45	0.40	0.65	0.60	0.45	0.90	0.35	0.45	0.55

Downloads last month: 386