Mistral AI 6. října oznámil model Mistral Large 4. Podle firmy jde o její dosud největší a nejschopnější model. Mistral mu s nadsázkou „velmi oficiálně“ říká „le Chonk“ (zhruba „cvalík“), o čemž psala i CNBC.
Co je Mistral Large 4
- Velikost: zhruba 1 bilion parametrů, z nichž je při každém kroku aktivních jen 52 miliard. Jde o architekturu „mixture of experts“: model má mnoho specializovaných částí a pro každý token zapojí jen některé. Díky tomu je výrazně levnější na provoz, než by odpovídalo jeho velikosti.
- Multimodalita: model nativně pracuje s textem i obrázky.
- Jazyky: trénovací data podle Mistralu pokrývají přes 160 jazyků, včetně všech úředních jazyků EU. Mezi nimi je tedy i čeština.
- Trénink v Evropě: model vznikl na 3 800 grafických čipech NVIDIA Grace Blackwell ve vlastních evropských datacentrech Mistralu.
Co jsou parametry a tokeny, vysvětlujeme v článku Token, model, kontextové okno.
Jak si vede
Mistral zveřejnil výsledky v několika testech. Pro agentní programování uvádí 61,7 % v DeepSWE v1.1 a 28,3 % v Terminal-Bench 4. V automatizaci úloh (AutomationBench) 59,9 %. V bezpečnostních testech pak 93 % v Cybench a 93,3 % v Lakera B3. Všechna čísla jsou tvrzení výrobce, nezávislé srovnání zatím chybí. Podle Reuters firma tvrdí, že v některých testech překonává čínské konkurenty. Do zveřejnění vah model podle Mistralu prochází bezpečnostním testováním (red-teamingem) s firmami z oblasti kybernetické bezpečnosti, prověřenými partnery a státními úřady. Mistral model výslovně nabízí i pro bezpečnostní práci, například analýzu malwaru, a vyčítá uzavřeným modelům, že takové úlohy často odmítají.
Kdy a kde ho vyzkoušet
- Hned: jako veřejný preview v API přes Mistral Studio (vývojářské rozhraní Mistralu).
- Koncem října: Mistral slíbil zveřejnit váhy modelu. Reuters uvádí datum 27. října. Model si pak firmy budou moci stáhnout a provozovat na vlastním hardwaru. Co přesně znamenají „otevřené váhy“, vysvětlujeme v článku Otevřené AI modely.
- Pro běžné uživatele: cenu API a podmínky licence si ověřte na stránkách Mistralu, protože u preview verze se mohou změnit.
Co to znamená pro české firmy
- Data pod evropským právem. Mistral zdůrazňuje, že evropské nasazení modelu je od začátku do konce provozováno podle práva EU. Pro firmy, které řeší GDPR nebo přicházející povinnosti z AI Actu, je to silný argument.
- Čeština v trénovacích datech. Pokrytí všech jazyků EU je dobrá zpráva, ale kvalitu v češtině si otestujte na vlastních úlohách. Zveřejněné benchmarky jsou v angličtině.
- Vlastní provoz. Model s bilionem parametrů si doma na notebooku nespustíte. Pro firmy s vlastní infrastrukturou nebo evropským cloudem ale půjde o reálnou alternativu k americkým službám.
Náš pohled
Mistral Large 4 je zatím nejvážnější pokus Evropy držet krok se špičkou. Konkrétní výhodou pro nás není ani tak výkon, jako spíš možnost mít silný model pod evropskou jurisdikcí a s otevřenými vahami. Jestli Mistral termín pro váhy dodrží a jak model zvládá češtinu, budeme sledovat.
Článek vznikl s pomocí AI a před publikací ho zkontrolovala redakce Promptovna.cz.
