Mistral AI je francúzsky startup, ktorý sa stal európskym lídrom v oblasti LLM. Ich modely konkurujú GPT-4 za zlomok nákladov.

Prečo Mistral?

Európska alternatíva

  • GDPR compliance - servery v EÚ
  • Dátová suverenita - pre regulované odvetvia
  • Open source roots - transparentnosť

Výkon za rozumnú cenu

Mistral modely ponúkajú najlepší pomer cena/výkon na trhu.

Modely

Mistral Small

Rýchly a lacný pre jednoduché úlohy:

from mistralai.client import MistralClient

client = MistralClient(api_key="xxx")

response = client.chat(
    model="mistral-small-latest",
    messages=[{"role": "user", "content": "Pozdrav!"}]
)

Mistral Large

Konkurent GPT-4:

  • 128K kontext
  • Function calling
  • JSON mode
  • Multilingválny

Codestral

Špecializovaný na kódovanie:

response = client.chat(
    model="codestral-latest",
    messages=[{
        "role": "user",
        "content": "Napíš Python funkciu pre quicksort"
    }]
)

Benchmarky:

  • HumanEval: 92.4% (vs GPT-4: 90%)
  • MBPP: 75%

Pixtral (Vision)

Multimodálny model:

import base64

with open("image.png", "rb") as f:
    image_data = base64.b64encode(f.read()).decode()

response = client.chat(
    model="pixtral-12b-latest",
    messages=[{
        "role": "user",
        "content": [
            {"type": "text", "text": "Čo je na obrázku?"},
            {"type": "image_url", "image_url": f"data:image/png;base64,{image_data}"}
        ]
    }]
)

Function Calling

tools = [{
    "type": "function",
    "function": {
        "name": "get_flight_info",
        "description": "Vyhľadá informácie o lete",
        "parameters": {
            "type": "object",
            "properties": {
                "flight_number": {"type": "string"},
                "date": {"type": "string"}
            },
            "required": ["flight_number"]
        }
    }
}]

response = client.chat(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Info o lete LH123"}],
    tools=tools,
    tool_choice="auto"
)

JSON Mode

response = client.chat(
    model="mistral-large-latest",
    messages=[{
        "role": "user",
        "content": "Analyzuj sentiment: 'Produkt je super!' Vráť JSON."
    }],
    response_format={"type": "json_object"}
)

# Garantovaný valid JSON
result = json.loads(response.choices[0].message.content)

Cenové porovnanie

Model Input (1M) Output (1M)
Mistral Small $0.2 $0.6
Mistral Large $2 $6
GPT-4o $5 $15
Claude 3.5 Sonnet $3 $15

Mistral je 2-5x lacnejší!

Self-Hosting

Open-weight modely môžete hostovať sami:

# S Ollama
ollama run mistral

# S vLLM
python -m vllm.entrypoints.openai.api_server \
    --model mistralai/Mistral-7B-Instruct-v0.3

La Plateforme

Mistral API platforma:

  • Guardrails - content moderation
  • Fine-tuning - vlastné modely
  • Batch API - zľavy na veľké objemy

Kedy Mistral?

Áno

  • GDPR a dátová suverenita
  • Optimalizácia nákladov
  • Kódovacie úlohy (Codestral)
  • Self-hosting potreby

Možno nie

  • Potrebujete najvyššiu kvalitu (GPT-4, Claude)
  • Komplexné multimodálne úlohy
  • Rozsiahly ekosystém nástrojov

Záver

Mistral je seriózny hráč na AI trhu. Pre európske firmy s regulačnými požiadavkami alebo pre tých, čo optimalizujú náklady, je to vynikajúca voľba.