Mistral AI ogłosiło dziś premierę Mistral Small 3.1, najnowszego modelu w kategorii kompaktowych rozwiązań AI. Ten model nie tylko przewyższa swoich poprzedników, ale także ustanawia nowe standardy w zakresie wydajności i funkcjonalności.
Kluczowe cechy Mistral Small 3.1:
- Lekkość i efektywność: Model został zaprojektowany tak, aby działać na pojedynczej karcie graficznej RTX 4090 lub komputerze Mac z 32 GB pamięci RAM, co czyni go idealnym rozwiązaniem dla zastosowań na urządzeniach końcowych.
- Szybkość działania: Mistral Small 3.1 oferuje prędkość generowania na poziomie 150 tokenów na sekundę, co jest istotne dla aplikacji wymagających szybkich i precyzyjnych odpowiedzi, takich jak asystenci wirtualni.
- Rozszerzone możliwości: Dzięki obsłudze kontekstów do 128 tysięcy tokenów, model doskonale radzi sobie z długimi i złożonymi zadaniami, zapewniając spójność i dokładność odpowiedzi.
- Wszechstronność: Mistral Small 3.1 został zaprojektowany do obsługi różnorodnych zadań generatywnej AI, w tym podążania za instrukcjami, asysty konwersacyjnej, rozumienia obrazów oraz wywoływania funkcji.
Dostępność i licencjonowanie:
Model Mistral Small 3.1 jest dostępny do pobrania na platformie Hugging Face pod licencją Apache 2.0, co umożliwia szerokie zastosowanie zarówno w projektach komercyjnych, jak i niekomercyjnych. Dla przedsiębiorstw poszukujących zoptymalizowanej infrastruktury inferencyjnej, Mistral AI oferuje dedykowane rozwiązania. Ponadto, model jest dostępny poprzez API na platformie deweloperskiej Mistral AI oraz wkrótce będzie dostępny na takich platformach jak Google Cloud Vertex AI, NVIDIA NIM i Microsoft Azure AI Foundry.
Mistral Small 3.1 to krok naprzód w dziedzinie kompaktowych modeli AI, łączący lekkość z zaawansowanymi możliwościami. Jego wszechstronność i wydajność sprawiają, że jest to atrakcyjne rozwiązanie dla wielu zastosowań, od asystentów wirtualnych po przetwarzanie obrazów. Dzięki otwartemu licencjonowaniu i szerokiej dostępności, Mistral Small 3.1 ma potencjał, aby stać się fundamentem wielu innowacyjnych aplikacji AI.