חזרה לאינטגרציות
⚡
Cloud
Groq
Groq היא ספקית הסקה בענן שמריצה מודלים פתוחים נפוצים (Llama, Mixtral, Gemma, Whisper ואחרים) על חומרת LPU (יחידת עיבוד שפה) מפיתוחה. מהירות ההסקה גבוהה פי 10 עד 100 מזו של ספקים מבוססי GPU, מה שמתאים ליישומים רגישים להשהיה.
נסו את הסוכנים שלנו → groq.com
תכונות ויכולות
מהירות הסקה קיצונית
חומרת LPU
תמיכה ב-Llama 3 / Mixtral / Gemma
השהיה נמוכה
API תואם OpenAI
תמלול אודיו (Whisper)
🎯 מתאים במיוחד לסוכנים בעלי השהיה נמוכה, צ׳אטבוטים בזמן אמת ויישומים שבהם מהירות התגובה מכריעה.
✓ יתרונות
- ההסקה המהירה ביותר שקיימת
- יש שכבה חינמית
- תואם OpenAI
- מודלים מרובים
- מצוין לצ׳אט בזמן אמת
✗ חסרונות
- –אין מודלים משלה
- –חלון הקשר מוגבל
- –מגבלות בשכבה החינמית
- –תלוי בזמינות של Groq
💰 תמחור
שכבה חינמית נדיבה. תוכניות בתשלום מכ-0.05 $ למיליון טוקנים, בהתאם למודל. ראו groq.com.