מודלים של Llama מנוהלים באופן מלא


מודלים של Llama זמינים לשימוש כ-API מנוהל וכמודלים שמוטמעים באופן עצמאי ב-Gemini Enterprise Agent Platform. אתם יכולים להזרים את התשובות כדי לצמצם את זמן האחזור שנתפס על ידי משתמשי הקצה. תגובה שמוזרמת משתמשת באירועים שנשלחים מהשרת (SSE) כדי להזרים את התגובה באופן מצטבר.

מודלים מנוהלים של Llama

מודלים של Llama מוצעים כממשקי API מנוהלים לחלוטין וללא שרת. כדי להשתמש במודל Llama ב-Agent Platform, שולחים בקשה ישירות לנקודת קצה ל-API של Agent Platform. כשמשתמשים במודלים של Llama בתור API מנוהל, אין צורך להקצות או לנהל תשתית.

המודלים הבאים זמינים מ-Llama לשימוש ב-Gemini Enterprise Agent Platform. כדי לגשת למודל Llama, עוברים לכרטיס המודל שלו ב-Model Garden.

Llama 4 Maverick 17B-128E המודל הגדול והיכול ביותר של Llama 4 עם מולטי-מודאליות (MoE 17B פעיל / 400B סה"כ), שעבר אופטימיזציה לתכנות, לחשיבה רציונלית מעמיקה, לצ'אט מתוחכם ולהבנת תמונות ברמת דיוק גבוהה.
‫Llama 4 Scout 17B-16E מודל MoE יעיל (17B פעיל / 109B סה"כ) שמספק תוצאות המתקדמות ביותר לאחזור נתונים בהקשר ארוך, לסיכום מסמכים ולחשיבה רציונלית במאגרי קוד גדולים.
Llama 3.3 70B מודל של 70B שעבר כוונון להוראות, מבוסס על טקסט בלבד ומספק ביצועים משופרים בהשוואה ל-Llama 3.1 70B ול-Llama 3.2 90B עבור אפליקציות מבוססות-טקסט.

שימוש במודלים של Llama

במודלים מנוהלים, אפשר להשתמש בפקודות curl כדי לשלוח בקשות לנקודת הקצה של Gemini Enterprise Agent Platform באמצעות שמות המודלים הבאים. במאמר קריאה לממשקי API של מודלים פתוחים מוסבר איך לבצע שיחות סטרימינג ושיחות שלא כוללות סטרימינג למודלים של Llama.

כדי להשתמש במודל של Gemini Enterprise Agent Platform שפרסתם בעצמכם:

  1. עוברים אל מסוף Model Garden.
  2. מאתרים את המודל הרלוונטי של Gemini Enterprise Agent Platform.
  3. לוחצים על הפעלה וממלאים את הטופס שמופיע כדי לקבל את הרישיונות הנדרשים לשימוש מסחרי.

מידע נוסף על פריסה ושימוש במודלים של שותפים זמין במאמר פריסת מודל של שותף ושליחת בקשות לחיזוי.

המאמרים הבאים

איך משתמשים במודלים של Llama