הגדרת ניהול סיכונים במערכות AI

התכונה AI Protection עוזרת לכם לאבטח את נכסי ה-AI ואת תהליכי העבודה שלכם באמצעות מעקב אחרי המודלים, הנתונים והתשתית שקשורים ל-AI. במדריך הזה נסביר איך להגדיר את AI Protection.

ההגנה באמצעות AI משתמשת בשירותים ובתכונות הבאים. הגנת ה-AI מפעילה חלק מהשירותים והתכונות באופן אוטומטי, אבל צריך להגדיר אחרים באופן ידני.

• שירות AI Discovery
• סימולציות של נתיבי תקיפה שנוצרו על ידי Risk Engine (מסלולי שירות פרימיום וארגוני (הוצא משימוש))
• יומני ביקורת של Cloud
• Cloud Monitoring
• Compliance Manager
• Event Threat Detection (רמות שירות Premium ו-Enterprise (הוצא משימוש))
• זיהוי איומים ב-Agent Platform (רמות השירות Premium ו-Enterprise (הוצא משימוש))
• הגנה מוגברת על המודל
• ‫Notebook Security Scanner (Preview), שמופעל באופן אוטומטי ברמת השירות Enterprise (הוצא משימוש).
• ‫Sensitive Data Protection (מהדורות Premium ו-Enterprise (הוצא משימוש))
• הערכת נקודות חולשה של Agent Platform, שמופעלת אוטומטית בהפעלות חדשות של ניהול סיכונים במערכות AI (רמות השירות Premium ו-Enterprise (יצא משימוש)).

יש להגדיר את השירותים הנדרשים הבאים לניהול סיכונים במערכות AI:

• מסגרת Compliance Manager לניהול סיכונים במערכות AI
• הגנה מוגברת על המודל
• ‫מרכז האפליקציות (חובה למלאי שרתים של Model Context Protocol‏ (MCP))

מידע נוסף על כל שירות ותכונה זמין במאמר שירותי זיהוי ב-AI Protection.

לפני שמתחילים

1. מוצאים את מזהה הארגון או הפרויקט.
2. כדי ליצור תפקידים ולהקצות אותם, צריך לוודא שיש לכם את ההרשאות הנדרשות, כמו התפקידים 'אדמין של תפקידים ב-IAM' (roles/iam.roleAdmin), 'אדמין ארגוני' (roles/resourcemanager.organizationAdmin) או 'אדמין IAM בפרויקט' (roles/resourcemanager.projectIamAdmin). למידע נוסף, אפשר לעיין באינדקס של תפקידים והרשאות ב-IAM.

התפקידים הנדרשים

אחרי שמבצעים את השלבים שבקטע לפני שמתחילים, פועלים לפי השלבים באחד מהקטעים הבאים כדי להגדיר את התפקידים הנדרשים לגישה לניהול סיכונים במערכות AI:

• תפקידים מוגדרים מראש
• תפקידים בהתאמה אישית

תפקידים מוגדרים מראש

כדי לקבל את ההרשאות שדרושות להגדרה של AI Protection ולצפייה בנתונים בלוח הבקרה של אבטחת ה-AI, צריך לבקש מהאדמין להקצות לכם את תפקידי ה-IAM הבאים בארגון או בפרויקט:

• הגדרת AI Protection וצפייה בנתונים בלוח הבקרה: אדמין של מרכז האבטחה (roles/securitycenter.admin)
• צפייה רק בנתונים של לוח הבקרה של AI Security: צפייה בנתונים של אדמין במרכז האבטחה (roles/securitycenter.adminViewer)

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

אפשר להשתמש בפקודות הבאות של Google Cloud CLI כדי להקצות למשתמש את התפקידים שצוינו למעלה:

הקצאת תפקידים באמצעות ה-CLI של gcloud

• כדי להקצות למשתמש את התפקיד Security Center Admin, מריצים את הפקודה הבאה:

  gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member=user:USER_EMAIL_ID \
    --role=roles/securitycenter.admin
  

• כדי להקצות למשתמש את התפקיד Security Center Admin Viewer, מריצים את הפקודה הבאה:

  gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member=user:USER_EMAIL_ID \
    --role=roles/securitycenter.adminViewer
  

  מחליפים את מה שכתוב בשדות הבאים:

  • RESOURCE_TYPE: organizations או projects
  • RESOURCE_ID: מזהה הפרויקט או הארגון (מספרי)
  • USER_EMAIL_ID: כתובת האימייל של המשתמש שזקוק לגישה

תפקידים בהתאמה אישית

כדי לפעול בהתאם לעיקרון של הרשאות מינימליות, אתם יכולים ליצור תפקידי IAM בהתאמה אישית שמעניקים רק את ההרשאות הדרושות לגישת צפייה או לגישת אדמין.

במאמר הזה מוסבר איך ליצור ולהקצות תפקידים בהתאמה אישית להגנה מבוססת-AI.

הגדרת גישת צפייה

גישת צפייה מאפשרת למשתמש לצפות בנתונים ובמרכז הבקרה של AI Protection. כדי להגדיר גישת צפייה, יוצרים תפקיד מותאם אישית AIP Viewer ומקצים אותו למשתמש.

יצירת תפקיד בהתאמה אישית של AIP Viewer

יוצרים תפקיד בהתאמה אישית שכולל את כל ההרשאות שנדרשות לגישת קריאה בלבד ל-AI Protection.

gcloud iam roles create aip.viewer \
    --RESOURCE_TYPE=RESOURCE_ID \
    --title="AIP Viewer" \
    --description="Grants permissions required to view AIP dashboard and data." \
    --permissions="cloudasset.assets.exportResource,cloudasset.assets.searchAllIamPolicies,cloudasset.assets.searchAllResources,cloudasset.assets.searchEnrichmentResourceOwners,cloudasset.othercloudconnections.get,cloudasset.othercloudconnections.list,cloudsecuritycompliance.controlComplianceSummaries.list,cloudsecuritycompliance.frameworkComplianceReports.get,monitoring.timeSeries.list,resourcemanager.organizations.get,resourcemanager.projects.get,securitycentermanagement.securityCommandCenter.get,securitycenter.assets.group,securitycenter.assets.list,securitycenter.attackpaths.list,securitycenter.complianceReports.aggregate,securitycenter.findings.group,securitycenter.findings.list,securitycenter.issues.get,securitycenter.issues.group,securitycenter.issues.list,securitycenter.issues.listFilterValues,securitycenter.simulations.get,securitycenter.sources.get,securitycenter.sources.list,securitycenter.userinterfacemetadata.get,securitycenter.valuedresources.list" \

אחרי שיוצרים את AIP Viewer התפקיד בהתאמה אישית, מקצים אותו למשתמשים שצריכים גישת צפייה.

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="RESOURCE_TYPE/RESOURCE_ID/roles/aip.viewer"

הגדרת גישת אדמין

גישת אדמין מאפשרת למשתמש לנהל את התכונות של AI Protection. כדי להגדיר גישת אדמין, קודם צריך ליצור AIP Essentialsתפקיד מותאם אישית. לאחר מכן, מקצים את התפקיד הזה ואת התפקידים הנדרשים שמוגדרים מראש למשתמש.

יצירת תפקיד בהתאמה אישית ל-AIP Essentials

יוצרים תפקיד בהתאמה אישית שכולל את הרשאות התמיכה החיוניות שנדרשות להגנה באמצעות AI.

gcloud iam roles create aip.essentials \
    --RESOURCE_TYPE=RESOURCE_ID \
    --title="AIP Essentials" \
    --description="Grants supporting permissions required to view AIP dashboard and data." \
    --permissions="cloudasset.assets.searchEnrichmentResourceOwners,cloudasset.othercloudconnections.get,cloudasset.othercloudconnections.list,resourcemanager.organizations.get,resourcemanager.projects.get,securitycentermanagement.securityCommandCenter.get,securitycenter.assets.group,securitycenter.assets.list,securitycenter.attackpaths.list,securitycenter.complianceReports.aggregate,securitycenter.findings.group,securitycenter.findings.list,securitycenter.simulations.get,securitycenter.userinterfacemetadata.get,securitycenter.valuedresources.list" \

הענקת גישת אדמין למשתמש

אחרי שיוצרים את התפקיד בהתאמה אישית AIP Essentials, מקצים אותו יחד עם התפקידים המוגדרים מראש הנדרשים למשתמשים שזקוקים לגישת אדמין.

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/modelarmor.admin"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/modelarmor.floorSettingsAdmin"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/cloudsecuritycompliance.admin"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/securityCenter.findingsViewer"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/monitoring.viewer"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/cloudasset.viewer"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="RESOURCE_TYPE/RESOURCE_ID/roles/aip.essentials"

אזורים נתמכים

רשימת האזורים שבהם יש תמיכה בניהול סיכונים במערכות AI מופיעה במאמר בנושא נקודות קצה אזוריות.

גישה לחשבונות שירות

מוודאים שמדיניות הארגון לא חוסמת אף אחד מחשבונות השירות שמוזכרים בקטעים הבאים.

הגדרת ניהול סיכונים במערכות AI

ההגנה באמצעות AI מופעלת כברירת מחדל בהפעלות חדשות של Security Command Center. עם זאת, אם הפעלתם רמה כלשהי של Security Command Center לפני שהתכונה ניהול סיכונים במערכות AI הייתה זמינה, תצטרכו להפעיל את התכונה באופן ידני.

כדי להפעיל את ניהול סיכונים במערכות AI ברמת הארגון או הפרויקט, מבצעים את הפעולות הבאות:

הגדרה ידנית של שירותים

אחרי שמפעילים את AI Protection, צריך להשלים את ההגדרות של התכונות באופן ידני.

הגדרת שירות גילוי מבוסס-AI

שירות איתור ה-AI מופעל אוטומטית ב-Security Command Center כחלק מתהליך ההצטרפות ל-Security Command Center Enterprise. מוודאים שהתפקיד 'צפייה ב-Monitoring' (roles/monitoring.viewer) ב-IAM הוקצה לחשבון השירות של הארגון או הפרויקט ב-Security Command Center Enterprise.

1. נכנסים לדף IAM במסוף Google Cloud .

   כניסה לדף IAM

2. לוחצים על הענקת גישה.

3. בשדה New principals, מזינים את חשבון השירות של הארגון או הפרויקט ב-Security Command Center Enterprise. חשבון השירות הוא בפורמט service-org-ORG_ID@security-center-api.gserviceaccount.com או service-project-PROJECT_NUMBER@security-center-api.gserviceaccount.com. מחליפים את ORG_ID במזהה הארגון או את PROJECT_NUMBER במספר הפרויקט.

4. בשדה Select a role (בחירת תפקיד), בוחרים באפשרות Monitoring Viewer (צפייה בנתוני המעקב).

5. לוחצים על Save.

הגדרת הגנה מוגברת על המודל

1. מפעילים את שירות modelarmor.googleapis.com לכל פרויקט שבו נעשה שימוש בפעילות של AI גנרטיבי. מידע נוסף זמין במאמר איך מתחילים להשתמש בהגנה מוגברת על המודל.
2. כדי להגדיר הגדרות אבטחה ובטיחות להנחיות ולתשובות של מודלים גדולים של שפה (LLM), קובעים את ההגדרות הבאות:
   • תבניות של Model Armor: יצירת תבנית של Model Armor. התבניות האלה מגדירות את סוגי הסיכונים שצריך לזהות, כמו מידע אישי רגיש, הזרקת הנחיות ופריצה למודל. הם גם מגדירים את ערכי הסף המינימליים למסננים האלה.
   • מסננים: הגנה מוגברת על המודל משתמשת במסננים שונים כדי לזהות סיכונים, כולל זיהוי של כתובות URL זדוניות, זיהוי של החדרה פרומפטים ופריצה של מודלים, והגנה על נתונים רגישים.
   • הגדרות אבטחה מינימליות: מגדירים את הגדרות אבטחה מינימליות ברמת הפרויקט כדי ליצור הגנה כברירת מחדל לכל המודלים של Gemini.

הגדרת Notebook Security Scanner

1. רמת שירות Premium: מפעילים את שירות סורק האבטחה של Notebook בארגון או בפרויקט. מידע נוסף זמין במאמר בנושא הפעלת סורק האבטחה של מחברות.
2. מעניקים לחשבון notebook-security-scanner-prod@system.gserviceaccount.com את התפקיד Dataform Viewer‏ (roles/dataform.viewer) בכל הפרויקטים שמכילים מחברות.

הגדרת Sensitive Data Protection

מפעילים את dlp.googleapis.com API בפרויקט ומגדירים את Sensitive Data Protection כך שיסרוק מידע אישי רגיש.

1. מפעילים את Data Loss Prevention API, אם הוא עדיין לא מופעל.

   תפקידים שנדרשים להפעלת ממשקי API

   כדי להפעיל ממשקי API, צריך את ההרשאה serviceusage.services.enable. אם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד 'בעלים' (roles/owner). אחרת, תוכלו לקבל את ההרשאה הזו דרך התפקיד 'אדמין בממשק Service Usage' (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים

   להפעלת ה-API

2. נותנים למשתמשים בניהול סיכונים במערכות AI את התפקידים DLP Reader ו-DLP Data Profiles Admin.

3. הגדרת Sensitive Data Protection לסריקה של מידע אישי רגיש.

הגדרת הערכת נקודות חולשה ב-Agent Platform

הכלי Agent Platform Vulnerability Assessment (הערכת נקודות חולשה ב-Agent Platform) מזהה פגיעות בתוכנה (CVE) בעומסי עבודה אג'נטיים שנפרסים באמצעות Gemini Enterprise Agent Platform. בהפעלות חדשות של AI Protection, הערכת הפגיעות של פלטפורמת הסוכן מופעלת כברירת מחדל.

אם אתם לקוחות קיימים, אתם יכולים להפעיל את הסורק בדף ההגדרות של ניהול סיכונים במערכות AI, שזמין רק בתצוגת הארגון או הפרויקט.

1. במסוף Google Cloud , עוברים אל הגדרות > ניהול ההגדרות בכרטיס 'הגנה מבוססת-AI'.

   מעבר להגדרות של AI Protection

2. בקטע Vulnerability Assessment for Agent Platform (הערכת פגיעות בפלטפורמת הסוכנים), לוחצים על Manage settings (ניהול ההגדרות).

3. מפעילים את השירות בארגון או בפרויקט.

הגדרת מרכז האפליקציות למלאי של שרת MCP

כדי לראות את השרתים של Model Context Protocol‏ (MCP) בלוח הבקרה של AI Security, צריך להפעיל את מרכז האפליקציות API ‏ (apphub.googleapis.com) בכל פרויקט שמארח שרתי MCP.

מידע נוסף מופיע במאמר בנושא הגדרת מרכז האפליקציות.

אופציונלי: הגדרת משאבים נוספים בעלי ערך גבוה

כדי ליצור הגדרת ערך משאב, פועלים לפי השלבים במאמר בנושא יצירת הגדרת ערך משאב.

הגדרת היקף משאבים אגנטיים

כדי להגדיר את ערך המשאב למשאבים שמבוססים על סוכנים, כמו סוכנים או שרתים של Model Context Protocol ‏ (MCP), בוחרים סוג משאב שמבוסס על סוכנים בתפריט Select resource type (לדוגמה, aiplatform.googleapis.com/ReasoningEngine), או מציינים תוויות או תגים שמזהים משאבים שמבוססים על סוכנים בארגון או בפרויקט.

כשסימולציית נתיבי התקפה הבאה תפעל, היא תכסה את קבוצת המשאבים הרווחיים ותיצור נתיבי התקפה.

המאמרים הבאים

• מידע נוסף על הגנה באמצעות AI
• בדיקת אבטחת ה-AI
• הערכת סיכונים באמצעות נתונים מלוח הבקרה
• הסבר על ההשלכות של מיקום אחסון הנתונים
• הגדרת הגנה מוגברת על המודל
• מידע נוסף על זיהוי איומים ב-Agent Platform