לאחרונה ביצעתי מחקר מעמיק עם היבטים שונים, החל מתקיפה, דרך הגנה, ועד דרכי פיתוח. במהלך הפעולות הצלחתי לעקוף ולשבור את המנגנונים והכלים בתשתית של Microsoft 365 Copilot, ולא רק באמצעות הנחיות למניפולציה על מידע ונתונים. במהלך הפעולות הגעתי לתריסרים רבים של תובנות מהותיות על אופן הפעולה של Microsoft 365 Copilot, הן בהיבטים התקפיים והן בהיבטים הגנתיים.

Microsoft 365 Copilot: מודל הגנה רב שכבתי

כידוע, תשתית כמו Microsoft 365 Copilot משנה את הדרך שבה ארגונים פועלים ומבצעים אינטראקציות עם נתונים, ולצד זה היא גם מציבה אתגרי אבטחה חדשים הנוגעים להתנהגות המשתמשים ופעולותיהם, לניהול נתונים רגישים ולזיהוי איומים. כלי בינה באשר הם, ופרט Microsoft 365 Copilot דורשים התאמה של נהלים ומנגנוני אבטחה מחמירים ומתקדמים כדי להימנע מאיומים כמו דליפת מידע רגיש, הזרקת הנחיות (Prompt Injection), פישינג מתקדם בעזרת AI, ושימוש לרעה במודלים.

הטמעת Microsoft 365 Copilot בסביבה ארגונית דורשת אינטגרציה של בקרות גישה מבוססות זהות (Identity-Based Access Controls) עם מודלים של אכיפת מדיניות אבטחה (Security Policy Enforcement) על שירותי הענן, כמו גם ניטור התנהגותי מתקדם (Behavioral Analytics) שיכול לזהות חריגות פעילות בזמן אמת. בשיטה זו, ניתן לזהות לא רק פעולות רגילות של המשתמשים, אלא גם התקפות מבוססות AI שמסוגלות לנצל את חולשות המערכת, תשתית, הנחיות וכן הלאה.
התמודדות עם בקרות אבטחה וניהול עבור Microsoft 365 Copilot עשויה להיראות כאתגר מורכב, במיוחד כאשר מדובר בפריסה ארגונית רחבת היקף. על אף התיעוד המקיף הזמין בפלטפורמת Microsoft Learn, יצירת פריימוורק אבטחה קוהרנטי שמביא לידי ביטוי שליטה מלאה בנקודות התורפה ובקרות ההגנה – דורשת גישה רב שכבתית המחוברת לתהליכים, להבנת המשתמש והאינטראקציות השונות בתוך סביבת Microsoft 365 ואינספור פעולות שמתרחשות מאחורי הקלעים בתשתית Microsoft 365 Copilot.
כדי לייעל את ניהול בקרות האבטחה וההגנה, צריך לבצע הגנה במודל רב שכבתית. איזה מודל? משתף כאן מודל רב שכבתי שמספר ראייה הוליסטית של הנקודות הקריטיות לאורך מחזור החיים של Copilot, תוך מיקוד בהיבטים מהותיים של אבטחה, תאימות וניהול סיכונים. המודל מתבסס על מספר רבדים מרכזיים: זהויות, מכונות קצה, פוליסי והקשחות ברמת הסרוויס, הקשר מבוסס, מידע ונתונים. בינהם אפשר למצוא אבטחה ליכולות כמו Embedded container, וכן Context IQ ואחרים.

הדיאגרמה מציגה את Microsoft 365 Copilot תחת גישה מרובדת לאבטחת סייבר – בלי ניהול חוסן אבטחת מערכות בינה מלאכותית (AI SPM), זה יכול להפוך במהירות למערב פרוע של תקיפות אדברסריות, מניפולציות מודלים ודליפת נתונים רגישים.

מערכת Microsoft 365 Copilot מציגה גישה מרובדת לאבטחת סייבר, תוך יישום מנגנונים מתקדמים להגנה על זהויות, מכשירים, שירותים, יישומים, נתונים ושקיפות תפעולית. שכבת זהויות וגישה מבטיחה בקרת הרשאות קפדנית באמצעות מדיניות גישה מותנית, הפרדת סמכויות וניהול חשבונות רגישים, כדי למנוע חטיפת זהויות וניצול לרעה של הרשאות. שכבת הגנת מכשירים מבוססת על הקשחת תחנות קצה וניהול מרכזי של מכשירים ניידים, במטרה לסכל תקיפות התחזות והרעלות נתונים. שכבת ניהול השירותים כוללת בקרות למניעת ניצול תוספים והרחבות, בעוד ששכבת היישומים מתמקדת בהגבלת חשיפה למידע רגיש בתוך תשתיות הארגון. הגנת הנתונים נשענת על בקרות למניעת זליגת מידע, הצפנה והבטחת עמידה בתקנים רגולטוריים. וכן, שכבת השקיפות והאכיפה שׂמספקת ניטור בזמן אמת ותגובה מבוססת ניתוח איומים, תוך שימוש במערכות מתקדמות לזיהוי אנומליות ולתחקור אירועי אבטחה.
אז בואו נתחיל לפרוט את הרבדים, נבין איך מגדירים, קצת טיפים, ועוד הרבה דברים קטנים שחשוב לדעת.

טיפ: מודל רב שכבתי בהגנה על Microsoft 365 Copilot כולל מספר רב של הגדרות, ולכן הגדרות אלה חייבות להיעשות בצורה מבוקרת ומנוהלת, אחרת, עלולות להיווצר תצורות שגויות וחשיפה שאינה מוכרת. 

זהויות

אבטחת זהויות בענן היא קו ההגנה הראשון והקריטי ביותר – כמו גם מול תשתית Microsoft 365 Copilot.

ניהול זהויות הינו היבט קריטי בהגנה על תשתית Microsoft 365 Copilot, שכן תוקפים יכולים לנצל הרשאות לא מבוקרות כדי לגשת למידע רגיש, להזריק פקודות (Prompt Injection), לבצע תקיפות lateral movement והרבה סוגי תקיפות אחרות. כמו שאני תמיד אומר – Microsoft 365 Copilot מחבר בין הנקודות, מאגד מידע למקום מרכזי ומצמצם זמני תקיפה. לכן, ללא בקרות זהות חזקות, Microsoft 365 Copilot הופך לכלי חזק המסייע לתוקף ולא רק למשתמשים לגיטימיים.

כדי למנוע ניצול של תשתית Microsoft 365 Copilot לצורך איסוף מודיעיני, גישה לנתונים רגישים והתפשטות רוחבית, יש להטמיע מנגנוני הגנה פרואקטיביים על שכבת הזהות. זהו קו ההגנה הראשון, שמטרתו למנוע ביצוע פעולות גישה ולמזער את משטח התקיפה.

מדיניות גישה מותנית

מדיניות גישה המוכרת כ Entra ID Conditional Access Policy משמשת כמנגנון Policy Enforcement Engine הנשען על סיגנלים דינמיים, כגון רמת סיכון משתמש (User Risk), רמת סיכון כניסה (Sign-in Risk), תאימות מכשירים (Device Compliance), ומיקום (Geo-Location), לצורך קבלת החלטות גישה מותאמות הקשר (Context-Aware Access Control).

כדי להבטיח שימוש מאובטח ב Microsoft 365 Copilot, מומלץ להתחיל עם יישום מדיניות גישה מותנית (Conditional Access) לטובת MIcrosoft 365 Copilot.

הגדרת פוליסי/תנאי

כדי להפעיל מדיניות Conditional Access ולהגן על Microsoft 365 Copilot ואף על Microsoft Security Copilot, יש ליצור אובייקטי Service Principal ייעודיים לכל אחד מהשירותים. פעולה זו מאפשרת מיקוד של המדיניות על האפליקציות הרלוונטיות בארגון.

תחילה ניצור אובייקטים נדרשים לתנאי גישה באמצעות PowerShell. ניתן לבצע זאת באמצעות הפקודות הבאות ב PowerShell:

# Connect with the appropriate scopes to create service principals
Connect-MgGraph -Scopes "Application.ReadWrite.All"

# Create service principal for the service Enterprise Copilot Platform (Microsoft 365 Copilot)
New-MgServicePrincipal -AppId fb8d773d-7ef8-4ec0-a117-179f88add510

# Create service principal for the service Security Copilot (Microsoft Security Copilot) 
New-MgServicePrincipal -AppId bb5ffd56-39eb-458c-a53a-775ba21277da

לאחר יצירת האובייקטים, יש להמשיך להגדרת מדיניות Conditional Access שתאפשר הקשחת גישה בהתאם למדיניות הארגונית.

לסקריפט מורחב יותר של יצירת אווביקטים ניתן לגשת לקישור הבא: Create-CopilotServicePrincipals.ps1.

תנאים משלימים לטובת Microsoft 365 Copilot:

• גישה מתוך מכונה עם תאימות מוגדרת מראש
• דרישה לאימות רב-גורמי לכלל המשתמשים בארגון כולל Phishing Resistant
• הגבלת רישום אמצעי אבטחה למיקומים מהימנים בלבד
• חסימה או אישור גישה לפי מיקום גיאוגרפי מוגדר
• איתור וחסימה של דפוסי כניסה מסוכנים
• הגבלת הגישה ליישומים ספציפיים למכשירים מנוהלים בלבד

מכונות קצה

יעודכן בקרוב.

הקשחות ברמת תשתית

הקשחת תשתית Microsoft 365 Copilot נחלקת למספר שלבים ואפשרויות, הראושן שבהם הוא באמצעות Apps admin center.

Microsoft 365 Apps Admin Center מהווה רכיב מרכזי במערך ניהול הפריסה, התחזוקה והאבטחה של אפליקציות Microsoft 365. הפלטפורמה מאפשרת שליטה מבוזרת ומתקדמת במאפיינים תפעוליים של היישומים, ניהול עדכוני גרסה, קביעת מדיניות אבטחה מחמירה וניטור תהליכים קריטיים. בהקשר של Microsoft 365 Copilot, שימוש נכון בממשק הניהול מאפשר מימוש מדיניות אבטחת מידע נוקשה, בקרה על גישה למשאבים ארגוניים והגנה מפני דליפות נתונים רגישים.

איזה סוגי פוליסי יש ב Apps admin center?

Microsoft 365 Copilot Authoring

המדיניות של Microsoft 365 Copilot Authoring מאפשרת להגדיר האם Microsoft 365 Copilot יוכל לפעול כיוצר תוכן וליצור טיוטות ראשוניות של מסמכים ומצגות. בדיפולט, מספק יכולות עריכה ושיפור של תוכן קיים, אך כאשר מצב authoring מופעל, הוא יכול גם לייצר תוכן חדש מאפס. עם זאת, האפשרות לייצר מידע ללא פיקוח מחייב התמודדות עם סיכוני אבטחה.
למשל, חשיפת מידע רגיש במסמכים אוטומטיים. כאשר Microsoft 365 Copilot יוצר תוכן, הוא עשוי לשלב מידע המבוסס על נתונים רגישים, ובכדי למנוע זאת, יש להפעיל Purview Information Protection ולסווג מסמכים בהתאם למדיניות הארגונית. השימוש בתוויות (מוכר גם כ Sensitivity Labels) ידאג ש Microsoft 365 Copilot לא יוכל לשלב נתונים מסווגים בטיוטות שהוא מייצר.

Allow Web Search in Copilot
הפוליסי, Allow Web Search in Copilot מאפשר לאכוף את הזמינות של חיפוש באינטרנט בעת השימוש ב Microsoft 365 Copilot וכן ב Microsoft 365 Copilot Chat. כאשר אפשרות זו מופעלת, Microsoft 365 Copilot יכול לבצע שאילתות חיפוש באינטרנט כדי לספק מידע מעודכן ולהעשיר את התשובות שהוא מציג למשתמשים.

עם זאת, נתוני החיפוש מנוהלים תחת תנאי השימוש של Bing Consumer, ולא תחת התנאים הסטנדרטיים של Microsoft 365, מה שמעלה סוגיות משמעותיות של פרטיות, אבטחת מידע ותאימות רגולטורית.

מהן האפשרויות לקביעת מדיניות? 

בעת הפעלת המדיניות, ניתן לבחור באחת משלוש אפשרויות:

מופעל (Enabled in Microsoft 365 Copilot and Microsoft 365 Copilot Chat)

• יכול לבצע חיפוש באינטרנט ישירות מתוך Microsoft 365 Copilot וכן Microsoft 365 Copilot Chat.
• המשתמשים יוכלו לגשת למידע בזמן אמת מהאינטרנט לצורך הפקת תשובות מתקדמות יותר.
• קיים סיכון אבטחה משמעותי, שכן שאילתות מועברות אל Bing Consumer.

מושבת (Disabled in Microsoft 365 Copilot and Microsoft 365 Copilot Chat)

• לא יבצע חיפוש באינטרנט, וכל המידע שהוא מציג יתבסס רק על הנתונים הפנימיים של הארגון.
• מונע זליגת נתונים אל מערכות חיצוניות ומפחית את הסיכון לגישה בלתי מבוקרת למידע מחוץ לארגון.
• עשוי להגביל את היכולות, מה שעשוי לפגוע ביעילותו עבור משתמשים הזקוקים לתובנות חיצוניות.

מושבת במצב עבודה (Work Mode) ומופעל במצב אינטרנט (Web Mode) וצ'אט

• חיפושי אינטרנט יהיו זמינים רק במצב Copilot Web Mode וב-Copilot Chat, אך לא במצב העבודה (Work Mode) של Microsoft 365 Copilot.
• מגביל את החיפושים לסביבה חיצונית מבוקרת יותר, אך עדיין מאפשר אינטראקציה עם נתוני אינטרנט במצבים מסוימים.

חשוב לדעת: במידה והמדיניות איננה מוגדרת, החיפוש באינטרנט יופעל כברירת מחדל.

הפוליסי Create and view Copilot Pages

Copilot Pages הן קובצי Loop המיוצרים ומשותפים במסגרת Microsoft 365 Copilot Chat וכן Copilot Actions. מדובר באובייקטים דינמיים שניתן לערוך ולצפות בהם בזמן אמת, תוך שיתוף פעולה בין משתמשים. כאשר אפשרות זאת מופעלת, משתמשים יכולים ליצור מסמכי Loop באופן ישיר מתוך Copilot Chat ולבצע עריכות משותפות באמצעות Copilot Actions.

אפשרויות קביעת המדיניות

מופעל (Enabled): המשתמשים יכולים ליצור ולצפות ב Copilot Pages ישירות דרך Microsoft 365 Copilot Chat וכן Copilot Actions.
מושבת (Disabled): המשתמשים לא יכולים ליצור או להציג קבצי Copilot Pages (Loop files), וגם לא לגשת לקישורים שהופצו דרך Copilot Chat. בנוסף, התראות על קבצים אלו לא יוצגו ב-Teams או באימיילים במסגרת Copilot Actions.
לא מוגדר (Not Configured): המערכת תפעל כברירת מחדל כאילו המדיניות מופעלת, כלומר, המשתמשים יכולים ליצור ולצפות ב Copilot Pages.

איפה הסיכון?

דליפת מידע רגיש דרך קבצים דינמיים (Loop files): קבצי Loop הם מסמכים שמתעדכנים בזמן אמת, מה שעלול לגרום לכך שמידע רגיש יהיה חשוף לאנשים שלא היו אמורים לגשת אליו. אם המדיניות מופעלת ללא הגבלות מתאימות, קיים סיכון גבוה לשיתוף בלתי מבוקר של תוכן מסווג בתוך Copilot Chat, במיוחד במקרים בהם נעשה שיתוף של קבצים עם משתמשים חיצוניים או גורמים לא מאושרים.
חשיפה לא מבוקרת של קבצים ושינויי תוכן בזמן אמת: מאחר ש Copilot Pages נתמכים בעדכון דינמי, משתמשים עשויים להיחשף לשינויים שבוצעו על ידי אחרים בזמן אמת, כולל תוכן שלא נועד עבורם. כמו גם, שיתוף קובץ Loop דרך Copilot Chat יכול להעניק גישה אוטומטית לכל המשתמשים באותו הערוץ, גם אם לא כולם היו אמורים להיות חלק מהתהליך.
סיכון לחשיפה של קבצים דרך Copilot Chat + Teams: כאשר Copilot Pages נוצרים, הקבצים יכולים להישמר ולהיות מקושרים בתוך שיחות Copilot Chat. קבצים אלו עשויים להכיל מידע עסקי קריטי, אשר עלול להיחשף לשותפים עסקיים, ספקים או משתמשים חיצוניים עקב הגדרות הרשאה לא תקינות.

מדיניות זו קובעת האם משתמשים בארגון יכולים להשתמש ב-Microsoft 365 Copilot במסמכי עבודה תוך שימוש ברישיון Copilot מחוץ לארגון, כגון מנוי Copilot Pro אישי. כאשר אפשרות זו זמינה, משתמשים יכולים להתחבר ל-Copilot בעזרת חשבון שאינו מנוהל על ידי הארגון ולהשתמש ביכולותיו במסמכים ארגוניים.
מופעל (Enabled) או לא מוגדר (Not Configured)

• משתמשים יוכלו להפעיל את Copilot על מסמכים ארגוניים, גם אם הם מחוברים לחשבון חיצוני עם רישיון Copilot חיצוני, כגון מנוי אישי.
• מאפשר עבודה גמישה, במיוחד עבור יועצים, פרילנסרים או עובדים שמשתמשים במספר חשבונות Microsoft 365.
• מגביר את הסיכון לדליפת נתונים, שכן עשוי לפעול על מסמכים רגישים באמצעות חשבון שאינו מפוקח על ידי מדיניות האבטחה הארגונית.

מושבת (Disabled)

• משתמשים יוכלו לגשת ל Copilot רק באמצעות הרישיון הארגוני שלהם.
• Copilot עדיין יופיע בסרגל הכלים של האפליקציות, אך לא יהיה פעיל עבור חשבונות שאינם מנוהלים על ידי הארגון.
• מסייע בשמירה על ריכוזיות ניהול אבטחת המידע, אך עלול לפגוע בגמישות העבודה למשתמשים עם ריבוי חשבונות.

איפה הסיכונים?

דליפת נתונים ארגוניים לחשבון חיצוני: כאשר משתמש מחובר דרך חשבון אישי או ארגון חיצוני, קיים סיכון ממשי לכך שנתונים רגישים ישותפו מחוץ לארגון. Copilot פועל על בסיס הנתונים שהמשתמש ניגש אליהם, וכאשר רישיון Copilot מגיע מחשבון חיצוני, הארגון אינו שולט בעיבוד הנתונים ובשמירתם.

עקיפת בקרות אבטחה ארגוניות: כאשר Copilot פועל מחשבון שאינו מנוהל על ידי הארגון, מדיניות אבטחה, הצפנה ו-DLP אינן חלות עליו. משתמשים עלולים לעקוף מגבלות ארגוניות, להפעיל Copilot על מסמכים מסווגים ולשתף מידע עם מערכות חיצוניות שלא נשלטות על ידי ה-IT הארגוני.

זיהוי מידע רגיש והפצתו מחוץ לארגון: Copilot יכול להציע תובנות ולסייע ביצירת מסמכים על בסיס התוכן שהמשתמשים עובדים עליו. כאשר משתמש מחובר לחשבון חיצוני, אין שליטה על הנתונים שעוברים עיבוד, והמידע הרגיש עלול להיות מזוהה, מעובד ומנותח על ידי Copilot ללא אכיפה של בקרות פנימיות.

כיצד ניתן ליישם מדיניות הקשחה אפקטיבית?

יש לבצע שילוב של מנגנוני הגנה על מידע רגיש (Data Protection) עם מערכות בקרת גישה מתקדמות:

ראשית, יש להפעיל Microsoft Purview Information Protection ולהגדיר תוויות רגישות (Sensitivity Labels) לכלל המסמכים והמידע המבוסס בארגון. תוויות אלו צריכות להגדיר האם Copilot מורשה לקרוא את התוכן ולהשתמש בו כחלק מתהליכי יצירה. מסמכים בעלי רמת סיווג גבוהה, כגון מידע מסחרי חסוי, נתונים פיננסיים או מידע אישי מזוהה (PII), צריכים להיחסם באופן גורף משימוש במנגנוני יצירת תוכן אוטומטיים.

שנית, יש להחיל מדיניות מניעת דלף מידע (Data Loss Prevention – DLP) המתמקדת בזיהוי והגבלת יצירת מסמכים הכוללים מידע רגיש. מנגנון זה ימנע מ-Copilot להנגיש מידע פנימי למסמכים חדשים, ובכך ימזער את הסיכון לחשיפות לא מכוונות של נתונים מסווגים.

במקביל, יש להפעיל מדיניות בקרת גישה מבוססת תנאים (Conditional Access) על מנת לוודא כי רק משתמשים מוסמכים יוכלו להפעיל את Copilot במתכונת מחבר תוכן. מדיניות זו צריכה לכלול הגבלות המוודאות כי Copilot יפעל רק בסביבת עבודה מנוהלת עם אימות רב-שלבי (Multi-Factor Authentication) ומכשירים תואמי תקנים ארגוניים.

לצורך ניטור ובקרה, מומלץ לשלב את Microsoft Purview Audit כדי לעקוב אחר השימוש בפונקציונליות מחבר התוכן של Copilot. באמצעות ניטור זה ניתן לזהות דפוסי פעילות חריגים, לאתר ניסיונות גישה לא מורשית ולהפיק התראות על אירועים העלולים להוות סיכון אבטחה. שילוב Microsoft Sentinel יאפשר ניתוח מבוסס איומים (Threat Intelligence) ותגובה אוטומטית במקרה של חריגה ממדיניות אבטחת המידע שהוגדרה.

‎Copilot‎ Control System

היכולות ניהול של Microsoft 365 Copilot היא מכלול של בקרות אבטחה, ניהול גישה, פיקוח על נתונים ושקיפות תפעולית, המאפשרת הטמעה של Microsoft 365 Copilot בצורה מאובטחת תוך ניהול מחזור חיי השימוש, בקרת הרשאות, ומעקב אחר פעילות המשתמשים. היכולות ניהול מבוססת על עקרונות של הגנת נתונים, ניהול הרשאות דינמי, מניעת דליפות מידע ותגובה לאיומים מבוססי בינה מלאכותית.

אפשרויות הניהול והבקרה של מערכת Copilot

בקרת יצירת תמונות (Copilot Image Generation)

מאפשרת שליטה על יכולת המשתמשים בארגון לייצר תמונות.

• מניעת שימוש בלתי מבוקר במנועי עיבוד תמונה שעלולים להוות מקור ליצירת תוכן פוגעני, מידע מזויף או הדלפת נתונים.
• הטמעת מדיניות אבטחת מידע גרפי כדי לוודא שהתמונות הנוצרות אינן מכילות נתונים רגישים, מידע מזהה או סימנים מסחריים אסורים.

ניהול Copilot במנועי חיפוש ובראוסרים (Copilot in Bing, Edge, and Windows)

מאפשר למנהלי IT להגדיר כיצד הארגון משתמש ב-Copilot בצ'אט מבוסס בינה מלאכותית בתוך Bing, Edge, ו-Windows.

• מניעת דליפת מידע ארגוני לרשתות ציבוריות על ידי חסימת חיפושים לא מבוקרים, העתקת תוכן רגיש והזרמת מידע ארגוני למודלים חיצוניים.
• הטמעת בקרת גישה תלוית הקשר כדי להגביל אינטראקציה בין Copilot לפלטפורמות בלתי מאושרות.
• חסימת שאילתות מסוכנות שעלולות להוביל להדלפת מודלים פנימיים, אסטרטגיות עסקיות או מידע מבוסס מחקר.

בקרת Copilot בתוך דפדפן Edge (Copilot in Edge)

מאפשר לארגון לנהל את היכולת להשתמש ב-Copilot בצ'אט מבוסס בינה מלאכותית בתוך דפדפן Edge.

• אבטחת תקשורת בין הדפדפן לארגון, כולל חסימה של חיבורי צד שלישי, הרחבות לא מאומתות, וניסיונות הזרקת קוד.
• מניעת הרצת קוד זדוני מבוסס אינטראקציה עם Copilot בתוך הדפדפן, שעלול לאפשר לתוקף לגנוב נתונים רגישים או לבצע תקיפות אדברסריות.
• שליטה בהקשר הארגוני שבו Copilot פועל, כך שהוא לא יוכל לעבד מידע ממקורות חיצוניים בעלי סיכון גבוה.

ניהול Copilot במערכות אוטומציה עסקית (Copilot in Power Platform and Dynamics 365)

הרחבת בקרת Copilot לתחומי ניהול תהליכים, אוטומציה וניתוח עסקי.

• ניהול תהליכי עיבוד נתונים רגישים המבוצעים על ידי Copilot בסביבות הכוללות נתוני לקוחות, עסקאות פיננסיות, ותהליכים קריטיים.
• קביעת הרשאות גישה מבוססות תפקידים, כדי לוודא שרק משתמשים מורשים יוכלו להפעיל שאילתות אוטומטיות על מאגרי מידע עסקיים.
• חסימה של פעולות מסוכנות המבוצעות ללא בקרה, כגון שליפת נתונים חיצונית, ביצוע שינויים בזרימות עבודה רגישות או ביצוע חישובים מוטים.

בקרת Copilot בפגישות Teams (Copilot in Teams meetings)

מאפשר למנהלים לשלוט על אופן השימוש ב-Copilot בתוך פלטפורמת Teams.

• הגנה על תוכן שיחות ומסמכים משותפים במהלך פגישות על ידי מניעת ניתוח שיחות רגישות ותרגום לא מורשה של מידע סודי.
• אכיפת מדיניות פרטיות מבוססת הקשר, כך ש-Copilot לא יוכל לגשת לתכנים מסווגים או להקליט שיחות ללא אישור מפורש.
• ניתוח מנגנוני שיתוף מסמכים והבטחת מנגנון בקרת גרסאות להגבלת שיתוף מידע מסווג באופן בלתי מבוקר.

מודל תשלום לפי שימוש (Copilot Pay-As-You-Go Billing)

אפשרות לקבוע חיובים מבוססי שימוש לפי היקף הפעולות של Copilot בארגון.

• שליטה על היקף השימוש של Copilot, מניעת ניצול יתר או הרצת תהליכים לא מבוקרים הגורמים לחשיפת נתונים רגישים.
• ניטור שימוש חריג שעשוי להעיד על פעילות זדונית, כגון יצירת שאילתות בנפח חריג, גישה למסדי נתונים גדולים, או ניסיון לבצע אוטומציה לא מאושרת.

בקרת הרחבות ותוספים (Extensions)

מאפשר קביעת הרשאות לגבי שימוש ב-Copilot עם יישומים חיצוניים ותוספים.

• מניעת פריצה דרך הרחבות זדוניות, אשר עלולות לנצל הרשאות יתר ולהעביר נתונים לא מאובטחים אל מחוץ לארגון.
• קביעת מדיניות גישה פרטנית לכל הרחבה, כולל בקרת אינטגרציה עם כלי צד שלישי.
• ניטור זרימת נתונים דרך ממשקי API כדי לזהות ניסיונות זליגת מידע דרך הרחבות צד שלישי לא מבוקרות.

הגבלת רכישות שירותים עצמיים (Microsoft 365 Copilot Self-Service Purchases)

שליטה על האפשרות של משתמשים לרכוש חבילות Copilot ללא אישור מנהלי.

• מניעת הכנסת גרסאות Copilot לא מאושרות שעלולות לחשוף את הארגון לסיכונים הקשורים לגירסאות לא מנוהלות או חשבונות חיצוניים.
• שליטה במודלי החיוב והשימוש, כך ש-Copilot יופעל רק דרך מנגנוני אימות, בקרה וניטור ארגוניים.

גישה לחיפוש אינטרנטי (Web Search for Microsoft 365 Copilot)

מאפשר ל-Copilot להשתמש במנועי חיפוש חיצוניים להשלמת תשובות.

• מניעת דליפת מידע פנימי דרך שאילתות למנועי חיפוש ציבוריים.
• הטמעת בקרות למניעת חשיפת מידע מסווג דרך חיפושים אוטומטיים בלתי מבוקרים.

הגנה על המידע

Purview מהווה נדבך מרכזי באבטחת המידע והציות הרגולטורי בעת השימוש בתשתית Microsoft 365 Copilot ואף ביישומי בינה מלאכותית נוספים. באמצעות ניהול מצב אבטחת נתונים (DSPM) עבור בינה מלאכותית, Purview מספק תובנות, מדיניות ובקרות המאפשרות לארגונים לאמץ טכנולוגיות בינה מלאכותית בצורה מאובטחת, מבלי להתפשר על הפרודוקטיביות.​

יכולות מרכזיות של Purview:

• תובנות וניתוח פעילות בינה מלאכותית: DSPM מספק כלים גרפיים ודוחות המאפשרים לקבל תמונה ברורה על השימוש ביישומי בינה מלאכותית בארגון, בפרט Microsoft 365 Copilot, ולהבין את ההשפעה על אבטחת הנתונים.​
• מדיניות מוכנות לשימוש: באמצעות מדיניות מובנות מראש, Purview מאפשר להגן על נתונים ולמנוע אובדן מידע בשאילתות המבוצעות על ידי יישומי בינה מלאכותית, תוך עמידה בדרישות רגולטוריות.​
• הערכות נתונים: זיהוי, תיקון וניטור של חשיפות יתר של נתונים, כדי להבטיח שתשתית Microsoft 365 Copilot ניגשת רק למידע המורשה, ובכך מצמצם סיכונים פוטנציאליים.​
• בקרות ציות: החלת מדיניות אופטימלית לטיפול ואחסון נתונים, המבטיחה עמידה בתקנים ותקנות, ומספקת שקיפות בתהליכי עיבוד הנתונים.​

ממשק DSPM for AI

ניהול מצב אבטחת נתונים לבינה מלאכותית (Data Security Posture Management for AI – DSPM for AI) הוא תחום מתפתח באבטחת מידע המיועד להבטיח הגנה מקיפה על נתונים רגישים שנצרכים, מאוחסנים, מעובדים או מופקים על ידי מערכות מבוססות בינה מלאכותית.
DSPM for AI מתמודד עם אתגרים ייחודיים הנובעים מהשימוש במודלים חישוביים, תהליכי למידה חישובית (Machine Learning), ותהליכי עיבוד שפה טבעית (NLP) בתוך סביבות AI ארגוניות.

חשוב להדגיש כי ניהול מצב אבטחת נתונים (DSPM – Data Security Posture Management) הוא קטגוריה רחבה המתמקדת בהבטחת הגנה, ניטור ושליטה על נתונים רגישים בכל רחבי הארגון. כאשר מוסיפים את הרכיב של בינה מלאכותית (DSPM for AI), מתווספות שכבות נוספות של אכיפת בקרות, ניטור שימוש במודלים חישוביים ומניעת זליגות מידע ייחודיות לסביבות AI.

אתגרי אבטחה בבינה מלאכותית והצורך ב DSPM for AI

מודלים חישוביים בארגונים משמשים לעיבוד כמויות עצומות של מידע, כולל נתונים בלתי מובנים, טקסטואליים, גרפיים ומבוססי זמן אמת, תוך הפקת תובנות עסקיות קריטיות. עם זאת, היעדר מנגנוני ניהול מצב אבטחת נתונים מותאמים לבינה מלאכותית עשוי להפוך את המערכות הללו לחשופות לסיכונים מהותיים, כולל דליפות מידע, מניפולציות חישוביות, הטיית תוצאות עסקיות והפרות רגולציה חמורות. מסגרת ניהול מצב אבטחת נתונים למודלים (DSPM for AI) מספקת גישה מתודולוגית לזיהוי, ניטור, ניהול והקשחת מנגנוני הגישה לנתונים המשמשים לאימון, עיבוד ותפעול מערכות AI.

סיכוני אבטחה, איך הם נראים? 

• חשיפה בלתי מבוקרת של נתונים רגישים – מודלים חישוביים עלולים לשמור מידע מסווג בזיכרון חישובי זמני או להחזיר תשובות המכילות מידע שהוזן במהלך האימון
• דליפות מידע מתוך מנגנוני חיזוי ולמידה חישובית – שאילתות ממוקדות או מניפולציות חישוביות עשויות לאפשר שחזור מידע מתוך מערכי האימון של המודל
• מניפולציות על תוצאות עסקיות – תקיפות הרעלת נתונים ושינוי פרמטרים חישוביים עלולות להטות מסקנות ולהשפיע על קבלת החלטות ארגוניות
• הזרקת נתוני חיזוי מזויפים – שינויים זעירים בנתוני הקלט יכולים לגרום למודל להפיק מסקנות שגויות ללא יכולת מובנית לזהות את ההטעיה
• גישה בלתי מבוקרת למודלים – ללא בקרות גישה מחמירות משתמשים לא מורשים עלולים להזין מידע שגוי או להפעיל שאילתות החושפות נתונים מסווגים
• איומים פנימיים וחיצוניים כתוצאה מהפעלת AI בארגון – מודלים בעלי הרשאות יתר עשויים לשמש גורמים עוינים לניצול מידע רגיש ללא פיקוח
• חוסר תאימות רגולטורית – מערכות חישוביות עשויות לאחסן, לעבד או לשתף מידע בניגוד להנחיות רגולציה וללא בקרת עמידה בתקנים
• אכיפת מדיניות פרטיות והגנה על נתוני משתמשים – מודלים המנוהלים ללא מנגנוני פרטיות מתקדמים עלולים לחשוף מידע אישי או לאחסן נתונים ללא בקרת מחיקה מתאימה.

איך נראה הדוח של Oversharing Assessment?

הגדרת DSPM for AI

הפעלת Microsoft Purview Audit היא רכיב קריטי ב DSPM for AI ומאפשרת מעקב רציף אחר אינטראקציות משתמשים, זיהוי ניסיונות גישה בלתי מורשית, ותיעוד אירועים הקשורים לנתונים רגישים.

• מעקב אחר פעולות משתמשים – רישום כל אינטראקציה עם Microsoft Copilot, כולל גישה, שאילתות והפעלת פקודות על נתונים מסווגים
• זיהוי והתרעה על פעילות חשודה – הפעלת חוקים לניטור חריגות, כולל ניסיונות להוציא נתונים מסביבות מאובטחות או לעקוף מדיניות הרשאות
• תיעוד למטרות חקירה פורנזית – יצירת רישומי פעילות מפורטים (Audit Logs) המאפשרים ביצוע חקירות לאחר אירועי אבטחה
• מעקב אחר שימוש במידע רגיש – איתור גישה לנתונים מסווגים, תיוג מידע רגיש וקישור הפעולות למשתמשים ספציפיים

איך מגדירים את Activate Microsoft Purview Audit? 

שלב 1: הפעלת Microsoft Purview Audit

ראשית, יש לוודא כי האפשרות של Audit מופעל, מאחר והוא מאפשר ניטור ותיעוד של אינטראקציות משתמשים עם יישומי AI כגון Microsoft Copilot. לצורך כך, יש להתחבר לפורטל Purview , לגשת ל Solutions, לבחור באפשרות "Audit" ולוודא שהAudit מופעל. אם הוא לא פעיל, יש ללחוץ על "Enable auditing".

מה קורה לאחר ההפעלה

• זיהוי פעילות ייקח עד 24 שעות
• נתוני האנליטיקה והדוחות יתחילו להתמלא באופן רציף עם המידע מתוך Copilot
• ניתן להגדיר תגובה אוטומטית לאירועים מסוכנים באמצעות שילוב עם מערכות אבטחת מידע נוספות

שלב 2: התקנת תוסף הדפדפן של Microsoft Purview

לצורך זיהוי אינטראקציות מסוכנות עם יישומי AI, יש להתקין את התוסף הייעודי של Purview בדפדפן הנתמך (Edge, Chrome או Firefox). התוסף ניתן לפריסה מרכזית עבור כלל המשתמשים בארגון באמצעות Microsoft Intune או Group Policy, בהתאם למדיניות הארגון.

שלב 3: חיבור מכשירים ל-Microsoft Purview

כדי להבטיח שמידע רגיש לא יזלוג ליישומי AI חיצוניים, יש לרשום את תחנות הקצה למערכת Microsoft Purview. תהליך זה נעשה דרך פורטל Microsoft Intune, שם יש ליצור ולהגדיר Device Configuration Profile הכולל חיבור אוטומטי למערכת Purview.

שלב 4: אימות יצירת המדיניות האוטומטית

מערכת DSPM for AI יוצרת באופן אוטומטי מדיניות לניהול סיכונים, הכוללת זיהוי אינטראקציות מסוכנות, ניטור גישה לאתרי AI, וגילוי מידע רגיש שמודבק או מועלה לאתרים אלה.

• מעבר לתפריט Insider Risk Management ו-Data Loss Prevention.
• אימות שהמדיניות נוצרה אוטומטית ומופיעה ברשימה תחת השמות:
  • DSPM for AI – Detect risky AI usage
  • DSPM for AI – Detect when users visit AI sites
  • DSPM for AI: Detect sensitive info added to AI sites
• בדיקה שהמדיניות פועלת במצב Audit (אם יש צורך בהערכה לפני אכיפה).
• לשינוי מצב המדיניות ל-Enforce, יש לערוך את ההגדרות המתאימות ולשמור.