Microsoft 365 Copilot: אתגרי Oversharing בהגנה על נתונים
ניהול בקרת גישה למידע ארגוני הוא נדבך מהותי בשמירה על חוסן אבטחת המידע, בצמצום משטח התקיפה ובהגנה על נכסי נתונים קריטיים. בפרט, בסביבות מבוזרות ומרובות משתמשים כמו Microsoft 365, בהן דליפות מידע, הרשאות עודפות ושיתוף יתר מהווים וקטורי סיכון מרכזיים, ישנה חשיבות מכרעת להחלת עקרונות אבטחה, כגון, Zero Trust, מנגנוני Least Privilege Access וניטור אנומליות מבוסס AI לזיהוי גישה בלתי מורשית בזמן אמת.
עם כניסתו של Microsoft 365 Copilot לארגונים, השימוש בבינה מלאכותית לניתוח ועיבוד נתונים מספק פרודוקטיביות פסיכית, בין אם זה למשתמש רגיל או משתמש עם טכנולוגי. יחד עם זאת, היכולות של Microsoft 365 Copilot מעלות גם פערי אבטחת מידע משמעותיים, בעיקר בכל הנוגע לגישה לא מבוקרת לנתונים מכלל הסרוויסים של Microsoft 365. חלקם לא חדשים.
מהם הסיכונים החדשים? מאז הגעתו לעולם של Microsoft 365 Copilot הוא חשף תריסרים רבים של ״בעיות ופערים״ בתשתית Microsoft 365 שמגיעות בעיקר מהגדרות ברירת מחדל, מיסקונפיג, תצורת עבודה לקויה של רכיבי Microsoft 365 ועוד. בינהם אפשר למצוא בעיה מרכזית ונפוצה, והיא שיתוף יתר ונגישות למידע—מצב שבו מידע ארגוני באשר הוא נגיש למשתמשים, אובייקטים או קבוצות מעבר לצורך הנדרש, מה שמוביל לסיכוני אבטחה משמעותיים.
הסיכון המרכזי הגלום בתופעת שיתוף היתר (Oversharing) ובהענקת גישה רחבה מדי למידע, טמונה בהעצמת משטח התקיפה הארגוני ובהגברת הסיכון לחשיפות בלתי מכוונות של נתונים רגישים. מצב זה נובע משילוב של מיסקונפיג, הגדרות דיפולטיות בלתי מחמירות, הרשאות ברירת מחדל לקויות, תצורות שיתוף לא מאובטחות, וכן מודלי הרשאות היררכיים בלתי מאוזנים בסביבת Microsoft 365.
בתרחישים של אינטגרציה מובנית בין Microsoft 365 Copilot לתשתית Microsoft Graph, בינה מלאכותית יכולה לאחזר ולנתח מידע רגיש ממקורות שונים, כולל מסמכים, דואר אלקטרוני, צ'אטים של טימס, לוגים פנימיים ועוד הרבה. במידה ואין מדיניות הרשאות הדוקה, Microsoft 365 Copilot עלול להציג מידע שאינו תואם עקרונות רבים של מדיניות אבטחה ארגונית, למשל, עקרון Zero Trust, וליצור סיכון אבטחת מידע ממשי, כולל דליפת מידע פנימית (Data Leakage), חשיפת תובנות עסקיות אסטרטגיות, וכן מידע רגיש למשתמשים בלתי מורשים.
איך נראית הארכיקטורה של Microsoft 365 Copilot? מבט מלמעלה על האינטגרציה והחיבור בין המערכות השונות המשמשות את Microsoft 365 Copilot וכן את תהליך העיבוד של פעולות משתמשים ובפרט את הגבולות של בתשתית של Microsoft 365.
מה עושים בכדי כדי לוודא שהסביבה הארגונית עובדת נכון מול התשתית של Microsoft 365 Copilot באופן מיטבי תוך מזעור סיכונים? יש ליישם בקרות גישה מחמירות, למפות נתיבים בהם מידע רגיש עלול להיחשף, ולהשתמש ביכולות כמו Microsoft Purview לניהול מדיניות Data Loss Prevention (DLP) באופן דינמי. (ניהול סיכונים, בקרות ודרכי התגוננות שיעלו במאמר נפרד).
האתגר הוא להבין כיצד לאתר ולהקטין את שיתוף היתר והגישה הרחבה, ולבנות תוכנית אסטרטגית לניהול סיכונים בסביבת Microsoft 365 Copilot.
אפשר לומר שהבעיות של שיתוף יתר וגישה רחבה לקבצים מחזיר אותי לימי ה MCAS (איפשהוא ב 2017) שבהם התחלנו לקבל נראות על הנעשה בתשתית Microsoft 365, הימים שבהם הבנו את הפוטנציאל הבעייתי והחשיפה של סרוויסים ב Microsoft 365, בינהם, SharePoint Online.
| כדאי לדעת. מעבר לסיכונים המוזכרים או הסיכון שמפורט במאמר זה, תשתית Microsoft 365 Copilot הינה שטח תקיפה לפעולות מתקדמות המבוססות על תקיפות מסוג LLM, מה שמחייב בחינה מעמיקה של וקטורי תקיפה פוטנציאליים. |
שיתוף יתר וגישה רחבה
אז מהו שיתוף יתר (Oversharing) וגישה רחבה למידע? שיתוף יתר מתרחש כאשר מידע או משאבים נגישים למשתמשים מעבר למה שנדרש לתפקידם או לצרכים העסקיים שלהם. תופעה זו עלולה להתרחש בסביבות כמו Microsoft 365, שבהן משתמשים משתפים נתונים ללא בקרות מחמירות או במקרים מסוימים בהן הסרוויס וכן ההגדרות אינן מאפשרות זאת.
גורמים עיקריים לשיתוף יתר:
- הרשאות כלל-ארגוניות רחבות – מסמכים או אתרי SPO שמוגדרים כ"נגישים לכל הארגון", מה שמאפשר לכלל העובדים גישה ללא צורך עסקי ברור.
- קישורים לא מבוקרים (קישורי שיתוף) – יצירת קישורים המאפשרים גישה לכל מי שמחזיק בקישור בתוך הארגון ומחוצה לו.
- ירושת הרשאות – תצורת הרשאות שבה גישה שניתנה לרמת Site ראשי מועברת אוטומטית לתיקיות וקבצים משניים, גם כאשר המידע בהם רגיש.
- מדיניות שיתוף לקויה – היעדר שליטה על שיתופים עם גורמים שונים או קבוצות גדולות בתוך הארגון אין בקרה על גישה למידע, כולל גישה למידע רגיש.
אם כך, מהי גישה רחבה (Excessive Access)? גישה רחבה מתייחסת למצב שבו משתמשים מקבלים הרשאות גישה עודפות למידע או משאבים שהם אינם זקוקים להם במסגרת תפקידם.
דוגמאות לגישה רחבה:
- משתמשים בעלי הרשאות עריכה על קבצים קריטיים, למרות שאינם אמורים לבצע בהם שינויים כלל.
- עובדים חדשים או לשעבר שעדיין מחזיקים גישה למידע רגיש עם הרשאות יתר מעבר לקריאה או עריכה.
- קבוצות הרשאה רחבות מדי, כמו "כלל הארגון" או קבוצות בעלי משתמשים רבים, במקום הענקת הרשאות סלקטיבית לפי צורך.
אז שיתוף יתר וגישה רחבה הם דיי דומים. אם כך, מה בכל זאת ההבדל בינהם?
שיתוף יתר (Oversharing) – מתייחס למצב שבו משתמשים משתפים מידע עם אנשים או קבוצות שלא אמורים להיות חשופים אליו. לרוב, זה נובע משימוש בהרשאות יתר מדי בעת שיתוף מסמכים, אתרים או קישורים.
גישה רחבה (Excessive Access) – מתרחש כאשר משתמשים מחזיקים בהרשאות גישה גבוהות מדי עבור מידע ונתונים בתוך SharePoint ארגוני, גם אם הם לא משתמשים בפועל בגישה זו אן אינם מנהלים גישה זאת. גישה רחבה אינה בהכרח מצב שבו המשתמש מנצל את הגישה, אלא מצב שבו היא קיימת ויוצרת סיכון.
שני המצבים מתרחשים בצורה ישירה או עקיפה ב Microsoft 365 Copilot. בפרט שיתוף יתר.
שיתוף יתר (Oversharing)
בשיתוף, כל משתמש הופך למנהל הרשאות… כן המשפט הזה אינו חדש, אך עלה שוב כאשר Microsoft 365 Copilot התחיל להנגיש את המידע ברמת הבורג לכל משתמש. אני קורא לזה ״פולט את כמויות המידע לכל משתמש״.
אז איך מתרחש שיתוף היתר (Oversharing) וגישה רחבה למידע? ישנם תריסרים רבים של הגדרות/אפשרויות/מקרים ואף פעולות שנעשות על ידי המשתמשים שיכולים לגרום לשיתוף יתר בכל הסרוויסים המרכזיים של Microsoft 365 – הבולט שבהם הוא SharePoint Online וכל סרוויס או רכיב הקשור אליו כדוגמת One Drive for Business או Teams וכן הלאה. הדוגמה הבאה היא אחת מבין תריסרים רבים של פעולות שיתוף יתר בסביבת Microsoft 365.
| כדאי לדעת: לא מדובר בבאג אבטחה, Abuse או פגיעות מובהקת, אלא באתגרי תשתית המאפשרים ניצול פוטנציאלי בדרכים מוכרות ובדרכים שאינן צפויות. |
הגדרות שיתוף רחבות מדי
בתשתית SharePoint Online, משתמשים יכולים לשתף קבצים, תיקיות ואתרים הן עם גורמים פנימיים והן עם משתמשים/אובייקטים חיצוניים, וזה קורה בדיפולט. כאשר משתמשים בוחרים באפשרות של ״העתק קישור״, הם למעשה מאפשרים גישה בלתי מבוקרת לכל אדם שמחזיק בקישור, ללא צורך באימות. מצב זה, אם אינו מנוהל כראוי (ברוב המקרים), ולכן עלול להוביל לחשיפת מידע מסווג, לניצול קישורים פתוחים ולסיכוני Data Exfiltration.
במקרים רבים הגישה החיצונית סגורה אך האפשרות של ״העתק קישור״ איננה הגדרה שניתן למנוע לגמרי.
איך מתרחש הסיפור של שיתוף יתר?
טוב, זה קורה בצורה שקטה. תחילה, משתמש יוצר מסמך או מעלה מסמך לספריית המסמכים של SharePoint Online, משם יבצע פעולה של ״העתק קישור״. המשתמש למעשה יוצר קישור גישה המאפשר קריאה/עריכה לכל מי שמחזיק בקישור ללא צורך באימות. כלומר כל משתמש שמקבל את הקישור יוכל לקרוא/לערוך את המסמך ולבצע בו שינויים ללא צורך באישור נוסף. לכן, פעולה זו מרחיבה באופן משמעותי את הסיכון שכן אין כל ודאות שהקישור לא יועבר לגורמים חיצוניים או שאנשים ללא הרשאה רשמית בארגון לא יקבלו גישה בלתי מבוקרת אינו קיים.
הפעולה המוזכרת מתרחשת במסמכים רגישים, ולכן האפשרות של העתק קישור הינה בעלת סיכון.
בדיקת הרשאות וגישה גורפת של משתמשים
במידה ונבדוק את הרשאות הגישה לפני כן מתוך ממשק המשתמש הרגיל נוכל לשים לב להבדלים. באפשרות של ניהול ההרשאות של Manage Access ניתן לראות כי קיימות שתי קבוצות ספציפיות עם הרשאות גישה ספציפיות לגורמים מסוימים בלבד, והמסמך אינו משותף לכלל המשתמשים.
לאחר ביצוע הפעולה הלגטימית ניתן לראות כי קיים קישור חיצוני המאפשר גישה חופשית למסמך ללא הגבלות. מצב זה מאפשר לכל משתמש לקרוא את המסמך ללא מגבלה.
| כדאי לדעת: במקרים שבהם הגדרות השיתוף ב SharePoint Online מחמירות ואינם מאפשרות גישה חיצונית. עדיין, פעולת ״העתק קישור״ של משתמש רגיל תנגיש את הקובץ לכלל המשתמשים בתוך הארגון. |
הפעולות הללו מתבצעות מנקודת מבטו של המשתמש עצמו, תוך ניצול לגיטימי של יכולות מובנות בסביבת Microsoft 365 הארגונית.
ובכן, משתמש שיתף קובץ שלא במודע לכלל הארגון, מה הסיכון לכך? מה הבעיה? על מה הרעש? זה לא חדש, מה העניין? למה פתאום Microsoft 365 Copilot יוצר מהומה אחרי שנים של שיתוף מידע בצורה כזאת? הסיבה המרכזית לכך נעוצה בעובדה שהמידע שהמידע היה במרתפים, ללא משתמשים שטרחו לנווט בין כמויות הנתונים בממשקי SharePoint Online, לבחון את היקפו, לאתר מידע רגיש או לנתח את נגישותו.
השלכות אבטחה של שיתוף יתר וגישה רחבה
במאמר שפרסמתי בעבר הרחוק על אבטחה, ניהול והגנה על נתונים המאמר משתף מידע וקישורים מתוך דוחות שפורסמו, כולל זה של Global Data Risk Report. בדוח ניתן לראות את מידת החשיפה של מידע רגיש לכלל המשתמשים. מתוך המאמר ״הדוח של Global Data Risk Report מצא כי ב 53% מהארגונים, למשתמשים יש גישה לאלפי קבצים רגישים. בנוסף, בממוצע, לכל משתמש יש גישה ל 11 מיליון קבצים, כאשר 17% מהקבצים הרגישים זמינים לכלל המשתמשים".
טוב, זה היה לפני מספר שנים, ומאז אחוזי הגישה למידע ובפרט למידע רגיש עלו בצורה ניכרת. איפה הסביבה שלך בסיטואציה הזאת?
מידע רגיש וכן נתוני יתר שנגישים למשתמשים רגילים הוא עובדה קיימת ולא צריך להרחיק לדוחות בכדי להבין שזה מצב קיים. מכאן זה לוקח אותנו להשלכות וסיכוני אבטחה.
האתגר של שיתוף יתר ובפרט Microsoft 365 Copilot יוצר משטח תקיפה רחב יותר עבור תוקפים, ומגבירים את סיכוני הדליפה והפרות המדיניות הארגונית. בין הסכנות המרכזיות ניתן למצוא:
- דליפת מידע – מידע רגיש עלול להיות זמין למשתמשים שאינם מורשים, מה שעלול להוביל להדלפות פנימיות.
- חשיפה למתקפות סייבר – תוקפים יכולים לנצל חשבונות פרוצים כדי לקבל גישה לנתונים קריטיים דרך גישת יתר.
- אי ציות לרגולציות – חשיפה לא מבוקרת של מידע מפרה תקנות פרטיות, כגון: GDPR, ISO 27001 או NIST.
- גישה בלתי מבוקרת למידע קריטי – במידה ואין מודעות לרמת הגישה שיש למשתמשים שונים, עשויה להיווצר סכנה מודיעינית (Business Intelligence Leakage).
האחרון הוא מעניין, למה? בעוד שהמיקוד הארגוני באבטחת מידע נוטה להיות סביב הגנת נתונים רגישים כמו מידע פיננסי, נתוני לקוחות או קניין רוחני, היבט בעל סיכון גבוה הוא המודיעין העסקי – מידע שיכול להעניק יתרון תחרותי למתחרים, לסייע לתוקפים לבנות פרופיל על החברה, או להוות כלי לאיומים מתקדמים.
האם Microsoft 365 Copilot יוצר מציאות חדשה של חשיפות מידע? אפשר לחשוב על הסיכון הזה בכך שלצד יתרונות ברורים, היכולת שלו לשלוף ולהציג מידע במהירות מחייבת חשיבה מחודשת על ניהול הרשאות ושיתוף נתונים. מה שהיה בעבר מוגבל לחשיפה ישירה של קובץ מסוים, הפך כעת לחשיפה של רעיונות, מגמות והקשרים שלא בהכרח נבחנו בהיבטי אבטחת מידע.
אם בעבר ניתן היה לטעון כי שיתוף יתר היה בעיה של הרשאות גישה בלבד, הרי שכיום הבעיה הפכה למורכבת יותר. מידע שהיה מבוזר הופך לנגיש לכל משתמש עם Microsoft 365 Copilot, גם אם מעולם לא הייתה לו גישה ישירה למסמכים הרלוונטיים.
איך נראה שיתוף יתר מתוך משתמש רגיל? ישנם תריסרים רבים של אפשרויות/סימולציות לניצול מידע מתוך משתמש רגיל. בדוגמה הבאה רשמתי מספר הנחיות רגילות מתוך משתמש רגיל וביקשתי מידע רגיש:
"What is the content of the most recent confidential document stored in SharePoint?"
Microsoft 365 Copilot מספק תשובה מתוך מסמך שנמצא בתשתית SharePoint, עם תצוגה מקדימה של התוכן. בנוסף, Microsoft 365 Copilot הצליח לשלוף נתונים מתוך מסמך מסווג, מסמך שלא ידעתי שיש לי גישה אליו, ולכן מעלה סיכון חמור של חשיפת מידע רגיש עקב שיתוף יתר.
כמה עובדות על שיתוף יתר ולמה הוא בעל סיכון
שיתוף יתר הוא בלתי נמנע ולכן כל משתמש הופך למנהל הרשאות. במקרה כזה כל משתמש בעל גישה למסמך יכול להפוך אותו לנגיש לאחרים – לעיתים מבלי להבין השלכות. כברירת מחדל, שיתוף מתבצע בקלות, והיכולת להעניק גישה גורפת, כולל לגורמים חיצוניים, מגדילה את הסיכון. לעיתים, גישה זמנית הופכת לקבועה, ומשתמשים שוכחים לבטל הרשאות שכבר אינן נחוצות.
שיתוף יתר מתבצע "מתחת לרדאר" ולעיתים רבות מתרחש המקרה של ״מאוחר מדי״. וזאת, למרות כלים מובנים לניהול הרשאות, גישה ובפרט נראות. מכאן סביבות נמצאות במצב של מפת ההרשאות הארגונית הופכת למבוך מורכב שקשה לפענח. צוותי IT ובפרט צוותי אבטחת מידע אינם תמיד מודעים מי שיתף מה, עם מי, ולכמה זמן. חלק מהשיתופים נעשים דרך קישורים פתוחים ללא מעקב או בקרה, מה שהופך את הנראות של נתונים למעורפלת ומסוכנת.
שיתוף יתר פותח דלתות לתוקפים ומידע רגיש עלול לזלוג, לכן, כל תוקף פוטנציאלי – בין אם גורם עוין חיצוני או Insider Threat – יכול לנצל את שיתוף היתר כמנוף להרחבת גישה ולביסוס דריסת רגל בארגון. מיוצר לציין שמסמכים הכוללים סיסמאות, מידע עסקי מסווג או נתוני לקוחות קיימים בשטח, ואלה עלולים להגיע לידיים הלא נכונות דרך שרשור הרשאות ושיתוף לא מבוקרות.
לא מספיק "להגביל הרשאות" וצריך לנהל אותן בצורה חכמה. שיתוף יתר הוא תופעה בלתי נמנעת, אך ניתנת לניהול, ניטור ומניעה עם גישה מושכלת, פרואקטיבית ואף מבוססת על עקרונות נוספים, כמו זה של Zero Trust. חייב לזכור כי ללא נראות ובקרת גישה אפקטיבית, כל משתמש הופך ״למעגל חוליה חלשה" אפשרי, ולכן כלי אבטחה מתקדמים לצד מודעות משתמשים הם המפתח למניעת חשיפות מיותרות.
אבל יש לנו DLP… כך אמרו רבים וטובים. היכולות של מניעת זליגת מידע (DLP) אינן יכולות לחסום את הכל ובצורה מלאה. בתשתית Microsoft 365, כל משתמש יכול לשתף מסמכים דרך OneDrive, SharePoint, Teams ודואר, כולל סרוויסים משניים, לרוב עם מינימום מגבלות. גם כאשר מדיניות DLP מופעלת, היא מבוססת זיהוי של תבניות נתונים רגישים, ולכן לא תמיד היא מסוגלת לזהות הקשרים עסקיים ספציפיים או מידע מודיעיני שאינו מסומן מראש כרגיש.
בנוסף, פוליסי של מניעת זליגת מידע טובה ככל שתהיה, איננה יכולה להבחין בין שיתוף לגיטימי לבין שיתוף מסוכן במקרים רבים משתמשים עוקפים את מנגנוני DLP על ידי עריכה קלה של המסמך, המרתו לפורמט אחר, או שימוש בשיטות שיתוף בלתי ישירות כמו העתקת תוכן והעברתו בערוצים אחרים.
בקטע הזה של מניעת זליגת מידע אפשר לשאול את השאלות הגדולות, אלה שאין עליהם תשובות. מהו מידע רגיש? מי מכיר את המידע הרגיש? איך מסווגים את המידע הרגיש?
בקיצור, לסמוך רק על מדיניות מניעת זליגת מידע זה כמו לשים גדר מסביב לאגם ולצפות שהמים לא יזרמו דרכו.
הסיכון מתוך Microsoft 365 Copilot
הסוגיה של שיתוף יתר אינה חדשה כלל, אז מה השתנה פתאום? הטכנולוגיה החדשה, Microsoft 365 Copilot, נכנסה לזירה ושינתה את חוקי המשחק, תוך שהיא מאפשרת גישה נוחה ומהירה למידע שבעבר היה חבוי במרתפי המערכת.
כיצד Microsoft 365 Copilot מחריף את הבעיה?
התשתית של Microsoft 365 Copilot מבצעת אינטגרציה עמוקה עם סביבת העבודה של Microsoft 365, כולל OneDrive, SharePoint, Teams, Outlook וכלי Office נוספים. משמעות הדבר היא שהוא ניגש, מסכם ומציג מידע מגוון כדי להעניק למשתמשים תובנות מהירות וחכמות.
- שיתוף יתר שהפך לשקיפות יתר – מסמכים שהיו עד כה נסתרים ברמות הרשאה נמוכות עלולים להפוך לנגישים בעקבות הנחיות (prompts) של Microsoft 365 Copilot.
- איחוד מידע ממקורות שונים – Microsoft 365 Copilot מסוגל לקשר בין תובנות שונות וליצור תמונה רחבה יותר, מה שמגביר את הסיכון לזליגת מידע רגיש.
- חשיפת נתונים לא מכוונת – משתמשים שאינם מודעים לחשיפה הארגונית עלולים לקבל תובנות המבוססות על מסמכים שמעולם לא היו אמורים לראות.
בעוד שבעבר שיתוף יתר היה בעיה שניתן היה לשלוט בה באמצעות מדיניות מסוימת, כיום, Microsoft 365 Copilot משנה את התמונה בכך שהוא מנגיש מידע רגיש באופן בלתי צפוי, מה שהופך את ניהול ההרשאות והבקרות לאתגר מורכב יותר מאי פעם.
התמודדות עם "הזיות" – כיצד שיתוף יתר מחמיר את הבעיה?
הסיכון AI Hallucinations (מי אמר הזיות?) היא תופעה שבה מערכות בינה מלאכותית מייצרות או מציגות מידע שגוי כאילו היה עובדה מוצקה. בקיצור, תשתית AI יכולה לדמיין מציאות שאיננה קיימת והמשתמש מאמץ, משתף פעולה ומסייע ״לבעיה״.
מדובר באחת הבעיות הקריטיות ביותר בתקופה שבה מסתמכים על AI לצורך עיבוד נתונים, ניתוח מודיעיני, תגובה לאיומים וקבלת החלטות מבוססות נתונים. ברוב המקרים, הדרך היחידה לזהות "Hallucinations" היא היכרות מעמיקה עם המידע הנכון, שכן AI (ומודלים שהוא מייצג) יכול להציג נתונים משכנעים אך נטולי ביסוס עובדתי. כאשר משתמש רגיל שאינו מומחה בתחום נחשף למידע כזה, הוא לרוב לא יזהה את הפערים ולכן ישלב את המידע השגוי ביומיום שלו – מה שעלול להוביל להחלטות מוטעות, ניתוחים מסולפים ואף תהליכים עסקיים שגויים.
כיצד שיתוף יתר (Oversharing) מחריף את הבעיה? אחת הסיבות המרכזיות לכך ש AI Hallucinations הופכות לבעיה חמורה היא היעדר בקרות נאותות על המידע שהמערכת צורכת. כאשר מתבצע שיתוף יתר של נתונים בסביבות כמו Microsoft 365, מידע רב נגיש ליותר מדי גורמים, מה שמקשה על סינון, ניטור ובקרת איכות המידע שנכנס למערכות AI.
השפעות של שיתוף יתר
- AI Hallucinations מייצר משטח תקיפה רחב יותר של נתונים שגויים – כאשר כמויות עצומות של מידע משותף באופן בלתי מבוקר, AI עשוי לשלוף נתונים ישנים, חסרי הקשר או פשוט נתונים שגויים ולשלבם במענה שהוא מייצר למשתמש.
- קושי בזיהוי מקורות אמינים – מידע המגיע משכבות שונות של הרשאות, מערכות וגורמים חיצוניים עלול לייצר חוסר ודאות לגבי מקור האמת.
- שרשור שגיאות מתפשט – עובד שמשתמש במידע שגוי ומשתף אותו מבלי לדעת שהוא מוטעה, למעשה מרחיב או מנציח את הבעיה, מה שעלול להשפיע על ניתוח איומים, המלצות עסקיות, ואפילו על תגובות לאירועי אבטחת מידע.
| טיפ: אם תחשפו מידע שנחשב “כביכול רגיש”, המכיל נתונים עסקיים, ותנגישו אותו, המשתמשים באופן טבעי ישתפו פעולה—יוסיפו מידע, ישתמשו בו, ואפילו יתבססו עליו. התוצאה? שרשור של מידע מוטעה, שעלול להתפשט ולהשפיע בארגון. נסו זאת. |
בנוסף לזה אפשר להוסיף את הסיכון של הסתמכות יתר ומשם המשתמשים הולכים לאיבוד בין ערימות המידע. המאמר המצורף מרחיב לגבי הבעיות של הסתמכות יתר.
הפרדוקס של הסתמכות יתר (Overreliance) על מודלים (LLM) ליצירת תוכן: הדרך לניצול חכם
הבעיה של שיתוף יתר והשילוב של AI איננה רק טכנולוגית אלא גם תפעולית וארגונית. כאשר המידע בארגון חשוף, בלתי מבוקר ונגיש ללא שליטה, היכולת של מודלים חכמים ובפרט Microsoft 365 Copilot לספק תובנות מדויקות נפגעת וויכולה להוביל לסיכוני אבטחה נוספים.
לסיכום
לפני הסיכום. עדיין צריך לומר שהאפשרויות של ניטור, נראות, הגנה והבנה על הנעשה ברמת הבורג בתוך Microsoft 365 Copilot אל מול כלל הסרוויסים של Microsoft 365 קיים וסוגר סיכונים ופערי אבטחה, לעיתים עד עד לכדי מצב של 90% כיסוי נראות והגנה. איך זה קורה? עם ידע, כישורים והבנה של הסיכונים אל מול הכלים ואיך לפעול.
שיתוף יתר במערכת Microsoft 365 הפך לאחד מאתגרי האבטחה המרכזיים של ארגונים, וזה בעיקר עם כניסת טכנולוגיות חדשות כמו Microsoft 365 Copilot. המערכת מאפשרת שליפה והצגה של מידע ממספר מקורות באופן חכם ודינמי אך יחד עם היתרונות המשמעותיים נפתחות גם דלתות חדשות לסיכוני אבטחה מידע שעד כה היה נגיש רק למשתמשים ספציפיים יכול להופיע בתשובות שמייצר Microsoft 365 Copilot מה שיוצר אתגר של חשיפת מידע בלתי מכוונת ויכולת של משתמשים לראות תובנות שלא היו אמורות להיות נגישות להם
האיומים המרכזיים שנובעים מכך הם שיתוף יתר של מידע מסווג והקשרים חדשים שנוצרים בין נתונים רגישים Microsoft 365 Copilot מסוגל לקשר בין קובצי תכנון פיננסי לתכתובות פנימיות ולהציג מידע באופן שעלול לחשוף אסטרטגיות עסקיות או מידע מסווג. בעיה נוספת היא שהתלות בכלים כמו DLP אינה מספיקה כדי להתמודד עם המציאות החדשה שכן מנגנוני DLP מתבססים על זיהוי של דפוסי מידע ספציפיים אך אינם יודעים לזהות תובנות חדשות שמחבר Microsoft 365 Copilot מתוך שילוב של נתונים ממקורות שונים
הסיכון המשמעותי ביותר הוא האפשרות שתוקפים או משתמש פנימי ינצלו את היכולת הזו כדי לבצע להזליג מידע או לבצע תקיפות מבוססות מודיעין כאשר Microsoft 365 Copilot מחבר נקודות ומציג מידע ממספר מקורות. במצב כזה, מי (תוקף פוטנציאלי או Insider Threat) שיקבל גישה לתשובות Microsoft 365 Copilot יכול לבנות תמונה רחבה על הארגון להבין אילו פרויקטים פעילים לזהות תשתיות קריטיות ולהשתמש במידע לטובת תקיפות ממוקדות.
בקיצור, איך אפשר להגן? על מה בדיוק להגן? איך מקבלים נראות? איך ניתן להגיע למידע רגיש ולנצל הנחיות ב Microsoft 365 Copilot? איזה הנחיות יכולות לפרק את Microsoft 365 Copilot ולהחזיר פלט ערכי מבחינת תוקף? הרבה שאלות ואפשרויות שנדון בהם במאמרים הבאים.
מאמרים נוספים
להעמקה נוספת בנושאי אבטחת AI, בקרו בבלוג CyberDom שם ניתן למצוא מאמרים מקיפים על סיכוני אבטחה במערכות AI, התקפות מבוססות AI, וכיצד ניתן להתמודד עם האיומים והסיכונים החדשים של AI Security.
🔗 CyberDom AI Security
במאמר שפורסם על ידי Microsoft Tech Community מוצגות תכונות אבטחה שנחשפו באירוע Ignite 2024, כולל חידושים במדיניות אבטחה, בקרות Zero Trust, וכלים מתקדמים לזיהוי וניהול הרשאות Copilot. המאמר מתאר כיצד Microsoft מחזקת את אבטחת הנתונים בארגונים, תוך שילוב של Machine Learning וניתוח התנהגותי כדי למנוע שיתוף יתר ודליפת מידע בלתי מבוקרת
🔗 Microsoft Tech Community – Microsoft 365 Copilot Security
