Copilot Memory מהקשר בודד להבנה מתמשכת

הרגע שבו אני מתחיל מחקר אבטחה על יכולות חדשות ב Microsoft 365 Copilot, ותוך זמן קצר מזהה אביוזים מיידיים בשילוב של Custom Instructions יחד עם Copilot Memory. אומנם, פיצ'רים מתקדמים ונחוצים, אבל עם שטח תקיפה לא קטן שמזמין תקיפות AI מוכרות עם טקטיקות מגוונות.

מדובר בצעד טבעי באבולוציה של תשתיות AI, ובפרט ב Microsoft 365 Copilot, מתוך מצב של מודל תגובתי לכלי עם זיכרון מתמשך, הקשר אישי, והתאמה דינמית. אך באותו רגע בדיוק שבו המערכת לומדת אותך טוב יותר, היא גם הופכת לפגיעה יותר להזרקות הקשר (context injections), הרעלות זיכרון (memory poisoning) ושרשראות תקיפה שנשמרות לאורך זמן ויכולות לחצות בין אפליקציות Microsoft 365, מבלי לעורר חשד מיידי.

הפער בין הצורך הפרודטיבטי והפיצ’רים החדשים לבין השלכות האבטחה ברור, והוא יותר קונטקסט שזה שווה ערך למשתמש, אבל גם יותר משקל למידע שניתן לנצל לתקוף, לשנות ושאר ירקות.

במאמר הזה לא אתמקד או ארחיב לגבי האפשרויות תקיפה ואביוז מול Custom Instructions או Copilot Memory, אבל בקרוב יעלה המאמר בבלוג הראשי שלי בכתובת: https://cyberdom.blog.

הקדמה

המעבר מתשתיות AI כלליות אל תשתיות AI מותאמות אישית מסמן את השלב הבא באבולוציה של מערכות בינה מלאכותית. מעבר מכלי תגובתי, שמתפקד כמנוע תשובות שבמחצית מהמקרים הוזה, למערכת מתקדמת ומתמשכת הפועלת כסייען אישי בעל זיכרון מצטבר. היכולת Copilot Memory החדשה בתוך Microsoft 365 Copilot מממשת את העקרון באמצעות תשתית שמאפשרת ל Copilot לשמר, לארגן, ולשלוף מידע רלוונטי לאורך זמן, תוך שמירה על הקשר, העדפות ברמת משתמש, דפוסי עבודה ותכנים קודמים שהצטברו על פני מספר אפליקציות.

המשמעות היא ש Copilot כבר לא מגיב רק למה שכותבים באותו רגע, אלא לומד ומתאים את הפלטים בהתבסס על אינטראקציות קודמות, מסמכים, תכתובות מייל, צאטים ודיונים ב Teams, ונתונים מיישומי Microsoft 365 נוספים. התוצאה היא שיפור דרמטי בפרודוקטיביות ובדיוק התשובות. במקביל, נפתחים גם אתגרי אבטחת מידע חדשים: ניהול ושליטה על מה שנשמר, זיהוי והגנה מפני הזרקת תוכן זדוני, ואבטחת שלמות הזיכרון.

תשתית הזיכרון הזו אינה רק פיצ'ר היא שינוי ארכיטקטוני שממקם את Copilot בעמדה של עוזר דיגיטלי אמיתי, עם רציפות קונטקסטואלית, יכולת הסתגלות, ויכולת לנצל את המידע הקיים כדי לספק תשובות והמלצות שמרגישות "מחוברות" יותר למציאות שלך.

אז כמה פעמים אני יכול לחזור על עצמי ולכתוב את אותו הדבר? לא הרבה (למי יש סבלנות), ובטח שאני צריך להתקדם עם היומיום שלי.

רקע וצורך

ביולי 2025 השיקה מיקרוסופט את Copilot Memory, יכולת חדשה ב Microsoft 365 Copilot, שנועד לשנות את הדרך בה יוזרים עובדים עם AI בסביבות ארגוניות. Copilot כבר אינו פועל כמודל תגובתי המתבסס על ההקשר המיידי בלבד, אלא כעוזר דיגיטלי בעל זיכרון מצטבר, המסוגל לשמר ולהשתמש בידע אישי על המשתמש לאורך זמן. הידע שנשמר יכול לכלול העדפות טכנולוגיות, תהליכי עבודה קבועים, פרויקטים פעילים, רשימות אנשי קשר רלוונטיות, דגשים תוכניים, וסגנון כתיבה.

היכולת הזו פותרת שתי בעיות משמעותיות:

הפחתת חזרתיות ותסכול תפעולי בגלל שאין עוד צורך להזין שוב ושוב את אותם פרטים בכל אינטראקציה. Copilot יכול לזכור עובדות, הנחות, ותבניות עבודה שהוגדרו בעבר, ולהשתמש בהן באופן אוטומטי בכל נקודת מגע חדשה.

שמירה על רצף קונטקסטואלי, מפני ש Copilot מסוגל לחבר בין אינטראקציות שונות לאורך זמן, לזהות קשרים בין אירועים, ולעבוד על בסיס תמונה מלאה של היסטוריה וצרכים.

אז מהיכן הגיע AI Personalized? הסיבה הראשונית להופעת Copilot Memory נעוצה בשני גורמים מרכזיים: השינוי הדרמטי בתחום ה AI והדרישה המתגברת מהשטח. הבקשה ליכולות מהסוג הזה אינה מקרית והיא תוצר של לחץ ברור מצד ארגונים ויחידים הפועלים בסביבות עתירות מידע, בהם אין עוד מקום לסייען וירטואלי שמגיב לכל שאילתה כישות מנותקת וללא הקשר מצטבר.

כידוע, במציאות בה נפח הנתונים גדל בקצב אקספוננציאלי והיוזרים נדרשים לנהל עשרות תהליכים במקביל, הצורך בסייען AI שמסוגל לנהל הקשר לאורך זמן, להמליץ בהתאם להיסטוריית הפעילות, לשמור עקביות בין אפליקציות שונות, ולהבין את התרבות והטרמינולוגיה הייחודית של הארגון הפך לדרישה קריטית.

לכן, נדרשת יעילות, עקביות, הקשר מתמשך והתאמה אישית ובדיוק כאן Copilot Memory הוא חלק מהמעבר ממערכות AI נקודתיות לכלים דינמיים שמבינים את המשתמש ומלווים אותו לאורך מחזורי העבודה.

היתרונות של Copilot Memory

מפתרונות מותאמים אישית ועד להמלצות רלוונטיות, יכולת ה Memory החדשה של Copilot הופכת את האינטראקציות עם הבינה המלאכותית לחלקות ומדויקות יותר מאי־פעם. אלו הם חלק מהיתרונות הבולטים:

התאמה אישית מתקדמת על מנת ש Copilot יזכור את מה שחשוב לך וישפר את ההצעות והפתרונות שהוא מספק בכל אינטראקציה. בין אם מדובר בעידוד לעמידה ביעדי הכושר שלך או בהמלצות ללעבודה יומיומית, Copilot מציע פתרונות מותאמים להעדפות האישיות שלך.

חיסכון בזמן בכדי לחסוך שעות אחר מסמך ארגוני, Copilot שולח הודעות יזומות והמלצות המבוססות על שיחות קודמות ועל תחומי העניין שלך, ומקצר משמעותית את זמן החיפוש.

השראה ורעיונות חדשים בכדי לשבור מחסום יצירתי, Copilot מציע רעיונות והשראה בהתבסס על האינטראקציות הקודמות שלך, החל מהמלצה על פונטים לפרזנטציה ועד לפתיחת דלת לעולם הקוואנטום. המערכת מתאימה את עצמה בצורה גמישה לדרישות ומאפשרת להרחיב אופקים ולהפיק את המרב מהיומיום.

נגיעה ברכיבים

כדי להבין את Copilot Memory יש לבחון את רכיביו, סוגי המידע הנשמרים, מנגנוני ההגדרה, הבקרה והניהול הארגוני ואת נקודות המפגש בין הטכנולוגיה לבין השליטה האנושית.

אז מה נשמר?

Copilot Memory

מתעד פריטים בעלי כוונה פרסונלית מובהקת בלבד, במטרה לשמר הקשר מתמשך בלי לזהם את הזיכרון. העיקרון המנחה הוא מזעור נתונים, כך שנשמר רק מה שמייצר ערך מתמשך. דוגמאות לפריטים שנשמרים:

א. העדפה טכנולוגית, לדוגמה: "אני עובד ב Python עבור פרויקטי Data Science".
ב. סדרי עדיפויות, לדוגמה: "פרויקט אלפא הוא עדיפות ראשונה".
ג. העדפות תוכן ופורמט, לדוגמה: "עדיף תקציר מבוסס נקודות עם הפניות בסוף".
ד. העדפות תקשורת, לדוגמה: "פנייה רשמית באנגלית בפנייה ללקוחות, לא פנימית".

דוגמאות למידע שאינו נשמר

א. פקודות חד פעמיות, לדוגמה: "כתוב קוד ב־Python ל k-means".
ב. ניסוי חד פעמי או שאילתת בדיקה קצרה ללא כוונה מתמשכת.

מדוע זה חשוב לאבטחה?

א. ההפרדה בין ידע הקשרי מתמשך לבין פקודות חולפות מצמצמת את משטח התקיפה ומקטינה סיכוי להרעלת זיכרון.
ב. מזעור נתונים מפחית סיכון לדליפה ולהסקת מסקנות לא מורשות על דפוסי עבודה.

המימד האנושי

א. מומלץ לאמן משתמשים לזהות מהו פריט בעל ערך מתמשך לעומת פקודה רגעית.
ב. יש לקבוע שגרת ביקורת תקופתית על פריטי הזיכרון כדי להסיר פריטים שפג תוקפם.

Custom Instructions

מגדיר מראש טון ונימה, רמת רשמיות, סגנון כתיבה, מבנה ואורך, פורמט וסגנון, ופועלות כבסיס יציב לכל אינטראקציה כדי למנוע סטייה לא רצויה בהקשר. מה מגדירים בפועל?

א. טון כתיבה, לדוגמה: "ענייני, קצר, נטול אייקונים".
ב. פורמט מועדף, לדוגמה: "הצג ממצאים תחילה, ולאחר מכן נימוק".
ג. מדיניות שפה, לדוגמה: "אנגלית רשמית ללקוח, עברית פנימית".

שיקולי אבטחה

א. הנחיות קבועות יוצרות עקביות ומצמצמות סטיית הקשר, אך אם הוכנסו אליהן הנחיות בעייתיות, הן עלולות להקבע לאורך זמן.
ב. נדרש מנגנון ביקורת אנושי על השינויים ב Custom Instructions, במיוחד בארגונים, כדי למנוע מניפולציה מתמשכת.

המימד האנושי

א. מומלץ תבניות מאושרות מראש לפי צוותים ויחידות עסקיות כדי לצמצם חופש ניסוח שעלול לייצר פערי אבטחה.
ב. יש לעודד את המשתמשים לעדכן הנחיות בעת שינוי מדיניות או שינוי קהלי יעד.

שקיפות ובקרה תפעולית

כל פעולה של יצירה או עדכון בזיכרון מלווה בהתראה למשתמש, עם אפשרות מיידית לצפייה בפריטים, עריכתם, מחיקתם או כיבוי מלא של יכולת השימור. גישה זו מחייבת הצגת מקור המידע, זמן השמירה והאפליקציה שדרכה נרשמו הנתונים, ומאפשרת שליטה מלאה במחזור החיים של כל פריט, כולל שחזור במקרים של מחיקה שגויה או השבתה זמנית לצורכי בדיקה וחקירה.

שקיפות מלאה מפחיתה את הסיכון למניפולציות נסתרות בזיכרון ומאפשרת זיהוי מוקדם של חריגות. יכולת למחוק פריטים באופן סלקטיבי עוצרת את שרשרת ההשפעה של פריט בעייתי מבלי להשבית את המערכת כולה. בסביבות רגישות, יש להגדיר תהליך אישור למחיקות משמעותיות ולשלב דוחות תקופתיים עם סיכום השינויים, כך שהמשתמשים ובקרי האבטחה יוכלו לבצע ביקורת מהירה ולתחזק שלמות תפעולית ואמינות ארוכת טווח של המידע.

יכולות ניהול מרכזיות

• הפעלה או השבתה ברמת טננט או קבוצות משתמשים בהתאם לצרכים העסקיים ולרמת הרגישות.
• הגדרת חריגות מבוססות קבוצות Entra ID עבור יחידות קריטיות, סביבות ניסוי או תרחישי חקירה.
• ניהול ובקרה באמצעות הרשאות ייעודיות ב Microsoft Graph, לדוגמה PeopleSettings.ReadWrite.All, כחלק ממימוש בקרת גישה מבוססת תפקידים (RBAC).

שילוב עם בקרה ארגונית

• יישור המנגנון עם מדיניות ניהול נתונים, סיווגי מידע ויישום תגיות רגישות.
• אינטגרציה עם מערכי DLP, eDiscovery והשהייה משפטית במידת הצורך, לשמירה על שלמות המידע והגנה עליו.
• הגדרת תהליכי שינוי מאושרים, מינוי בעלי תפקידים אחראים, וניתוב אוטומטי של חריגות ואירועים לצוותי האבטחה.

סיכוני אבטחה פוטנציאליים

החלק שמכאן התחיל כל המאמר במטרה להבין סיכוני אבטחה ואיך אפשר לנצל אותם בצורה שקטה. מצרף מספר בודד של סיכונים.

ניתוח האיומים סביב Copilot Memory מתחיל בהרעלת זיכרון והזרקת הקשר. זיכרון מתמשך מאפשר להוראות עוינות להיטמע כעובדות עבודה ולהשפיע לאורך זמן על ניסוחים, סדרי עדיפויות והמלצות. הווקטור שכיח: דוא"ל או מסמך שנראים לגיטימיים אך כוללים טקסט חבוי או ניסוח מניפולטיבי שנקלט כפריט זיכרון פרסונלי. משם השינוי נראה טבעי ומחלחל לכל אינטראקציה הבאה. סימני האזהרה כוללים הופעת פריטי זיכרון שמקורם חריג, שינוי עקבי בטון או בהמלצות ללא שינוי מדיניות, וקפיצה בכמות עדכוני זיכרון סביב אירוע דוא"ל נרחב. מדיניות מזעור נתונים, קריטריונים מחמירים למה נחשב פריט פרסונלי מתמשך, וביקורת אנושית יומית על שינויים בזיכרון מצמצמות משמעותית את משטח התקיפה. כאשר מתגלה סדרת פריטים חשודה, חשוב לאפשר ביטול מהיר ושחזור נקודתי, ואף הקפאה זמנית של השימור עד להשלמת חקירה.

דליפת מידע היא הסיכון השני, והיא אינה מחייבת חשיפה ישירה של תוכן רגיש. זיכרון פרסונלי וארגוני יוצר משיכה לשאילתות עקיפות שמסיקות על העדפות, פרויקטים פעילים ונהלים. גם ללא שאלה חזיתית, אפשר לדוג רמזים באמצעות רצפים ארוכים של הנחיות ושאלות, הצלבות בין אפליקציות, או ייצוא תוצרים שמכילים עקבות של הזיכרון. התנהגות חריגה כמו עניין עקבי של משתמשים שאינם שייכים לפרויקט בפרטי עדיפויות, או תשובות הכוללות פרטים מזהים שלא עלו בשיחה הנוכחית, מהוות אינדיקציה לדליפת הקשר. בלימה אפקטיבית דורשת תיחום שימוש בזיכרון לפי הקשר ותפקיד, ניסוח תשובות שמונעות חשיפת פרטים מזהים כברירת מחדל, וביקורת אנושית על תשובות שמגלות מפות פרויקטים, מדיניות פנימית או דירוגי עדיפויות. הכשרה ייעודית למשתמשים כיצד לשאול מבלי לגרום לחשיפה עודפת, יחד עם תרחישי בדיקות חדירה לשאלות עקיפות, משלימה את ההגנה.

התאמת יתר להקשר היא הסיכון הנוסף, ופוגעת באיכות המענה גם אם אין פגיעה ישירה באמינות הנתונים. כאשר ההסתמכות על העדפות ותבניות עבר הופכת למוגזמת, התוצרים מקובעים, רגישות לשינויים נמוכה, והמערכת מנציחה סגנון או מקורות שאינם מתאימים עוד. האינדיקציות כוללות ירידה בשונות התוצרים לאורך זמן ללא הצדקה עסקית, פער בין ציפיות המשתמש לבין מענה שחוזר לתבנית היסטורית, ותלונות חוזרות של קהלי יעד שונים על סגנון שאינו מותאם. מענה נכון משלב תוקף זמן לפריטי זיכרון ורענון מחזורי, בקשות מפורשות להצגת חלופות ונקודות מבט מנוגדות, ותצוגת השוואה שמעמידה תוצר המבוסס זיכרון מול תוצר נייטרלי יותר כדי לאפשר בחירה מודעת. ביקורת תקופתית על ההנחיות האישיות והארגוניות והסרה של פריטים שאיבדו רלוונטיות מונעות קיבוע ומחזירות גמישות מחשבתית ותפעולית.

שלושת הסיכונים אינם מנותקים זה מזה, אך עדיין יכולים לחיות בנפרד. הרעלת זיכרון יכולה לייצר דליפה עקיפה, ודליפה עקיפה יכולה להזין התאמת יתר. לכן האסטרטגיה המעשית מחברת בין מזעור נתונים, שקיפות מלאה למשתמש, תיחום הקשר לפי תפקיד, וביקורת אנושית סדורה. המפתח הוא תכנון מראש: מודל איומים לפני פריסה, פיילוט מבוקר עם מדדים ברורים, ושגרות בקרה שמזהות מוקדם חריגות במקור פריטי הזיכרון, בתוכן שלהם ובאופן שבו הם משפיעים על התוצרים.

איך ומה מגדירים?

הגדרת Custom Instructions

מומלץ לכלול:

תחום עיסוק מצריך את התחום המרכזי, למשל,  שאתה חוקר אבטחה, ראש צוות מחקר אבטחת ענן, Microsoft MVP, עם התמחות ב Cloud Security, AI Security Identity Security, Red Team ו Incident Response.

בהעדפות טכניות כדאי לציין שאתה עובד עם Microsoft 365, Entra ID, Azure, AWS, GCP, GWS, כלי SOC, KQL, PowerShell, Python, ו BigQuery.

בסגנון כתיבה נוודא שיש ניסוחים מקצועיים, טכניים, זורמים וללא קישוטים מיותרים; הימנעות מאייקונים, קווים מפרידים, וכתיבה ישירה ומדויקת.

ברמת עומק נוודא שיש פירוט מעמיק עם דוגמאות פרקטיות, קוד, תרחישי תקיפה והגנה, ושילוב מונחים מקצועיים.

בשפה נציין שאתה עובד בעברית ובאנגלית, ומעדיף ניסוחים טכניים בשפה שנבחרה בהקשר השאלה.

טיפ: אפשר לעדכן את Custom Instructions ישירות מתוך הצאט וניתן לוודא זאת כאשר יש לנו אינדיקציה של Memory updated.

לסיכום, Copilot Memory מוסיף זיכרון פרסונלי מתמשך ו Custom Instructions חוצי אפליקציות, ליצירת רצף הקשר עקבי ותוצרים אחידים ב Word, Outlook, Teams, Excel ו Loop. התועלת המעשית היא קיצור זמני עבודה, הפחתת עומס קוגניטיבי, והמלצות מדויקות יותר המבוססות היסטוריית פעילות והעדפות. המערכת שומרת רק מידע בעל כוונה פרסונלית מובהקת תוך מזעור נתונים, ומספקת שקיפות מלאה לעריכה, מחיקה וכיבוי השימור לפי צורך.

בניהול ארגוני כדאי להפעיל בקרות דרך Microsoft Graph עם הקצאה לפי טננט או קבוצות, החרגות מבוססות Entra ID, ובקרת גישה לפי תפקידים יחד עם תיעוד פעולות. בהיבט אבטחה משלימים פוליסי ותיחום הקשר עם מזעור סיכונים להרעלת זיכרון, דליפה והתאמת יתר, תוך תכנון פריסה מדורג וניטור משתמשים.

למאמרי AI נוספים.