סייבר ובינה מלאכותית, יכולים להיות יעילים אך מסוכנים, החל מהיבטי תקיפה, דרך היבטי הגנה ועד כלים שמבטיחים להביא בשורה ולסייע ביומיום. נכון לימים אלה, רק הזמן יוכיח את עצמו.

בינה מלאכותית גנרטיבית (Generative AI) היא כלי רב עוצמה עם יישומים רבים בתחומים שונים, כולל אבטחת מידע וסייבר. Generative AI הוא סוג של AI שיוצר נתונים, תמונות או טקסט חדשים בהתבסס על דפוסים ונתונים שהוא אומן עליהם לפני כן (להוציא סקראפינג ודומיו). זה יכול גם לשנות את האופן שבו אנו מזהים איומים ומגיבים אליהם, אבל רק אם נבין כיצד למנף את הבינה בצורה נכונה.

בינה מלאכותית וסייבר 

אחד האתגרים המשמעותיים ביותר באבטחת מידע וסייבר הוא לעמוד בקצב המתפתח כל הזמן של איומים וסיכונים. אמצעי אבטחה מסורתיים, כגון הפרדת רשתות, חומות-אש ואנטי-וירוס, הם תגובתיים ויכולים להגן רק מפני איומים ידועים, וגם אם נלך לענן נבין שישנם כלים ובקרות שעדיין עובדים בצורה שאינה מספיק חדשנית.  

מומחי אבטחה הבינו מהר מאוד שאבטחה טובה פירושה תמיד להבין את האיומים והתנהגותם ולא להתמקד רק במנגנוני הגנה על מערכות ונתונים. שילוב בינה מלאכותית ואבטחה מתפתח כבר שנים, לפחות מבחינה קונספטואלית. כיום יש לנו כלי בינה שהם הרבה יותר שימושיים – כמו בינה מלאכותית גנרטיבית – וחסכוניים יותר בגלל מחשוב ענן.

עם בינה מלאכותית גנרטיבית, ניתן ליצור מודלים לחיזוי כדי לזהות איומים חדשים עוד לפני שהם מופיעים.

יתרונות

ניתן להשתמש בבינה מלאכותית גנרטיבית ובסייבר יחדיו בכמה מישורים, החל מאימון ועד בדיקות מאמץ אוטומטיות. 

התקפות מדומות – בינה מלאכותית גנרטיבית יכולה ליצור הודעות דוא"ל פישינג מציאותיות או התקפות אחרות שניתן להשתמש בהן כדי להכשיר עובדים ומערכות אבטחה התומכות בבינה מלאכותית לזהות התקפות כאלה ולהימנע מהן. זה יכול לעזור למנוע התקפות מוצלחות ולשפר את מצב האבטחה הכולל.

פרואקטיביות – בינה מלאכותית גנרטיבית יכולה גם להעביר אותנו מעמדה הגנתית, שבה אנו מגיבים לאיומים, לעמדה פרואקטיבית, שבה אנו חוזים איומים שעדיין לא מתרחשים, או רגע לפני שהם מתרחשים. אנו יכולים להגיב לתחזיות כדי להימנע מהאיומים שהן מייצגות, או אם איום מצליח לעבור דרך קו ההגנה הקדמי, בינה מלאכותית גנרטיבית יכולה להתמודד איתו חזיתית. יכולת זו אמורה לשפר את רקורד האבטחה של ה-IT ולהפחית באופן משמעותי או אפילו לבטל את הסיכון לחדירה.

סביבות מדומות – תכונה נוספת של בינה מלאכותית גנרטיבית היא היכולת לדמות סביבות המחקות תרחישים בעולם האמיתי, שיכולות לבדוק ולהעריך בקרות ותגובות אבטחה. הדבר יכול לסייע בזיהוי חולשות ובשיפור המוכנות הכוללת לאבטחה. צורה זו של בדיקות מאמץ אוטומטיות וחכמות מובילה לאבטחה קשוחה יותר, שבה שחקני האיום יעברו לעתים קרובות לקורבנות נגישים יותר. זה כולל פריצות נתונים נפוצות, כמו גם התקפות של תוכנות כופר. היכולת ליצור מצב אבטחה ששולח שחקנים רעים לארגונים שאינם יכולים להרשות לעצמם אבטחה גנרטיבית מבוססת בינה מלאכותית הופכת לדאגה בפני עצמה.

מודיעין – יישום חשוב נוסף של בינה מלאכותית גנרטיבית בסייבר הוא מודיעין איומים. על ידי ניתוח כמויות גדולות של נתונים, בינה מלאכותית גנרטיבית יכולה לזהות דפוסים ואינדיקטורים שניתן להשתמש בהם כדי לזהות איומים ולהגיב להם בזמן אמת. זה יכול לעזור לצוותי אבטחה להישאר צעד אחד לפני איומים חדשים ולהגיב במהירות להתקפות.

זה קצת שונה מעמדת האבטחה הפרואקטיבית שהגדרנו לעיל מפני שהוא מסתכל על איומים באופן כללי כדי לקבוע מה קשור לארגון או לסביבה שלנו. יכולת זו להבין איומים בנהיבטים רחבים או צרים הופכת לנשק הגנתי כאשר שתי ההשקפות ממונפות כדי לפרש איומים קיימים ועתידיים וכיצד יש להתגונן מפניהם. במקרים מסוימים, בינה מלאכותית גנרטיבית יכולה אפילו לחזות טכנולוגיות אבטחה אחרות שעשויות להיות נחוצות.

אתגרים

חשוב לזכור שבינה מלאכותית גנרטיבית אינה סילבר בולט. זה דורש משאבים משמעותיים ומומחיות כדי לאמן ולתחזק מודלים של בינה מלאכותית גנרטיבית. בנוסף, ישנם חששות אתיים סביב השימוש בבינה מלאכותית גנרטיבית, במיוחד סביב שימוש לרעה פוטנציאלי בבינה מלאכותית גנרטיבית למטרות התקפיות, כגון שליחת שחקנים וקבוצות תקיפה למטרות פגיעות יותר.

עלויות – העלות היא ההיבט המדאיג ביותר. בינה מלאכותית גנרטיבית אינה חינמית. זה יכול להיות יקר מאוד כאשר ממנפים אותו בתוך מערכות אבטחה. נכון לימים אלה, רק חברות שיכולות להרשות לעצמן את המחיר הגבוה של בינה מלאכותית גנרטיבית ואת הכישורים הדרושים להקמה ותחזוקה של מערכות אלה יקבלו את האבטחה הנדרשת כדי להגן על הנתונים והמערכות הקריטיות שלהן. זה יכול להוביל ל"יש" ול"אין" כשמדובר בהגנה מוצקה מפני איומים ביטחוניים.

אתיקה – אתגר אתי עלול להוביל לכך שחברות וארגונים מסוימים יקבלו סובסידיות הקשורות לבינה מלאכותית גנרטיבית. אין ספק, כי עמותות העוסקות במידע אישי יזדקקו לעזרה מסוימת אם ניקח את משחק האבטחה שלנו ואת עלויותיו לשלב הבא.

שחקנים – ויש עוד פיל בחדר. חשבו מה קורה כאשר שחקנים רעים מפנים את כוחה של בינה מלאכותית גנרטיבית כדי לפענח במהירות וקטורי תקיפה החושפים נקודות גישה לא מורשות, ליצור וקטורים חדשים ועוד. זה המקרה שבו AI גנרטיבי משמש למטרות התקפיות על ידי שחקנים רעים מכיוון שבינה מלאכותית גנרטיבית יכולה להיות יעילה יותר בפריצה למערכות.

כלים – כלי תקיפה באשר הם, החל מגילוי ועד חדירה מאומצים ע״י גורמים תקיפה רבים ומקצרים את משך הפעולות של פיתוח הכלים או משך הזמן לקעיפת גדרות ולהגעה אל היעד. למשל, הכלי SubGPT שמטרתו למצוא subdomains ויודע להגיע אל דומיינים שכלים מוכרים אינם מוצאים. האם זה אומר לוותר על כלים מוכרים וכאלה שעובדים איתם כיום? בשלב זה לא, אבל בהמשך וכאשר צריך להכניס כלים חדשים, בהחלט כן. 

השורה התחתונה: Generative AI

לבינה מלאכותית גנרטיבית יש פוטנציאל עצום לשנות את אבטחת המידע והסייבר, כולל מערכות ענן, התקנים ואפילו מערכות אבטחה מגוונות. השינוי יכול להיעשות ע״י יצירת מודלים לחיזוי, יצירת סביבות מדומות וניתוח כמויות גדולות של נתונים, בינה מלאכותית גנרטיבית יכולה לעזור לזהות איומים ולהגיב להם לפני שהם גורמים נזק.

עם זאת, יש לגשת אליו ולהשתמש בו בזהירות ובאתיקה הנדרשת כדי להבטיח שהוא ישמש רק למטרות הגנה או למבצעי תקיפה במסגרת ארגונית ומוגדרת מראש. עם זאת, שחקנים רעים מסוימים כבר משתמשים בו באופן בלתי נמנע למטרות התקפיות.

עידן חדש – Security Pilot 

בסייבר, הסיכויים הם תמיד נגד צוותי הגנה. האם הבינה תשנה את היחס, או לפחות תצמצם את הפערים העצומים?  

כיום, הסיכויים נותרים גדולים מול צוותי הגנת הסייבר. לעיתים קרובות מדי, הם צוותי הגנה נלחמים קרב א-סימטרי נגד תוקפים משכוללים, פוריים, חסרי רחמים ומתוחכמים. כדי להגן על הארגון, צוותי הגנה חייבים להגיב לאיומים שלעתים קרובות מוסתרים בין רעשים.

כדי להתגבר על אתגרים אלה, יש לפתח ללא הרף טכנולוגיות חדשות כדי להטות את הכף לטובת צוותי הגנת הסייבר (אתגר רציני וקשה, אולי בלתי אפשרי…). עם ההתקדמות המהירה בתחום הבינה המלאכותית, ארגונים מתעדים ליישם את הטכנולוגיה בתרחישי שימוש שונים, ומעצימים מומחי אבטחה להניע חדשנות ולשבש את היתרונות המוכרים של התוקפים. 

בעוד העולם מקדם בברכה עידן חדש של אבטחה, Microsoft לוקחת צעד משמעותי קדימה ע״י שילוב טכנולוגיות האבטחה מול תחום הבינה המלאכותית. לאחרונה, הציגה מיקרוסופט את Microsoft Security Copilot – שעוצב על ידי כוחה של הבינה המלאכותית הגנרטיבית GPT-4 של OpenAI לחולל מהפכה בתחום הסייבר.  

Security Copilot — הגנה מקצה לקצה במהירות ובקנה מידה שלא הכרנו עד כה. Microsoft Security Copilot הוא טכנולוגיה/כלי האבטחה המאפשר לצוותי הגנה לנוע במהירות ובקנה מידה של בינה מלאכותית. Security Copilot משלב מודלים מתקדמים של LLM עם מודל ספציפי לאבטחה של Microsoft.  

נוף אבטחת הסייבר המתפתח במהירות דורש מארגונים לחזק ולתחזק ללא הרף את אמצעי האבטחה כדי להילחם ביעילות באיומים וסיכונים מתוחכמים יותר ויותר, ולהבטיח את בטיחות הנתונים ווהמשאבים בסביבתם. Microsoft Security Copilot מביא את העוצמה של AI לצוותי האבטחה כדי לעודד חדשנות ולהתרחב בקצב מהיר יותר, תוך יצירת סביבה דיגיטלית מאובטחת הרבה מעבר לקיים.  

מודל ספציפי לאבטחה, בתורו, משלב קבוצה הולכת וגדלה של מיומנויות ספציפיות לאבטחה ומתבסס על בינת האיומים הגלובלית הייחודית של Microsoft, למשל על הסתמכות של למעלה מ 65 טריליון סיגנלים ביום. כמו גם לספק חוויה ברמה ארגונית של אבטחה ופרטיות כשהוא פועל בתשתית בקנה מידה גדול של תשתיות ענניות, כמו Azure. 

כאשר Security Copilot מקבל הנחיות, הוא משתמש במודל ספציפי כדי לפרוס מיומנויות ושאילתות שממקסמות את הערך של היכולות העדכניות ביותר וזה ייחודי למקרה שימוש באבטחה. מודל האבטחה מוסיף מערכת למידה כדי ליצור ולכוונן מיומנויות חדשות. ולכן יכול לסייע בתפיסת פערים ובעיות כאשר גישות אחרות עלולות להחמיץ ולהגדיל את עבודתו של האנליסט. באירוע טיפוסי, יכולת זאת מתורגמת לשיפורים באיכות האיתור, מהירות התגובה והיכולת לחזק את מצב האבטחה. 

למרות הכל, Security Copilot לא תמיד עושה הכל נכון. תוכן שנוצר על ידי בינה מלאכותית יכול להכיל טעויות. אבל Security Copilot היא מערכת למידה ספציפית, מה שאומר שהיא לומדת ללא הרף מהמשתמשים, משאבים וכלים ונותנת את ההזדמנות לתת משוב מפורש עם תכונת המשוב המובנית ישירות בכלי. ככל שאנו ממשיכים ללמוד מאינטראקציות אלה, אנו מתאימים את תגובותיו ליצירת תשובות קוהרנטיות, רלוונטיות ושימושיות יותר. 

Security Copilot משתלב גם עם כלי האבטחה של Microsoft, ועם הזמן יתרחב למערכת אקולוגית הולכת וגדלה של כלים צד שלישי (אקוסיסטם מורחב). בקיצור, Security Copilot הוא לא רק מודל שפה עצום, אלא מערכת שלומדת, כדי לאפשר לארגונים להגן באמת במהירות המכונה. 

תמיד אני אומר שאבטחה היא ספורט קבוצתי! ואבטחה צריכה להיבנות עם פרטיות, ולכן Security Copilot נבנה מתוך מחשבה על צוותי אבטחה – הנתונים הם תמיד הנתונים של הארגון ונשארים בשליטתו. הוא אינו משמש לאימון מודלי הבינה המלאכותית הבסיסיים, ולמעשה, הוא מוגן על ידי בקרות התאימות והאבטחה המקיפות ביותר של הארגון. תוך שמירה על פרטיות, ניתן לשתף בקלות כל אינטראקציה של משתמש עם חברי צוות אחרים כדי להאיץ את התגובה לאירוע, לשתף פעולה בצורה יעילה יותר בבעיות מורכבות ולפתח מיומנויות קולקטיביות. 

טכנולוגיה מעצימה

יצירתיות וידע אנושי תמיד יהיו הכרחיים להגנה! Security Copilot יכול להעצים את אנשי וצוותי האבטחה במהירות ובקנה מידה של מהיר, כך שכושר ההמצאה האנושי נפרס במקום החשוב ביותר. בהעברת חוויה זו, ישנם מספר עקרונות: 

פשטות – באבטחה, הדקות נחשבות. עם Security Copilot, המגינים יכולים להגיב לאירועי אבטחה או ליצור ציד איומים בתוך דקות במקום שעות או ימים. Security Copilot מספק הדרכה והקשר קריטיים שלב אחר שלב באמצעות חוויית ציד/חקירה מבוססת שפה המאיצה את החקירה והתגובה לאירוע. היכולת לסכם במהירות כל תהליך או אירוע ולכוונן את הדיווח כך שיתאים לקהל הרצוי משחררת את צוותי האבטחה להתמקד בעבודה הדחופה ביותר. 

תפוס את מה שאחרים מפספסים – התוקפים מסתתרים מאחורי מערכות לגאסי, רעש וסינגלים חלשים. צוותי הגנה יכולים כעת לגלות התנהגות זדונית, סיגנלים ואיום שאינם יתגלו במצב אחר. Security Copilot חושף איומים מתועדפים בזמן אמת וצופה את המהלך הבא עם חשיבה מתמשכת המבוססת על בינת האיומים הגלובלית של Microsoft. בנוסף, Security Copilot מגיע גם עם מיומנויות המייצגות את המומחיות של מנתחי אבטחה בתחומים כגון ציד איומים, תגובה לאירועים וניהול פגיעויות. 

פערי ידע – יכולתו של צוות אבטחה תמיד תהיה מוגבלת על ידי גודל הצוות, הכישורים שלו והמגבלות הטבעיות של תשומת הלב האנושית. Security Copilot משפר את כישורי צוותי האבטחה עם יכולתו לענות על שאלות הקשורות לאבטחה – מהבסיסי ועד המתקדם והמורכב. Security Copilot לומד ללא הרף מאינטראקציות המשתמש, מתאים את עצמו להעדפות הארגון ומייעץ לצוות הגנה על דרך הפעולה הטוב ביותר להשגת תוצאות מאובטחות ומקסימליות. הוא גם תומך בלמידה עבור חברי צוות חדשים מכיוון שהוא חושף אותם למיומנויות וגישות חדשות ככל שהם מתפתחים. 

יכולות אבטחה של Security Copilot, בא לצמצם את הפערים העצומים שיש בין תוקפים למגינים ואת עניין הזריזות לצוותי הגנה ע״י שילוב טכנולוגיות האבטחה של Microsoft עם החידושים האחרונים בתחום הבינה המלאכותית. על ידי עבודה עם Security Copilot, ארגונים מקבלים גישה לעומק ולרוחב של יכולות AI של אבטחה, כולל: 

• גישה מתמשכת למודלי OpenAI המתקדמים ביותר לתמיכה במשימות האבטחה וביישומי האבטחה התובעניים ביותר. 
• מודל ספציפי לאבטחה שנהנה מחיזוק, למידה ומשוב משתמשים מתמשכים כדי לענות על צרכים ייחודיים. 
• ניראות ובינת איומים ע״י כלי האבטחה בארגון ועל סמך טריליוני סיגנלים מידי יום, וזאת בכדי להבטיח שצוותי האבטחה פועלים עם הידע העדכני ביותר על התוקפים, הטקטיקות, הטכניקות והנהלים שלהם.  
• שילוב עם היצע האבטחה מקצה לקצה של Microsoft עם אקוסיסטם לקבלת חוויה מתקדמת במיוחד.
• רשימה הולכת וגדלה של מיומנויות והנחיות ייחודיות שמשפרות את המומחיות של צוותי האבטחה ומציבות רף גבוה יותר עבור מה שאפשרי גם תחת משאבים מוגבלים. 

אספקת סייבר סביב בינה בצורה אחראית ללא ספק ישנה את האופן שבו ארגונים מתקשרים עם טכנולוגיות אבטחה. כדי לממש את הפוטנציאל הגבוה ביותר, פתרונות בינה ואבטחה חייבים להיות מסופקים בצורה בטוחה, מאובטחת ואחראית. 

לסיכום

אבטחה היא בסופו של דבר עניין של אנשים! ולכן Security Copilot מביא את השורה שבו צוותי אבטחה מועצמים עם הטכנולוגיות והמומחיות המאפשרות לו לממש את מלוא הפוטנציאל שלו. הטכנולוגיה תשחק תפקיד חיוני במסע הזה, אבל אבטחה מוצלחת היא, ותמשיך להיות, מאמץ אנושי.

אין ספק שבינה מלאכותית גנרטיבית משנה את כללי המשחק בתחומים רבים, כמו גם באבטחת מידע וסייבר. למרות הבשורה שמביאים כלים מסויימים ובפרט טכנולוגיות חזקות כמו Microsoft Security Pilot עדיין ישנם מספר גורמים שיכולים למנוע מארגונים רבים לנצל טכנולוגיות ויתרונות שמגיעים עימם, כמו אנשים (כישורים, מגבלות כ״א ועוד) או מערכות לגאסי שאינם מאפשרות להתקדם, פרטיות וסיבות נוספות. 

וכמו בכל הראצה, מאמר או שיח, גם כאן אני מסיים בנקודה חשובה, בינה מלאכותית גנרטיבית מחזקת את החזקים – אלה שיודעים ומבינים את התחום שבהם הם עוסקים, ותחליש את החלשים, אלה שאינם מכירים את התחום. 

בקרוב נוכל לדבר Security Copliot קצת יותר ולהדגים את האפשרויות.

קישורים נוספים 

Introducing Microsoft Security Copilot

Empowering defenders at the speed of AI

מאמרים נוספים בעברית