תארו עולם שבו יש נראות קונטקסטואלית וישימה לגבי האיומים הקריטים או האחרונים, עולם שבו תצורות אבטחה נוצרות באופן אוטומטי, ועולם שבו אפילו ניתן לזהות, לחקור ולהגיב לאיומי סייבר בביטחון רב עם מינימום יכולות. טוב, נצטרך להמתין קצת כי בקרוב זה לא יגיע, אבל אנו בדרך לשם וזה רק עניין של זמן.
שאנו מדברים על GenAI ועל ההתפתחות בתקופה האחרונה זה ממש מזכיר את המשפט הבא, ״יש עשורים שבהם דבר לא קורה; ויש שבועות שבהם מתרחשים עשורים״. האם בזמן קצר התרחש פה שינוי מהותי? בנקודת הזמן הזאת זה נראה כך, אבל גם במקרה הזה, הזמן יעשה את שלו.
בינה מלאכותית גנרטיבית שועטת לעבר כל תחום ועניין, וככל שהחדשנות של בינה מלאכותית ממשיכה להתקדם, 2024 תהיה זמן קריטי עבור חברות, ארגונים וגופים ממשלתיים לקבוע תקני אבטחה, פרוטוקולים, בקרות ״ומעקות״ בטיחות כדי למנוע מבינה מלאכותית להקדים אותם. ככל שארגונים צועדים לעבר התקדמות בתחום הבינה המלאכותית, היא צריכה להיות משולבת עם שיקולים אתיים קפדניים והערכות סיכונים. בקיצור לשלב אבטחה מידע וסייבר.
מודלי שפה גדולים (LLM), המופעלים על ידי אלגוריתמים מתוחכמים ומערכי נתונים מאסיבים, מפגינים הבנת שפה ויכולות שיחה אנושיות במקרים מסוימים. מודלים אלה מייצגים פוטנציאל עצום לשיפור משמעותי בפרודוקטיביות וביעילות עבור ארגונים, אך אנו חייבים להבין כי יש לטפל בסיכוני האבטחה הנובעים מפיתוחם ופריסתם.
ישנם מספר סיכונים מוכרים לבינה מלאכותית גנרטיבית הדורשים התייחסות ואלה יחמירו ככל שהדורות הבאים של הטכנולוגיה יהיו חכמים יותר. עם זאת, אף אחד מהם לא מהווה עד כה תרחיש ״יום הדין של המדע״ שבו הבינה המלאכותית זוממת להעלות על יוצריה. במקום זאת, הם כוללים איומים מוכרים הרבה יותר, בין היתר, כגון דליפות נתונים, שימוש לרעה לפעילות זדונית, ופלטים לא מדויקים שיכולים להטעות או לבלבל משתמשים, ובסופו של דבר לגרום להשלכות עסקיות שליליות.
המאמר, ״Azure OpenAI: גישה ושכבות באבטחה״ נוגע באפשרויות אבטחה של בינה מלאכותית גנרטיבית, גישה, שכבות אבטחה ואיך זה בא לידי ביטוי בסביבת Azure Open AI.
מוזמנים.ות להצטרף לקבוצה שמתמקדת באבטחה סביב LLM ונושאי משנה – LLMSEC
אבטחה מידע Azure Open AI
שאלה מוכרת שעולה פעמים רבות היא במה Azure OpenAI שונה מ OpenAI? ובהתאם לכך עולות תריסרי שאלות, כמו, מהם ההבדלים והאפשרויות של יכולות אבטחת מידע וסייבר בינהם? הדבר חשוב במיוחד עבור צוותי אבטחה שרוצים להבטיח כי אמצעי ההגנה והבקרות המתאימות נמצאות במקום. חשוב להזכיר כי מטרתם אינה לעכב חדשנות, אלא ליצור סביבה בטוחה ואמינה לחדשנות ככל האפשרת. בעוד שהתיעוד של Microsoft מספק מידע לרוחב ולעומק, עדיין צריך לתת מבט מלמעלה ולהבין את אמצעי האבטחה, הבקרות והאפשרויות.
מהו Azure OpenAI?
Azure OpenAI Service היא שותפות ואינטגרציה בין Azure ובין OpenAI, האינטגרציה מציעה גישת REST API למודלי שפה מתקדמים כגון GPT-4 או GPT-3.5-Turbo ונוספים (מתחדש ומתעדכן בכל עת). פלטפורמה מבוססת ענן מפשטת את שילוב הבינה המלאכותית ביישומים שונים, עם מקרי שימוש: מיצירת תוכן, שילוב עם כלים וטכנולוגיות ועד תרגום שפה טבעית. השירות, שתוכנן עבור מדרגיות ואבטחה, עומד בתקנים ארגוניים וניתן לגשת אליו דרך ממשקי API של REST, Python SDK או ממשק Azure OpenAI Studio.
כיצד Azure OpenAI Service מעבד נתונים?
הדיאגרמה הבאה מדגימה כיצד הנתונים מעובדים. דיאגרמה זו מכסה שלושה סוגים שונים של עיבוד:
- כיצד שירות Azure OpenAI מעבד את הבקשות כדי ליצור תוכן. זה כולל מצב כאשר נתונים מתווספים ממקור מחובר ולאחר מכן מתווספים לבקשה באמצעות Azure OpenAI אל מול הנתונים.
- כיצד שירות Azure OpenAI יוצר מודל מכוונן ומותאם עם נתוני האימון.
- כיצד שירות Azure OpenAI מנתח הנחיות, השלמות ותמונות לאיתור תוכן מזיק ודפוסים המציעים שימוש בשירות באופן שמפר את קוד ההתנהגות או תנאי מוצר ישימים אחרים.
למה ההקדמה הזאת חשובה? הסיבה פשוטה מאוד, חשוב לזכור ש Azure OpenAI יצטרך להשתלב עם שירותים אחרים של Azure, כגון, אחסון, כספות, מפתחות, זהויות, חיפוש קוגניטיבי ועוד. במידה ולא נבין את המשמעויות לא נוכל לשים את הגבולות הנדרשים.
מודל האחריות המשותף של GenAI והענן נוגע בהמון נקודות חשובות, למאמר, GenAI: מודל האחריות המשותף.
שכבות אבטחה Azure Open AI
בבינה מלאכותית גנרטיבית ישנם מתודלוגיות, גישהות שונות, מודלים ופריימורקים לגבי בינה מלאכותית גנרטיבית ואחראית. למיקרוסופט יש מודל שנחלק למספר שכבות ותחומים של אחראיות, תאימות ואתיקה וזה מגיע GenAI Red-Team. אלה יחדיו לוקחים אותנו לגישה רב שכבתית מקצה לקצה של אבטחה, מכיוון שאמצעי אבטחה יחיד אינו מספיק ברוב המקרים (ברוב המוחץ).
על-ידי שימוש בתכונות אבטחה אלה ואחרות, ארגונים יכולים לעזור להבטיח את הסודיות, התקינות והזמינות של וורקלודים של Azure OpenAI ב- Azure.חשוב לציין שהאבטחה ב Azure OpenAI היא אחריות משותפת בין Microsoft לבין סביבת הקצה (ארגון/לקוח/חברה).
בעוד Microsoft דואגת לספק בקרות רשת כגון בינת איומים ואבטחה פיזית, בסביבות הקצה אנו אחראים להגדרה, קביעת תצורה וניטור של כלל הסרוויסים והטכנוטלוגיות.
ככל שאנו מקלפים את שכבות האבטחה ומתקרבים לליבת פתרון Azure OpenAI, האחריות בסביבת הקצה גדלה עם הזמן. לדוגמה, בינה מלאכותית אתית היא דוגמה מצוינת לכך. בעוד Microsoft מבטיחה שמודלי הבינה המלאכותית שלה מצייתים לששת העקרונות של בינה מלאכותית אחראית:
- הוגנות
- אמינות
- בטיחות
- פרטיות
- אבטחה (הכללה, אחריות ושקיפות),
על הלקוח מוטל להבטיח שהשימוש שלהם בפתרון הבינה המלאכותית עולה בקנה אחד עם עקרונות AI אחראים אלה – אחרת אין אפשרות להבטיח ואפשר אבטחת מידע מינימלית. מהם השכבות המדוברות?
אבטחת רשת
שכבה זו מציעה שתי תצורות עיקריות – רשתות וירטואליות ונקודות קצה. קביעת תצורה של רשתות וירטואליות עבור Azure Cognitive Services וכן הגדרות מדיניות מוכללות עבור Azure Cognitive Services.
בינה מלאכותית אתית
הרובד הביטחוני הספציפי הוא אולי המשמעותי ביותר, ובכל זאת הוא נוטה לעורר דיונים רבים. למרות ש Microsoft מבטיחה ששירותי הבינה המלאכותית שלה מצייתים לששת העקרונות של בינה מלאכותית אחראית. התנאים של Microsoft מציינים גם "הלקוח אחראי להגיב לכל תביעה של צד שלישי בנוגע לשימוש של הלקוח בגירסת Preview של שירות Azure OpenAI בהתאם לחוקים החלים".
בינתיים, אפשר להבין מהו שימוש אחראי בבינה מלאכותית: הגישה ומדיניות הבינה המלאכותית האחראית של Azure OpenAI, וכןף סינון תוכן של Azure OpenAI Service.
אבטחת יישומים
כחלק מהתיעוד הרשמי, מיקרוסופט קוראת לסדרה של נהלים לשימוש אחראי של Azure OpenAI. לצד שיטות אלה, על הלקוחות ליישם גם שיטות קידוד מאובטחות.
ניהול זהויות וגישה
שכבה זו כוללת גישה מבוססת תפקידים ובקרות גישה מותנית; תמיכה באימות Entra ID, זהויות מנוהלות עבור משאבי Azure או אימות באמצעות מפתח API. המאמרים הבאים צוללים למשמעויות של ניהול זהויות וגישה יחד עם בינה מלאכותית. בקרת גישה מבוססת-תפקידים של Azure וכן כיצד להגדיר את Azure OpenAI Service עם זהויות מנוהלות.
תאימות והסמכות
ל Azure יש אישורי תאימות ותקנים שעוזרים להבטיח שהפלטפורמה עומדת בתקני אבטחה ופרטיות מסוימים. לרשימה הנרחבת של הצעות תאימות של Azure.
אבטחת מידע
ישנם שלושה סוגים שונים של נתונים שיש לקחת בחשבון בשכבה זו: נתוני בקשות והשלמות, נתוני הדרכה ותיקוף כדי לכוונן דגמים.. בקישור המצורף ניתן למצוא הסבר מעמיק על נתונים, פרטיות ואבטחה עבור Azure OpenAI Service. אני מדגיש כמה היבטים מרכזיים להלן:
שמירת נתונים, פרטיות וריבונות
Microsoft מאחסנת נתוני 'בקשות והשלמות' למשך 30 יום לצורך בדיקה נגד שימוש לרעה. ללקוחות יש אפשרות לבטל את הסכמתם. Microsoft מאחסנת את הנתונים באותו אזור שבו שירות Azure OpenAI נפרס, מוצפן במנוחה ומבודד לוגית באמצעות חשבון Azure. עוד במאמרעים הבאים שצוללים לסוגיות אלה. כיצד נשמרים נתונים ואילו בקרות לקוחות זמינות? וכן כיצד לבטל את הסכמתך לתהליך הרישום והבדיקה האנושית?
הצפנת נתונים
כברירת מחדל, נתוני אימון ומודלים של כוונון עדין מוצפנים במנוחה באמצעות מפתחות מנוהלים של Microsoft. עם זאת, השירות מציע את האפשרות להשתמש במפתחות מנוהלים בצד לקוח (מוכר כ CMK) כדי להצפין את כל נתוני הלקוחות למעט נתונים שנרשמו במשך 30 יום. הצפנת Azure OpenAI Service של נתונים במנוחה.
דגשים וסוגיות באבטחת Azure Open AI
דגשים ונקודות עניין
- נתוני הלקוח או מודלי הכוונון אינם משמשים את Microsoft כדי להדריך או לשפר שירותים כלשהם של Microsoft.
- ניתן לאמץ גישת "מאובטח לפי תכנון", לדוגמה, למנף מדיניות Azure כדי להבטיח ששירותים חדשים ייפרסו בהתאם להנחיות האבטחה.
- כדאי להתחיל עם מקרי שימוש בסיכון נמוך עם החזר גבוה על השקעה כדי לסייע בהערכת היתרונות של הטכנולוגיה ובזיהוי סיכונים פוטנציאליים לפני פריסתה באופן רחב יותר.
- יש ללמד את הצוותים על הסיכונים והבקרות הזמינות.
- כדאי להגדיר ולאמץ מסגרת אחראית להערכת השפעת בינה מלאכותית. בעת פריסת טכנולוגיה חדשה, חיוני לקחת בחשבון את הסיכונים הפוטנציאליים ואת הממדים המרובים שלהם, כגון גורמים משפטיים, בטיחותיים ומוניטין. הדבר חשוב במיוחד בהקשר של Azure OpenAI, שבו אבטחת נתונים ושיקולים אתיים הם בעלי חשיבות עליונה.
על-ידי נקיטת גישה זהירה ומושכלת, ניתן למנף את היתרונות של Azure OpenAI תוך הבטחה שוורקלודים אלה מאובטחים, תואמים ואחראיים.
סוגיות ושאלות
מה מבדיל את Azure OpenAI Security משירותי OpenAI אחרים?
Azure OpenAI מייחד את עצמו בתחום האבטחה באמצעות השילוב שלו עם שירותי האבטחה החזקים של Microsoft והאימות מול שיטות מומלצות. שילוב זה מציע שפע של יתרונות משמעותיים, ביניהם:
- אקוסיסטם ביטחוני: משלב בצורה חלקה מודלים של OpenAI עם כלי האבטחה של Azure.
- תקני תאימות: עמידה בתקנים גלובליים וספציפיים לתעשייה, כולל ISO 27001, HIPAA ו-FedRAMP.
- בקרת גישה מבוססת תפקידים (RBAC): בקרה פרטנית לאישור כוח אדם ברמות שונות בארגון.
- ניטו וסינון תוכן: מאפשר סינון הניתן להתאמה אישית וניטור שימוש לרעה כדי להתאים אישית הגבלות עיבוד נתונים.
- סודיות נתונים: הבטחה שנתוני הלקוחות אינם משמשים להדרכת מודלים, תוך שמירה על שלמותם.
- פרטיות נתונים: משתמש בטכניקות בידוד נתונים כדי להבטיח שנתוני הלקוחות יישארו בלתי נגישים לחשבונות Azure אחרים.
- חבות קניין: אמצעי הגנה מפני סיכוני קניין רוחני, המספקים שכבת אבטחה נוספת.
האם הנתונים שלי משותפים עם חשבונות אחרים?
לא, Microsoft אינה משתפת את נתוני Azure OpenAI שלך עם אחרים. השירות פועל בהתאם למסגרת הבינה המלאכותית האחראית של Microsoft יחד עם דרישות אבטחה מחמירות, כדי להבטיח שהנתונים שלך יישארו בסביבת Azure הייעודית שלך. בנוסף, Azure OpenAI מספק אבטחת רשת מבודדת.
האם Microsoft משתמשת בנתונים שלי כדי לאמן מודלים?
לא, הנתונים שלך אינם משמשים לאימון או לשיפור המוצרים של Microsoft או שירותים של ספקים חיצוניים. לשימוש במודל שפה מאומן מראש יש יתרון אבטחה נוסף, הוא מפחית את הצורך במניפולציה נרחבת של נתונים. פעולה זו מגבילה את חשיפת הנתונים ותומכת במטרה לספק פרוטוקולי אבטחה חזקים.
האם הנתונים שלי מוצפנים?
כן, Azure OpenAI, בדומה לשירותים אחרים של Azure, משתמש בהצפנת AES תואמת FIPS 140-2 של 256 סיביות כאמצעי ברירת מחדל להגנה על נתונים. תהליך הצפנה אוטומטי זה מבטל את הצורך בהתערבות המשתמש. אמצעי בקרה נוספים כוללים אפשרויות ניהול מפתחות מותאמות אישית ושילוב עם Azure Key Vault.
כיצד אוכל לשלוט בגישה לנתונים רגישים?
כשמדובר בבקרת גישה, Azure OpenAI משקף את פרוטוקולי האבטחה של שירותים אחרים של Microsoft. מומלץ לאמץ עקרונות כמו 'הרשאות מינימליות', הפעלת אימות רב-גורמי ובקרת גישה מבוססת תפקידים (RBAC). שכבות אבטחה אלה לא רק משפרות את ההגנה על הנתונים, אלא גם מציעות שליטה פרטנית יותר על מי מקבל גישה לאיזה משאב.
האם אוכל לשמור את הנתונים שלי בתוך אזורים ספציפיים של Azure?
כן, יכולות מיקום הנתונים של Azure מאפשרות לך לציין את האזור הגיאוגרפי לעיבוד ואחסון הנתונים שלך. זה מועיל במיוחד עבור ארגונים שצריכים לעמוד בתקנים ממשלתיים כגון FedRAMP ו- CMMC, המחייבים לשמור נתונים בתוך אזורים בארה"ב.
כיצד Microsoft מבטיחה נוהלי AI אתיים?
Microsoft מתבססת עעקרונות ואחריות בינה מלאכותית, תוך התמקדות בהוגנות, שקיפות, אחריות ופיקוח אתי. הנחיות אלה תואמות באופן הדוק את מסגרת ניהול סיכוני הבינה המלאכותית של NIST והן מוטמעות בפלטפורמה, ומספקות שכבה נוספת של אבטחה.
כיצד מסנני תוכן משפרים את אבטחת הנתונים?
הסינון של Azure OpenAI ממלא תפקיד חיוני באבטחת נתונים על ידי סיווג תוכן מסוכן. הם מסייעים בתקינה ורגולציה, מבטיחים את אבטחת המשתמשים ושומרים על שלמות הנתונים. בנוסף, מעניקים את החופש להתאים אותם בהתאם לצרכים הספציפיים שלך ולמדיניות הארגונית. בעיקרו של דבר, השימוש בסינון משפר הן את פריסת הבינה המלאכותית והן את אבטחת הנתונים הכוללת.
אילו אפשרויות רישום זמינות ב- Azure OpenAI?
Azure OpenAI מציע רישום אבטחה נרחב, כולל מעקב אחר פעילות משתמשים, תיעוד API וניטור נתונים. הוא תומך בניתוח אירועים, עומד בתקנים עיקריים ומאפשר התראות בזמן אמת, שילוב ניתוח דרך Azure Monitor ומדיניות שמירת לוג מותאמת אישית. בנוסף, השירות מספק תכונת Bring Your Own Data (BYOD) לבקרת נתונים משופרת ותצורות אבטחה מותאמות אישית.
טיפים לפריסה מאובטחת
- קביעת אמות מידה: התאמת הפרוייקט למסגרות אבטחה מבוססות ולתקני תאימות בשלב מוקדם.
- סיווג נתונים: יישום גישה שיטתית לסיווג נתונים בהתאם לפרוטוקולים, תוך הבטחת טיפול והגנה נאותים.
- פיתוח מדיניות: גיבוש כללים ומדיניות מקיפים לפיקוח על בינה מלאכותית המכסים את כל מחזור החיים של פתרונות הבינה המלאכותית.
- פריסת תוכנית בסיסית מאובטחת: כדאי לממש יכולות כמו ניהול זהויות וגישה, הצפנה ואבטחת רשת.
- ניטור רציף: ניטור מתמשך על ידי ביצוע הערכות סיכונים קבועות והפחתה יזומה של איומים פוטנציאליים.
- הטמע בקרות אוטומטיות: אמץ שיטות עבודה של תשתית כקוד כדי להפוך בקרות אבטחה לאוטומטיות ולייעל אותן, תוך שיפור היעילות והעקביות.
- אינטגרציה עם שינוי ארגוני: התאם בצורה חלקה את שיקולי האבטחה עם נהלי השינוי הארגוני שלך, במיוחד בהקשר של יישום והתפתחות הבינה.
על-ידי הקפדה על שיטות עבודה מומלצות אלה, ניתן לשפר באופן משמעותי את נוף האבטחה של Azure OpenAI ולהבטיח מערכת אקולוגית חזקה ותואמת.
