מודל האחריות המשותף בענן, זה שמוכר כ Shared Responsibility Model או בקצרה SRM מלווה אותנו מזה זמן רב ועושה במעט סדר לגבי האחריות של כל צד: יצרן וסביבת קצה. המודל המשותף נחלק לפי מספר קטגוריות מרכזיות של SaaS/PaaS/IaaS – אלה נקראים סוגי פריסה בענן. בנוסף לקטגוריות אלה ישנם מודל מורחבים יותר שנוגעים בסוגי פריסות נוספות ולעיתים ספציפיות.
יצרני בענן מציגים את המודל לפי מספר עקרונות מוכרים ומוגדרים מראש, אך עדיין כל אחד מהיצרנים מציג את המודל עם הדגשים והייחודיות שלו, בין אם זה המודל של Azure, המודל של AWS, המודל של Google וכן המודל של Oracle.
המאמר ״GenAI: מודל האחריות המשותף״ נוגע במושגים של בינה מלאכותית ומשם ממשיך לאפשרויות של מודל האחריות המשותף לפי מקרי שימוש וחלוקה לפי שכבות ספציפיות בענן של Azure.
מוזמנים.ות להצטרף לקבוצה שמתמקדת באבטחה סביב LLM ונושאי משנה – LLMSEC
מודל האחריות המשותף הוא חיוני בכדי להבין את אחריות היצרן ואת האחריות בסביבת קצה, כלומר איזה כיסוי אבטחה היצרן מספק בחלק מהשירות ומה עלינו לבצע בכדי לסגור את הכיסוי הנוסף. חשוב להדגיש כי ללא הבנה מהו הכיסוי של כל צד אנו עלולים למצוא את הענן שלנו ללא הבקרות והכלים הנכונים וללא הכיסוי אבטחה הנדרש – אלה עלולים לגרום לחשיפות קריטיות.
חשוב לומר כי בסביבת הקצה תמיד תהיה אחריות כלשהיא וזה תלוי מאוד בפריסה ושימוש ביכולות והטכנולוגיות הענניות. לצד זה, רכיבי הענן משתנים בהתאם לסוג השירות. עם זאת וללא קשר לסוג הפריסה, אנו תמיד נצטרך לכסות את תחומי האחריות הבאים:
- נתונים ומידע
- נקודות קצה
- זהוית וניהול גישה
התרשים הבא מציג גישת לגאסי יחד עם גישה עננית שבה תחומי אחריות אבטחה רבים אינם מתקיימים עקב מגבלות ואת הגישה התומכת בענן. ניתן להעביר את אחריות האבטחה לספק הענן ולהקצות מחדש את המשאבים.
התרשימים הבאים של Azure ושל AWS מציגים את תחומי האחריות בין סביבת הקצה לבין ספק הענן, ואת השיוך לסוג הפריסה.
איך כל זה מתקשר למודל האחריות המשותף של בינה מלאכותית? כמו במודל האחריות המשותף של הענן גם לבינה מלאכותית ישנו מודל משלו וכאשר מעריכים שילוב ותמיכה בבינה מלאכותית, כדאי להבין את מודל האחריות המשותף ואילו תחומי אחריות של בינה מלאכותית אנו אחראים עליהם, ועל איזה אחראי היצרן.
החלק הבא יקח אותנו להבנה של מודל אחריות משותף לבינה מלאכותית, אך לפני זה ישנם מספר מושגי בינה מלאכותית שכדאי להבין רגע לפני.
הקדמה לבינה מלאכותית
אנו כבר לא בימיו הראשונים של בינה מלאכותית גנרטיבית ודבר אחד ברור, תשתית הענן היא עמוד השדרה של פלטפורמת בינה מלאכותית באשר היא, ולכן, ארגונים יצרכו את יישומי הבינה המלאכותית הגנרטיבית שלהם בתשתית ענן כלשהיא.
בשביל להבין טוב יותר את מודל האחריות המשותף צריך לגעת במושגים המוכרים יותר ואלה שמוכרים פחות, משם למקרי שימוש בכל פריסה עננית ולבסוף הבנה של מודל האחריות המשותף מהיבט נוסף.
המושגים הבאים נוגעים במודל האחריות המשותף של בינה מלאכותית.
מושגי בסיס
בינה מלאכותית היא היכולת של מכונה לחקות התנהגות אנושית אינטליגנטית. למשל, צאט בוט כמו "Apple Siri" או "Amazon Alexa" ייחשב לבינה מלאכותית, שמסוגלת לדבר בקול אנושי.
למידת מכונה (Machine Learning) היא יישום בינה המסייע לאדם ללמוד ולהשתפר מניסיון. זוהי דיסציפלינה המשתמשת באלגוריתמים ממוחשבים וניתוח כדי לבנות מודלים חיזוי שיכולים לפתור בעיות עסקיות.
למידה עמוקה (Deep Learning) היא תת-קבוצה של למידת מכונה העוסקת באלגוריתמים בהשראת המבנה והתפקוד האנושי. אלגוריתמים של למידה עמוקה יכולים לעבוד עם כמות עצומה של נתונים מובנים ולא מובנים. נקודת מפתח של למידה עמוקה היא למידה ייצוגית, כלומר, תכונות נלמדות באופן אוטומטי ומשם כל שכבה לומדת ליצור ייצוג מופשט ומורכב יותר של הנתונים.
רשתות גנרטיביות (Generative Adversarial Networks) הן דרך חכמה לאמן מודל גנרטיבי על ידי מסגור הבעיה כבעיות למידה מפוקחת עם שני תת-מודלים: מודל המחולל שמאמנים כדי ליצור דוגמאות חדשות, ומודל ההבחנה שמנסה לסווג דוגמאות כאמיתיות מהתחום או שנוצרו כמזויפות.
בינה מלאכותית גנרטיבית (Generative AI) היא קטגוריה של מודלים וכלים של בינה מלאכותית שנועדו ליצור תוכן חדש. הוא משתמש בטכניקות למידת מכונה כמו GANs ומודלים אחרים כדי ללמוד ממערכי נתונים גדולים וליצור תפוקות ייחודיות.
AI Service Provider (AISP) הוא מנגנון מבוסס Entity המספק שירותי בינה לפי דרישה כדי לעזור לבנות יישומי AI. מנגוננים אלה יכולים להיות ספקי ענן כמו AWS, GCP ו-Azure, כמו גם ספקים ספציפיים אחרים שממוקדים בשירות.
AI Service User (AISU) הוא מנגנון מבוסס Entity המשתמש בשירותים המסופקים על ידי AISPs כדי לבנות יישומי בינה עבור משתמשים. ישויות אלה הן בדרך כלל ארגונים, עסקים קטנים ובינוניים, סטארט-אפים או אפילו מפתחים בודדים.
מודלי שפה גדולים (LLM) הם מודלי שפה מבוססי למידה עמוקה שהוכשרו על כמויות עצומות של נתוני שפה. שפות אלה יכולות להפיק פלט שפה דמוי אדם ולבצע משימות מתוחכמות של עיבוד שפה טבעית.
הנחיה היא המנגנון שבו ניתן להשתמש כדי לקיים אינטראקציה עם מודלים של בינה מלאכותית גנרטיבית באמצעות שפה טבעית. הוא מורכב מהוראות שניתנו ליבנה גנרטיבית כדי לספק פלט רצוי.
Grounding הוא תהליך של מתן הקשר למודל הבינה המלאכותית הגנרטיבית כדי לאלץ אותו לענות על בסיס הקשר. זה מסייע ליצור תגובות רלוונטיות להקשר, על ידי גישה לנתונים הספציפיים. זה חיוני להבטחת האיכות, הדיוק והרלוונטיות של הפלט שנוצר. בעוד שמודל שפה (LLM) מגיעים עם כמות עצומה של נתונים, אותו ידע עדיין מוגבל ואינו מותאם למקרי שימוש ספציפיים. כדי לקבל פלט מדויק ורלוונטי, עלינו לספק למודלים את המידע הדרוש. במילים אחרות, אנחנו צריכים "לקרקע" את המודלים בהקשר של מקרה השימוש הספציפי שלנו.
אחזור (RAG) הוא מסגרת, ולא טכנולוגיה ספציפית, המאפשרת למודלים לנצל נתונים שהם לא הוכשרו עליהם. ישנן מספר דרכים ליישם RAG, וההתאמה הטובה ביותר תלויה במשימה הספציפית ובאופי הנתונים של כל סביבה וסביבה.
מודל האחריות המשותף לבינה מלאכותית
NIST 800-145 הגדיר את מודלי השירות עבור הענן כולל IaaS, SaaS ו- PaaS. מודלים אלה התפתחו מאז ובנוסף לזה התפתחו מודלים רבים נוספים. למשל מודל האחריות המשותף המתפתח הכולל את Container as a Service ואת Serverless. מכיוון שיישומי בינה נבנים בענן, ניתן להרחיב את מודל האחריות המשותפת גם עבור יישומי Generative AI.
מודל לבינה מלאכותית גנרטיבית
האחריות לאבטחה ולתאימות עבור יישומי בינה משותפת היא בין שירות הבינה המלאכותית, הארגון שהוא בעל היישום וספקי בינה מלאכותית. מודל אחריות משותפת זה מסייע לתחום ולספק הפרדה ברורה בין תפקידים ואחריות, ובנוסף, הדבר מאפשר ליצור ולפרוס יישומי בינה חדשים בקצב מהיר יותר, תוך שמירה על אבטחה ותאימות.
האימייג מתוך האתר של Cloud Security Alliance
מודל אחריות בפריסת IaaS
עבור יישומי IaaS, התשתית הכוללת GPUs או תשתית המסופקת על ידי AISPs. AISU אחראי על אבטחת התשתית הפיזית והווירטואלית. מודלים בסיסיים או מאומנים מראש של בינה יכולים להיות מסופקים על ידי AISPs. המודל יכול להיות מאומן ומכוונן על ידי AISUs, באמצעות קוד פתוח או קנייני. בחירת היררכיית המודל והרלוונטיות היא באחריות AISU. כדי לאמן את המודל, היררכיה , ואת האבטחה זה צריך להיות מאומת על ידי AISU. המודל מתארח על ידי AISU עבור Inference. כאשר היישום פועל כל סינון מהיר מסופק על ידי AISU. כל ההיבטים של בקרות מהירות, אבטחת יישומים, קניין רוחני, וזכויות יוצרים מטופלים על ידי AISU עצמו.
מודל אחריות בפריסת PaaS
עבור יישומי PaaS, התשתית, כמו גם המודלים שהוכשרו מראש, מסופקים על ידי AISPs. אבטחת המודל והנתונים עליהם מאומן המודל היא באחריות AISP. המודל מתארח על ידי AISP עצמו. אם מודל מאומן על משימות ספציפיות, AISP יכול לעשות הקשר ספציפי למשתמש. חלק מהשליטה המהירה של האבטחה יכולה להיות מסופקת על ידי AISP, בעוד AISU מטפל בהיבטים אחרים שלה. כל ההיבטים של אבטחת יישומים, קניין רוחני וזכויות יוצרים מטופלים על ידי AISU עצמו.
מודל אחריות בפריסת SaaS
עבור יישומי SaaS, מודלי LLM מופשטים מה AISU והם באחריות AISP. יישום SaaS משתמש בהקשר ספציפי למשתמש בתוך יישום SaaS, כמו גם נתונים אחרים שהוא מקבל מאפליקציות אחרות כדי לקרקע את המודל. אבטחת יישומים, סינון מהיר, וסינון קניין הם באחריות AISUs.
יישומי בינה מלאכותית גנרטיבית
ניתן לתייג את יישומי הבינה המלאכותית הגנרטיבית כתשתית כשירות (IaaS), פלטפורמה כשירות (PaaS) ותוכנה כשירות (SaaS).
מקרי שימוש – IaaS
עבור אפליקציות IaaS של בינה מלאכותית גנרטיבית, ה AISUs בוחר מודלים בסיסיים ומאמן אותם עם נתונים קנייניים משלהם. יישומים משתמשים במודלים שהוכשרו ולאחר מכן מקבלים גישה למשתמש. אלה מיועדים בעיקר לאפליקציות קריטיות לעסקים כמו BloombergGPT, Einstein GPT או Intuit GenOS שנוצרות על ידי הארגונים לצרכי הלקוחות שלהן.
מקרי שימוש – PaaS
AISUs יוצרים אפליקציות PaaS באמצעות סרוויסים כמו Azure OpenAI (או ממשקי API של Google Vertex AI). AISPs מארח את המודלים המאומנים בתשתית של הענן עצמו. השימוש בבינה מלאכותית דומה מאוד לקריאת API מיוחדת ליישומים. הרבה אפליקציות שנבנו על ידי AISUs משתמשות במודל זה עבור האפליקציות שלהם.
מקרי שימוש – SaaS
מספר גדול מאוד של יישומי SaaS קיימים כוללים כעת יכולות בינה גרנטיבית. ליישומים ארגוניים ידועים כמו Microsoft 365, ServiceNow או Salesforce יש כעת יכולות בינה. אף אחד מהמודלים אינו חשוף ל AISUs. יש גם אפליקציות דמויות ChatGPT שממוקדות בבינה מלאכותית גנרטיבית ונבנות. ארגונים צריכים להיות מסוגלים לזהות יישומי צל ולמצוא דרכים לשמור על אבטחת השימוש בהם.
מודל אחריות משותף של Azure AI
יישום התומך בבינה מלאכותית מורכב משלוש שכבות פונקציונליות המקבצות יחד מספר שכבות. אחריות האבטחה נמצאת בדרך כלל בידי מי שמבצע את הפעולות, אך ספק הבינה עשוי לבחור לחשוף אבטחה או בקרות אחרות כאפשרות תצורה בהתאם לצורך. שלושת השכבות הם: פלטפורמה, יישום ושימוש.
פלטפורמה
שכבת הפלטפורמה של בינה מלאכותית מספקת את יכולות הבינה ליישומים. בשכבת הפלטפורמה, יש צורך לבנות ולשמר את התשתית שמפעילה את מודל הבינה המלאכותית, נתוני אימון ותצורות ספציפיות שמשנות את התנהגות המודל. שכבה זו מספקת גישה לפונקציונליות באמצעות ממשקי API, אשר מעבירים טקסט המכונה Metaprompt לעיבוד, ולאחר מכן מחזירים את התוצאה שנוצרה, המכונה Prompt-Response.
בכדי להגן על הפלטפורמה מפני קלטים זדוניים, יש לבנות בקרות וכלים שיסננו את ההוראות שעלולות להיות מזיקות ולאחר מכן להישלח למודל הבינה המלאכותית. מכיוון שמודלים של בינה מלאכותית הם גנרטיביים, קיים גם פוטנציאל שתוכן מזיק כלשהו עשוי להיווצר ולחזור למשתמש. כל בקרה חייבת להגן תחילה מפני תשומות ותפוקות שעלולות להיות מזיקות בסיווגים רבים. סיווגים אלה צפויים להתפתח עם הזמן בהתבסס על ידע מודל, מיקום ותעשייה.
יישום
יישום ניגש ליכולות הבינה המלאכותית ומספק את השירות או הממשק למשתמש. הרכיבים בשכבה זו יכולים להשתנות מפשוטים למורכבים, בהתאם ליישום. יישומי הבינה המלאכותית העצמאיים הפשוטים ביותר פועלים כממשק לקבוצה של ממשקי API הלוקחים בקשת משתמש מבוססת טקסט ומעבירים נתונים אלה למודל לקבלת תגובה. יישומי בינה מורכבים יותר כוללים את היכולת להוריד את בקשת המשתמש עם הקשר נוסף, אינדקס סמנטי או באמצעות תוספים כדי לאפשר גישה למקורות נתונים נוספים. יישומי בינה מתקדמים עשויים גם להתממשק עם יישומים ומערכות קיימים. יישומים ומערכות קיימים עשויים לפעול בטקסט, שמע ותמונות כדי ליצור סוגים שונים של תוכן.
בכדי להגן על היישום יש לבנות מערכות וכלים לאבטחה היישומים במטרה להגן על יישומים מפני פעילויות זדוניות. כלים ומערכות אלה יספקו בדיקה מעמיקה של התוכן המשמש ב Metaprompt שנשלח למודל הבינה. מערכת הבטיחות גם בודקת את האינטראקציות עם תוספים, מחברי נתונים ויישומי בינה אחרים.
שימוש
שכבת השימוש בבינה מלאכותית מתארת כיצד יכולות הבינה משמשות ונצרכות בסופו של דבר. הבינה מציעה סוג חדש של ממשק השונה באופן מהותי מממשקים אחרים, כגון API, שורת פקודה וממשקי משתמש גרפיים. ממשק הבינה הגנרטיבי הוא אינטראקטיבי ודינמי כאחד, ומאפשר ליכולות העיבוד להתאים את עצמן למשתמש ולכוונתו. ממשק הבינה המלאכותית הגנרטיבי מנוגד לממשקים קודמים שבעיקר מאלצים את המשתמשים ללמוד את עיצוב המערכת והפונקציונליות שלה ולהסתגל אליה. אינטראקטיביות זו מאפשרת לקלט המשתמש, במקום למתכנני יישומים, להיות בעלי רמה גבוהה של השפעה על תפוקת המערכת, מה שהופך את מערכות ובקרות הבטיחות לקריטיים להגנה על אנשים, נתונים ונכסים.
בכדי להגן על השימוש נדרשת התייחסות רבה על התנהגות המשתמשים ואחריותיות בגלל ההשפעה המוגברת שיש למשתמשים על תפוקת המערכות. חיוני לעדכן מדיניות שימוש מקובלת ולחנך את המשתמשים על ההבדל בין יישומי לגאסי ליישומים התומכים בבינה מלאכותית. אלה צריכים לכלול שיקולים ספציפיים של בינה הקשורים לאבטחה, פרטיות ואתיקה. בנוסף, יש להבין תקיפות מבוססות בינה מלאכותית שניתן להשתמש בהן כדי לבצע מניפולציות באמצעות טקסט מזויף, קולות, סרטונים ועוד.
מחזור חיי אבטחה
בדומה לאבטחה עבור סוגים אחרים של טכנולוגיות בענן, חיוני לתכנן גישה מלאה. גישה מלאה כוללת אנשים, תהליכים וטכנולוגיה לאורך מחזור חיי האבטחה המלא: זיהוי, הגנה, זיהוי, תגובה, שחזור ופיקוח. כל פער או חולשה במחזור חיים זה יכולים לגרום לך:
- כשלון באבטחת נכסים חשובים
- אמולצית תקיפות ותיקון ממצאים
- מצבים שבהם לא ניתן לטפל בתקיפות
- שחזור במהירות של שירותים קריטיים
- החלת בקרות באופן עקבי/לא עקבי
לדוגמה. גישת אחסון ועיבוד הנתונים של Azure OpenAI בנויה על יסודות מאובטחים. נתוני המשתמש נשמרים מפני גישה בלתי מורשית, תוך הבטחת פרטיות ואבטחה בהתאם לתקני הגנת הנתונים של Microsoft.
השימוש בנתונים, העקרונות פשוטים. הקלט שמספקים, יחד עם תגובות הבינה המלאכותית – הנתונים – נשארים בסביבת הקצה. מיקרוסופט אינה משתמשת בנתונים האלה כדי לשפר את הצעות הבינה המלאכותית. הוא נשמר פרטי אלא אם כן אתה משתמש בו כדי לאמן דגמי AI מותאמים אישית.
לגבי סוגי הנתונים המעובדים, Azure OpenAI מעבד את הקלט – הנחיות והתשובות שנוצרות בעקבות AI. הוא גם מעבד נתונים שנשלחו להכשרת מודלים מותאמים של AI.
סוגי התקפות ספציפיים לבינה מלאכותית מוגדרים ב:
