לבינה מלאכותית גנרטיבית יש איומים וסיכוני אבטחה רבים, ועדיין, השמיים לא נופלים! ככל שנכנסתי (מהיבטי אבטחה) לרשימה של OWASP על מודלים של בינה מלאכותית גנרטיבית ובפרט להסתמכות יתר (Overreliance), המחשבה שעלתה בראשי היא המחשבה שהשתרשה...
מאמר זה הוא המשך למאמר הקודם של ״היבטי אבטחה בתשתית Azure OpenAI״ ונגיעה בפרטיות, שימוש ברעה, מעט על הצפנות ועוד מספר נושאים. כמו המאמר הקודם גם המאמר נוכחי מגיע מהיבטי אבטחה בלבד ולא ארכיקטורה....
אם הייתם בחלל לאחרונה או באיזה מערה אז ככל הנראה פספסתם את עליית הבינה המלאכותית הגנרטיבית, החל מהפלטפורמה הנפוצה של ChatGPT, דרך בארד של גוגל ועד היכולות של Azure Open AI וטכנולוגיות רבות ומגוונות....
סייבר ובינה מלאכותית, יכולים להיות יעילים אך מסוכנים, החל מהיבטי תקיפה, דרך היבטי הגנה ועד כלים שמבטיחים להביא בשורה ולסייע ביומיום. נכון לימים אלה, רק הזמן יוכיח את עצמו. בינה מלאכותית גנרטיבית (Generative AI)...
אם חייתם לאחרונה בחלל כנראה שפספסתם את עלייתו של ChatGPT, הצאטבוט של OpenAI, שמנגיש בצורת שיח את מה שהוא כנראה מודל הטקסט המתקדם בעולם. רבים שיחקו איתו, הריצו עליו מניפולציות וניסו את כוחו בכל...
