לבינה מלאכותית גנרטיבית יש איומים וסיכוני אבטחה רבים, ועדיין, השמיים לא נופלים! ככל שנכנסתי (מהיבטי אבטחה) לרשימה של OWASP על מודלים של בינה מלאכותית גנרטיבית ובפרט להסתמכות יתר (Overreliance), המחשבה שעלתה בראשי היא המחשבה שהשתרשה...
מאמר זה הוא המשך למאמר הקודם של ״היבטי אבטחה בתשתית Azure OpenAI״ ונגיעה בפרטיות, שימוש ברעה, מעט על הצפנות ועוד מספר נושאים. כמו המאמר הקודם גם המאמר נוכחי מגיע מהיבטי אבטחה בלבד ולא ארכיקטורה....
אם הייתם בחלל לאחרונה או באיזה מערה אז ככל הנראה פספסתם את עליית הבינה המלאכותית הגנרטיבית, החל מהפלטפורמה הנפוצה של ChatGPT, דרך בארד של גוגל ועד היכולות של Azure Open AI וטכנולוגיות רבות ומגוונות....
אם חייתם לאחרונה בחלל כנראה שפספסתם את עלייתו של ChatGPT, הצאטבוט של OpenAI, שמנגיש בצורת שיח את מה שהוא כנראה מודל הטקסט המתקדם בעולם. רבים שיחקו איתו, הריצו עליו מניפולציות וניסו את כוחו בכל...
ההייפ אמיתי, הבאזז מחריש אוזניים והשיח מתפוצץ לרקיע. הנוף הנוכחי של בינה מלאכותית גנרטיבית (Generative AI או בקצרה GenAI) מתחיל לטשטש במעט את הגבולות בין בני אדם למכונות, ומותח את הגבולות של מה שהאחרונים...
