שש הגנות לפני שנותנים לסוכן את המפתחות
הוראה בפרומפט אינה מנגנון בטיחות. מה ניסויים ומקרים מהשטח מלמדים על סוכני בינה מלאכותית, ואילו שש הגנות כדאי לבנות לפני שנותנים להם גישה למערכות של העסק.
מאמרים
מחשבות על AI במשרדים מקצועיים
הזיה נראית בדיוק כמו תשובה נכונה
מערכות AI ממציאות לפעמים עובדות ומקורות בביטחון מלא. מאיפה זה מגיע, למה חיבור למאגר מסמכים לא פותר את זה, ואיך עסק בודק את מה שהמערכת מפיקה.
הפרומפט הוא חוזה, וה-alignment הוא חובת אמונים
סוכן בינה מלאכותית מציב בפני העסק את הדילמה הוותיקה של דיני התאגידים: כמה לפרט, כמה לפקח, ועל מה לסמוך. מה עובר מהעולם התאגידי לעולם הסוכנים, ואיפה ההקבלה נשברת.