In Hebrew
שש הגנות לפני שנותנים לסוכן את המפתחות
הוראה בפרומפט אינה מנגנון בטיחות. מה ניסויים ומקרים מהשטח מלמדים על סוכני בינה מלאכותית, ואילו שש הגנות כדאי לבנות לפני שנותנים להם גישה למערכות של העסק.
Insights
Notes on AI in professional firms
- In Hebrew
הזיה נראית בדיוק כמו תשובה נכונה
מערכות AI ממציאות לפעמים עובדות ומקורות בביטחון מלא. מאיפה זה מגיע, למה חיבור למאגר מסמכים לא פותר את זה, ואיך עסק בודק את מה שהמערכת מפיקה.
- In Hebrew
הפרומפט הוא חוזה, וה-alignment הוא חובת אמונים
סוכן בינה מלאכותית מציב בפני העסק את הדילמה הוותיקה של דיני התאגידים: כמה לפרט, כמה לפקח, ועל מה לסמוך. מה עובר מהעולם התאגידי לעולם הסוכנים, ואיפה ההקבלה נשברת.