354: לבנות אייג׳נטים אמינים בלי להעמיס קונטקסט

פיתוח אייג׳נטים הפך לחלק מרכזי בבניית מוצרים טכנולוגיים, אך לצד הפוטנציאל הגדול, צוותי פיתוח רבים נתקלים בקשיי אמינות ובעלויות גבוהות. כדי לגרום לאייגנט לבצע משימות מורכבות, הנטייה הטבעית היא להעמיס עליו כמה שיותר מידע, הנחיות היסטוריות וכלים בתוך קונטקסט אחד גדול. דורון בלייברג, Solutions Architect ב-AWS, הציג בכנס האחרון שלנו -The Third Wave את הבעייתיות בגישה הזו ומסביר כיצד ארכיטקטורה לא נכונה של ניהול קונטקסט פוגעת בביצועים של מודלי שפה, מגדילה עלויות ומייצרת תסכול בתהליך הפיתוח.

בפרק, דורון מדבר על ארבעה עקרונות מעשיים לבניית אייג׳נטים אמינים וכלכליים יותר באמצעות ניהול חכם ומניעתי של תשומת הלב של המודל.

See omnystudio.com/listener for privacy information.