חור בענן: לשלוט בהוצאות ובביצועים בעידן ה-AI

תמונה של עדירם קידרון

עדירם קידרון

שותף, מוביל טרנספורמציה טכנולוגית, EY

תמונה של נאור פורת

נאור פורת

מנכ"ל ומייסד-שותף InfrOS

רוצים-ות לקבל את העדכונים שלנו ישירות למייל?

במקביל לאימוץ ה-Cloud בארגונים, אנו רואים כי הוצאות הענן עלו לכ-32% מכלל הוצאות ה-IT הגלובליות. בכל הסקרים והמחקרים, מנהלי מערכות המידע מדווחים על חריגות מתקציב הענן השנתי, לצד בזבוז משאבים עקב "תצורה לא אופטימלית" של התשתית. 

בתור מומחי ענן ב-EY, אנו עדים לכך שארגונים רבים מגלים מאוחר מדי שללא ניהול מוכוון-מדדים, צריכת הענן "בורחת": שירותים רצים בתת-ניצולת, העלויות נוסקות, וביצועי המערכות אינם עומדים בציפיות.

הופעת הדור החדש של יישומי AI גנרטיביים (Generative AI) מחריפה את הצורך בארכיטקטורה יעילה. מודלים גדולים של למידת מכונה (כמו מודלי שפה גדולים – LLMs) דורשים כוח עיבוד, אחסון ורוחב פס עצומים, הן במהלך אימון המודלים והן בפריסתם בסביבת ייצור.

עומסי GenAI עלולים להזניק את חשבון הענן באופן בלתי מבוקר אם לא מנהלים אותם בקפדנות. למעשה, אנו רואים חברות שמתנסות ב-GenAI ומופתעות מהחשבון – אימון מודל על מאות מיליוני פריטי מידע, או הרצת שאילתות מורכבות למודל, מתרגמים ישירות לשעות עיבוד יקרות בענן.

ארכיטקטורה מבוססת מדדים

בעידן הנוכחי מתחדד הצורך לבנות ארכיטקטורת ענן המונחית על-פי מדדים (KPIs) ברורים. ארכיטקטורת ענן מוכוונת KPI פירושה תכנון וניהול הענן תוך הצבת מדדי ביצוע מרכזיים – כגון עלות, ביצועים, זמינות וניצולת – כ"כוכב הצפון" של תהליך קבלת ההחלטות.

במשימות AI, קשה להשיג את האיזון בין ביצועים (למשל זמן תגובה נמוך או דיוק גבוה) לבין עלות. ללא הנחיה של מדדים ברורים, קיים סיכון שתשתית הענן תהיה חזקה ויקרה מדי (over-provisioning) או חלשה מכדי לעמוד בעומס (under-provisioning).

למשל, מודל GenAI המספק שירות לצרכנים יצטרך אולי להגיב תוך פחות מ-100ms לבקשה, גם תחת מיליוני משתמשים. ארכיטקטורה שלא תוכננה לפי יעד זה עשויה לגרום לזמני תגובה גבוהים ולחוויית משתמש ירודה – או לחלופין לדרוש הוספת שרתים יקרים בדיעבד.

כאן נכנסת הגישה המונחית KPI: כבר בשלב התכנון מוגדרים יעדים כמותיים – זמן תגובה מרבי, תקציב חודשי מוגבל וזמינות של 99.9%. ההחלטות הטכנולוגיות מתקבלות כדי לעמוד ביעדים אלה באופן מדויק.

FinOps בעידן ה-AI

אל מול האתגר, תפקיד ועקרונות ה-FinOps מקבלים משנה תוקף. זהו שם כולל לשיטות המבטיחות אחריות פיננסית ושקיפות בהפעלת ענן. מטרתן היא לאזן בין חדשנות בענן לבין ניהול עלויות מוקפד. עבור עומסי AI, המשמעות היא הטמעת תהליכים המבטיחים שכל חוות GPU, כל שאילתת מודל וכל יחידת אחסון – מנוטרים ומבוקרים תחת יעד עלות-תועלת ברור.

כיום, כ-80% מהארגונים המשתמשים בענן כבר הקימו פונקציית FinOps ייעודית כדי לשלוט בהוצאות ולמדוד החזר על השקעה (ROI). גישת FinOps לעולמות ה-GenAI דורשת שצוותי הפיתוח, התפעול והפיננסים ישתפו פעולה כדי להגדיר מדדי הצלחה. שיתוף פעולה כזה מאפשר לפרוץ את "הקופסה השחורה" של הוצאות ה-AI ולהבטיח שההתלהבות מטכנולוגיה חדשה לא תגבה מחיר כלכלי כבד מהארגון.

ישנם מספר עקרונות מפתח לבניית ארכיטקטורת ענן מונחית מדדים:

  • הגדרת KPI בהלימה ליעדים העסקיים: בשלב התכנון, על הארגון להחליט מהם המדדים הקריטיים להצלחת המערכת (למשל עלות תפעול חודשית או זמן תגובה), ולהצמיד לכל מדד ערך יעד וסף התרעה.
  • שקיפות, ניטור ודיווח רציף: יש למדוד באופן עקבי את ביצועי הענן אל מול ה-KPIs. דאשבורד FinOps איכותי מרכז את כל המדדים במקום אחד, כך שמנהלים ומהנדסים רואים תמונת מצב אחודה.
  • אופטימיזציה מתמשכת (Continuous Optimization): ענן הוא סביבה דינמית. ניהול מוכוון KPI הוא תהליך מחזורי: כשמזהים פער (כמו ניצולת CPU נמוכה), מבצעים התאמות כמו Right-Sizing. המעבר הוא מגישת "שגר ושכח" (Set and Forget) לחשיבה של שיפור מתמיד והטמעת יכולות Scaling אוטומטיות.
  • תרבות ארגונית: הצלחת המודל דורשת תרבות של אחריות משותפת (Accountability). מומלץ להקים צוות FinOps ייעודי או מרכז מצוינות (CCoE) המשלב גורמי טכנולוגיה ופיננסים, כך שכל צוות מבין כיצד השימוש שלו בענן מתורגם למספרים.

מהפכת האוטומציה

לאור המורכבות בניהול יעיל של ענן גדול, אנו רואים צמיחה בפתרונות אוטומציה חכמים המסייעים בתכנון ובתחזוקה. פלטפורמת InfrOS היא דוגמה בולטת לכלי המיישם הלכה למעשה את הגישה של ארכיטקטורה מונחית-מדדים.

מדובר ב"מערכת הפעלה לתשתיות" המנצלת שיטות AI ותכנון מתמטי כדי לעצב ולפרוס תשתית ענן מותאמת אישית. הפלטפורמה מקבלת כקלט את דרישות המערכת והעסק (עומסי עבודה, ביצועים, יעדי זמינות וכו') ומייצרת אוטומטית עיצוב ארכיטקטורה אופטימלי, תוך הימנעות מבזבוז משאבים. מתחת למכסה המנוע, התוכנה מפעילה שבעה מנועי AI המתמחים כל אחד בהיבט ארכיטקטוני אחר: ביצועים, אמינות, אבטחה, עלות, Scalability, תחזוקתיות ומורכבות פריסה.

יתרון משמעותי ב-InfrOS הוא היכולת לבדוק מראש אם הארכיטקטורה תעמוד ביעדים באמצעות "מעבדת סימולציה" המדמה עומסים ומזהה צווארי בקבוק. רק כשהתכנון מוכיח עמידה במדדים – הוא עובר לייצור, מה שמצמצם משמעותית את הסיכון ל"הפתעות". לפי נתוני החברה, לקוחותיה הצליחו לקצץ בממוצע מעל 40% מהוצאות הענן תוך שיפור הביצועים.

בנוסף, הפלטפורמה מזרזת דרמטית את זמני הפריסה (Time-to-Market) מחודשים לימים ספורים, ומסייעת בנטרול התלות בספק יחיד. חשוב להדגיש: כלים אלו אינם מחליפים את החשיבה האנושית אלא מהווים מכפיל כוח המאפשר קבלת החלטות אובייקטיביות מבוססות נתונים.

הופכים את הענן למנוע צמיחה רווחי

בעולם שבו הענן הוא הבסיס לכל חדשנות דיגיטלית, הצלחת הארגון תלויה ביכולתו למדוד ולשפר ללא הרף את צריכת המשאבים שלו. ארכיטקטורה מוכוונת KPI מעבירה את הפוקוס מהמירוץ אחר טכנולוגיה לשאלה המרכזית: כיצד אנו ממצים ערך עסקי מקסימלי מהענן?

השקעה בתכנון מונחה-מדדים אינה מותרות – היא תנאי הכרחי להצלחה. ארגונים שיגדירו KPIs ברורים ויאמצו תרבות וכלים לניהול לפיהם, יוכלו להאיץ את החדשנות (כולל פתרונות GenAI מתקדמים) מבלי לאבד שליטה על ההוצאות, תוך הבטחת עמידה עקבית ביעדים וזריזות עסקית גבוהה.

לפרטים נוספים

עדירם קידרון

Scroll to Top

לאור המצב הביטחוני והנחיות פיקוד העורף, 
אנו מעדכנים על דחיית הכנס השנתי לתעשיית הביטוח והפיננסים
שהיה מיועד להתקיים היום, יום שני, 8.6.26. 
אנו מחזקים את צה"ל וכוחות הביטחון ומייחלים לימים שקטים לכל עם ישראל.

EY ישראל