בשנים האחרונות, ארגונים ביטחוניים, בנקאיים וחברות ביטוח, מבינים יותר ויותר את הפוטנציאל העצום של בינה מלאכותית. היכולת לנתח כמויות מידע אדירות, לזהות דפוסים חריגים, ולשפר תהליכים עסקיים – כבר אינה בגדר חזון, אלא צורך אסטרטגי.
הצמיחה המהירה של ה-LLMs יוצרת הזדמנות נוספת להגדלת הפריון – אם דרך סיעור מוחות, כתיבת מסמכים, או יצירת קוד. אך עבור ארגונים שפועלים בסביבה רגישה ומבודדת, המעבר לעולמות ה AI אינו פשוט כלל. לא בגלל חוסר בידע או רצון, אלא בגלל מאפיינים ארגוניים שמחייב שליטה מלאה על המידע, עמידה ברגולציה מחמירה, ואבטחה ברמה הגבוהה ביותר.
אתגר טכנולוגי ואנושי
ארגונים רגישים עובדים על רשת מחשוב שהינה מופרדת מרשת האינטרנט (Air-Gaped) ומבוססת על התקנה בשרתים מקומיים (On-Premises). הטמעת מערכות AI בסביבה מנותקת דורשת תשתיות חומרה ייעודיות, תהליכי התקנה ידניים, וניהול גרסאות מתמשך. כל רכיב – חומרתי או תוכנתי – חייב לעבור בדיקות אבטחה קפדניות ולעמוד בתקני סיווג מחמירים. עדכון מודלים או אימוץ טכנולוגיות חדשות, כמו RAG או מודלים קטנים, הופך לתהליך סזיפי ומורכב שמצריך תיאום, אישורים, בדיקות אבטחה ולעיתים גם פתרונות יצירתיים.
האתגר אינו רק טכנולוגי – הוא גם אנושי. ארגונים רגישים נדרשים לגייס ולהכשיר צוותים בעלי ידע ייחודי: מהנדסי MLOps שמתמחים במודלי Open Source (כגון מיסטרל ו-Llama); מומחי אבטחת מידע שמודעים לאיומים הייחודיים של מערכות AI אל מול דרישות האבטחה המחמירות, ומדעני נתונים – שמכירים את עומק האפשרויות בהקשר העסקי. אלו תפקידים מבוקשים מאד גם בחברות ההייטק וכשהשוק האזרחי מציע תנאים מפתים, ארגונים מהסוג הזה (חברות ביטחוניות, בנקים) חייבים להשקיע בשימור העובדים כולל שימור ידע, הכשרה פנימית, ובניית מסלולי קריירה ייעודיים.
התקנה מקומית
הפתרון טמון בהתאמה. ארגונים שמצליחים לשלב יכולות AI בסביבה מקומית עושים זאת באמצעות מודלים קטנים ויעילים (sLLMs), תהליכי MLOps מותאמים, ושימוש בפלטפורמות מודולריות שמאפשרות שליטה מלאה על המידע והמודלים. חלק מהארגונים בוחרים לעשות זאת בצורה ידנית, על ידי הורדה והתקנה של המודלים בסביבה המקומית, יצירת בקרות ועדכונים שגרתיים.
בשל מורכבות הנושא והמחסור בכח אדם ישנם בעולם הזה גם פתרונות מנוהלים. על מנת לתת מענה לדרישות של ארגונים אלו – אנחנו ב-EY יזמנו לאחרונה שותפות עם חברת Jeen.ai המפתחת פלטפורמת GenAI מתקדמת המיועדת גם לארגונים רגישים. Jeen.ai תומכת בהתקנה מלאה בסביבה מבודדת. היא מתחברת מצד אחד לכלי הבקרה וההזדהות הארגוניים, ומצד שני לדאטה ולמקורות המידע בארגון, כדי למצות את היתרונות המלאים של ה-AI וליצר אימפקט עסקי משמעותי.
הפתרון של Jeen.ai הוא Multi-model ומאפשר שימוש במודלים השונים הקיימים בשוק לפיתוח סוכנים מתקדמים ו RAG כמו גם שימוש בצ'אט ארגוני. היתרון הנוסף של שימוש בפלטפורמה הינו יכולות AI FinOps מתקדמות, המאפשרות מעקב בזמן אמת אחר עלויות שימוש והגדרת מגבלות תקציב, כדי להבטיח שליטה מלאה ולמנוע חריגות תקציביות.
המומחים של EY מלווים את תהליך ההטמעה של Jeen.ai באופן מותאם לארגון, תוך יישום בקרות ואחריות, עמידה בכללי הציות והבנה עמוקה של עולמו העסקי של הלקוח.
הפלטפורמה כבר יושמה בארגונים רבים מסקטורים שונים ביניהם ארגוני בריאות, חברות מתחום הקמעונאות והייצור,ארגונים פיננסים, מוסדות אקדמיה וארגונים ביטחוניים עם הצגת ROI לתהליכים (Use Cases) שהוטמעו.
נשמח להציג לכם את הפלטפורמה, לבחון את הצרכים העסקיים שלכם, ולהדגים את הדרך שבה ארגונים רגישים כבר עושים את זה – בצורה בטוחה, רגולטורית, ויעילה.
