המושג Shadow IT – מחשוב צללים – מוכר לארגונים כבר שנים. המשמעות היא שימוש בארגון בתוכנות או שירותים שלא אושרו על ידי ה-IT. זה קורה מסיבות זדוניות לרוב, אלא נובע מתוך רצון העובדים להשתמש במערכת שתעזור להם לעבוד מהר ויעיל יותר. למשל: עובד במחלקת הכספים שמתקין תוסף לאקסל שלא אושר על ידי ה-IT, כדי חבצע ניתוחים מורכבים בצורה מהירה יותר. יתכן והכלי אינו עומד בסטנדרטים הארגוניים של אבטחת מידע, אך נותן לעובד מענה לצורך עסקי.
עם כניסת הבינה המלאכותית לחיינו, אותו דפוס קיבל צורה חדשה ומסוכנת יותר – Shadow AI -שימוש של עובדי הארגון בכלי AI לא מורשים. הכלים האלה זמינים ונגישים עוד הרבה יותר מתוכנות שדורשות התקנה או רישוי, ואף הרבה יותר קשה לנטר את השימוש בהם. מבחינת העובדים כלי הבינה המלאכותית נתפסים כבר כהכרח, כלי שאי אפשר בלעדיו, ומכפיל כח לפרודוקטיביות שלהם. לכן הם יעשו הכל כדי להשתמש בהם.
כמה נתונים ממחקרים שהתפרסמו בנושא לאחרונה וכדאי להכיר:
59% מהעובדים מודים שהם משתמשים בכלי AI שלא אושרו בארגון (וזינוק של 60% מול השנה שעברה).
93% מהעובדים הזינו מידע ארגוני לכלי AI שלא אושר.
70% אחוז ממנהלי ה-IT מדווחים על שימוש בכלי AI לא מורשים אצלם בארגון.
מעבר לסיכון החמור של דליפת מידע רגיש של הארגון כמו נתונים פיננסיים, מידע על לקוחות ודומה, יש עוד סיכונים, למשל אתגר ה-hallucinations, הזיות המודל – שיכול להוביל לקבלת החלטות שגויה בארגון. אנחנו רואים את תופעת ה-Shadow AI מתרחבת גם אצל הלקוחות שלנו בשטח ומבינים שלא ניתן למנוע אותה לחלוטין, אבל בהחלט אפשר לצמצם אותה במספר שלבים מרכזיים:
שלב ראשון – מודעות לתופעה. לא כולם מודעים שמה שהם עושים פסול, ולכן חשוב להתחיל בהעלאת המודעות בקרב העובדים וגם בקרב צוותי ה-IT. צריך להסביר בצורה ברורה מה זה Shadow AI ואילו סיכונים קיימים בשימוש בכלי AI לא מורשים: דליפת מידע, חשיפה רגולטורית וקבלת החלטות שגויות, ולא תרחישים תיאורטיים, אלא מצבים שקורים בפועל. המסר צריך לעבור בלי הפחדות, אלא דרך דוגמאות מהעולם האמיתי ובשילוב מדיניות ארגונית ברורה לגבי מה מותר ומה אסור.
שלב שני – חלופה ארגונית טובה. הסברים ואיסורים לבדם לא עובדים. כדי לצמצם Shadow AI, הארגון חייב לספק חלופה אמיתית – הכנסה של כלי AI ופלטפורמות AI ארגוניות, עם גישה מבוקרת לנתונים, ניהול הרשאות, לוגים ושמירה על המידע. אך מה שבאמת חשוב הוא שלעובדים יהיה נח להשתמש בהם.
לא פחות חשוב מהכלי עצמו הוא ניהול השינוי וההטמעה בקרב העובדים. כשעובדים מבינים איך הכלים יכולים לענות על הצרכים שלהם להם ואף להיות מועילים יותר עם אפשרות של חיבור לדאטה ולמערכות הארגוניות – הצורך בכלים חיצוניים שלא מבוקרים יורד בצורה משמעותית.
שלב שלישי – עובדים כשותפים לחדשנות. כדאי לשתף את העובדים באופן פעיל בפיתוח פתרונות ארגוניים. לעודד יצירת סוכנים, אוטומציות ופתרונות AI במסגרת הרשאות ברורה. כך כלי ה-AI יהפכו מכלי של יחידים לנכסים ארגוניים שיכולים לשמש צוותים ויחידות נוספות.
בתהליך נכון, העובדים עם הנטייה הטכנולוגית יעברו ממצב של שימוש עוקף ומבוזר לשותפים פעילים ביצירת ערך ארגוני רחב. ביצוע הצעדים האלה לא רק מצמצם בצורה דרמטית את תופעת Shadow AI, אלא ממנף AI כיכולת ארגונית מרכזית שמקדמת חדשנות, יעילות חדשנות וצמיחה עסקית.
