האם נדרשת רגולציה נוספת לטיפול בסיכוני בינה מלאכותית במגזר הביטוח, החיסכון והאשראי? / מורלי דורי

בשנים האחרונות אנו עדים לחדירה מואצת של טכנולוגיות בינה מלאכותית (AI) לכל תחומי החיים, והמגזר הפיננסי אינו יוצא מן הכלל. גופים פיננסיים מאמצים בקצב מהיר פתרונות מבוססי בינה מלאכותית לצורך ייעול תהליכים, שיפור השירות ללקוחות, הערכת סיכונים וקבלת החלטות עסקיות. בהרצאה של דניאל שרייבר, מייסד ויו"ר למונייד, באוניברסיטת בר אילן בדצמבר 24, הוא סיפר על כך שבתוך שנתיים מאז השקת CHAT GPT למונייד הגדילה הכנסות ב-50% והקטינה את כח האדם ב-4%. עם זאת, לצד היתרונות הרבים, השימוש בבינה מלאכותית מציב גם אתגרים וסיכונים ייחודיים שמעוררים שאלות בנוגע לאופן שבו יש להסדיר פעילות זו.

הסיכונים העיקריים הקיימים בשימוש בבינה מלאכותית על ידי גופים פיננסיים הם:

1. אפליה אלגוריתמית סמויה: מערכות בינה מלאכותית עלולות לפתח הטיות שיביאו להפליה של קבוצות אוכלוסייה מסוימות בהחלטות פיננסיות, כמו אישורי הלוואות, קביעת פרמיות ביטוח או תנאי אשראי. ללא רגולציה ייעודית, קשה יותר לזהות ולהתמודד עם הטיות אלו, במיוחד כשהן נסתרות בתוך "קופסאות שחורות" אלגוריתמיות.
2. חוסר שקיפות בקבלת החלטות: לקוחות עלולים למצוא את עצמם נדחים לקבלת שירותים פיננסיים מבלי לקבל הסבר ברור ומובן על הסיבות לכך. בעוד שרגולציה קיימת מחייבת מתן הסברים בסיסיים, היא אינה מותאמת לאתגרים הייחודיים של הסברת החלטות המתקבלות על-ידי מודלים מורכבים של בינה מלאכותית.
3. פגיעה בפרטיות: מערכות בינה מלאכותית מתבססות על עיבוד כמויות עצומות של נתונים אישיים. ללא הגבלות ייעודיות, קיים חשש לשימוש מופרז או לא מתאים במידע אישי, מעבר למה שהרגולציה הקיימת על פרטיות מגבילה.
4. פגיעות לתרמיות מתקדמות: טכנולוגיות בינה מלאכותית מאפשרות יצירת תרמיות מתוחכמות יותר, כמו דיפ-פייק או מניפולציות של זיהוי קולי. ללא רגולציה מתאימה, הצרכנים חשופים יותר לסיכונים אלו וגם הגופים חשופים לתרמיות אשר יכולות לפגוע ביציבותם.
5. אי-יציבות פיננסית: אלגוריתמים אוטומטיים עלולים ליצור מצב בו מערכות רבות מגיבות באופן דומה לתנאי שוק מסוימים ומובילות גופים פיננסיים רבים לקבל החלטות דומות, מה שעלול להגביר תנודתיות ולסכן את היציבות הפיננסית הכללית, ובכך לפגוע בחסכונות ובהשקעות של הצרכנים.

כבר בהסתכלות ראשונית ברשימת הסיכונים, עוד לפני העמקה, ניתן להבחין כי אלו סיכונים הקיימים בתחומי הפיננסיים עוד הרבה לפני כניסה של הבינה המלאכותית בסערה אל חיינו. לפיכך, נשאלת השאלה העקרונית האם הבינה המלאכותית מחייבת את הרגולטורים להתייחסות מיוחדת? התשובה לשאלה זו אינה טריוויאלית ויש סביבה מחלוקת בינלאומית.

בכנס בנושא אשר נערך במשרד עו"ד הרצוג בחודש שעבר בהשתתפות הממונה על שוק ההון הביטוח והחסכון, עמית גל והמפקח על הבנקים, דני חחיאשוילי, הציגו כל אחד מהרגולטורים עמדה רגולטורית דומה לפיה אין בכוונתם להסדיר הסדרות נוספות ספציפיות בנושאי בינה מלאכותית והם מצפים מהגופים המפוקחים להמשיך ולעמוד בכל הוראות הרגולציה, גם בשימוש בטכנולוגיה זו. כמובן, נאמר שהם ממשיכים לבחון את הנושא ואת ההתפתחויות, אך זו עמדתם בשלב זה.

כיום ניכרת מחלוקת בין רגולטורים פיננסיים בעולם בנוגע לצורך ברגולציה ייעודית לבינה מלאכותית. מצד אחד, ישנם רגולטורים הסבורים כי המסגרת הרגולטורית הקיימת מספקת מענה הולם גם לסיכונים הנלווים לשימוש בבינה מלאכותית. מצד שני, ישנם רגולטורים המקדמים רגולציה חדשה וייעודית לתחום, מתוך הבנה שהסיכונים הייחודיים הנובעים מטכנולוגיות אלו דורשים התייחסות נפרדת. במאמר זה אבחן את שתי הגישות, את הסיבות להבדלים ביניהן, ואת היתרונות והחסרונות עבור הגופים הפיננסיים.

הגישה השמרנית: הרגולציה הקיימת מספקת

תומכי הגישה השמרנית טוענים כי הרגולציה הקיימת בתחום הפיננסי היא מקיפה דיה כדי להתמודד גם עם האתגרים החדשים שמציבה הבינה המלאכותית. לפי תפיסה זו, העקרונות הבסיסיים של ניהול סיכונים, הגנת פרטיות, הגינות והוגנות בשירותים פיננסיים תקפים גם כאשר משולבת בינה מלאכותית בתהליכים.

לדוגמה, הרשות לניירות ערך האמריקאית (SEC) נוטה לגישה זו וקבעה שחברות פיננסיות צריכות לעמוד באותן דרישות רגולטוריות הקיימות גם כאשר הן משתמשות בטכנולוגיות AI. הרשות מדגישה שחובות האמון, דרישות השקיפות וחובות הדיווח אינן משתנות כאשר מדובר בשימוש בבינה מלאכותית.

באופן דומה, גם חלק מהרגולטורים באיחוד האירופי סבורים שניתן להתמודד עם סיכוני הבינה המלאכותית באמצעות הרגולציה הקיימת, כמו תקנות הגנת המידע (GDPR) והוראות ניהול סיכונים תפעוליים.

הנימוקים הניתנים לנקיטת הגישה השמרנית:

1. מניעת כפל רגולטורי: הוספת רגולציה ייעודית עלולה ליצור כפילות ועומס רגולטורי מיותר.
2. גמישות טכנולוגית: רגולציה שאינה מתמקדת בטכנולוגיה ספציפית מאפשרת גמישות בהתמודדות עם חידושים טכנולוגיים עתידיים.
3. התמקדות בתוצאות ולא באמצעים: הגישה מדגישה את התוצאות והסיכונים, ללא קשר לטכנולוגיה שבאמצעותה הם נוצרים.
4. הימנעות מעיכוב חדשנות: קביעת כללים ספציפיים לבינה מלאכותית עלולה להאט את קצב אימוץ החדשנות במגזר הפיננסי.

הגישה החדשנית: רגולציה ייעודית לבינה מלאכותית

בניגוד לגישה השמרנית, ישנם רגולטורים הסבורים כי הסיכונים הייחודיים הנלווים לשימוש בבינה מלאכותית מחייבים התייחסות רגולטורית ספציפית. גישה זו גורסת כי הרגולציה הקיימת לא תוכננה להתמודד עם המורכבות והייחודיות של מערכות בינה מלאכותית, ולכן יש צורך בהוראות חדשות שיתמודדו ישירות עם האתגרים הייחודיים.

דוגמאות לרגולציה חדשה בתחום הבינה המלאכותית במגזר הפיננסי:

1. האיחוד האירופי – תקנת הבינה המלאכותית (AI Act) : החקיקה המקיפה ביותר עד כה, המסווגת מערכות בינה מלאכותית לפי רמות סיכון. מערכות המשמשות בתחום הפיננסי, בייחוד לדירוג אשראי ולקביעת פרמיות ביטוח, מוגדרות כ"בעלות סיכון גבוה" וכפופות לדרישות מחמירות של שקיפות, פיקוח אנושי והסבירות (explainability). לקריאה נוספת מאמר מצוין בנושא של גיא מור בבלוג "הרגולטור".
2. הבנק המרכזי של אנגליה (Bank of England) פרסם הנחיות ספציפיות לשימוש במערכות מבוססות בינה מלאכותית במוסדות פיננסיים, הכוללות דרישות לבדיקות עמידות (stress testing) של מודלים, ניטור שוטף של ביצועי המערכות ודרישות מוגברות לניהול סיכונים (לסקר שערך הבנק בנושא AI)
3. רשות הפיקוח על שירותים פיננסיים בניו יורק (NYDFS) פרסמה הנחיות המחייבות חברות ביטוח להבטיח שאלגוריתמים לקביעת פרמיות אינם מפלים על בסיס גזע, מגדר או גורמים מוגנים אחרים. ההנחיות כוללות דרישות לתיעוד, בדיקה ומעקב אחר המודלים. קישור לקריאת ההנחיה.

הנימוקים הניתנים לנקיטת הגישה החדשנית:

1. מורכבות טכנולוגית ייחודית: מערכות בינה מלאכותית, במיוחד אלו המבוססות על למידה עמוקה, מציגות אתגרים ייחודיים שלא היו קיימים בטכנולוגיות קודמות, כמו "קופסה שחורה" ועמימות בתהליך קבלת ההחלטות.
2. סיכוני הטיה (Bias) והפליה: מודלים אלגוריתמיים עלולים להנציח או אף להגביר הטיות קיימות במידע שעליו הם מתאמנים, דבר המחייב התייחסות רגולטורית מיוחדת.
3. סיכוני סייבר מוגברים: מערכות בינה מלאכותית מציגות ווקטורי תקיפה חדשים, כמו התקפות Adversarial שיכולות להטעות את המודל.
4. דאגות ציבוריות: עלייה במודעות הציבורית לסיכונים הנלווים לבינה מלאכותית דוחפת רגולטורים לתת מענה ספציפי.

איזו גישה עדיפה לגוף הפיננסי?

נשאלת השאלה, האם הגוף הפיננסי יש סיבה טובה להעדיף את אחת הגישות. להלן טבלה המרכזת את היתרונות והחסרונות של שתי הגישות הרגולטוריות עבור הגופים הפיננסיים:

הסיבות להבדלים בין הגישות

מה הסיבה שרגולטורים פיננסיים שונים בוחרים גישות שונות? ההבדלים בין הגישות נובעים ממספר גורמים:

1. הבדלים תרבותיים ורגולטוריים: מדינות שונות מאופיינות בגישות שונות לרגולציה באופן כללי. האיחוד האירופי, למשל, נוטה ליישם גישה מחמירה יותר בהשוואה לארה"ב.
2. הבדלים בבשלות השוק: שווקים בשלים יותר בתחום הבינה המלאכותית עשויים לחוות כבר את הסיכונים הפוטנציאליים, ולכן לדרוש רגולציה ספציפית.
3. תגובה לאירועים שליליים: רגולטורים במדינות שחוו כשלים משמעותיים במערכות אלגוריתמיות נוטים לאמץ גישה מחמירה יותר.
4. שיקולים פוליטיים וכלכליים: שאיפה לעודד חדשנות וצמיחה כלכלית עשויה להוביל לגישה מקלה יותר, בעוד שדאגות לזכויות צרכנים עשויות להוביל לגישה מחמירה.

רגולציה מרצון: גישה פרואקטיבית לניהול סיכוני בינה מלאכותית

בין שתי הגישות הרגולטוריות המוצגות לעיל, קיימת גישה שלישית, הידועה כ"רגולציה מרצון (self-regulation).  בגישה זו, הגופים הפיננסיים מאמצים באופן וולונטרי סטנדרטים ונהלים לשימוש אחראי בבינה מלאכותית, מעבר לדרישות הרגולטוריות המחייבות.

רגולציה מרצון מציעה ערך משמעותי לגופים פיננסיי, גם כאשר מדובר בנושא בינה מלאכותית:

1. גמישות והתאמה: בניגוד לרגולציה חיצונית אחידה, רגולציה מרצון מאפשרת התאמה לצרכים הספציפיים של כל ארגון ולמודל העסקי שלו.
2. הובלת השוק: אימוץ סטנדרטים מחמירים באופן וולונטרי מאפשר לגופים פיננסיים לבסס עצמם כמובילי שוק אחראיים, ובכך לבדל את עצמם מהמתחרים.
3. יתרון המגיב הראשון (First Mover Advantage): ארגונים המפתחים יכולות וכלים לניהול סיכוני בינה מלאכותית מבעוד מועד יוכלו להסתגל בקלות רבה יותר לרגולציה עתידית, אם וכאשר זו תחול.
4. בניית אמון: גופים פיננסיים המוכיחים מחויבות לשימוש אתי ואחראי בבינה מלאכותית זוכים לאמון מוגבר מצד לקוחות, משקיעים ובעלי עניין אחרים.
5. השפעה על עיצוב הרגולציה: ארגונים המאמצים גישה פרואקטיבית מצויים בעמדה טובה יותר להשפיע על עיצוב הרגולציה העתידית, מתוך ניסיון מעשי.
6. הימנעות מ"הלם רגולטורי": אימוץ הדרגתי של פרקטיקות מיטביות מאפשר לארגונים להתאים את התשתיות והתהליכים שלהם בקצב נוח, ללא הצורך בשינויים דרסטיים כתגובה לרגולציה חדשה.

למרות היתרונות הרבים, רגולציה מרצון בתחום הבינה המלאכותית מציבה מספר אתגרים משמעותיים:

1. היעדר אחידות: בהיעדר סטנדרטים אחידים, כל ארגון עשוי לפתח גישה שונה, דבר העלול להוביל לחוסר עקביות בשוק ולבלבול בקרב לקוחות ומשקיעים.
2. "גרינוושינג" (AI-washing): ישנו חשש שארגונים יצהירו על אימוץ עקרונות אתיים ללא יישום מהותי שלהם, כצעד של יחסי ציבור בלבד.
3. אתגר המדידה וההערכה: קשה לכמת ולהעריך את האפקטיביות של מדיניות וולונטרית בהיעדר מדדים ברורים ומוסכמים.
4. תמריצים כלכליים מנוגדים: בטווח הקצר, השקעה בפיתוח מערכות אתיות ובטוחות יותר עלולה להיתפס כעלות נוספת ללא תשואה מיידית.
5. פערי ידע ומומחיות: לארגונים רבים חסרים הידע והמומחיות הדרושים לפיתוח מדיניות אפקטיבית לניהול סיכוני בינה מלאכותית.
6. דילמת הנוסע החופשי (Free Rider Problem): ארגונים עלולים להימנע מהשקעה ברגולציה עצמית בהנחה שהם ייהנו מהשיפור באמון הציבור בסקטור באופן כללי, אשר ייווצר כתוצאה ממאמצי המתחרים.
7. מעבר מתרבות ציות לתרבות יוזמה: גופים פיננסיים רגילים לעומס רגולטורי כבד ולתרבות של ציות להוראות חיצוניות מפורטות. המעבר לחשיבה פרואקטיבית, בה עליהם לקבוע בעצמם את הסטנדרטים ולא רק לציית להם, מהווה שינוי תרבותי משמעותי ומאתגר. ארגונים אלה לרוב מפתחים מיומנויות גבוהות של ציות והתאמה, אך מיומנויות מוגבלות בפיתוח וייזום מדיניות רגולטורית עצמאית.

בהינתן הגישה של הרגולטורים בישראל נכון לעכשיו, הפתרון האופטימלי עשוי להיות מודל היברידי, המשלב בין עקרונות-על רגולטוריים המוגדרים על ידי רגולטורים, סטנדרטים תעשייתיים המפותחים ברמת התעשייה, ורגולציה פנים-ארגונית הכוללת מדיניות ונהלים ספציפיים. ארגונים פיננסיים הפועלים לפי מודל זה יכולים ליהנות מיתרונות הבהירות והאחידות של רגולציה פורמלית, לצד הגמישות וההתאמה האישית של רגולציה עצמית.

סיכום

חשוב להדגיש שאחד האתגרים המשמעותיים ביותר בדיון זה הוא שאיננו יודעים באמת איזו גישה רגולטורית היא ה"מנצחת" ואיזה מהרגולטורים צודק בגישתו. נדרשות כנראה מספר שנים של ניסיון מצטבר בשימוש בטכנולוגיה והתוצאות שהיא תביא איתה, כדי להבין מהי האסטרטגיה הרגולטורית האפקטיבית ביותר, בהתאם לתוצאות שיתגלו בשווקים השונים – הן באלה שאימצו רגולציה ייעודית והן באלה שבחרו להסתמך על המסגרות הקיימות.

גופים פיננסיים שישכילו לאמץ את הסטנדרטים הגבוהים ביותר לשימוש אחראי בבינה מלאכותית, מעבר לדרישות הרגולטוריות המינימליות, הם אלו שירוויחו את אמון הלקוחות ויצליחו לנצל את הפוטנציאל המלא של טכנולוגיה משנה- חיים זו, תוך מזעור הסיכונים הנלווים אליה. בסופו של דבר, האיזון בין יכולת תחרותית לבין אמון ציבורי הוא שיקבע את המנצחים בעידן הפיננסי החדש המונע על ידי בינה מלאכותית.

בשוק המשתנה במהירות של טכנולוגיות בינה מלאכותית, אין פתרון רגולטורי אחד המתאים לכל הגופים הפיננסיים. אולם, גישה פרואקטיבית של רגולציה מרצון, המשולבת בהקשבה לדרישות רגולטוריות מתפתחות, מציעה את האיזון המיטבי בין חדשנות לבין אחריות.

הערה אישית בנושא כתיבת המאמר:

ראוי לציין כי מאמר זה נכתב בשיתוף עם טכנולוגיית בינה מלאכותית מתקדמת. אין בכך משום הודאה בחולשה אלא דווקא הכרה בערך הטמון בשילוב יכולות אנושיות עם כלים טכנולוגיים מתקדמים בעידן הדיגיטלי. המאמר משקף את תפיסת עולמי המקצועית, כאשר הדגשים, הניתוח הביקורתי ואימות העובדות נעשו על-ידי באופן מוקפד.

בעולם שבו הידע מתרחב והמורכבות גוברת, היכולת לנצל את מלוא הפוטנציאל של הכלים העומדים לרשותנו היא בעצמה אמנות שיש להעריכה. שילוב זה איפשר לי להעמיק בניתוח הסוגיה המורכבת של רגולציה בתחום הבינה המלאכותית במגזר הפיננסי, תוך אופטימיזציה של זמן ומשאבים.

אני רואה בגישה זו מודל עבודה עתידי חיוני בעידן הנוכחי, המאפשר למקצוענים להתמקד בערך המוסף הייחודי שלהם – חשיבה ביקורתית, שיקול דעת מקצועי והבנה עמוקה של ההקשר – תוך האצת תהליכי יצירת התוכן ושיפור איכותו. זוהי, לטעמי, דוגמה מובהקת ליתרונות שבשילוב אדם ומכונה בעידן החדש.