במכתב שנשלח אתמול לשרי האוצר ולנגידי הבנקים המרכזיים של מדינות ה-G20, הזהיר יו״ר מועצת היציבות הפיננסית ונגיד הבנק המרכזי של אנגליה, שהבינה המלאכותית וההתפתחות שלה הן הסיכון המיידי והרציני ביותר שהטכנולוגיה מציבה היום למערכת הפיננסית העולמית.
הוא מצביע על ארבע סכנות:
1. מתקפות מהירות חכמות 🧠 וזולות
בינה מלאכותית מאפשרת לאתר חולשות, לייצר הונאות ולהזניק מתקפות במהירות. זה זול וזה אפשרי בקנה מידה גדול. כל זה בזמן שמדינות רבות בכלל לא ערוכות לזה. עבור האזרח הקטן זה אומר יותר הונאות מתוחכמות (ורואים את זה), גניבת מידע אישי והשבתת אפליקציות בנקאיות.
2. תלות ⚡ מסוכנת במספר קטן של ענקיות טכנולוגיה
הבנקים והמוסדות הפיננסיים נשענים על אותם ספקי ענן וטכנולוגיה. פריצה או תקלה אצל חברה אחת יכולה לפגוע במיליוני לקוחות ובמוסדות רבים במקביל - ואז ליצור אפקט דומינו במערכת העולמית. אגב, ככל שהמוסדות הפיננסיים יטמיעו עוד ועוד בינה מלאכותית - זה רק יעמיק את התלות הזו.
3. מערכות AI עוקפות את ההגנות ❗
יו״ר מועצת היציבות הזכיר את האירוע המשוגע שקרה ביולי, אז סוכנים של OpenAI יצאו מסביבת הניסוי המבוקרת שלהם ופרצו ל-Hugging Face (קראו פה). המקרה מראה עד כמה חייבים תיאום עולמי ובדיקות מחמירות לפני שחרור מודלים מתקדמים.
4. בועת ב-AI פוגשת שוק שכבר נמצא בלחץ 📈
אזהרה נוספת (ששמענו כבר בעבר) היא מפני השווי הגבוה מאד של חברות AI, והעלייה בהשקעות ממונפות (כלומר, השקעות בכסף שנלקח בהלוואה). אכזבה מה-AI או אירוע בטיחותי משמעותי יכולים להצית ירידות חדות מאד.
בקיצור - לא מדובר פה בחשש ״שמישהו יפרוץ לבנק באמצעות AI״. הבעיה היא שמתקפה, או תקלה או איבוד שליטה יתחברו יחד בכמה נקודות חולשה - ויהפכו אירוע טכנולוגי בודד למשבר פיננסי עולמי שאף אחד (לא הבנקים ולא האזרחים) לא מוכן אליו.
לתגובות - בואו
ללינקדאיןhttps://www.linkedin.com/feed/update/urn:li:activity:7500439732103999488/
@TechIsrael
