בזמן שבעמק הסיליקון ובוושינגטון מתחוללת סערה מרובת אמוציות ואינטרסים סביב עתיד הבינה המלאכותית והסכנות לאנושות - בייג'ינג סיפקה תזכורת ברורה ורהוטה לאיך המעצמה השנייה בעולם תופסת את שדה הקרב הטכנולוגי הזה, ואת כל נושא השליטה בבינה מלאכותית.
בימים האחרונים מתרחש במערב, בעיקר בארה״ב כמובן, מחזה די מדהים: מובילי מרוץ ה-AI בצד המערבי של הכדור - דריו אמודיי (אנתרופיק), סם אלטמן (OpenAI), דמיס הסאביס (גוגל דיפמיינד) ואפילו אילון מאסק, התאחדו בקריאה דרמטית ל"האטת קצב הפיתוח" של מודלי החזית (Frontier AI).
הנימוק הרשמי היה מה שהם - אלו שרואה את המודלים במעבדה שעדיין לא שוחררו, להזכירכם - מזהים כסכנה קיומית לאנושות של 2030. זה הגיע לצד דרישה לרגולציה, מנגנוני הערכה חיצוניים ותיאום גלובלי - ואלו שמצד אחד נראים בכלתי נמנעים אם הסכנה הזו אכן בפנינו, מעלים גם תהיות ושאלות בנוגע למניעים של אותם סנדקי AI שמובילים את החברות מתקדמות ביותר בתחום כיום.
וכך הגיעו כמובן גם המבקרים החדים, בהם דייויד סאקס (לשעבר צאר ה-AI של ממשל טראמפ), הטוענים ובצדק שמדובר במהלך שקוף של Regulatory Capture. כלומר נסיון בראש ובראשונה של הדואופול הקיים לקבע את היתרון שלו, לחסום מתחרים קטנים וזולים - כמו אלו בעולצות הקוד הפתוח שבמקרה או שלא הם ברובם סינים, ולייצר קרטל בחסות החוק תוך משחק על חרדות אפוקליפטיות. טראמפ עצמו, כהרגלו, חתך את הדיון במשפט אחד: "מי שמנצח ב-AI, מנצח". במילים אחרות, אין לנו פריבילגיה לעצור כשאנחנו במירוץ מול סין.
אבל בזמן שבארה"ב מתווכחים האם מדובר בהצלת האנושות או בספין יח"צני מתוכנן היטב של ענקיות הטק, מעניין מאוד לראות איך הצד השני במירוץ הזה רואה את הדברים.
בדיוק במקביל, במקרה או שלא, התפרסם בסין מאמר מדיניות די מקיף ויוצא דופן בחשיבותו.
מה שהופך אותו למרתק זו לא רק השפה, אלא בעיקר זהות הכותב: צ'ן יי-שין (Chen Yixin), השר לביטחון המדינה (ה-MSS) של סין. עבור מי שלא מכיר, מדובר בסוכנות הביון והביטחון המשולבת והחזקה ביותר בסין (שילוב של ה-CIA, ה-FBI ולעיתים גם ה-NSA). כששר כזה מפרסם מסמך מפורט כל כך על AI, ברור שגם עבור בייג'ינג, בינה מלאכותית היא כבר מזמן לא סוגיה של צמיחה כלכלית, חדשנות או פילוסופיה אנושית. זוהי שאלת ליבה של ביטחון לאומי, שרידות המפלגה ומאבק גלובלי.
בעוד ראשי החברות האמריקאיות מפנטזים על "תיאום גלובלי עם ממשלות אוטוקרטיות כמו סין", המאמר של צ'ן מבהיר עד כמה המערב שרוי באשליות. צ'ן פורס שורה של איומים שה-MSS מזהה ב-AI, והניתוח שלו קר וממוקד:
ראשית, ביטחון פוליטי ומשטרי. זו נקודה קריטית שבמערב צריכים להפנים.
בייג'ינג מזהה שימוש של "כוחות עוינים" במודלים גנרטיביים, דיפ-פייק ורשתות בוטים כדי לייצר לוחמה קוגניטיבית ולערער את היציבות הפנימית בסין (כמובן, הפוסל במומו פוסל, אבל סין יודעת היטב להאיבק בדברים האלו). המפלגה לא מתכוונת לאפשר לאלגוריתמים לחמוק משליטתה: העיקרון הראשון והעליון של המאמר הוא ריבונות המפלגה, ולא רק המדינה, על כל היבט של דאטה ואינטרנט.
שנית, לוחמת סייבר מהדור הבא.
המאמר מזכיר במפורש מודלים אמריקאיים מתקדמים ומזהיר ממעבר לעידן של "AI מול AI", גילוי חולשות תעשייתי ואוטומטי לחלוטין שמוריד לאפס את חסמי הכניסה לתקיפת תשתיות לאומיות קריטיות.
שלישית, שדה הקרב הצבאי. וכאן מופיעה נקודה מרתקת במיוחד עבורנו.
צ'ן מציין במפורש את המערכה בין ארה"ב, ישראל ואיראן כדוגמה חיה לאופן שבו בינה מלאכותית הפכה מתפקיד מסייע לתפקיד מכריע בלחימה. הוא מנתח כיצד היכולת לבצע היתוך מודיעין, זיהוי מטרות מדויק וקבלת החלטות מהירה מבוססת אלגוריתמים היא זו שמעניקה את היוזמה האסטרטגית בשדה הקרב המודרני.
ומה באשר ל"האטת הפיתוח" או שיתוף פעולה בינלאומי? כאן מגיע הפער התפיסתי העמוק ביותר בין המזרח למערב.
צ'ן אכן מדבר על שת"פ בינלאומי, אך ממסגר את ה-AI כ"מוצר ציבורי בינלאומי" שסין תנגיש למדינות הדרום הגלובלי, במטרה לבנות קואליציות ולשבור את מה שהוא מגדיר כ"מונופול מערבי" וכבקרות היצוא האמריקאיות. מבחינת סין, כל דיבור מערבי על עצירה או ריסון נתפס כטקטיקה שנועדה לשמר הגמוניה, להגביל את סין באמצעות רשימות ישויות וסנקציות, ולמנוע ממנה להשיג עליונות טכנולוגית.
בהחלט אפשר לראות את החשש ההולך וגובר בסין מההתעצמות של יכולות הבינה המלאכותית והסכנות הכרוכות בכך. אבל התשובה הסינית אינה ללחוץ על הבלמים, אלא ללחוץ במלוא העוצמה על הגז של המערכת הלאומית החדשה: גיוס המערכת המדינית, איגום משאבי מחשוב ודאטה לאומיים, וחתירה בלתי מתפשרת לעצמאות מלאה ברמת השבבים ותוכנות הבסיס.
הניגוד חייב להילקח בחשבון אצל קובעי המדיניות במערב.
18
