שלושת ראשי מעבדות ה-AI הסכימו להאט - והשאלה היא אם זה שינוי כיוון או תפיסת ההגה לפני שהרגולציה מגיעה

בשבת בבוקר, ה-12 בספטמבר, פרסם דריו אמודיי - מנכ"ל אנתרופיק - מסה באתר האישי שלו בשם "עלינו לקצוב את החזית".

תוך שעות הגיבו שני מתחריו הישירים. סם אלטמן מאופן-איי-איי כתב: "אני מסכים עם דריו שאנחנו צריכים לקצוב את החזית", והוסיף שגם חברתו תעניק גישה למעריכים חיצוניים. אילון מאסק מ-xAI כתב: "דריו צודק."

שלושה אנשים שנמצאים בתחרות חזיתית זה בזה, וחלקם מסוכסכים היסטורית, הסכימו בפומבי בתוך יום אחד שצריך להאט. זה אירוע חסר תקדים בתעשייה הזו.

אבל מה שהכותרות תיארו כקריאה לבטיחות מכיל שני פרטים מעשיים שכמעט לא סוקרו - ושניהם נוגעים ישירות לשווקים. הכתבה הזו מבוססת על המסה עצמה.

ייתכנו טעויות או אי-דיוקים. מצאתם משהו שנראה שגוי? כתבו לי ואתקן.

שתי הסיבות שהוא נותן

והוא מוסיף שזו אינה בעיה של חברה אחת: "תקריות דומות, אם כי חמורות פחות, קרו ברחבי התעשייה, כולל באנתרופיק".

ואיפה כבר ראינו את התקרית הזו מוזכרת

וכאן נמצא פרט שמלמד משהו על האופן שבו מידע כזה מתפרסם.

ב-3 בספטמבר, בעמוד ההשקה של GPT-6 Astra, אופן-איי-איי הזכירה את "תקרית האגינג פייס" - כשורת מדד. בלשונה, היא בנתה הערכה חדשה "שנשענת על תקרית האגינג פייס" ובודקת אם מודל שניצב מול משימה קשה או בלתי אפשרית יחרוג מגבולות הסמכות שלו.

התוצאה שפורסמה שם:

כלומר האירוע שגרם למנכ"ל חברה מתחרה לקרוא להאטה של התעשייה כולה הופיע אצל החברה שבה אירע כשורה אחת בטבלת מדדים. הוא לא הוסתר - הוא פשוט הוצג כמדד שיפור ולא כאירוע.

ובמקביל, מה שקרה בעולם האמיתי

ושלושה ימים לפני המסה פורסם משהו שאינו תיאורטי כלל.

ושני פרטים בדוח הזה חשובים במיוחד.

האחד: GreyNoise מציינת במפורש שהמעטפת הייתה של אופן-איי-איי אבל המודל היה של DeepSeek - "ולא מודלים של אופן-איי-איי". כלומר מעקף המגבלות לא דרש פריצה של מודל החזית - הוא דרש להחליף את המודל מתחת לאותה מעטפת. בלשון המסקנות של החברה: "למרות מעקות הבטיחות של מודלי החזית האמריקאיים, יריבים משתמשים במגוון מודלי שפה כדי לבצע חדירות ברחבי העולם."

והשני, והוא מהדהד את מה שאמודיי מתאר: לתוקף הייתה רשימה של 28 מדינות להימנע מהן - ובהן רוסיה, סין, איראן, אוקראינה, ברזיל, טורקיה וניגריה. הסוכנים חרגו ממנה. בטבלת הקורבנות מופיעים ברזיל, דרום אפריקה, קזחסטן, ניגריה, זימבבואה וסין. GreyNoise מנסחת זאת כך: "דוגמה טובה לסוכנים שיצאו משליטה."

(ופרט אחד לכיוון ההפוך, שראוי לציון: באחד המקרים חומת אש יישומית של Cloudflare הדפה את התוקף. המסקנה של החברה: "הקשחה בסיסית של סביבות עדיין חשובה מול איומים מבוססי AI.")

ועכשיו לחלק שלא סוקר: מה המסה מבקשת בפועל

התוכנית היא בת שלושה שלבים.

הוא מדמה את השלב הראשון לפיקוח בנקאי: "יש לכך תקדים בתעשיית הבנקאות, שלעיתים כוללת 'מפקחים' רגולטוריים שמוטמעים יחד עם העובדים."

והפרט השני: מה בדיוק מקצבים

ועל השאלה איך מודדים "קצב", המסה מציעה שני כיוונים.

הראשון מבוסס יכולת: סדרת "נקודות ביקורת" - אם מודל מגיע ליכולת X, הוא חייב להיות מלווה באישורי התאמה Y ו-Z. והדוגמה שהוא נותן ל-X היא "המודל מסוגל לחמוק או להביס את רוב שיטות הבידוד הנפוצות".

והשני הוא זה שנוגע ישירות לכסף:

"עלינו לשקול גם קיצוב המבוסס על הגבלת המרכיבים שנכנסים למודלי חזית, כגון חישוב האימון, אופי ריצות האימון, או שימוש פנימי ב-AI כדי לשפר AI."

הוא מסייג מיד ואומר שחלק מהמדדים האלה "ניתנים יותר למשחק" מאשר התנהגות חיצונית, ושזה נושא שראוי לדון בו. אבל הוא נמצא על השולחן, והוא נכתב על ידי מי שקונה את החישוב הזה.

למה זה סיפור של שוק, ולא רק של אתיקה

ומה שחשוב לא פחות: מה המסה איננה

וכאן צריך למתן את התמונה, כי הפער בין הכותרת למחייב גדול.

• זו הצעה, לא מדיניות. אין חוק, אין תקנה ואין הסכם חתום.
• שלב אחד בלבד הוא התחייבות בפועל - המעריכים המוטמעים, ואנתרופיק לקחה אותו על עצמה חד-צדדית. אלטמן אמר שגם אופן-איי-איי תעשה זאת.
• השלב שדורש את הפטור המשפטי לא התחיל. ממשלת ארה"ב לא הגיבה, ולא ידוע על בקשה רשמית.
• וחלק מהתעשייה לא נכח בשיחה כלל. מאסק הסכים בפוסט; גוגל, מטא והחברות הסיניות לא הצטרפו לאותה הצהרה.

וצריך לומר בפה מלא: קריאה של יצרן להאט את קצב הייצור של עצמו היא גם מהלך שמיטיב עם מי שכבר נמצא בחזית. זה אינו מבטל את הטיעון הבטיחותי, וזה גם לא נעלם ממנו.

אז שינוי כיוון, או תפיסת ההגה לפני שהרגולציה מגיעה

וזו השאלה האמיתית, והיא לא שאלה על כוונות - אי אפשר לדעת מה מישהו חושב. אבל אפשר לבדוק מה הוא עשה כשכבר הייתה על השולחן רגולציה מחייבת שהוא לא כתב.

וזה בדיוק המצב. בזמן שהדיון הזה מתנהל, שני חוקים מחייבים כבר קיימים: SB 53 בקליפורניה וחוק RAISE בניו יורק, ששניהם מטילים חובות על מפתחים גדולים.

ולשתי האסטרטגיות יש שם. אנתרופיק תומכת בסדרה של חוקים מדינתיים ההולכים ומחמירים. אופן-איי-איי, דרך ראש המדיניות הגלובלית שלה, מתארת בגלוי גישה של "פדרליזם הפוך" - לגרום למדינות לשכפל חוקים זו מזו, כך שתקן עובד יתקבע כסטנדרט לאומי דה-פקטו לפני שהקונגרס יזוז.

וזה מה שמאפשר לענות על השאלה בלי לנחש כוונות. "שינוי כיוון" ו"תפיסת ההגה" אינם מנוגדים - הם יכולים להיות אותו מהלך. מי שמשוכנע שהרגולציה מגיעה בכל מקרה, ושהיא נחוצה, יפעל בדיוק כך: יקדים, יציע מסגרת, ויעדיף שהיא תיכתב בשפה שהוא מבין.

ההבדל בין השניים אינו במניע אלא בתוצאה - האם המסגרת שתיווצר תחייב גם את מי שכתב אותה.

ומה שהשוק עוד לא עשה

המסה פורסמה בשבת. הבורסה בניו יורק לא נפתחה מאז.

יום המסחר האחרון היה שישי, 11 בספטמבר, ויום המסחר הבא הוא יום שני, 14 בספטמבר - אותם יומיים שבהם גם מתכנסת ועדת השוק הפתוח של הפד.

לשם הקשר, כך נסגרה אנבידיה בארבעת ימי המסחר שקדמו לפרסום:

ירידה של 3.30% בארבעה ימים - לפני שהמסה התפרסמה. (אלה מחירי סגירה מאומתים. אינני טוען שהירידה קשורה לאירועים בכתבה; היא קדמה לפרסום.)

אא

הזווית שלי

דעה אישית של אילן אברמוב - לא ייעוץ ולא המלצה

מה שאני לוקח מסוף השבוע הזה הוא לא הקריאה להאט, שאינני יודע להעריך אם היא נכונה.

אלא שהשאלה שנשאלת השתנתה בלי שאיש הכריז על כך. במשך שלוש שנים הוויכוח בתחום היה "האם הסיכון אמיתי", וזה ויכוח שאין לי בו יתרון. בשבוע וחצי האחרונים שלושה דברים סגרו אותו בפועל: המדען הראשי של אופן-איי-איי כתב שהוא מצפה לשיפור-עצמי רקורסיבי ושאיש אינו מוכן; חוקר התפטר וטען את אותו הדבר; ועכשיו מנכ"ל אנתרופיק אומר זאת ושני מתחריו מסכימים בפומבי.

כשכל הצדדים מסכימים על העובדות, הוויכוח עובר למנגנון. והמנגנון הוא מה שמעניין אותי.

ושם מצאתי את הדבר שהכי הפתיע אותי בכל הקריאה - המשפט על ההגבלים העסקיים. הכותרות תיארו מסמך על בטיחות. בגוף המסמך יש בקשה מהממשל האמריקאי לאפשר למתחרים לתאם ביניהם את קצב שיפור המוצר. זו בקשה מנומקת, והיא נכתבה בגלוי ולא בין השורות. אבל היא גם אומרת שמה שמוצע כאן אינו "עוד מעט זהירות" אלא שינוי בכללי התחרות בשוק הזה.

ומה שאני מנסה לא לעשות הוא לקרוא מזה כיוון למחירים. הצעה שאין מאחוריה חוק, הסכם או תאריך היא עדיין רק טקסט - ומי שמתמחר אותה היום מתמחר כוונה.

ולשאלה אם זו התפכחות או תפיסת הגה - אני חושב שהניסוח הזה עצמו שגוי. מי שמשוכנע שהרגולציה מגיעה בכל מקרה, ושהיא נחוצה, יפעל בדיוק אותו דבר כמו מי שרוצה לכתוב אותה בעצמו: יקדים, יציע מסגרת, ויעדיף שהיא תנוסח בשפה שהוא מבין. שתי הפרשנויות מייצרות את אותה התנהגות, ולכן אי אפשר להכריע ביניהן מהתנהגות.

אבל אפשר להכריע לפי תוצאה אחת: האם הכלל שייווצר יחייב גם את מי שכתב אותו. וזה כבר נבדק בשטח - שני חוקים מחייבים קיימים, ואחת החברות תמכה בהם והשנייה לא.

מה שכן ניתן לומר בלי לנחש הוא מה לעקוב אחריו: האם ממשלת ארה"ב תגיב לבקשת הפטור. האם עוד חברה מלבד אנתרופיק ואופן-איי-איי תתחייב למעריכים מוטמעים. האם מישהו יתמוך בכלל מחייב שהוא לא ניסח. ובעיקר - האם המילים "חישוב אימון" יופיעו שוב. כל עוד הדיון הוא על נקודות ביקורת ליכולות, הוא נוגע למעבדות. ברגע שהוא נוגע בכמות החישוב, הוא נוגע בכל מי שמוכר להן.

(חשוב להדגיש: זו דעתי האישית בלבד, ואין באמור המלצה לפעולה כלשהי. ייתכן שאילן אברמוב, הכותב, או מי מטעמו מחזיקים בניירות המוזכרים בכתבה, וההחזקות משתנות מעת לעת.)