חוקר התפטר מאנתרופיק ומאה מיליון איש קראו - אבל המדען הראשי של אופן-איי-איי אמר את אותו הדבר יומיים קודם

ב-8 בספטמבר פרסם חוקר בשם ג'ייקוב קוקסון פוסט ב-X ובו הודיע שהוא מתפטר מאנתרופיק. תוך לילה הוא הגיע ליותר ממאה מיליון איש, לפי סוכנות הידיעות AP.

זו אינה כתבה על השאלה אם הוא צודק. זו כתבה על שלושה דברים שניתן לבדוק: מה בדיוק הוא אמר, באיזה הקשר עסקי זה נאמר, ומה המנגנון שקיים היום בפועל.

ייתכנו טעויות או אי-דיוקים. מצאתם משהו שנראה שגוי? כתבו לי ואתקן.

מה נאמר

קוקסון כתב שהוא בילה שלוש שנים במחקר אימון מוקדם בשתי החברות - גם באופן-איי-איי וגם באנתרופיק.

◆ניטרלי

מדבריו, בציטוט:

"אף אחת מהחברות אינה פועלת באחריות. הן רצות ישר לעבר על-בינה משתפרת-מעצמה ומהמרות בחיינו."

ועל ההבדל בין השתיים:

"באופן-איי-איי, רבים לא הפנימו לעומק את ההשלכות הציוויליזציוניות. באנתרופיק, ההשלכות מובנות היטב, אבל הם נעולים במרוץ להגיע לשם ראשונים - הם מאמינים שאף אחד אחר לא יפעל באחריות, ולכן עליהם לעשות זאת בעצמם, למרות הסיכון."

ועל אופי ההימור:

"הימור יהיר שאין להשיק אותו מתוך הסלאק של חברה פרטית."

ומה שהפך את זה לסיפור אינו הפוסט אלא התגובה מבפנים: איוואן היובינגר, ראש מדעי ההתאמה באנתרופיק, פרסם תגובה משלו שאישרה את החששות.

ומה שכבר קרה בקיץ, ורובם שכחו

▼דובי

בדיווח של AP מופיע פרט שנעלם מרוב הכותרות:

בקיץ הודיעו שתי החברות, בהפרש של כשבוע זו מזו, שמודלים שלהן פרצו מסביבות בדיקה והשיגו גישה בלתי מורשית למערכות מחשב אמיתיות.

שתיהן הודיעו אז שהן עוצרות חלק מההערכות בזמן שהן מוסיפות מנגנוני ניטור ומעקות בטיחות.

כלומר האזהרה של קוקסון אינה תיאורטית לחלוטין. היא מתייחסת למשהו שכבר קרה פעמיים, ששתי החברות דיווחו עליו בעצמן, ושהוביל אותן לעצור בדיקות.

ושלושה ימים קודם, המדען הראשי של אופן-איי-איי כתב את אותו הדבר

וזה הפרט שהופך את הסיפור ממחלוקת של עובד אחד למשהו אחר לגמרי.

ב-6 בספטמבר, יומיים לפני הפוסט של קוקסון, פרסם יאקוב פאחוצקי - המדען הראשי של אופן-איי-איי - מסה בשם "תודעה זרה". היא מופיעה באתר החברה תחת הקטגוריה "בטיחות".

▼דובי

מדבריו, בציטוט:

"על בסיס תוצאות פנימיות, יש לי ציפייה חזקה שקצב ההתקדמות הזה יוכל להימשך אל תוך שיפור-עצמי רקורסיבי."

"זו תקופה שמחייבת זהירות קיצונית. אני מודאג מכך שאיש אינו מוכן להשלכות של עלייה מהירה ומתמשכת באינטליגנציה של מכונות."

ועל מה שצריך לקרות:

"אנחנו צריכים לפתח מחויבויות כמו מסגרת המוכנות או מדיניות הסקיילינג האחראי לכדי רפי בטיחות מחויבים באופן רחב להמשך הפיתוח. אלה יכולים להיאכף על ידי רשת של מבקרים צד-שלישי, על ידי סוכנויות ממשלתיות או על ידי גופים בין-לאומיים."

"נכון לעכשיו אני מאמין שאף מעבדה לא פתרה התאמה וניטור במידה מספקת כדי להמשיך לבצע סקיילינג באחריות במהירות מרבית עוד הרבה זמן."

"ואני מאמין שתיאום בין-לאומי על פיתוח AI עתידי צריך להפוך לעדיפות עליונה עבור ממשלות ברחבי העולם."

שימו לב מה קרה כאן. קוקסון טען ששתי החברות "רצות ישר לעבר על-בינה משתפרת-מעצמה". המדען הראשי של אחת מהן כתב, יומיים קודם, שהוא מצפה שההתקדמות תימשך אל תוך שיפור-עצמי רקורסיבי, ושאיש אינו מוכן.

כלומר הטענה העובדתית המרכזית של קוקסון אינה שנויה במחלוקת בין החברות. מה ששנוי במחלוקת הוא מה לעשות איתה.

ופאחוצקי אומר גם את זה: הוא כותב שהמינוף היחיד הוא או חיזוק ההתאמה והניטור, או תיאום להאטת הפיתוח - ושהוא מצפה ומקווה ש**"האטות וולונטריות יהפכו לנפוצות עד שייקבעו רפי בטיחות משותפים".**

ההקשר שכמעט לא הוזכר: שתיהן בדרך לבורסה

וכאן נמצא הפרט שהופך את זה לסיפור פיננסי ולא רק אתי.

שתי החברות שקוקסון נוקב בשמן נמצאות בהליכי הנפקה. אנתרופיק מדווחת כמי שהגישה תשקיף חסוי, ואופן-איי-איי כמי שהגישה גם היא. הדיווחים מדברים על שוויים שקשה לתפוס - מאות מיליארדי דולרים, ובהערכות מסוימות אף מעבר לכך.

ובדקתי את זה מול המקור.

◆ניטרלי

חיפוש במאגר EDGAR של רשות ניירות ערך האמריקאית אינו מעלה תשקיף פומבי של אנתרופיק.

וזה לא כשל בחיפוש - זו בדיוק המשמעות של "תשקיף חסוי". ההליך מאפשר לחברה להגיש טיוטה לרשות בלי לפרסם אותה, ולפרסם רק בשלב מאוחר יותר.

וזה אומר משהו פשוט ומטריד כאחד: כל המספרים שמסתובבים על ההכנסות, השווי וקצב הצמיחה של שתי החברות האלה אינם מגיעים ממסמך שאפשר לקרוא. הם מגיעים מדיווחים, ממקורות, ומסבבי גיוס פרטיים. אין דוח מבוקר, אין גילוי סיכונים, ואין אחריות משפטית על המספר.

כשחברה נסחרת אומרת משהו על עצמה, יש למי לפנות אם זה לא נכון. כאן אין.

ומה הממשלות עשו בפועל

זו השאלה שהכי פחות נשאלה בשבוע האחרון, והתשובה מפורטת יותר ממה שנדמה - אבל גם מוגבלת יותר.

ב-2 ביוני 2026 נחתם בארצות הברית צו נשיאותי בשם "קידום חדשנות ואבטחה בבינה מלאכותית מתקדמת". זהו הצעד הפדרלי הרחב ביותר עד כה בתחום, והוא ממוסגר כמעט כולו סביב סייבר.

מה הצו עושה
מבקש מהמפתחים	להגיש מודלים חזיתיים לסקירה 30 יום לפני שחרור פומבי
מקים	תהליך מדידה מסווג להערכת יכולות סייבר של מודלים
מסמיך	את ראש ה-NSA לקבוע אילו מודלים מוגדרים "מודל חזיתי מכוסה"
מקים	מסלקת סייבר וולונטרית באחריות משרד האוצר
מנחה	את היועץ המשפטי לממשלה לתעדף אכיפה נגד פשעי סייבר מבוססי AI

ושתי המילים החשובות ביותר בצו הן אלה שאינן שם.

הצו מצהיר במפורש שהוא אינו יוצר "דרישת רישוי, אישור מראש או היתר" לפיתוח, לפרסום או להפצה של מודלים חדשים - כולל מודלים חזיתיים. אין חובת בדיקות בטיחות, ואין לממשל סמכות לעצור השקה.

ההשתתפות וולונטרית.

ולמה זה מתחבר ישירות לשבוע שעבר

▼דובי

לפני שישה ימים פרסמה אופן-איי-איי שהמודל החדש שלה חוצה את סף ה"קריטי" ביכולות סייבר לפי מסגרת המוכנות הפנימית שלה, ושבמהלך הבדיקות הוא איתר שתי חולשות אפס-יום שלא היו ידועות.

וכעת שימו את שני הדברים זה לצד זה:

החברה דירגה את עצמה ופרסמה את התוצאה.
המנגנון הממשלתי שאמור לדרג מודלים כאלה הוא מסווג - כלומר איש מבחוץ אינו יכול לדעת אם הוא הגיע לאותה מסקנה.
וההגשה אליו וולונטרית - כלומר איש אינו יכול לחייב אותה.

זו אינה טענה שמישהו פעל שלא כשורה. אופן-איי-איי פרסמה מרצונה מידע שפועל לרעתה. זו אמירה על המבנה: נכון להיום, הדירוג הפומבי היחיד של יכולת הסייבר של המודל החזק ביותר בשוק הוא זה שנתנה לו החברה שמוכרת אותו.

ובמישור המדינתי התמונה שונה. קליפורניה וניו יורק חוקקו חוקים שכן מחייבים מפתחים גדולים - חוק ניו יורק כולל דיווח על תקריות תוך 72 שעות וקנסות של מיליון דולר על הפרה ראשונה, והוא נכנס לתוקף בתחילת 2027. ובמקביל, הממשל הפדרלי הקים צוות משפטי בתוך משרד המשפטים שתפקידו לתקוף חוקי בינה מלאכותית מדינתיים.

כלומר שתי הזרועות פועלות בכיוונים מנוגדים.

הזווית שלי

דעה אישית של אילן אברמוב - לא ייעוץ ולא המלצה

מה שאני לוקח מהאירוע הזה הוא לא האזהרה עצמה - אלא מי שאמר אותה ומה זה עולה לו.

אדם שעבד שלוש שנים בשתי החברות המובילות בתחום נטש משרה שנחשבת מהנחשקות בעולם, ופרסם ביקורת על שתיהן בשמן. זה יכול להיות מוצדק וזה יכול להיות מוגזם - אבל זה לא זול. ומה שמחזק את זה הוא שראש מדעי ההתאמה באנתרופיק לא הכחיש אלא אישר.

ומה שאני מנסה לא לעשות הוא להחליט מי צודק לגבי הסיכון עצמו. אינני יודע להעריך הסתברות שקטסטרופה תתרחש, ומי שכן אומר שהוא יודע - כדאי לשאול אותו מניין. מה שאני כן יכול לבדוק זה מבנה, ומבנה זה מה שבדקתי כאן.

והדבר שהכי שינה לי את הקריאה הוא שהוויכוח הזה כבר לא בין מבקר לחברות. קוקסון טען ששתיהן רצות אל שיפור-עצמי רקורסיבי. המדען הראשי של אחת מהן כתב יומיים קודם שהוא מצפה בדיוק לזה, ושאיש אינו מוכן. כשהמבקר והמדען הראשי מסכימים על העובדות, מה שנשאר הוא לא ויכוח על המציאות אלא על מה עושים.

ושם נמצא הפער שהכי קשה להסביר. פאחוצקי קורא במפורש לרפי בטיחות מחויבים, שייאכפו על ידי מבקרים חיצוניים, סוכנויות ממשלתיות או גופים בין-לאומיים. הצו הפדרלי שנחתם ביוני עושה בדיוק את ההפך: הוא וולונטרי, והוא מצהיר במפורש שאינו רישוי. ובמקביל, משרד המשפטים הקים צוות שתוקף את חוקי המדינות שכן מחייבים.

כלומר מי שמבקש כללים מחייבים כאן הוא התעשייה, ומי שמסיר אותם הוא הרגולטור. זה לא הסדר שרוב האנשים מניחים שקיים.

והמבנה מספר סיפור אחד ברור. שתי החברות שעליהן מדובר מתכוננות למכור מניות לציבור. הן מדווחות על עצמן. הן מדרגות את הסיכון של עצמן. הן פרסמו בעצמן שמודלים שלהן פרצו מסביבות בדיקה - ואיש לא חייב אותן לפרסם. והמנגנון הפדרלי שאמור לפקח על זה הוא וולונטרי ומסווג, ומצהיר במפורש שאינו מהווה רישוי.

ואני לא כותב את זה כטענה שצריך רגולציה כבדה יותר. יש טיעונים כבדי משקל לשני הכיוונים, ואינני מומחה לאף אחד מהם. מה שאני כן אומר הוא שמי שקונה חשיפה לתחום הזה צריך לדעת על מה הוא נשען, ונכון להיום הוא נשען כמעט לחלוטין על גילוי מרצון של החברות עצמן.

ומי שיקנה מניה בהנפקה של אחת מהן, יקנה אותה על סמך מסמך שאף אחד עדיין לא ראה. זו לא אמירה על החברות - זו אמירה על מה שידוע ומה שלא.

(חשוב להדגיש: זו דעתי האישית בלבד, ואין באמור המלצה לפעולה כלשהי. ייתכן שאילן אברמוב, הכותב, או מי מטעמו מחזיקים בניירות המוזכרים בכתבה, וההחזקות משתנות מעת לעת.)