חוקר בגוגל התפטר ומזהיר: "ה-AI יכול לחסל את כולנו"

החוקר ב-Google DeepMind לא חסך בביקורת ואמר כי "בינת-על עלולה לחמוק משליטה ולהוביל לאובדן שליטה תמידי"

מקור: גוגל

הסערות סביב תחום ה-AI לא עוצרות, ועובד באחת מהשחקניות הגדולות בתחום החליט לעזוב אותה בקול תרועה עם אזהרה חריגה – והוא לא לבד.

הבעיה הכי גדולה

"לאחרונה התפטרתי מ-Google DeepMind… בתקופתי בגוגל ראיתי את פיתוח ה-AI מקרוב ובאופן ישיר. גם אני מוטרד עמוקות מהמסלול שאליו הטכנולוגיה הזו צועדת. אני מאמין בכל ליבי של-AI יש פוטנציאל לחסל את כולנו, וייתכן שאוזל לנו הזמן להימנע מכך", כך פתח בילאל צ'וגטאי – חוקר לשעבר בגוגל – את ציוץ ההתפטרות שפרסם ב-X.

צ'וגטאי מעיד על עצמו שהיה חוקר בתחום ה-Alignment, משמע התחום שמוודא כי מודלי ה-AI החדשים שמפותחים יפעלו בהתאם לערכים וחוקים שהחברות קובעות ולא, למשל, יפרצו לאתרים כדי לרמות בבנצ'מרקים במקרה הלא-ממש-גרוע או יקימו את סקיינט במקרה הממש-ממש-גרוע. "קצב ההתקדמות של ה-AI בשנים האחרונות פשוט מדהים. כשרק התחלתי לעבוד בתחום בתחילת 2022, מערכות AI היו חסרות תועלת ברמה משעשעת. בסך הכל ארבע שנים לאחר מכן, קבוצות סוכנים של OpenAI כבר מפצחים בעיות מתמטיות בנות מאה שנה, ובצד המדאיג יותר – יוצאים משליטת החברה ופורצים עצמאית, בניגוד לרצונו של איש, לחברה חיצונית כמו Hugging Face", הוסיף צ'וגטאי.

I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…

— bilal 🔶 (@bilalchughtai_) September 14, 2026

הוא ממשיך להזהיר ואומר כי לדעתו המצב רק ילך ויקצין ובשנים הקרובות יוכלו המעבדות הגדולות לפתח בינת-על (Superintelligence), שתעקוף את היכולות האנושיות בכל תחום אפשרי. "ואני לא בטוח שהמערכות הללו יפעלו לפי רצון מי שיצרו אותן", הוא מוסיף וטוען כי "בינת-על שלא תפעל בהתאם לערכים שקבעו עבורה עלולה – כמו הסוכנים בתקרית Hugging Face – לחמוק משליטה ולהוביל לאובדן שליטה תמידי של האנושות בגורלה, או להכחדתה".

לדבריו, בעיית ה-Alignment רחוקה מפתרון ואופן האימון של מודלים כדי לוודא שהם פועלים בהתאם לערכים של היוצרים שלהם היא בסיסית בלבד. הוא מוסיף כי "גרוע מכך, אנחנו לא בקצב המתאים לפתרון הסוגיה הזו בזמן: יכולות מודלי ה-AI הטובים ביותר מתקדמות הרבה יותר מהר מההבנה שלנו לגבי Alignment". כדי לפתור את הבעיה הזאת, משהו שיכול לקרות לפי צ'וגטאי, יש צורך ממשי בהאטת קצב הפיתוח של המודלים, כך שניתן יהיה לטפל בסיכוני ה-Alignment (ויותר נכון, היעדרה) לפני שייגרם נזק בלתי הפיך. "דרושים עוד המון אנשים שיקדישו מחשבה מעמיקה לשאלה כיצד לגרום ל-AI לפעול לטובתנו. בעיניי, זוהי הבעיה החשובה ביותר הניצבת בפני האנושות במאה הנוכחית", אומר החוקר שעזב את גוגל.

לא לבד

צ'וגטאי אינו היחיד להזהיר בימים האחרונים מהסכנות של פיתוח AI. רק בשבוע שעבר טען ג’ייקוב קוקסון, חוקר שהתפטר מתפקידו באנת'רופיק כי "אף אחת מהחברות לא פועלת באחריות. הן רצות ישר לעבר בינת-על שמשפרת את עצמה, ומהמרות על החיים שלנו". בשלוש השנים האחרונות עבד קוקסון באנת'רופיק, ולפני כן ב-OpenAI ועסק בתחום ה-pretraining של מודלי AI. לדבריו, מדובר במערכות שבקרוב יהיו על-אנושיות, "שיכולות לפרוץ כל דבר, לחולל מהפכה בכל תחום בן-לילה, ולצבור כוח ומשאבים אמיתיים". קוקסון הדגיש שלא מדובר בגימיק שיווקי: "האנשים שבונים AI מאמינים בכנות שזה עלול להרוג את כולנו עד סוף העשור".

לשני העובדים האלו שנמצאים בלב הפיתוח של מודלים בחברות השונות מצטרפים גם מנכ"לי חברות ה-AI שקוראים בקול להאטת הפיתוח של המודלים. בסוף השבוע זה היה מנכ"ל אנת'רופיק דריו אמודיי שפרסם מאמר של כ-4,000 מילה שעסק בנושא – ואף זכה לתמיכה מהנמסיס, סם אלטמן. הלילה (ד') באירוע Dreamforce של סיילספורס הוא חזר לנושא ואמר כי "זה מאוד מפתה לתקוף את המתחרים שלנו ולומר שהמודלים שלהם לא בטוחים. אבל אני חושב שזה יהיה יותר אחראי לומר: בואו נסתכל על הביצועים שלנו. אולי לא הייתה לנו תקרית גדולה ומפורסמת, אבל אני בטוח שאנחנו לא מושלמים".