יושוע בנג'יו (Yoshua Bengio): המצפון של הלמידה העמוקה
בנובמבר 2025 הפך יושוע בנג'יו לחוקר הבינה המלאכותית הראשון שחצה את רף מיליון הציטוטים ב-Google Scholar — לפי מדדים מסוימים, הוא המדען החי המצוטט ביותר בכל תחום. הוא בילה את השנתיים שקדמו לכך בניסיון להזהיר את כל מי שמוכן להקשיב כי התחום שבו הוא עוסק מתקדם מהר מכדי להיות בטוח. מעטים המדענים שבנו תחום ולאחר מכן טענו בגלוי ובאופן כה נחרץ שיש לבלום אותו.
בית תיאטרלי
בנג'יו נולד ב-5 במרץ 1964 בצרפת, למשפחה יהודית-מרוקאית שעברה מאוחר יותר לקנדה. הבית לא היה אקדמי במובהק, אלא אמנותי. אביו, קרלו בנג'יו (Carlo Bengio), היה רוקח ומחזאי שניהל להקת תיאטרון ספרדית במונטריאול שהופיעה בערבית-יהודית. אמו, סיליה מורנו (Célia Moreno), שיחקה בתיאטרון מרוקאי בשנות ה-70 וב-1980 הייתה שותפה להקמת להקת המולטימדיה של מונטריאול l'Écran humain. המשפחה שהתה שנה במרוקו במהלך שירותו הצבאי של האב. אחיו הצעיר, סמי בנג'יו (Samy Bengio), הפך בעצמו לחוקר למידת מכונה משמעותי וכיום הוא מנהל בכיר של מחקר בינה מלאכותית ולמידת מכונה ב-Apple.
יושוע נשאר במונטריאול לאורך כל לימודיו הפורמליים, וקיבל שלושה תארים מאוניברסיטת מקגיל (McGill University): תואר ראשון בהנדסת מחשבים ב-1986, תואר שני במדעי המחשב ב-1988 ותואר דוקטור ב-1991. לאחר מכן השלים שנתיים של פוסט-דוקטורט שעיצבו את כל פועלו הבא — ב-MIT עם מייקל ג'ורדן (Michael I. Jordan) ב-1991-92, ובמעבדות AT&T בל (AT&T Bell Labs) ב-1992-93 לצד יאן לקון (Yann LeCun). הוא ציין את לקון ואת ג'פרי הינטון (Geoffrey Hinton) כמנחים שהפנו את תשומת ליבו לשאלה היסודית מהי אינטליגנציה. ב-1993 חזר לאוניברסיטת מונטריאול (Université de Montréal) כחבר סגל, וב-2002 הפך לפרופסור מן המניין. הוא מעולם לא עזב.
מילים כווקטורים
הרעיון הטכני המשמעותי ביותר של בנג'יו הגיע סביב שנת 2000, במסגרת עבודה על מה שכינה מודל שפה הסתברותי עצבי. הבעיה הייתה קללת הממדיות: מודל שפה המתייחס לכל מילה כאל סמל אטומי נפרד זקוק למספר עצום של דוגמאות, שכן אין לו דרך לדעת ש-"חתול" ו-"גור חתולים" קשורים זה לזה. התשובה של בנג'יו הייתה ללמוד ייצוג רציף רב-ממדי עבור כל מילה — וקטור — כך שמילים בעלות משמעות דומה ימוקמו קרוב זו לזו במרחב, ומידע על מילה אחת יועבר לשכנותיה. הטמעת מילים (Word embeddings) נפוצה כיום כל כך בעיבוד שפה טבעית, שקל לשכוח שמישהו היה צריך להציע אותה.
שתי תרומות מאוחרות יותר מהמעבדה שלו התגלו כעמידות לא פחות. ב-2014, יחד עם דמיטרי בהדנאו (Dzmitry Bahdanau) וקיונגיון צ'ו (Kyunghyun Cho), הוא הציג את מנגנון ה-Attention (תשומת לב) לתרגום מכונה עצבי — מנגנון המאפשר לרשת להחליט אילו חלקי קלט לשקלל בעת יצירת כל חלק של הפלט. הקו ממאמר זה ועד לארכיטקטורת ה-Transformer העומדת מאחורי מודלי השפה המודרניים הוא קצר וישיר. באותה תקופה, סטודנט הדוקטורט שלו איאן גודפלו (Ian Goodfellow) פיתח רשתות יריבות גנרטיביות (GANs), המאמנות גנרטור ומבחין זה מול זה ואפשרו סינתזה פוטו-ריאליסטית. יחד עם גודפלו ואהרון קורוויל (Aaron Courville), כתב בנג'יו את Deep Learning (MIT Press, 2016), ספר הלימוד שחינך דור שלם.
Twenty questions, eight minutes on the clock, and a percentile measured against everyone who has taken it. No sign-up.
Take the IQ test →בניית האסכולה של מונטריאול
פעילותו של בנג'יו בבניית מוסדות חשובה כמעט כמו מאמריו. הוא הקים את מילה (Mila) - מכון קוויבק לבינה מלאכותית, וכיהן כמנהלו המדעי עד 2025, והפך את מונטריאול לאחת המתחרות האמיתיות הבודדות של עמק הסיליקון ובייג'ינג על כישרונות בתחום הלמידה העמוקה. הוא ניהל במשותף את תוכנית "למידה במכונות ובמוח" של המכון הקנדי למחקר מתקדם (CIFAR). באוקטובר 2016 היה שותף להקמת המיזם המסחרי Element AI, שנמכר ל-ServiceNow בנובמבר 2020, והוא ייעץ לחברות לגילוי תרופות, כולל Recursion Pharmaceuticals ו-Valence Discovery.
במרץ 2019 העניק ארגון ה-ACM את פרס טיורינג (A.M. Turing Award) במשותף לבנג'יו, הינטון ולקון, "על פריצות דרך מושגיות והנדסיות שהפכו רשתות עצביות עמוקות למרכיב קריטי במחשוב". מאז, הכבוד לא פסק: קצין מסדר קנדה ועמית החברה המלכותית של קנדה ב-2017, עמית החברה המלכותית ב-2020, פרס נסיכת אסטוריאס למחקר מדעי ב-2022, אביר לגיון הכבוד ב-2023, רשימת 100 האנשים המשפיעים של TIME והפרס הגדול של VinFuture ב-2024, ופרס המלכה אליזבת להנדסה ב-2025.
התפנית
במרץ 2023 חתם בנג'יו על המכתב הפתוח של מכון עתיד החיים (Future of Life Institute) הקורא לעצירה של שישה חודשים באימון מערכות חזקות מ-GPT-4. במאי הוא אמר ל-BBC שהוא מרגיש "אבוד" לגבי עבודת חייו, מודאג ממה שגורמים זדוניים עלולים לעשות איתה. ביולי כתב ב-The Economist כי "הסיכון לקטסטרופה מוחשי מספיק כדי שנזדקק לפעולה כעת". הוא חתם על מכתב התומך בחקיקת ה-SB 1047 של קליפורניה, וכינה אותה דרישת המינימום להסדרה אפקטיבית.
הביטוי המהותי ביותר לתפנית זו הוא מוסדי. לאחר פסגת בטיחות הבינה המלאכותית בנובמבר 2023 בבלצ'לי פארק, הכריז רישי סונאק על דוח בינלאומי לבטיחות בינה מלאכותית, ובנג'יו מונה לעמוד בראשו. גרסת ביניים הופיעה בפסגת סיאול במאי 2024; הדוח המלא פורסם בינואר 2025, כשהוא מכסה סיכוני מתקפות סייבר ותרחישי אובדן שליטה בטון מפוכח הדומה להערכות ה-IPCC. ביוני 2025 השיק את LawZero, ארגון ללא מטרות רווח המפתח את מה שהוא מכנה בינה מלאכותית ישרה, שפרויקט הדגל שלו — Scientist AI — נועד לחזות האם פעולה מוצעת של סוכן אוטונומי עלולה לגרום נזק. בין המממנים נמנים מכון עתיד החיים, Schmidt Sciences, קרן גייטס וממשלת קנדה. לקראת סוף 2025 הוא טען שמתן זכויות משפטיות למערכות בינה מלאכותית יהיה "טעות ענקית", על בסיס העיקרון שהיכולת לכבות מערכת היא הבסיס לכל הגנה אחרת.
מדוע יושוע נחשב לגאון
המונח מוצמד לבנג'יו מסיבה מסוימת: יכולת חוזרת לראות את ההפשטה מתחת לבעיה מעשית, ואז למצוא לה את המתמטיקה. הטמעת מילים היא הדוגמה הברורה ביותר — הקושי שעמד בפני מודלי שפה נראה כבעיית מחסור בנתונים, והוא ניסח אותה מחדש כבעיית ייצוג. ה-ACM, בחומרי הפרס שלו, מתאר אותו כמי שהולך אחר "האינטואיציה המדעית" שלו, שזהו המונח הטכני המנומס לניחוש מושכל לגבי איזה כיוון שווה שנים של עבודה. רישומי הציטוטים תומכים בטענה לגבי ההשפעה: מדד ה-h הגבוה ביותר בקרב מדעני מחשב בתחומו, וחוקר הבינה המלאכותית הראשון שחצה את מיליון הציטוטים.
טענת הנגד ההוגנת היא שהתוצאות המפורסמות ביותר של בנג'יו הן שיתופיות ולעיתים קרובות מובלות על ידי סטודנטים. מנגנון ה-Attention בתרגום מכונה הוא מאמר של בהדנאו עם בנג'יו כמחבר בכיר; רשתות יריבות גנרטיביות היו רעיון של גודפלו; ה-Transformer המודרני הגיע מגוגל, לא ממונטריאול. ספירות ציטוטים מודדות את צמיחת התחום לא פחות מאשר את הגאונות של אדם אחד, והלמידה העמוקה צמחה באופן נפיץ מסיבות — מעבדים גרפיים זולים, מאגרי נתונים עצומים — שאף חוקר לא שלט בהן. מה שיוצא דופן באמת וקשה יותר להפרכה הוא השילוב: מדען שנמצא במרכז המוחלט של עליית טכנולוגיה, ועם זאת בנה את המנגנון המוסדי הבוחן אותה, במחיר אישי ממשי למעמדו בקרב עמיתיו לשעבר.
מורשת
חותמו של בנג'יו על המחשוב הוא כעת קבוע, מוטמע בכל מערכת שהופכת מילים לוקטורים ובכל מודל שלומד היכן להסתכל. המערכה השנייה שלו עשויה להתברר כמעניינת יותר. הוא מנסה משהו שמדענים מצליחים לעשות לעיתים רחוקות — להישאר הסמכות הטכנית המובילה בתחום טכנולוגי בעודו משמש כמבקרו הרציני ביותר, ולהפוך את הזהירות לתוכנית מחקרית במקום להודעה לעיתונות.