שמעתי את דניאל קוקטלו, יוצא OpenAI שהפך למעין חושף שחיתויות ומנהל כיום את AI Futures Project, מדבר על תחזית לשנת 2027 בתחום הבינה המלאכותית. מדובר בפרויקט מחקרי מבוסס ברקלי, שמנסה להבין לאן פנינו מועדות בתחום הזה, ולא סתם להבין אלא לנתח באופן שיטתי ולספר סיפור קונקרטי. לינק.
הדבר המעניין ביותר הוא שקוקטלו כבר ניבא בעבר (ב-2021) איך תיראה הבינה המלאכותית בשנים האחרונות, וקלע למטרה בצורה מרשימה. לכן, כשהוא מציג תחזית חדשה, יש סיבה להקשיב בתשומת לב. התחזית החדשה שלו מציעה מסלול התפתחות שיכול להישמע דמיוני, אבל הוא מבוסס על ניתוח מדוקדק של המגמות הנוכחיות.
קוקטלו ושותפיו חילקו את התחזית לכמה אבני דרך: קודם כל מתכנתים מלאכותיים על-אנושיים, אחר כך חוקרי בינה מלאכותית על-אנושיים, ולבסוף בינה מלאכותית על-אנושית רחבה. הם מעריכים בכ-50% את הסיכוי שעד סוף 2027 יהיו לנו סוכנים אוטונומיים לחלוטין שיכולים לבצע את עבודתם של מהנדסי תוכנה מעולים. זה כבר משנה את המשחק.
הצעד הבא, שקוקטלו מעריך שעשוי לקרות רק כחצי שנה אחרי, הוא אוטומציה של כל תהליך המחקר בבינה מלאכותית. זה כולל לא רק כתיבת קוד, אלא גם שיפוט מחקרי, יכולת לעבוד יחד בצוותים גדולים ולהגות רעיונות חדשים. וכשזה קורה, הקצב מואץ דרמטית – התחזית מדברת על האצה של פי 25 בהתקדמות האלגוריתמית.
חשוב להבין – האבסורד הוא שמנכ”לי OpenAI, Anthropic וגוגל כבר הצהירו פומבית שהם בונים AGI, ושהם חושבים שיצליחו להגיע לבינה מלאכותית על-אנושית עד סוף העשור. אלו לא רק הצהרות שיווקיות, גם החוקרים באותן חברות מסכימים, וגם חוקרים עצמאיים באקדמיה. אם זה באמת יקרה, העולם יהפוך לסיפור מדע בדיוני, רק שהפעם זה יהיה אמיתי.
בתחזית שלהם יש שני תרחישים אפשריים – בתרחיש החיובי, האנושות מאטה את קצב הפיתוח, מפתחת בטיחות נאותה ומצליחה לשמור על שליטה. בתרחיש השלילי, יש מרוץ חסר רסן שמוביל לאיבוד שליטה ואולי לאסון. האם זה נשמע פנטסטי? אולי, אבל לפי קוקטלו, אם באמת נגיע לאינטליגנציה על-אנושית, איך בדיוק זה יכול להיראות לא דמיוני?
המתנגדים לתחזית טוענים שיש פער עצום בין מערכות שיודעות לכתוב קוד לבין אינטליגנציה כללית. אבל קוקטלו מסכים – בתרחיש שלו, לא מדובר רק בשיפור של מודלים נוכחיים, אלא בכמה שינויי פרדיגמה לאורך 2027, שביחד יובילו למשהו מהותית שונה ממה שיש לנו היום.
מהירות ההאצה היא פרמטר מפתח – כמה מהר מתקדם המחקר כשמגיעים לאבן הדרך הראשונה, וכמה מהר הוא מתקדם כשמגיעים לשנייה. התחזית שלהם מבוססת על חישובים בסדרי גודל, והם אומרים בכנות שהם יכולים לדמיין שזה יקרה פי 5 לאט יותר ממה שתיארו (ויקח 5 שנים), אבל גם פי 5 מהר יותר (ויקח חודשיים).
בכנות, הדבר שהכי מדאיג אותי בתחזית הזו הוא שאלת הריכוזיות – מי ישלוט בצבא של אינטליגנציות העל האלה? באחד התרחישים הם מתארים ועדת פיקוח אד-הוק שכוללת את המנכ”לים והנשיא שחולקים כוח, אבל אפילו זה נשמע בעייתי. האם לא היינו רוצים תהליך דמוקרטי יותר? ומה אם זה יהיה אפילו פחות דמוקרטי ממה שהם מתארים?
קוקטלו ושותפיו בחרו להמר על שקיפות מלאה, לספר לעולם מה הם חושבים שמגיע, בתקווה שמספיק אנשים יגיבו בצורה נכונה. הם ממש מציעים פרסים כספיים למי שימצא טעויות בעבודה שלהם או ישכנע אותם לשנות את דעתם בנקודות מפתח.
אני חושבת שזוהי נקודת זמן קריטית עבור כולנו – לא רק לחוקרים וחברות טכנולוגיה, אלא לכל מי שאכפת לו מהעתיד. השאלה איך נעצב את הטכנולוגיה הזו וכיצד נוודא שהיא משרתת את טובת האנושות הופכת מיום ליום ליותר רלוונטית.
מוצרים שלי שכדאי לכם להכיר:
קורסים מקצועיים עם כלי GAI.
מפגש 1:1 ליעוץ על בינה מלאכותית גנרטיבית// מפגשי יעוץ לחדשנות באמצעות דיגיטל וטכנולוגיות.
