בינה מלאכותית משקיעה לא מעט חישובים בגרסאות ביניים של התשובה, שבסוף כמעט אינן מנוצלות. חוקרי Apple הציעו להפוך את ה״טיוטה״ הזאת לרמז עבור ההחלטה הסופית — ובחלק מהניסויים צמצמו את עומס החישוב כמעט בחצי, בלי לאמן את המודל מחדש.
השיטה החדשה נקראת LoopCD. היא לא הופכת כל מערכת AI מיד לזולה יותר, אבל היא מציגה כיוון מסקרן: לפעמים אפשר לייעל בינה מלאכותית לא בעזרת שבב חדש או מודל קטן יותר, אלא באמצעות ניצול חכם של עבודה שכבר בוצעה.
מה בדיוק פיתחו ב־Apple
LoopCD מיועדת לסוג מיוחד של מודלי שפה שנקרא looped Transformers — טרנספורמרים מחזוריים. מודל גדול רגיל מעביר מידע דרך רצף ארוך של שכבות שונות. מודל מחזורי מעביר אותו כמה פעמים דרך אותו בלוק משותף.
אפשר לדמיין אדם שבודק פתרון שוב ושוב:
תשובה ראשונית → בדיקה → תיקון → תשובה סופית.
אחרי כל מעבר כבר קיימת במודל גרסה אפשרית של המילה או הטוקן הבא. המנגנון הרגיל ממתין בעיקר למעבר האחרון. מחברי המחקר של Apple מציעים להשוות את התחזית הסופית לתחזית מוקדמת ופחות מדויקת. ההבדל ביניהן עוזר להדגיש את האפשרות שהתחזקה לאחר ה״חשיבה״ הנוספת.
מבחינה מקצועית מדובר בסוג של פענוח ניגודי. אלא שבמקום להפעיל מודל חלש נוסף, LoopCD מקבלת כמעט בחינם ״מומחה חלש״ מתוך מעבר מוקדם של אותו מודל.
מאיפה הגיע המספר 48.2%
החוקרים בדקו את LoopCD בארבע משפחות מודלים: Ouro, Huginn, Parcae ו־Looped‑Qwen3. תחילה השיטה שיפרה את התוצאות כאשר מספר המחזורים נשאר מלא. לדוגמה, Ouro‑2.6B‑Thinking עלתה במבחן המתמטי AIME 2024 מ־61.88% ל־73.33%, ואילו Huginn עלתה ב־HumanEval מ־22.56% ל־31.71%.
לאחר מכן קיצצו החוקרים בחצי את מספר המחזורים. בשש תצורות שנבדקו, המודל עם LoopCD שמר על איכות ההרצה המלאה הרגילה או אף עבר אותה. היקף החישובים הישירים — forward FLOPs — ירד ב־22.5% עד 48.2%, כולל התקורה של השיטה עצמה.
התוצאה המרבית אכן קרובה לחצי. אבל זו תקרת החיסכון בתצורת ניסוי מסוימת, ולא הבטחה לכל מערכת AI.
פחות FLOPs עדיין לא אומר חצי מחיר
FLOPs מודדים את מספר הפעולות המתמטיות. המחיר האמיתי של תשובה תלוי גם בחומרה, בזיכרון, בהעברת נתונים, בגודל קבוצת הבקשות, בעומס על השרתים, בזמן ההשהיה ובצריכת החשמל.
המחקר חישב ירידה בעבודת החישוב הישירה, אך לא הראה שחשבון השרת או החשמל קטן ב־48.2%. הוא גם לא הוכיח קיצור זהה בזמן התגובה בכל תנאי שימוש אמיתי.
לכן הניסוח המדויק הוא: עד 48.2% פחות forward FLOPs במודלים המחזוריים שנבדקו, תוך שמירה על איכות דומה או טובה יותר.
למה אי אפשר פשוט להוסיף LoopCD ל־ChatGPT
השיטה נשענת על מאפיין של הארכיטקטורה המחזורית: אותו בלוק פועל כמה פעמים, ואפשר להשוות ישירות בין המצבים המוקדמים והמאוחרים שלו. רוב החברות אינן חושפות את הארכיטקטורה המלאה של המודלים המסחריים שלהן, והמחקר לא בדק את LoopCD על ChatGPT, Claude או Gemini.
העבודה פורסמה ב־arXiv ב־1 באוקטובר 2026 והיא עדיין מאמר קדם־פרסום. החוקרים הציגו תוצאות חזקות במבחנים, אך לא הטמעה מסחרית רחבה.
למה החיסכון הזה מעניין במיוחד בישראל
מרוץ ה־AI כבר אינו עוסק רק בשאלה מי בנה מודל חכם יותר. גם המחיר של כל תשובה נעשה חשוב. מודלי reasoning עשויים לבצע שרשראות חישוב ארוכות, וסוכני AI מסוגלים להשלים עשרות פעולות ברצף. חיסכון קטן בבקשה אחת הופך לחיסכון עצום כשמדובר במיליוני בקשות.
עבור סטארטאפים ישראליים זה כיוון מסקרן במיוחד. לחברה צעירה כמעט אף פעם אין תשתית מחשוב בהיקף של Apple, Google או Microsoft. אם ארכיטקטורות עתידיות יפיקו אותה תוצאה בפחות מעברים, יהיה קל יותר לצוותים קטנים להפעיל שירותי AI מתקדמים.
זו עדיין אפשרות לעתיד ולא תוצאה ישירה של LoopCD. אבל הכיוון ברור: התחרות תהיה לא רק על גודל המודל, אלא גם על כמות התבונה שאפשר להפיק מכל חישוב.
חישובים ישנים עשויים להפוך למשאב חדש
הרעיון המעניין ביותר ב־LoopCD פשוט למדי: תוצאת ביניים אינה חייבת להיות פסולת. היא יכולה להראות לאיזה כיוון המודל שיפר את תשובתו ולעזור לו להגיע להחלטה הסופית בפחות עבודה.
אם העיקרון יעמוד במבחן של מערכות גדולות יותר, תעשיית ה־AI תקבל דרך נוספת להתייעל בלי אימון חדש. ואז השאלה לא תהיה רק ״מי יבנה את המודל הגדול ביותר?״, אלא גם ״מי יפיק אותה רמת תבונה בפחות חישובים?״