OpenClaw עם Jev: להפסיק לשרוף 26,000 טוקנים על "תודה רבה"

נניח שהעסק שלך רץ על OpenClaw ולקוחות פונים אליו כל היום. אתה אחראי על צריכת הטוקנים, אז אתה בודק כמה הוא שורף. אבל כדאי לבדוק גם מה הלקוחות כתבו בדיוק כדי לגרום לצריכה הזאת. וכאן עולה שאלה פשוטה: כמה טוקנים OpenClaw צורך כשלקוח כותב "תודה רבה", והוא צריך לענות "בשמחה" ואולי סמיילי?

התשובה: כש-OpenClaw מעביר את ה"תודה רבה" למודל שפה גדול (LLM), הוא יכול לבזבז בערך 26,000 טוקנים. ובנוסף, כמה שניות המתנה בשביל תשובה של שורה אחת. כך זה עם כל הודעה נכנסת: "אוקיי, התקבל", או ספאם שמגיע בשמחה ככל שהעסק גדל.

מה שפותר את זה הוא מודל שלא יודע לכתוב אפילו משפט אחד. במדריך הזה אני מראה איך חיברתי את OpenClaw ל-Jev, מודל חדש של TypeSafe AI, ואיך הצבתי אותו כך שהוא חוסך כסף, זמן וטוקנים. על Jev עצמו כתבתי בנפרד: Jev: המודל שעונה בהסתברויות ולא במילים.

איך זה עובד

רוב ה-26,000 טוקנים האלה הם ההוראות והכלים של הסוכן, שנשלחים מחדש למודל עם כל הודעה שהוא מקבל. מכאן עולה שאלה מפתיעה: איך מודל שלא כותב כלום עוזר לסוכן שלי? נשמע קצת מוזר.

העניין הוא שבמקום טקסט, Jev מחזיר החלטה. נותנים לו הודעה ורשימה סגורה של אפשרויות, למשל תודה, ספאם, שאלה, באג, ומקבלים בחזרה אחת מהן בלבד, ולצדה ציון: כמה המודל בטוח באפשרות הזאת, ערך בין אפס לאחד. אין משפטים, יש בחירה מוגדרת שקוד יכול לפעול לפיה. הציון הזה, כמו שתראו, מציל אותנו בהמשך.

זמן התגובה של Jev הוא בין 70 ל-500 אלפיות השנייה. מיליון טוקני קלט עולים כ-4.2 סנט, והפלט חינם כי אין פלט, רק החלטה, והחלטה כזאת עולה בערך 400 טוקנים. כלומר מאה הודעות ביום עולות כ-5 סנט בחודש.

ב-OpenClaw, מגרסה 2026.9.6, יש לסוג הזה של מודלים תפקיד משלו: מודל החלטה (Decision Model), ויש פלאגין רשמי שמחבר אותו ל-Jev. פלאגין הוא תוסף, חתיכת קוד קטנה שמוסיפה יכולת. אבל לפי התיעוד, התקנה והפעלה של הפלאגין לא בוחרות מודל החלטה ולא מפעילות כלום בעצמן, אז צריך להיכנס ולעשות כאן כמה דברים. לכן כתבתי פלאגין קטן, בערך 60 שורות (ולא, לא כתבתי אותו כולו לבד), ששולח כל הודעה ל-Jev עוד לפני שמודל השפה הגדול מתעורר. את כל הקוד אני משתף, אפשר לקחת אותו בחינם.

השרת

כדי שהסוכן יענה גם ב-3:00 בלילה כשהמחשב כבוי, הוא צריך לחיות על שרת שרץ כל הזמן: VPS (Virtual Private Server), שרת וירטואלי ששוכרים, שעובד 24/7 עם גיבויים, רוחב פס וחומרה שגדלה לפי המנוי החודשי או השנתי. יש ספקים שמציעים התקנה של OpenClaw בלחיצה אחת על VPS, בלי כאב ראש, וזה בדיוק מה שהשתמשתי בו. אם OpenClaw כבר רץ אצלכם, אפשר להמשיך.

לראות את הבעיה בפועל

מכאן כבר מדברים עם הסוכן, והכול טוב ויפה, אבל בואו נראה מה הבעיה. קודם שולחים לבוט פקודת /new כדי להתחיל שיחה חדשה לגמרי. אחר כך מדליקים מונה טוקנים עם /usage tokens. הפקודה /usage מוסיפה שורת צריכה מתחת לכל תשובה, ו-tokens אומר שהשורה תציג את מספר הטוקנים.

שלחתי: "תודה רבה, האתר חזר לעבוד". התשובה הגיעה אחרי כתשע שניות, וזה הרבה, ומתחתיה קרוב ל-26k, כלומר כ-26,000 טוקנים על הודעה כל כך קטנה. אחר כך שלחתי ספאם, "10,000 עוקבים בחינם, לחצו כאן", והסוכן ענה למפרסם, שוב עם כל ההוראות שנשלחו למודל.

ברור שיש כאן בזבוז גדול. קל מאוד למשוך לנו טוקנים מהכיס, והם פשוט נופלים בזמן שאנחנו מסתובבים במשרד עם קפה ביד. Jev יחסוך לנו הרבה.

ההתקנה

כל ההתקנה נעשית בטרמינל של השרת. פותחים אותו מה-Docker Manager בלחיצה על כפתור Terminal בקונטיינר של OpenClaw.

הפקודה הראשונה מתקינה את הפלאגין הרשמי שמחבר את OpenClaw ל-TypeSafe AI, החברה שיצרה את Jev:

openclaw plugins install @openclaw/typesafe

אחרי כמה שניות מופיעה הודעה שהפלאגין הותקן. השורה האדומה למעלה היא רק באנר, אפשר להתעלם ממנה ולהמשיך.

עכשיו צריך להכניס את המפתח של TypeSafe, ואותו מקבלים מהאתר שלהם. נכנסים לקונסולה, בתפריט הצד לוחצים על API keys ואז על create key, ונותנים למפתח שם, למשל OpenClaw, וזה הגיוני מאוד. מעתיקים את המפתח שנוצר. המפתח הוא כמו סיסמה: מי שמחזיק בו משתמש בחשבון שלכם. (את המפתח שלי מחקתי אחרי ההקלטה.)

לא כותבים אותו לקובץ. שומרים אותו במאגר הסודות של OpenClaw, כסוד מסוג secret, והערך מוקלד בלי שהוא מופיע על המסך. אחר כך אומרים לפלאגין מאיפה לקחת את המפתח: הגדרת ה-apiKey שלו מפנה למאגר הסודות, לפי השם שנתתי למפתח שם. ההגדרה האחרונה בחלק הזה קובעת ש-Jev יהיה מודל ההחלטה ברירת המחדל של כל הסוכנים, בגרסה האחרונה שלו. כך זה נראה בקונפיגורציה, לפי התיעוד הרשמי:

{
  "plugins": {
    "allow": ["typesafe"],
    "entries": {
      "typesafe": {
        "enabled": true,
        "config": {
          "apiKey": { "source": "store", "provider": "default", "id": "TYPESAFE_API_KEY" }
        }
      }
    }
  },
  "agents": {
    "defaults": { "decisionModel": "typesafe/jev-latest" }
  }
}

הפלאגין שלי

עכשיו תורו של הפלאגין שלי. הקוד המלא ב-GitHub, אפשר לקחת אותו ולעשות איתו מה שרוצים. אעבור עליו בקצרה. בראש יש רשימה סגורה: תודה, ספאם, שאלה, באג, יום הולדת, ובדיקת כן או לא: האם זה דחוף? כל הודעה עוברת קודם ל-Jev, והוא מחזיר רמת ביטחון בין אפס לאחד. אם הציון נמוך מ-0.9, כלומר הפלאגין לא בטוח ב-90%, הוא לא נוגע בהודעה. על "תודה" הוא מחזיר תשובה כללית כמו "בשמחה". ספאם נגמר בשקט, כמו שספאם צריך להיגמר. ושאלה או באג ממשיכים למודל הגדול, כשההחלטה של Jev ורמת הביטחון מצורפות אליהם.

הפלאגין מותקן ישירות מ-GitHub. אחרי פקודת ההתקנה מגיעה כתובת המאגר, כלומר מאיפה להוריד, ואחריה דגל force שמאשר מקור לא בדוק ב-hub, ודגל שמאשר את ההרשאות שהפלאגין מבקש. OpenClaw, באופן טבעי, מזהיר שהמקור לא נבדק, ולכן מתקינים כך רק קוד שבאמת, באמת סומכים עליו. פלאגין שקורא שיחות לא מקבל גישה עד שמאשרים לו במפורש.

אחרי ההתקנה מגדירים את הרשאת הקריאה של הפלאגין להודעות (conversation) כ-true, כלומר כן, אנחנו רוצים לתת אותה. אחר כך טוענים מחדש את הסודות כדי ש-OpenClaw יקרא את המפתח. בדיקה אחרונה: רשימת הפלאגינים הפעילים מציגה רק פלאגינים במצב פעיל, ושם רואים את הפלאגין שלי ואת זה של TypeSafe.

בסוף מפעילים מחדש את הקונטיינר כדי שהכול ייכנס לתוקף: ב-Docker Manager לוחצים בתפריט של הקונטיינר ומחכים בערך שלוש דקות.

התוצאות

עכשיו הרגע שחיכינו לו: הודעות שמטופלות על ידי Jev בלבד. "תודה רבה, האתר חזר לעבוד ושמח" חזרה בתוך שנייה וחצי, בלי שורת טוקנים, כי מודל השפה הגדול לא התעורר בכלל. הוא ישן שם בנחת.

כדי לראות מה Jev החליט, פתחתי את לוגי השרת בטרמינל: הלוג של OpenClaw עם הדגל -f (follow), כלומר אני רוצה לראות כל שורה חדשה בזמן אמת, ועם grep על Jev, שמשאיר רק את השורות שלו. בשורה הזאת רואים את ההחלטה עם ציון 1.0.

שלחתי שוב את הספאם מקודם, ושימו לב ללוג: שקט מוחלט, גם כאן ביטחון 1.0, כלומר ספאם מאושר ב-100%. עכשיו לקוחה כותבת שהאתר שלה נפל אחרי מיגרציה. Jev מחזיר "בעיה דחופה" עם ציון 0.97. ההודעה עוברת למודל הגדול כשההחלטה כבר בידו. הוא עונה לה שההודעה סומנה כדחופה, ואפילו נותן לה שלוש בדיקות מהירות. מצוין.

המלכודת

אבל שימו לב, לא הכול מושלם. הודעה אחת מלמדת לדעתי יותר מכל השאר: "חייבו אותי פעמיים על אותו חודש". זו שאלת חיוב, משהו ספציפי מאוד, אבל Jev סימן אותה כ"בעיה", כי ברשימה שלו אין שום דבר אחר לסווג אותה אליו. לא הגדרתי שם קטגוריה לחיוב, ובשלב הזה צריך להיות ספציפי יותר. גם את סף הדיוק, הערך 0.9, צריך להגדיר.

אז הוא טעה במקרה הזה. מה שהציל את המצב הוא הציון: 0.56, מתחת לסף 0.9, ולכן הפלאגין לא נגע בהודעה והמודל הגדול ענה כמו שצריך. אבל זה לא מדויק, ולכן אל תעתיקו ממני את הערך 0.9. צריך לכייל אותו: לבדוק מול ההודעות שלכם ולקבוע בהתאם, וזו גם ההמלצה בתיעוד.

ועכשיו אני סוגר את הלפטופ ושולח "תודה" מהטלפון. התשובה חוזרת מהשרת, בלי המחשב שלי ובלי שמודל השפה הגדול יושב שם ומוטרד.

שורה תחתונה

אז כמה עולה לסוכן להגיד "בשמחה"? עם Jev, בערך 400 טוקנים על מודל שלא כותב אף מילה, במקום 26,000 טוקנים על המודל הגדול שהערנו בשביל שטויות. וההודעה חוזרת תוך שנייה וחצי במקום כתשע שניות.