מערכות AI
העוזר האישי הפרטי
Companion
אף אחד אחר לא קורא את ההודעות. לא אנחנו ולא ספק המודלים.
Companion היא אפליקציה שמדברים איתה בעברית על מה שעובר עליך. היא רצה על שרת שהבעלים שלה משלם עליו, כך ששום דבר שנאמר בה לא יוצא מהמכונה הזאת.
איפה זה רץעל שרת אחד, של הבעלים עצמו. לא על מחשב נייד, ולא אצלנו.
למי זה מתאים?
מי שרוצה עוזר אישי לדבר איתו, ולא רוצה שעותק של השיחה יישב על השרתים של איזו חברה. עד היום הברירה הייתה מוצר ששומר את מה שאמרת, או כלום.
מה המספרים אומרים
בדיקות שרצות על כל שינוי, כדי שתיקון של דבר אחד לא ישבור בשקט דבר אחר.
המידע שונה שמונה פעמים בלי לאבד את מה שכבר היה בפנים.
אם המכונה נופלת, היא חוזרת בדיוק באותה דרך שבה עלתה בפעם הראשונה.
איך זה עובד באמת
Companion נבנתה עבור אדם אחד, ויש בעולם עותק אחד שרץ. מדברים איתה, היא עונה בעברית בקול או בכתב, וזוכרת מה סיפרת לה לפני שבוע. אפשר לתת לה מסמך ולשאול עליו שאלות.
ההבדל הוא איפה Companion יושבת. החלק שחושב, הזיכרון, הקבצים וחלון הצ׳אט, הכל על המכונה האחת הזאת. אין חשבון אצל אף חברה, ואין עותק של השיחה על שרת של מישהו אחר.
יש דברים שאסור להשאיר לשיקול הדעת של מודל שפה. לכן שמנו לפניו רשימת חוקים קבועה. החוקים קוראים כל הודעה לפני המודל, וכשהודעה מתאימה לאחד מהם האפליקציה עושה בדיוק את אותו דבר בכל פעם, בלי לשאול את המודל מה הוא חושב.
ההתקנה היא פקודה אחת על שרת ריק. היא מקשיחה את השרת, מייצרת סיסמאות משלה, מרימה את הכל, ואז משחזרת את כל המערכת מגיבוי כדי להוכיח שהגיבוי באמת עובד. רוב הפרויקטים מבטיחים לבדוק גיבויים בהמשך. כאן זה קורה לפני שהשתמשת בה אפילו פעם אחת.
מדריך ההתקנה מפרט כל החלטה שבן אדם צריך לקבל, וכל החלטה שהמתקין מקבל במקומו, שורה לכל אחת. זה ההבדל בין תוכנה שהיא שלך לבין תוכנה שאתה שוכר ממי שהתקין אותה.
אם המידע שלך הוא מהסוג שאי אפשר למסור לחברה חיצונית, Companion היא הוכחה שאפשר בכל זאת לקבל את האפליקציה, על מכונה שהיא שלך.
אנחנו בונים דברים כאלה. ספרו לנו במה אתם תקועים.
ממה זה בנוי
- Python
- FastAPI
- PostgreSQL
- Ollama
- Docker
- Caddy