בקצרה: ODS הוא מתקין בקוד פתוח שמקים על המחשב שלכם מערכת AI פרטית שלמה: מודלים מקומיים, ממשק צ'אט, לוח בקרה, קול, תהליכי עבודה, חיפוש במסמכים, חיפוש ברשת ויצירת תמונות. שום דבר לא יוצא מהמחשב אם לא רוצים.
למה משתמשים בזה
- פרטיות: המסמכים והשיחות נשארים אצלכם.
- בלי מנוי חודשי על החלקים המקומיים.
- התקנה אחת במקום לחבר עשרה כלים.
איך מתקינים
קודם צריך Docker פועל.
- מק או לינוקס: מריצים את פקודת ההתקנה מקובץ ההסבר בגיטהאב.
- ווינדוס: מריצים את בלוק ה־PowerShell מקובץ ההסבר. הוא מתקין בתוך WSL2 עם Docker Desktop.
אחרי ההתקנה הצ'אט נמצא בדרך כלל ב־localhost:3000 והפורטל ב־localhost:3001/pixel.
על מה לשים לב
- זו גרסה מוקדמת. המתקין מושך את הגרסה האחרונה, שמשתנה כל הזמן.
- ההתקנה מריצה סקריפט מהרשת. כדאי לקרוא אותו קודם, או לבקש מקלוד לקרוא ולהסביר מה הוא עושה.
- החומרה קובעת. מודלים מקומיים צריכים כרטיס מסך טוב או מק עם הרבה זיכרון. על מחשב חלש זה יהיה איטי.
למי זה מתאים
למי שיש מחשב חזק ורוצה כלים בסגנון ChatGPT על החומרה שלו, בשביל פרטיות או כדי להפסיק לשלם כל חודש.
מקור: github.com/Osmantic/ODS
