לא רוצה להיות חבר של סם אלטמן. בעצם, לא אכפת לי להיות חבר שלו – רק שלא יביא איתו את צ'ט גיפיטי. לא רוצה שג'פטו ילמד אותי, יכיר אותי או ישתמש בנתונים האישיים שלי.
חברות ה-AI שמספקות צ'טים מבוססי LLM זקוקות לכמויות אדירות של מידע, טקסטואלי בעיקרו, לאימון מודלי השפה שלהם. אחת הדרכים בהן הן משיגות את המידע הזה היא באמצעות זחלני רשת (התכוונתי ל-web crawlers, מה לעשות שבעברית זה נשמע פומפוזי) הסורקים דפים באתרים שונים ברשת ומשתמשים בתוכן המצוי שם בכדי לאמן את מודלי השפה שלהם. בכדי להיות הוגן – גם הזחלנים של מנועי החיפוש (גוגל, בינג וכו') עושים את זה, והגרוע מכל – זחלנים ומאנדקסים זדוניים שסורקים את האתרים השונים בגדי למצוא חולשות שניתן לנצל לפריצה ולשליטה.
קיים ויכוח ארוך, שלא נכנס אליו עכשיו, האם תוכן שהונגש לעולם באתר שלי שייך לי או ניתן לניצול ע"י אחרים, כמו חברות ה-AI, לצרכיהם. אני לא משפטן ולא מתיימר להכריע בסוגיות כאלו, אבל הייתי רוצה שתהיה לי שליטה מסויימת בשימוש שיעשה בתוכן שלי. מצד אחד הייתי רוצה לאפשר לחיפושים למצוא תוכן רללונטי באתר. לדוגמה: אני מארח את אפליקציית עץ המשפחה באתר שלי. גוגל איפשר לי במשך השנים למצוא קרובי משפחה רחוקים ו/או אבודים שהגיעו לאתר באמצעות חיפושים שערכן, יצרו איתי קשר – וכך נולדו הכרויות חדשות ומרגשות. מצד שני – לא רוצה שישתמשו בתיזהשלי לדוקטורט שעמלתי עליה רבות.
מנגנון שליטה מסויים, רב שנים הינו הגדרת התוכן שמותר לאנדקס בקובץ ה- robots.txt באתר. זחלנים הגונים יצייתו להוראות שבו וידלגו על התוכן שאינני רוצה שיראו. ברור שזחלנים זדוניים לא יצייתו, אך האם זחלני AI ידועים יצייתו? דוגמה להגדרות כאלו מאחד הדומיינים שלי:
User-agent: *
Disallow: /css/
Disallow: /img/
לאחרונה קראתי פוסט על מלכודת דבש (honey pot) אכזרית שפיתח בחור המכונה בשם Aaron ותכליתה להעניש זחלנים שלא מצייתם להוראות. המלכודת זכתה לתגובות מעורבות של אהדה מהמתנגדים לשימוש לא הוגן בתוכן שלהם והסתייגות ממבקרי המלכודת בשל השלכות על הרשת (עומס, איכות סביבה, תוכן ירוד וכו').
המאפיינים העיקריים של המלכודת
המלכודת (שנקראת בור הזפת בתיעוד) קרויה Nepenthes, שמו של הצמח הטורף. היא מיועדת בעיקר לזחלני AI/LLM אבל כמו הצמח – "תטרוף" כל מי שיקלע לשם.
במהלך פעולתה מייצרת המלכודת מספר אינסופי של דפי תוכן, שבכל אחד מהם קישורים רבים המפנים לתוך בור הזפת. התוכן בדפים מיוצר אקראית, אבל באופן דטרמיניסטי – מה שמאפשר להם להראות כדפים רגילים שאינם משתנים.
השהייה מכוונת הוכנסה כדי למנוע מזחלנים להעמיס את השרת עליו מאוחסן האתר, וכדי לבזבז את זמנם בהמתנה.
יש אופציה להוסיף מרקוב-באבלר לדפים, כדי לתת לזחלנים טקסט לאימן מודלי השפה שלהם, בתקווה שיאיץ בסופו של דבר את קריסת המודל.
חלק מהזחלנים עוזבים אם התוכן לא חוזר בפרק זמן נתון. לצורך כך התוכן מוחזר מיידית בפיסות קטנות כדי להחזיק את החיבור חי ולהעמיס על הזחלן ככל האפשר.
כמקצוען ותיק בתעשיית ההיי-טק, נרשמתי להרבה רשימות תפוצה לפיתוח תוכנה וניוזלטרים טכניים אחרים במהלך השנים. אני מקבל הרבה מיילים הקשורים לטכנולוגיה/תוכנה – שברוב הפעמים אין לי זמן לקרוא והם פשוט מצטברים בתיקיית הפיתוח ב-Outlook שלי.
כשה-Outlook הנאמן והוותיק החל להיסדק ידעתי שעלי לעזור לו להתאושש ולהחזיר לו את נעוריו. חשבתי שאמחק כמה הודעות דוא"ל שמורות וחסרות תועלת ואפנה קצת זיכרון מקובץ ה-.pst (שם Outlook שומר את הפריטים שלו) כדי לעזור לו להיטען מהר יותר ולשפר את ביצועיו. סריקה מהירה של תיקיות פריטי Outlook חשפה עשרות אלפי מיילים בתיקיית Dev – שהצטברו במהלך יותר משני עשורים של ניוזלטרים נכנסים. התכוונתי למחוק אותם – אבל לפני שלחצתי על הפקודה "רוקן תיקיה" – הרגשתי צורך נוסטלגי לעיין בכמה מהמיילים האלה. גיבשתי תוכנית לעיין בהם במהירות לפני שאמחק אותם לתמיד.
לאחרונה, טכנולוגיות ה-AI התקדמו בקצב מהיר, והחיים היומיומיים שלנו מושפעים יותר ויותר מהאינטראקציות עם AI. בעוד שהמודלים השפתיים הגדולים (LLMs) כמו ChatGPT, Gemini Pro ו-Claude Sonnet כבר חוללו מהפכה בתחום הטכנולוגיה, הסוכנים החדשים לוקחים את היכולות הללו לרמה חדשה ומרגשת.
מהם סוכני AI?
סוכני AI הם תוכנות מתקדמות שעובדות בשיתוף פעולה עם ה-LLMs, ומרחיבות את יכולותיהם. הם יכולים לזכור מידע חשוב, לחפש מידע באינטרנט, ולהשתמש בתוכנות אחרות. כך, הם מאפשרים ל-AI לבצע משימות מורכבות ומגוונות כמו תכנון טיולים, מענה לשאלות מורכבות, וכתיבת קוד מחשב.
שילוב עוצמתי
הסוכנים וה-LLMs יוצרים שילוב עוצמתי שמאפשר ל-AI להבין, לתקשר, ולקחת חלק בפתרון בעיות וקבלת החלטות. השילוב הזה משנה את הדרך בה אנחנו עובדים וחיים, ופותח דלתות לעתיד שבו AI יכול לקחת על עצמו משימות מורכבות ושונות.
איך זה עובד?
ה-LLMs החדשים, כמו GPT-4, מצוידים בטכנולוגיות מתקדמות ביותר, המסוגלות לעבד כמויות גדולות של מידע ולהבין ניואנסים של שפה אנושית בצורה מרשימה. הסוכנים, לעומת זאת, פועלים כמעין עוזרים חכמים, המסוגלים לנהל זיכרון עבודה ולבצע פעולות מתמשכות, כמו חיפוש מידע, ניתוח נתונים ושימוש בתוכנות אחרות.
לדוגמה, אם אתם מתכננים טיול, הסוכן יכול לחפש עבורכם טיסות, להזמין מלונות, ולהכין לכם מסלול טיול, תוך כדי שמירה על כל המידע הרלוונטי בזיכרון העבודה שלו. אם יש לכם שאלות מורכבות, הסוכן יכול למצוא תשובות באינטרנט ולהציג לכם את המידע בצורה ברורה ומובנת.
התפתחות מתמדת
המעבר לסוכני AI מייצג צעד משמעותי קדימה בטכנולוגיית ה-AI. הוא מאפשר לנו להשתמש בטכנולוגיה בצורה מתקדמת יותר ולנצל את הפוטנציאל המלא של ה-AI. אנחנו עדים לשינוי דרמטי בעולם העבודה, שבו AI יכול לקחת על עצמו משימות מורכבות ואינטראקטיביות, מה שמשפר את הפרודוקטיביות ומאפשר לנו להתמקד במשימות יצירתיות ואסטרטגיות יותר.
מהפכה דיגיטלית
בעולם המתפתח של AI, הסוכנים מייצגים צעד משמעותי קדימה. הם יוצרים שילוב עוצמתי עם ה-LLMs, מה שמאפשר להם להבין, לתקשר, ולקחת חלק בפתרון בעיות וקבלת החלטות. השילוב הזה משנה את הדרך בה אנחנו עובדים וחיים, ופותח דלתות לעתיד שבו AI יכול לקחת על עצמו משימות מורכבות ושונות.
לסיכום, המהפכה הדיגיטלית שמביאה איתה השילוב בין ה-LLMs והסוכנים משנה את הדרך בה אנחנו חיים ועובדים. אנחנו נכנסים לעידן חדש שבו AI לא רק משפר את חיינו, אלא גם יוצר אפשרויות חדשות ופותח דלתות לעתיד מלא בטכנולוגיה מתקדמת.
התמונות יוצרו באמצעות leonardo.ai
נכתב ע"י מירון אופיר, ארכיטקט בכיר בחברת הפינטק "פרוקסימיטי"
הדעות המובעות במאמר זה משקפות את דעותיו האישיות של הכותב בלבד
