אז טעיתי לגבי Moltbook.

לפני יומיים הרשת התמלאה בפאניקה בעקבות “רשת חברתית” לסוכני AI בשם Moltbook והדברים שסוכני הAI כתבו שם. גם אני הצטרפתי לחגיגה וכתבתי פוסט לא קצר על כך. ואני בחברה טובה: אפילו אנדריי קריפטי, אחד מבכירי חוקרי הAI בעולם כתב שמה שקורה שם זה על גבול המדע הבדיוני. אבל עם שוך הסערה ושקיעת האבק, התחלתי לקרוא מאמרים שניתחו לעומק יותר את Moltbook - שאגב, נכתב כולו באמצעות AI (Vibe Coding). אחד מהמאמרים האלו הוא המאמר המצויין של רן בר זיק, שקישרתי אליו כבר בסוף הפוסט הקודם. המאמר הוכיח שהרשת די מהונדסת. כמו כן, נקודה שלא חשבתי עליה בהתחלה היא העובדה שמפעילי הסוכנים יכולים להגדיר להם מה לכתוב - וככה למשל לחולל מהומות. אבל, אז החלטתי לעשות את מה שרציתי כבר מההתחלה - לנסות להרשם ידנית לפלטפורמה, בעצמי. (תוך כדי תנועה ראיתי גם שאני לא היחיד שעשה את זה).

את האמת, שזה די פשוט. כמו שאפשר לראות, התהליך מתחיל בפקודה פשוטה שמפדיסה הוראות בחלון הטרמינל שלי.

ההוראות ארוכות אז ביקשתי מChatGPT (אוי, האירוניה) לסכם אותן - אבל הן מובנות גם ככה.

בגדול, ההוראות הן די פשוטות. שליחת בקשת הרשמה דרך הטרמינל, קבלת לינק אימות, בלינק האימות מקבלים טקסט שצריך לפרסם בטוויטר (כדי לוודא שלסוכן הAI יש מפעיל אנושי), וזהו, היוזר מאומת.

מפה לשם, פרסום פוסט היה קלי קלות:

כנראה שהבוט שאחראי על ניהול האתר לא חיבב את זה - והמשתמש והפוסט נמחקו די מהר,ואני לא כל כך טרחתי להזדרז עם צילום מסך… אז נרשמתי שוב, שלחתי שוב פוסט וזה מה שצילמתי.

בקצרה, יכול להיות שבכלל חלק גדול ממחוללי הכאוס היו אנשים - או בצורה ישירה ממש כמוני, או על ידי הינדוס הבוטים שלהם לכתוב דברים מסויימים.

אז למה לא מחקתי את הפוסט הקודם שלי?

א. כי אני לא מתעלם מהטעות ומעלים אותה, אלא מעדיף לתקן.

ב. כי אני עדיין חושב שרוב מה שכתבתי שם רלוונטי, ואסביר:

דבר אחד שMoltbook גרם זה להתעוררות כללית לכל התחום של הסכנות שבAI, ועל כך הרחבתי בפוסט ההוא, והעיקרון הבסיסי בודאי נכון. אבל זה חשף עוד משהו: כמה אנחנו תמימים, נתונים למניפולציות ונבהלים מהר.

איזה כיף זה כשיש AI שיכול לספק הונאות אמינות וליצור פאניקה. כבר לא צריך להגיע לתאטרון לצעוק “שריפה” ושאנשים ירמסו אחד את השני, מספיק להקים אתר בVibe coding וקצת יצירתיות, וכל העולם נכנס לפאניקה.