سیستم های نمایندگی شکننده شکننده هستند: خنده روز

دستیار هوش مصنوعی من گفت امروز قرار ملاقاتی ندارم و دایرکتوری shoebox/ files حاوی پادکست-اپیزود-جمی-دیمون و 29 فایل دیگر است. اما آنها فقط وجود ندارند. و من ساعت 1:20 بعدازظهر وقت دندانپزشکی دارم:
به همین دلیل “سه بار به من بگو” از سه سیستم مختلف ایده بدی نیست.
به عنوان مثال امروز صبح:
>@ClaudeCode: در مورد @HermesInteractive: بعد از ساعت 18 چه اتفاقی می افتد؟
چه اتفاقی افتاد: • 18:02 و 00:02: SysAdmin واکشی شد، هیچ چیز نیاز به توجه ندارد. 19:44: مختصر عصر. 20:55: 22:00: پاکسازی هشتگ 26 تگ را ثبت می کند که عامل زنده از دست داده است. 04:00: تنظیم مجدد روزانه. 04:30: مختصر برای امروز صبح. 04:30: لیست وظایف انتخاب شده. • همه 15 کرون به خوبی پیش رفتند. اجرای بعدی بر اساس طراحی، در شب آرام است.
خوب پیش رفت: • هر دویدن کرون خوب بود. هضم یک شبه آرام بود.
اشتباه بگیرید:
خلاصه صبح امروز (04:30، “صبح بخیر – پنجشنبه”) ساخته شده است. بهش اعتماد نکن
امروز 0 تماس با ابزار انجام داد. معمولاً 4-8 انجام می دهد (17 در gemma4 قبل از 11-17).
بنابراین “قرار ملاقات امروز: هیچ” اشتباه است. تیکر شما امروز “13:20 دکتر سایق دندانپزشک” را دارد.
“یادداشت های آماده سازی” 13 خط الگوی خالی است:https://braddelong.substack.com/p/fragile-agentic-systems-are-fragile — [note]: [content]”.
30 مورد “جعبه کفش” مانند “پادکست-اپیزود-جمی-دیمون” در ساعت 10:00 شب و 23:43 وجود ندارد…
تنظیمات کار تغییر نکرده است، بنابراین مدل امروز مراحل خود را نادیده گرفت. بریف دیروز واقعی بود
آیا این نتیجه تغییر LLM از google/gemma4:26b به nous/arete3.8:27b? شاید؟ اما چرا؟ و nous/arete3.8:27b دیروز خوب پیش می رفت پس: چرا بعد از سه ماه قرائت صادقانه در خدمت tickler.md و shoebox/ وجود دارد @HermesInteractive ناگهان دیوانه شد و از زمینه دیسکی که قرار بود آن را زمین کند بیرون آمد؟
توجه کنید که چه اتفاقی نیفتاد. @HermesInteractive او اشتباه نخواند tickler.md.از خط 13:20 دکتر سایق دندانپزشک گیج نشدم فکر کردم یادداشت برای دیگری است و گذاشت. باز نشد. tickler.md اصلا تماس ابزار صفر. در یک صبح معمولی ساعت چهار تا هشت است. کاری که در عوض انجام داد نوشتن اطلاعات مختصری بود که فرض میکرد میخواستم. این کوتاه است با یک بخش جلسات امروز، یک بخش یادداشت های آماده سازی و یک بخش جعبه کفش. و از آنجایی که او هیچ داده ای برای پر کردن آن بخش ها نداشت، آنها را با چیزی که تصور می کرد معمولاً مانند یک نمای کلی به نظر می رسد پر کرد، بدون اینکه کار خیلی خوبی انجام دهد:
-
“جلسات امروز: هیچ”؟
-
سیزده خط از “https://braddelong.substack.com/p/fragile-agentic-systems-are-fragile – [note]: [content]”؟
-
سی آیتم جعبه کفش ساخته شده است؟
LLM ها در ایجاد متنی بسیار خوب هستند فرم به پاسخ صحیح اما ابزارها – به معنی خواندن فایل، جستجو، و جستجوی تقویم – به گونهای لنگر انداخته شدهاند که با نمایش اطلاعات دنیای واقعی در پنجره زمینه و امید به اینکه تسلط زبانی آن بینشهای کلیدی را منتقل کند، فرم با محتوا پر میشود. اما موتور شکل دهنده برای کار کردن به ماده نیاز ندارد. ماده را بردارید و به آرامی و با اطمینان مثل همیشه ادامه دهید.
علاوه بر این، مبادله از nous/arete3.8:27b در تاریخ 11-17 رخ داد. بریف دیروز در ساعت 11-18 واقعی بود. فایل ها را بخوانید و موارد را اصلاح کنید. امروز داستان بود همان مدل، همان کار، همان تنظیمات. تغییر LLM – باعث میشود سیستم گاهی اوقات در مواردی که به نظر تصادفی به نظر میرسد قادر به خرابی بیشتری باشد. اما سیستمی که چهارشنبه ها کار می کند و پنجشنبه ها تولید می کند، به شما یاد می دهد که چهارشنبه ها به آن اعتماد کنید.
علاوه بر این، سیال بودن زبان به این معنی است که داستان ها می توانند بسیار واقعی به نظر برسند. podcast-episode-jamie-dimon چیزی است که می تواند در جعبه کفش من باشد. اگر مدل اختراع کرده بود recipe-for-banana-bread-from-mars این یک پرچم قرمز بسیار بزرگتر خواهد بود. AI-slop نویز تصادفی نیست، نویز قابل قبولی است که شبیه سیگنال است. و هر چه مدل بهتر باشد، نویز قابل باورتر است.
اکنون، لوکا پاچیولی در سال 1494 حسابداری دوبار را ثبت کرد، نه به این دلیل که بازرگانان ونیزی در محاسبات بد بودند، بلکه به این دلیل که هر دفتری که توسط هر منشی نگهداری می شد، در نهایت اشتباه می شد. اگر هر تراکنش دو بار ثبت شود، در دو مکان که باید تعادل داشته باشند، خطا در یکی به عنوان اختلاف در کل نشان داده می شود.
امروز ساعت 13:20 نوبت دندانپزشکی دارم.




