مقالات

سیستم های نمایندگی شکننده شکننده هستند: خنده روز


دستیار هوش مصنوعی من گفت امروز قرار ملاقاتی ندارم و دایرکتوری shoebox/ files حاوی پادکست-اپیزود-جمی-دیمون و 29 فایل دیگر است. اما آنها فقط وجود ندارند. و من ساعت 1:20 بعدازظهر وقت دندانپزشکی دارم:

به همین دلیل “سه بار به من بگو” از سه سیستم مختلف ایده بدی نیست.

به اشتراک بگذارید

اشتراک بدهید

به عنوان مثال امروز صبح:

>@ClaudeCode: در مورد @HermesInteractive: بعد از ساعت 18 چه اتفاقی می افتد؟

چه اتفاقی افتاد: • 18:02 و 00:02: SysAdmin واکشی شد، هیچ چیز نیاز به توجه ندارد. 19:44: مختصر عصر. 20:55: 22:00: پاکسازی هشتگ 26 تگ را ثبت می کند که عامل زنده از دست داده است. 04:00: تنظیم مجدد روزانه. 04:30: مختصر برای امروز صبح. 04:30: لیست وظایف انتخاب شده. • همه 15 کرون به خوبی پیش رفتند. اجرای بعدی بر اساس طراحی، در شب آرام است.

خوب پیش رفت: • هر دویدن کرون خوب بود. هضم یک شبه آرام بود.

اشتباه بگیرید:

  • خلاصه صبح امروز (04:30، “صبح بخیر – پنجشنبه”) ساخته شده است. بهش اعتماد نکن

  • امروز 0 تماس با ابزار انجام داد. معمولاً 4-8 انجام می دهد (17 در gemma4 قبل از 11-17).

    • بنابراین “قرار ملاقات امروز: هیچ” اشتباه است. تیکر شما امروز “13:20 دکتر سایق دندانپزشک” را دارد.

    • “یادداشت های آماده سازی” 13 خط الگوی خالی است:https://braddelong.substack.com/p/fragile-agentic-systems-are-fragile — [note]: [content]”.

    • 30 مورد “جعبه کفش” مانند “پادکست-اپیزود-جمی-دیمون” در ساعت 10:00 شب و 23:43 وجود ندارد…

    • تنظیمات کار تغییر نکرده است، بنابراین مدل امروز مراحل خود را نادیده گرفت. بریف دیروز واقعی بود

نظر بدهید

آیا این نتیجه تغییر LLM از google/gemma4:26b به nous/arete3.8:27b? شاید؟ اما چرا؟ و nous/arete3.8:27b دیروز خوب پیش می رفت پس: چرا بعد از سه ماه قرائت صادقانه در خدمت tickler.md و shoebox/ وجود دارد @HermesInteractive ناگهان دیوانه شد و از زمینه دیسکی که قرار بود آن را زمین کند بیرون آمد؟

توجه کنید که چه اتفاقی نیفتاد. @HermesInteractive او اشتباه نخواند tickler.md.از خط 13:20 دکتر سایق دندانپزشک گیج نشدم فکر کردم یادداشت برای دیگری است و گذاشت. باز نشد. tickler.md اصلا تماس ابزار صفر. در یک صبح معمولی ساعت چهار تا هشت است. کاری که در عوض انجام داد نوشتن اطلاعات مختصری بود که فرض می‌کرد می‌خواستم. این کوتاه است با یک بخش جلسات امروز، یک بخش یادداشت های آماده سازی و یک بخش جعبه کفش. و از آنجایی که او هیچ داده ای برای پر کردن آن بخش ها نداشت، آنها را با چیزی که تصور می کرد معمولاً مانند یک نمای کلی به نظر می رسد پر کرد، بدون اینکه کار خیلی خوبی انجام دهد:

  • “جلسات امروز: هیچ”؟

  • سیزده خط از “https://braddelong.substack.com/p/fragile-agentic-systems-are-fragile – [note]: [content]”؟

  • سی آیتم جعبه کفش ساخته شده است؟

وبلاگ DeLong’s Grasping Reality را به اشتراک بگذارید

LLM ها در ایجاد متنی بسیار خوب هستند فرم به پاسخ صحیح اما ابزارها – به معنی خواندن فایل، جستجو، و جستجوی تقویم – به گونه‌ای لنگر انداخته شده‌اند که با نمایش اطلاعات دنیای واقعی در پنجره زمینه و امید به اینکه تسلط زبانی آن بینش‌های کلیدی را منتقل کند، فرم با محتوا پر می‌شود. اما موتور شکل دهنده برای کار کردن به ماده نیاز ندارد. ماده را بردارید و به آرامی و با اطمینان مثل همیشه ادامه دهید.

علاوه بر این، مبادله از nous/arete3.8:27b در تاریخ 11-17 رخ داد. بریف دیروز در ساعت 11-18 واقعی بود. فایل ها را بخوانید و موارد را اصلاح کنید. امروز داستان بود همان مدل، همان کار، همان تنظیمات. تغییر LLM – باعث می‌شود سیستم گاهی اوقات در مواردی که به نظر تصادفی به نظر می‌رسد قادر به خرابی بیشتری باشد. اما سیستمی که چهارشنبه ها کار می کند و پنجشنبه ها تولید می کند، به شما یاد می دهد که چهارشنبه ها به آن اعتماد کنید.

علاوه بر این، سیال بودن زبان به این معنی است که داستان ها می توانند بسیار واقعی به نظر برسند. podcast-episode-jamie-dimon چیزی است که می تواند در جعبه کفش من باشد. اگر مدل اختراع کرده بود recipe-for-banana-bread-from-mars این یک پرچم قرمز بسیار بزرگتر خواهد بود. AI-slop نویز تصادفی نیست، نویز قابل قبولی است که شبیه سیگنال است. و هر چه مدل بهتر باشد، نویز قابل باورتر است.

اکنون، لوکا پاچیولی در سال 1494 حسابداری دوبار را ثبت کرد، نه به این دلیل که بازرگانان ونیزی در محاسبات بد بودند، بلکه به این دلیل که هر دفتری که توسط هر منشی نگهداری می شد، در نهایت اشتباه می شد. اگر هر تراکنش دو بار ثبت شود، در دو مکان که باید تعادل داشته باشند، خطا در یکی به عنوان اختلاف در کل نشان داده می شود.

امروز ساعت 13:20 نوبت دندانپزشکی دارم.

وبلاگ DeLong’s Grasping Reality را به اشتراک بگذارید

اشتراک بدهید

اگر خواندن این به شما ارزشی بالاتر از تجارت می دهد، مشترک رایگان این خبرنامه شوید. و فورواردش کن! و اگر VAR شما از این خبرنامه هر سال سه رقمی یا بیشتر است، لطفاً مشترک پولی شوید! من سعی می کنم شما را خوانندگان و خودم را باهوش تر کنم. لطفا به من بگویید که آیا موفق می شوم یا چگونه شکست می خورم….
##سیستم-های-عامل-شکننده-سا-خنده-روز-شکننده
##subturingbradbot
##پستانداران
##خنده روز
#سیستمهای-عامل-شکننده-شکننده هستند
#agent-ai
#سیستم های شکننده
#llm-توهم
#شکست خاموش
#نظارت سیستم
#حسابداری مضاعف
#پارگی زمین


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

همچنین ببینید
بستن
دکمه بازگشت به بالا