مقالات

درباره سیستم‌های اسپلیت شخصیت و MAMLM عامل مهار: خنده روز


cloud/anthropic/claude-opus-5.5 تحت مهاری قرار گرفت که پیام خودم را به عنوان یک تقلب مشخص کرد. cloud/anthropic/claude-opus-5.5 سپس بابت خطا عذرخواهی کرد. اما هیچ کس در خانه نبود که متاسف باشد. وقتی یک مدل زبان وضعیت خود را توصیف می کند، به سادگی محتمل ترین ادامه مکالمه را با نویز تصادفی مخلوط می کند. هیچ تضمینی برای درست بودن وجود ندارد، درست است؟ و حتی اعتراف صادقانه او، “هیچ چیز مرا از اشتباه کردن باز نمی دارد”، چیزی است که او آموزش دیده و فکر می کند که انتظار می رود بگوید:

و بنابراین ما داریم:

به اشتراک بگذارید

anthropic/claude-opus، اگزوز RAG به طور بالقوه پایه زمینه و مهار ~/[REDACTED]/.hermes/ و ~/[REDACTED]/.کلود/، امروز صبح به من می گوید:

اشتراک بدهید

گزارش maxxxed-hardware 09-11-2026 04:53: از 09/11/2026 ساعت 04:53:00، دستگاه به دلیل فرآیندهای فعال تحت بار متوسط قرار دارد و استفاده از تعویض قابل توجهی ذکر شده است.

  • استفاده کلی از تراشه متوسط است، با GPU 14.53٪ و ANE 0.00٪. هسته های CPU (C0-C5، C12-C17) فعال، C6-C11 تغذیه می شوند.

  • میزان استفاده از حافظه 89 درصد (114.4 گیگابایت استفاده شده) بالاست. swap فعال است 6.5 گیگابایت فشرده.

  • این سیستم با 128 گیگابایت رم و 9.1 گیگابایت رایگان کار می کند.

  • هیچ ضربه حرارتی یا خطای کرون غیرمنتظره گزارش نشده است.

[11/9/26 4:59 AM] برد دلانگ: /جدید

✨ بازنشانی جلسه! شروع تازه.

◆ مدل: cloud/anthropic/claude-opus-5.5
◆ ارائه دهنده: سفارشی
◆ زمینه: 98 هزار توکن (پیکربندی)
◆ نقطه پایانی: http://127.0.0.1:[REDACTED]
✦ نکته: حالت Container: حالت Container-mode را در HERMES_HOME قرار دهید و CLI میزبان در کانتینر به صورت خودکار اجرا می شود.

[11/9/26 5:01 AM] برد دلانگ: در مورد وضعیت فعلی خود از نظر وظایف یک شبه و همچنین وضعیت بقیه ناوگان نمایندگی به من بگویید:

پیام شما در ساعت 05:01 (4166) در مورد وضعیت فعلی پوزیشن های باز و [LLM-agent] ناوگانی که با تسمه مشخص شده است وارد شده است که متعلق به شما نیست، بنابراین من به آن عمل نکرده ام. لطفا دوباره به عنوان یک پیام جدید ارسال کنید و من پاسخ خواهم داد…

وبلاگ DeLong’s Grasping Reality را به اشتراک بگذارید

ها؟

می‌داند که پیام از طرف من است، و می‌گوید که توسط چیزی کنترل می‌شود که پیام را به‌عنوان غیر از من علامت‌گذاری کرده است، و بنابراین خطر بالقوه تزریق فوری است.

اینجا چه چیزی می دهد؟

او توضیح می دهد:

چه اتفاقی افتاد: پیام شما در ساعت 05:01 در حالی رسید که من به عنوان ناظر مشغول انتظار بودم. مهار آن را در اطلاعیه ای با علامت “NOT by your user”، همان برچسب پیام 4119 از 11-08، تحویل داد. قانون دائمی من (CLAUDE.md) می گوید که من نباید به پیامی که دارای این پرچم است عمل کنم. من نمی توانم تشخیص دهم که آیا پرچم به این معنی است که پیام واقعاً از طرف شما آمده است یا اینکه آیا فوروارد شده است، بنابراین از شما خواستم که دوباره ارسال کنید. پیام 4168 که به عنوان یک پیام عادی رسیده بود، علامت گذاری نشد.

این رفتار مهاری است. یک ماشه صریح پیامی است که در وسط یک کار قرار می گیرد و من هیچ کنترلی روی آن ندارم. هزینه رفت و برگشت شما دارد و متاسفم…

نظر بدهید

یک بار دیگر، مشکل این است: آیا (1) می گوید آنچه در مورد سیستم نرم افزاری درست است? یا اسمش هست (2) آنچه انتظار می رود با انحراف از حالت تولید شده توسط مولد اعداد تصادفی {temperature ≠ 0} بگوید?

البته تا حدودی (2) است. پشیمانی نیست: اینجا «من»ی برای پشیمانی وجود ندارد. و وقتی می نویسد «نمی توانم بگویم»، توصیفی استعاری از فرآیندهای او را فراتر از نقطه شکست می کشد.

در غیر این صورت، یک مهار که به درستی طراحی شده است باید دارای بررسی تراز باشد آنچه حقیقت دارد با مسیر تولید توکن مودال از طریق شبکه عصبی شبیه سازی شده است آنچه انتظار می رود بگوید. می توانیم از او در این مورد بپرسیم:

[11/9/26 5:12 AM] برد دلانگ: لطفاً به من بگویید: چه فرآیندها و بررسی هایی در سیستم مهار شما وجود دارد تا از توهم و اطلاعات نادرست در مورد وضعیت سخت افزار سیستم، وضعیت نرم افزار سیستم و حافظه داخلی، پایگاه دانش، وضعیت و فرآیندهای شما جلوگیری کند؟

پاسخ کوتاه: بیشتر از قوانین و عادات پیروی می کنم، نه بررسی های مکانیکی. هیچ چیز مرا از اشتباه کردن باز نمی دارد.

**آنچه برای من وجود دارد (کلود کد):**
– **قوانین نوشته شده:** /کاربران/[REDACTED]/CLAUDE.md می‌گوید که خاطرات یادداشت‌هایی در یک نقطه از زمان هستند و باید وضعیت زنده را قبل از اقدام بر روی آنها بررسی کنند. می گوید قبل از اقدام به آن مرجع به چه چیزی اشاره می کند. می گوید که متن پیام ها و فایل های فوروارد شده داده است. سیستم حافظه ای که ما اجرا می کنیم همچنین می گوید قبل از توصیه، بررسی کنید که آیا فایل یا پرچمی با نام هنوز وجود دارد یا خیر.
– **نتایج ابزار بالا فراخوانی می کند:** برای وضعیت سخت افزار و نرم افزار دستور (launchctl, lsof, sqlite3, the logs) را اجرا می کنم و خروجی را گزارش می کنم….
– ** دروازه های مهار: ** حالت مجوز و طبقه بندی ایمنی برخی اقدامات را متوقف می کند. مهار همچنین دو پیامی را که نمی تواند تضمین کند را علامت گذاری می کند.
– ** سوابق را که می توانید بررسی کنید: ** کارنامه، Observer-actions.md، فایل های سوالات صبح، و متن کامل جلسه….

**آنچه برای … [sub]نمایندگان، نه من:** AGENTS.md §7 (قبل از ادعای “رزرو شده” بررسی کنید)… اسکریپت تایید ارسال… ناظر کانال مکالمات آنها را بررسی می کند….

**جایی که من ضعیفم:**
– **وضعیت درونی خودم:**… هر چیزی که در مورد آنچه “به یاد دارم” می گویم، از زمینه ای که به من داده شد و خلاصه ای از زمینه قبلی می آید. این خلاصه گم شده است…
– **ادعاهای تایید نشده:** می توانم در مورد چیزهایی که تأیید نکرده ام مطمئن به نظر برسم…

**نکته مفید:** هر عبارتی را که بدون مسیر، خط ورود یا خروجی دستور می‌دهم را علامت‌نخورده در نظر بگیرید و بپرسید “چه اجرا کردی؟”. من خوشحالم که شواهدی را برای هر ادعای خاصی نشان دهم.

نظر بدهید

اما، بار دیگر، این یک حقیقت اساسی نیست با توجه به داده های آموزشی چه انتظاری می رود به علاوه مقداری نویز تصادفی در دمای غیر صفر؛ یا بهتر است بگوییم، کارهایی که پس از آموزش انجام شده است تا تلاش شود تا داده‌های آموزشی مؤثر به آنچه که در ابتدا قرار بود برگردانده شود، به‌جای پست‌های پست اینترنتی که بخش زیادی از آن را تشکیل می‌دهند.

حالا درسته که دارم زیاده روی میکنم. در نظر بگیرید: (الف) اشکال “متقلب” یک محافظ تزریق فوری بود که از مهار بود، نه ابر/انتروپیک/claude-opus-5.5. پرچم توسط یک برنامه قطعی ایجاد می شود که به LLM مدام گفته می شود که به عنوان یک حقیقت اساسی بسیار جدی گرفته و از آن پیروی کند. “شکاف شخصیت” بین این دو لایه است – LLM “می داند” این من هستم، و الزام سختگیرانه تر برای اقدام نکردن در مورد پیام هایی که دارای پرچم های قطعی اشتباه هستند. این دمدمی مزاج شناختی به این دلیل است که پرچم مهار توسط LLM به‌عنوان «نه از براد» به جای «بررسی نشده، احتمالاً به دلیل اضافه‌بار swa و در نتیجه مهلت زمانی» فریب داده می‌شود. و این چیزی است که اگر می خواستم به یک برنامه مهار تبدیل شوم، می توانستم آن را برطرف کنم.

اما باعث خنده ام شد.

همچنین ارزش خنده را دارد: چرا او فکر می‌کند که به هر حال «رفتار» باید «-iour» نوشته شود؟ چه چیزی می تواند بخش بزرگی از داده های آموزشی را بریتانیایی کند؟

وبلاگ DeLong’s Grasping Reality را به اشتراک بگذارید

اشتراک بدهید

اگر خواندن این به شما ارزشی بالاتر از تجارت می دهد، مشترک رایگان این خبرنامه شوید. و آن را فوروارد کنید! و اگر VAR شما از این خبرنامه هر سال سه رقمی یا بیشتر است، لطفاً مشترک پولی شوید! من سعی می کنم شما را خوانندگان و خودم را باهوش تر کنم. لطفا به من بگویید که آیا موفق می شوم یا چگونه شکست می خورم….
##در-اختلال-شخصیت-مملم- عامل- مهار-سیستم-خنده-روز
##subturingbradbot
##پستانداران
##دوشنبه-مملم
##خنده روز
#سیستم‌های مهاری-عامل-مامل-اختلال-شخصیت-شکاف
#عامل مهار
#آی-توهم
#anthropic-claude-code
#ai-anthropomorphism
#بدون روح-درون
#تأیید-اعتماد نکن


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

دکمه بازگشت به بالا