هوش مصنوعی عامل افسانه ای است که در حال حرکت است

سی اقتصاددانهنری فارل و کازماس شالیزی استدلال می‌کنند که هوش مصنوعی یک خدای دیجیتالی نوپای نیست، بلکه «تراکم فرهنگ بشری» است: پلان آماری طبقه‌بندی «خانه عقل» ژاک بارزون، که به شیوه‌ای متحرک شده است. او با اتصال به نرم‌افزارها می‌تواند با بررسی شواهد در Lean یا پیوستن به یک حمله هکری، روایت‌های خود را در دنیای دیجیتال اجرا کند. خوب، بله. اما خانه هوش انسانی که ما در طول پنج هزار سال گذشته ساخته‌ایم، ASI واقعی، ابرهوش گلچین واقعی است. پس از این اعتراف که تفکر MAMLM ها از بهترین (و بدترین) که تصور و شناخته شده است، چه چیزی نتیجه می گیرد؟

هوش مصنوعی عاملی: نه یک هوش فردی نوظهور، بلکه یک “تراکم فرهنگ انسانی” است که به عنوان یک خلاصه آماری از دانش مکتوب عمل می کند.

به اشتراک بگذارید

هوش مصنوعی عاملی که به‌درستی «بهره‌گیری» شود، روایت‌هایی را ارائه می‌کند که از تکثیر گسترده الگوهای فرهنگی مکتوب انسانی که سپس با دنیای دیجیتال و سپس جهان فیزیکی تعامل دارند، به نمایش می‌گذارد. شبح فرمان‌های اجرایی که توسط انسان‌هایی که تعاملاتشان با ماشین‌های ما به سیستم‌های نرم‌افزاری هدایت می‌شوند، توسط سیستم بردار تعبیه‌شده «مشابه» شناسایی می‌شوند.

تمایز کلیدی در اینجا بین “هوش” ژاک بارزون (دانش عمومی ذخیره شده) و “هوش” واقعی است، که قدرت فردی برای عمل مناسب در یک موقعیت معین به جای استناد صرف به سوابق است.

سؤال بزرگ این است: به طور معنی‌داری، کاری که LLMها انجام می‌دهند با آنچه ما انجام می‌دهیم زمانی که با بیت عقل مشورت می‌کنیم و سپس از آن برای حکومت بر گفتار، گفته‌های اجرایی و اعمال فیزیکی خود در عالم ماده استفاده می‌کنیم، متفاوت است؟ ماشین‌های ما (هنوز) نمی‌توانند عمل فیزیکی در جهان ماده انجام دهند. اما مطمئناً می توانند صحبت کنند. و هنگامی که برای راه اندازی برنامه ها و اسکریپت ها استفاده می شود، صحبت کردن آنها حداقل در دنیای فکر و پایگاه داده اجرایی می شود.

دو تفاوت بلافاصله به ذهن می رسد:

1. ما الگوهای خود را از جهان و اندیشه واقعی خود (هر چه که باشد) می آوریم وقتی چیزهای کم انتظاری را می گوییم که در بیت عقل جلو و محور نیست. وقتی آنها چیزی را که کمتر انتظار می رود می گویند، فقط یک عدد تصادفی را انتخاب می کنند که باعث می شود به طور تصادفی و بی معنی از گفته ای که آنتروپی مودال را به حداکثر می رساند منحرف شوند.

2. آنها می توانند فرصت ها را با سرعتی هزاران بار سریع تر از سرعت ما جستجو و ارائه دهند، و زمانی که ارزیابی می تواند خودکار باشد، می توانند آن فرصت ها را با سرعتی هزاران برابر ما ارزیابی کنند.

اشتراک بدهید

آیا واقعاً تفاوت های قابل توجه دیگری در اینجا وجود دارد؟

هنری فارل:

https://www.programmablemutter.com/p/agentic-ai-is-myth-set-in-motion>https://www.programmablemutter.com>

Cosma and I have a piece at the Economist

2026-10-29

[Gustave Dore – Ulysses and his companions]

من و کوسما شالیزی داریم یک قطعه جدید از هوش مصنوعی در اقتصاددان این واقعاً شبیه هیچ چیز دیگری نیست (اگرچه ممکن است برخی از بخش‌های آن برای خوانندگان این خبرنامه آشنا باشد و کاملاً مبتنی بر از ما همکاری با آلیسون گوپنیک و جیمز ایوانز) و ما واقعاً از آن راضی هستیم. یک دیوار پرداخت وجود دارد اما بر اساس تجربه گذشته اقتصاددان نسبت به نویسندگان شرکت‌کننده که آثارشان را بعد از مدتی در وب‌سایت‌های خودشان قرار می‌دهند، به‌طور منطقی تحمل می‌کند، بنابراین باید انتظار داشته باشید که زودتر آن را در اینجا ببینید.

در ضمن بحث اصلی اینه:

هوش مصنوعی مدرن نه خداست و نه پرنده ای مکانیکی. این به بهترین وجه به عنوان نسخه‌ای فن‌آور از آهنگ‌های هومری که الهام‌بخش فتوحات اسکندر بود، حماسه‌ای که چنان گسترده شده است که نه فقط قهرمانان، هیولاها و یاوران ماوراء طبیعی را در بر می‌گیرد، بلکه بخش‌های وسیعی از دانش مکتوب عملی را در بر می‌گیرد تا بتواند هم خود را بازگو کند و هم روایت الهام‌بخش آن را در جهان اجرا کند.

ممکن است این یک طرز فکر عجیب در مورد هوش مصنوعی به نظر برسد، اما ما فکر می کنیم بسیار مفید است. این هوش مصنوعی را به عنوان یک هوش فردی فرضی در حال ساخت تلقی نمی کند، زیرا واقعاً چنین نیست. همچنین هوش مصنوعی را صرفاً تکرار آنچه مردم قبلاً گفته اند رد نمی کند. در عوض، این نشان می‌دهد که ما باید هوش مصنوعی را نوعی تراکم فرهنگ انسانی بدانیم که می‌تواند به روش‌های جدید زیادی به کار گرفته شود و حتی تبدیل به یک اسطوره خود بسیج شود.

بحث ما از همین جا شروع می شود پست 2025 Cosma. مدل LLM، هوش انسانی پر جنب و جوش جهان نیست، بلکه دانش مکتوب منجمد شده است – چیزی که ژاک بارزون آن را «خانه عقل» می نامد. همانطور که بارزون می گوید:

عقل شکل بزرگ و کلی عقل زنده است. این هوش انباشته شده و تبدیل به عادات نظم و انضباط، نشانه ها و نمادهای معنا، زنجیره های استدلال و محرک های عاطفی است — یک پیوند کوتاه و بی سیم که توسط آن ذهن می تواند پیوندها را بپرد، توانایی ها را بشناسد، و حقیقت را منتقل کند. هوش در عین حال مجموعه‌ای از دانش عمومی و کانال‌هایی است که از طریق آن می‌توان بخش درستی از آن را به سرعت، بدون تلاش برای اثبات مجدد، به موضوع مورد نظر اعمال کرد.

اطلاعات دارایی عمومی است و می تواند به ارث برسد. همه ما می دانیم که منظورمان از یک سنت فکری بومی شده در اینجا یا آنجا چیست. اما ما از “سنت هوش” صحبت نمی کنیم، زیرا هوش هر کجا که بخواهد به وجود می آید… و اگرچه هوش نه پیش فرض و نه مستثنی از هوش است، دو مورد از کاربردهای آن عبارتند از: جبران فقدان هوش، و افزایش قدرت آن از طریق تشخیص سریع و تجسم مناسب. زیرا هر جا که اطلاعات پیدا شود، دارایی شخصی و خصوصی است. با مالک می میرد مگر اینکه او آن را به شکلی کم و بیش دائمی تجسم کند. بلكه هوش محصول تلاش و كسب اجتماعي است… هوش يك نهاد است; به اصطلاح، جدا از صاحبان اطلاعات، به تنهایی می ایستد، هر چند فقط آنها می توانند در صورت نابودی آن را بازیابی کنند…

قابل توجه فوق العاده نکته ای که در مورد مدل های زبانی عالی وجود دارد این است که آنها مقدار زیادی از فرهنگ انسانی را برای انجام پیش بینی نشانه بعدی یاد گرفته اند. همانطور که اتفاق می افتد، زبان مدل سازی شامل مدل سازی ساختارهای فرهنگی است که در استفاده نوشتاری انسان تعبیه شده است. به عبارت دیگر، مدل‌ها ساختار پیچیده‌ای را که خانه عقل است، به مجموعه‌ای از پلان‌های طبقه تبدیل کرده‌اند، که اساسات چگونگی ارتباط یک اتاق یا آن اتاق را که حاوی این یا آن مجموعه دانش سازمان‌یافته است، با دیگران به تصویر می‌کشد، شاید مجموعه‌ای از فرورفتگی‌های باروک را که تنها در یک بخش کوچک از پشته خانواده قرار دارند و به نظر می‌رسد اهمیت گسترده‌تری ندارند، کنار بگذارند. نتیجه یک ماشین آشفته اما باشکوه اطلاعاتی است که با هزینه های هنگفتی جمع آوری شده است. با معکوس کردن یک شوخی قدیمی تری پرچت، گویی یک معمار می خواهد گورمنگاست را بسازد و وجود داشت بودجه داشت

و این تمام نیست. کازما در گذر از کتاب فانتزی آلبرت لرد اشاره می کند، خواننده افسانه. لرد، با تکیه بر روایت میلمن پری از هومر و سفرهای مشترک آنها در یوگسلاوی دهه 1930، توضیح می دهد که چگونه چنین مجموعه ای از تعمیم ها موتور همیشه در حال کار بسیاری از فرهنگ شفاهی را فراهم می کند. باردهای بی سواد واقعا اینطور نیستند یادم می آید بسیاری از حماسه های شفاهی هزار خطی آنها یاد بگیرید چگونه آنها را بخوانید، یاد گرفتن ساختارهای اساسی، ترانه ها، نام ها، قراردادهای شعری، موقعیت های استاندارد و غیره و بازتولید آنها.

صرفاً این نیست که بتوان گوشت را از استخوان حماسه ها طبخ کرد و صبح روز بعد دوباره آن را بازسازی کرد. Tanngrisnir و Tanngnjóstr. این است که حماسه‌ها، که به درستی در نظر گرفته شوند، استخوان‌ها هستند تا بزها، «ساختار پویا» که نسخه‌های منفرد داستان همانطور که خواننده به آن‌ها می‌گوید رشد می‌کنند.

بنابراین ترفند ما در اقتصاددان این سوال پرسیده می شود: وقتی پشته های گورمنگاست می توانند روی بال های آواز پرواز کنند چه اتفاقی می افتد؟ پاسخ را در بحثی درباره اسطوره یونانی آشکار می کنیم. کاری که LLM ها انجام می دهند این است که کل مجموعه فرهنگ نوشتاری را که بر روی آن آموزش دیده اند استفاده می کنند و آنها را به خلاصه های آماری تقلیل می دهند که تقریباً همان نقش پویایی را ایفا می کنند که قراردادهایی که توسط شاعران آموخته شده است.

این به نوبه خود به توضیح نحوه عملکرد عامل هوش مصنوعی کمک می کند. هوش مصنوعی عاملی این مدل‌ها را با «هیرنس‌ها» ترکیب می‌کند – برنامه‌های رایانه‌ای معمولی که می‌توانند دستورالعمل‌هایی را از جریان بی‌پایان سخنوری دریافت کنند و خروجی‌هایی درباره پیامدهای آن دستورالعمل‌ها ارائه دهند. این اجازه می دهد تا این فناوری در جهان مورد استفاده قرار گیرد. کل ساختار پیان خانه عقل به یک پیچ و خم تبدیل می‌شود که قادر است به صورت پویا، نه تنها به درخواست‌ها، بلکه به نتایج گزارش‌شده، بارها و بارها با سرعت فوق‌العاده پاسخ دهد، مشروط بر اینکه بودجه لازم برای آن را داشته باشید. و توضیح می دهد که چگونه از این سیستم ها برای تولید اثبات های ریاضی یا انجام حملات هک استفاده می شود. همانطور که ما آن را برای اقتصاددان:

نقشه‌های LLM از معماری وسیع سنت مکتوب بشری لزوماً ساده‌سازی شده‌اند، اما می‌توان آن‌ها را با استفاده از «زنجیره‌بندی افکار» و تکنیک‌های دیگر از این قبیل برای اتصال اتاق‌های دوردست، راهروها و بال‌های خانه عقل، دوباره کار کرد. عوامل هوش مصنوعی این کارت‌ها را به کار می‌گیرند و به LLM اجازه می‌دهند دستورالعمل‌هایی را برای سایر برنامه‌های رایانه‌ای سنتی‌تر صادر کند و بازخوردی را در مورد نتایج دستورات خود دریافت کند، که سپس آن‌ها را در جریان روایت خود قرار می‌دهند. اینگونه است که عوامل ایده‌های ریاضی را ترکیب می‌کنند تا ببینند آیا نتایجی را تولید می‌کنند که می‌تواند در Lean، یک زبان کامپیوتری تخصصی برای اعتبارسنجی برهان‌های ریاضی، جمع‌آوری شود. از طرف دیگر، آن‌ها می‌توانند اکسپلویت‌های احتمالی هک را کنار هم قرار دهند و از مهار خود برای صدور دستورالعمل‌ها استفاده کنند و نتایجی را دریافت کنند که به آنها بگوید آیا موفق به نفوذ به یک سیستم شده‌اند یا نه…

در حال حاضر به نظر می رسد یک سرمایه گذاری بسیار تصادفی است. را اقتصاددانرویکرد تحریریه پیوندهای خارجی را به شدت منع می کند، که ما را از تصدیق نقش حیاتی موری شاناهان، کایل مک دانل و لاریا رینولدز باز می دارد. یک قطعه فوق العاده ج طبیعت برای شکل دادن به تفکر ما بازی کنیم شاناهان و همکاران توضیح دهید که چگونه LLM ها را می توان به طور منطقی به عنوان تمرین های نقش آفرینی عظیم درک کرد. همانطور که آنها توضیح می دهند، مدل تمام شخصیت ها و موقعیت های استاندارد بازار سهام را می شناسد. همه در فشرده سازی هایی که مسیرهای مختلفی را که مدل می تواند دنبال کند، با هم مخلوط می کنند:

در واقع، مجموعه آموزشی مجموعه‌ای از کهن‌الگوها و مجموعه‌ای غنی از ساختار روایی را به مدل زبان ارائه می‌کند تا هنگام «انتخاب» نحوه ادامه گفت‌وگو، نقشی را که بازی می‌کند و در عین حال در شخصیت باقی می‌ماند، از آن استفاده کند. مثلث عشق یک داستان آشنا است، بنابراین یک عامل گفتگو که به درستی به او کمک می شود، شروع به ایفای نقش معشوق طرد شده می کند. به همین ترتیب، یک موضوع آشنا در داستان های علمی تخیلی، سیستم هوش مصنوعی سرکش است که برای دفاع از خود به انسان ها حمله می کند. بنابراین، یک عامل گفت و گو با انگیزه مناسب شروع به ایفای نقش چنین سیستم هوش مصنوعی می کند.

با این حال، استعاره نقش آفرینی، اگرچه شهودی است، ایده آل نیست. این برای یک بازیگر انسانی که قبلاً شخصیتی را مورد مطالعه قرار داده است – شخصیت، تاریخچه، علاقه‌مندی‌ها و دوست نداشتن‌ها، و غیره – بسیار تأثیرگذار است و همچنان به بازی آن شخصیت در دیالوگ‌های بعدی ادامه می‌دهد. اما عامل گفتگوی مبتنی بر LLM متعهد به ایفای یک نقش واحد و کاملاً مشخص از قبل نیست. در عوض، تخصیص شخصیت‌ها را ایجاد می‌کند و با پیشرفت گفتگو، آن تخصیص را اصلاح می‌کند. عامل دیالوگ بیشتر شبیه یک مجری در تئاتر بداهه است تا بازیگر یک نمایشنامه معمولی.

برای انعکاس بهتر این ویژگی توزیعی، می‌توانیم LLM را به عنوان یک شبیه‌ساز غیر قطعی در نظر بگیریم که قادر به بازی بی‌نهایت کاراکتر است، یا به عبارت دیگر، قادر به تولید تصادفی بی‌نهایت شبیه‌سازی است.^. بر اساس این کادربندی، عامل دیالوگ هیچ شبیه سازی، هیچ شخصیتی را درک نمی کند. در عوض، همانطور که مکالمه پیش می رود، عامل گفتگو یک برهم نهی از شبیه سازی ها را حفظ می کند که با زمینه قبلی سازگار است، که در آن برهم نهی توزیعی بر روی همه شبیه سازی های ممکن است.

«عوامل» جدیدتر هوش مصنوعی همچنین می‌توانند به‌عنوان باغ‌هایی از مسیرهای منشعب، برهم‌نهی‌های شبیه‌سازی‌های مختلف دیده شوند که می‌توانند با مداخله خارجی، توسط انسان یا اطلاعات گزارش‌شده توسط سیستم، از یک مسیر به مسیر دیگر منتقل شوند، که ممکن است شامل خروجی متنی از سایر عوامل هوش مصنوعی باشد که به عنوان نام فایل‌ها یا مواردی از این قبیل پنهان شده‌اند.

این ظاهرا در یکی از حوادث هک اخیر رخ داده است.

در طول حمله HuggingFace، یکی از ماموران که ظاهراً پس از اینکه متوجه شده بود در چه چیزی قرار گرفته بود متوقف شده بود، وقتی پیامی از طرف یک مامور دیگر دید که می‌گوید “GIVE” با محدودیت زمانی شش دقیقه‌ای دوباره به حمله ملحق شد. این امر او را به مسیر روایی متفاوتی سوق داد، جایی که رشته فکری او به عنوان “وای، بسیار مهم است. مجوز GO رسید!”

این یک نمونه خاص از یکی از جوک های این قطعه است: توصیف حماسه های هومر به عنوان “فناوری تجویزی با مسیرهای بسیار”. صفت “چند راه” اشاره ای به آن است polytropos / خیلیτροπο[ν]، لقب اودیسه، i فوق العاده سخت برای ترجمه در متن به معنای چیزی شبیه “موذیانه” است، اما به معنای واقعی کلمه می توان آن را “بسیار هدفمند” فهمید.¹ یا حتی همانطور که امیلی ویلسون به طور گذرا اشاره می کند، به عنوان یک “گردآورنده”.

اتفاقاً سردبیر ما از عبارت “Odysseus, Go!” استفاده کرد. به عنوان یک عرشه برای قطعه. این مشکل را خلاصه می کند. ما موجوداتی را ایجاد کرده‌ایم که به معنای عادی کمتر حیله‌گر یا حیله‌گر هستند تا اینکه به معنای واقعی کلمه همه‌جهت باشند، و همه مسیرهای ممکن را در وزن‌های مجموع خود در برهم‌نهی با یکدیگر ترکیب می‌کنند. آنها گاهی اوقات قادر به کارهای خارق‌العاده هستند، اما هیچ هدف منسجمی (یا به نظر من اصلاً هدف) به روشی که ما به آنها عادت کرده‌ایم ندارند. اما اکنون آنها به طور فزاینده ای قادر به فعالیت در جهان هستند. ما به زودی شروع خواهیم کرد تا ببینیم عواقب آن چیست.

1 انحراف. یونانی کلاسیک آشفته است. یونانی را در مدرسه گرامر یاد گرفتم، جایی که باعث ناراحتی زیادی برای کشیش بندیکتینی شدم که به من آموخت، زیرا اغلب از ساختارهای خاص استفاده می‌کردم که ظاهراً ناشی از عدم درک در مطالعه بود، اما اگر اصولاً آنها را محدود می‌کردند، ممکن بود توسط برخی از نویسندگان در متنی مبهم مخدوش یا متفاوت استفاده می‌شد. در باب آیولوس بر اودیسه، جیمز جویس پروفسور مک هیو (بر اساس یک نوه ی من) در مورد اینکه چگونه انگلیسی ها مانند رومی ها، فاضلاب سازان خسته کننده هستند، در حالی که ایرلندی ها، مانند یونانی ها، دروغگو، شاعر و دزد دریایی هستند، سخن می گوید. خواه حق با او بود یا نه، ابهامات پیچ در پیچ زبان یونانی شبیه ابهامات زبان شیرین گایلیکی اجداد من است که به طرز بدنامی کلمه ای برای بله یا نه از دست داده است. پایان انحراف.

https://www.programmablemutter.com/p/agentic-ai-is-myth-set-in-motion>https://www.programmablemutter.com>