taghi molavi تقی مولوی (@taqimolavi)

این مقاله واقعاً دیوانه‌کننده‌ست! پژوهشگرهای چینی مقاله‌ای منتشر کردن با عنوانی که باید تمام سازندگان ایجنت‌های هوش مصنوعی رو به فکر فرو ببره: «پایان Harness Engineering» حرف اصلی مقاله در یک جمله‌ست: شاید دوران طراحی و کدنویسی دستی تمام اجزای اطراف مدل‌های هوش مصنوعی داره به پایان می‌رسه. بذار ساده‌تر بگم: تا امروز ما برای ساخت هر ایجنت، ابزارها، دستورالعمل‌ها، گردش کار و منطق اجرایی رو طراحی می‌کردیم؛ بعد هم همون ساختار رو ماه‌ها استفاده می‌کردیم. اما این مقاله یه ایده متفاوت داره: چرا اجازه ندیم خود سیستم، زیرساختش رو بهتر کنه؟ روش کارش جالبه: ۱. یک مدل کوچیک ۴ میلیارد پارامتری، شکست‌ها و خطاهای سیستم رو بررسی می‌کنه. ۲. برای بهتر شدن عملکرد، ۸ تغییر مختلف پیشنهاد می‌ده. ۳. هر تغییر با مجموعه‌ای از سؤالات و تست‌ها ارزیابی می‌شه. ۴. فقط تغییری باقی می‌مونه که واقعاً نتیجه بهتری گرفته باشه. نکته مهم اینه که مدل اصلی ثابت می‌مونه؛ چیزی که مدام تغییر می‌کنه، هارنس و ساختار اجرایی ایجنته. این ایده به یک مدل یا فریم‌ورک خاص محدود نیست و می‌تونه نگاه ما به ساخت ایجنت‌ها رو تغییر بده. اما بخش مهم‌تر ماجرا: نقش انسان از کدنویسی و دستکاری مداوم سیستم، به طراحی آزمون‌ها و معیارهای موفقیت منتقل می‌شه. یعنی باید دقیق بدونیم از ایجنت چی می‌خوایم و چطور بفهمیم واقعاً بهتر شده یا نه. شاید در آینده مزیت رقابتی ما این نباشه که چقدر خوب برای ایجنت‌ها کد می‌نویسیم؛ بلکه این باشه که چقدر خوب می‌تونیم عملکردشون رو بسنجیم و بهبود بدیم. خلاصه ایده مقاله در یک جمله: قبل از اینکه کد رو بنویسی، امتحانش رو طراحی کن!

🚀 گوگل یک PDF نه‌صفحه‌ای درباره Harness Engineering منتشر کرده؛ مفهومی که به نظرم باید هر کسی که با AI Agent کار می‌کند، جدی بگیرد. فرمول اصلی ساده است: Agent = Model + Harness یعنی مدل هوش مصنوعی به‌تنهایی ایجنت نیست. چیزی که آن را به یک نیروی اجرایی قابل‌اعتماد تبدیل می‌کند، زیرساختی است که دور آن می‌سازیم. اما این زیرساخت از چه چیزهایی تشکیل می‌شود؟ ۱. Guides: قوانین و دستورالعمل‌هایی که تجربه شکست‌های قبلی را به دانش دائمی تبدیل می‌کنند. ۲. Sensors: تست‌ها، Linterها و ابزارهای اعتبارسنجی که اجازه نمی‌دهند هر خروجی اشتباهی به مرحله بعد برود. ۳. Agentic Loop: چرخه برنامه‌ریزی، اجرا، بررسی و اصلاح؛ با محدودیت بودجه و امکان ارجاع به انسان. ۴. External Memory: حافظه‌ای خارج از مدل برای حفظ تصمیم‌ها، وضعیت پروژه و دستاوردهای جلسات قبلی. ۵. Permissions: کنترل دسترسی ایجنت به ابزارها و تعیین مرز استقلال آن. ۶. Observability: ثبت و پایش تمام فعالیت‌ها، هزینه‌ها، خطاها و تلاش‌های مجدد. اما داستان اینجا تمام نمی‌شود! چند پروژه متن‌باز برای ورود عملی به این حوزه: 🔹 Google Harness² 🔹 Learn Harness Engineering 🔹 Awesome Agent Harness 🔹 Harness Engineering و حالا یک مفهوم جذاب‌تر: Graph Engineering تصور کن چند ایجنت مستقل داشته باشی که هرکدام Harness مخصوص خودشان را دارند. یکی تحقیق می‌کند، دیگری تحلیل می‌کند، سومی کدنویسی می‌کند و چهارمی خروجی را اعتبارسنجی می‌کند. حالا اگر یکی شکست بخورد، شکستش می‌تواند به سیگنالی برای اصلاح عملکرد بقیه تبدیل شود. اینجا دیگر با یک چت‌بات یا ایجنت ساده طرف نیستیم؛ با یک سیستم اجرایی چندایجنتی روبه‌رو هستیم. یک نکته که نباید فراموش کنیم: Hermes را می‌توان به‌عنوان محیط اجرای ایجنت در نظر گرفت؛ جایی که ابزارها، مهارت‌ها، حافظه و گردش‌کارها کنار هم قرار می‌گیرند. Harness Engineering کمک می‌کند این محیط را قابل‌کنترل، قابل‌اندازه‌گیری و قابل‌اعتماد کنیم. به نظرم آینده متعلق به کسانی نیست که صرفاً مدل قوی‌تری انتخاب می‌کنند؛ بلکه متعلق به کسانی است که سیستم بهتری دور مدل می‌سازند. مدل، مغز است؛ Harness، سیستم اجرایی؛ و Graph، شبکه همکاری مغزهاست.

آندری کارپاتی، یکی از هم‌بنیان‌گذاران OpenAI، تقریباً تمام چیزهایی رو که درباره ساخت هوش مصنوعی می‌دونه، رایگان روی GitHub منتشر کرده! از ساخت GPT از صفر تا هوش مصنوعی‌ای که خودش آزمایش می‌کنه، تحقیق می‌کنه و از نتایجش یاد می‌گیره. ۶ پروژه با مجموع بیش از ۳۰۰ هزار ستاره ⭐ ۱. Autoresearch | 92.7K ⭐ هوش مصنوعی‌ای که شب تا صبح خودش آزمایش انجام می‌ده، نتایج رو بررسی می‌کنه و فقط راهکارهایی رو نگه می‌داره که واقعاً جواب داده‌اند. ۲. nanoGPT | 64.4K ⭐ یاد بگیر چطور یک مدل GPT رو از صفر آموزش بدی؛ پروژه‌ای که برای خیلی‌ها نقطه ورود به دنیای LLM بود. ۳. nanochat | 60.2K ⭐ با حدود ۱۰۰ دلار، نسخه شخصی خودت از ChatGPT رو بساز. ۴. LLM Wiki | 50K ⭐ ایده‌ای ساده اما قدرتمند برای ساخت یک دانشنامه شخصی و قابل توسعه برای هوش مصنوعی؛ چیزی شبیه مغز دوم. ۵. llm.c | 31.4K ⭐ آموزش یک مدل زبانی با زبان C؛ بدون پنهان کردن پیچیدگی‌های فنی پشت فریم‌ورک‌های آماده. ۶. micrograd | 18.7K ⭐ در چند صد خط کد بفهم شبکه‌های عصبی چطور یاد می‌گیرن و گرادیان‌ها چطور کار می‌کنن. پیشنهاد من: از micrograd شروع کن. بعد برو سراغ nanoGPT و nanochat. این مسیر کمک می‌کنه به‌جای اینکه فقط با ابزارهای AI کار کنی، بفهمی پشت پرده واقعاً چه اتفاقی می‌افته. تفاوت استفاده‌کننده از هوش مصنوعی با کسی که می‌تونه سیستم‌های هوشمند بسازه، دقیقاً از همین‌جا شروع می‌شه. این ۶ ریپازیتوری رو ذخیره کن؛ گنجینه‌ای از دانش رایگان‌اند.

۵ منبع کاربردی برای الهام گرفتن از طراحی سایت که بهتره بوکمارک‌شون کنید: ۱. بیش از ۶۰۰ پرامپت طراحی و ۲۰۰ کامپوننت با کد کامل برای ساخت سایت‌های سه‌بعدی و اسکرول‌محور. ۲. مجموعه‌ای از ۱۱۷ افکت شیدر متحرک در ۱۱ سبک مختلف. ۳. برای وقتی که می‌خواید فوتر سایت‌تون از حالت تکراری و خسته‌کننده خارج بشه. ۴. گالری ایده و نمونه برای طراحی CTAهایی که کاربر رو به اقدام ترغیب می‌کنن. ۵. نمونه‌های واقعی از استایل بصری محصولات دیجیتال برای الهام گرفتن در طراحی رابط کاربری. طراحی خوب فقط انتخاب رنگ و فونت نیست؛ گاهی یک کامپوننت درست می‌تونه تجربه کاربری یک محصول رو متحول کنه. شما چه منبعی رو به این لیست اضافه می‌کنید؟