✍️ توهم یا Hallucinations هوش مصنوعی

جفری هینتون، برنده جایزه نوبل، در مورد "توهمات" در مدل های هوش مصنوعی صحبت می کند.

در حالی که برخی استدلال می کنند که توهم به این معنی است که مدل های هوش مصنوعی فاقد درک هستند، هینتون این را رد می کند.
📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp

پیش‌بینی صد سال پیش آرتور سی کلارک

اونایی که تو این زمینه‌ها فعالیت دارن دچار بایاس ذهنی پیشرفت هستن. خیلی وقت‌ها متوجه نیستیم که این پیشرفت های ریز مداوم مارو تو مهم ترین عصر انتقال هوشمندی قرار داده و ما همه وظیفه این انتقالو داریم.
📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp

داشتم یه مقاله خیلی باحال می‌خوندم درباره اینکه چطور میشه هوش مصنوعی (همین مدل‌های زبانی بزرگ یا همون LLMها، مثل ChatGPT) رو باهوش‌تر کرد که دیگه جواب پرت و پلا ندن یا اگه سوال پیچیده شد قاطی نکنن.

چیزی که ازش یاد گرفتم و دوست داشتم با تو هم به اشتراک بذارم، اینا بود:

این مقاله یه سیستم جدید به اسم AGENT-G رو معرفی کرده که مثل یه دستیار هوشمند برای هوش مصنوعیه. این دستیار می‌تونه:

جواب همه جور سوالی رو بده (چه سوالی که فقط از متن جوابش میاد، چه از روابط و نمودارها، و چه از ترکیب هر دو!).
از اشتباهاتش یاد بگیره و هر دفعه بهتر بشه، یعنی اگه دفعه اول یه جا رو اشتباه گشت، دفعه بعد می‌فهمه و راهشو اصلاح می‌کنه.
بهترین عملکرد رو بین سیستم‌های مشابه داره و جوابای درست‌تر و قابل‌فهم‌تری میده (یعنی کمتر "توهم‌زایی" می‌کنه!).
هدفش اینه که LLMها دیگه الکی حرف نزنن و بتونن سوالات پیچیده رو هم درست و با دقت جواب بدن.

https://openreview.net/pdf?id=g2C947jjjQ

📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp

🚀 تابع SoftPick: جایگزینی هوشمند برای Softmax در ترنسفورمرها

🔸تابع SoftPick یک تابع جدید برای مکانیزم توجه در ترنسفورمرهاست که برخلاف softmax، خروجی‌اش الزامی برای جمع برابر با ۱ ندارد.
🔸 این روش به‌طور کامل مشکل attention sink را حذف کرده و نقشه‌های توجهی پراکنده‌تر (sparse) ایجاد می‌کند.
🔸 مدل‌هایی که از SoftPick استفاده می‌کنند، با وجود پارامترهای بالا (تا 1.8B)، فعال‌سازی‌های متعادل‌تر و بردارهای پنهان با کشیدگی کمتر تولید می‌کنند.
🔸 در مدل‌های کوانتیزه‌شده (Quantized)، SoftPick حتی در دقت‌های پایین‌تر عملکرد بهتری نسبت به softmax نشان داده است.

🎯 مناسب برای: آموزش با دقت پایین، کوانتیزاسیون، بهینه‌سازی پراکندگی، هرس و تفسیرپذیری بهتر مدل‌ها.

https://arxiv.org/abs/2504.20966

📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp

یه کشف مهم در دنیای هوش مصنوعی

تحقیقات جدید تو مقاله‌ای به اسم «Harnessing the Universal Geometry of Embeddings» نشون می‌ده که مدل‌های مختلف هوش مصنوعی، یه زبان جهانی مشترک دارن!

با روش جدیدی به نام vec2vec می‌شه کدهای متنی (embedding) تولید شده توسط هر مدل رو، حتی بدون داشتن داده‌های آماده، به کدهای مدل دیگه ترجمه کرد!

یعنی می‌تونیم بفهمیم اون مدل چی گفته، حتی اگه مدل رو نشناسیم!

این یعنی یه دنیای جدید از ارتباط بین مدل‌ها باز شده، اما در کنارش هشدار امنیتی هم هست؛ چون ممکنه کسی با این روش به اطلاعات محرمانه دسترسی پیدا کنه!

https://arxiv.org/abs/2505.12540

📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp

🧠 یکی از بهترین پست‌هایی که اخیراً درباره مهندسی عملی هوش مصنوعی دیدم، روی Hacker News منتشر شده و کلی سر و صدا کرده.

نویسنده بعد از صحبت با تعداد زیادی فاندر و تیم‌هایی که واقعاً دارن AI Agentها رو توی پروداکشن استفاده می‌کنن، به یه نتیجه جالب رسیده:

⚠️ بیشتر Agentهایی که واقعاً کار می‌کنن، اون‌قدرها هم «ایجنت‌وار» نیستن!

نه خبری از فریم‌ورک‌های معروفه، نه الگوهای پیچیده‌ی پرامپت‌محور.
بیشترشون در واقع فقط نرم‌افزارهایی خوب مهندسی‌شده هستن، که LLM دقیقاً در نقاط کلیدی و مشخص بهشون کمک می‌کنه—نه اینکه همه کار رو بسپری به یه مدل که قراره خودش همه چیز رو بفهمه و حل کنه.

👨‍💻 اون الگوی معروف «اینم پرامپت، اینم یه‌سری ابزار، حالا هی لوپ بزن تا به هدف برسی» توی پروژه‌های موفق خیلی دیده نمیشه. چون اغلب قابل اعتماد، مقیاس‌پذیر یا نگه‌داشتنی نیست.


Github: https://github.com/humanlayer/12-factor-agents
Hacker News: https://news.ycombinator.com/item?id=436992

📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp

در دل صحرا شهیدان بى کفن افتاده ‏اند
عاشقان در کربلا خونین بدن افتاده ‏اند
لاله ‏هاى فاطمه پرپر میان خاک وخون
در گلستان بلا چون یاسمن افتاده ‏اند
سر جدا قربانیان نهضت سرخ حسین
روى خاک نینوا دور از وطن افتاده ‏اند
تشنگان وادى آزادگى در بحر عشق
در کنار علقمه صد پاره تن افتاده‏ اند
کربلا بستان عشاق است و هفتاد و دو گل
سوى دیگر یادگاران حسن افتاده ‏اند
بر لب ماتم سراى یاسر این غم نقش بست
اشک ‏ها خون گشته واز چشم من افتاده‏ اند
شب شام غریبان حسینی بر شما تسلیت و تعزیت باد🖤

📌 انجمن علمے هوش‌مصنوعی و رباتیکز
🆔 @robotics_iauh
🆔 @robotics_gp