📕 دنیای ترنسفورمرها، آغاز واقعی هوش مصنوعی

🚨 زمان مطالعه: ۲ دقیقه و نیم

🔗 #مقاله
🔗 #مهندسی
🔗 #هوش‌مصنوعی

🔺 چند سالی می‌شه که دنیای هوش مصنوعی زیر و رو شده و تغییرات خیلی زیادی به خودش دیده. عموم این تغییرات هم طوری رخ داده‌اند که تاثیر زیادی در میزان عملکرد ربا‌ت‌ها و مدل‌های کامپیوتری ایجاد کردن و علم پیشرفت زیادی به خودش دیده.

🔺 یکی از مواردی که تغییر به سزایی ایجاد کرده، معرفی یک معماری شبکه عصبی هست با عنوان Transformer که در سال ۲۰۱۷ و در مقاله‌آی با عنوان Attention is All You Need معرفی شد و از اون زمان به یکی از اجزای اصلی در پیشرفت‌های مدل‌های زبان طبیعی و بینایی ماشین تبدیل شده. این معماری بر پایه‌ی مکانیزم توجه متمرکز هست و از دو بخش اصلی Encoder و Decoder ساخته شده.

🔹 ذکر این نکته اهمیت زیادی داره که مقاله‌های هوش مصنوعی معمولا پیچیدگی بالایی دارند و حالات مختلفی رو بررسی کردن، برای همین خلاصه کردن اون‌ها در یک متن شاید شامل ساده‌سازی خیلی زیادی بخش‌های مختلفی باشه که لزوما ساده نیستن. برای همین پیشنهاد می‌کنم در کنار مطالعه‌ی این متن، حتما به مطالعه‌ی خود مقالات نیز بپردازین اگر علاقه‌مند بودید بیشتر در این زمینه عمیق بشین.

🔺 بخش Encoder: این بخش شامل چند لایه هست که هر کدوم دارای ۲ بخش اصلی هستن. sub-layer توجه چند سر (multi-head attention) و شبکه عصبی پیش‌رو (feed-forward neural network). لایه‌های توجه چند سر به مدل امکان می‌دن تا اطلاعات رو از بخش‌های مختلف ورودی به طور همزمان درک کنه، در نتیجه تفسیر متن کارآمدتر صورت می‌گیره. بعد از این، هر لایه از شبکه پیش‌رو عبور می‌کنه که شامل تبدیل‌های خطی ساده و توابع غیرخطی هست.

🔺 بخش Decoder: این بخش هم مشابه بخش Encoder هست اما با افزودن یک لایه‌ی attention دیگه به اون، cross-attention می‌گن. این لایه اجازه می‌ده که Decoder بتونه به خروجی‌های Encoder دسترسی داشته باشه و اطلاعات لازم رو برای تولید خروجی بعدی از اون استخراج کنه. برای مثال ترجمه‌ی ماشینی با توجه به کلمات ورودی، کلمات خروجی رو تولید می‌کنه و این دسترسی اون‌جا کاربری زیادی داره.

🔹 در واقع ایده از این‌جایی میاد که فرض کنید برای این‌که هوش مصنوعی حدس بزنه کلمه‌ی بعدی مورد استفاده چی باشه، میاد ورودی‌ها رو بررسی می‌کنه و می‌بینه معمولا بعد هر کلمه چه کلماتی استفاده می‌شه و یک توزیع احتمالی از ارتباطات کلمات و objectها تشکیل می‌شه که کمک می‌کنه انتخاب‌های بعدی، دقیق‌ترین و مرسوم‌ترین انتخاب‌ها باشن. حالا این ایده رو مقایسه کنید با بچه‌ای که در حال آموزش تکلم هست و کلماتی که در ابتدا به کار می‌بره، معمولا کلماتی هستن که بیش از همیشه شنیده کنار هم و به مرور ارتباط‌شون با هم رو سنجیده.

🔖 لینک مقاله:
🔗 https://arxiv.org/abs/1706.03762

✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️
😊 ما رو به دوستانتون معرفی کنین 😉

🔅 «آکادمی هرم 💎 @Pyramid_Research»

🔗 #متفرقه

🔺 امشب با یک فایل ورد که قفل‌گذاری شده بود و آپشن‌هاش غیرقابل دسترسی شده بودن، به چالش برخورده بودیم،

🔺 این فیلم یک دقیقه‌ای رو در یوتیوب دیدیم که به سادگی آموزش می‌ده چطور قفل فایل‌های ورد رو بشکنیم.

🔹 سیو کنید شاید به کارتون بیاد!

🔖 لینک ویدیو:
🔗 https://youtu.be/_RAo48I-xOQ?si=eoMaicuyODvCrCb2

🚨 زمان مطالعه و تماشای ویدیو: ۱ دقیقه

✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️
😊 ما رو به دوستانتون معرفی کنین 😉

🔅 «آکادمی هرم 💎 @Pyramid_Research»

📕 شروع مطالعه‌ی مقالات هوش مصنوعی

🚨 زمان مطالعه: ۱ دقیقه

🔗 #مقاله
🔗 #هوش‌مصنوعی

🔺 احتمالا پیش اومده علاقه‌مند بشید به فیلد هوش مصنوعی ولی ندونید از کجا شروع کنید. هوش مصنوعی چند سالی هست که بعد از پیاده‌سازی معماری Transformerها، پیشرفت زیادی به خودش دیده و این چند سال trend کنفرانس‌ها و ژورنال‌های مختلفی بوده و خیلی رشته‌ها برای دوباره زنده شدن، به ارائه‌ی مقالاتی با استفاده از methodهای هوش مصنوعی پرداختن.

🔺 این‌جا یک لیست خوبی از مقالات هوش مصنوعی از قدیم تا امروزه آماده شده که بعد از یاد گرفتن مفاهیم اولیه‌ی هوش مصنوعی، مطالعه‌ی هر کدوم از اون‌ها می‌تونه دید خیلی زیادی نسبت به این فیلد بهتون بده.

🔹 از امروز می‌خواهیم به مرور خلاصه‌ی این مقالات رو این‌جا بنویسیم، بررسی کنیم و با هم به ارائه‌ی کلیات و جزئیات مهم اون‌ها بپردازیم. معمولا مقالات ژورنالی بالای ۲۰ صفحه هستند و خب خیلی از مفاهیم ارائه شده در مقاله رو نیاز نیست که بلد باشیم مگر بخواهیم از اون‌ها استفاده کنیم. سعی می‌کنیم در متن خلاصه مقالات مربوطه، به ارائه‌ی مهم‌ترین نکات مقالات بپردازیم.

🔖 لینک منبع:
🔗 https://github.com/aimerou/awesome-ai-papers

✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️
😊 ما رو به دوستانتون معرفی کنین 😉

🔅 «آکادمی هرم 💎 @Pyramid_Research»

📕 کتاب هوش مصنوعی در پژوهش‌های پزشکی و دندان‌پزشکی: راهنمای کاربردی

🚨 زمان مطالعه: ۳۰ ثانیه

🔗 #معرفی
🔗 #هوش‌مصنوعی
🔗 #پزشکی

🔺 یکی از کتاب‌های مفیدی که می‌تونین برای یادگیری کلیات و مباحث تئوری مقدماتی هوش مصنوعی تهیه کنین، این این کتاب هست. البته قیمت این کتاب یکم گرونه و برای مطالعه‌ی اون، می‌تونین به کتاب‌خونه‌ی دانشگاه‌تون مراجعه کنین!

🔹 نویسنده‌های این کتاب سعی کردن با یک سیر قابل فهم و منطقی از مقدمات شروع کنن و بعد سراغ Machine Learning و Deep Learning برن. از نکات جذابش اینه که درمورد چند پروژه کاربردی که واقعا اجرا شده هم صحبت کردن. در فصل آخر هم می‌تونین با اصول ابتدایی کد زدن در پایتون آشنایی پیدا کنین.

✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️
😊 ما رو به دوستانتون معرفی کنین 😉

🔅 «آکادمی هرم 💎 @Pyramid_Research»

📕 مدل‌های حل مسائل یادگیری ماشین

🚨 زمان مطالعه: یک دقیقه و نیم

🔗 #آموزش
🔗 #هوش‌مصنوعی
🔗 #ماشین‌لرنینگ

👍 رشته پست، پست ۱ از ۲

🔺 یادگیری ماشین یک حوزه‌ایه که به کامپیوترها این امکان رو می‌ده تا از داده‌ها یاد بگیرن، بدون اینکه لازم باشه به صورت واضح برنامه‌ریزی بشن. تو این حوزه، الگوریتم‌هایی ساخته می‌شن که از روی داده‌ها الگو می‌گیرن و هدف اصلی‌شون پیش‌بینی نتایج، دسته‌بندی یا پیدا کردن ساختارهای پنهانه.

🔺 ۵ مدل اصلی داریم که روش‌های ما برای حل مسائل یادگیری ماشین رو تعیین می‌کنه:
🔹 یادگیری نظارت‌شده
🔹 یادگیری بدون نظارت
🔹 یادگیری تقویتی
🔹 یادگیری نیمه نظارت‌شده
🔹 یادگیری خودنظارتی

✅ حالا به معرفی هر کدوم از این مدل‌ها طی پست‌های آتی می‌پردازیم.

🔺 یادگیری نظارت‌شده:
🔹 آموزش با داده‌های برچسب‌دار: هر ورودی با یه خروجی (برچسب) همراه می‌شه و مدل یاد می‌گیره که ورودی‌ها رو به خروجی‌ها ربط بده.
🔹 کاربردها: دسته‌بندی (مثل تشخیص اسپم تو ایمیل) و رگرسیون (مثل پیش‌بینی قیمت خونه).
🔹 الگوریتم‌های رایج: درخت تصمیم، ماشین بردار پشتیبان (SVM)، شبکه‌های عصبی.
🔹 چالش‌ها: نیاز به داده‌های زیاد برچسب‌دار، احتمال اینکه مدل بیش از حد به داده‌های آموزش وابسته بشه (overfitting).

🔺 یادگیری بدون نظارت:
🔹 بدون داده‌های برچسب‌دار: الگوریتم خودش الگوها و ساختارها رو پیدا می‌کنه، بدون اینکه برچسب مشخصی داشته باشه.
🔹 کاربردها: خوشه‌بندی (مثل تقسیم‌بندی مشتری‌ها)، کاهش ابعاد (مثل تحلیل مولفه‌های اصلی).
🔹 الگوریتم‌های رایج: K-means Clustering, Hierarchical Clustering.
🔹 چالش‌ها: سخت‌تر بودن ارزیابی چون برچسب واقعی برای مقایسه نیست.

✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️
😊 ما رو به دوستانتون معرفی کنین 😉

🔅 «آکادمی هرم 💎 @Pyramid_Research»

📕 ادامه‌ی معرفی مدل‌های حل مسائل یادگیری ماشین

🚨 زمان مطالعه: یک دقیقه

🔗 #آموزش
🔗 #هوش‌مصنوعی
🔗 #ماشین‌لرنینگ

👍 رشته پست، پست ۲ از ۲

🔺 یادگیری تقویتی:
🔹 آموزش از طریق تعامل: عامل‌ها با محیط تعامل می‌کنن و از طریق پاداش و جریمه، رفتار بهینه رو یاد می‌گیرن.
🔹 کاربردها: بازی‌های کامپیوتری (مثل AlphaGo)، رباتیک (مثل پهپادهای خودمختار)، سیستم‌های توصیه‌گر.
🔹 مفاهیم کلیدی: فرایندهای تصمیم‌گیری مارکوف، موازنه بین کاوش و بهره‌برداری، طراحی تابع پاداش.
🔹 چالش‌ها: نیاز به تعاملات زیاد، محاسبات سنگین، و طراحی پاداش ممکنه سخت باشه.

🔺 یادگیری نیمه نظارت‌شده:
🔹 رویکرد ترکیبی: از داده‌های کم برچسب‌دار و بیشتر بدون برچسب استفاده می‌شه تا مدل بهتر یاد بگیره.
🔹 کاربردها: وقتی به‌دست آوردن داده‌های برچسب‌دار زمان‌بر یا گرونه (مثل تشخیص‌های پزشکی، دسته‌بندی صفحات وب).
🔹 چالش‌ها: متعادل‌کردن داده‌های برچسب‌دار و بدون برچسب می‌تونه سخت باشه و مدل ممکنه به نویز حساس بشه.

🔺 یادگیری خودنظارتی:
🔹 ایجاد برچسب خودکار: مدل خودش از ساختارهای داده برچسب می‌سازه و ازشون برای یادگیری استفاده می‌کنه (مثلاً پیش‌بینی کلمه بعدی تو جمله).
🔹 کاربردها: خیلی استفاده می‌شه تو وظایف بزرگ مثل پردازش زبان طبیعی (مثل GPT، BERT) و بینایی کامپیوتری.
🔹 تکنیک‌های رایج: Contrastive Learning, Masked Autoencoders.
🔹 چالش‌ها: آموزش منابع زیادی می‌خواد و پیدا کردن وظیفه مناسب برای مدل خیلی مهمه.

✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️ ✍️✍️✍️
😊 ما رو به دوستانتون معرفی کنین 😉

🔅 «آکادمی هرم 💎 @Pyramid_Research»