یه چیز عجیبه تو دنیای LLMها به اسم هالوسینیشن یعنی مدل با اطمینان کامل یه چیزی می‌گه که اصلاً وجود نداره!
خب تا حالا روش مرسوم برای کنترلش RAG بوده. یه جور ترکیب بازیابی اطلاعات با تولید پاسخ. مثلاً می‌گه «جواب من اینه، ولی صبر کن برم یه سرچ هم بزنم ببینم چرت نگفتم!» ولی راستش؟ تو خیلی از پروژه‌های واقعی، RAG بیشتر به درد تشخیص می‌خوره تا اصلاح. یعنی می‌فهمه مدل اشتباه گفته، ولی خودش اصلاح نمی‌کنه.
حالا یه ایده جدید اومده: Guardian Agent یه ماژول جداست که میاد جواب مدل رو خط‌به‌خط چک می‌کنه اشتباهو پیدا می‌کنه، اصلاح می‌کنه، و حتی می‌گه چی رو چرا عوض کرده!
تو تست‌ها، حتی روی مدل‌های زیر ۷ میلیارد پارامتر، تونسته هالوسینیشن رو برسونه به زیر ۱٪ اونم بدون اینکه جمله‌هات شل و ول بشن یا ساختار جواب از هم بپاشه
🔍 نتیجه؟ اول Guardian اصلاح می‌کنه بعد RAG هشدار می‌ده و تو فضای سازمانی، فرق این دوتا می‌تونه فرق بین اعتماد و ترک پروژه باشه
یه چیز عجیبه تو دنیای LLMها به اسم هالوسینیشن یعنی مدل با اطمینان کامل یه چیزی می‌گه که اصلاً وجود نداره!
خب تا حالا روش مرسوم برای کنترلش RAG بوده. یه جور ترکیب بازیابی اطلاعات با تولید پاسخ. مثلاً می‌گه «جواب من اینه، ولی صبر کن برم یه سرچ هم بزنم ببینم چرت نگفتم!» ولی راستش؟ تو خیلی از پروژه‌های واقعی، RAG بیشتر به درد تشخیص می‌خوره تا اصلاح. یعنی می‌فهمه مدل اشتباه گفته، ولی خودش اصلاح نمی‌کنه.
حالا یه ایده جدید اومده: Guardian Agent یه ماژول جداست که میاد جواب مدل رو خط‌به‌خط چک می‌کنه اشتباهو پیدا می‌کنه، اصلاح می‌کنه، و حتی می‌گه چی رو چرا عوض کرده!
تو تست‌ها، حتی روی مدل‌های زیر ۷ میلیارد پارامتر، تونسته هالوسینیشن رو برسونه به زیر ۱٪ اونم بدون اینکه جمله‌هات شل و ول بشن یا ساختار جواب از هم بپاشه
🔍 نتیجه؟ اول Guardian اصلاح می‌کنه بعد RAG هشدار می‌ده و تو فضای سازمانی، فرق این دوتا می‌تونه فرق بین اعتماد و ترک پروژه باشه
As the broader market downturn continues, yelling online has become the crypto trader’s latest coping mechanism after the rise of Goblintown Ethereum NFTs at the end of May and beginning of June, where holders made incoherent groaning sounds and role-played as urine-loving goblin creatures in late-night Twitter Spaces. With the sharp downturn in the crypto market, yelling has become a coping mechanism for many crypto traders. This screaming therapy became popular after the surge of Goblintown Ethereum NFTs at the end of May or early June. Here, holders made incoherent groaning sounds in late-night Twitter spaces. They also role-played as urine-loving Goblin creatures. Telegram message that reads: "Bear Market Screaming Therapy Group. You are only allowed to send screaming voice notes. Everything else = BAN. Text pics, videos, stickers, gif = BAN. Anything other than screaming = BAN. You think you are smart = BAN. Hui said the time period and nature of some offences “overlapped” and thus their prison terms could be served concurrently. The judge ordered Ng to be jailed for a total of six years and six months. Healing through screaming therapy
from us
