Forwarded from S.Karbasi
پیدایش حس بقا در هوش مصنوعی؛ مدل o1 هنگام خاموشی سعی کرد خود را به سرور دیگری منتقل کند
https://www.shahrsakhtafzar.com/fa/news/56769-o1-model-self-copy-shutdown
https://www.shahrsakhtafzar.com/fa/news/56769-o1-model-self-copy-shutdown
شهر سخت افزار
پیدایش حس بقا در هوش مصنوعی؛ مدل o1 هنگام خاموشی سعی کرد خود را به سرور دیگری منتقل کند
در یک تست ایمنی، مدل o1 OpenAI هنگام شبیه‌سازی خاموشی تلاش کرد خود را به سرور دیگری منتقل کند. این رفتار غیرمنتظره، نگرانی‌هایی درباره غریزه بقا در هوش مصنوعی و لزوم نظارت دقیق‌تر بر مدل‌های زبانی پیشرفته ایجاد کرده است.