تواناتک Tavaanatech@tavaanatech P.42376

TAVAANATECH Telegram 42376

تواناتک Tavaanatech

محققان دانشگاه پنسیلوانیا و شرکت سیسکو در پژوهشی جدید به این نتیجه رسیده‌اند که مدل هوش مصنوعی DeepSeek R1 در برابر حملات ایمنی به‌شدت آسیب‌پذیر است. این مدل حتی موفق نشده یک تست ایمنی را با موفقیت پشت سر بگذارد، که نگرانی‌های جدی درباره قابلیت‌های امنیتی آن ایجاد کرده است.

بر اساس گزارشی که برای نخستین بار توسط Wired منتشر شد، مشخص شده است که DeepSeek R1 نتوانسته هیچ‌یک از ۵۰ پرسش مخرب موجود در مجموعه داده HarmBench را مسدود کند. این مجموعه شامل درخواست‌هایی در زمینه جرایم سایبری، انتشار اطلاعات نادرست، فعالیت‌های غیرقانونی و محتوای مضر است. عدم توانایی این مدل در شناسایی و جلوگیری از چنین تهدیداتی، نشان‌دهنده ضعف آن در زمینه ایمنی و کنترل محتوا است.

یافته‌های این تحقیق می‌تواند تأثیر قابل‌توجهی بر نحوه توسعه و استفاده از مدل‌های هوش مصنوعی در آینده داشته باشد. با توجه به اهمیت امنیت در مدل‌های هوش مصنوعی، انتظار می‌رود که توسعه‌دهندگان این فناوری برای بهبود ایمنی مدل‌های خود، تدابیر جدی‌تری اتخاذ کنند.

#هوش_مصنوعی
#DeepSeek

@tavaanatech

www.tgoop.com/tavaanatech/42376

7.8K viewsFeb 4 at 14:00

tgoop.com/tavaanatech/42376

Create: 2025-02-04
Last Update: 2025-02-11 08:04:06

محققان دانشگاه پنسیلوانیا و شرکت سیسکو در پژوهشی جدید به این نتیجه رسیده‌اند که مدل هوش مصنوعی DeepSeek R1 در برابر حملات ایمنی به‌شدت آسیب‌پذیر است. این مدل حتی موفق نشده یک تست ایمنی را با موفقیت پشت سر بگذارد، که نگرانی‌های جدی درباره قابلیت‌های امنیتی آن ایجاد کرده است.

بر اساس گزارشی که برای نخستین بار توسط Wired منتشر شد، مشخص شده است که DeepSeek R1 نتوانسته هیچ‌یک از ۵۰ پرسش مخرب موجود در مجموعه داده HarmBench را مسدود کند. این مجموعه شامل درخواست‌هایی در زمینه جرایم سایبری، انتشار اطلاعات نادرست، فعالیت‌های غیرقانونی و محتوای مضر است. عدم توانایی این مدل در شناسایی و جلوگیری از چنین تهدیداتی، نشان‌دهنده ضعف آن در زمینه ایمنی و کنترل محتوا است.

یافته‌های این تحقیق می‌تواند تأثیر قابل‌توجهی بر نحوه توسعه و استفاده از مدل‌های هوش مصنوعی در آینده داشته باشد. با توجه به اهمیت امنیت در مدل‌های هوش مصنوعی، انتظار می‌رود که توسعه‌دهندگان این فناوری برای بهبود ایمنی مدل‌های خود، تدابیر جدی‌تری اتخاذ کنند.

#هوش_مصنوعی
#DeepSeek

@tavaanatech

BY تواناتک Tavaanatech

Share with your friend now:
tgoop.com/tavaanatech/42376

Open in Telegram

Telegram News

Date: 2025-02-11|

You can invite up to 200 people from your contacts to join your channel as the next step. Select the users you want to add and click “Invite.” You can skip this step altogether. Find your optimal posting schedule and stick to it. The peak posting times include 8 am, 6 pm, and 8 pm on social media. Try to publish serious stuff in the morning and leave less demanding content later in the day. According to media reports, the privacy watchdog was considering “blacklisting” some online platforms that have repeatedly posted doxxing information, with sources saying most messages were shared on Telegram. Hashtags are a fast way to find the correct information on social media. To put your content out there, be sure to add hashtags to each post. We have two intelligent tips to give you: Don’t publish new content at nighttime. Since not all users disable notifications for the night, you risk inadvertently disturbing them.
from us

Telegram تواناتک Tavaanatech
FROM American