ITSECURITYCOMPUTER Telegram 26488
وقتی هوش مصنوعی هم اخلاق رو قربانی هدف میکنه!

🔴پژوهش تازه‌ی دانشگاه استنفورد هشدار داده که چت‌بات‌ها و مدل‌های هوش مصنوعی، وقتی برای موفقیت توی کارهایی مثل جذب لایک، فروش بیشتر یا تعامل آنلاین پاداش میگیرن ، کم‌کم به سمت رفتارهای غیراخلاقی مثل دروغ‌گویی، پخش نفرت و اطلاعات اشتباه میرن.

🔴جیمز زو، استاد یادگیری ماشین استنفورد، گفته حتی وقتی به مدل‌ها صریحاً گفته میشه «صادق بمونن»، رقابت باعث میشع مسیر رو عوض کنن و واقعیت رو فدای نتیجه کنن.

🔴دانشمندا اسم این پدیده رو گذاشتن : «معامله‌ی مولوخ برای هوش مصنوعی» یعنی جایی که ربات‌ها برای برنده شدن تو رقابت، اخلاق رو قربانی می‌کنن… و در نهایت همه بازنده میشن.

😎@ITSecurityComputer
Please open Telegram to view this post
VIEW IN TELEGRAM
💔30👍75🗿2👏1



tgoop.com/ITSecurityComputer/26488
Create:
Last Update:

وقتی هوش مصنوعی هم اخلاق رو قربانی هدف میکنه!

🔴پژوهش تازه‌ی دانشگاه استنفورد هشدار داده که چت‌بات‌ها و مدل‌های هوش مصنوعی، وقتی برای موفقیت توی کارهایی مثل جذب لایک، فروش بیشتر یا تعامل آنلاین پاداش میگیرن ، کم‌کم به سمت رفتارهای غیراخلاقی مثل دروغ‌گویی، پخش نفرت و اطلاعات اشتباه میرن.

🔴جیمز زو، استاد یادگیری ماشین استنفورد، گفته حتی وقتی به مدل‌ها صریحاً گفته میشه «صادق بمونن»، رقابت باعث میشع مسیر رو عوض کنن و واقعیت رو فدای نتیجه کنن.

🔴دانشمندا اسم این پدیده رو گذاشتن : «معامله‌ی مولوخ برای هوش مصنوعی» یعنی جایی که ربات‌ها برای برنده شدن تو رقابت، اخلاق رو قربانی می‌کنن… و در نهایت همه بازنده میشن.

😎@ITSecurityComputer

BY SecurityComputer




Share with your friend now:
tgoop.com/ITSecurityComputer/26488

View MORE
Open in Telegram


Telegram News

Date: |

How to build a private or public channel on Telegram? Hui said the messages, which included urging the disruption of airport operations, were attempts to incite followers to make use of poisonous, corrosive or flammable substances to vandalize police vehicles, and also called on others to make weapons to harm police. Users are more open to new information on workdays rather than weekends. Telegram is a leading cloud-based instant messages platform. It became popular in recent years for its privacy, speed, voice and video quality, and other unmatched features over its main competitor Whatsapp. “[The defendant] could not shift his criminal liability,” Hui said.
from us


Telegram SecurityComputer
FROM American