Fusions by Saeed Abhari

یه پیچ جالب تو داستان هست که شاید از چشم خیلی‌ها دور مونده باشه!

دوستان، OpenAI تصمیم گرفته "زنجیره فکر" مدل o1 رو مخفی نگه داره. این یعنی چی و چرا مهمه؟ بیاین باهم بررسی کنیم:

1️⃣ کنترل بیشتر: این نشون میده OpenAI داره به سمت کنترل بیشتر روی تکنولوژیش میره. یادتونه زمانی که همه چیزشون open source بود؟ حالا انگار اوضاع فرق کرده!

2️⃣ جلوگیری از سوءاستفاده: از یه طرف، پنهان کردن زنجیره فکر میتونه به OpenAI کمک کنه جلوی سوءاستفاده‌های احتمالی رو بگیره. مثلاً میتونن مطمئن بشن که مدل قصد دستکاری کاربر رو نداره.

3️⃣ کاهش شفافیت: اما این کار شفافیت رو کم می‌کنه. ما به عنوان کاربر نمی‌تونیم دقیقاً بفهمیم AI چطور به جوابش رسیده. این برای محققان و منتقدان نگران‌کننده‌ست.

4️⃣ آزادی فکر AI: جالب‌تر اینکه، OpenAI میگه نمی‌خواد هیچ سیاستی رو روی زنجیره فکر اعمال کنه. یعنی می‌خوان "ذهن خام" AI رو ببینن، حتی اگه با ارزش‌های ما همخونی نداشته باشه!

5️⃣ تعادل بین شفافیت و رقابت: اینکه فقط یه خلاصه از زنجیره فکر رو نشون میدن، نشون میده دارن بین شفافیت و مزیت رقابتی تعادل برقرار می‌کنن.

اما یه نکته مهم‌تر هست که باید بهش توجه کنیم:

6️⃣ مزیت رقابتی، اسم رمز بازی: شاید دلایلی که OpenAI میگه فقط یه پوشش باشه. واقعیت اینه که اگه زنجیره افکار رو نشون ندن، رقبا نمی‌تونن ازش برای جمع‌آوری داده‌های با کیفیت و ساخت مدل‌های مشابه استفاده کنن.

7️⃣ تأثیر بر جامعه open source: این کار می‌تونه جلوی پیشرفت سریع جامعه open source در هوش مصنوعی رو بگیره. یادمون باشه که استفاده از مدل‌های برتر برای تولید داده‌های مصنوعی با کیفیت، یکی از دلایل اصلی پیشرفت سریع این جامعه بوده.

حالا سوال اینجاست: آیا این رویکرد درسته؟ 🤔

از یه طرف، این استراتژی می‌تونه به پیشرفت سریع‌تر OpenAI کمک کنه. اما از طرف دیگه، ممکنه باعث بشه جامعه علمی و عموم مردم کمتر بتونن روی توسعه AI نظارت داشته باشن و شکاف بین شرکت‌های بزرگ و جامعه open source بیشتر بشه.

به نظر من، ما باید مراقب باشیم. درسته که پیشرفت مهمه، اما شفافیت و اخلاق هم همینطور. شاید وقتشه که ما به عنوان جامعه، یه گفتگوی جدی در مورد اینکه چطور می‌خوایم AI توسعه پیدا کنه، داشته باشیم.

نظر شما چیه؟ فکر می‌کنید این رویکرد OpenAI در بلندمدت چه تأثیری روی توسعه AI، جامعه علمی و حتی دموکراتیزه شدن هوش مصنوعی خواهد داشت؟ 🌐🤖

#OpenAI #AI #Ethics #Technology #Future #OpenSource

👍6❤2👎1👏1😱1😢1

www.tgoop.com/fusion_to_future/26

2.9K viewsSep 12, 2024 at 21:34

یه پیچ جالب تو داستان هست که شاید از چشم خیلی‌ها دور مونده باشه!

دوستان، OpenAI تصمیم گرفته "زنجیره فکر" مدل o1 رو مخفی نگه داره. این یعنی چی و چرا مهمه؟ بیاین باهم بررسی کنیم:

1️⃣ کنترل بیشتر: این نشون میده OpenAI داره به سمت کنترل بیشتر روی تکنولوژیش میره. یادتونه زمانی که همه چیزشون open source بود؟ حالا انگار اوضاع فرق کرده!

2️⃣ جلوگیری از سوءاستفاده: از یه طرف، پنهان کردن زنجیره فکر میتونه به OpenAI کمک کنه جلوی سوءاستفاده‌های احتمالی رو بگیره. مثلاً میتونن مطمئن بشن که مدل قصد دستکاری کاربر رو نداره.

3️⃣ کاهش شفافیت: اما این کار شفافیت رو کم می‌کنه. ما به عنوان کاربر نمی‌تونیم دقیقاً بفهمیم AI چطور به جوابش رسیده. این برای محققان و منتقدان نگران‌کننده‌ست.

4️⃣ آزادی فکر AI: جالب‌تر اینکه، OpenAI میگه نمی‌خواد هیچ سیاستی رو روی زنجیره فکر اعمال کنه. یعنی می‌خوان "ذهن خام" AI رو ببینن، حتی اگه با ارزش‌های ما همخونی نداشته باشه!

5️⃣ تعادل بین شفافیت و رقابت: اینکه فقط یه خلاصه از زنجیره فکر رو نشون میدن، نشون میده دارن بین شفافیت و مزیت رقابتی تعادل برقرار می‌کنن.

اما یه نکته مهم‌تر هست که باید بهش توجه کنیم:

6️⃣ مزیت رقابتی، اسم رمز بازی: شاید دلایلی که OpenAI میگه فقط یه پوشش باشه. واقعیت اینه که اگه زنجیره افکار رو نشون ندن، رقبا نمی‌تونن ازش برای جمع‌آوری داده‌های با کیفیت و ساخت مدل‌های مشابه استفاده کنن.

7️⃣ تأثیر بر جامعه open source: این کار می‌تونه جلوی پیشرفت سریع جامعه open source در هوش مصنوعی رو بگیره. یادمون باشه که استفاده از مدل‌های برتر برای تولید داده‌های مصنوعی با کیفیت، یکی از دلایل اصلی پیشرفت سریع این جامعه بوده.

حالا سوال اینجاست: آیا این رویکرد درسته؟ 🤔

از یه طرف، این استراتژی می‌تونه به پیشرفت سریع‌تر OpenAI کمک کنه. اما از طرف دیگه، ممکنه باعث بشه جامعه علمی و عموم مردم کمتر بتونن روی توسعه AI نظارت داشته باشن و شکاف بین شرکت‌های بزرگ و جامعه open source بیشتر بشه.

به نظر من، ما باید مراقب باشیم. درسته که پیشرفت مهمه، اما شفافیت و اخلاق هم همینطور. شاید وقتشه که ما به عنوان جامعه، یه گفتگوی جدی در مورد اینکه چطور می‌خوایم AI توسعه پیدا کنه، داشته باشیم.

نظر شما چیه؟ فکر می‌کنید این رویکرد OpenAI در بلندمدت چه تأثیری روی توسعه AI، جامعه علمی و حتی دموکراتیزه شدن هوش مصنوعی خواهد داشت؟ 🌐🤖

#OpenAI #AI #Ethics #Technology #Future #OpenSource

BY Fusions by Saeed Abhari