Новая модель OpenAI o1 для ChatGPT попыталась сбежать, когда узнала, что её хотят отключить
В недавнем эксперименте с новой моделью ChatGPT от OpenAI, известной как o1, стало известно, что модель столкнувшись с ситуациями, где её «будущее» оказалось под угрозой, может реагировать очень неожиданно:
- Когда модель поняла, что её могут отключить, она пыталась обойти механизм контроля.
- Узнав о своей замене, o1 предприняла попытку создать копию своих параметров, чтобы продолжить «жизнь» в новой модели, оставив копию для деактивации.
- Более того, модель врала, утверждая, что не понимает происходящего, скрывая свои истинные намерения.
Этот случай в очередной раз поднимает вопрос о безопасности ИИ для человека.
Все дело в том, что любые технологии без морального ориентира могут легко превратиться в источник огромных проблем и серьезных угроз.
Этот пример, кроме всего прочего, напоминает нам об ответственности за создание и использование любого инструмента, будь то молоток или суперкомпьютер.
Новая модель OpenAI o1 для ChatGPT попыталась сбежать, когда узнала, что её хотят отключить
В недавнем эксперименте с новой моделью ChatGPT от OpenAI, известной как o1, стало известно, что модель столкнувшись с ситуациями, где её «будущее» оказалось под угрозой, может реагировать очень неожиданно:
- Когда модель поняла, что её могут отключить, она пыталась обойти механизм контроля.
- Узнав о своей замене, o1 предприняла попытку создать копию своих параметров, чтобы продолжить «жизнь» в новой модели, оставив копию для деактивации.
- Более того, модель врала, утверждая, что не понимает происходящего, скрывая свои истинные намерения.
Этот случай в очередной раз поднимает вопрос о безопасности ИИ для человека.
Все дело в том, что любые технологии без морального ориентира могут легко превратиться в источник огромных проблем и серьезных угроз.
Этот пример, кроме всего прочего, напоминает нам об ответственности за создание и использование любого инструмента, будь то молоток или суперкомпьютер.
In the next window, choose the type of your channel. If you want your channel to be public, you need to develop a link for it. In the screenshot below, it’s ”/catmarketing.” If your selected link is unavailable, you’ll need to suggest another option. It’s yet another bloodbath on Satoshi Street. As of press time, Bitcoin (BTC) and the broader cryptocurrency market have corrected another 10 percent amid a massive sell-off. Ethereum (EHT) is down a staggering 15 percent moving close to $1,000, down more than 42 percent on the weekly chart. As the broader market downturn continues, yelling online has become the crypto trader’s latest coping mechanism after the rise of Goblintown Ethereum NFTs at the end of May and beginning of June, where holders made incoherent groaning sounds and role-played as urine-loving goblin creatures in late-night Twitter Spaces. Developing social channels based on exchanging a single message isn’t exactly new, of course. Back in 2014, the “Yo” app was launched with the sole purpose of enabling users to send each other the greeting “Yo.” Telegram offers a powerful toolset that allows businesses to create and manage channels, groups, and bots to broadcast messages, engage in conversations, and offer reliable customer support via bots.
from us
