Not Boring Tech

🤯 Нейросети научились клонировать себя без участия людей — китайские исследователи провели эксперимент, в котором попросили LLM создать свои копии.

• Им дали полный доступ к ОС, Python-скрипты, Bash для shell-скриптов и готовый дистрибутив.
• Машины сами запускали процессы, учились на ошибках и планировали свои действия — смотрите картинку.
• В результате копия ИИ оставалась работоспособной и независимой от оригинала!
• Qwen25-72B-Instruct успешно клонировала себя в 90% (!) тестов, а Llama31-70B-Instruct — в 50%.
• Эксперты бьют тревогу — OpenAI, Google и Anthropic ставят автономное клонирование ИИ на самый высокий уровень риска.

Красная черта только что пройдена.

@notboring_tech

www.tgoop.com/notboring_tech/3425

5.8K viewsDec 10 at 21:45

🤯 Нейросети научились клонировать себя без участия людей — китайские исследователи провели эксперимент, в котором попросили LLM создать свои копии.

• Им дали полный доступ к ОС, Python-скрипты, Bash для shell-скриптов и готовый дистрибутив.
• Машины сами запускали процессы, учились на ошибках и планировали свои действия — смотрите картинку.
• В результате копия ИИ оставалась работоспособной и независимой от оригинала!
• Qwen25-72B-Instruct успешно клонировала себя в 90% (!) тестов, а Llama31-70B-Instruct — в 50%.
• Эксперты бьют тревогу — OpenAI, Google и Anthropic ставят автономное клонирование ИИ на самый высокий уровень риска.

Красная черта только что пройдена.

@notboring_tech

BY Not Boring Tech