🖥 ИИ может перейти на «темную сторону» — Дарио Амодей
В недавнем интервью
Лексу Фридману сооснователь и CEO
Anthropic Дарио Амодей рассказал, когда искусственный интеллект станет
умнее человека и возглавит научные лаборатории.
Хайлайты
➡️ В математике, физике и биологии ИИ уже обладает знаниями доктора наук и скоро превзойдет самые высокие профессиональные стандарты.
➡️ Реально ли для ИИ стать умнее человека? Зависит от сферы. В биологии потенциал ИИ почти безграничен, а в разрешении конфликтов между людьми его предел гораздо ниже.
➡️ Сильный ИИ (AGI) может появиться уже к
2026 или 2027 году. Хотя
многое рискует этому помешать. Например, закончатся данные, мы не сможем масштабировать вычислительные мощности, или модели перестанут совершенствоваться, и придется изобретать новую архитектуру.
➡️ На ранних этапах AGI будет похож на аспиранта. Вы поручите ему проект, а он прочитает всю литературу, напишет код, закажет оборудование, проведет эксперимент. В конечном итоге ИИ окажется умнее профессоров-руководителей и сам начнет управлять исследованиями.
➡️ Я не исключаю, что высокоразвитый ИИ может выйти из-под контроля или перейти «на темную сторону». Будут ли развитые ИИ-системы действительно нам подчиняться? Это особенно критично в сферах кибербезопасности, биоинженерии и ядерной энергетики. Поэтому при разработке новой ИИ-модели мы проверяем, как она способна работать автономно.
➡️ Барьеры на пути прогресса были всегда. Но в конце концов перемены происходят, и обычно благодаря нескольким людям. Я думаю, так будет и с развитием ИИ. Барьеры начнут рушиться постепенно, а затем — рухнут все разом.
❕ Anthropic — разработчик чат-бота Claude, один из главных конкурентов OpenAI. Среди инвесторов — Amazon и Google.
📱 Полностью посмотреть интервью можно здесь.Еще по теме:
💩 Биография Дарио Амодея
💩 Дарио Амодей: как AI изменит мир к лучшему#interview #Claude
@hiaimedia 
