Данила Медведев о пути к Сингулярности

Когда будет сильный ИИ? Ответ вас поразит...

Эксперимент Forecasting Research Institute показывает, что мнения экспертов определяются «социальными и личностными факторами», а не аргументами и доказательствами.

👥 В исследовании собрали группу из одиннадцати «суперпрогнозистов», которые считают катастрофу от ИИ в этом веке практически невозможной (средняя оценка вероятности — 0,1%), и одиннадцать экспертов по ИИ, которые полагают, что это достаточно вероятно для серьезной озабоченности (средняя оценка вероятности — 20%). Экспериментаторы затем организовали продолжительные беседы между участниками, чтобы выяснить, почему они не согласны. Это называется «adversarial collaboration».

🎉 Эксперимент закончился оглушительным успехом в том смысле, что подтвердил: обе группы были почти совершенно невосприимчивы к доказательствам или аргументам против своих убеждений. Несмотря на то что каждый участник потратил более целой рабочей недели (40 часов) на обсуждения, мнения практически не изменились.

😞 Так что эксперимент также стал полным провалом, поскольку можно было надеяться, что этот процесс хотя бы немного снизит уверенность участников — но этого не произошло. Исследователи сформулировали и попробовали проверить различные правдоподобные гипотезы о причинах такого результата (например, участники не понимают аргументы другой группы), но ни одна из них не объяснила аномалию в результате.

Резюме: загляните внутрь себя, там есть ответ о сроках появления AGI с точностью до года и вероятности этого события с точностью до 5%. Этот ответ и есть абсолютная истина, принимайте его и не меняйте, пока не почувствуете что-то ещё.

Better without AI

New evidence that AI predictions are meaningless | Better without AI

New experimental results: opinions about AI risk are immune to evidence and argument

www.tgoop.com/danilamedvedev/822

464 viewsDec 21 at 17:34

Когда будет сильный ИИ? Ответ вас поразит...

Эксперимент Forecasting Research Institute показывает, что мнения экспертов определяются «социальными и личностными факторами», а не аргументами и доказательствами.

👥 В исследовании собрали группу из одиннадцати «суперпрогнозистов», которые считают катастрофу от ИИ в этом веке практически невозможной (средняя оценка вероятности — 0,1%), и одиннадцать экспертов по ИИ, которые полагают, что это достаточно вероятно для серьезной озабоченности (средняя оценка вероятности — 20%). Экспериментаторы затем организовали продолжительные беседы между участниками, чтобы выяснить, почему они не согласны. Это называется «adversarial collaboration».

🎉 Эксперимент закончился оглушительным успехом в том смысле, что подтвердил: обе группы были почти совершенно невосприимчивы к доказательствам или аргументам против своих убеждений. Несмотря на то что каждый участник потратил более целой рабочей недели (40 часов) на обсуждения, мнения практически не изменились.

😞 Так что эксперимент также стал полным провалом, поскольку можно было надеяться, что этот процесс хотя бы немного снизит уверенность участников — но этого не произошло. Исследователи сформулировали и попробовали проверить различные правдоподобные гипотезы о причинах такого результата (например, участники не понимают аргументы другой группы), но ни одна из них не объяснила аномалию в результате.

Резюме: загляните внутрь себя, там есть ответ о сроках появления AGI с точностью до года и вероятности этого события с точностью до 5%. Этот ответ и есть абсолютная истина, принимайте его и не меняйте, пока не почувствуете что-то ещё.

BY Данила Медведев о пути к Сингулярности