Ponchik News | Алексей Иванов

t-AGI: как думать о развитии Artificial General Intelligence

Общий искусственный интеллект (AGI) – уровень развития ИИ, при котором он может выполнить любую задачу, на которую способен человек или животное. Это включает производство, policy, экономику, искусство, мораль и этику.

Усредненный прогноз по наступлению AGI — всего 8-10 лет. Многие задачи упираются скорее в вычислительные мощности, чем в принципиальную возможность/невозможность создания AGI.

В этом свете интересна статья на LessWrong: автор предлагает считать, что AGI - это спектр, а не «бинарный» порог, и сравнивает этот спектр с людьми, которые могут решить те или иные задачи за время t.

t-AGI превосходит большинство экспертов в большинстве задач примерно так:

🔴 1-секундный AGI превосходит в тривиальных задачах/вопросах, распознавании объектов и т.п.

🔴 1-минутный AGI — в ответах на вопросы и простых вычислительных/алгоритмических задачах.

🔴 1-часовой AGI — в прохождении всех основных экзаменов, написании блог-постов, выполнении задач большинства офисных работ и т.п.

🔴 1-дневный AGI — в написании эссе и ведении переговоров, создании софта и игр, научных экспериментах и т.п.

🔴 1-месячный — в выполнении среднесрочных планов, написании больших программ (типа ОС), научных открытиях.

🔴 1-годовой — практически во всем…

Есть проекты с горизонтом >1 года, но они все равно могут быть разделены на подпроекты <1 года.

По моим ощущениям, сейчас мы где-то на третьем шаге (1-часовом AGI).

Как будет выглядеть общество, в котором будут 1-годовые AGI, предсказать сложно, есть техно-пессимисты и техно-оптимисты.

Первые, понятно, говорят, что нам всем хана. А вторые пророчат золотой век: люди перестанут работать на тупых работах, а из-за создания AGI огромной доп. ценности можно будет позволить себе что-то вроде универсального базового дохода (UBI) — сперва в развитых странах, а потом и по всему миру.

Если это кажется утопией, то можно посмотреть как человечество справляется с не менее амбициозной задачей устранения голода на планете (c ~25% в 1990х до ~10% сейчас).

На тему «возможно/невозможно» рекомендую посмотреть «Опенгеймера», чтобы оценить, как к возможности расщепления атома относились в 1930х и как после Тринити-теста в 1945м.

А вы как считаете, на какой части t-AGI спектра мы сейчас находимся?

PS: классный разбор вопросов и возможностей AGI в доке от Димы Ханарина

@ponchiknews

Please open Telegram to view this post

VIEW IN TELEGRAM

www.tgoop.com/ponchiknews/1682

8.1K viewsAlexey Ivanov, edited  Aug 8, 2023 at 11:57

t-AGI: как думать о развитии Artificial General Intelligence

Общий искусственный интеллект (AGI) – уровень развития ИИ, при котором он может выполнить любую задачу, на которую способен человек или животное. Это включает производство, policy, экономику, искусство, мораль и этику.

Усредненный прогноз по наступлению AGI — всего 8-10 лет. Многие задачи упираются скорее в вычислительные мощности, чем в принципиальную возможность/невозможность создания AGI.

В этом свете интересна статья на LessWrong: автор предлагает считать, что AGI - это спектр, а не «бинарный» порог, и сравнивает этот спектр с людьми, которые могут решить те или иные задачи за время t.

t-AGI превосходит большинство экспертов в большинстве задач примерно так:

🔴 1-секундный AGI превосходит в тривиальных задачах/вопросах, распознавании объектов и т.п.

🔴 1-минутный AGI — в ответах на вопросы и простых вычислительных/алгоритмических задачах.

🔴 1-часовой AGI — в прохождении всех основных экзаменов, написании блог-постов, выполнении задач большинства офисных работ и т.п.

🔴 1-дневный AGI — в написании эссе и ведении переговоров, создании софта и игр, научных экспериментах и т.п.

🔴 1-месячный — в выполнении среднесрочных планов, написании больших программ (типа ОС), научных открытиях.

🔴 1-годовой — практически во всем…

Есть проекты с горизонтом >1 года, но они все равно могут быть разделены на подпроекты <1 года.

По моим ощущениям, сейчас мы где-то на третьем шаге (1-часовом AGI).

Как будет выглядеть общество, в котором будут 1-годовые AGI, предсказать сложно, есть техно-пессимисты и техно-оптимисты.

Первые, понятно, говорят, что нам всем хана. А вторые пророчат золотой век: люди перестанут работать на тупых работах, а из-за создания AGI огромной доп. ценности можно будет позволить себе что-то вроде универсального базового дохода (UBI) — сперва в развитых странах, а потом и по всему миру.

Если это кажется утопией, то можно посмотреть как человечество справляется с не менее амбициозной задачей устранения голода на планете (c ~25% в 1990х до ~10% сейчас).

На тему «возможно/невозможно» рекомендую посмотреть «Опенгеймера», чтобы оценить, как к возможности расщепления атома относились в 1930х и как после Тринити-теста в 1945м.

А вы как считаете, на какой части t-AGI спектра мы сейчас находимся?

PS: классный разбор вопросов и возможностей AGI в доке от Димы Ханарина

@ponchiknews