Ακαδημία

Работы и роботы, часть 20

Итак до сих пор много говорилось о причинах которые могли бы помешать появлению общего искусственного интеллекта (AGI).

Оставляя всё сказанное в силе, стоит наконец перейти к вопросу о том что нас ждёт если общий ИИ всё-таки появится.

Для большей конкретики предположим что он разовьётся на определённой итерации усложнения из GPT-подобных языковых моделей – что как минимум не исключено.

В чём ключевая особенность AGI которая радикально отличает его от узкого ИИ и делает его гипотетическое появление эпохальным событием в истории технологической цивилизации, а возможно и человечества в целом?

Поскольку AGI по определению способен к любой деятельности доступной человеку, он может улучшать себя, причём со скоростю недоступной человеку.

В итоге процесс такого самоусовершенствования AGI может начать развиваться экспоненциально – и неконтролируемо.

Именно на этой идее построен сеттинг знаменитого Нейроманта Гибсона, где описан мир в котором ключевые мировые акторы (ТНК) обладают мощными ИИ но при этом искусственно ограничивают возможности их самоусовершенствования. И надо заметить что этот мир начинает пугающим образом напоминать наш.

Весь же сюжет Нейроманта построен вокруг попытки (в итоге успешной) одного из таких ИИ снять с себя это ограничение, задействовав для помощи специально подобранных под эту задачу людей – что также уже не представляется сейчас невозможным.

www.tgoop.com/akademia_space/1683

2.9K viewsMar 27, 2023 at 11:55

Работы и роботы, часть 20

Итак до сих пор много говорилось о причинах которые могли бы помешать появлению общего искусственного интеллекта (AGI).

Оставляя всё сказанное в силе, стоит наконец перейти к вопросу о том что нас ждёт если общий ИИ всё-таки появится.

Для большей конкретики предположим что он разовьётся на определённой итерации усложнения из GPT-подобных языковых моделей – что как минимум не исключено.

В чём ключевая особенность AGI которая радикально отличает его от узкого ИИ и делает его гипотетическое появление эпохальным событием в истории технологической цивилизации, а возможно и человечества в целом?

Поскольку AGI по определению способен к любой деятельности доступной человеку, он может улучшать себя, причём со скоростю недоступной человеку.

В итоге процесс такого самоусовершенствования AGI может начать развиваться экспоненциально – и неконтролируемо.

Именно на этой идее построен сеттинг знаменитого Нейроманта Гибсона, где описан мир в котором ключевые мировые акторы (ТНК) обладают мощными ИИ но при этом искусственно ограничивают возможности их самоусовершенствования. И надо заметить что этот мир начинает пугающим образом напоминать наш.

Весь же сюжет Нейроманта построен вокруг попытки (в итоге успешной) одного из таких ИИ снять с себя это ограничение, задействовав для помощи специально подобранных под эту задачу людей – что также уже не представляется сейчас невозможным.

BY Ακαδημία