Город полностью засыпало снегом, и погода способствует к тому, чтобы немного остановиться, отстраниться от предновогодней суетной гонки срочных дел и отрефлекировать текущую ситуацию с глобальной эволюцией (Большой Историей, по Акопу Погосовичу Назаретяну) в проекции искусственного интеллекта, нейронаук, психологии и когнитивистики.
Все последние инциденты с появлением у фронтирных больших языковых моделей тревожных интенций к самосознанию и макиавеллистическому поведению резко актуализировали научные дискуссии о том, что же мы все-таки создаем в виде ИИ и куда это все нас приведет. Лично я вижу драматически нарастающее расхождение между возможностью создавать сложные системы и понимать их (а значит, и управлять ими). Если мы создаем такие сверхсложные системы, как, например, орбитальная станция, АЭС или операционная система Windows, то управление ими строго алгоритмизировано и мы полностью понимаем, что там происходит. Если мы обучаем большую языковую модель на огромном массиве данных, то в итоге мы получаем матрицу обученных весов, невероятно сложно взаимодействующих между собой при ответе модели на промт, и полностью понять эту матрицу (и, соответственно, контролировать ее поведение на основе этого понимания), фактически, невозможно.
Можно провести очень четкую, как мне кажется, аналогию. Дарвиновская эволюция за сотни миллионов лет непрерывных творческих инженерных экспериментов создала мозг человека и психику как функцию этого мозга, и возникшая в итоге система «мозг-психика» чрезвычайно сложна, и несмотря на все колоссальные усилия нейронаук и психологии, мы все еще очень мало понимаем, как работает эта система (текущий тяжелейший кризис воспроизводимости в нейронауках, психологии и когнитивных науках прямое тому доказательство). И теперь люди, взяв на себя функцию архитекторов искусственной эволюции, создают с помощью обучения большие языковые модели, в существенной степени похожие на мозг и психику, причем создают их не алгоритмическим (и, значит, контролируемым) путем, как орбитальную станцию или АЭС, а, фактически, эволюционно-подобным путем. Если эволюция, создавая и развивая мозг, занималась генетической калибровкой множества синаптических весов таким образом, чтобы получившаяся система вела себе адаптивно и репродуктивно эффективно, то и инженеры больших языковых моделей обучают десятки и скоро сотни миллиардов синаптических весов так, чтобы система эффективно решала определенные когнитивные задачи. Получаемая в итоге матрица обученных весов представляет собой такую же непонимаемую систему, как и биологический мозг человека. Да, есть направление «объяснимый ИИ» (Explainable AI, XAI), но, похоже, это направление может понять «цифровой мозг» большой языковой модели не больше, чем нейроученые, психологи и когнитивисты могут понять биологический мозг человека. Да, и там, и там что-то понять можно, но очень ограниченно, наши объяснительные научные возможности просто не справляются с пониманием систем такого уровня сложности.
Город полностью засыпало снегом, и погода способствует к тому, чтобы немного остановиться, отстраниться от предновогодней суетной гонки срочных дел и отрефлекировать текущую ситуацию с глобальной эволюцией (Большой Историей, по Акопу Погосовичу Назаретяну) в проекции искусственного интеллекта, нейронаук, психологии и когнитивистики.
Все последние инциденты с появлением у фронтирных больших языковых моделей тревожных интенций к самосознанию и макиавеллистическому поведению резко актуализировали научные дискуссии о том, что же мы все-таки создаем в виде ИИ и куда это все нас приведет. Лично я вижу драматически нарастающее расхождение между возможностью создавать сложные системы и понимать их (а значит, и управлять ими). Если мы создаем такие сверхсложные системы, как, например, орбитальная станция, АЭС или операционная система Windows, то управление ими строго алгоритмизировано и мы полностью понимаем, что там происходит. Если мы обучаем большую языковую модель на огромном массиве данных, то в итоге мы получаем матрицу обученных весов, невероятно сложно взаимодействующих между собой при ответе модели на промт, и полностью понять эту матрицу (и, соответственно, контролировать ее поведение на основе этого понимания), фактически, невозможно.
Можно провести очень четкую, как мне кажется, аналогию. Дарвиновская эволюция за сотни миллионов лет непрерывных творческих инженерных экспериментов создала мозг человека и психику как функцию этого мозга, и возникшая в итоге система «мозг-психика» чрезвычайно сложна, и несмотря на все колоссальные усилия нейронаук и психологии, мы все еще очень мало понимаем, как работает эта система (текущий тяжелейший кризис воспроизводимости в нейронауках, психологии и когнитивных науках прямое тому доказательство). И теперь люди, взяв на себя функцию архитекторов искусственной эволюции, создают с помощью обучения большие языковые модели, в существенной степени похожие на мозг и психику, причем создают их не алгоритмическим (и, значит, контролируемым) путем, как орбитальную станцию или АЭС, а, фактически, эволюционно-подобным путем. Если эволюция, создавая и развивая мозг, занималась генетической калибровкой множества синаптических весов таким образом, чтобы получившаяся система вела себе адаптивно и репродуктивно эффективно, то и инженеры больших языковых моделей обучают десятки и скоро сотни миллиардов синаптических весов так, чтобы система эффективно решала определенные когнитивные задачи. Получаемая в итоге матрица обученных весов представляет собой такую же непонимаемую систему, как и биологический мозг человека. Да, есть направление «объяснимый ИИ» (Explainable AI, XAI), но, похоже, это направление может понять «цифровой мозг» большой языковой модели не больше, чем нейроученые, психологи и когнитивисты могут понять биологический мозг человека. Да, и там, и там что-то понять можно, но очень ограниченно, наши объяснительные научные возможности просто не справляются с пониманием систем такого уровня сложности.
The optimal dimension of the avatar on Telegram is 512px by 512px, and it’s recommended to use PNG format to deliver an unpixelated avatar. Users are more open to new information on workdays rather than weekends. During the meeting with TSE Minister Edson Fachin, Perekopsky also mentioned the TSE channel on the platform as one of the firm's key success stories. Launched as part of the company's commitments to tackle the spread of fake news in Brazil, the verified channel has attracted more than 184,000 members in less than a month. You can invite up to 200 people from your contacts to join your channel as the next step. Select the users you want to add and click “Invite.” You can skip this step altogether. Hui said the time period and nature of some offences “overlapped” and thus their prison terms could be served concurrently. The judge ordered Ng to be jailed for a total of six years and six months.
from us
