МакКлелланд
На выходных в Брюссель приезжал Джеймс МакКлелланд - когнитивист, один из крёстных отцов современных искусственных нейросетей. Автор знаменитой книги 1987 г. Parallel Distributed Processing, в которой с Девидом Руммельхартом (и, кстати, Джофри Хинтоном) они показали, как можно описывать познавательные процессы с помощью нейросетевого подхода.
Заведующий лабораторией, в которой я сейчас работаю, был его аспирантом, и с тех пор они общаются. Так как МакКлелланд проездом был в Брюсселе, его затащили на встречу бельгийского AI-сообщества, куда попал и я.
Встреча была неформальная, послушали про ИИ в Бельгии и позадавали вопросы МакКлелланду про прошлое и будущее нейросетей, про ИИ и мозг.
Он подчёркивает, что нейросетевому ИИ не хватает системы 2 – избиральной, быстрой, ограниченной системы обучения (сравните с Бенджио, ЛеКуном и одним местным экспертом). При этом он верит, что она может родиться из дальнейшего развития нейросетей – не нужно стремиться к специальным гибридным архитектурам. Подчёркивает, что в последние 10 лет прорывы в перформансе нейросетей происходили именно за счёт инженерных/технических новшеств (например, использование трансформеров), а не концептуальных/теоретических. Поэтому от современных архитектур всё ещё можно ожидать мощных скачков (во что лично я не верю – но никогда не поздно корректировать свои убеждения).
Также он высказал скепсис по поводу обучения с подкреплением (в которое я как раз верю, лол).
Ещё был интересный вопрос, не противоречит ли сложность нейросетевого подхода принципу простоты в науке. На это МакКлелланд ответил, что хотя современные глубокие нейросети и очень сложны, их можно описать небольшим набором основных принципов – в этом смысле мы их хорошо понимаем.
На первом фото МакКлелланд с Акселем Клирмансом (с которым я сейчас работаю). На втором можно увидеть меня, слушающего, как Джей рассуждает о каузальности.
На выходных в Брюссель приезжал Джеймс МакКлелланд - когнитивист, один из крёстных отцов современных искусственных нейросетей. Автор знаменитой книги 1987 г. Parallel Distributed Processing, в которой с Девидом Руммельхартом (и, кстати, Джофри Хинтоном) они показали, как можно описывать познавательные процессы с помощью нейросетевого подхода.
Заведующий лабораторией, в которой я сейчас работаю, был его аспирантом, и с тех пор они общаются. Так как МакКлелланд проездом был в Брюсселе, его затащили на встречу бельгийского AI-сообщества, куда попал и я.
Встреча была неформальная, послушали про ИИ в Бельгии и позадавали вопросы МакКлелланду про прошлое и будущее нейросетей, про ИИ и мозг.
Он подчёркивает, что нейросетевому ИИ не хватает системы 2 – избиральной, быстрой, ограниченной системы обучения (сравните с Бенджио, ЛеКуном и одним местным экспертом). При этом он верит, что она может родиться из дальнейшего развития нейросетей – не нужно стремиться к специальным гибридным архитектурам. Подчёркивает, что в последние 10 лет прорывы в перформансе нейросетей происходили именно за счёт инженерных/технических новшеств (например, использование трансформеров), а не концептуальных/теоретических. Поэтому от современных архитектур всё ещё можно ожидать мощных скачков (во что лично я не верю – но никогда не поздно корректировать свои убеждения).
Также он высказал скепсис по поводу обучения с подкреплением (в которое я как раз верю, лол).
Ещё был интересный вопрос, не противоречит ли сложность нейросетевого подхода принципу простоты в науке. На это МакКлелланд ответил, что хотя современные глубокие нейросети и очень сложны, их можно описать небольшим набором основных принципов – в этом смысле мы их хорошо понимаем.
На первом фото МакКлелланд с Акселем Клирмансом (с которым я сейчас работаю). На втором можно увидеть меня, слушающего, как Джей рассуждает о каузальности.
tgoop.com/chernopsy/983
Create:
Last Update:
Last Update:
МакКлелланд
На выходных в Брюссель приезжал Джеймс МакКлелланд - когнитивист, один из крёстных отцов современных искусственных нейросетей. Автор знаменитой книги 1987 г. Parallel Distributed Processing, в которой с Девидом Руммельхартом (и, кстати, Джофри Хинтоном) они показали, как можно описывать познавательные процессы с помощью нейросетевого подхода.
Заведующий лабораторией, в которой я сейчас работаю, был его аспирантом, и с тех пор они общаются. Так как МакКлелланд проездом был в Брюсселе, его затащили на встречу бельгийского AI-сообщества, куда попал и я.
Встреча была неформальная, послушали про ИИ в Бельгии и позадавали вопросы МакКлелланду про прошлое и будущее нейросетей, про ИИ и мозг.
Он подчёркивает, что нейросетевому ИИ не хватает системы 2 – избиральной, быстрой, ограниченной системы обучения (сравните с Бенджио, ЛеКуном и одним местным экспертом). При этом он верит, что она может родиться из дальнейшего развития нейросетей – не нужно стремиться к специальным гибридным архитектурам. Подчёркивает, что в последние 10 лет прорывы в перформансе нейросетей происходили именно за счёт инженерных/технических новшеств (например, использование трансформеров), а не концептуальных/теоретических. Поэтому от современных архитектур всё ещё можно ожидать мощных скачков (во что лично я не верю – но никогда не поздно корректировать свои убеждения).
Также он высказал скепсис по поводу обучения с подкреплением (в которое я как раз верю, лол).
Ещё был интересный вопрос, не противоречит ли сложность нейросетевого подхода принципу простоты в науке. На это МакКлелланд ответил, что хотя современные глубокие нейросети и очень сложны, их можно описать небольшим набором основных принципов – в этом смысле мы их хорошо понимаем.
На первом фото МакКлелланд с Акселем Клирмансом (с которым я сейчас работаю). На втором можно увидеть меня, слушающего, как Джей рассуждает о каузальности.
На выходных в Брюссель приезжал Джеймс МакКлелланд - когнитивист, один из крёстных отцов современных искусственных нейросетей. Автор знаменитой книги 1987 г. Parallel Distributed Processing, в которой с Девидом Руммельхартом (и, кстати, Джофри Хинтоном) они показали, как можно описывать познавательные процессы с помощью нейросетевого подхода.
Заведующий лабораторией, в которой я сейчас работаю, был его аспирантом, и с тех пор они общаются. Так как МакКлелланд проездом был в Брюсселе, его затащили на встречу бельгийского AI-сообщества, куда попал и я.
Встреча была неформальная, послушали про ИИ в Бельгии и позадавали вопросы МакКлелланду про прошлое и будущее нейросетей, про ИИ и мозг.
Он подчёркивает, что нейросетевому ИИ не хватает системы 2 – избиральной, быстрой, ограниченной системы обучения (сравните с Бенджио, ЛеКуном и одним местным экспертом). При этом он верит, что она может родиться из дальнейшего развития нейросетей – не нужно стремиться к специальным гибридным архитектурам. Подчёркивает, что в последние 10 лет прорывы в перформансе нейросетей происходили именно за счёт инженерных/технических новшеств (например, использование трансформеров), а не концептуальных/теоретических. Поэтому от современных архитектур всё ещё можно ожидать мощных скачков (во что лично я не верю – но никогда не поздно корректировать свои убеждения).
Также он высказал скепсис по поводу обучения с подкреплением (в которое я как раз верю, лол).
Ещё был интересный вопрос, не противоречит ли сложность нейросетевого подхода принципу простоты в науке. На это МакКлелланд ответил, что хотя современные глубокие нейросети и очень сложны, их можно описать небольшим набором основных принципов – в этом смысле мы их хорошо понимаем.
На первом фото МакКлелланд с Акселем Клирмансом (с которым я сейчас работаю). На втором можно увидеть меня, слушающего, как Джей рассуждает о каузальности.
BY Черномырдин нашей психологии
Share with your friend now:
tgoop.com/chernopsy/983