Data Blog

🍀 Привет, друзья!

В последнее время активно изучаю информацию о механистической интерпретируемости. Одна из моих центральных задач — обобщить, что происходит, и связать это с общими событиями и методами в области explainable AI.

🦜Механистическая интерпретируемость (MI) — частный случай просто интерпретируемости, но прикрученный к пониманию глубоких моделей. И хотя о ней в сообществе говорят относительно недавно, само понятие не ново — оно приходит из нейробиологии и когнитивных наук.

MI относится к классу внутренних методов интерпретации, и ключевая особенность, отделяющая MI от всего XAI — сосредоточена на задаче детального восстановления поведения моделей. 

Наиболее активно сейчас исследуются 4 направления, выраженные в гипотезах.

В каких, и причем тут попугаи, коты и машины — смотрите в статье!
Там много картинок и ссылок. Конечно, красивых!

Telegraph

Гипотезы механистической интерпретируемости (MI): как работают нейронные сети внутри?

Исследования в области механистической интерпретируемости (Mechanistic Interpretability, MI) стремятся понять внутренние механизмы работы нейронных сетей. Ниже я привожу четыре ключевые гипотезы, выдвигаемые исследователями, чтобы объяснить, как модели представляют…

🔥5❤‍🔥3

www.tgoop.com/jdata_blog/344

1.35K viewsedited  Jan 18 at 13:07

🍀 Привет, друзья!

В последнее время активно изучаю информацию о механистической интерпретируемости. Одна из моих центральных задач — обобщить, что происходит, и связать это с общими событиями и методами в области explainable AI.

🦜Механистическая интерпретируемость (MI) — частный случай просто интерпретируемости, но прикрученный к пониманию глубоких моделей. И хотя о ней в сообществе говорят относительно недавно, само понятие не ново — оно приходит из нейробиологии и когнитивных наук.

MI относится к классу внутренних методов интерпретации, и ключевая особенность, отделяющая MI от всего XAI — сосредоточена на задаче детального восстановления поведения моделей. 

Наиболее активно сейчас исследуются 4 направления, выраженные в гипотезах.

В каких, и причем тут попугаи, коты и машины — смотрите в статье!
Там много картинок и ссылок. Конечно, красивых!

BY Data Blog