Библиотека собеса по Data Science | вопросы с собеседований

🆕 Зачем анализировать не только финальные предсказания модели, но и её промежуточные представления (features, embeddings)

Промежуточные представления дают понимание того, как именно модель «видит» данные.

Иногда модель может давать правильные предсказания, но по неправильным причинам — например, полагаясь на артефакты или коррелирующие, но не причинно значимые признаки. Анализ внутренних слоёв, embeddings и attention-механизмов позволяет выявить такие ложные зависимости до того, как они станут проблемой в продакшене. Кроме того, визуализация или кластеризация представлений может подсказать новые инсайты о данных: скрытые сегменты, шум, смещения.

Это особенно ценно при работе с «чёрными ящиками» вроде глубоких нейросетей — заглянуть внутрь, чтобы понять, что модель действительно «учится», а не просто запоминает.

Библиотека собеса по Data Science

Please open Telegram to view this post

VIEW IN TELEGRAM

❤4👍3

www.tgoop.com/ds_interview_lib/1106

673 viewsAug 6 at 18:20

🆕 Зачем анализировать не только финальные предсказания модели, но и её промежуточные представления (features, embeddings)

Промежуточные представления дают понимание того, как именно модель «видит» данные.

Иногда модель может давать правильные предсказания, но по неправильным причинам — например, полагаясь на артефакты или коррелирующие, но не причинно значимые признаки. Анализ внутренних слоёв, embeddings и attention-механизмов позволяет выявить такие ложные зависимости до того, как они станут проблемой в продакшене. Кроме того, визуализация или кластеризация представлений может подсказать новые инсайты о данных: скрытые сегменты, шум, смещения.

Это особенно ценно при работе с «чёрными ящиками» вроде глубоких нейросетей — заглянуть внутрь, чтобы понять, что модель действительно «учится», а не просто запоминает.

Библиотека собеса по Data Science