tgoop.com/jdata_blog/379
Last Update:
Привет, Друзья!
Копалась в интернете — нашла золото: библиотека NNsight
Смысл:
За счет некоторых оптимизаций, они позволяют обвешивать Hf модельки так, чтобы извлекать скрытые состояния для дальнейшего анализа.
Преимущества:
Скорость запуска и удобный интерфейс. Плюс понятные туториалы с красивыми картинками.
Практика:
1. Убедиться в скорости запуска моделей не успела, а вот в удобстве интерфейса — да. За счет того, что библиотека обвешана туториалами, удобно как минимум в образовательных целях пробовать их для себя.
На то, чтобы восстановить метод Logit Lens без либы у меня ушло +/- 3 часа (два — просто на визуализацию результата), так что, повторюсь, если хотите просто «потрогать метод» — must have.
2. Не все модели с Hf грузятся.
Примечание:
Как пишут авторы, библиотека находится на стадии становления. Ребятам удачи, действительно классный проект, и я не могла пройти мимо.
А завтра пятница, и я желаю вам провести её так, чтобы вечер был полностью ваш!
Со всем самым добрым,
Ваш Дата-автор!
P.S. Спасибо за поддержку на YouTube! Вы — лучшие ❤️
BY Data Blog
Share with your friend now:
tgoop.com/jdata_blog/379