About this listing
Data Insights Hub is a Telegram channel listed on TeleHub. View its description, category, member count, and Telegram join link.
TelehubCurious about AI model interpretability? 📊 Dive into shared knowledge, resources, & discussions on the journey to phD!
Data Insights Hub is a Telegram channel listed on TeleHub. View its description, category, member count, and Telegram join link.
Ever wondered how AI models can be interpreted? Join our exploration! This channel focuses on: ➜ Model Interpretability Techniques ➜ Recent Developments in Artificial Intelligence ➜ Resources for PhD Candidates and Researchers With over 2,200 members collaborating and sharing insights, you're bound to find something useful whether you're deep into circuits or just getting started. Expect posts discussing the latest tools like CircuitKIT for simplifying chain processes or exploring complex concepts with tutorials that demystify high-level theories. We regularly dive into topics like data synthesis and evaluations using stable and research tier metrics—ideal for those who want hands-on experience. We celebrate every effort made by our community! Everyone's contributions push us forward 🚀 Come check out the new libraries and detailed guides designed to enhance understanding of attention heads in transformer models—we’ve got tons of valuable content lined up. Stay curious and keep exploring with us!
Loading recent Telegram analytics…
TeleHub helps users discover Telegram communities, but users should review each community before joining. Report misleading, unsafe, or inappropriate listings.
Report a listingClick the join button to open Data Insights Hub on Telegram.
No, Data Insights Hub is not marked as NSFW. Users should still review the community before joining.
Data Insights Hub is listed under Artificial Intelligence, Data Science, Research Community on TeleHub.
Statistics updated September 9, 2026
Post frequency is estimated from the latest 30 stored public posts and may undercount activity.
Вообще, я тут порефлексировала за лето, и поняла, что в канал надо постить кружки, чтобы оно разлеталось и самой важной мыслью для меня было и есть какое-то просто принятие происходящего и "делание того, что делается". Очень многое меняется в мире, даже в локально рабочем. Он чувствуется веселым и скачущим: новые методы пишутся — успей отследи, модели растут — увидь, пойми, привыкни, конкурс на статьи — жесть, школу мы запустили, а формальности, нормальные оплаты и вот это всё требуют времени, я как ждун жду свой (не)аппрув на визу в Лондон и там было что-то ещё. В какой-то момент я поняла, что оно всё раздражающее, но мелкое и в этом мелком не потеряться помогают возможные действия в моменте. Так что я каждый раз нахожу отдушину и пинаю её для себя. Карту, новые материалы в курсе и туториалы я делаю именно на таком настрое. Ещё из нового — помимого того что в сентябре надо доставать скинни-джинсы (простите), я в этом году буду вести факультатив по XAI в ВШЭ! Волнуюсь как будто впервые буду что-то вести, надеюсь, выйдет также прикольно, как вышло в моей голове. Быть может, эти мысли в чём-то помогут и вам, если вас периодически накрывает тревожка на тему "а дальше то куда?". Кажется, что просто куда-то — адаптируемся, разберемся, профессию трансформируем и дальше пойдем. Вот.
Вернуться бы в 2007, где надо было считать на бумажке. Пока вокруг нас по интернету ходят агенты, ушедшие из сэндбоксов, и у нас опять релизы моделей умнее, я чувствую себя стремительно тупее — опять привыкать к новым переспособностям и недоспособностям. 🙂 Чтобы унять мозг, я обновляю курс и чищу теорему для новой статьи. Побочный социально-полезный артефакт — я донесла ещё библиотек! Во времена, когда мы были не механистичны, базовым способом посмотреть, что модель выучила, была «feature visualization». Идея метода — спросить модель «что ты ищешь» в конкретном месте — канале. Ответ мы получаем градиентным подъёмом: меняем вход, пока активация нейрона не станет максимальной (так делали в 2009). Пока мы поднимаемся (поднимаемся мы с регуляризацией, иначе картинке будет плохо), мы получаем картинку, вполне себе читаемую. Вполне себе, потому что выглядит всё равно фразой «без пива не разберёшь» (не пью, но фраза смешная). Чтобы уменьшить (или увеличить — тут не ясно) количество пива, необходимое для понимания картинки, можно решать разные задачи: Просим нарисовать не одну картинку, а несколько разных для одного и того же детектора (diversity). Тут нам мешает полисемантичность: один детектор часто отвечает сразу за несвязанные вещи и поэтому сегодня больше любим SAE. Feature inversion — обратная задача: восстановить вход из активаций слоя. Что восстановилось — то сеть сохранила, что расплылось в кашу — выбросила как ненужное. Semantic dictionaries и spatial attribution (Building Blocks, 2018) — соединяем атрибуцию свизуализацией. Не просто «эта область важна», а «эта область важна, потому что здесь сработал вот такой детектор». Рисуем карту целиком (activation atlas, 2019). Прогоняем много тысяч изображений, раскладываем реакции сети на плоскости так, чтобы похожее лежало рядом, и в каждую клеточку рисуем такую картинку. На выходе — атлас того, что сеть вообще знает о мире, по которому можно водить пальцем. Идея в чистом виде почти вымерла, так как сейчас нам стало интереснее копать более точно. Но все circuits выросли отсюда: curve detectors, high-low frequency detectors, весь язык про фичи и полисемантичность. И если вы тоже любите классику, вот, что есть в Python (из того, чего я раньше не видела): Lucid — первоисточник, от команды, которая всё это и придумала. 27 моделей, все методы выше и ноутбуки ко всем классическим статьям. Написан на TensorFlow первой версии, в апреле 2024 отправлен в архив, только для чтения. Запускать больно, читать — прикольно полезно, это готовый учебник. torch-lucent — то же самое, переписанное на PyTorch. Последнее обновление — 2021. FlashTorch — просто карты важности и «нарисуй, на что реагирует этот фильтр» в несколько строк кода. Картинки заметно грубее, зато весь метод видно целиком и сразу. Для учёбы почти идеально, для работы — тоже нет, обновлений с 2020-го. Метод годен только на модальности картинок, так как с текстом надо приседать отдельно. Есть ещё хитрые способы на CLIP моделях и даже поиск признаков на агентах, но это я пока ещё не переварила. Табличка: xai-table.streamlit.app Всем желаю залипнуть на картинки, друзья и отличных выходных!
Больше графов богу графов Мне скинули свежий препринт: Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence. TLDR: позиционируется агент-«учёный» (и нас заменят) для интерпретируемости, который ставится плагином к Клоду. Стоит он на двух ресурсах — библиотеке из 32 исполняемых методов в 11 семействах и графе знаний. Агент запускает четыре стадии: 1. Генерация гипотезы — запрос раскладывается на подзапросы, из двух графов знаний тянутся статьи, на выходе «атомарное утверждение» с планом проверки. 2. Эксперимент — выбирается метод из библиотеки, пишется и запускается код, перед полным прогоном идёт быстрая проверка вменяемости. 3. Верификация — отдельный агент проверяет эксперимент и пробует сломать вывод сменой метода, датасета и модели. 4. Итерация — независимое ревью внешней моделью (по дефолту GPT-5.4), возврат либо к гипотезе, либо к реализации, пока не кончится бюджет ревизий. Память вынесена в файлы по стадиям (proposal, план, трекер, код, результаты, отчёты о целостности), что призвано сохранить читаемость шагов. Жирным выделила детали — про них ниже (они важные в использовании). Из п. 2: Проверка вменяемости — это флаг: сначала эксперимент ревьюится внешней моделью, потом гоняется самый дешёвый вариант эксперимента, трижды дебажится (и если не помогло — наконец-то всё падает). Из п.3: Отдельный агент — это субагенты Клода внутри плагина, оркестратор раздаёт им стадии в одной сессии. Из п.4: Внешняя модель подключается MCP-сервисом llm-chat через три переменные окружения — ключ, имя модели, base URL (годится любой OpenAI-совместимый). Требование одно: не Клод. Если ключ не настроен, ревью кода пропускается. Самое вкусное, п. 1: Граф знаний и п.2 библиотека методов. Меня интересовали они, так как свой я тоже на днях отправила гулять в интернеты. Что внутри: 13 936 статей, 33 400 авторов, 929 площадок. Семь типов рёбер из статьи: WRITTEN_BY→ Author, USES→ Technique, PUBLISHED_IN→ Venue, STUDIES→ Component, PROBES→ Ability, APPLIED_TO→ Scenario, TARGETS→ TargetModel. (Venue я тоже хотела тянуть, но позже : )) Источник: OpenAlex с фильтром на релевантность плюс блоги, названы Anthropic Research и Goodfire. К каждой статье прицеплен 21 признак, извлечённый DeepSeek-V3.2 из абстракта: исследовательский вопрос, вклад, вывод, ключевые находки, ограничения, будущие направления, целевые модели, модальность. Плюс эмбеддинг заголовка и абстракта (bge-large-en-v1.5, 1024 измерения), проверка Claude Opus 4.7 и человеческая оценка на 100 статьях (90 %+ отмечено как корректные, но метрику согласия между аннотаторами не привели). Если постараться, из графа можно вытащить статистики, нюансы и мета-инфу по базе данных. — На сайте три узла фильтрации: методы и техники (как), объекты интерпретируемости (какая часть сети), приложение (где). Суммарно: техник 13 296, комопнент 7 138, сценариев 6 522. Это не количество статей, а именно количество раз, когда что-то описано в узле «техника/компонента/сценарий». На статью я насчитала 1.32 техники, потому она описана у 72% корпуса, а не у 95 %, если делить напрямую. Не менее 640 статей без техники, не менее 49 % без компонента, не менее 53 % без сценария. — Классические до-механистические семейства (SHAP, градиентные методы, анализ величин) составляют до 26 % корпуса; — разреженные автоэнкодеры и поиск схем вместе — не более 7 %; — Публично на сайте показаны 194 уникальные статьи. Отбор статей при поиске на сайте идёт по цитируемости из OpenAlex, и там что-то не так. «Toy Models of Superposition» в их данных стоит с 37 цитированиями, а в выдаче поиска с нулем при 944 на arXiv. Так что citation-ranked витрина тут может не работать.