Ученые разрабатывают инструменты для понимания работы ИИ

Ученые создали МРТ для ИИ чтобы понять как он думает Ученые все чаще сравнивают современные ИИ модели с черным ящиком Они принимают решения влияют на медицину образование и даже религиозные практики но при этом до конца непонятно что именно происходит у них внутри Чтобы разобраться в вопросе исследователи начали изучать искусственный интеллект методами больше похожими на биологию чем на математику

CHIP новости Вот это да Ученые создали аналог МРТ для ИИ чтобы понять о чем он думает Ученые попытались изучить ИИ как новый биологический организм Подробнее здесь chiprussia

Ученые начали изучать ИИ как мозг а не как алгоритм Пока нейросети захватывают мир и применяются в больницах судах и школах их создатели до сих пор до конца не понимают что именно происходит внутри этих систем в момент принятия решения Поэтому учёные решили сменить подход и изучать ИИ как человеческий мозг Для этого они даже разработали аналог МРТ но для томографии нейросетей Подробнее о нём и других методах исследования можно прочитать у нас на сайте новости ии

Ученые разрабатывают МРТ для ИИ чтобы понять как он думает Команда исследователей из Anthropic разрабатывает инструменты так называемой механистической интерпретируемости С их помощью ученые могут отслеживать какие внутренние процессы происходят в модели во время выполнения конкретной задачи Еще один инструмент мониторинг цепочек рассуждений В этом случае модель явно проговаривает логику своих действий словно внутренний монолог Такой метод уже помог выявлять нежелательное или опасное поведение Есть опасения что будущие модели особенно если их будут проектировать сами нейросети станут сильно запутанными Настолько что люди потеряют даже те ограниченные способы понимания которые есть сейчас Мой Компьютер

Участвуйте в опросе Ученые создали аналог МРТ для ИИ чтобы понять о чем он думает В Anthropic разработали инструменты для отслеживания процессов внутри модели при выполнении задачи как МРТ для изучения активности мозга Это очень похоже на биологический анализ Это не математика или физика отмечает Джош Бэтсон из Anthropic Другой эксперимент имитирует работу биологов с органоидами создана упрощенная нейросеть разреженный автокодировщик чью внутреннюю структуру анализировать проще чем у обычных больших языковых моделей Также используется мониторинг цепочки мыслей когда модель объясняет свои рассуждения подобно внутреннему монологу человека Это помогает выявлять нежелательное поведение Однако опасность в том что будущие модели особенно созданные самим ИИ могут стать настолько сложными что понять их будет невозможно Что думаете про МРТ для ИИ CHIP опрос chiprussia