Ученые разрабатывают инструменты для понимания работы ИИ

Ученые создали МРТ для ИИ чтобы понять как он думает Ученые все чаще сравнивают современные ИИ модели с черным ящиком Они принимают решения влияют на медицину образование и даже религиозные практики но при этом до конца непонятно что именно происходит у них внутри Чтобы разобраться в вопросе исследователи начали изучать искусственный интеллект методами больше похожими на биологию чем на математику

CHIP новости Вот это да Ученые создали аналог МРТ для ИИ чтобы понять о чем он думает Ученые попытались изучить ИИ как новый биологический организм Подробнее здесь chiprussia

Ученые разрабатывают МРТ для ИИ чтобы понять как он думает Команда исследователей из Anthropic разрабатывает инструменты так называемой механистической интерпретируемости С их помощью ученые могут отслеживать какие внутренние процессы происходят в модели во время выполнения конкретной задачи Еще один инструмент мониторинг цепочек рассуждений В этом случае модель явно проговаривает логику своих действий словно внутренний монолог Такой метод уже помог выявлять нежелательное или опасное поведение Есть опасения что будущие модели особенно если их будут проектировать сами нейросети станут сильно запутанными Настолько что люди потеряют даже те ограниченные способы понимания которые есть сейчас Мой Компьютер