Обсуждение вызовов и этики искусственного интеллекта в России

Участники круглого стола в Общественной палате РФ обсудили ключевые вызовы, которые ставит перед обществом развитие технологий искусственного интеллекта и нейросетей Зампред комиссии ОП РФ по безопасности и взаимодействию с ОНК Александр Холодов подчеркнул, что критическое мышление становится все более уязвимым в условиях доминирования цифрового контента: Если у нашего поколения еще сохраняется способность к критической оценке информации, то следующее поколение может ее утратить. Особенно на фоне того, что нейросети создают иллюзию достоверности, которой доверяют без раздумий. Особую тревогу вызывает распространение мошенничества с использованием дипфейков, сказал Холодов. Нейросети дают огромные возможности, но с ними приходят и серьезные риски: Задача не в том, чтобы все запретить, а в том, чтобы выстроить понятные ограничения и, возможно, предусмотреть государственную поддержку в тех направлениях, где это необходимо. Заместитель исполнительного директора – руководитель аппарата, зампред комиссии по новым технологиям и правовому обеспечению цифровизации общества АЮР, член Общественного совета при Минцифры России Алан Лазаров указал, что рекомендательные системы формируют наше мышление и картину мира. Мы часто даже не осознаем, насколько сильно YouTube или Google могут влиять на общественное мнение и политическую повестку – в том числе через манипуляции при помощи алгоритмов, – подчеркнул он. При этом, считает эксперт, Россия может сыграть ведущую роль в выстраивании этичного и сбалансированного подхода к регулированию ИИ: В российском законодательстве акцент сделан на человекоцентричности и приоритете прав и свобод гражданина. Мы видим и стремление обеспечить информационный суверенитет, и необходимость гармоничного сочетания государственной и общественной безопасности. Это тот путь, по которому еще не пошли многие страны, и мы могли бы стать примером. #IT_News #ОПРФ #технологии Подписаться

ИИ-технологии России: какой он – человек будущего? Тема искусственного интеллекта каждый день дает о себе знать: новые программы, решения, научные открытия. Скорость развития, которую набрал ИИ, вынудила даже Илона Маска призвать остановить новые исследования хотя бы на 6 месяцев. Нужна пауза, человечеству нужно подготовиться к новой действительности. Специально к 10-летию ЦИПР – 2025 мы в партнерстве с NtechLab сделали 2 важных исследования про искусственный интеллект. Их можно обобщить двумя вопросами: что думает про ИИ молодежь России? что думают про ИИ ведущие эксперты страны – те, кто двигает наши технологии вперед? На первый вопрос нам помогло ответить федеральное анкетирование «Перспективы развития искусственного интеллекта», а на второй экспертный доклад «Технологии России: человек будущего». Ключевые выводы экспертов: ИИ оказывает двойственное влияние на мышление: снижает критическое, но усиливает цифровые и творческие навыки; этика не должна тормозить ИИ, но обязана задавать ему границы; необходимо комплексное правовое и этическое регулирование; основной риск — потеря контроля, особенно в сфере кибербезопасности; образование, прозрачность и человеческий контроль — три столпа безопасной ИИ-интеграции; переход к супер-ИИ — это онтологический сдвиг, затрагивающий природу разума и бытия. Создается нечеловеческий разум, который понимает закономерности быстрее, чем человек. Среди экспертов – Александр Назаров и Василий Бровко Ростех , Алексей Паламарчук NtechLab , Ольга Пивень ЦИПР , Павел Попов «НИИАС» РЖД , Александр Любченко ОЦРВ, «РЖД-Технологии» , Сергей Володенков факультет политологии МГУ , Олег Сальманов «Нецифровая экономика» , Константин Гнидко Сириус , Иван Никанов Университет Иннополис , представители АНО «Горький Тех», Московского политеха, HR-Tech компании «Поток», Института AIRI. Обязательно будем подробнее рассказывать о результатах исследования и выводах доклада, а пока приглашаем вас ознакомиться с ними на сайте.

Сэм Альтман о будущем искусственного интеллекта: генерация новых идей В новом эссе, опубликованном во вторник, генеральный директор OpenAI Сэм Альтман поделился своим видением того, как ИИ изменит жизнь людей в ближайшие 15 лет. Эссе является классическим примером футуризма Альтмана: он раздувает перспективы AGI — и утверждает, что его компания довольно близка к успеху, — одновременно преуменьшая его значение. 1 DevHub

Спроси что угодно — умный ИИ уже готов ответить

Поучаствовал в создании совместного экспертного доклада Центра развития гуманитарных технологий «Новая Эра» и NtechLab: «Технологии России: человек будущего». Про влияние ИИ на человека, про этику при его внедрении и т.д. Полезное начинание, будем надеяться оно будет продолжено. В СМИ уже есть некоторые выводы из него: России нужен всеобъемлющий рамочный закон по ИИ. «Нормы должны учитывать культурные особенности». Мой ответ был: «России пока нужно как можно меньше регулирования. Особенно в вопросах развития ИИ». Переход от искусственного интеллекта к суперинтеллекту, который по когнитивным способностям превзойдет человека во всех областях и изучит неизвестные до сих пор сферы, может произойти в ближайшие 5-7 лет. Эксперты говорят об «онтологическом сдвиге, затрагивающем саму природу разума и бытия»: «Создается новый логос - нечеловеческий разум, который понимает закономерности быстрее, чем человек». Я говорил в ответах, что «современные AI-системы субъективны настолько, насколько субъективны наборы данных, на которых они обучались, они наследуют человеческие предрассудки, предубеждения -- в той же степени, в какой наследуют знания, опыт человека». внедрению ИИ в России препятствуют проблемы с IT-инфраструктурой. Очевидная мысль, которую все должны понять: без доступа к современным чипам или их производства внутри, что много сложнее , у отечественного ИИ не будет будущего.

Как защитить человечество от нейросетевых технологий, рассказали эксперты на площадке ОП РФ Комиссию ОП РФ по безопасности и взаимодействию с ОНК интересуют не технические аспекты развития искусственного интеллекта, а именно вопросы безопасности, сказал Александр Холодов: Существуют и социальные риски, которые приведут не только к массовой замене профессий, но и отсутствию необходимости развития человеческих ресурсов. Есть и технологические угрозы — если специалисты начнут слепо полагаться на нейросети, это может привести к критическим ошибкам, в том числе в госструктурах и медицине. Наше поколение выросло без нейросетей, а современные дети задают вопросы не родителям, а «Алисе», из-за чего могут доверять колонке больше, чем семье, а также потерять критическое мышление. Необходимость учитывать все явные и скрытые угрозы, которые несут цифровые технологии и искусственный интеллект для гражданского общества, подчеркнул Михаил Аничкин. Он отметил, что соперничество человека и ИИ уже реально, и эта проблема требует широкого общественного обсуждения для выработки решений в области безопасности и защиты прав: В последнее время появляется все больше обоснованных беспокойств по поводу использования ИИ в различных сферах деятельности страны и его влияния на общество. Тема достаточно сложная. В какие области можно допускать искусственный интеллект? Например, в решение крупных технологических проблем — возможно. Но стоит ли внедрять его в социальную сферу? Это большой вопрос. А в сферу образования? Тут еще больше сомнений. После резолюции по итогам круглого стола планируются слушания по направлениям: экономика, политика, культура, образование. Цель — обозначить проблемы и привлечь исполнительные органы к созданию системы контроля и регламентации использования ИИ в стране. Необходимость разработки четкого регулирования в сфере ИИ, который уже активно используется в повседневной жизни и высокотехнологичных компаниях, подчеркнул Евгений Машаров. Член ОП РФ предложил сосредоточиться на поддержке отечественных IT-разработчиков, прежде чем вводить жесткое регулирование. Общественная палата России Подписаться

Искусственный интеллект обогатит мир — но не всех: Сам Альтман о будущем, к которому мы не готовы Сам Альтман, глава OpenAI, уверен: искусственный интеллект не просто меняет технологии — он может сделать мир значительно богаче. Однако вместе с богатством вырастет и главный риск: неравенство. Пока одни получат доступ к мощнейшим инструментам, другие рискуют остаться на обочине технологической гонки. Альтман сравнивает ИИ с электричеством: базовая технология, способная радикально трансформировать всё — от здравоохранения до экономики. Но чтобы этот прогресс стал благом для большинства, нужны политическая воля и новые подходы к распределению выгод. Будущее наступает. Вопрос — кто в нём будет хозяином?