Влияние ИИ на образование: от зависимости до новых возможностей

Быстрые достижения в области искусственного интеллекта ИИ начинают перестраивать национальную безопасность. Дестабилизирующие разработки в области ИИ могут нарушить баланс сил и повысить вероятность конфликта великих держав, в то время как широкое распространение способных ИИ-хакеров и вирусологов снизит барьеры для злоумышленников, стремящихся вызвать катастрофу. Сверхразум — ИИ, значительно превосходящий человека почти во всех когнитивных задачах, — теперь ожидается исследователями ИИ.

Однако быстрый прогресс технологий ИИ вносит значительные неопределенности для международной стабильности и безопасности. Введение ядерного оружия изменило международные отношения, предоставив влияние тем, кто им обладал, и приведя к гонке вооружений. Карибский кризис показал, как близко мир подошел к ядерной войне. Ядерное уничтожение до сих пор избегалось, несмотря на значительные напряжения между ядерными государствами, отчасти благодаря принципу сдерживания Взаимного Гарантированного Уничтожения MAD , где любое использование ядерного оружия вызвало бы ответный удар. В эпоху ИИ может возникнуть параллельная форма сдерживания — то, что можно назвать "Взаимно Обеспеченной Неисправностью ИИ" MAIM , — где проекты ИИ государств ограничиваются взаимными угрозами саботажа.

В этой среде влияние ИИ на государственную мощь становится значительным. ИИ может изменить основы экономической и военной силы. Его способность автоматизировать труд может стать источником экономической конкурентоспособности. В военной сфере он может быть использован для доминирования над соперниками. Мы начнем с рассмотрения экономической мощи, а затем перейдем к ее величайшим военным последствиям.

Однако само стремление к такому прорыву могло бы побудить соперников действовать, пока их окно возможностей не закрылось. Страх, что другое государство вскоре резко увеличит свою мощь, заставил наблюдателей задуматься о мерах, ранее считавшихся немыслимыми. В ядерную эпоху Бертран Рассел, обычно ярый пацифист, предлагал превентивные ядерные удары по Советскому Союзу, чтобы предотвратить его подъем [8], в то время как США всерьез рассматривали возможность подрыва китайской ядерной программы в начале 60-х [9]. Столкнувшись с перспективой сверхоружия и стратегической монополии на власть с помощью ИИ, некоторые лидеры могут прибегнуть к превентивным действиям [10]. Вместо того чтобы полагаться только на сотрудничество или пытаться опередить своих противников, они могут рассмотреть саботаж или атаки на дата-центры, если альтернатива — принять будущее, в котором национальное выживание постоянно находится под угрозой.

Отказ от ИИ в военной сфере поставил бы под угрозу безопасность нации, фактически вынуждая правительства полагаться на автоматизированные системы обороны. Сила ИИ не исходит из какого-либо явного захвата; она проистекает из того факта, что современные силы, лишенные такой технологии, были бы превзойдены условным противником. Эта потеря контроля разворачивается не через драматический переворот, а через серию небольших, но разумных решений, каждое из которых оправдано сэкономленным временем или сниженными затратами. Однако эти выборы накапливаются. В конечном итоге люди оказываются на периферии собственного экономического порядка, оставляя реальный эффективный контроль в руках ИИ.

Ограбление века! 1,4 млрд долларов украли хакеры на Bybit

Среди этих вызовов двойная природа ИИ — его способность использоваться как в гражданских, так и в военных целях — становится критическим фактором. В отличие от специализированных технологических инструментов, ИИ охватывает практически все секторы, включая финансы, здравоохранение и оборону. Эта широкая применимость в сочетании с его быстрым развитием создает рисковый ландшафт, который обширен и трудно предсказуем. Стратегические акторы должны учитывать потенциальное злоупотребление, риски геополитической эскалации и необходимость создания рамок для управления системами, чьи возможности могут превзойти человеческий контроль.

ИИ имеет решающее значение для национальной безопасности ИИ обладает потенциалом изменить баланс сил. В руках государственных акторов он может привести к разрушительным военным возможностям и трансформировать экономическую конкуренцию. В то же время террористы могут использовать его двойную природу для организации атак, которые ранее были исключительной прерогативой великих держав. Он также может выйти из-под человеческого контроля. В этой главе рассматриваются три угрозы национальной безопасности: соперничающие государства, злоумышленники и неконтролируемые системы ИИ. В заключение мы оцениваем, почему существующие стратегии не справляются с управлением этими взаимосвязанными угрозами.

Чипы ИИ как валюта экономической мощи По мере того как ИИ все больше интегрируется в экономику, обладание передовыми чипами ИИ может определить мощь нации. Исторически богатство и численность населения составляли основу влияния государства; однако автоматизация задач с помощью ИИ меняет эту динамику. Группа высокопроизводительных ИИ-агентов, работающих неустанно и эффективно, конкурирует с квалифицированной рабочей силой, фактически превращая капитал в труд. В этой новой парадигме мощь будет зависеть как от возможностей систем ИИ, так и от количества чипов ИИ, на которых они могут работать. Нации с большим доступом к чипам ИИ смогут экономически опережать других.

Последствия сверхоружия Сверхразум — это не просто новое оружие, а способ ускорить все будущие военные инновации. Нация, единолично обладающая сверхразумом, могла бы быть столь же подавляющей, как конкистадоры для ацтеков. Если государство достигнет стратегической монополии через ИИ, оно сможет перестроить мировые дела на своих условиях. Аппарат наблюдения, управляемый ИИ, мог бы обеспечить незыблемый тоталитарный режим, трансформируя управление внутри страны и рычаги влияния за рубежом.

Волны автоматизации, ранее постепенные, могут ударить по целым секторам сразу и резко вытеснить человеческих работников. В этом климате те, кто откажется полагаться на ИИ для принятия решений, окажутся в невыгодном положении по сравнению с конкурентами, которые это делают, не имея иного выбора, кроме как следовать рыночным давлениям, а не торговаться с ними [16]. Каждый новый прирост эффективности закрепляет зависимость от ИИ, поскольку попытки сохранить контроль только подтверждают, что темпы коммерции превосходят человеческое понимание. Вскоре замена человеческих менеджеров на ИИ-решателей кажется неизбежной, не потому что кто-то сознательно стремится сдать власть, а потому что отказ от этого влечет немедленные экономические недостатки.