В Китае предложили меры против преступлений с использованием искусственного интеллекта

Применение искусственного интеллекта - больших языковых моделей и нейросетей - для борьбы с киберпреступностью станет одним из главных трендов в развитии ИИ в 2025 году, считает эксперт НТИ Сергей Тростьянский. Если в прошлом году многие крупные компании представили большие языковые модели своей разработки, а чат-боты с ИИ научились различать эмоциональную окраску сообщений собеседника, то в этом, по прогнозам эксперта, будут создавать ИИ, который решает определенный вид задач. Например, это могут быть модели специально для поисковых запросов, голосового общения с пользователем. Или модели с упором на прием запросов как в текстовом, так и в аудио- или видеоформате.

Начавшееся в 2024 году масштабное распространение дипфейков, голосовых клонов и фишинговые атаки с использованием искусственного интеллекта являются лишь «пробой пера». Forbes предупреждает, что в 2025 году ИИ-мошенничество станет главным трендом, угрожающим финансовой безопасности. В Telegram растёт количество сообщений в криминальных каналах, связанных с искусственным интеллектом и дипфейками, которые используются в мошенничестве. Согласно анализу, проведенному Point Predictive, в 2023 году там было 47 тыс. сообщений, а в 2024 году их количество превысило 350 тыс., увеличившись на 644%. В 2025 году атаки с использованием дипфейков на бизнес-почту могут стать серьезной угрозой. В двух инцидентах в Гонконге мошенники уже использовали видео и аудио, созданные искусственным интеллектом, чтобы выдавать себя за руководителей компаний во время звонков в Zoom и убеждать сотрудников перевести почти $30 млн. И это не единичные случаи. ИИ используется повсеместно. Согласно отчету американской компании Medius, за последний год около 53% бухгалтеров стали жертвами BEC-атак с использованием ИИ-дипфейков. Также в 2025-м использование полностью автономных чат-ботов с искусственным интеллектом станет повсеместным. Это дает мошенникам возможность свободно общаться с жертвой без акцента, чтобы повысить правдоподобность аферы. Мошеннические схемы с использованием дипфейков и ИИ будут нацелены на высокопоставленных руководителей. В Сингапуре мошенники недавно организовали схему вымогательства с помощью дипфейков, нацеленную на 100 государственных служащих из 30 правительственных ведомств, включая министров. В электронном письме содержалось требование заплатить $50 тыс. в криптовалюте, в противном случае мошенники угрожали опубликовать компрометирующее видео.

Применение искусственного интеллекта - больших языковых моделей и нейросетей - для борьбы с киберпреступностью станет одним из главных трендов в развитии ИИ в 2025 году. Если в прошлом году многие крупные компании представили большие языковые модели своей разработки, а чат-боты с ИИ научились различать эмоциональную окраску сообщений собеседника, то в этом будут создавать ИИ, который решает определенный вид задач. Например, это могут быть модели специально для поисковых запросов, голосового общения с пользователем. Или модели с упором на прием запросов как в текстовом, так и в аудио- или видеоформате.

Искусственный интеллект через 1,5-2 года вступит в "золотую эру", повторив успех криптовалют и технологии блокчейна, таким мнением поделился с РИА Новости эксперт Kaspersky ICS CERT Владимир Дащенко. Для примера он привёл интеграцию искусственного интеллекта в системы сбора и продвижения мнений. Многие используют ChatGPT как советника и советчика. Это мощнейший инструмент для продвижения и сбора мнений. Думаю, что при одинаковых текстовых запросах выдача будет разной в зависимости от страны и региона, чтобы продвинуть нужную точку зрения Однако он также прогнозирует активное применение нейросетей в ходе кибератак. Эксперт также не исключил, что в 2025 году некоторые страны могут ужесточить регулирование сферы ИИ, включая запрет на экспорт данных и "железа".

Эксперт Kaspersky предсказывает "золотую эру" ИИ через 1-2 года, сравнимую с бумом криптовалют. Он отмечает использование ИИ в манипуляции общественным мнением и прогнозирует его применение в киберпреступлениях, а также возможное ужесточение государственного регулирования в 2025 году.

В «Лаборатории Касперского» спрогнозировали «золотую эру» ИИ Нейросети в ближайшие 1,5-2 года могут повторить успех блокчейна и криптовалюты. Эксперт лаборатории Владимир Дащенко сообщил, что искусственный интеллект будет интегрирован в системы сбора мнений. «Многие используют ChatGPT как советника», отметил он. «Это мощнейший инструмент для продвижения мнений, при одинаковых текстовых запросах выдача будет разной в зависимости от страны и региона, чтобы продвинуть нужную точку зрения», — сказал специалист, передаёт РИА Новости. Подпишись на «Говорит Москва»

Умный помощник, который всегда под рукой

Развитие цифровых валют от ЦБ снижает мощь доллара в мировых расчетах Источник: РИА Новости Применение искусственного интеллекта - больших языковых моделей, нейросетей - для борьбы с киберпреступностью станет одним из главных трендов в развитии ИИ в 2025 году, таким прогнозом с РИА Новости поделился заместитель директора центра компетенций НТИ по большим данным МГУ Сергей Тростьянский. "Появление специализированных языковых моделей, квантовые вычисления и применение нейросетей в борьбе с киберпреступностью можно назвать главными трендами развития искусственного интеллекта в 2025 году ... С увеличением эффективности ИИ может выявлять потенциальные риски, анализируя массивы данных, содержащие информацию о ранее произошедших кибератаках. Кроме того, ИИ способен выявлять вредоносные приложения, анализируя не только их сигнатуры, но и поведение", - сказал он. В 2024 году многие крупные компании представили большие языковые модели своей разработки, а чат-боты с ИИ научились различать эмоциональную окраску сообщений собеседника. В этом году, по прогнозам эксперта, будет появляться ИИ, который решает определенный вид задач: например, некоторые модели будут использоваться специально для поисковых запросов, голосового общения с пользователем. А в других упор может быть сделан на прием запросов не только в текстовом, но и в аудио- или видеоформате, а также на менее ресурсоемкое вычисление, чтобы снизить нагрузку на вычислительные мощности. Еще одним трендом Тростьянский назвал квантовое машинное обучение - квантовые вычисления позволят эффективно решать те задачи, которые могут быть слишком сложны для существующих суперкомпьютеров. Квантовое машинное обучение может быть полезным при разработке лекарственных средств, прогнозировании погодных явлений и решении сложных логистических задач.

Нейросети для борьбы с киберпреступностью станут главным трендом в ИИ в 2025 г - эксперт Источник: РИА Новости Применение искусственного интеллекта - больших языковых моделей, нейросетей - для борьбы с киберпреступностью станет одним из главных трендов в развитии ИИ в 2025 году, таким прогнозом с РИА Новости поделился заместитель директора центра компетенций НТИ по большим данным МГУ Сергей Тростьянский. "Появление специализированных языковых моделей, квантовые вычисления и применение нейросетей в борьбе с киберпреступностью можно назвать главными трендами развития искусственного интеллекта в 2025 году ... С увеличением эффективности ИИ может выявлять потенциальные риски, анализируя массивы данных, содержащие информацию о ранее произошедших кибератаках. Кроме того, ИИ способен выявлять вредоносные приложения, анализируя не только их сигнатуры, но и поведение", - сказал он. В 2024 году многие крупные компании представили большие языковые модели своей разработки, а чат-боты с ИИ научились различать эмоциональную окраску сообщений собеседника. В этом году, по прогнозам эксперта, будет появляться ИИ, который решает определенный вид задач: например, некоторые модели будут использоваться специально для поисковых запросов, голосового общения с пользователем. А в других упор может быть сделан на прием запросов не только в текстовом, но и в аудио- или видеоформате, а также на менее ресурсоемкое вычисление, чтобы снизить нагрузку на вычислительные мощности. Еще одним трендом Тростьянский назвал квантовое машинное обучение - квантовые вычисления позволят эффективно решать те задачи, которые могут быть слишком сложны для существующих суперкомпьютеров. Квантовое машинное обучение может быть полезным при разработке лекарственных средств, прогнозировании погодных явлений и решении сложных логистических задач.

В Китае предложили создать систему борьбы с преступлениями ИИ Создать комплексную систему управления для борьбы с преступлениями, совершаемыми с использованием технологий искусственного интеллекта, предложили эксперты Пекинского муниципального бюро общественной безопасности, сообщает издание Yicai. Специалисты написали доклад в котором изложили предложение для властей Китая, т. к. в последнее время количество преступлений с использованием ИИ начали стремительно расти. Преступники могут совершать мошенничества с использованием искусственного интеллекта для глубокой подделки или изменения голоса, что более достоверно, чем традиционные методы, и затрудняет жертвам распознавание схем, говорится в докладе, опубликованном в журнале Китайской академии наук. Подробнее

Специалист Дащенко: ИИ в ближайшие 1,5—2 года переживёт золотую эру Эксперт Kaspersky ICS CERT Владимир Дащенко заявил, что искусственный интеллект в мире в ближайшие полтора-два года переживёт золотую эру. Читать далее