Исследование выявило доступ к данным закрытых репозиториев GitHub через Copilot

Исследование Lasso о данных GitHub и Copilot По результатам исследования израильской компании Lasso, тысячи данных из некогда открытых репозиториев GitHub до сих пор доступны в Microsoft Copilot, даже после их закрытия. Проблема затрагивает более 20,000 частных репозиториев известных компаний, таких как Microsoft, Amazon и Google, которые были проиндексированы и кешированы поисковой системой Bing. ‍ Цитата об исследовании: "На Copilot, как ни странно, мы нашли один из наших собственных закрытых репозиториев... любой человек может получить доступ к этим данным, задав правильный вопрос." — Офир Дрор, соучредитель Lasso. Lasso уведомила Microsoft о данной проблеме, но компания отнесла её к "низкой степени серьезности". Хотя кеширование было отключено, доступ к данным всё равно сохранён. Подробнее о данной ситуации читайте в TechCrunch.

Данные тысяч ставших частными репозитариев GitHub всё ещё доступны в Copilot, выяснили исследователи Согласно исследованию израильской компании по кибербезопасности Lasso, специализирующейся на возникающих угрозах генеративного ИИ, данные, которые были в открытом доступе в интернете хотя бы на мгновение, могут ещё продолжительное время оставаться у онлайн-чат-ботов генеративного ИИ, таких как Microsoft Copilot, после того, как доступ к ним был закрыт. Эта проблема касается тысяч некогда открытых репозиториев GitHub ряда крупнейших компаний, включая Microsoft, которые с тех пор стали закрытыми, сообщили в Lasso ресурсу TechCrunch. По словам соучредителя Lasso Офира Дрора Ophir Dror , компания обнаружила, что контент из её собственного репозитория GitHub появился в Copilot, поскольку он был проиндексирован и кеширован поисковой системой Bing от Microsoft. Этот репозиторий был ошибке открыт в течение короткого периода времени и сейчас является частным.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Умный помощник, который всегда под рукой

Приватные репозитории GitHub доступны через Copilot Нейросетевой помощник Copilot оказался способен генерировать код из закрытых репозиториев на GitHub, если они когда-то были публичными и вошли в обучающий датасет. Правильно сформулированный запрос может вернуть данные из некогда доступных проектов. Исследователи даже продемонстрировали эксперимент, в рамках которого получили доступ к данным более 20 тыс. приватных или удалённых репозиториев, включая репозитории более 16 тыс. организаций, таких как Amazon и Google. Несмотря на уведомление Microsoft о потенциальной уязвимости, инженеры оценили угрозу как низкую. Исследователи сообщают, что доступ к данным всё ещё сохраняется. ‍ ================ News Soft Gear Links

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи. godnoTECH - Новости IT

Copilot может выдавать код из приватных GitHub-репозиториев Израильская компания Lasso в новом исследовании обнаружила, что ИИ-помощник GitHub Copilot может генерировать код, основанный на репозиториях, которые были публичными, а потом стали закрытыми. Это значит, что информация из кодовых баз крупнейших мировых технологических компаний IBM, PayPal, Amazon, Google и т. д. может оказаться в руках злоумышленников. Подробнее:

Copilot использует код из приватных репозиториев, которые раньше были публичными Разработчики из компании Lasso столкнулись с неожиданной проблемой: в коде, сгенерированном Copilot, они обнаружили фрагменты собственного закрытого репозитория. Начав внутреннее расследование, они выяснили, что репозиторий на короткое время становился публичным — и этого оказалось достаточно, чтобы система проиндексировала его и добавила в свой датасет. Чтобы проверить масштаб подобного явления, Lasso провела эксперимент: они собрали список репозиториев, которые были открыты в 2024 году, и проанализировали их с помощью системы кэширования Bing. Результаты оказались тревожными — доступ к более чем 20 000 приватных или удалённых репозиториев по-прежнему сохранялся. Бесплатный GPT Экспертный канал

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.