Исследование выявило доступ к данным закрытых репозиториев GitHub через Copilot

Исследование Lasso о данных GitHub и Copilot По результатам исследования израильской компании Lasso, тысячи данных из некогда открытых репозиториев GitHub до сих пор доступны в Microsoft Copilot, даже после их закрытия. Проблема затрагивает более 20,000 частных репозиториев известных компаний, таких как Microsoft, Amazon и Google, которые были проиндексированы и кешированы поисковой системой Bing. ‍ Цитата об исследовании: "На Copilot, как ни странно, мы нашли один из наших собственных закрытых репозиториев... любой человек может получить доступ к этим данным, задав правильный вопрос." — Офир Дрор, соучредитель Lasso. Lasso уведомила Microsoft о данной проблеме, но компания отнесла её к "низкой степени серьезности". Хотя кеширование было отключено, доступ к данным всё равно сохранён. Подробнее о данной ситуации читайте в TechCrunch.

Данные тысяч ставших частными репозитариев GitHub всё ещё доступны в Copilot, выяснили исследователи Согласно исследованию израильской компании по кибербезопасности Lasso, специализирующейся на возникающих угрозах генеративного ИИ, данные, которые были в открытом доступе в интернете хотя бы на мгновение, могут ещё продолжительное время оставаться у онлайн-чат-ботов генеративного ИИ, таких как Microsoft Copilot, после того, как доступ к ним был закрыт. Эта проблема касается тысяч некогда открытых репозиториев GitHub ряда крупнейших компаний, включая Microsoft, которые с тех пор стали закрытыми, сообщили в Lasso ресурсу TechCrunch. По словам соучредителя Lasso Офира Дрора Ophir Dror , компания обнаружила, что контент из её собственного репозитория GitHub появился в Copilot, поскольку он был проиндексирован и кеширован поисковой системой Bing от Microsoft. Этот репозиторий был ошибке открыт в течение короткого периода времени и сейчас является частным.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Спроси что угодно — умный ИИ уже готов ответить

Приватные репозитории GitHub доступны через Copilot Нейросетевой помощник Copilot оказался способен генерировать код из закрытых репозиториев на GitHub, если они когда-то были публичными и вошли в обучающий датасет. Правильно сформулированный запрос может вернуть данные из некогда доступных проектов. Исследователи даже продемонстрировали эксперимент, в рамках которого получили доступ к данным более 20 тыс. приватных или удалённых репозиториев, включая репозитории более 16 тыс. организаций, таких как Amazon и Google. Несмотря на уведомление Microsoft о потенциальной уязвимости, инженеры оценили угрозу как низкую. Исследователи сообщают, что доступ к данным всё ещё сохраняется. ‍ ================ News Soft Gear Links

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи. godnoTECH - Новости IT

Copilot может выдавать код из приватных GitHub-репозиториев Израильская компания Lasso в новом исследовании обнаружила, что ИИ-помощник GitHub Copilot может генерировать код, основанный на репозиториях, которые были публичными, а потом стали закрытыми. Это значит, что информация из кодовых баз крупнейших мировых технологических компаний IBM, PayPal, Amazon, Google и т. д. может оказаться в руках злоумышленников. Подробнее:

Copilot использует код из приватных репозиториев, которые раньше были публичными Разработчики из компании Lasso столкнулись с неожиданной проблемой: в коде, сгенерированном Copilot, они обнаружили фрагменты собственного закрытого репозитория. Начав внутреннее расследование, они выяснили, что репозиторий на короткое время становился публичным — и этого оказалось достаточно, чтобы система проиндексировала его и добавила в свой датасет. Чтобы проверить масштаб подобного явления, Lasso провела эксперимент: они собрали список репозиториев, которые были открыты в 2024 году, и проанализировали их с помощью системы кэширования Bing. Результаты оказались тревожными — доступ к более чем 20 000 приватных или удалённых репозиториев по-прежнему сохранялся. Бесплатный GPT Экспертный канал

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.