Исследование выявило доступ к данным закрытых репозиториев GitHub через Copilot

Приватные репозитории GitHub доступны через Copilot Нейросетевой помощник Copilot оказался способен генерировать код из закрытых репозиториев на GitHub, если они когда-то были публичными и вошли в обучающий датасет. Правильно сформулированный запрос может вернуть данные из некогда доступных проектов. Исследователи даже продемонстрировали эксперимент, в рамках которого получили доступ к данным более 20 тыс. приватных или удалённых репозиториев, включая репозитории более 16 тыс. организаций, таких как Amazon и Google. Несмотря на уведомление Microsoft о потенциальной уязвимости, инженеры оценили угрозу как низкую. Исследователи сообщают, что доступ к данным всё ещё сохраняется. ‍ ================ News Soft Gear Links

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot.

Данные тысяч ставших частными репозитариев GitHub всё ещё доступны в Copilot, выяснили исследователи Согласно исследованию израильской компании по кибербезопасности Lasso, специализирующейся на возникающих угрозах генеративного ИИ, данные, которые были в открытом доступе в интернете хотя бы на мгновение, могут ещё продолжительное время оставаться у онлайн-чат-ботов генеративного ИИ, таких как Microsoft Copilot, после того, как доступ к ним был закрыт. Эта проблема касается тысяч некогда открытых репозиториев GitHub ряда крупнейших компаний, включая Microsoft, которые с тех пор стали закрытыми, сообщили в Lasso ресурсу TechCrunch. По словам соучредителя Lasso Офира Дрора Ophir Dror , компания обнаружила, что контент из её собственного репозитория GitHub появился в Copilot, поскольку он был проиндексирован и кеширован поисковой системой Bing от Microsoft. Этот репозиторий был ошибке открыт в течение короткого периода времени и сейчас является частным.

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи. godnoTECH - Новости IT

Copilot может выдавать код из приватных GitHub-репозиториев Израильская компания Lasso в новом исследовании обнаружила, что ИИ-помощник GitHub Copilot может генерировать код, основанный на репозиториях, которые были публичными, а потом стали закрытыми. Это значит, что информация из кодовых баз крупнейших мировых технологических компаний IBM, PayPal, Amazon, Google и т. д. может оказаться в руках злоумышленников. Подробнее:

Copilot использует код из приватных репозиториев, которые раньше были публичными Разработчики из компании Lasso столкнулись с неожиданной проблемой: в коде, сгенерированном Copilot, они обнаружили фрагменты собственного закрытого репозитория. Начав внутреннее расследование, они выяснили, что репозиторий на короткое время становился публичным — и этого оказалось достаточно, чтобы система проиндексировала его и добавила в свой датасет. Чтобы проверить масштаб подобного явления, Lasso провела эксперимент: они собрали список репозиториев, которые были открыты в 2024 году, и проанализировали их с помощью системы кэширования Bing. Результаты оказались тревожными — доступ к более чем 20 000 приватных или удалённых репозиториев по-прежнему сохранялся. Бесплатный GPT Экспертный канал

Доступ к тысячам приватных GitHub-репозиториев можно получить с помощью Copilot Copilot может генерировать код на основе приватных GitHub-репозиториев, которые ранее были публичными и попали в датасет. Исследователи обнаружили в сгенерированном коде фрагмент закрытого репозитория и выяснили, что данные попали в датасет из-за ошибки: компания ненадолго открыла репозиторий. Можно получить любые данные из публичного проекта с помощью правильного запроса к языковой модели. Исследователи проверили более 20 тыс. приватных или удалённых репозиториев с помощью системы кэширования Bing и обнаружили, что данные всё ещё доступны через Copilot. Проблема затрагивает более 16 тыс. организаций, включая Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft. Компания сообщила о проблеме разработчикам Microsoft, которые удалили ссылки на кэш Bing из поисковой выдачи, но данные всё равно доступны через Copilot, утверждают исследователи.