Администрация Трампа внимательно изучает приложение ИИ, Италия и Тайвань запретили его, а компании заблокировали его.
Логотип DeepSeek на телефоне на фоне флага Китая 28 января 2025 года в Гонконге, Китай. Энтони Кван/Getty Images через Getty Images
Эксперты предупреждают, что сотрудники, пытающиеся использовать корпоративное устройство для доступа к невероятно популярному приложению искусственного интеллекта китайского технологического стартапа DeepSeek, могут непреднамеренно подвергнуть свою организацию таким угрозам, как кибершпионаж.
По их словам, основным тревожным сигналом являются условия обслуживания DeepSeek, в которых указано, что данные пользователей хранятся на серверах в Китае и регулируются китайским законодательством, которое требует сотрудничества со спецслужбами страны.
Китайское правительство давно обвиняют в шпионаже для достижения таких целей, как кража интеллектуальной собственности у западных организаций или сбор геополитической разведывательной информации. Оно последовательно отрицает обвинения.
«Китай очень хорош в добыче данных», — сказал в интервью Эндрю Грили, глава Armis Labs, подразделения компании Armis Inc., занимающейся кибербезопасностью и базирующейся в Сан-Франциско, штат Калифорния. «Все, что находится в терабайтах, для них не проблема».
DeepSeek привлекла внимание всего мира после выпуска модели ИИ с открытым исходным кодом, которая, по ее словам, была создана с меньшими затратами по сравнению с американскими конкурентами, такими как ChatGPT.
Эта новость потрясла технологический мир на прошлой неделе, вызвав вопросы о способности Америки сохранять позицию доминирования ИИ на мировой арене. Президент Дональд Трамп назвал эту разработку «звонком тревоги».
На фоне ажиотажа Microsoft объявила, что делает последнюю модель ИИ DeepSeek доступной на «надежной, масштабируемой и готовой к использованию на предприятии платформе». Другие технологические гиганты, включая Amazon Web Services, предприняли аналогичные шаги.
Между тем, пресс-секретарь Белого дома Каролин Ливитт на прошлой неделе заявила, что американские чиновники изучают последствия для национальной безопасности приложения DeepSeek, чат-бота на основе искусственного интеллекта. Италия и Тайвань запретили его.
Кроме того, приложение было заблокировано сотнями клиентов Armis на прошлой неделе, поскольку инструмент был широко разрекламирован и быстро набрал популярность, по словам Грили.
Подобную картину на прошлой неделе наблюдала компания Netskope, занимающаяся кибербезопасностью и базирующаяся в Санта-Кларе, штат Калифорния, сообщил финансовому директору Dive Рэй Канзанезе, директор подразделения Threat Labs компании Netskope.
«Мы увидели, что почти половина наших клиентов по всему миру пробуют DeepSeek, а другая половина в той или иной степени блокирует своих пользователей, чтобы они не пробовали его», — сказал он.
Канзанезе сказал, что некоторые клиенты Netskope автоматически блокируют несанкционированные приложения.
«Риск заключается в том, что ваши сотрудники запустят приложение и начнут помещать туда конфиденциальные данные — данные клиентов, исходный код, регулируемые данные, интеллектуальную собственность», — сказал он. «Это риск DeepSeek, это риск на самом деле с любым из этих приложений генеративного ИИ».
Помимо вопросов, связанных с правительством Китая, DeepSeek вызвал и другие опасения.
Защита приложения от утечек данных, а также галлюцинаций — когда модель ИИ утверждает неточные утверждения — «особенно слаба», по словам Офира Дрора, соучредителя компании по кибербезопасности Lasso Security.
«Мы также наблюдали более широкие риски безопасности за пределами его происхождения и цепочки поставок, включая подозрительное поведение, которое может представлять угрозу для организаций и государственных учреждений», — сказал он в электронном письме. «Учитывая эти выводы, мы настоятельно рекомендуем не использовать эти модели в критических рабочих процессах или не делиться с ними какой-либо конфиденциальной информацией».
Базирующаяся в Нью-Йорке фирма по кибербезопасности Wiz заявила на прошлой неделе, что обнаружила, что DeepSeek случайно оставил более миллиона строк данных незащищенными. База данных содержала «значительный объем истории чатов, внутренних данных и конфиденциальной информации», — сказал тогда в своем блоге исследователь безопасности Wiz Гал Нагли.
Другое расследование безопасности, проведенное Cisco, показало, что модель ИИ DeepSeek продемонстрировала 100%-ный показатель успешности атак, не сумев заблокировать ни одного вредоносного запроса.
«Очень заманчиво перейти на использование DeepSeek, но это сопряжено с большим количеством рисков», — сказала в интервью Мелисса Руцци, директор по ИИ в фирме по безопасности AppOmni.
С представителем DeepSeek не удалось связаться для получения комментариев.
Примечание редактора: эта статья была обновлена комментариями от Lasso Security.
Рекомендуемое чтение
- Финансовый директор SAP: нарушение работы DeepSeek AI — «очень хорошая новость»
Обзор финансового директора
