Что такое искусственный интеллект DeepSeek? Безопасно ли это? Вот все, что вам нужно знать

Являются ли модели китайских стартапов волнующими, разрушительными или угрожающими? Это зависит от вашей точки зрения. Вот что, по мнению экспертов, вы должны знать.

Всего через несколько недель после обретения славы китайский стартап DeepSeek движется вперед с головокружительной скоростью, свергая конкурентов и вызывая ожесточенные разговоры о достоинствах программного обеспечения с открытым исходным кодом.

Тем не менее, в отношении компании возникли многочисленные проблемы с безопасностью, что побудило частные и правительственные организации запретить использование DeepSeek. Вот что вам нужно знать.

Что такое DeepSeek?

Китайский стартап, основанный Лян Вэньфэном в мае 2023 года (и, таким образом, ему не исполнилось и двух лет), бросил вызов устоявшимся компаниям, занимающимся искусственным интеллектом, благодаря своему подходу с открытым исходным кодом. По данным Forbes, преимущество DeepSeek может заключаться в том, что он финансируется только High-Flyer, хедж-фондом, также управляемым Wenfeng, что дает компании модель финансирования, поддерживающую быстрый рост и исследования.

Стартап произвел фурор в январе, когда выпустил полную версию R1, свою модель рассуждений с открытым исходным кодом, которая может превзойти o1 OpenAI. Вскоре после этого количество загрузок в App Store AI-помощника DeepSeek, который работает под управлением V3, модели DeepSeek, выпущенной в декабре, превзошло ChatGPT, ранее самое загружаемое бесплатное приложение. DeepSeek R1 даже поднялся на третье место в общем рейтинге HuggingFace Chatbot Arena, сражаясь с несколькими моделями Gemini и ChatGPT-4o; В то же время компания DeepSeek выпустила новую многообещающую модель.

Способность компании создавать успешные модели за счет стратегической оптимизации старых чипов — результат запрета на экспорт чипов американского производства, включая Nvidia — и распределения запросной нагрузки между моделями для повышения эффективности впечатляет по отраслевым стандартам.

Что такое DeepSeek R1?

Выпущенная в полном объеме 21 января, R1 — это флагманская модель рассуждений DeepSeek, которая работает на уровне или выше хваленой модели OpenAI o1 в нескольких тестах по математике, кодированию и рассуждениям.

Построенный на V3 и основанный на Qwen's Alibaba и Meta's Llama, R1 интересен тем, что, в отличие от большинства других топовых моделей от технологических гигантов, он имеет открытый исходный код, что означает, что любой может скачать и использовать его. Тем не менее, DeepSeek не раскрывает набор данных для обучения R1. До сих пор все остальные выпущенные модели также имеют открытый исходный код.

DeepSeek дешевле сопоставимых моделей из США. Для справки, доступ к API R1 начинается с 0,14 доллара за миллион токенов, что составляет часть от 7,50 долларов, которые OpenAI взимает за эквивалентный уровень.

DeepSeek утверждает в исследовательской работе компании, что ее модель V3, которую можно сравнить со стандартной моделью чат-бота, такой как Claude, обошлась в 5,6 миллиона долларов, и эта цифра циркулирует (и оспаривается) как общая стоимость разработки модели. Как сообщает Reuters, некоторые эксперты лаборатории считают, что статья DeepSeek относится только к финальному прогону обучения для V3, а не ко всей стоимости разработки (которая будет составлять лишь малую часть того, что технологические гиганты потратили на создание конкурентоспособных моделей). Другие эксперты предполагают, что затраты DeepSeek не включают в себя более раннюю инфраструктуру, НИОКР, данные и затраты на персонал.

Одним из недостатков, который может повлиять на долгосрочную конкуренцию модели с o1 и альтернативами американского производства, является цензура. Китайские модели часто включают блоки по определенной тематике, а это означает, что, хотя они функционируют сравнимо с другими моделями, они могут не отвечать на некоторые запросы (см. как AI-помощник DeepSeek отвечает на вопросы о площади Тяньаньмэнь и Тайване). По мере роста использования DeepSeek некоторые обеспокоены тем, что строгие китайские ограничения и системные предубеждения его моделей могут быть внедрены во все виды инфраструктуры.

Тем не менее, вы можете получить доступ к американским версиям DeepSeek без цензуры через платформы Perplexity, такие как Perplexity. Эти платформы удалили цензурные веса DeepSeek и запускают его на локальных серверах, чтобы избежать проблем с безопасностью.

В декабре Тирнан Рэй из ZDNET сравнил способность R1-Lite объяснить цепочку своих мыслей с цепочкой o1, и результаты оказались неоднозначными. Тем не менее, ИИ-помощник DeepSeek раскрывает ход своих мыслей пользователю во время запросов, что является новым опытом для многих пользователей чат-ботов, учитывая, что ChatGPT не экстернализирует свои рассуждения.

Конечно, у всех популярных моделей есть фон для красной команды, правила сообщества и ограничения контента. Однако, по крайней мере, на данном этапе чат-боты американского производства вряд ли будут уклоняться от ответов на вопросы об исторических событиях.

Каковы проблемы конфиденциальности и безопасности?

Опасения по поводу конфиденциальности данных, которые распространились в TikTok — китайском приложении для социальных сетей, которое в настоящее время несколько запрещено в США, — также возникают вокруг DeepSeek.

Ранее в этом месяце генеральный директор Feroot Security Иван Царинный сообщил ABC, что его фирма обнаружила «прямые связи с серверами и компаниями в Китае, которые находятся под контролем китайского правительства», которые, по его словам, они «никогда не видели в прошлом».

Расшифровав часть кода DeepSeek, Feroot обнаружила скрытое программирование, которое может отправлять пользовательские данные, включая идентифицирующую информацию, запросы и онлайн-активность, в China Mobile, китайскую государственную телекоммуникационную компанию, которой запрещено работать в США с 2019 года из-за проблем с национальной безопасностью.

Затем NowSecure рекомендовал организациям «запретить» использование мобильного приложения DeepSeek после обнаружения нескольких недостатков, включая незашифрованные данные (то есть любой, кто отслеживает трафик, может их перехватить) и плохое хранение данных.

На прошлой неделе исследовательская фирма Wiz обнаружила, что внутренняя база данных DeepSeek стала общедоступной «в течение нескольких минут» после проведения проверки безопасности. «Полностью открытая и неаутентифицированная» база данных содержала историю чатов, ключи API пользователей и другие конфиденциальные данные.

«Что еще более важно, раскрытие позволило полностью контролировать базу данных и повысить потенциальные привилегии в среде DeepSeek без какой-либо аутентификации или механизма защиты от внешнего мира», — поясняется в отчете Wiz.

По данным Wired, который первоначально опубликовал исследование, хотя Wiz не получил ответа от DeepSeek, база данных, по-видимому, была отключена в течение 30 минут после того, как Wiz уведомил компанию. Неясно, как долго он был доступен и обнаружил ли его какой-либо другой субъект до того, как он был удален.

Даже без этого тревожного развития событий политика конфиденциальности DeepSeek вызывает некоторые опасения. В нем говорится: «Личная информация, которую мы получаем от вас, может храниться на сервере, расположенном за пределами страны, в которой вы живете. Мы храним собранную информацию на защищенных серверах, расположенных в Китайской Народной Республике».

В политике указано, что DeepSeek собирает большой объем информации, включая, помимо прочего:

• IP-адрес, уникальные идентификаторы устройств и файлы cookie
• Дата рождения (если применимо), имя пользователя, адрес электронной почты и/или номер телефона, а также пароль
• Ваш текстовый или звуковой ввод, подсказки, загруженные файлы, отзывы, история чатов или другой контент, который вы предоставляете нашей модели и службам
• Подтверждение личности или возраста, отзывы или запросы об использовании вами Сервиса [Если вы обращаетесь в DeepSeek]

Далее в политике говорится: «В тех случаях, когда мы передаем какую-либо личную информацию за пределы страны вашего проживания, в том числе для одной или нескольких целей, изложенных в настоящей Политике, мы будем делать это в соответствии с требованиями применимых законов о защите данных».

«Пользователи должны знать, что любые данные, передаваемые платформе, могут подлежать государственному контролю в соответствии с законами Китая о кибербезопасности, которые требуют, чтобы компании предоставляли доступ к данным по запросу властей», — сказал ZDNET по электронной почте Адрианус Варменховен, член консультативного совета по безопасности NordVPN.

По мнению некоторых наблюдателей, тот факт, что R1 имеет открытый исходный код, означает повышенную прозрачность, позволяющую пользователям проверять исходный код модели на наличие признаков активности, связанной с конфиденциальностью.

Тем не менее, DeepSeek также выпустила уменьшенные версии R1, которые можно загрузить и запустить локально, чтобы избежать каких-либо опасений по поводу отправки данных обратно в компанию (в отличие от доступа к чат-боту онлайн).

Все чат-боты, включая ChatGPT, собирают определенный объем пользовательских данных при запросе через браузер.

Безопасен ли DeepSeek AI?

Исследователи безопасности ИИ уже давно обеспокоены тем, что мощные модели с открытым исходным кодом могут быть применены опасными и нерегулируемыми способами, когда они появятся в дикой природе. Тесты, проведенные компанией Chatterbox, специализирующейся на безопасности искусственного интеллекта, показали, что DeepSeek R1 имеет «проблемы с безопасностью по всем направлениям».

В той или иной степени американские компании, занимающиеся искусственным интеллектом, нанимают некую команду по надзору за безопасностью. DeepSeek не сообщила, есть ли у нее группа по исследованию безопасности, и не ответила на просьбу ZDNET прокомментировать этот вопрос.

«Большинство компаний будут продолжать соревноваться в создании самого мощного искусственного интеллекта, независимо от рисков, и будут рассматривать повышенную эффективность алгоритмов как способ быстрее достичь более высокой производительности», — сказал Питер Слэттери, исследователь из команды FutureTech Массачусетского технологического института, который возглавлял проект Risk Repository. «Это оставляет нам еще меньше времени для решения проблем безопасности, управления и общества, которые возникнут с появлением все более совершенных систем искусственного интеллекта».

«Прорыв DeepSeek в эффективности обучения также означает, что в скором времени мы должны ожидать появления большого количества локальных, специализированных «оболочек» — приложений, построенных на основе движка DeepSeek R1, каждое из которых будет представлять свои собственные риски для конфиденциальности, и каждое из них может быть использовано не по назначению, если попадет в чужие руки», — добавил Райан Федасюк. директор по управлению ИИ в США в The Future Society, некоммерческой организации по политике в области ИИ.

Является ли DeepSeek более энергоэффективным?

Некоторые аналитики отмечают, что модель вычислений DeepSeek с более низким подъемом более энергоэффективна, чем у гигантов искусственного интеллекта, построенных в США.

«Новая модель искусственного интеллекта DeepSeek, вероятно, потребляет меньше энергии для обучения и запуска, чем модели более крупных конкурентов», — сказал Слэттери. «Тем не менее, я сомневаюсь, что это знаменует собой начало долгосрочной тенденции к снижению энергопотребления. Мощь искусственного интеллекта проистекает из данных, алгоритмов и вычислений, которые полагаются на постоянно совершенствующиеся чипы. Когда разработчики ранее находили способы быть более эффективными, они, как правило, реинвестировали эти достижения в создание еще более крупных и мощных моделей, а не в сокращение общего энергопотребления».

«DeepSeek — не единственная компания, занимающаяся искусственным интеллектом, которая добилась невероятных успехов в вычислительной эффективности. В последние месяцы американские компании Anthropic и Google Gemini могут похвастаться аналогичными улучшениями производительности», — сказал Федасюк.

«Достижения DeepSeek примечательны тем, что они, похоже, совершили независимые прорывы, которые обещают сделать большие языковые модели гораздо более эффективными и менее дорогими, быстрее, чем ожидали многие профессионалы отрасли, но в такой динамичной области, как искусственный интеллект, трудно предсказать, как долго компания сможет наслаждаться всеобщим вниманием».

Как DeepSeek повлияет на индустрию искусственного интеллекта?

Успех R1 подчеркивает кардинальные изменения в искусственном интеллекте, которые могут дать возможность небольшим лабораториям и исследователям создавать конкурентоспособные модели и диверсифицировать варианты. Например, организации, не имеющие финансирования или персонала OpenAI, могут загрузить R1 и настроить его, чтобы он мог конкурировать с такими моделями, как o1. Незадолго до выпуска R1 исследователи из Калифорнийского университета в Беркли создали модель с открытым исходным кодом наравне с o1-preview, ранней версией o1, всего за 19 часов и примерно за 450 долларов.

Учитывая, насколько непомерными стали инвестиции в ИИ, многие эксперты предполагают, что эта разработка может лопнуть пузырь ИИ (фондовый рынок, безусловно, запаниковал). Некоторые считают, что успех DeepSeek опровергает идею о том, что передовая разработка означает большие модели и расходы. Он также выставляет Stargate, инфраструктурную инициативу стоимостью 500 миллиардов долларов, возглавляемую несколькими гигантами искусственного интеллекта, в новом свете, создавая спекуляции о том, требует ли конкурентоспособный ИИ энергии и масштаба предлагаемых центров обработки данных.

Восхождение DeepSeek происходит в критический момент для китайско-американских технологических отношений, всего через несколько дней после того, как давно оспариваемый запрет TikTok вступил в частичную силу. По иронии судьбы, DeepSeek простым языком излагает повод для опасений по поводу безопасности, которые США изо всех сил пытались доказать в отношении TikTok в своих длительных попытках ввести запрет.

В каких странах запрещен DeepSeek?

Несколько агентств США, включая НАСА и ВМС, уже запретили DeepSeek на государственных технологиях сотрудников, а законодатели пытаются запретить приложение на всех правительственных устройствах, которые уже внедрили Австралия и Тайвань. Южная Корея запретила новые загрузки приложения из-за недавней неспособности DeepSeek соблюдать местные меры защиты данных. Италия проводит расследование в отношении компании на предмет опасений по поводу соответствия GDPR.