Действительно ли ИИ нуждается в ваших личных данных?
Ключевые выводы
- ИИ лишен разума и лишь имитирует человеческое понимание, полагаясь на наборы данных для обучения.
- Разработчикам нужны пользовательские данные для улучшения ИИ, но обеспечение конфиденциальности и доверия имеет важное значение.
- Пользователи должны соблюдать стандартные правила безопасности в Интернете при взаимодействии с ИИ, чтобы защитить личную информацию.
Поскольку искусственный интеллект становится все более распространенным и растет обеспокоенность по поводу защиты пользовательских данных, важно понять, чем это отличается от старых проблем интернет-безопасности последних 20 лет. Удивительно, но решением может стать использование тех же старых правил безопасности в Интернете, которые мы всегда использовали.
Какие персональные данные?
Мы предполагаем, что технологии безопасности уже достаточно развиты, и разработчики ИИ будут обеспечивать безопасность нашей личной информации, такой как имена, электронная почта и платежная информация. Однако все больше и больше компаний, обладающих хотя бы некоторыми функциями генеративного ИИ, добавляют в свои условия бесплатное использование подсказок пользователя и ответов ИИ.
Это означает, что эти данные может просматривать человек. Если вы используете ChatGPT для планирования отпуска, это может не стать проблемой. Если вы просите GPT отладить какой-либо проприетарный код или отредактировать конфиденциальные контракты в Adobe, это может стать проблемой.
Как обучается генеративный ИИ
Будучи тренером по искусственному интеллекту, я и сотни других тренеров писали подсказки для искусственного интеллекта и соответствующие ответы, чтобы внести свой вклад в огромный набор данных, который поможет специалистам LLM реагировать. Большинство ИИ обучаются на наборах данных, подобных тем, над которыми я работаю, и они вносят в модель иной вклад, чем алгоритмы обработки естественного языка, которые составляют основу большинства генеративных моделей ИИ. Способ создания наборов данных является запатентованным, поскольку наборы данных — это еще один способ сделать модель ИИ уникальной.
Зачем разработчикам нужны пользовательские данные
Хотя технология искусственного интеллекта в той или иной форме существует с 1955 года, технология в ее нынешнем виде является новой. Компании пытаются монетизировать эту новую технологию, заказывая новый ИИ или специальный ИИ для своего программного обеспечения. Данных о том, как обычные люди используют ИИ, практически нет, особенно если учесть, что многие обычные люди вообще его не используют. Как ИИ может улучшить компьютерные программы и приложения? Как это может облегчить задачу? Одна из распространенных жалоб на ИИ заключается в том, что его внедряют в повседневные приложения или веб-сайты, где он не нужен или не нужен. Это может привести к путанице или снижению эффективности пользователей этих приложений и сайтов. На ум приходит старая поговорка: «Если что-то не сломано, не чини это!»
Один из способов решения этой проблемы разработчиками и их клиентами — нанимать людей для чтения подсказок конечным пользователям, классифицировать способы использования ИИ и оценивать, насколько хорошо он работает. Разработчики, маркетологи и социологи должны знать, как мы используем ИИ, потому что это подскажет им, как ИИ может помогать людям, а не раздражать их. Единственный путь вперед — изучить подсказки конечных пользователей. То есть информация, которую вы предоставили службе ИИ во время ее использования. Хорошей новостью является то, что большинство приложений искусственного интеллекта позволяют вам отказаться от сбора данных. Им нужны пользовательские данные, и качество имеет значение, но в большинстве случаев данные одного пользователя так же полезны, как и другого.
Как разработчики могут защитить нашу конфиденциальность
Большинство разработчиков утверждают, что для улучшения ИИ и защиты конфиденциальности пользователей подсказки всегда отделяются от учетных записей, которые их написали. Если это правда, у людей не будет возможности оценить данные и связать подсказку с конкретным человеком. Пока что ни одна крупная компания, занимающаяся искусственным интеллектом, не объявила о каких-либо нарушениях безопасности в отношении пользовательских данных, но потенциал есть. К сожалению, если компанию не взломают, мы не узнаем, насколько безопасно они хранят наши данные. Еще одна опция, обычно доступная в приложениях искусственного интеллекта, таких как Google Gemini, Facebook/Instagram и даже Adobe, позволяет пользователям отказаться от обмена своими данными. Опять же, это требует от конечного пользователя уверенности в том, что разработчик все равно не будет использовать данные. Поскольку у нас нет возможности узнать, насколько безопасны наши данные в этих компаниях, мы должны делать все возможное, чтобы действовать ответственно с нашими данными.
Как мы можем защитить себя?
В каком-то смысле подсказки конечному пользователю — это наша обратная связь с разработчиком об ИИ. Любой ИИ, который никто не использует, окажется ненужным при работе с такими данными. Однако до тех пор, пока не будет установлен определенный уровень доверия, лучше всего следовать стандартным правилам безопасности в Интернете при написании подсказок. Не вводите в ИИ какие-либо личные данные, такие как ваше имя, адрес или идентификационные номера. Предположим, что все, что вы вводите в ChatGPT, чат-бот или генератор изображений, всегда будет в открытом Интернете. Пока разработчики не заслужили наше доверие, практика должна заключаться в том, чтобы самостоятельно управлять нашими данными, насколько это возможно.