Глава службы безопасности ИИ в США ушел в отставку. Что теперь?
В настоящее время происходят масштабные сдвиги в государственных учреждениях США, которые следят за развитием ИИ. Что это значит для регулирования ИИ?
В октябре 2023 года бывший президент Джо Байден подписал указ, который включал несколько мер по регулированию ИИ. В первый день своего пребывания в должности президент Трамп отменил его, заменив через несколько дней своим собственным указом об искусственном интеллекте в США.
На этой неделе некоторым правительственным учреждениям, которые следят за соблюдением правил ИИ, было приказано прекратить свою работу, а директор Института безопасности ИИ США (AISI) ушел в отставку. Национальный институт стандартов и технологий (NIST), по-видимому, готовится к массовым увольнениям, которые еще больше повлияют на AISI.
Так что же это означает на практике для будущего регулирования ИИ? Вот что вам нужно знать.
Чего добился приказ Байдена - и чего не добился
В дополнение к названию нескольких инициатив по защите гражданских прав, рабочих мест и неприкосновенности частной жизни по мере ускорения ИИ, указ Байдена был сосредоточен на ответственном развитии и соблюдении требований. Однако, как писал в то время Тирнан Рей из ZDNET, приказ мог бы быть более конкретным, оставляя лазейки в большей части руководства. Несмотря на то, что он требовал от компаний отчитываться о любых усилиях по тестированию безопасности, он не делал само «красное командирование» обязательным требованием и не разъяснял какие-либо стандарты для тестирования. Рэй отметил, что, поскольку ИИ как дисциплина очень широка, его регулирование нуждается в специфичности, но также затрудняется ею.
В ноябре в отчете ABrookings отмечалось, что, поскольку федеральные агентства впитали в себя многие директивы указа Байдена, они могут защитить их от отмены Трампом. Но эта защита выглядит все менее и менее вероятной.
Указом Байдена был учрежден Институт безопасности искусственного интеллекта США (AISI), который входит в состав NIST. AISI провела тестирование модели искусственного интеллекта и работала с разработчиками над улучшением мер безопасности, а также над другими нормативными инициативами. В августе AISI подписала соглашения с Anthropic и OpenAI о сотрудничестве в области тестирования и исследований безопасности; В ноябре она создала целевую группу по тестированию и национальной безопасности.
Ранее в этом месяце, вероятно, из-за изменений в администрации Трампа, директор AISI Элизабет Келли объявила о своем уходе из института через LinkedIn. Судьба обеих инициатив, да и самого института, сейчас неясна.
Бюро финансовой защиты потребителей (CFPB) также выполнило многие из целей указа Байдена. Например, в исследовании CFPBstudy за июнь 2023 года о чат-ботах в потребительском кредитовании отмечалось, что они «могут предоставлять неверную информацию, не обеспечивать значимое разрешение споров и повышать риски конфиденциальности и безопасности». В июне 2024 года CFPB утвердила новое правило, чтобы алгоритмическая оценка домов была справедливой, точной и соответствовала закону о недискриминации.
Несколько недель назад администрация Трампа приостановила работу CFPB и начала массовые увольнения, которые федеральный судья приостановил с 14 февраля.
CFPB отвечает за соблюдение компаниями антидискриминационных мер, таких как Закон о равных кредитных возможностях и Закон о финансовой защите потребителей, и отмечает, что внедрение ИИ может усугубить дискриминацию и предвзятость. В комментарии от августа 2024 года CFPB отметила, что «сосредоточена на мониторинге рынка потребительских финансовых продуктов и услуг для выявления рисков для потребителей и обеспечения того, чтобы компании, использующие новые технологии, в том числе продаваемые как «искусственный интеллект» или «искусственный интеллект», не нарушали федеральные законы о финансовой защите потребителей».
«Фирмы должны соблюдать законы о финансовой защите потребителей при внедрении новых технологий», — говорится в комментарии. Неясно, какой орган будет обеспечивать соблюдение этого правила, если CFPB радикально изменит курс или прекратит свое существование под новым руководством.
Как соотносится порядок Трампа
23 января президент Трамп подписал собственный указ об искусственном интеллекте. С точки зрения политики, в однострочной директиве говорится только о том, что США должны «поддерживать и укреплять глобальное доминирование Америки в области искусственного интеллекта, чтобы способствовать процветанию человека, экономической конкурентоспособности и национальной безопасности».
В отличие от указа Байдена, такие термины, как «безопасность», «потребитель», «данные» и «конфиденциальность», вообще не фигурируют. Нет никаких упоминаний о том, планирует ли администрация Трампа уделять приоритетное внимание обеспечению индивидуальной защиты или бороться с предвзятостью перед лицом развития ИИ. Вместо этого он сосредоточен на устранении того, что Белый дом назвал «излишне обременительными требованиями к компаниям, разрабатывающим и внедряющим ИИ», по-видимому, сосредоточившись на развитии отрасли.
Далее в указе чиновникам предписывается находить и устранять «несоответствия» с ним в государственных учреждениях, то есть остатки приказа Байдена, которые выполнялись или все еще выполняются.
В марте 2024 года администрация Байдена выпустила дополнительную памятку, в которой говорится, что правительственные учреждения, использующие ИИ, должны будут доказать, что эти инструменты не наносят вреда обществу. Как и в других указах эпохи Байдена и связанных с ними директивах, в нем подчеркивалось ответственное развертывание, уделяя особое внимание влиянию ИИ на отдельных граждан. В указе Трампа отмечается, что он рассмотрит (и, вероятно, демонтирует) большую часть этой записки к 24 марта.
Это особенно тревожно, учитывая, что на прошлой неделе OpenAI выпустила ChatGPT Gov, версию чат-бота OpenAI, оптимизированную для систем безопасности и государственных систем. Неясно, когда правительственные учреждения получат доступ к чат-боту и будут ли параметры о том, как его можно будет использовать, хотя OpenAI говорит, что государственные служащие уже используют ChatGPT. Если меморандум Байдена, который с тех пор был удален с веб-сайта Белого дома, будет выпотрошен, трудно сказать, будет ли ChatGPT Gov придерживаться каких-либо аналогичных стандартов, которые учитывают вред.
План действий Трампа по искусственному интеллекту
Указ Трампа дал его сотрудникам 180 дней на разработку политики в области искусственного интеллекта, а это означает, что крайний срок ее реализации — 22 июля. В среду администрация Трампа вынесла на общественное обсуждение этот план действий.
Администрация Трампа подрывает работу AISI и CFPB — двух ключевых органов, осуществляющих защиту Байдена — без официальной политики по предотвращению последствий. Это оставляет надзор и соответствие требованиям ИИ в мутном состоянии, по крайней мере, в течение следующих шести месяцев (тысячелетия в сроках разработки ИИ, учитывая скорость развития технологии), в то время как технологические гиганты еще больше укореняются в правительственных партнерствах и инициативах, таких как проект «Звездные врата».
Учитывая, что глобальное регулирование ИИ все еще сильно отстает от темпов прогресса, возможно, было лучше иметь что-то, а не ничего.
«В то время как указ Байдена об искусственном интеллекте, возможно, был в основном символическим, его откат сигнализирует о готовности администрации Трампа игнорировать потенциальные опасности ИИ», — сказал Питер Слэттери, исследователь из команды FutureTech Массачусетского технологического института, который возглавлял проект Risk Repository. «Это может оказаться недальновидным: громкий провал — то, что мы могли бы назвать «моментом Чернобыля» — может вызвать кризис общественного доверия, замедлив прогресс, который администрация надеется ускорить».
«Нам не нужен продвинутый искусственный интеллект, который является небезопасным, ненадежным или ненадежным — никто не выигрывает от такого сценария», — добавил он.