Open AI и Anthropic приглашают американских ученых экспериментировать с пограничными моделями

Ученые Министерства энергетики США приняли участие в однодневном «Джем-сейшене искусственного интеллекта», чтобы оценить способность новых моделей решать «самые насущные научные проблемы нашей страны».

Партнерские отношения между компаниями, занимающимися искусственным интеллектом, и правительством США расширяются, даже несмотря на то, что будущее безопасности и регулирования искусственного интеллекта остается неясным.

В пятницу Anthropic, OpenAI и другие компании, занимающиеся искусственным интеллектом, собрали 1000 ученых для тестирования своих новейших моделей. На мероприятии, организованном OpenAI и называемом AI Jam Session, ученые из девяти лабораторий в день могли использовать несколько моделей, в том числе o3-mini от OpenAI и Claude 3.7 Sonnet, последний релиз Anthropic, для продвижения своих исследований.

В своем заявлении Anthropic говорится, что сессия «предлагает более достоверную оценку потенциала ИИ для управления сложностями и нюансами научных исследований, а также для оценки способности ИИ решать сложные научные задачи, которые обычно требуют значительного времени и ресурсов».

AI Jam Session является частью существующих соглашений между правительством США, Anthropic и OpenAI. В апреле Anthropic в партнерстве с Министерством энергетики (DOE) и Национальным управлением по ядерной безопасности (NNSA) создала красную команду Claude 3 Sonnet, проверяя, сможет ли он раскрыть опасную ядерную информацию. 30 января OpenAI объявила о партнерстве с Национальными лабораториями Министерства энергетики США, чтобы «усилить их научные исследования с использованием наших новейших моделей рассуждений».

Национальные лаборатории, сеть из 17 научно-исследовательских и испытательных центров, расположенных по всей стране, исследуют темы от ядерной безопасности до решений в области изменения климата.

Участвующим ученым также было предложено оценить ответы моделей и дать компаниям «обратную связь для улучшения будущих систем искусственного интеллекта, чтобы они были построены с учетом потребностей ученых», — говорится в заявлении OpenAI к мероприятию. В компании отметили, что поделятся выводами сессии о том, как ученые могут лучше использовать модели ИИ.

В объявление OpenAI включено заявление министра энергетики Криса Райта, который сравнил разработку ИИ с Манхэттенским проектом как следующее «патриотическое усилие» страны в науке и технике.

Более широкое партнерство OpenAI с Национальными лабораториями направлено на ускорение и диверсификацию лечения и профилактики заболеваний, повышение кибербезопасности и ядерной безопасности, изучение возобновляемых источников энергии и продвижение физических исследований. Партнерство AI Jam Session и National Labs происходит наряду с несколькими другими инициативами между частными фирмами в области искусственного интеллекта и правительством, включая ChatGPT Gov, чат-бот OpenAI специально для местных, государственных и федеральных агентств, а также Project Stargate, инвестиционный план центра обработки данных на сумму 500 миллиардов долларов.

Эти соглашения дают представление о том, как стратегия США в области искусственного интеллекта снижает акцент на безопасности и регулировании при администрации Трампа. Несмотря на то, что они еще не состоялись, слухи о сокращении персонала в Институте безопасности искусственного интеллекта, что является частью более широких увольнений в DOGE, ходят уже несколько недель, и глава института уже ушел в отставку. План действий нынешней администрации по искусственному интеллекту еще не объявлен, что оставляет будущее надзора за искусственным интеллектом в подвешенном состоянии.

Подобные партнерства, которые передают последние разработки в области искусственного интеллекта непосредственно в руки правительственных инициатив, могут стать более распространенными, поскольку администрация Трампа более тесно сотрудничает с компаниями в области искусственного интеллекта и снижает приоритет участия сторонних наблюдателей. Риск заключается в еще меньшем контроле за тем, насколько мощными и безопасными являются новые модели (регулирование уже зарождается в США), поскольку развертывание ускоряется.