Anthropic вступает в партнерство с подразделением Accenture Faculty для внедрения оценщиков безопасности ИИ

В рамках значимого события для индустрии искусственного интеллекта компания Anthropic объявила о новом партнерстве с подразделением Faculty компании Accenture для повышения безопасности и согласованности своих передовых моделей. Соглашение, окончательно оформленное 18 сентября 2026 года, устанавливает структуру, в рамках которой независимые оценщики будут работать непосредственно в исследовательских и прикладных группах Anthropic. Эта инициатива направлена на обеспечение более высокого уровня прозрачности и строгого тестирования передовых систем ИИ перед их выпуском для широкой публики. Обе компании обязались выделить не менее 1 миллиарда долларов каждая в течение следующих пяти лет для поддержки этих усилий. Финансирование будет направлено на «красные команды», оценку согласованности (alignment assessments) и комплексное тестирование средств защиты. Внедряя этих оценщиков, Anthropic намеревается обеспечить соответствие своих процессов разработки заявленным целям безопасности. Оценщики получат доступ уровня сотрудника к решениям компании по обучению и развертыванию, что позволит осуществлять надзор в режиме реального времени. Такой уровень доступа призван помочь выявить потенциальные риски, которые могут быть упущены при проведении только внешних аудитов. Дарио Амодеи, генеральный директор Anthropic, ранее подчеркивал важность такого внутреннего контроля и надзора в своих недавних эссе о развитии ИИ. Партнерство не является эксклюзивным, и Anthropic указала, что в настоящее время проводит пилотные аналогичные договоренности с другими организациями, включая некоммерческую компанию METR. Эта стратегия отражает растущую тенденцию среди ведущих лабораторий ИИ к принятию более проактивных и совместных подходов к безопасности. По мере того как модели ИИ становятся все более мощными, отрасль сталкивается с растущим давлением со стороны регулирующих органов и общественности с требованием доказать, что эти системы являются безопасными и надежными. Этот шаг рассматривается как ответ на необходимость более надежного управления в быстро развивающейся области генеративного ИИ. Интегрируя независимых экспертов в основные процессы своей деятельности, Anthropic надеется установить новый стандарт подотчетности в этом секторе. Ожидается, что сотрудничество предоставит ценные данные и идеи, которые могут помочь сформировать будущие общеотраслевые протоколы безопасности. По мере реализации проекта результаты работы этих встроенных оценщиков, вероятно, повлияют на то, как другие компании будут подходить к разработке мощных технологий ИИ.