Американское госучреждение, которое тестирует передовые системы искусственного интеллекта на безопасность, не имеет постоянного руководителя и перестало публиковать свои исследования, сообщает Associated Press.

Двое бывших правительственных чиновников рассказали агентству, что сотрудников Центра содействия инновациям и разработке стандартов для суперинтеллекта (CAISSI), входящего в состав Министерства торговли, недавно попросили неформально отчитываться перед одним из офисов Белого дома.

Критики считают, что такое изменение может политизировать работу центра. По их словам, его выводы могут сглаживаться в угоду компаниям, занимающимся ИИ, которые в значительной степени предоставлены сами себе в вопросах регулирования.

Каролин Зигель Сингх из Федерации американских ученых заявила, что цель состояла в том, чтобы «беспартийные или двухпартийные технократические эксперты» формировали политику в общественных интересах.

Другие утверждают, что более тесная связь с президентом Дональдом Трампом может повысить известность центра и принести ему больше финансирования. CAISSI получает 10 млн долларов (8,94 млн евро) в год, что примерно составляет одну восьмую бюджета его британского аналога.

Для сравнения, Канцелярия по вопросам ИИ ЕС, которая работает в структуре Европейской комиссии и с августа имеет полномочия штрафовать разработчиков наиболее продвинутых моделей ИИ, насчитывает более 125 сотрудников и, по сообщениям, нанимает еще 40 человек.

Нет руководителя, нет отчетов, нет надзора

CAISSI испытывает трудности с назначением руководителя. Коллин Бернс, ранее работавший в Anthropic, был отстранен от должности директора уже через четыре дня в апреле, по сообщениям, из-за его связей с этой компанией.

Его преемник, Крис Фолл, подал в отставку через три месяца.

Арвинд Раман, возглавляющий материнскую структуру центра, Национальный институт стандартов и технологий, сейчас исполняет обязанности директора. В августе Конгресс поинтересовался, почему центр перестал публиковать свои отчеты по безопасности.

В сентябре Трамп призвал компании, работающие с ИИ, взять на себя обязательства по «колоссальному самоконтролю» в рамках добровольного соглашения, но его администрация так и не объяснила, как именно будет проверять соблюдение этих обещаний.

В Белом доме не ответили на вопросы о CAISSI. Вместо этого там сослались на новую Super Intelligence Force Трампа, которую возглавляет директор национальной разведки Джей Клейтон.

Амос То из Центра правосудия Бреннана заявил AP, что подход к безопасности ИИ как к вопросу национальной безопасности чреват оттеснением на второй план защиты прав потребителей, приватности и гражданских свобод.

«Все эти решения имеют огромные последствия для общества и должны быть разъяснены и обоснованы публично, сказал То. И этого не происходит».