Базирующаяся в Брюсселе группа под названием PauseAI считает, что ИИ опасен. Активисты пытаются убедить Европейский союз остановить развертывание более мощных систем искусственного интеллекта.
За последние несколько месяцев новые инструменты, такие как ChatGPT, вызвали опасения, что ИИ лишит работы миллионы людей или будет распространять дезинформацию, особенно во время выборов.
По словам основателя PauseAI, эти мощные системы очень скоро смогут перехитрить и даже манипулировать людьми. И если люди попытаются вмешаться или отключить их, эти технологии могут оказать сопротивление.
Со временем компании будут готовы дать системам ИИ больше самостоятельности и подключить их к жизненно важной инфраструктуре, например, энергосетям, или дать доступ к вооружениям. Вот почему основатель группы PauseAI также просит ЕС провести международный саммит по этому вопросу.
PauseAI не единственные, кто бьет тревогу по этому поводу. В июне премьер-министр Великобритании Риши Сунак стал одним из первых мировых лидеров, признавших потенциальную «экзистенциальную» угрозу разработки «сверхразумного» ИИ без соответствующих мер предосторожности.
Недавно сотни исследователей и руководителей технологических компаний подписали открытое письмо с предупреждением о том, что ИИ может однажды уничтожить человечество.
Но некоторые утверждают, что ИИ всё ещё слишком недоразвит, чтобы представлять экзистенциальную угрозу, и что краткосрочные проблемы, такие как предвзятость и ошибки в ответах, должны вызывать сейчас наибольшее беспокойство. Сэм Альтман, генеральный директор OpenAI, разработавшей ChatGPT, сказал, что, хотя искусственный интеллект может быть полезен для людей, регулировать ИИ необходимо.
