Ученые и лидеры ИТ-компаний призвали приостановить разработку человекоподобного ИИ

Генеральный директор Tesla и SpaceX Илон Маск и другие лидеры технологических компаний призывали взять паузу в «опасной гонке» по созданию искусственного интеллекта, не уступающего по уровню развития человеческому.

В открытом письме «Института будущего жизни» Маск, соучредитель Apple Стив Возняк, кандидат в президенты 2020 года Эндрю Янг и другие подписанты призвали ИИ-лаборатории прекратить обучение моделей мощнее GPT-4 – последней версии большой языковой модели, разработанной американским стартапом OpenAI.

«Современные системы искусственного интеллекта сейчас становятся конкурентоспособными по отношению к человеку при выполнении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой?» – сказано в письме.

Авторы письма задаются вопросами: «Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовольствие? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге превзойдут, перехитрят и заменят нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?».

По их мнению, такие решения не должны принимать руководители ИТ-компаний, поскольку они не избирались, а значит не могут действовать от имени всего общества.

Институт будущего жизни – это базирующаяся в США некоммерческая организация, которая выступает за ответственное и этичное развитие искусственного интеллекта. Ранее институт добился от Маска и ИИ-лаборатории DeepMind обещания никогда не разрабатывать смертоносные автономные системы вооружений.

Институт заявил, что призывает все лаборатории ИИ немедленно приостановить на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Презентованный в начале марта GPT-4 считается гораздо более совершенным, чем его предшественник GPT-3.

ChatGPT стал настоящим прорывом в отрасли, поскольку способен давать человекоподобные ответы на запросы пользователей. За два месяца после запуска ChatGPT собрал 100 миллионов активных пользователей, что делает его самым быстрорастущим потребительским приложением в истории. Нейросеть совершенствуется, обучаясь на огромных объемах данных из Интернета.

Илон Маск также является одним из соучредителей OpenAI, хотя в 2018 году он вышел из совета директоров OpenAI и больше не имеет доли в компании. В последнее время он неоднократно критиковал организацию за то, что она отклоняется от своей первоначальной цели.