Илон Маск призвал приостановить обучение нейросетей «из-за угрозы обществу»

Самый богатый предприниматель мира по версии журнала Forbes Илон Маск вместе с группой технологических экспертов призвали приостановить обучение новых систем искусственного интеллекта (ИИ) из-за возможной угрозы, которые обучаемые модели могут нести обществу.

Письмо опубликовала финансируемая Маском американская некоммерческая организация Future of Life Institute, его подписали больше тысячи человек.

В тексте утверждается, что системы искусственного интеллекта могут изменить развитие человечества, и должны управляться с соразмерным масштабу вниманием и ресурсами. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что эффекты от их работы будут положительными, а риски управляемыми», говорится в тексте.

Авторы отмечают, что современные системы ИИ способны конкурировать с человеком в решении широкого спектра задач, поэтому человечество должно решить, должны ли быть полностью автоматизированы работы, должны ли люди рисковать «потерей контроля над цивилизацией» и должны ли люди разрабатывать системы, которые будут умнее людей и сделать человека «безнадежно устаревшим».

В обращении говорится, что такие решения не должны доверяться лидерам технологической отрасли, которых никто не избирал. Подписанты предлагают на полгода приостановить разработку любых систем искусственного интеллекта, мощнее, чем уже вышедшая для работы в публичном пространстве модель GPT-4, разработанная компанией OpenAI.

Среди подписавших текст есть известные ученые в области искусственного интеллекта, канадец Йошуа Бенжио и британец Стюарт Рассел.

Источник