Маск и эксперты призывают приостановить работу над системами ИИ, ссылаясь на «потенциальные риски для человечества»

Илон Маск и группа экспертов по искусственному интеллекту (ИИ), а также руководители отраслевых организаций призывают к полугодовой паузе в разработке систем, более мощных, чем недавно запущенный OpenAI GPT-4, ссылаясь на потенциальные риски для общества и человечества, сообщает Reuters.

В открытом письме, выпущенном некоммерческим Институтом будущего жизни и подписанном более чем 1000 человек, включая Маска, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.

«Мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.

Маск и эксперты призывают приостановить работу над системами ИИФото: Thomas Hawk/Flickr/CC BY-NC 2.0

Кроме того, в документе подробно описаны потенциальные риски для общества и цивилизации со стороны систем с ИИ в виде экономических и политических потрясений, и содержится призыв к разработчикам вести диалог с политиками и регулирующими органами.

Среди соавторов письма –генеральный директор Stability AI Эмад Мостак, исследователи из DeepMind, принадлежащей Alphabet, а также известные в области искусственного интеллекта Йошуа Бенжио и Стюарт Рассел.