Создатели ChatGPT решили спасать мир от «катастрофических рисков» использования ИИ

OpenAI, компания, разработавшая ChatGPT, объявила о создании новой команды с единственной задачей – уменьшить «катастрофические риски», которые может предоставлять искусственный интеллект (ИИ) для человечества. В первую очередь внимание будет сосредоточено на угрозах «химического, биологического, радиологического и ядерного» характера, пишет ZeroHedge.

По мнению эксперта Центра стратегических и международных исследований Закари Калленборна, если объединить ИИ с ядерным оружием, то человечество получит рецепт ядерной катастрофы. «Если бы искусственный интеллект контролировал ядерное оружие, все мы могли бы быть мертвы», – заявил он.

Калленборн приводит в пример историю, случившуюся 40 лет назад, когда советские системы предупреждения о ядерном ударе внезапно пришли к выводу, что США начали ядерную войну. Тогда только недоверие компьютерным расчётам подполковника Станислава Петрова спасло мир от катастрофы. Нет никакой гарантии, предупреждает эксперт, что некоторые страны не сделают ИИ ответственным за ядерные запуски, поскольку международное право не предусматривает обязательное присутствие такого же «Петрова».

Ранее страны Евросоюза пришли к предварительному соглашению по знаковым правилам, регулирующим использование ИИ. Соглашение требует, чтобы базовые модели, такие как ChatGPT и системы ИИ общего назначения (GPAI), соблюдали обязательства по прозрачности до их вывода на рынок. В частности, производители должны будут составлять техническую документацию, соблюдать законодательство ЕС об авторском праве и публиковать подробные сводки о контенте, используемом для обучения.