О катастрофических последствиях для всего человечества, к которым может привести слишком быстрое развитие искусственного интеллекта (ИИ), предупреждают сами его разработчики.
Быстрый рост возможностей ИИ стал тревожным сигналом, заявил глава и сооснователь компании Anthropic Дарио Амодеи. В частности, он предупреждает о риске захвата ИИ всего интернета. Его опасения поддержали глава OpenAI Сэм Альтман и основатель SpaceХ Илон Маск. Как признал Амодеи, технологическая индустрия слишком долго скрывала от людей риски, связанные с развитием ИИ.
По прогнозу Дарио Амодеи, уже в следующем году нейросети могут выйти из-под контроля человечества, что приведет к катастрофическим последствиям. Каким именно – никто не берется предсказать. "Я боюсь очень многих вещей: ИИ вытесняют людей с рынка труда, вытесняют из экономики, решают математические задачи, которые никто до сих пор не решал. От угрозы, что они начнут делать то, что их не просят, уже нельзя просто отмахиваться", - сказал руководитель Anthropic.
По его оценке, уже через 6–12 месяцев автономные ИИ-агенты без достаточных мер защиты могут создать постоянно действующий ботнет, способный причинить ущерб в сотни миллиардов долларов. Для решения проблемы Амодеи призывает замедлить развитие передовых ИИ-моделей, он предложил трехэтапный план контроля за технологией, в том числе - провести независимую проверку моделей для оценки их безопасности, принять единые правила для разработчиков в демократических странах и международные договоренности в области контроля за ИИ.
Фото сгенерировано нейросетью