Глава Anthropic, разработчика языковой модели Claude, Дарио Амодеи заявил, что темпы развития искусственного интеллекта (ИИ) необходимо срочно замедлить, чтобы успеть решить связанные с ним вопросы безопасности, сообщает Meduza.
По словам Амодеи, уже в ближайшие 6–12 месяцев мощные ИИ-системы теоретически смогут использовать масштабные ботнеты для атак в интернете, а потенциальный ущерб может исчисляться сотнями миллиардов долларов. Риски, по его мнению, будут только расти по мере дальнейшего усиления ИИ без достаточных защитных механизмов.
Амодеи предложил трехэтапную систему координации. Сначала ИИ-компании должны допустить независимых экспертов к проверке внутренних мер безопасности. Затем необходимо наладить сотрудничество между ведущими компаниями в демократических странах. На третьем этапе, считает он, потребуется уже глобальная координация с участием правительств, в том числе Китая.
Несколько дней назад схожую позицию озвучил глава OpenAI Сэм Альтман. На закрытой встрече с сотрудниками он заявил, что компания готова при необходимости снизить темпы разработки самых продвинутых ИИ-систем ради безопасности и рассчитывает, что другие крупные разработчики поступят так же.
