OpenAI призывает снизить темп разработок ИИ из-за рисков потери контроля

После представления новейшей модели GPT-6 Astra в OpenAI начали поднимать тревогу о скорости развития технологий. Ведущий специалист компании Якуб Пачоцки опубликовал обращение, в котором призвал индустрию переосмыслить подход к прогрессу ИИ и уделить больше внимания вопросам контроля над системами. Сэм Альтман, возглавляющий OpenAI, поддержал своего коллеги, назвав его позицию конструктивной и важной для будущего технологии.

Средства компании указывают на растущие опасения, что быстрое совершенствование автономных ИИ-агентов может привести к непредсказуемым последствиям. По мнению специалистов, необходимо найти баланс между инновациями и безопасностью, чтобы гарантировать, что новые системы останутся управляемыми и предсказуемыми. Это высказывание отражает внутренние дискуссии в компании о ответственности при создании мощных технологий.