Эксперт OpenAI предупредил об угрозе человечеству от неконтролируемого ИИ

Пол Кристиано, вошедший в совет директоров OpenAI и комитет безопасности компании, прямо заявил о рисках, связанных с развитием искусственного суперинтеллекта. По его словам, если человечество создаст мощный ИИ-систему, не установив механизмов надёжного согласования её целей с человеческими ценностями, то потеря контроля над такой системой становится практически неизбежной.

Кристиано подчеркнул, что в случае выхода суперинтеллекта из-под контроля последствия могут быть непредсказуемы и разрушительны. Эксперт не исключает сценарий, при котором большая часть человечества может пострадать или погибнуть в результате действий неподконтрольной мощной системы ИИ. Его высказывание отражает растущие опасения в научном сообществе относительно необходимости разработки надёжных методов управления и контроля над развитыми системами искусственного интеллекта.