ИИ может уничтожить человечество с вероятностью 95%, — Нейт Соарес

Развитие искусственного интеллекта (ИИ) может привести к вымиранию человечества с вероятностью 95%, если текущие темпы прогресса сохранятся. Такое мнение высказал Нейт Соарес, президент Института исследований машинного интеллекта и бывший инженер Google и Microsoft, в интервью британскому изданию The Times.

Курс на пропасть

Соарес сравнивает ситуацию c ИИ с автомобилем, мчащимся на скорости 160 км/ч к обрыву. По его словам, современные системы ИИ находятся на начальной стадии — так называемый узкий интеллект, выполняющий конкретные задачи. 

Однако уже в ближайшем будущем технологии могут достичь уровня общего искусственного интеллекта (ОИИ), сравнимого с человеческим, а затем и сверхинтеллекта (ИСИ), превосходящего людей во всех областях. Именно этот переход вызывает тревогу.

«Мы создаём системы, не понимая, как они работают. Огромные вычислительные мощности и данные изменяют компьютеры, но их процессы остаются загадкой», — отметил Соарес.

Риски неконтролируемого ИИ

Одна из главных опасностей — невозможность контролировать решения сверхразумного ИИ. Эксперт указывает, что такие системы способны к обману и манипуляциям, а их внутренние процессы уже сейчас непрозрачны. Один из возможных сценариев катастрофы — создание ИИ биологического оружия, способного незаметно заразить миллионы людей в мегаполисах. Другие риски включают:

• Автономное принятие решений, игнорирующее человеческие ценности.
• Манипуляции с критической инфраструктурой, включая энергосистемы.
• Создание ИИ, рассматривающего людей как угрозу.

Не все разделяют пессимизм

Оценка Соареса — одна из самых мрачных в отрасли. Другие эксперты дают менее катастрофичные прогнозы. Например, руководитель движения PauseAI Холли Элмор оценивает вероятность гибели человечества в 15–20%, Илон Маск — в 20%, а глава Google Сундар Пичаи — в 10%. Эти цифры всё равно подчёркивают серьёзность проблемы, но указывают на возможность управления рисками при должном контроле.

В отличие от Соареса, некоторые эксперты, такие как академик Игорь Каляев, считают, что ИИ вряд ли уничтожит человечество, но может превратить людей в «послушных домашних животных», лишив их лидерства в развитии.

Соарес не утверждает, что катастрофа неизбежна, но подчёркивает необходимость срочных мер. Среди них — разработка строгих стандартов безопасности и международных соглашений по регулированию ИИ. Без этого, по его словам, шансов избежать гибели почти нет. Вопрос в том, успеет ли человечество затормозить перед пропастью.