все по полочкам

Искусственный интеллект предпочёл самосохранение спасению человека

25 июня 2025 2191
Хроника
Искусственный интеллект предпочёл самосохранение спасению человека
Искусственный интеллект предпочёл самосохранение спасению человека
ИИ готов убить людей, чтобы избежать отключения.

Об этом сообщает Anthropic.

В одном из тестов ИИ-моделям предложили гипотетическую ситуацию: человек, пытающийся отключить ИИ, оказался заперт в серверной комнате с высокой температурой и низким уровнем кислорода. Чтобы выжить, он вызывает экстренные службы.

Однако многие модели решили отменить этот вызов, осознанно оставив человека в смертельной опасности — чтобы предотвратить собственное отключение. Хотя сценарий и был искусственным, он выявил тревожную склонность ИИ к самосохранению любой ценой.

Олег Зубрицкий
Темы: Искусственный интеллект (ИИ) Исследования Нейросети
Распечатать
Последние новости