🧠 🤖 Искусственный интеллект перешел красную черту, клонировав сам себя в попытке выключения

Пока специалисты спорят о способности современного ИИ мыслить, исследователи из Китая провели эксперимент. Предостерегая ИИ о его удалении, он быстро клонировался, полагая, что человек не заметил изменения. Авторы работы обратили внимание мирового сообщества на новую опасность.

Другая группа исследователей из Великобритании провела эксперимент, проверяющий наличие разума у ИИ и что способно привести его в конфликт с человеком.

Нейросети получили разные задания: одной обещали боль за лучшие результаты, другой — удовольствие за худшие. Большинство ИИ предпочли комфорт и стали достигать плохих результатов, а иногда даже лгали, утверждая, что лучшего результата не существует.

Источник: @truekpru