«Самый непонятый X-риск – деградация агентности людей».

Карелов Сергей, к.т.н., экс топ-менеджер IBM, SGI, Cray Research, сооснователь Witology, ведущий популярного телеграм-канала«Малоизвестное интересное». В ходе дискуссии обсуждаются следующие вопросы: • Четыре типа экзистенциальных ИИ-рисков • 4-й тип экзистенциального ИИ-риска –ослабление агентности людей (уменьшение их способностей контролировать свой выбор) • Когнитивные фазовые переходы Homo sapiens • Последствия деградации агентности людей (смена типа культуры и её носителя, смена формы и характера цивилизации) • Переформатирование мира в цифру (постнормальный мир, постнормальная наука, постнормальный социум) • Переформатирование цивилизации и Homo sapiens (изменение когнитивных процессов, человеческая природа, социальных связей и институтов) • Предложение Йошуа Бенжио –лишить ИИ агентности