Встреча в ИМА-школе с деканом факультета социальных наук МВШСЭН Виктором Вахштайном 29.08.2019

В ИМА-школе декан факультета социальных наук МВШСЭН Виктор Вахштайн рассказал об одном из интереснейших направлений в современной социологической науке – социологии техники. Виктор Семенович говорил о науке живым языком, вызывая у слушателей заинтересованность, удивление и даже смех: «Искусственный интеллект – это не самостоятельное поле, не отдельная единица. Если это робот-преподаватель, то это тоже искусственный интеллект. Никакой принципиальной разницы нет. Мы, например, делегировали роботу читать лекцию в Вест-Пойнте (военной академии США). А дальше, предположим, робот начинает нести фигню. А робот обязательно начинает нести фигню, так как курсанты начинают стебаться над роботом и задают ему вопрос: «Что такое любовь?» И тот начинает им рассказывать что-то политически правильное: про равенство полов, про гендерную нейтральность. Дальше курсанты спрашивают: «В чем разница между живым и не живым?» Робот отвечает: «Быть живым – значит любить» То есть генерирует бессмысленную фигню сразу по ходу вопросов. И этим мало чем отличается от большинства преподавателей». «Мне всегда нравилась инверсия в нарративах технооптимистов. Например, беспилотник сбил человека, и мы решаем, как его судить. Тут в дискуссию вступает технооптимист: «А почему вы не берете во внимание то, что беспилотники уже спасли четырех человек, у которых случился инфаркт за рулем, - изменили траекторию движения и довезли до больницы!?» Вот она – кармическая справедливость: четырех убили, четырех спасли». «Мы все немножко индоктринированы Айзеком Азимовым. И не только мы, но и люди, которые в Южной Корее разрабатывают «Этический кодекс поведения беспилотного автомобиля» и ссылаются на три закона робототехники. Вернее, они ссылаются не на три, а на четыре закона: когда произведения Азимова переводили на французский язык, переводчик ошибся и вместо «Причинить вред человеку» перевел «Причинить вред человечеству». Азимову это так понравилось, что он добавил «нулевой закон»: робот не может допустить, чтобы человечеству в целом был причинен вред. Отдельного человека грохнуть ради спасения мира? Не вопрос!» «Тень от вашего автомобиля пересекла двойную сплошную. Штраф, по сути, вам выписал алгоритм. Пока еще где-то сидит сержант, который должен санкционировать каждый выписанный алгоритмом штраф. У алгоритма пока проблема и с расчетом, и с сенсорами – они не очень хорошо понимают, где заканчивается машина и начинается ее тень. Что делает пьяный сержант? Он берет все 200 выписанных алгоритмом штрафов и благополучно их санкционирует, не открывая ни один из них. Он работает вялым приложением к алгоритму, обеспечивая легитимность принятого алгоритмом решения. Теперь вам придется оправдываться перед алгоритмом, которому пофиг, и перед человеком, который делегировал это решение алгоритму».