Проект «Моральная машина» от МТИ: может ли общественное мнение научить беспилотный автомобиль этике?

Стремительное развитие технологий автономного вождения обещает навсегда избавить человечество от заторов и аварий по вине водителей. Однако передача руля искусственному интеллекту ставит перед инженерами и философами сложнейшие вопросы этики, которые невозможно решить простым математическим расчетом. Как должен поступить беспилотный автомобиль в критической ситуации, когда авария неизбежна? Сбить двоих детей, выбежавших на дорогу, или врезаться в бетонную стену, пожертвовав жизнью собственного пассажира? Пытаясь найти ответ, специалисты Массачусетского технологического института (МТИ) запустили масштабный глобальный эксперимент «Моральная машина».

Оцифровка морали: классическая проблема вагонетки в мире ИИ

В основе проекта лежит знаменитая этическая дилемма, придуманная философами более полувека назад — проблема вагонетки. МТИ перенес эту задачу в современную реальность беспилотного транспорта.

Интерактивный веб-сайт проекта предлагает пользователям со всего мира решить серию сложных сценариев дорожных происшествий. Игроку необходимо выбрать, кого должен сбить автономный автомобиль в условиях внезапного отказа тормозов: пожилую пару или молодую семью, бездомного или успешного бизнесмена, нарушителей правил дорожного движения или законопослушных пешеходов. Эксперимент привлек колоссальное внимание прессы и позволил собрать более миллиона голосов из разных стран планеты.

Ограничения толпы: почему этика не строится на опросах

Несмотря на уникальный масштаб, проект «Моральная машина» вызвал серьезную критику со стороны консервативных ученых и специалистов по ИИ. Они указывают на фундаментальные недостатки такого подхода к обучению машин:

• Фактор безответственности: Решать абстрактные дилеммы на экране компьютера в теплом кресле совсем не то же самое, что вцепиться в руль реального автомобиля в момент смертельной опасности.
• Культурный перекос: Опросы в интернете не гарантируют репрезентативности выборки — в них участвуют преимущественно молодые технически подкованные пользователи, чьи ценности могут сильно отличаться от мнения остального населения планеты.
• Опасность «среднего» общества: Хотим ли мы, чтобы искусственный интеллект будущего отражал некие бесформенные, усредненные ценности толпы, которые в отдельных культурах могут граничить с дискриминацией?

Совет от youtube03.com

Интересуясь развитием технологий искусственного интеллекта и беспилотного транспорта, не поддавайтесь искушению переложить всю ответственность за принятие сложных этических решений на бездушные алгоритмы или усредненное мнение интернет-пользователей. Помните, что истинный гуманизм — это способность человека брать личную ответственность в моменты кризисов. Развивайте критическое мышление и не забывайте, что последнее слово всегда должно оставаться за человеком.