Глава 9. Полностью автоматизированное принятие решений

12 декабря 2016 года участник форума Tesla Motors Club под ником jmdavis в теме, посвященной электромобилям, описал свой опыт передвижения по Флориде. Он ехал на работу по шоссе со скоростью примерно 96 км/ч. На приборной панели загорелся индикатор движущейся впереди машины, которую не было видно за грузовиком. Внезапно сработало экстренное торможение, хотя грузовик не замедлил ход. Спустя секунду он вильнул вбок, объезжая резко остановившуюся перед внезапным препятствием машину. Tesla приняла решение тормозить раньше грузовика и сохранила безопасную дистанцию. Вот описание этой ситуации.

«Если бы я управлял машиной самостоятельно, то вряд ли смог бы остановиться вовремя, поскольку не видел, как встала другая машина. Мой автомобиль отреагировал задолго до действий ее водителя, поэтому я избежал аварии, только при резкой остановке сильно тряхнуло. Отличная работа! Спасибо, Tesla, ты спасла меня»[84].

Tesla только что разослала на свои автомобили обновление, с помощью которого автопилот сможет использовать информацию с радара и четко представить обстановку впереди машины[85]. Функция Tesla сработала в беспилотном режиме, но легко вообразить, как машина берет управление на себя в случае угрозы аварии. Автопроизводители США заключили соглашение с Министерством транспорта о разработке стандарта систем автоматического экстренного торможения к 2022 году[86].

Граница между ИИ и автоматическим управлением, как правило, размыта. Автоматическое управление начинается, когда машина берет на себя выполнение задачи, а не только прогноз. Сегодня человеку приходится периодически вмешиваться в процесс управления автомобилем. Когда же он будет полностью автоматизирован?

В своем нынешнем воплощении ИИ машина выполняет одну функцию – прогностическую. Остальные функции дополняют ее, и их ценность возрастает с удешевлением прогнозов. На целесообразность полностью автоматического управления влияет относительная отдача от выполнения машинами других функций.

Люди и машины могут накапливать разные типы данных: входные, обучающие и обратной связи. Суждение полностью возложено на человека, но он способен закодировать суждение и внести его в программу до составления машиной прогноза. Или машина может научиться прогнозировать человеческое суждение на данных обратной связи, что заставляет нас действовать. В каких случаях суждения о действиях следует поручить машинам вместо людей? Или, точнее, когда тот факт, что прогнозированием занимается машина, повышает отдачу от совершения действия машиной, а не человеком? Следует определить отдачу от выполнения машинами других функций (сбор данных, суждение, действия), чтобы решить, должно быть или будет ли выполнение задачи полностью автоматизированным.