Искусственный интеллект научился быть осторожным

Специалисты из Google работают над тем, как привить искусственному интеллекту чувство самосохранения. Нет, речь не о роботе, которого учат хитрить – всё намного прозаичнее.

В последние годы человек продвинулся вперёд в разработке автоматических схем планирования. На машину переложили обязанность составлять алгоритмы, с чем она справляется быстрее и лучше человека, за исключением одной детали. Нередко бывает так, что автоматическое планирование заводит куда-то не туда, работа останавливается, и машина требует вмешательства человека, чтобы тот разрешил ей начать всё сначала.

Теперь программисты разработали «двойной» планировщик: одна его половина работает в уже описанном режиме, другая следит, чтобы всю цепочку действий можно было пройти в обратной последовательности. И машина учится думать заранее, оценивать потенциально опасные ситуации и не попадать в них.