Лента TH Новости Искусственный интеллект


Компания DeepMind изучила особенности межмашинного взаимодействия ИИ

∴ 224

Двух агентов искусственного интеллекта поместили на игровые площадки, с заданными параметрами. Цель эксперимента – выяснить модели поведения агентов ИИ при взаимодействии друг с другом.

72

Исследование проводила компания DeepMind, что является дочерней компанией Google. В рамках исследования было создано две игры. В первой игре, 2 игрока собирали яблоки из большой кучи. При этом была возможность выстрелить лазером в конкурента, тем самым временно удалить его из игры. Во второй игре, игроки охотились за «жертвой», получая очки не только за ее поимку, но и за поимку соперника. В зависимости от ситуации, агенты ИИ проявляли как кооперацию, так и вражду. В погоне за яблоками, пока куча была большой, ИИ не враждовали, и собирали фрукты. Но когда ресурс уменьшался, игроки тут же начинали вести бой лазерами.

Исследователи заметили, что алгоритму ИИ проще сотрудничать, добывая ограниченный ресурс. При начале перестрелке, алгоритм задействует больше вычислительных ресурсов и при расчете это не выгодно. Кооперация для систем ИИ выгодна, так как экономит их силы. Так же поведение зависело от награды. При разделении очков поровну, игроки кооперировались, при дефиците очков – начинали враждовать.

Эксперимент был поставлен в ответ на растущее количество систем искусственного интеллекта, которые контролируют муниципальные структуры и умные дома. Это создает риск, что столкнувшись в одной зоне влияния, системы ИИ начнут вражду, что негативно скажется на людях. Но пока им не за что конкурировать, человечество может спать спокойно.

Филипп Дончев