Горе от ума

1075

Похоже, Искуственный Интеллект станет основой ближайшей технической революции. Как только роботы нучнут учиться, думать и «чувствовать» без ввода данных человеком, мир изменится за одну ночь.

Вот почему так интересно следить за развитием в данной области, в частности — за  Google’s DeepMind («Глубокий ум» от Гугл).

Адепты Гугла решили проверить работу нейронных сетей на простых игровых сценариях. Что они будут делать — уничтожать друг друга или кооперироваться при нехватке ресурсов?

Первый сценарий называется «Сбор урожая». Синий и Красный должны собирать зеленые яблоки.

В задании нет соревнования на время. Однако и Синий, и Красный были оснащены лазерами. Стреляя, каждый может временно обездвижить противника на некоторое время.

Таким образом, у каждого есть выбор — собрать все яблоки самому или собрать вместе равное количество яблок.

Гугл прогоняли симуляцию тысячи раз. DeepMind был очень мирным и готовым сотрудничать до тех пор, пока яблок вдоволь. Но как только яблок становится мало, Синий и Красный начинают стрелять друг по другу. Поведение очень похожее на базовые инстинкты животных, в том числе и людей.

Вероятно, более существенным было такое наблюдение: маленькие и примитивные нейронные сети вели себя более дружелюбно по отношению друг к другу, старались сотрудничать. Но чем более сложной, развитой и обширной становилась нейронная сеть, тем больше она склонялась к эгоизму и предательству во время экспериментов.

Второй сценарий называется «Охота». Синему и Красному дали задание ловить добычу. Они могли ловить ее по одиночке, но выгоднее делать это вместе. В конце концов — вдвоем проще загнать добычу в угол, окружить.

Маленькие нейронный сети вели себя по-разному. Большие приходили к сотрудничеству практически сразу.

Чему учит нас эксперимент? Тому, что охотиться лучше вместе, но если ресурсов на всех не хватает, то лучше работает предательство.

Больше всего пугает, что инстинкты искуственного интеллекта слишком похожи на человеческие. А мы значем, куда инстинкты нас обычно приводят.

 

На рисунке:

  1. Сбор урожая. Ось Х — рост дефицита, ось Y — рост агрессии.
  2. Охота. Ось Х — одиночная охота, ось Y — кооперация

Красным — маленькие сети, синим — крупные сети.