1 серпня 2017

«Ти я все інше»: як боти винайшли свою мову і чому це не страшно

31 липня ЗМІ повідомили, що Facebook розробляв штучний інтелект, однак змушений був його вимкнути, бо той створив незрозумілу власну мову й почав нею спілкуватися. Насправді просто сталася людська помилка програмування, яка, втім, вказала на важливу проблему.

 

Фотографія: "Futurama"

Боти вже давно і дуже активно використовуються для простих задач штибу вибору найкращої ціни на товар, рекомендації книжки чи фільму і тому подібного. Фахівці із лабораторії Facebook Artificial Intelligence Research Lab досліджують й інші можливості штучного інтелекту. Так, вони спробували навчити ботів вести перемовини і знаходити найкращий вихід із складних ситуацій.

 

Для цього ботам пропонували розподілити між собою декілька предметів. У наборі були три кулі, дві книги і капелюх. Кожен об'єкт мав для комп’ютерів різну задану значимість. При цьому для двох «співбесідників» ця ціна була різна, і вони не здогадувались про смаки і побажання іншого. Спочатку штучний інтелект просто вмовляв один одного віддати речі. Потім ботів навчили вдавати інтерес до предмету, щоб в потрібний момент переговорів пожертвувати ним заради компромісу. Далі завдання ще більш ускладнили – ботам дозволили будувати довгострокову стратегію і прогнозувати, куди піде діалог.

 

Вже на цьому етапі провели експеримент, попросивши реальних людей поговорити з ботами. Багато з піддослідних так і не усвідомили, що розмовляють з комп’ютером, тобто штучний інтелект дійсно міг вільно висловлюватись англійською мовою, як його і програмували. Однак далі сталася помилка.

 

У якийсь момент дослідники дали ботам поговорити «наодинці» – це було зроблено, щоб вони за допомогою машинного навчання розвивали вміння один одного. Однак згодом штучний інтелект почав спілкуватися дивною мовою, яка виглядала для людей нісенітницею. Правила англійської при цьому ігнорувалися, а конструкції багаторазово повторювалися. Виглядало це, наприклад, ось так:

 

Аліса: «М'ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене для».

Боб: «Ти я все інше».

Аліса: «Яйця май яйця для мене для мене для мене для мене для мене».

Боб: «Я».

Аліса: «М'ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене для».

Bob: «Ти я я я я я все інше».

 

Все це сталося через звичайну помилку в програмуванні. Науковий співробітник з Georgia Tech Дхрув Батра пояснив, що ботам просто не дали завдання дотримуватися англійської мови. Задачею штучного інтелекту було конкурувати один із одним при спілкуванні. Тож для більшої ефективності вони просто «винайшли» кодові слова, які їм було зручніше використовувати. «Уявіть, що я назву якийсь предмет п'ять разів. Ви зрозумієте, що я просто хочу п'ять копій цього предмета. Це не особливо відрізняється від скорочень, якими користуються люди», – пояснив Батра.

 

Тож дослідники Facebook Artificial Intelligence Research Lab просто допрацювали код так, щоб алгоритм дозволяв спілкуватися тільки зрозумілою людині англійською мовою.

 

Тому поки що все гаразд і про Skynet та знищення людства говорити зарано. Однак цей випадок показав потенційну можливість того, що через людську помилку боти зможуть активно говорити між собою дійсно невідомою нам мовою. Тоді зрозуміти їх стане неможливо, адже перекладача з новоствореної машинної на нашу просто не буде.