Міжнародна команда науковців навчила нейромережу пояснювати свої міркування і готувати докази, коли вона приймає рішення. Це може розв’язати одну з головних проблем штучного інтелекту.

У сфері штучного інтелекту існує так звана проблема «чорного ящика» – саме через неї ми не можемо до кінця довіряти розумним системам. Справа в тому, що не дуже зрозуміло, як саме штучний інтелект приймає рішення, який процес і аргументи його до нього приводять. Попередній досвід показав, що алгоритм має схильність приходити до упереджених рішень і проводити аналогії там, де їх не слід було б проводити. З’ясувавши, чому нейронна мережа діє саме так, вирішимо одну з найбільших проблем в галузі штучного інтелекту.

До складу команди, яка спробували працювати з цією темою, входили дослідники з Каліфорнійського університету в Берклі, Амстердамського університету, MPI for Informatics та Facebook AI Research. В результаті команда розробила штучний інтелект для відповіді на прості мовні питання про об’єкти та дії на зображенні –це вимагає середнього інтелекту дев’ятирічної дитини.

Здобуток цієї нової роботи в тому, що тепер штучний інтелект пояснює свої відповіді, аргументуючи, що він бачив, і виділяючи відповідні частини зображення. Більше того, в результаті вперше створили систему, яка могла б пояснити своє рішення двома різними способами. «Наша модель є першою, яка здатна забезпечити природні обґрунтування, а також надавати докази на зображенні», – хваляться вчені.

Наприклад, алгоритму показували зображення зебр в дикій природі та в клітці, а потім запитували, на якій з картинок зоопарк. Нейромережа не тільки вказувала на другий знімок, а й пояснювала: бо тут тварини знаходяться в зачиненому приміщенні, а на іншому фото вони стоять в природньому середовищі.

При цьому помилки поки що теж трапляються, наприклад, під час експериментів штучний інтелект іноді не міг зрозуміти, посміхається людина чи ні. Вчені реагують на цей факт зі спокоєм: «Коли комп’ютер помиляється, нам потрібно знати, чому. Для того, щоб область штучного інтелекту досягла в якомусь сенсі зрілості, нам знадобляться численні перевірки помилок, діагностика і методика розуміння процесу прийняття рішень для машин. Та все ж нейронні мережі просуваються і стають нашим основним джерелом аналізу даних».