Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

2

Роботу ніколи не стати людиною: сумна історія Електроніка

Про штучному інтелекті сьогодні не говорить тільки ледачий. Але якщо привести в приклад Siri, Алісу, Алексу або, приміром, автокорректор на мобільних пристроях, то мова не йде про повноцінне штучному інтелекті. Це всього лише вузькоспеціалізовані програми.

Комп’ютери не вміють «думати»

Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

Кожен раз, коли та чи інша компанія заявляє, що випускає нову функцію на основі ШІ, це зазвичай означає, що вона використовує принцип машинного навчання для побудови нейронної мережі. «Машинне навчання – це технологія, яка дозволяє машині «навчитися» ефективніше виконувати певне завдання.

Дивіться також: Як автомобілі з автопілотом бачать світ

Ми ні в якому разі не критикуємо сам принцип машинного навчання! Це фантастична технологія з великим спектром застосування. Але це не є універсальний штучний інтелект, і якщо ми поглянемо на перешкоди, з якими сьогодні стикається машинне навчання, ми зможемо зрозуміти, чому сучасна технологія ІІ настільки обмежена у своїх можливостях.

«Штучний інтелект» у науковій фантастиці – це, як правило, комп’ютерний або роботизований мозок, який думає про всіляких речей і розуміє їх точно так же, як люди. Такий кібер-розум можна віднести до категорії AGI (Artificial General Intelligence), тобто він може міркувати про різні речі і використовувати ці міркування в безлічі різних областей. Зазвичай цей термін замінюють більш простим поняттям – «сильний ШІ», яке, по суті, означає, що машина здатна мислити як людина.

Люди ще не винайшли подібну технологію. Насправді, ми навіть близько до цього не підійшли. Комп’ютерні програми на зразок Siri, Алекси або Кортани не сприймають інформацію і не мислять як ми, люди. Насправді, вони взагалі мало що «розуміють».

Штучний інтелект, який ми бачимо зараз, навчений добре виконувати певне завдання з умовою, що люди зможуть надати набір даних, на основі яких він буде навчатися. Такий інтелект вчиться робити певні речі, при цьому він все одно не розуміє суті того, чим займається.

Комп’ютери не вміють розуміти

Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

В Gmail з’явилася нова функція Smart Reply («розумні відповіді»), що пропонує готові відповіді на електронні листи. Функція Smart Reply сприйняла фразу «надіслано від мого iPhone» як звичайний відповідь. Вона також хотіла запропонувати мені фразу «я люблю тебе» в якості відповіді на самі різні електронні листи, серед яких були і листи по роботі.

Справа в тому, що комп’ютер не усвідомлює, що написано в листі. Нещодавно стало відомо, що багато людей відправляють такі автовідповіді по електронній пошті. Програма не розуміє, що ви навряд чи захочете написати «я тебе люблю» у відповідному листі своєму босові.

Ще один приклад: Google Photos зробила колаж з випадкових фотографій домашнього килима. Потім вона визначила цей колаж в альбом «Recent Highlights», який автоматично збирає важливі і значущі фото, і вивела його на екран нашого Google Home Hub. Google Photos розпізнавала фотографії, але не розуміла, що важливо, а що – ні.

Машини навчаються шахраювати

Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

Машинне навчання дозволяє визначити завдання і дати комп’ютеру можливість вибрати найбільш ефективний спосіб її виконання. Оскільки машини не розуміють, що саме вони роблять, в кінцевому підсумку ми можемо “навчити” їх вирішувати досконалу не ту проблему, про яку думали спочатку.

Ось список забавних прикладів, коли «штучний інтелект» повинен був грати в ігри і виконувати в них певні завдання, але замість цього шукав в системі лазівки. Всі ці приклади взяті з цієї цікавої таблиці:

  • «Щоб розвинути швидкість, істоти сильно виростали і генерували її за рахунок власного падіння на землю за напрямом руху».
  • «Агент вбиває себе наприкінці першого рівня, щоб не загинути на другому».
  • «Агент ставить гру на паузу, щоб не програти».
  • «В симуляторі життя, де виживання вимагало енергії, а народження дітей немає, один вид розвинув малорухливий спосіб життя, який складався в основному з спарювання з метою народження нових дітей, яких потім можна було з’їсти (або використовувати для виробництва їстівних дітей)».
  • «Оскільки ШІ напевно буде «убитий» у разі програшу, можливість збою і «обвалення» гри була визначена ним як перевага з точки зору процесу генетичного відбору. Тому деякі ІІ швидко навчилися це робити».
  • «Нейронні мережі, створені для класифікації їстівних і отруйних грибів, використовували те обставина, що дані чергувалися, і фактично перестали аналізувати завантажуються в систему зображення».

Деякі з представлених рішень можуть здатися досить далекоглядними, але все-таки жодна з цих нейронних мереж толком не розуміла, що робила. Їм була поставлена мета, і вони навчилися її досягати. Якщо мета полягає в тому, щоб уникнути поразки в комп’ютерній грі, кнопка паузи здається їм самим простим і швидким рішенням.

Машинне навчання і нейронні мережі

Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

При машинному навчанні комп’ютер не запрограмований на виконання певного завдання. Замість цього він отримує дані і оцінює їх значимість з точки зору виконання завдання.

Найпростішим прикладом машинного навчання є функція розпізнавання зображень. Припустимо, ми хочемо навчити комп’ютерну програму розпізнавати фотографії, на яких є собака. Ми можемо надати комп’ютера мільйони зображень з собаками і без. Зображення будуть помічені – «є собака»/«ні собаки». Комп’ютерна програма «навчається» собак розпізнавати на основі цього масиву даних.

Дивіться також: Тойота розробила робота-помічника для водія з людською логікою

Ця технологія використовується для вдосконалення нейронної мережі, яка являє собою комп’ютерну програму з декількох шарів, через які проходять всі масиви даних. Кожен з цих шарів присвоює даними різний вагу і вірогідність, після чого приймається рішення. Ця техніка заснована на наших уявленнях про роботу власного мозку, де шари нейронів беруть участь в обмірковуванні завдання. «Глибоке навчання» зазвичай описує нейронні мережі з безліччю шарів, які поділяють точки входу і виходу даних.

Оскільки ми точно знаємо, на яких фотографіях собаки є, а які – ні, ми можемо пропустити їх через нейронну мережу та перевірити правильність відповіді. Якщо мережа вирішує, що на тій чи іншій фотографії собаки немає, хоча насправді вона там є, їй прописують спеціальний алгоритм, який повідомляє мережі, що вона помилилася, і що їй потрібне коригування перед новою спробою. Так комп’ютер вчиться краще визначати, чи є на фотографії собака.

Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

Все це відбувається автоматично. Маючи хороший софт і великий обсяг структурованих даних, які можна використовувати для навчання, комп’ютер може налаштувати свою нейронну мережу для точного пошуку собак на фотографіях. Саме це ми і називаємо «ШІ».

Дивіться також: Як зрозуміти, що ти помиляєшся

Але, врешті-решт, ви все одно не отримаєте розумну програму, яка буде розуміти, що таке собака. Це буде всього лише машина, яка навчилася визначати, чи є на фото пес. Такі здібності теж вражають, але це далеко не межа мрій.

До того ж, залежно наданих даних, нейронна мережа може виявитися зовсім не такою «розумною», як ви очікуєте. Приміром, якщо у вашому масиві даних немає фотографій кішок, нейронна мережа може не побачити відмінностей між кішками та собаками і запросто відзначить всіх собак як кішок.

Де застосовується машинне навчання?

Проблема штучного інтелекту: машини вміють навчатися, але не вміють розуміти

Машинне навчання використовується для вирішення найрізноманітніших завдань, включаючи розпізнавання мови. Завдяки цим технологіям, голосові помічники кшталт Google, Alexa і Siri навчилися чудово «розуміти» те, що говорять люди. Їх алгоритми аналізує гігантські за обсягом дані із зразками людської мови, і тому машини все краще розуміють, які звуки складають ті чи інші слова.

Безпілотні автомобілі використовують принципи машинного навчання для того, щоб правильно розпізнавати об’єкти на дорозі і грамотно реагувати на них. У Google Photo є безліч функцій на зразок «живих альбомів», які автоматично визначають людей і тварин на фотографіях за допомогою технології машинного навчання.

DeepMind використовувала цю технологію для створення AlphaGo – комп’ютерної програми, яка навчилася грати в складну настільну гру Go і перемагати найсильніших гравців в світі. Машинне навчання також застосовувалося при створенні програм, які успішно грають і в інші ігри – від шахів до DOTA 2.

Технологія використовується навіть для ідентифікації особи на останніх моделях iPhone. Ваш iPhone створює нейронну мережу, яка вчиться розпізнавати ваше обличчя. Для цього Apple довелося включити у свої гаджети спеціальний чіп, який виконує всі складні обчислення, пов’язані з машинним навчанням.

Машинне навчання може використовуватися для безлічі інших речей – від виявлення випадків шахрайства з кредитними картами до складання індивідуальних рекомендацій для клієнтів на сайтах покупок.

Однак нейронні мережі, які функціонують на технології машинного навчання, як і раніше нічого не розуміють. Це всього лише корисні програми, які можуть виконувати вузькоспеціалізовані завдання, і не більше того.