Розкажіть своєму кошеняті, як ви думаєте всередині – ефект чорної скриньки
Той факт, що просунуті алгоритми штучного інтелекту подібні до чорного ящика (1), який викидає результат, не розкриваючи, як він до нього прийшов, турбує одних і засмучує інших.
У 2015 році дослідницьку групу з лікарні Mount Sinai у Нью-Йорку попросили використати цей метод для аналізу великої бази даних місцевих пацієнтів (2). Ця величезна колекція містить океан інформації про пацієнтів, результати аналізів, лікарських призначень і т.д.
Вчені назвали розроблену під час роботи аналітичну програму. Він навчався на даних приблизно 700 тис. Чоловік. людина, і під час тестування у нових реєстрах він виявився надзвичайно ефективним у прогнозуванні захворювань. Без допомоги фахівців-людей він виявив закономірності в лікарняних записах, які вказують, який пацієнт перебуває на шляху захворювання, наприклад раку печінки. На думку фахівців, прогностична та діагностична ефективність системи була набагато вищою, ніж у будь-яких інших відомих методів.
2. Медична система штучного інтелекту на основі баз даних пацієнтів
У той самий час дослідники помітили, що він працює загадковим чином. Виявилося, наприклад, що він ідеально підходить для розпізнавання психічних розладівтаких як шизофренія, яка надзвичайно складна для лікарів. Це було дивно, тим більше що ніхто поняття не мав, як система ІІ так добре бачить психічне захворювання на підставі лише медичних карток пацієнта. Так, фахівці були дуже задоволені за допомогою такого ефективного машинного діагноста, але вони були б набагато більше задоволені, якби розуміли, як ІІ дійшло своїх висновків.
Шари штучних нейронів
Із самого початку, тобто з того моменту, як концепція штучного інтелекту стала відомою, існувало дві точки зору на ІІ. Перша припустила, що найбільш розумним буде побудувати машини, які міркують відповідно до відомих принципів та людської логіки, зробивши їхню внутрішню роботу прозорою для всіх. Інші вважали, що інтелект виникне легше, якщо машини будуть вчитися за допомогою спостереження та експериментів, що повторюються.
Останнє означає звернення типового комп'ютерного програмування. Замість програміст писав команди для вирішення задачі, програма генерує власний алгоритм на основі вибіркових даних та бажаного результату. Методи машинного навчання, які пізніше перетворилися на найпотужніші системи ІІ, відомі сьогодні, щойно пішли шляхом, по суті, машина сама програмує.
Цей підхід у 60-х та 70-х роках залишався на узбіччі досліджень систем ІІ. Тільки на початку попереднього десятиліття, після деяких новаторських змін та удосконалень, «Глибокі» нейронні мережі стали демонструвати радикальне покращення можливостей автоматизованого сприйняття.
Глибоке машинне навчання наділило комп'ютери надзвичайними здібностями, такими як здатність розпізнавати слова майже так само точно, як людина. Це надто складна навичка, щоб програмувати її заздалегідь. Машина повинна мати можливість створювати власну «програму» шляхом навчання на величезних наборах даних.
Глибоке навчання також змінило розпізнавання комп'ютерних зображень та значно покращило якість машинного перекладу. Сьогодні він використовується для прийняття всіляких ключових рішень у медицині, фінансах, виробництві та багато іншого.
Однак при цьому ви не можете просто зазирнути всередину глибокої нейронної мережі, щоб побачити, як працює "всередині". Процеси мережевих міркувань вбудовані у поведінку тисяч змодельованих нейронів, організованих у десятки або навіть сотні складно взаємопов'язаних шарів..
Кожен з нейронів у першому шарі отримує вхідний сигнал, наприклад, інтенсивність пікселя в зображенні, а потім виконує обчислення перед виведенням вихідного сигналу. Вони передаються у складній мережі до нейронів наступного шару - і так далі, до остаточного вихідного сигналу. Крім того, існує процес, відомий як коригування обчислень, що виконуються окремими нейронами, таким чином, щоб мережа, що навчає, давала бажаний результат.
У прикладі, що часто цитується, пов'язаному з розпізнаванням зображень собак, нижні рівні ІІ аналізують прості характеристики, такі як обриси або колір. Вищі мають справу з складнішими проблемами, такими як хутро або очі. Тільки верхній шар поєднує все це, ідентифікуючи повний набір інформації як собаку.
Той самий підхід може бути застосований до інших типів вхідних даних, які приводять машину в дію для самонавчання: звуки, з яких складаються слова в мові, літери та слова, з яких складаються речення у письмовому тексті, або, наприклад, кермо. руху, необхідних управління транспортним засобом.
Машина нічого не пропускає
Зроблено спробу пояснити, що саме відбувається у таких системах. У 2015 році дослідники Google модифікували алгоритм розпізнавання зображень на основі глибокого навчання, щоб замість того, щоб бачити об'єкти на фотографіях, він їх генерував або модифікував. Запустивши алгоритм у зворотному напрямку, вони хотіли виявити характеристики, які програма використовує для розпізнавання, наприклад, птиці або будівлі.
Ці експерименти, відомі публічно як назва, породили дивовижні зображення гротескних, химерних тварин, пейзажів і персонажів. Розкривши деякі секрети машинного сприйняття, наприклад факт багаторазового повернення та повторення певних патернів, вони також показали, чим глибоке машинне навчання відрізняється від людського сприйняття — наприклад, у тому сенсі, що воно розширює та дублює артефакти, які ми ігноруємо у процесі нашого сприйняття без роздумів . .
3. Зображення, створене у проекті
До речі, з іншого боку, ці експерименти розкрили таємницю наших когнітивних механізмів. Можливо, саме в нашому сприйнятті є різні незрозумілі компоненти, які змушують нас одразу щось розуміти та ігнорувати, тоді як машина терпляче повторює свої ітерації на «неважливих» об'єктах.
Інші тести та дослідження були проведені у спробі «зрозуміти» машину. Джейсон Йосінскі він створив інструмент, який діє як зонд, що застряг у мозку, націлюється на будь-який штучний нейрон і шукає зображення, яке найбільше його активує. В останньому експерименті абстрактні образи з'являлися в результаті «підглядання» мережі на місці злочину, що робило процеси, що відбуваються в системі, ще більш загадковими.
Однак для багатьох вчених таке дослідження є непорозумінням, оскільки, на їхню думку, для того, щоб зрозуміти систему, розпізнати закономірності та механізми вищого порядку прийняття складних рішень, всі обчислювальні взаємодії всередині глибокої нейронної мережі. Це гігантський лабіринт математичних функцій та змінних. На даний момент для нас – незбагненно.
Комп'ютер не береться до роботи? Чому?
Чому важливо розуміти механізми ухвалення рішень передових систем штучного інтелекту? Математичні моделі вже використовуються, щоб визначити, кого із ув'язнених можна звільнити умовно-достроково, кому дати кредит, а комусь влаштуватися на роботу. Кому цікаво, хотілося б знати, чому було прийнято саме таке, а не інше рішення, як його підстави і механізм.
– зізнався він у квітні 2017 року у «MIT Technology Review» Томмі Яаккола, професор Массачусетського технологічного інституту, що працює над програмами для машинного навчання -.
Існує навіть юридична та політична позиція, згідно з якою здатність ретельно досліджувати та розуміти механізм прийняття рішень системами ІІ є фундаментальним правом людини.
З 2018 року Євросоюз працює над вимогою до компаній надавати своїм клієнтам пояснення щодо рішень, які приймаються автоматичними системами. Виявляється, іноді це неможливо навіть із системами, які здаються відносно простими, такими як програми та веб-сайти, які використовують глибоку науку для показу реклами чи рекомендації пісень.
Комп'ютери, на яких працюють ці служби, самі програмують себе, і вони роблять це способами, які ми не можемо зрозуміти… Навіть інженери, які створюють ці програми, не можуть пояснити, як це працює.
