Етика штучного інтелекту та відома AI таємнича долина, яка також гріє безпілотні автомобілі на основі штучного інтелекту

Іноді трапляються трохи дивні речі, які привертають вашу увагу і змушують інтуїтивно зрозуміти, що щось не так. Дивність не кричуща, зовсім не кричуща на вашому обличчі. Можливо, ви навіть не зможете відразу зрозуміти, в чому полягає невідповідність або чому ваше прислів’я павуче відчуття поколює.

Можливо, відчутні тонкі контрольні підказки. Можливо, ви випадково усвідомлюєте, що існує дисонанс. Я припускаю, що можна сказати, що є лише найменший натяк на принижену моторошність, і ваш тонкий людський радар вловлює сигнали, які інакше здавалися б прихованими.

Ласкаво просимо до дивовижної долини.

Якщо ви ніколи не чули про дивовижну долину, тему, відносно популяризовану в області штучного інтелекту і особливо робототехніки, вас чекає невелике задоволення, оскільки це тема, яку я буду уважно обговорювати та аналізувати тут.

Загальне поняття може застосовуватися до багатьох речей, які ми відчуваємо в житті, хоча ключові принципи та вихідне визначення охоплюють системи AI та роботів. Спочатку ми вивчимо походження та початкове значення дивовижної долини, а потім перейдемо до розширення, щоб побачити, як ці явища, здається, застосовні в більш широких контекстах.

Я можу також додати, що ми подумаємо, чи існує таємнича долина взагалі.

Розумієте, деякі скептики та циніки стверджують, що вся справа – це трохи махінація і не витримує води. Будьте обережні, підносячи тему тим, хто в курсі. Хтось радісно посміхнеться і поплескать вам по спині, що ви добре знайомі з дивовижною долиною, тоді як інші будуть суворо читати вам лекцію, що це суп фігня, і вам потрібно остаточно очистити свій розум за допомогою мила для душевного очищення. .

Доброю новиною тут є те, що ви маєте вирішувати, чи справжня дивовижна долина чи ні, а також чи має вона переваги для розумного застосування, чи замість цього її слід безцеремонно кинути на смітник техно-ідей. У цьому сенсі ви сидите на водійському сидінні.

Все це також тісно стосується сфери етичного штучного інтелекту, що розвивається, та зростаючого усвідомлення того, що суспільство має серйозно й тверезо приділяти увагу етиці ШІ. Ми встановимо цей зв’язок миттєво.

Найкраще почати з прямого цитування професора, який придумав концепцію дивовижної долини і прямо назвав це проголошене явище. У 1970 році професор Масахіро Морі з Токійського технологічного інституту опублікував досить невелику статтю в дещо менш відомому журналі під назвою енергія (не особливо розсадник для штучного інтелекту та робототехніки як такої) і сказав це:

«Я помітив, що, досягаючи мети, щоб роботи виглядали людьми, наша спорідненість до них зростає, поки ми не прийдемо до долини, яку я називаю дивовижною долиною».

Будь ласка, зверніть увагу, що вищенаведене формулювання показано англійською, хоча оригінальний документ був японською. Англійська перекладена версія була під наглядом автора і пізніше опублікована в IEEE спектр у 2012 році, автором якого є Масахіро Морі. Ви можете прочитати цю статтю самостійно, оскільки вона відкрито та вільно доступна в Інтернеті. Це дуже швидко читається приблизно десять хвилин і не містить важкої технічної термінології.

З огляду на це, цікаво і дещо дивовижно, що така жвава стаття, опублікована в 1970 році, врешті-решт розпочала цілу арену досліджень і поклала початок безлічі пов’язаних досліджень, проектів, досліджень, а часом і шквалу суперечок про те, чи Концепція дивовижної долини справді існує. Я вважаю, що це демонструє, що інтригуючі, а іноді і зміни точки зору ідеї не повинні бути сильно заплутаними або переповненими жаргоном і піднесеністю. Лаконічна ідея може бути навіть не більш потужною, ніж може здатися на перший погляд.

Я вірю, що це спонукатиме вас спробувати розвивати свої нові ідеї, роблячи це з усвідомленням того, що солодке й просте може бути настільки ж чудовим, а іноді й більше, ніж заплутаним і складним.

Давайте повернемося до дивовижної долини.

Ви стикаєтеся з роботизованою системою, яка має обличчя, схоже на обличчя людини. Уявіть собі, що це роботизоване обличчя було розроблено через численні ітерації. Розробники штучного інтелекту, які збирають голову робота, поступово намагаються зробити так, щоб частина обличчя робота все більше нагадувала справжнє людське обличчя.

Їхня перша спроба була надзвичайно примітивною. Обличчя робота мало той самий вигляд, який ви бачили у науково-фантастичних фільмах: він повністю металевий і демонструє шестерні та дроти. Ви миттєво розумієте, дивлячись на вигадку, що це робот. У вас немає жодних питань щодо цього.

Наступна спроба розробників штучного інтелекту включала обгортання деяких пластикових матеріалів навколо металевих частин. Хоча це виглядає дещо більш привітним, ви все одно миттєво знаєте, що це голова робота та роботоване обличчя. Знову ж таки, легко виявити.

Ці розробники AI сповнені рішучості продовжувати це робити. Вони ліплять пластик і надають йому відтінки шкіри. Вони додають риси, які здаються дуже схожими на людське обличчя, наприклад родимки, волосся, плями тощо.

На перший погляд ви можете повірити, що це людське обличчя. Якщо було зроблено фотографію обличчя-робота, і вас попросили визначити, чи зображено на ньому людину, а не обличчя-робота, ви могли б не мати можливості відразу сказати, що це було. З іншого боку, якби ви стояли поруч із пристроєм, ви, швидше за все, при уважному огляді могли б розпізнати, що це не людина, а робота-вигадка.

Справа в тому, що перед тим, як ви отримали можливість розглянути обличчя крупним планом, у обличчі було щось, що, здавалося, не зовсім збігалося. Воно, безперечно, було схоже на людське обличчя. Але щось було не так. Вам доводилося пильно дивитися знову і знову, щоб потрапити на те, що виглядає не зовсім правильно. Можливо, це справжнє обличчя. Знову ж таки, можливо, це не так. Ваш розум розгортається відповідно.

У вашу свідомість входить поява моторошності.

У вас не було тієї самої моторошності, коли ви бачили дві попередні версії. Ви могли без паузи чи вагань виявити, що робот був роботом. Тільки дитину можна обдурити, повіривши, що будь-яка з цих версій була справжньою людиною.

Але ця остання версія була іншою. Він ще не був досконалим, щоб виглядати як людське обличчя. Він також не був настільки далеким від справжнього, щоб було очевидно, що це, мабуть, робот. Було досягнуто свого роду плутанину.

Припустімо, що розробники продовжили свої дослідження й налаштували все так, щоб обличчя робота майже не відрізнялося від людського. Незалежно від того, як довго ви дивитесь на річ, ви не впевнені, людина це чи не людина. Коли вам повідомляють, що це обличчя-робот, ви здивуєтеся. Боже, вони чудово попрацювали над тим, щоб це виглядало справжнім.

Зауважте, що досі ви розглядали аспекти роботи лише на основі зовнішності.

Ми могли б додати рух до рівняння. Це додає додатковий вимір, щоб ви могли розрізнити, чи є робот роботом чи людиною. Я не хочу повністю розглядати це як багатовимірну проблему в цій дискусії, оскільки це робить роз’яснення цієї теми більш заплутаним (хоча багатовимірність неминуче переплітається). У будь-якому випадку уявіть, що ви не тільки бачили обличчя робота, але й можете спостерігати, як робот рухає риси обличчя, такі як рот, очі, ніс тощо. Очевидно, це також може бути подарунком про те, чи це робот або людина.

Одним з життєво важливих аспектів, які слід тримати на передньому плані дивовижної долини, є те, що оригінальна концепція підкреслює акт людської спорідненості. Заявлене явище полягає в тому, що ваша спорідненість збільшується, коли ви бачите обличчя робота, що поступово вдосконалюється, аж до моменту, коли не виникає дивовижний варіант. Кажуть, що на цьому етапі ваше почуття спорідненості різко падає, опускаючись у прірву або долину.

Щодо конкретної версії, яка змусила вас запідозрити, що щось не так, ваша спорідненість нібито радикально впала. Крім того, згідно з теорією, ваша спорідненість може різко зрости, як тільки ви зіткнетеся з більш просунутою версією, яка майже ідентична справді людській формі.

Ось докладніше про те, що автор сказав про нашу звичайну схильність вважати, що аспекти життя плавно збільшуються: «Математичний термін монотонно зростаюча функція описує відношення, в якому функція y = ƒ(x) безперервно зростає зі змінною x. Наприклад, як зусилля x зростає, дохід y збільшується, або при натисканні на педаль газу автомобіль рухається швидше. Таке відношення є повсюдно і дуже легко зрозуміти. Насправді, оскільки такі монотонно зростаючі функції охоплюють більшість явищ повсякденного життя, люди можуть впасти в ілюзію, що вони представляють усі відносини. Про це помилкове враження свідчить також той факт, що багато людей тягнуться по життю, наполегливо штовхаючись, не розуміючи, наскільки ефективним є відтягування. Тому люди зазвичай дивуються, коли стикаються з якимось явищем, яке ця функція не може уявити». Це цитується за IEEE спектр перекладний папір.

Це майже універсальне припущення щодо постійного збільшення може бути скасовано, коли ми стикаємося з чимось не так. Теорія говорить, що моторошність і підозрілість спричинять відносно різке та драматичне падіння спорідненості, наприклад, руку робота, яку ви вирішили потиснути і не відчули кісткових властивостей людської руки: «Коли це відбувається, ми втрачаємо розум спорідненості, і рука стає дивовижною. У математичних термінах це може бути представлено від’ємним значенням».

Якщо ви погоджуєтеся з припущенням про те, що є це явище дивовижної долини, я впевнений, що вам цікаво, яка користь для вас від того, що ця дивовижна долина, очевидно, існує.

Це постійна класика "і що?" тест на практичність.

Виявилося, що багато людей придумали багато інтерпретацій того, що ми повинні або можемо робити з дивовижною долиною. Є купа думок. Незабаром я розгляну деякі з них.

Між тим, ось що запропонував Масахіро Морі: «Ми сподіваємося спроектувати та побудувати роботів і протези рук, які не впадуть у дивовижну долину. Таким чином, через ризик, притаманний спробам збільшити ступінь подібності людини до масштабування другої вершини, я рекомендую дизайнерам замість цього взяти за мету першу вершину, що призводить до помірного ступеня людської подібності та значного почуття спорідненості. . Насправді, я передбачаю, що можна створити безпечний рівень спорідненості, свідомо переслідуючи нелюдський дизайн. Я прошу дизайнерів подумати над цим».

Швидке зведення з мого боку дванадцяти зручних правил щодо того, що робити з дивовижною долиною, виглядає так, зокрема для розробників ШІ:

1) Зважайте на дивовижну долину і будьте на ногах відповідно

2) Імовірно, ви хочете досягти людської спорідненості зі своїм ШІ якомога більше

3) Будьте готові до втрати людської спорідненості, якщо ваш AI впаде в дивовижну долину

4) Прагніть уникнути дивовижної долини, розробивши свій AI таким чином

5) Це поважно мати мету, яка не опиняється в неймовірній долині

6) Підніміться до краю дивовижної долини, але не падайте через скелю

7) Не будьте одержимі виходом за межі дивовижної долини

8) Є ймовірність, що ви все ж зможете перестрибнути повз неймовірну долину

9) Не захоплюйтеся стрибком, оскільки ви все одно можете впасти в долину

10) Максимальної спорідненості з людьми можна було б досягти, пройшовши дивовижну долину

11) Тим не менш, існує достатня і відповідна спорідненість, знайдена до таємничої долини

12) Постійно пам’ятайте про дивовижну долину і не дозволяйте їй збитися з розуму

Всі ці десятки загальних приписів, які можна розглядати як ключовий камінь або опорні точки знання про дивовижну долину. Я відразу визнаю, що є й інші моменти, не перераховані в тій мізерній дюжині, які можна стверджувати як однаково важливі. Я також з готовністю визнаю, що неодмінно виникнуть розбіжності щодо кожного з визначених пунктів, і щодо кожного з них можуть виникнути тривалі гарячі дебати.

Більш того, дехто сказав би, що дванадцять пунктів — це взагалі сміття, оскільки вони засновані на брехні. Немає такої речі, як дивовижна долина, сперечалися б вони. Все це просто хитрість і вигадка, яка закликає виключно і, на жаль, звертатися до слабких розумів (ой, це щиро боляче!). Будь-яка увага до дивовижної долини — це марна ковток повітря, і хтось повинен підійти і поставити гостру дерев’яну теоретичну палку в суть справи (деякі дослідники намагалися це зробити).

Заради обговорення, давайте пливемо за течією і припустимо, що існує дивовижна долина і що вона нібито збігається з тим, що я вже вказав. Ті, хто не погоджуються з концептуалізацією дивовижної долини, можуть продовжити читання, стиснувши зуби, а їхній інтелектуальний гнів назріває й кипить (вибачте за це).

Ось як розвивається етичний AI та фокус на розробці та застосуванні етичного AI. До речі, для моїх постійних і поглиблених досліджень етики ШІ див. мою дискусію на Це посилання тут та Це посилання тут, просто назвемо декілька.

Дивовижна долина — це безперечно любов і ненависть для тих, хто цікавиться етичним штучним інтелектом.

По-перше, необхідний фон. Однією з найнеприємніших етичних проблем, пов’язаних із штучним інтелектом, є те, що людей можна обдурити, повіривши, що система штучного інтелекту розумна. Будь ласка, майте на увазі, що на сьогоднішній день не існує жодного штучного інтелекту, який би наблизився до того, щоб бути розумним. Наразі цього просто не відбувається. Моє нібито «нахабне» твердження зроблено, незважаючи на ці безперервні та кричущі заголовки, які оголошують, що ШІ або що ШІ є розумним або досить близьким, щоб вважатися таким. Маларкей. Ми не володіємо штучним інтелектом.

Ми не знаємо, як туди потрапити. Ми не знаємо, чи це станеться. Розуміння штучного інтелекту — це гідна мрія та прагнення, хоча не варто стрибати й думати, що ми на порозі досягнення цього.

Звичайно, багато хто палко попереджає, що якщо нам так чи інакше вдасться реалізувати штучний інтелект, чи то задумом, чи то випадково, ми зіткнемося з екзистенційним ризиком. Таким чином, можливо, пошук штучного інтелекту не настільки вартий. Ризик полягає в тому, що цей розумний ШІ може визначити, що люди не варті того, щоб бути поруч. Нас можуть роздавити, як клоп. Або стати рабом ШІ. Це може статися, якщо ШІ відверто вирішить це зробити, або ШІ може стати нашою власною машиною судного дня, яка знищує нас через нашу власну невміння. Для мого висвітлення тих тривожних наслідків AI розуму або сингулярності див посилання тут.

Важливою проблемою етичного AI є те, що розробники AI та ті, хто користується штучним інтелектом, часом змушують людей думати, що AI розумний. Спосіб того, як AI виявляє себе, наприклад, за допомогою роботизованої формулювання або його інтерактивності в розмові, може підступно спонукати людей до припущення, що AI є розумним. Це, у свою чергу, веде вас по потенційно поганому шляху примули.

Якщо ви потрапите в ментальну пастку, коли думаєте, що система штучного інтелекту розумна, ви, ймовірно, покладаєтесь на неї, щоб робити те, що робили б розумні істоти. Але поки що немає жодного здорового глузду про людські якості, вбудовані в будь-який із сучасних AI. ШІ, який ми зараз відчуваємо, надзвичайно крихкий і неглибокий, коли йдеться про людські можливості. Ви можете потрапити в неприємні та небезпечні води, повіривши, що система AI розумна.

Як це пов’язано з дивовижною долиною?

Ось така угода.

Згадаймо, що дивовижна долина, здається, говорить нам про те, що спорідненість до людей буде поступово зростати, оскільки система штучного інтелекту або робот наближатиметься до формулювання, схожого на людину. У той момент, коли система ШІ наближається до точки, щоб бути досить близькою, але все ще, не зовсім там, ми відчуваємо моторошне відчуття, що щось не так. До того часу ми знали, що ШІ не є людиною. Тепер ми не впевнені. Наша людська спорідненість падає. Лише після того, як штучний інтелект або робот стає абсолютно переконливим щодо людських здібностей, ми відновлюємо свою схожість із пристроєм.

Імовірно, розробники ШІ, які приймають це до серця навмисно намагаються утримати свій AI від несподіваної долини, прагнучи зупинитися з точки зору особливостей AI, безпосередньо перед тим, як впасти в неймовірну прірву (нагадаємо, це також наголошував Масахіро Морі). Очевидно, розробники зроблять це, переконавшись, що все ще існує велика кількість контрольних підказок, щоб було досить чітко зрозуміти, що ШІ є менш розумним ШІ, а, значить, не є людиною чи так само.

Прихильники етики в галузі штучного інтелекту, як правило, вітали б ці щирі зусилля.

Міркування прості. Ці настільки поінформовані та прихильні розробники штучного інтелекту намагаються переконатися, що система штучного інтелекту не вводить людей в оману і помилково приписує штучному інтелекту схожі на людину засоби. Це, безсумнівно, хороша новина. Розробники навмисно створять штучний інтелект, щоб запобігти зануренню в дивовижну долину. Люди легко зрозуміють, що ШІ не розумний.

Спробувати змусити розробників AI прийняти такий підхід непросто. Справді, це може суперечити їхнім звичайним інстинктам і рушійним амбіціям.

Багато стверджують, що розробники штучного інтелекту та технарі, загалом, захоплені цілями. Вони бачать мету і часто сліпо йдуть до неї з великим задоволенням. Немає часу зупинитися і понюхати троянди. Їдемо на перегони, ми йдемо. У сфері штучного інтелекту нормативною метою був би ідеалізований ШІ, який не можна відрізнити від людини тим, що ШІ міг би бути розумно рівним за паритетом. Але ми ще не там. Таким чином, дивовижна долина дає другорядну мету, приземляючись перед дивовижною долиною, що в іншому випадку перегороджує, і стає метою, яка, тим не менш, є прийнятною. Звісно, ​​це не золота нагородна каблучка, але ідея полягає в тому, що цей «вторинний» приз хороший, дуже дякую, і ви можете ним пишатися.

Ми змінили руйнівну найвищу амбіцію прагнення до мети і використали її в логічно звучащу аргументовану основу, щоб діяти як би правильно.

Ура!

Отримайте перемогу за етику ШІ.

Але зачекайте секунду, спойлер, є щось інше, що нам також потрібно враховувати.

Тепер, коли ці кмітливі розробники штучного інтелекту знають про дивовижну долину, вони можуть спрямувати свою кмітливість і технічну майстерність на навмисне стрибки через прірву, але робити це, маючи на увазі обман. Зробіть штучний інтелект схожим на людину, хоча розробники знають, що це неправда.

Жахливе мислення виглядає так. Не дозволяйте вашій системі штучного інтелекту схилити свій капелюх і змусити людей отримати цей невловимий підводний струмінь моторошності. Виключіть аспекти, які можуть дати будь-який натяк або підказку про те, що ШІ не здатний до людини. Зробіть це, таємно усвідомлюючи і невибачно знаючи, що ШІ не здатний до людських можливостей, і це все для того, щоб приховати цю правду від тих, хто взаємодіє з ШІ або залежить від нього.

Які диявольські плани.

За іронією долі, дивовижна долина може стати свого роду тривожним дзвінком для розробників ШІ, що якщо вони хочуть дійсно обдурити людей, вони повинні бути достатньо розумними, щоб уникнути прірви. Вони не роблять цього, досягаючи повного ШІ, а замість цього зводять дим і дзеркала, щоб ШІ здавався оманливим, ніби це людина. Якби розробники штучного інтелекту не усвідомлювали існування цієї дивовижної долини, вони, за великим рахунком, потрапили б у неї. Це добре для людства, тому що люди втратили б свою спорідненість до ШІ, оскільки не покладалися б на сучасну якість ШІ.

На жаль, знаючи, що пастка існує, розробники AI, які хочуть обійти її, знайдуть згубно розумні способи зробити це.

Отримайте удар проти заповідей Етичного ШІ.

Ви бачите, як це створює стосунки між любов’ю та ненавистю для фахівців з питань етики ШІ щодо дивовижної долини?

Проклятий, якщо зробиш, чорт, якщо ні.

Я розумію, що це було дещо високе дослідження дивовижної долини, і ви, можливо, прагнете до деяких прикладів із дня в день. Є особливий і напевно популярний набір прикладів, які мені близькі. Розумієте, як експерта з ШІ, включаючи етичні та юридичні наслідки, мене часто просять визначити реалістичні приклади, які демонструють дилеми етики ШІ, щоб можна було легше зрозуміти теоретичний характер теми. Однією з найяскравіших областей, яка яскраво представляє цю етичну проблему ШІ, є поява справжніх самокерованих автомобілів на основі AI. Це буде зручним прикладом використання або прикладом для широкого обговорення цієї теми.

Тоді ось важливе питання, яке варто обдумати: Чи висвітлює поява справжніх самокерованих автомобілів на основі штучного інтелекту щось про дивовижну долину, і якщо так, то про що це говорить нам?

Дозвольте мені трохи розкрити питання.

По-перше, зауважте, що в справжньому самокерованому автомобілі немає водія-людини. Майте на увазі, що справжні самокеровані автомобілі керуються за допомогою системи водіння AI. Немає потреби в водієві-людині за кермом, а також не передбачено, щоб людина могла керувати транспортним засобом. Для мого широкого й постійного висвітлення автономних транспортних засобів (AV) і особливо самокерованих автомобілів див. посилання тут.

Я хотів би додатково пояснити, що мається на увазі, коли я маю на увазі справжні самокеровані автомобілі.

Розуміння рівнів самокерованих автомобілів

Як уточнення, справжні самокеровані машини - це ті, що ШІ керує автомобілем повністю самостійно, і жодна допомога людини під час водіння відсутня.

Ці транспортні засоби без водія вважаються рівнями 4 і 5 (див. моє пояснення на Це посилання тут), в той час як автомобіль, який вимагає, щоб водій-людина спільно керував зусиллям, зазвичай розглядається на рівні 2 або рівня 3. Автомобілі, які спільно виконують завдання водіння, описуються як напівавтономні та зазвичай містять різноманітні автоматизовані надбудови, які називаються ADAS (Advanced Driver-Assist Systems).

На Рівні 5 ще немає справжнього автомобіля, що самостійно керує, про який ми ще не знаємо, чи цього вдасться досягти, і скільки часу це займе, щоб дістатися туди.

Тим часом зусилля рівня 4 поступово намагаються отримати деяку тягу, проходячи дуже вузькі та вибіркові випробування на дорозі, хоча існують суперечки щодо того, чи слід дозволити це тестування як таке (всі ми є піддослідними свинками на життя чи смерть у експерименті дехто стверджує, що відбувається на наших автомагістралях і проїжджих шляхах, див Це посилання тут).

Оскільки для напівавтономних автомобілів потрібен водій людини, прийняття цих типів автомобілів не буде помітно відрізнятися від керування звичайними транспортними засобами, тому на цій темі не так вже й багато нового (хоча, як ви побачите через мить наступні пункти, як правило, застосовуються).

Для напівавтономних автомобілів важливо, щоб громадськість попередила про тривожний аспект, що виникає останнім часом, а саме: незважаючи на тих водіїв, які постійно публікують відеозаписи, засинаючи за кермом автомобіля рівня 2 або 3 рівня , ми всі повинні уникати того, щоб не вводити в оману вірити, що водій може відняти їхню увагу від завдання водіння під час керування напівавтономним автомобілем.

Ви несете відповідальну сторону за рушійні дії транспортного засобу, незалежно від того, наскільки автоматизація може бути перекинута на рівень 2 або 3 рівень.

Самокеровані автомобілі та Незвичайна долина

Для справжніх автомобілів рівня 4 та рівня 5, у водінні завдання не буде брати участь людина-водій.

Усі пасажири будуть пасажирами.

AI робить водіння.

Один аспект, який слід негайно обговорити, передбачає той факт, що ШІ, який бере участь у сучасних системах керування ШІ, не є розумним. Іншими словами, ШІ в цілому є колективом комп’ютерного програмування та алгоритмів, і, безперечно, він не в змозі міркувати так само, як це може людина.

Чому цей додатковий акцент на тому, що ШІ не є розумним?

Оскільки я хочу підкреслити, що, обговорюючи роль системи керування ШІ, я не приписую людські якості ШІ. Будь ласка, майте на увазі, що нині існує тривала та небезпечна тенденція до антропоморфізації ШІ. По суті, люди призначають сьогоднішній ШІ схожий на людину розум, незважаючи на незаперечний та беззаперечний факт, що такого ШІ ще не існує.

З цим роз’ясненням ви можете передбачити, що система водіння ШІ не буде якось “знати” про аспекти водіння. Водіння та все, що воно спричиняє, повинні бути запрограмовані як частина апаратного та програмного забезпечення самокерованого автомобіля.

Давайте зануримось у безліч аспектів, які виникають на цю тему.

По-перше, важливо усвідомити, що не всі самокеровані автомобілі з штучним інтелектом однакові. Кожен виробник автомобілів і технологічна фірма, що займаються самокеруванням, використовують свій підхід до розробки самокерованих автомобілів. Таким чином, важко робити розгорнуті заяви про те, що будуть робити, а що не робитимуть системи керування ШІ.

Крім того, щоразу, коли заявляють, що система керування штучним інтелектом не робить якоїсь конкретної речі, це згодом може бути обігнате розробниками, які насправді програмують комп’ютер на таку саму річ. Поступово системи керування ШІ поступово вдосконалюються та розширюються. Існуюче сьогодні обмеження може більше не існувати в майбутній ітерації або версії системи.

Я сподіваюся, що це дає достатню кількість застережень, щоб підтвердити те, про що я збираюся розповісти.

Зараз ми готові глибоко зануритися в безпілотні автомобілі та етичні питання штучного інтелекту, які тягнуть за собою неймовірну долину.

Є чотири аспекти, що стосуються цього питання, які будуть висвітлені тут:

1. Загальний вигляд самокерованих автомобілів

2. Питання про те, куди «дивляться» самокеровані машини

3. ШІ рухові дії самокерованих автомобілів

4. Роботи, які їздять як засіб досягнення самокерованих автомобілів

Додаткові аспекти також життєздатно охоплені, але з огляду на обмеженість простору, цих чотирьох тем буде достатньо, щоб висвітлити орієнтир дивовижної долини, пов’язаної з автономними автомобілями на базі штучного інтелекту.

1. Загальний вигляд самокерованих автомобілів

Б’юся об заклад, що ви бачили фотографії чи відео сьогоднішніх випробувань самокерованих автомобілів. Таким чином, ви могли помітити, що більшість транспортних засобів є звичайними автомобілями, які оснащені додатковим спеціалізованим обладнанням. Наприклад, може бути стійка на даху, яка містить безліч електронних датчиків. До датчиків іноді входять відеокамери, радари, пристрої LIDAR, ультразвукові датчики тощо.

Футуристичний дизайн, як правило, припускає, що ми могли б відійти від автомобіля, що має звичайний вигляд, замість того, щоб змінити дизайн автомобілів як в салоні, так і в екстер’єрі, щоб вони стали більш гладкими автономними транспортними засобами. Зараз загальна думка полягає в тому, що простіше використовувати звичайні автомобілі та не витрачати енергію, намагаючись розтягнути зусилля, водночас повозячись з автомобілями нетрадиційного вигляду (є деякі винятки з цієї загальної точки зору, див. моє висвітлення на посилання тут).

Наразі суть полягає в тому, що якщо ви їдете по проїжджій частині і зустрічаєте неподалік безпілотний автомобіль, ви майже завжди можете відразу розпізнати, що це, ймовірно, самокерований автомобіль, просто помітивши незначну кількість датчиків, встановлених на автономному транспортному засобі. Це швидка візуальна роздача. Звичайно, ви не знаєте напевно, що це самокерування саме по собі, оскільки на цьому етапі органи керування керуванням, як правило, все ще неушкоджені, а за кермом може бути резервний водій.

З одного боку, ви можете припустити, що це особливо зручно, що самокеровані автомобілі фізично виділяються і їх легко візуально помічають люди-водії в автомобілях, які керують людиною, а також пішоходи поблизу. Усвідомлення того, що неподалік бродить самокерований автомобіль, може бути зручною підказкою, щоб бути настороже, спонукаючи вас бути пильними й усвідомлювати, що AI є або може керувати транспортним засобом.

Припустимо, що самокеровані автомобілі виглядають ідентичними звичайним авто, яким керує людина. Це реально здійснити принаймні двома способами. По-перше, датчики потенційно можуть бути приховані або сформовані так, щоб вони не були такими очевидними для випадкового візуального огляду. По-друге, може статися так, що всі автомобілі, включаючи звичайні автомобілі, керовані людиною, поступово оснащуються спорідненими датчиками, навіть якщо транспортний засіб, тим не менш, залишиться як автомобіль, керований переважно людиною. Дивіться моє подальше висвітлення на Це посилання тут.

Якщо ви уважно поміркуєте над цим міркуванням про те, чи можуть самокеровані машини бути ідентичними за зовнішнім виглядом звичайним автомобілям, які керують людиною, ви можете прийти до думки, що в цьому тушонці може ховатися дивовижна долина.

Розумієте, автомобілі, які відверто виглядають як самокеровані автомобілі, можуть бути типовими як такі, що знаходяться на стику, який знаходиться недалеко від дивовижної долини. По суті, ви «знаєте», що це робот або роботизована система. Це судження, до якого можна перейти майже відразу.

Коли самокеровані автомобілі схожі на автомобілі, які керують людиною, можливо, це говорить про те, що автономні транспортні засоби стрибнули повз дивовижну долину щодо їх роботи, схожої на зовнішність. Чи існує золота середина між цими двома фізичними проявами, що приводить нас у дивовижну долину?

Можливо, ви помітили самокерований автомобіль, який їде по вулиці, і здається, що це, ймовірно, самокерований автомобіль, з іншого боку, зовнішній вигляд не виглядає ані суворо автономним, ані суворо керованим людиною. Ви можете стверджувати, що самокерований автомобіль зараз у моторошному або тривожному стані.

Самокерований автомобіль нібито занурився в дивовижну долину.

При цьому не всі погодяться з такою категоризацією. Деякі стверджують, що фізичний вигляд не має нічого спільного з дивовижною долиною. Деякі, звичайно, також стверджують, що не існує нічого реально відомого як дивовижна долина.

Як згадувалося раніше, ви можете прийняти власне рішення з цього приводу.

2. Питання про те, куди дивляться самокеровані автомобілі

Небезпеку, яку багато хто хвилює щодо самокерованих автомобілів, є те, що на водійському сидінні зазвичай не вистачає людини-водія, і тому важко зрозуміти, куди дивиться «водій», коли керує автомобілем.

Зазвичай ви дивитеся на водіїв-людей, щоб шпигувати, куди вони дивляться. Наприклад, ви можете бути пішоходом на пішохідному переході, а автомобіль наближається до переходу. Ви уважно дивитесь на людину, яка сидить на водійському сидінні, і намагаєтеся розрізнити, куди повернута його голова, а куди дивляться очі. Якщо ви вважаєте, що водій вас побачив, вам буде зручніше переходити дорогу. Навпаки, якщо водій-людина, здається, вас не бачить, ви по праву турбуєтесь про переїзд.

У деяких містах існує своєрідний гамбіт кішки-мишки щодо цих аспектів. Особливою культурною нормою в певному місті може бути те, що якщо ви установите зоровий контакт з водієм, водій «перемагає», і він, здавалося б, має право продовжити, незалежно від законності ситуації водіння. Інші міста можуть бути абсолютно протилежними, а саме, що культурна норма полягає в тому, що при зоровому контакті пішохід «перемагає», а водій-людина має поважати дії пішохода.

Здається, ми прийняли цей звичай протягом відносно довгого часу, коли автомобілі перебували в наших містах і громадах. Проблема з появою самокерованих автомобілів полягає в тому, що на водійському сидінні немає водія-людини, і, отже, будь-який пішохід або водій поблизу, який зазвичай використовує голову та очі водіїв автомобілів як культурний індикатор намірів водіння, тепер є не пощастило.

Виробники автомобілів і розробники самокерованих автомобілів добре знають про цю проблему, що виникає. Одне з запропонованих рішень полягає в тому, щоб самокерований автомобіль моргав фарами автономного транспортного засобу або, можливо, подав звуковий сигнал. Інша думка полягає в тому, що самокерований автомобіль може мати варіант гучномовця і розповідати тим, хто поруч, які «наміри» системи водіння AI. Кожна з цих ідей має суттєві мінуси.

І все ж інша пропозиція передбачає виконання чогось, що спершу може здатися смішним. Пропозиція полягає в тому, щоб розмістити кулі, схожі на очні яблука, на зовнішній частині автономного транспортного засобу. Ці кулі дуже схожі на людські очі, якщо вони можуть обертатися вперед-назад, що дасть вам негайну вказівку на те, що ШІ «бачив вас» (ви б інтерпретували це за допомогою очних яблук, які дивляться у вашому конкретному напрямку). Я проаналізував цей підхід на посилання тут.

Якою була б ваша реакція, якщо ви побачите, як безпілотний автомобіль виїжджає на проїжджу частину і на капоті або на даху встановлюються ці величезні кулі, що з’являються у дивних яблуках?

Я думаю, ви можете подумати, що це моторошно, можливо, моторошно.

Дехто припустив би, що моторошність виникає від того, що повністю обладнаний безпілотний автомобіль знаходиться в неймовірній долині. Інші б різко стверджували, що це не має жодного відношення до дивовижної долини. З цих таких експертів дехто сказав би, що є моторошність, яка може бути моторошною, не закріплюючись у несподіваній долині (тобто, дивовижна долина, здавалося б, завжди породжує моторошність, але не вся моторошність виробляється лише через неймовірну долину). Інший кут полягає в тому, що кулі, ймовірно, можуть бути сконструйовані так, щоб вони виглядали менше в очні яблука і виглядали більш роботизованими, або що ми всі неминуче погодимося з появою цих куль, і початкова приголомшлива реакція вщухне.

3. ШІ Дії водіння самокерованих автомобілів

Багато з сьогоднішніх випробувань самокерованих автомобілів продемонстрували, що існуючі системи водіння з штучним інтелектом, як правило, запрограмовані на водіння досить прохолодними та дещо суворими законними способами. Система AI водіння зазвичай зупиняє самокерований автомобіль на знаках «Стоп». Система AI водіння не сміливо проїжджає перехрестя, коли сигнал світлофора незабаром стане червоним. Ці норовливі практики водіння є провінцією людей-водіїв.

Якщо говорити, можна майже здогадатися, що самокерований автомобіль — це самокерований автомобіль за стилем водіння, який він демонструє. Навіть якщо автономний транспортний засіб візуально здається звичайним автомобілем, керованим людиною, ви можете спостерігати за рухом автомобіля і, можливо, логічно зробити висновок, що він, ймовірно, керується системою AI.

Деякі вважають, що нам потрібно буде зробити системи водіння з штучним інтелектом більш схожими на витівки водіїв, щоб вони ефективно вписувалися в нормативні підходи до водіння. Я припускаю, що ви могли б витлумачити це як боротьбу з вогнем вогнем.

Чи є сенс робити це?

Майте на увазі, що відверті скептики та критики ненавидять цю ідею. Вони наполегливо стверджували, що ми хочемо, щоб системи водіння з штучним інтелектом керували правильно та обережно. Додавання потенційно мільйонів самокерованих автомобілів на проїжджі частини, які запрограмовані так, щоб вони були схожими на мандрівних водіїв, здавалося б колосальним кошмаром. Я обговорював цю суперечливу пропозицію на посилання тут.

Давайте переробимо дилему, використавши дивовижну долину.

Коли система водіння з штучним інтелектом є суворо законною за своїми діями водіння, це, можливо, є ознакою того, що це, швидше за все, роботизована система (незважаючи на те, що люди-водії, за загальним визнанням, роблять це, хоча в сучасному світі вони здаються далеко не такими). Якщо системи водіння з штучним інтелектом повинні їздити так само дивно, як і люди, чи він стрибає через дивовижну долину чи потрапляє в неймовірну долину?

Подумайте над цим.

4. Роботи, які їздять як засіб досягнення самокерованих автомобілів

Цей останній пункт для висвітлення є найбільш вражаючим із цих чотирьох.

Можливо, ви зовсім не знаєте, що деякі розробники штучного інтелекту намагаються створити роботів, які б керували автомобілями. Робот мав би тенденцію виглядати як людина в різних аспектах, маючи роботизовані ноги та роботизовані руки як кінцівки. Якщо ви хочете, щоб будь-який звичайний автомобіль, керований людиною, був самокерованим, ви просто помістіть цього спеціалізованого штурмового робота на водійське сидіння вашого автомобіля. Дивіться мій аналіз цього поняття на сторінці посилання тут.

Навіщо нам керувати роботами?

Принадність такого робота полягає в тому, що всі сучасні автомобілі, керовані людиною, майже за одну ніч можуть стати самокерованими автомобілями. Ви просто купуєте, орендуєте або якимось чином отримуєте собі водійського робота. Ви садите робота на сидіння водія, коли вирушаєте в дорогу. Робот доставить вас до місця призначення. Якщо ви хочете перейти до водіння людьми, ви знімаєте робота з автомобіля, можливо, покладете його в багажник для подальшого використання.

Сьогодні в Сполучених Штатах налічується близько 250 мільйонів звичайних автомобілів. Дехто вважає, що з часом з’являться безпілотні автомобілі. Замість того, щоб викидати ці звичайні автомобілі, можливо, ми могли б спробувати модернізувати їх, щоб вони перетворилися на самокеровані автомобілі, хоча це, можливо, досить дорога ідея. Здавалося б, більш розсудливим підходом було б зробити доступними водіння роботів.

Якби ви побачили звичайну машину, яка їде по вашій сусідній вулиці, а за кермом був робот, якою була б ваша реакція?

Ймовірно, моторошність.

Одне, за загальним визнанням, спірне твердження полягає в тому, що ця моторошність пов’язана з роботом, який керує звичайним автомобілем, який занурюється у знамениту чи сумнозвісну дивовижну долину.

Висновок

З точки зору етичного ШІ, дивовижна долина представляє інтригуючу загадку.

У ШІ є ті, хто повністю вірить у дивовижну долину, а хтось ні. Але незалежно від того, вірите ви в дивовижну долину чи не вірите, проте сама тема розкручена. Ви не можете ховати голову і робити вигляд, що конструкції як такої не існує. Конструкція як ідея живе і в якійсь видимості є вірусно потужною. Ненавидьте або любіть це, проклята або, можливо, піднесена тема залишається.

Згідно з моїм попереднім дискурсом про достоїнства дивовижної долини з точки зору етики ШІ, у ній існує двобійний зв’язок любові та ненависті. Чи повинні ті, хто в царині етичного штучного інтелекту, прийняти дивовижну долину, або остаточно відкинути дивовижну долину, або залишитися дещо нейтральним щодо правдивості і замість цього зосередитися на впливі, який наростає через постійні розбіжні переконання щодо неї.

Цей виклик викликає у видатного економіста Адама Сміта, як він одного разу сказав (перефразуючи), що на дорозі з Міста скептицизму ви повинні пройти через Долину Неоднозначності.