Етика штучного інтелекту, яка пристрасно бореться за ваше законне право бути винятком

Кажуть, що з кожного правила є виключення.

Однак проблема полягає в тому, що часто переважає постійне правило, і виняток, який потрібно визнати або прийняти, мало або зовсім не допускається. Використовується середній випадок, незважаючи на велику ймовірність того, що на передньому плані є виняток. Виняток не отримує ефірного часу. Це не має шансу бути належним чином розглянутим.

Я впевнений, що ви маєте знати, про що я говорю.

Чи намагалися ви коли-небудь отримати якесь індивідуальне обслуговування клієнтів, коли до вас бездумно ставилися без будь-яких відмінностей для вашого конкретного випадку та ваших конкретних потреб?

Це, безсумнівно, траплялося з вами, ймовірно, незліченну кількість разів.

Я збираюся провести вас через тривожну тенденцію, яка виникає щодо того, як штучний інтелект (ШІ) невпинно розробляється, щоб примусово підганяти все в єдину парадигму.

Винятки або не виявляються, або вирішуються бути зігнутими, ніби вони взагалі не були винятками. Основою для цього частково є поява машинного навчання (ML) і глибокого навчання (DL). Як ви незабаром побачите, ML/DL — це форма зіставлення обчислювальних шаблонів, подібні до якої «простіше» розробити та розгорнути, якщо ви бажаєте ігнорувати або обходити винятки. Це дуже проблематично та викликає гострі занепокоєння щодо етики ШІ. Про моє загальне поточне та широке висвітлення етики штучного інтелекту та етики штучного інтелекту див посилання тут та посилання тут, просто назвемо декілька.

Все не повинно бути так, і будь ласка, знайте, що це підігрівається тими, хто створює та розгортає ШІ, вирішуючи ігнорувати або применшувати обробку винятків у своїх вигадках ШІ.

Коли правило винятків

Давайте спочатку розберемо природу середнього випадку проти реалізації винятків.

Мій найулюбленіший приклад подібного підходу догпільування або короткозорого середньостатистичного підходу без винятків яскраво висвітлюється майже будь-яким епізодом відомого та досі надзвичайно популярного телесеріалу, відомого як House, MD (зазвичай просто виражається як будинок, яка тривала з 2004 по 2012 рік і яку сьогодні можна переглянути в соціальних мережах та інших ЗМІ). Серіал мав на увазі вигаданого персонажа на ім’я доктор Грегорі Хаус, який був грубим, нестерпним і досить нетрадиційним, але він був зображений як медичний геній, який міг виявити найнезрозуміліші хвороби та недуги. Інші лікарі та навіть пацієнти, можливо, не обов’язково любили його, але він виконав роботу.

Ось як відбувався типовий епізод (загальне попередження про спойлер!).

Пацієнт з’являється в лікарні, де працює доктор Хаус. Спочатку у пацієнта спостерігаються загальні симптоми, і різні інші лікарі по черзі намагаються діагностувати та вилікувати пацієнта. Дивно те, що спроби допомогти пацієнту або не покращують несприятливі умови, або, що ще гірше, мають тенденцію мати зворотний ефект. Хворому стає все гірше і гірше.

Оскільки тепер на пацієнта дивляться як на свого роду медичну цікавість, і оскільки ніхто інший не може зрозуміти, на що хворий пацієнт, до справи залучають доктора Хауса. Іноді це робиться навмисно, щоб використати його медичну майстерність, тоді як в інших випадках він дізнається про випадок і його вроджені інстинкти привертають його до незвичайних обставин.

Поступово ми з’ясовуємо, що у пацієнта якесь надзвичайно рідкісне захворювання. Тільки доктор Хаус і його команда лікарів-інтернів можуть це зрозуміти.

Тепер, коли я поділився з вами основною сюжетною лінією епізодів, давайте зануримося в отримані уроки, які ілюструють природу середнього випадку проти винятків.

Вигадані історії створені, щоб продемонструвати, як нестандартне мислення іноді може не помітити мети. Всі інші лікарі, які спочатку намагаються допомогти пацієнту, затуманені в своїх процесах мислення. Вони хочуть нав’язати симптоми та представлені грані в звичайний медичний діагноз. Пацієнт лише один із багатьох, яких вони, ймовірно, бачили раніше. Огляньте пацієнта, а потім призначте те саме лікування та медичні рішення, які вони неодноразово використовували протягом своєї медичної кар’єри.

Промийте, сполосніть, повторіть.

У певному сенсі ви можете виправдати такий підхід. Ймовірно, більшість пацієнтів матимуть найпоширеніші захворювання. День за днем ​​ці лікарі стикаються з тими самими медичними проблемами. Можна припустити, що пацієнти, які потрапляють до лікарні, справді перебувають на конвеєрі медичного обладнання. Кожен з них відповідає стандартизованим протоколам лікарні, ніби вони є частинами виробничого або складального підприємства.

Переважає середній випадок. Це не тільки прийнятно, але й дозволяє лікарні та медичному персоналу відповідно оптимізувати свої медичні послуги. Витрати можна знизити, якщо ви розробите медичні процеси для лікування середнього випадку. Існує досить відома порада, яка часто вбивається в уми студентів-медиків, а саме: якщо ви чуєте звуки копит з вулиці, швидше за все, ви думаєте про коня, а не про зебру.

Ефективно, продуктивно, результативно.

Поки в середину не пробирається виняток.

Можливо, зебра із зоопарку втекла і заблукала по вашій вулиці.

Чи означає це, що винятки мають бути правилом і ми повинні відмовитися від правила середнього випадку замість того, щоб зосереджуватися виключно на винятках?

Вам буде важко стверджувати, що всі наші щоденні зустрічі та послуги мають бути зосереджені на винятках, а не на середніх випадках.

Зауважте, що я не роблю такої пропозиції. Я стверджую, що ми повинні гарантувати, що винятки можуть відбуватися, і що ми повинні розпізнавати, коли виникають винятки. Я згадую це тому, що деякі вчені люди схильні голосно проголошувати, що якщо ви прихильник визнання винятків, то, отже, повинні бути проти розробок для середнього випадку.

Це хибна дихотомія.

Не впадайте в це.

Ми можемо взяти свій торт і з’їсти його теж.

Обґрунтування права бути винятком

Далі я, можливо, трохи шокую, що пов’язує все це з дедалі більшим використанням ШІ.

Системи штучного інтелекту дедалі більше створюються таким чином, щоб зосередитися на середньому випадку, часто на виключення або на шкоду розпізнаванню винятків.

Ви можете бути здивовані, дізнавшись, що це відбувається. Більшість із нас припускають, що оскільки штучний інтелект є формою комп’ютерної автоматизації, принадність автоматизації полягає в тому, що зазвичай можна включати винятки. Зазвичай це можна зробити з меншою ціною, ніж якби ви використовували людську працю для виконання подібних послуг. З людською працею може бути дорого або непомірно мати будь-яку доступну робочу силу, яка може працювати з винятками. Речі набагато легше керувати та встановлювати на місце, якщо ви можете припустити, що всі ваші клієнти або клієнти середнього калібру. Але використання комп’ютеризованих систем повинно допускати винятки, і це легко. З огляду на такий спосіб мислення, ми повинні бурхливо вболівати за те, щоб на перший план вийшли більш комп’ютеризовані можливості.

Вважайте це головоломкою, яка захоплює розум, і знайдіть хвилинку, щоб поміркувати над цим неприємним питанням: Як штучний інтелект, який інакше вважається найкращим із засобів автоматизації, може невблаганно крокувати рутинним і без винятків шляхом, який, за іронією долі чи несподівано, як ми собі уявляли, рухатиметься в прямо протилежному напрямку?

Відповідь: Однак машинне навчання та глибоке навчання переводять нас у виняткове існування НЕ тому що ми повинні обов'язково пройти цей шлях (ми можемо зробити краще).

Давайте розпакуємо це.

Припустімо, що ми вирішили використати машинне навчання, щоб розробити штучний інтелект, який використовуватиметься для встановлення медичних діагнозів. Ми збираємо багато історичних даних про пацієнтів та їхні медичні обставини. ML/DL, який ми налаштували, намагається виконати обчислювальну відповідність шаблону, яка досліджуватиме симптоми пацієнтів і відображатиме очікуване захворювання, пов’язане з цими симптомами.

На основі введених даних ML/DL математично встановлює, що такі симптоми, як нежить, біль у горлі, головний біль і ломота, тісно пов’язані із застудою. Лікарня вирішує використовувати цей ШІ для попереднього обстеження пацієнтів. Звісно, ​​пацієнти, які повідомляють про ці симптоми після першого звернення до лікарні, отримують «діагноз», що ймовірно мають звичайну застуду.

Перемикаючи передачі, давайте додамо до всього цього щось на зразок доктора Хауса.

Пацієнт приходить до лікарні, і йому ставлять діагноз ШІ. AI вказує на те, що у пацієнта звичайна застуда на основі симптомів нежиті, болю в горлі та головних болів. Пацієнту дають начебто відповідні рецепти та медичні поради щодо боротьби із застудою. Усе це є невід’ємною частиною підходу середнього випадку, який використовується при розробці ШІ.

Виявилося, що ці симптоми у пацієнта спостерігаються протягом кількох місяців. Експерт з рідкісних захворювань і харчових продуктів усвідомлює, що ці ж симптоми можуть свідчити про витік спинномозкової рідини (ліквору). Експерт лікує пацієнта різними хірургічними процедурами, пов’язаними з такими витоками. Пацієнт одужує (до речі, ця дивовижна історія про пацієнта з витоком ліквору, у якого спочатку діагностували звичайну застуду, частково заснована на реальному медичному випадку).

Зараз ми повторимо наші кроки в цій медичній сазі.

Чому штучний інтелект, який проводив попередній скринінг споживання, не зміг оцінити, чи може пацієнт мати це рідкісне захворювання?

Однією з відповідей є те, що якби навчальні дані, використані для створення ML/DL, не містили жодних таких екземплярів, у них не було б нічого, з чим можна було б зіставити обчислювальний шаблон. За відсутності даних, що охоплюють винятки з правила, загальне правило або середній випадок сам по собі вважатиметься бездоганним і застосовуватиметься без будь-яких вагань.

Інша можливість полягає в тому, що в історичних даних був, скажімо, випадок цього рідкісного витоку ліквору, але це був лише один конкретний випадок і в цьому сенсі викид. Решта даних була математично близькою до встановленого середнього випадку. Тоді виникає питання, що робити з так званим викидом.

Майте на увазі, що робота з цими викидами — це питання, яке дуже відрізняється від того, як розробники штучного інтелекту можуть вирішити боротися з появою чогось за межами визначеного середнього випадку. Немає жодного обов’язкового підходу, якого б змушували застосовувати розробники ШІ. Це трохи Дикого Заходу щодо того, що будь-який розробник штучного інтелекту може зробити в будь-якому конкретному випадку, що викликає винятки, у своїх зусиллях з розробки ML/DL.

Ось мій список способів, якими часто бувають ці винятки недоречно обробляється:

• Виняток вважається помилкою
• Виняток вважається негідним
• Виняток припускається як адаптований до «норми»
• Виняток взагалі не помічено
• Виняток помічено, але проігноровано
• Виняток помітили, а потім забули
• Виняток помічено та приховано від очей
• І т.д.

Розробник штучного інтелекту може вирішити, що ця рідкість — не що інше, як помилка в даних. Це може здатися дивним, що хтось так думає, особливо якщо ви спробуєте олюднити це, наприклад, уявивши, що пацієнт із витоком спинномозкової рідини є таким одним прикладом. Однак існує сильна спокуса: якщо всі ваші дані поза контекстом говорять про одне, можливо, складаються з тисяч і тисяч записів і всі вони збігаються до середнього випадку, поява однієї дивної частини даних може легко (ліниво!) бути витлумаченим як відверта помилка. Тоді «помилка» може бути відкинута розробником штучного інтелекту та не врахована в рамках того, на чому навчається ML/DL.

Іншим способом впоратися з винятком було б вирішити, що це негідна справа. Навіщо турбуватися про одну рідкість, коли ви, можливо, поспішаєте запустити та запустити ML/DL? Викиньте викид і рухайтеся далі. Жодна думка не обов'язково йде про наслідки в майбутньому.

Ще один підхід передбачає застосування винятку до решти середньостатистичного середовища. Розробник штучного інтелекту змінює дані, щоб відповідати решті норми. Також існує ймовірність, що розробник штучного інтелекту може не помітити існування винятку.

ML/DL може повідомити, що було виявлено виняток, після чого розробник штучного інтелекту має надати вказівки ML/DL про те, як математично обробляти викид. Розробник штучного інтелекту може помістити це в список справ, а потім забути про це чи просто вирішити проігнорувати це, і так далі.

Загалом, виявлення та вирішення проблем із винятками, коли справа доходить до штучного інтелекту, без будь-якого конкретно обумовленого чи переконливо збалансованого та аргументованого підходу як такого. До винятків часто ставляться як до негідних ізгоїв, а середній випадок є переважним переможцем. Робота з винятками складна, може зайняти багато часу, вимагає схожості спритних навичок розробки штучного інтелекту, а в іншому випадку це клопітка в порівнянні з тим, щоб згрупувати речі в чудову краватку-метелик універсального розміру.

Певною мірою саме тому етика ШІ та етичний ШІ є такою важливою темою. Правила етики ШІ змушують нас залишатися пильними. Технологи штучного інтелекту іноді можуть бути стурбовані технологіями, особливо оптимізацією високих технологій. Вони не обов’язково враховують більші суспільні наслідки.

Окрім застосування принципів етики штучного інтелекту в цілому, виникає відповідне питання про те, чи повинні ми мати закони, які регулюватимуть різні види використання ШІ. На федеральному, штатному та місцевому рівнях приймаються нові закони, які стосуються діапазону та характеру розробки ШІ. Зусилля щодо розробки та прийняття таких законів є поступовими.

У цій конкретній дискусії про роль винятків виникає провокаційна точка зору про те, що, можливо, має бути законне право, пов’язане з винятком. Цілком можливо, що єдиний життєздатний спосіб отримати добросовісне визнання для когось, можливо, є винятком, передбачає використання довгої руки закону.

Запровадити новий тип прав людини.

Право вважатися винятком.

Розгляньте цю пропозицію: «Право бути винятком не означає, що кожна особа is виняток, але якщо рішення може завдати шкоди суб’єкту рішення, особа, яка приймає рішення, повинна розглянути можливість того, що суб’єкт може бути винятком. Право бути винятком включає три компоненти: шкодити, індивідуалізація та невизначеність. Особа, яка приймає рішення, повинна вирішити завдати шкоди лише тоді, коли вона врахує, чи рішення належним чином індивідуалізоване, і, що важливо, невизначеність, яка супроводжує компонент рішення, керований даними. Чим більший ризик заподіяння шкоди, тим серйозніші міркування» (Сара Сен, у дослідницькій статті під назвою Право бути винятком у прийнятті рішень на основі даних, MIT, 12 квітня 2022 р.).

У вас може виникнути спокуса припустити, що ми вже маємо таке право.

Не обов'язково. Згідно з дослідницькою статтею, ймовірно, найближчим міжнародно визнаним правом людини може бути особиста гідність. Теоретично, уявлення про те, що гідність має бути визнана таким чином, що особа та її конкретна унікальність мають бути охоплені, дійсно вводить вас у поле потенційного виняткового права людини. Одне з сумнівів полягає в тому, що існуючі закони, які регулюють сферу гідності, вважаються дещо туманними та надто гнучкими, а отже, не пристосованими до конкретної правової конструкції права винятку.

Ті, хто виступає за нове право, яке складається з права людини бути винятком, будуть стверджувати, що:

• Таке право майже юридично змусить розробників штучного інтелекту явно впоратися з винятками
• Компанії, що виробляють штучний інтелект, були б легше налаштовані на гачок, якщо не мали б справу з винятками
• ШІ, ймовірно, буде краще збалансованим і надійнішим загалом
• Ті, хто використовує штучний інтелект або піддаються штучному інтелекту, були б кращими
• Якщо штучний інтелект не враховує винятків, юридичне звернення буде здійсненним
• Творці штучного інтелекту також матимуть кращі умови (їхній штучний інтелект охоплюватиме ширше коло користувачів)
• І т.д.

Ті, хто виступає проти нового права, позначеного як право людини бути винятком, зазвичай кажуть:

• Існуючі права людини та законні права достатньою мірою покривають це, і немає потреби ускладнювати ситуацію
• На плечі розробників штучного інтелекту ляже надмірний тягар
• Створення штучного інтелекту стане дорожчим і, як правило, уповільнить розвиток ШІ
• Виникали б помилкові очікування, що всі вимагатимуть, щоб вони були винятком
• Саме право, безсумнівно, зазнає різних тлумачень
• Ті, хто виграє найбільше, це юридична професія, коли судові справи різко зростуть
• І т.д.

Коротше кажучи, опозиція такому новому праву зазвичай стверджує, що це гра з нульовою сумою і що законне право бути винятком коштуватиме дорожче, ніж це приносить користь. Ті, хто вважає, що таке нове право необхідне, схильні підкреслювати, що це не гра з нульовою сумою і що врешті-решт виграють усі, включаючи тих, хто створює ШІ, і тих, хто використовує ШІ.

Ви можете бути впевнені, що ця дискусія, яка охоплює правові, етичні та соціальні наслідки, пов’язані з ШІ та винятками, буде гучною та наполегливою.

Безпілотні автомобілі та важливість винятків

Розглянемо, як це застосовується в контексті автономних систем, таких як автономні транспортні засоби та самокеровані автомобілі. Вже лунали різні критики щодо середньостатистичного мислення щодо розробки штучного інтелекту для самокерованих автомобілів і автономних транспортних засобів.

Наприклад, спочатку дуже мало конструкцій безпілотних автомобілів враховували тих, хто має певну форму фізичної вади чи вади. Не надто багато думали про ширше охоплення повного спектру потреб водіїв. Загалом, це усвідомлення зросло, хоча все ще висловлюються занепокоєння щодо того, чи це достатньо далеко й настільки широко, як це повинно бути.

Ще один приклад середнього випадку проти винятку пов’язаний із чимось, що може застати вас зненацька.

Чи готові ви?

Розробка та розгортання багатьох систем водіння штучного інтелекту та безпілотних автомобілів сьогодні, як правило, робить мовчазне або негласне припущення, що дорослі будуть їздити в самокерованих автомобілях. Ми знаємо, що коли за кермом перебуває людина-водій, у транспортному засобі, звісно, ​​перебуває дорослий, за визначенням, оскільки зазвичай отримання прав на водіння залежить від того, що він дорослий (ну, або майже такий). Для безпілотних автомобілів, які керують ШІ, немає необхідності в присутності дорослого.

Справа в тому, що ми можемо дозволити дітям їздити в автомобілях самостійно без присутності дорослих, принаймні це можливо у випадку з повністю автономними безпілотними автомобілями з штучним інтелектом. Ви можете відправити своїх дітей до школи вранці, скориставшись безпілотним автомобілем. Замість того, щоб вам доводилося підвозити своїх дітей або використовувати людину-водія в службі спільного використання поїздок, ви можете просто попросити своїх дітей сісти в безпілотний автомобіль і відвезти їх до школи.

Не все так райдужно, коли справа доходить до того, щоб діти самі їздили в безпілотних автомобілях.

Оскільки більше немає потреби в присутності дорослого в транспортному засобі, це означає, що діти також більше не відчуватимуть впливу або, скажімо, контролю, присутності дорослого. Діти збожеволіють і порвуть салони безпілотних автомобілів? Чи намагатимуться діти піднятися або дотягнутися за вікна безпілотного автомобіля? Які ще види витівок вони можуть робити, що призведе до потенційних травм і серйозної шкоди?

Я висвітлював бурхливі дебати щодо ідеї дітей їздити самостійно в безпілотних автомобілях, див. посилання тут. Деякі кажуть, що цього ніколи не можна допускати. Дехто каже, що це неминуче, і нам потрібно з’ясувати, як найкращим чином це зробити.

Висновок

Давайте повернемося до головної теми середнього випадку проти винятку.

Здається, ми всі згодні з тим, що завжди будуть якісь винятки з правил. Коли правило сформовано або визначено, ми повинні шукати винятки. Коли ми стикаємося з винятками, нам слід подумати, до якого правила цей виняток, ймовірно, відноситься.

Багато штучного інтелекту, які розробляються сьогодні, формуються навколо формулювання правил, тоді як виклики, пов’язані з винятками, як правило, забуваються та відмахуються від них.

Для тих, хто любить бути жорстоким і говорити, що немає винятків із правил, що завжди є винятки з правил, я визнаю, що ця дотепність здається загадковою. А саме, як ми можемо мати правило, що завжди є винятки, але тоді саме це правило, здається, не стосується правила, що завжди є винятки з правила?

Закручує голову.

На щастя, немає потреби надмірно ускладнювати ці витверезні справи. Сподіваюся, ми можемо жити за зручним і життєво важливим правилом, на яке слід звернути увагу та приймати винятки з кожного правила.

Це вирішує питання, тож давайте попрацюємо над цим.