Етика штучного інтелекту та загрозлива катастрофа, коли закон Нью-Йорка, що вимагає аудиту на предмет упереджень штучного інтелекту, починає діяти

Іноді найкращі наміри, на жаль, руйнуються серйозною неувагою до деталей.

Яскравий приклад цієї мудрої мудрості вартий вивчення.

Зокрема, давайте уважно розглянемо новий закон у Нью-Йорку щодо штучного інтелекту (ШІ), який набуде чинності 1 січня 2023 року. Ви можете легко виграти значну ставку на те, що виникнуть усілякі плутанина, жах і проблеми. як тільки закон набуде чинності. Хоча проблеми не є задумом, вони, безсумнівно, виникнуть в результаті поганого дизайну або, принаймні, недостатнього визначення необхідних деталей, які слід і можна було легко придумати та чітко викласти.

Я маю на увазі місцевий закон, прийнятий минулого року 11 грудня 2021 року у шанованому місті Нью-Йорк, який має набути чинності на початку 2023 року. На даний момент нас залишило лише кілька місяців до грандіозного пробудження, яке цей новий закон сколихне. Мені б хотілося сказати, що амбітний закон безперешкодно виконуватиме те, що він має робити, а саме — боротися з потенційними упередженнями штучного інтелекту у сфері прийняття рішень щодо працевлаштування. На жаль, хоча цей намір похвальний, я проведу вас через відкриті лазівки, упущення та відсутність конкретики, які підривають цей закон і зводять роботодавців з розуму, коли вони намагаються впоратися з ненавмисними, але досить несприятливими наслідками.

Ви можете сказати, що це класичне питання про просування недоробленого плану. Шановна сентенція Дуайта Ейзенхауера полягала в тому, що план — це ніщо, а планування — це все. Коротше кажучи, цей конкретний закон стане яскравим прикладом того, як законодавці іноді можуть помилятися, не продумавши заздалегідь необхідні деталі, щоб закон відповідав своїм цінним цілям і міг бути прийнятий безумовно розумним і розважливим способом.

Чекає фіаско.

Виправдання вже вибудовуються.

Деякі експерти казали, що ви ніколи не можете повністю визначити закон і повинні побачити його в дії, щоб знати, які аспекти закону потрібно налаштувати (загальна істина, яка в цьому випадку перекручується непропорційно). Крім того, вони гаряче стверджують, що це особливо стосується новизни законів, пов’язаних зі ШІ. До біса, закликають вони, штучний інтелект — це високотехнологічна магія, про яку ми як законодавці мало знаємо, тому логіка полягає в тому, що краще мати щось на юридичних сторінках, ніж не мати там взагалі нічого.

Зовні це, звичайно, звучить переконливо. Копніть глибше, і ви зрозумієте, що це потенційно огидно, зокрема й особливо у випадку цього конкретного закону. Цей закон можна було б сформулювати більш спритно й розсудливо. Нам не потрібні чарівні зілля. Нам не потрібно чекати, поки виникне хаос. На момент розробки закону можна було встановити правильні формулювання та деталі.

Давайте також переконаємось, що непристойна, насаджена ідея про те, що аспекти усиновлення не можна передбачити заздалегідь, є до болю абсурдною. Це легальне розмахування рукою найпорожнішого роду. Існує багато вже відомих міркувань щодо боротьби з упередженнями ШІ та проведення аудитів ШІ, які можна було легко включити в цей закон. Те саме можна сказати про будь-яку іншу юрисдикцію, яка має намір запровадити такий закон. Не обманюйте себе, повіривши, що ми повинні лише наосліп кидати законний дротик у дикі вітри та терпіти страждання. Частина юридичного мислення в поєднанні з відповідним розумінням штучного інтелекту вже можлива, і немає необхідності хапатися виключно за соломинку.

Я можу додати, що ще є час, щоб це виправити. Годинник ще цокає. Можливо, вдасться прокинутися до того, як почнуть дзвонити будильники. Необхідну пораду можна отримати та оприлюднити. Часу мало, тому цьому слід приділити належну увагу.

У будь-якому випадку переконайтеся, що ви зрозуміли наголос тут.

Дозвольте мені гаряче пояснити, що такий закон щодо упереджень ШІ дійсно має переваги. Миттєво поясню чому. Я також опишу проблеми, пов’язані з цим новим законом, про який багато хто сказав би, що це перший в історії законодавчий акт (існують інші варіанти, хоча, можливо, не зовсім такі, як цей).

Дійсно, можна очікувати, що подібні закони поступово з’являться по всій країні. Одне з важливих занепокоєнь полягає в тому, що якщо ця спроба першого кроку в Нью-Йорку закінчиться погано, це може змусити решту країни з обережністю поставитися до прийняття таких законів. Це не правильний урок. Правильний урок полягає в тому, що якщо ви збираєтеся писати такий закон, робіть це розумно та з належною увагою.

Закони, кинуті в книги без належної перевірки, можуть бути дуже засмученими та створювати всілякі труднощі. У цьому сенсі речей, будь ласка, не викидайте дитину разом з водою для ванни (старе прислів’я, мабуть, слід залишити). Суть полягає в тому, що такі закони можуть бути справді продуктивними та захищати, якщо вони правильно складені.

Цей конкретний, на жаль, не збирається робити це поза воротами.

Усілякі панічні вказівки обов’язково надходять від тих, хто встановлює та виконує закони. Позначте у своїх календарях кінець січня та лютий 2023 року, щоб спостерігати за розгортанням змагань. Вказування пальцями буде надзвичайно інтенсивним.

Зараз ніхто особливо не реве, тому що закон ще не влетів у голову роботодавцям, яких новий закон обдурить. Уявіть собі, що це, метафорично кажучи, своєрідний землетрус, який має відбутися в перші тижні 2023 року. Мало хто готується до землетрусу. Багато хто навіть не підозрює, що землетрус вже занесено в календар. З огляду на все це, як тільки трапиться землетрус, багато дуже здивованих і шокованих компаній будуть дивуватися, що сталося і чому мав виникнути цей безлад.

Усе це має дуже значний вплив на етику штучного інтелекту та пропонує зручне вікно в отримані уроки (навіть до того, як усі уроки відбудуться), коли справа доходить до спроб законодавчого впровадження штучного інтелекту. Для мого постійного та широкого висвітлення етики штучного інтелекту, Етичний штучний інтелект разом із законодавством щодо штучного інтелекту серед правових аспектів управління ШІ можна знайти за адресою посилання тут та посилання тут, просто назвати декілька.

Ця юридична історія про горе пов’язана з колишніми занепокоєннями щодо сучасного штучного інтелекту, особливо щодо використання машинного навчання (ML) і глибокого навчання (DL) як форм технології та того, як вони використовуються. Розумієте, існують способи використання ML/DL, які, як правило, передбачають антропоморфізацію штучного інтелекту широкою громадськістю, вірячи або вирішуючи припускати, що ML/DL є або розумним ШІ, або близьким до (це не так). Крім того, ML/DL може містити аспекти зіставлення обчислювальних шаблонів, які є небажаними, відверто неприйнятними чи незаконними з точки зору етики чи права.

Було б корисно спочатку пояснити, що я маю на увазі, коли згадую про ШІ в цілому, а також надати короткий огляд машинного та глибокого навчання. Існує велика плутанина щодо того, що означає штучний інтелект. Я також хотів би познайомити вас із принципами етики штучного інтелекту, які будуть особливо невід’ємною частиною решти цього дискурсу.

Встановлення запису про ШІ

Давайте переконаємося, що ми знаходимося на одній сторінці щодо природи сучасного ШІ.

Сьогодні немає жодного штучного інтелекту, який був би розумним.

У нас цього немає.

Ми не знаємо, чи стане можливим розумний ШІ. Ніхто не може точно передбачити, чи ми досягнемо інтелектуального ШІ, а також те, чи розумний ШІ якимось дивовижним чином спонтанно виникне у формі обчислювальної когнітивної наднової (зазвичай її називають Сингулярністю, див. моє висвітлення на посилання тут).

Зрозумійте, що сьогоднішній штучний інтелект не здатний «мислити» так само, як людське. Коли ви взаємодієте з Alexa або Siri, здатність до розмови може здатися схожою на людську здатність, але насправді вона пов’язана з обчисленням і не має людського пізнання. Остання ера штучного інтелекту широко використовує машинне навчання та глибоке навчання, які використовують обчислювальну відповідність шаблонів. Це призвело до появи систем штучного інтелекту, які виглядають як людські схильності. Тим часом, сьогодні немає жодного штучного інтелекту, який мав би хоч якось здоровий глузд, а також жодного когнітивного дива міцного людського мислення.

Частково проблема полягає в нашій тенденції до антропоморфізації комп’ютерів і особливо ШІ. Коли здається, що комп’ютерна система чи штучний інтелект діють так, як ми асоціюємо з людською поведінкою, виникає майже непереборне бажання приписати цій системі людські якості. Це звичайна психічна пастка, яка може вхопити навіть найнепримиреннішого скептика щодо шансів досягти розуму.

Певною мірою саме тому етика ШІ та етичний ШІ є такою важливою темою.

Правила етики ШІ змушують нас залишатися пильними. Технологи штучного інтелекту іноді можуть бути стурбовані технологіями, особливо оптимізацією високих технологій. Вони не обов’язково враховують більші суспільні наслідки. Наявність мислення щодо етики штучного інтелекту, яке є невід’ємною частиною розробки та впровадження штучного інтелекту, є життєво важливим для створення відповідного штучного інтелекту, включаючи оцінку того, як етика штучного інтелекту приймається компаніями.

Окрім застосування принципів етики штучного інтелекту в цілому, виникає відповідне питання про те, чи повинні ми мати закони, які регулюватимуть різні види використання ШІ. На федеральному, штатному та місцевому рівнях приймаються нові закони, які стосуються діапазону та характеру розробки ШІ. Зусилля щодо розробки та прийняття таких законів є поступовими. Етика штучного інтелекту служить принаймні тимчасовим засобом і майже напевно певною мірою буде безпосередньо включена в ці нові закони.

Майте на увазі, що деякі категорично стверджують, що нам не потрібні нові закони, які стосуються ШІ, і що наших існуючих законів достатньо. Вони попереджають, що якщо ми все-таки запровадимо деякі з цих законів щодо штучного інтелекту, ми вб’ємо золотого гусака, пригнічуючи досягнення ШІ, які пропонують величезні переваги для суспільства. Дивіться, наприклад, моє висвітлення на посилання тут.

У попередніх колонках я розповідав про різні національні та міжнародні спроби розробити та прийняти закони, що регулюють ШІ, див. посилання тут, наприклад. Я також розглянув різні принципи та настанови етики штучного інтелекту, які визначили та прийняли різні країни, включаючи, наприклад, зусилля Організації Об’єднаних Націй, такі як набір етики штучного інтелекту ЮНЕСКО, який прийняли майже 200 країн, див. посилання тут.

Ось корисний ключовий список етичних критеріїв або характеристик систем штучного інтелекту, які я раніше детально досліджував:

• прозорість
• Справедливість і справедливість
• Незлочинність
• Відповідальність
• Конфіденційність
• Вигода
• Свобода і автономія
• Довіряйте
• Sustainability
• Гідність
• Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту. Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в межах дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Як наголошувалося вище, для розробки та впровадження штучного інтелекту потрібне село, і для цього все село має знати та дотримуватися правил етики штучного інтелекту.

Давайте будемо приземлені та зосередимося на сучасному обчислювальному нерозумному ШІ.

ML/DL є формою узгодження обчислювальних шаблонів. Звичайний підхід полягає в тому, що ви збираєте дані про завдання прийняття рішення. Ви подаєте дані в моделі комп’ютерів ML/DL. Ці моделі прагнуть знайти математичні закономірності. Після виявлення таких закономірностей, якщо вони знайдені, система ШІ використовуватиме ці шаблони під час зустрічі з новими даними. Після представлення нових даних шаблони, засновані на «старих» або історичних даних, застосовуються для прийняття поточного рішення.

Я думаю, ви можете здогадатися, куди це веде. Якщо люди, які приймали рішення за зразком, включали упередження, ймовірно, дані відображають це тонким, але значущим чином. Машинне навчання або глибоке навчання обчислювальний шаблон зіставлення буде просто намагатися математично імітувати дані відповідно. Немає жодної видимості здорового глузду чи інших розумних аспектів моделювання, створеного AI, як такого.

Крім того, розробники ШІ також можуть не усвідомлювати, що відбувається. Таємна математика в ML/DL може ускладнити виявлення прихованих упереджень. Ви по праву сподіваєтесь і очікуєте, що розробники AI перевірять потенційно приховані упередження, хоча це складніше, ніж може здатися. Існує велика ймовірність того, що навіть при відносно обширному тестуванні в моделях зіставлення шаблонів ML/DL все ще будуть упередження.

Ви могли б трохи використати відоме чи сумнозвісне прислів’я «сміття в сміття – виходить». Справа в тому, що це більше схоже на упередження, які підступно вливаються, коли упередження занурюються в ШІ. Алгоритм прийняття рішень (ADM) ШІ аксіоматично стає обтяженим несправедливістю.

Не добре.

Я вважаю, що зараз підготував основу для достатнього обговорення ролі штучного інтелекту в рубриці тихого припинення.

ШІ, який використовується для прийняття рішень щодо працевлаштування

Закон міста Нью-Йорк зосереджується на темі прийняття рішень щодо працевлаштування.

Якщо ви останнім часом намагалися подати заявку на сучасну роботу майже будь-де на землі, ви, ймовірно, стикалися з елементом на основі штучного інтелекту в процесі прийняття рішень щодо працевлаштування. Звичайно, ви можете не знати, що він там, оскільки він може бути прихований за лаштунками, і ви не матимете готового способу розпізнати, чи була задіяна система ШІ.

Загальна фраза, яка використовується для позначення цих систем ШІ, полягає в тому, що вони розглядаються Автоматизовані інструменти прийняття рішень щодо працевлаштування, скорочено AEDT.

Давайте подивимося, як закон Нью-Йорка визначив ці інструменти або програми, які передбачають прийняття рішень щодо працевлаштування:

• «Термін «автоматичний інструмент прийняття рішення про працевлаштування» означає будь-який обчислювальний процес, отриманий за допомогою машинного навчання, статистичного моделювання, аналітики даних або штучного інтелекту, який видає спрощений результат, включаючи оцінку, класифікацію або рекомендацію, який використовується для істотної допомоги або замінити дискреційне прийняття рішень прийняттям рішень щодо працевлаштування, які впливають на фізичних осіб. Термін «автоматизований інструмент прийняття рішень про працевлаштування» не включає інструмент, який не автоматизує, не підтримує, суттєво не допомагає або замінює дискреційні процеси прийняття рішень і який не впливає суттєво на фізичних осіб, включаючи, але не обмежуючись, фільтр небажаної електронної пошти, брандмауер, антивірусне програмне забезпечення, калькулятор, електронна таблиця, база даних, набір даних або інший збір даних» (NYC, Int 1894-2020, підрозділ 25, розділ 20-870).

Я коротко проаналізую це формулювання, оскільки воно є життєво важливим для всієї природи та сфери дії закону.

По-перше, як я неодноразово зазначав у своїх роботах, одна з найскладніших перешкод при написанні законів про штучний інтелект полягає в спробі адекватно визначити, що означає штучний інтелект. Немає єдиного загальновизнаного юридичного куленепробивного стандарту, якого б дотримувалися всі. Існують усілякі визначення. Деякі корисні, деякі ні. Перегляньте мої аналізи на посилання тут.

У вас може виникнути спокуса подумати, що не особливо важливо, як ми можемо визначити ШІ. Вибачте, але ви помиляєтеся.

Проблема полягає в тому, що якщо визначення штучного інтелекту нечітко вказано в даному законі, це дозволяє тим, хто розробляє штучний інтелект, намагатися обійти закон, нібито стверджуючи, що їхнє програмне забезпечення чи система не використовує ШІ. Вони б сперечалися з великою сміливістю, що закон не поширюється на їх програмне забезпечення. Подібним чином хтось, хто використовує програмне забезпечення, також може стверджувати, що закон не стосується його, оскільки програмне забезпечення або система, яку вони використовують, не підпадає під визначення ШІ, наведене в законі.

Люди такі хитрі.

Один із найрозумніших способів не потрапити під удари закону, який вам не подобається, — це стверджувати, що закон вас не стосується. У цьому випадку ви намагатиметеся поетапно розібрати визначення AEDT. Ваша мета, припускаючи, що ви не хочете, щоб закон був на вашій спині, полягала б у тому, щоб юридично стверджувати, що визначення, надане в законі, не відповідає тому, чим є чи чим займається ваша комп’ютерна система, пов’язана з роботою.

Закону такого роду можна як допомогти, так і часом підірвати, якщо навмисно включити у визначення положення про виключення.

Погляньте ще раз на визначення AEDT, як зазначено в цьому законі. Сподіваюся, ви помітили, що існує застереження про виключення, у якому сказано: «…не включає інструмент, який не автоматизує, не підтримує, суттєво не допомагає або замінює дискреційні процеси прийняття рішень і який суттєво не впливає на фізичних осіб…».

З одного боку, підстава для включення такого виключення є однозначно корисною.

Здається, це означає (на мій погляд неспеціаліста), що AEDT має забезпечувати конкретну мету та використовуватися по суті. Якщо AEDT є, скажімо, поверхневим або периферійним, і якщо рішення про працевлаштування все ще залежить від людини, можливо, програмну систему, що використовується, не слід тлумачити як AEDT. Крім того, якщо програмне забезпечення чи система не «матеріально» впливають на фізичних осіб (людей), то, так би мовити, не варто тримати ноги біля вогню.

Розумно, ви не хочете, щоб закон перебільшував свою сферу дії та охоплював усе, включаючи кухонну мийку. Це по суті є несправедливим і обтяжливим для тих, на кого закон не поширювався. Вони можуть потрапити в трясовину, яка діє як одна з тих всеосяжних рибальських сіток. Імовірно, наші закони повинні бути обережними, щоб не втягувати невинних у сферу дії закону.

Все добре і добре.

Кмітливий адвокат обов’язково усвідомлює, що застереження про виключення може бути своєрідною карткою законного виходу з в’язниці (якщо осторонь, цей конкретний закон передбачає цивільні покарання, а не кримінальні покарання, тому вийти з в'язниці зауваження є просто метафоричним і для ароматної гостроти). Якби хтось стверджував, що компанія використовує AEDT під час оформлення працевлаштування, одним із перших способів спробувати подолати це твердження було б стверджувати, що так званий AEDT насправді був у сфері винятків. Ви можете спробувати показати, що так званий AEDT цього не робить автоматизувати рішення про працевлаштування чи ні підтримка рішення про працевлаштування чи ні суттєво допомогти or замінювати дискреційні процеси прийняття рішень.

Потім ви можете піти звивистим шляхом визначення того, що означають у цьому контексті слова «автоматизувати», «підтримати», «суттєво допомогти» або «замінити». Це досить зручна легальна кроляча нора. Можна навести переконливі аргументи, що програмне забезпечення або система, які нібито є AEDT, є частиною виключних показань. Тому жодної шкоди, жодного порушення щодо цього конкретного закону.

Очевидно, що з таких питань слід проконсультуватися з ліцензованими адвокатами (тут не вказано жодної подібності юридичної консультації, і це цілком погляд неспеціаліста).

Я хочу сказати, що в цьому новому законі буде простір для маневрів. Кімната для маневрів дозволить деяким роботодавцям, які справді використовують AEDT, можливо, знайти лазівку, щоб обійти використання AEDT. Інша сторона цієї медалі полягає в тому, що можуть бути фірми, які справді не використовують AEDT, які потраплять у пастку цього закону. Можна стверджувати, що те, що вони використовували, справді було AEDT, і їм потрібно буде знайти спосіб довести, що їхнє програмне забезпечення чи системи не підпадають під дію AEDT і виключне положення.

Ми можемо зробити такий сміливий прогноз:

• Безсумнівно, знайдуться роботодавці, які свідомо використовують AEDT і потенційно намагатимуться уникнути своїх юридичних обов’язків.
• Неминуче будуть роботодавці, які не використовують AEDT, які загрузнуть у заявах, що вони використовують AEDT, що змушує їх докладати «додаткових» зусиль, щоб продемонструвати, що вони не використовують AEDT.

Я детальніше поясню ці численні перестановки та комбінації, коли ми продовжимо це обговорення. У нас ще багато чого потрібно протоптати.

Використання AEDT саме по собі не є частиною цієї проблеми, яка викликає демонстративні занепокоєння, саме те, як AEDT виконує свої дії, викликає юридичний гнів. Суть полягає в тому, що якщо AEDT також, можливо, вносить упередження, пов’язані з прийняттям рішень щодо працевлаштування, ви тоді потенційно опинитесь у гарячій воді (ну, начебто).

Як ми можемо дізнатися, чи справді AEDT вносить упередження, навантажені штучним інтелектом, у процес прийняття рішень щодо працевлаштування?

Відповідь згідно з цим законом полягає в тому, що має бути проведений аудит ШІ.

Раніше я часто розповідав про природу перевірок штучного інтелекту та про те, що вони собою представляють, а також відзначав існуючі недоліки та невизначені аспекти, як-от на посилання тут та посилання тут, серед багатьох інших схожих публікацій. Простіше кажучи, ідея полягає в тому, що так само, як ви можете провести фінансовий аудит фірми або технологічний аудит комп’ютерної системи, ви можете провести аудит системи ШІ. Використовуючи спеціалізовані техніки, інструменти та методи аудиту, ви перевіряєте та оцінюєте, з чого складається система штучного інтелекту, включаючи, наприклад, спроби з’ясувати, чи містить вона ті чи інші упередження.

Це сфера уваги, яка розвивається.

Можна очікувати, що ця підгалузь аудиту, присвячена аудиту штучного інтелекту, продовжуватиме розвиватися. Цілком очевидно, що в міру появи на ринку все більшої кількості систем штучного інтелекту, у свою чергу, буде все більше запитів на перевірку штучного інтелекту. Нові закони допоможуть у цьому. Навіть без цих законів буде багато перевірок штучного інтелекту, оскільки люди та компанії стверджуватимуть, що вони зазнали несправедливості через штучний інтелект, і намагатимуться надати відчутні задокументовані ознаки того, що шкода була присутня та пов’язана з використовуваним ШІ.

Аудитори зі штучного інтелекту будуть популярними та користуватимуться великим попитом.

Це може бути захоплююча робота. Один, можливо, захоплюючий елемент передбачає занурення в останній і найкращий AI. AI продовжує розвиватися. Коли це станеться, проникливому аудитору ШІ доведеться бути напоготові. Якщо ви аудитор, який втомився від щоденних звичайних аудитів, захоплююча, завжди нова арена аудиту ШІ пропонує багатообіцяючу (я говорю це, щоб частково підвищити авторитет аудиторів, оскільки вони часто невідомі герої, які працюють в окопах і як правило, ними нехтують своїми зусиллями).

Крім того, я був сертифікованим аудитором комп’ютерних систем (одним з таких призначень є CISA) і проводив аудит ІТ (інформаційних технологій) багато разів протягом багатьох років, включаючи аудит ШІ. У більшості випадків ви не отримуєте належного визнання за такі зусилля. Ви, мабуть, здогадуєтеся чому. Загалом, аудитори прагнуть знайти речі, які є неправильними або зламаними. У цьому сенсі вони дуже корисні, хоча дехто може сприйняти це як погану новину, а вісник поганих новин зазвичай не ставиться на п’єдестал.

Повертаючись до розглянутої справи.

Що стосується закону Нью-Йорка, ось що в законі сказано про перевірку штучного інтелекту та пошук упереджень щодо штучного інтелекту:

• «Термін «аудит упередженості» означає неупереджену оцінку незалежним аудитором. Такий аудит упередженості включатиме, але не обмежуватиметься тестуванням автоматизованого інструменту прийняття рішення про працевлаштування для оцінки різнорідного впливу інструменту на осіб будь-якої категорії компонента 1, про які роботодавці зобов’язані звітувати відповідно до підрозділу (c) розділу 2000e-8 заголовку 42 кодексу США, як зазначено в частині 1602.7 розділу 29 кодексу федеральних правил» (NYC, Int 1894-2020, підрозділ 25, розділ 20-870).

Підводячи підсумок, ось на якому етапі ми розкриваємо цей закон:

• Закон охоплює автоматизовані інструменти прийняття рішень щодо працевлаштування (AEDT)
• Визначення сортів включено, щоб визначити, що таке AEDT
• У визначенні AEDT також згадуються положення про виключення
• Суть полягає в тому, що закон хоче викрити упередження ШІ в AEDT
• Щоб з’ясувати, чи присутні упередження штучного інтелекту, потрібно провести аудит штучного інтелекту
• Імовірно, перевірка штучного інтелекту виявить будь-які упередження штучного інтелекту

Далі ми можемо трохи більше копнути в законі.

Ось з чого складається рішення про працевлаштування:

• «Термін «рішення про працевлаштування» означає перевірку кандидатів на роботу або працівників для просування по службі в межах міста» (NYC, Int 1894-2020, підрозділ 25, розділ 20-870).

Зауважте, що обмежувальний аспект «міста» передбачає, що справа стосується лише обставин, пов’язаних із працевлаштуванням у Нью-Йорку. Крім того, варто зазначити, що рішення про працевлаштування, як це визначено, передбачає перевірку кандидатів, що є звичайним відтінком того, що ми вважаємо рішенням про працевлаштування, а також включає просування по службі.

Це подвійний удар у тому сенсі, що фірмам потрібно буде усвідомити, що вони повинні бути в курсі того, як їхній AEDT (якщо вони його використовують) використовується для початкових налаштувань працевлаштування, а також під час просування всередині фірми. Ви можете здогадатися або припустити, що багато фірм не будуть усвідомлювати, що елемент просування також є в цій рубриці. Вони неминуче пропустять цю додаткову конструкцію на свій страх і ризик.

Далі я збираюся надати додатковий ключовий витяг із закону, щоб прояснити суть того, що в цьому законі тлумачиться як незаконне:

• «Вимоги до засобів автоматизованого прийняття рішень про працевлаштування. a. У місті роботодавець або агентство з працевлаштування буде незаконним використовувати автоматизований інструмент прийняття рішення про працевлаштування для перевірки кандидата чи працівника на предмет прийняття рішення про працевлаштування, якщо: 1. Такий інструмент не був предметом упередженого аудиту, проведеного не пізніше за рік до використання такого інструменту; 2. Короткий виклад результатів останнього аудиту упередженості такого інструменту, а також дата розповсюдження інструменту, до якого застосовується такий аудит, були оприлюднені на веб-сайті роботодавця або агентства з працевлаштування до використання такий інструмент…» (NYC, Int 1894-2020, підрозділ 25, розділ 20-871). Є додаткові підпункти, на які ви можете звернути увагу, якщо вас дуже цікавить юридичне формулювання.

Скептики та критики стверджували, що це виглядає дещо прохолодно щодо незаконної діяльності, про яку йдеться.

Мовляв, закон лише вузько і мінімально фокусується на Проведення аудит ШІ та оприлюднення результати, а не про те, чи виявила перевірка штучного інтелекту упередження щодо штучного інтелекту та які наслідки це мало для прийняття рішень щодо працевлаштування, які підпадають під дію цього закону. По суті, це, очевидно, є незаконним НЕ вибрати проведення такого аудиту штучного інтелекту (якщо застосовно, як обговорювалося раніше), крім того, це також є незаконним у випадку, якщо ви проводите аудит штучного інтелекту, але НЕ оприлюднити це.

Здається, закон нічого не стосується питання про те, чи були виявлені та наявні упередження ШІ чи ні. Так само мовчання про те, чи вплинули упередження штучного інтелекту на будь-кого, хто має відношення до важливої ​​діяльності щодо прийняття рішень щодо працевлаштування. Ключовим є, здавалося б, просто «просто» провести аудит штучного інтелекту та розповісти про нього.

Чи цей закон заходить недостатньо далеко?

Частина контраргументу для того, щоб стверджувати, що це, здавалося б, задовільно щодо діапазону або обсягу того, що охоплює цей закон, полягає в тому, що якщо перевірка штучного інтелекту справді виявить упередженість штучного інтелекту, і якщо ці упередження штучного інтелекту пов’язані з конкретними випадками прийняття рішень щодо працевлаштування, особа або особи, які постраждали таким чином, могли б переслідувати роботодавця згідно інший закони. Таким чином, немає необхідності включати цей аспект у цей конкретний закон.

Мовляв, цей закон має на меті висвітлити такі факти.

Як тільки на ці небажані практики буде висвітлено, можна буде застосувати будь-які інші законні шляхи, якщо упередженість ШІ існує та впливає на людей. Без цього закону стверджується, що ті, хто використовує AEDT, робили б це, можливо, шаленіючи та потенційно мали масу упереджень ШІ, про які ті, хто шукає роботу або просять підвищення, не знають.

Виведіть їх на поверхню. Змусьте їх розповісти. Залізти під капот. Подивіться, що всередині двигуна. Це мантра в цьому випадку. З цього висвітлення та розповіді можна вжити додаткових дій.

Окрім звернення до суду в результаті висвітлення того, що перевірка штучного інтелекту, можливо, повідомила про наявність упереджень щодо штучного інтелекту, також існує переконання, що публікація цих результатів призведе до наслідків для репутації. Роботодавці, які демонструються як такі, що використовують AEDT з упередженнями щодо ШІ, ймовірно, зазнають гніву суспільства, наприклад через соціальні мережі тощо. Їх викриють у своїх злих діях, і їм буде соромно вимагати виправити свою поведінку, а також можуть виявитися позбавленими людей, які шукають там роботу, через сумніви, що упередження штучного інтелекту перешкоджають найму або узурпують просування по службі.

Заявлені покарання, пов’язані з незаконністю, такі:

• «Штрафи. a. Будь-яка особа, яка порушує будь-яке положення цього підрозділу або будь-яке правило, оприлюднене відповідно до цього підрозділу, несе відповідальність за цивільно-правовий штраф у розмірі не більше 500 доларів США за перше порушення та кожне додаткове порушення, яке сталося в той самий день, що й перше порушення, і не менше ніж 500 доларів США і не більше 1,500 доларів США за кожне наступне порушення» (NYC, Int 1894-2020, підрозділ 25, розділ 20-872). Є додаткові підпункти, на які ви можете звернути увагу, якщо вас дуже цікавить юридичне формулювання.

Скептики та критики стверджують, що покарання недостатньо суворі. Велика фірма нібито глузувала б або сміялася з мізерних доларових штрафів. Інші зазначають, що штраф може в кінцевому підсумку бути більшим, ніж здається на перший погляд, таким чином, якщо фірма матиме тисячу доларів порушень щодня (лише один сценарій, є багато інших сценаріїв), вартість року буде приблизно 365,000 XNUMX доларів США, якщо припустити, що фірма просто ігнорувала закон протягом цілого року й ухилялася від цього (теоретично це важко уявити, але це може статися, і навіть може тривати довше або призвести до більшої кульмінації щоденних штрафів).

Тим часом декого хвилюють менші підприємства та відповідні штрафи. Якщо малий бізнес, який ледве зводить кінці з кінцями, отримує штрафи, і нібито зробив це не з навмисної мотивації обійти закон, штрафи можуть суттєво вплинути на їхній балансуючий бізнес.

Проблемні міркування Keystone

У мене до вас просте і зрозуміле запитання.

У контексті цього закону, що саме є аудитом ШІ?

Проблема полягає в тому, що в тексті закону немає чіткої вказівки. Все, що нам, здається, сказали, це те, що «аудит упередженості» має проводитися шляхом «неупередженої оцінки незалежним аудитором» (згідно з формулюванням закону).

Ви можете проїхати вантажівку Mac через цю зяючу діру.

Ось чому.

Розглянемо цей досить бентежний приклад. Шахрай зв’язався з фірмою в Нью-Йорку та пояснив, що вони надають таку послугу, що вони проведуть так званий «аудит упередженості» свого AEDT. Вони обіцяють робити це «неупереджено» (що б це не означало). Вони називають себе незалежним аудитором, і вони помазали себе як один. Немає потреби в будь-якій підготовці з бухгалтерського обліку чи аудиту, дипломах, сертифікатах чи будь-чому подібному. Можливо, вони докладають зусиль, щоб надрукувати кілька візитних карток або поспішно розмістити веб-сайт, який рекламує статус незалежного аудитора.

Вони стягуватимуть з фірми скромну плату, скажімо, 100 доларів. Їхня послуга полягає, можливо, у тому, щоб поставити кілька запитань про AEDT, а потім проголосити, що AEDT не має упереджень. Потім вони надсилають звіт розміром в одну сторінку, у якому зазначаються «результати» так званого аудиту. Фірма сумлінно розміщує це на своєму веб-сайті.

Чи дотрималася фірма цього закону?

Ти говориш мені.

Здається, мають.

Ви можете відразу бути здивовані тим, що перевірка була проведена побіжно (це ввічливість і великодушність у цьому конкретному випадку). Ви можете бути стурбовані тим, що виявлення упередженості (або його відсутність) було, можливо, по суті заздалегідь визначеним (вуаля, ви, здається, не упереджені). Ви можете бути засмучені тим, що опубліковані результати можуть створити ауру проходження ретельного аудиту сумлінним досвідченим, навченим, досвідченим, сертифікованим аудитором.

Так, це приблизно розмір речей.

Роботодавець може відчути полегшення від того, що він виконав цю «дурну» вимогу, і бути щасливим, що це коштувало йому лише мізерних 100 доларів. Роботодавець може внутрішньо і тихо усвідомити, що незалежний аудит був шарадою, але це, здається, не на його плечах. Їм представили заявленого незалежного аудитора, аудитор виконав роботу, яка, за його словами, була сумісною, фірма заплатила за це, вони отримали результати та опублікували результати.

Деякі роботодавці зроблять це і зрозуміють, що вони дотримуються закону. Тим не менш, вони будуть вірити, що повністю відповідають вимогам.

Інших роботодавців можуть обдурити. Усе, що вони знають, — це необхідність дотримуватись закону. На їхнє щастя (принаймні вони припускають), що з ними зв’язався «незалежний аудитор» і пообіцяв, що аудит скарги та результат можна отримати за 100 доларів. Щоб уникнути щоденного штрафу в 500 доларів або більше, фірма вважає, що вона отримала подарунок з небес. Вони платять 100 доларів, «аудит» відбувається, вони отримують безкоштовну довідку про відсутність у них упереджень щодо штучного інтелекту, вони публікують результати та забувають про це до наступного разу, коли їм потрібно буде провести інший такий аудит. .

Як кожна фірма в Нью-Йорку, на яку поширюється дія цього закону, має знати, що таке добросовісне дотримання закону?

Якщо у вас ще не крутиться шлунок, ми можемо погіршити ситуацію. Сподіваюся, ви не їли за останні кілька годин, оскільки наступний твіст буде важко зберегти недоторканим.

Чи готові ви?

Цей фіктивний постачальник послуг виявився більшим шахраєм, ніж ви могли подумати. Вони змушують фірму підписатися на послугу вартістю 100 доларів США, щоб провести неупереджений аудит як незалежний аудитор. Ось ось, вони проводять «аудит» і виявляють, що в кожному закутку AEDT є упередження.

Вони мають упередження ШІ, як нашестя тарганів.

Ой, каже фірма, що ми можемо з цим зробити?

Немає проблем, кажуть їм, ми можемо виправити ці упередження ШІ за вас. Це коштуватиме лише 50 доларів за кожне таке виявлене упередження. Гаразд, компанія каже, виправте їх, дякую за це. Постачальник послуг займається кодуванням і повідомляє фірмі, що вони виправили сотню помилок штучного інтелекту, і тому стягуватимуть з них 5,000 доларів США (це 50 доларів США за коригування помилок штучного інтелекту, помножене на 100 знайдених).

Ой, фірма почувається ущемленою, але це все одно краще, ніж зіткнутися з порушенням у розмірі 500 доларів або більше на день, тому вони платять «незалежному аудитору», а потім отримують новий звіт, який демонструє, що вони тепер вільні від упереджень. Вони з гордістю публікують це на своєму веб-сайті.

Вони навіть не підозрюють, що це була безглуздя, шахрайство, шахрайство.

Ви можете наполягати на тому, щоб цей постачальник послуг був покараний за їх обман. Зловити та зупинити цих шахраїв буде набагато важче, ніж ви можете собі уявити. Подібно до того, як переслідувати тих принців, які живуть за кордоном і які мають багатство для вас, імовірно, у якійсь чужій країні поза межами закону Сполучених Штатів, те саме може статися в цьому випадку.

Очікуйте, що завдяки цьому новому закону з’явиться кустарне господарство.

Будуть добросовісні аудитори, які прагнуть надавати ці послуги. Добре для них. Будуть схематичні аудитори, які слідкуватимуть за цією роботою. За цією роботою будуть фальшиво оголошені аудитори.

Я згадав, що сценарій постачальника послуг передбачав прохання 100 доларів за проведення так званого аудиту ШІ. Це був лише вигаданий заповнювач. Можливо, дехто візьме 10 доларів (здається неоднозначним). Можливо, близько 50 доларів (поки що схематично). тощо

Припустімо, що постачальник послуг каже, що виконання роботи коштуватиме 10,000 XNUMX доларів США.

Або 100,000 XNUMX доларів, щоб це зробити.

Можливо, 1,000,000 XNUMX XNUMX доларів для цього.

Деякі роботодавці не матимуть уявлення про те, скільки це може або повинно коштувати. Маркетинг цих послуг буде безкоштовним для всіх. Це закон, який заробляє гроші для тих, хто законно надає ці послуги, і заробляє гроші для тих, хто це робить. Буде важко зрозуміти, що є що.

Я також попрошу вас споглядати ще одну зяючу діру.

У контексті цього закону, що саме є упередженням ШІ?

Окрім згадки кодексу федеральних нормативних актів Сполучених Штатів (це не дає відповіді на питання про упередженість штучного інтелекту та, отже, не слугує тимчасовим запобіжним засобом чи рішенням у цьому питанні), вам буде важко стверджувати, що цей новий закон надає будь-які істотні ознаки того, що таке упередження ШІ. Знову ж таки, це буде цілком відкритим для широко розрізнених інтерпретацій, і ви особливо не будете знати, що шукали, що знайшли тощо. Крім того, робота, яку виконують навіть добросовісні аудитори зі штучного інтелекту, майже ймовірно буде непорівнянною з іншою, так що кожен буде прагнути використовувати свої власні визначення та підходи.

Коротше кажучи, ми можемо з трепетом і занепокоєнням спостерігати за тим, з чим зіткнуться роботодавці в результаті цього безглуздо сформульованого, хоча й доброго наміру закону:

• Деякі роботодавці будуть знати про закон і щиро й повністю виконувати його, наскільки це можливо
• Деякі роботодавці знають про закон і незначно дотримуються найтоншого, найдешевшого та, можливо, неприємного шляху, який вони можуть знайти або який підходить до їхнього порога
• Деякі роботодавці знають про закон і вважатимуть, що вони не підпадають під дію закону, тому нічого з цим не зроблять (хоча, як виявляється, вони можуть підпадати під його дію)
• Деякі роботодавці знають про закон і категорично вирішують його ігнорувати, можливо, вважаючи, що ніхто не помітить, або що закон не буде виконуватися, або закон буде визнано невиконуваним тощо.
• Деякі роботодавці не знають про закон і їх спіймають на плоскостопості, намагаючись його виконати
• Деякі роботодавці не знають про закон і, на жаль, потраплять у шахраїв
• Деякі роботодавці не знають про закон, вони не підпадають під дію закону, але все одно їх обдурюють шахраї, які переконують їх, що вони підпадають під дію
• Деякі роботодавці не знають про закон і нічого з ним не зроблять, при цьому дивним чином їх ніколи не спіймають і не покарають за недогляд.
• Інше

Важливо пам’ятати про величину або масштаб, пов’язаний із цим новим законом.

Згідно з різними статистичними даними щодо кількості підприємств у Нью-Йорку, кількість підприємств зазвичай становить приблизно 200,000 XNUMX (давайте використовувати це як порядок величини). Якщо припустити, що це розумне наближення, імовірно, ці підприємства як роботодавці підпадають під дію цього нового закону. Отже, візьміть зазначені вище способи, якими роботодавці збираються відреагувати на цей закон, і поміркуйте, скільки буде в кожному з різних сегментів, які я щойно згадав.

Це досить приголомшлива проблема масштабування.

Крім того, згідно зі статистичними даними, у Нью-Йорку є, можливо, 4 мільйони робочих місць у приватному секторі, а також приблизно 300,000 XNUMX державних службовців, найнятих урядом Нью-Йорка (знову ж таки, використовуйте це як порядки, а не точні підрахунки). Якщо ви візьмете до уваги, що нові наймання, здається, підпадають під дію цього нового закону, а також просування по службі, пов’язані з усіма цими існуючими та майбутніми працівниками, кількість працівників, яких так чи інакше торкнеться цей закон, відверто вражає .

У «Великому яблуці» діє новий закон, який на перший погляд здається нешкідливим і нібито незначним або буденним, але коли ви усвідомлюєте, які фактори масштабування беруть участь, ну, від цього вам може паморочитися голова

Висновок

На початку цієї дискусії я сказав, що це новий закон, який має хороші наміри.

Усе, що я щойно описав як потенційні лазівки, упущення, прогалини, проблеми тощо, можна легко передбачити. Це не ракетобудування. Я міг би додати, що в цьому законі є ще більше невід’ємних проблем і суперечливих аспектів, які я не згадав через обмеження простору.

Ви можете знайти їх так само легко, як ви можете вистрілити в рибу в бочці.

Закони такого роду повинні бути ретельно розроблені, щоб спробувати запобігти подібним прихованим результатам. Я припускаю, що серйозні композитори прагнули написати закон, який, на їхню думку, був би відносно залізним і, можливо, у гіршому випадку мав би якісь крихітні крапельки тут чи там. На жаль, це пожежний шланг крапельниць. Знадобиться багато клейкої стрічки.

Чи міг закон бути написаний у більш зрозумілий спосіб, щоб закрити ці досить очевидні лазівки та пов’язані з ними проблеми?

Так, дуже багато.

Тепер, якщо це так, ви можете обурено закликати, що такий закон, безсумнівно, буде набагато довшим. Завжди є компроміс: мати закон, який продовжується і продовжується, стає громіздким, проти того, щоб бути лаконічним і компактним. Але ви не хочете отримати стислість, втрачаючи те, що було б суттєвою та гідною ясності та конкретності. Короткий закон, який дозволяє махінації, багатий на проблеми. Довгий закон, навіть якщо він здається складнішим, зазвичай буде гідним компромісом, якщо він уникає, запобігає або принаймні мінімізує подальші проблеми на етапі прийняття.

Святий Августин сказав знамениту фразу: «Мені здається, що несправедливий закон — це зовсім не закон».

Ми могли б надати наслідок, що справедливий закон, який складається з проблемних формулювань, є законом, який вимагає породження суворих проблем. У цьому випадку ми, здається, залишилися з мудрими словами великого юриста Олівера Венделла Холмса молодшого, а саме, що сторінка історії варта фунта логіки.

Слідкуйте за тим, як незабаром почнеться історія.