Потрясіння штучного інтелекту, оскільки видатний гуру штучного інтелекту пропонує карколомні «смертні комп’ютери», які також враховують етику штучного інтелекту та законодавство про штучний інтелект

Ось те, про що ви, мабуть, ще не думали: Смертельні комп'ютери.

Але, можливо, ви повинні бути.

Ця гостра тема виникла на нещодавній і загалом досить помітній щорічній конференції зі штучного інтелекту, яка особливо зосереджена на появі нейронних мереж і машинного навчання, а саме Конференції з нейронних систем обробки інформації (відома інсайдерами як NeurIPS). Запрошений основний доповідач і давній гуру штучного інтелекту Джеффрі Хінтон висловив інтригуючу та, можливо, суперечливу думку про те, що ми повинні думати про комп’ютери в контексті смертного та безсмертного.

Я звернуся до цього відомого твердження двома способами, які на перший погляд не обов’язково будуть здаватися пов’язаними, хоча після невеликого додаткового з’ясування вони стануть більш чітко пов’язаними один з одним у суперечності між смертним і безсмертним.

Ці дві теми:

1) Інтегральне об’єднання апаратного та програмного забезпечення для механізації штучного інтелекту замість того, щоб мати їх як окремих і окремих союзників

2) Передача або дистиляція формулювань машинного навчання з однієї моделі штучного інтелекту в іншу, яка робить це без потреби та обов’язкового бажання (або навіть можливо іншим чином) прямого повного чистокровного копіювання

Все це має серйозні міркування щодо ШІ та майбутнього напрямку розвитку ШІ.

Крім того, виникає низка дуже складних проблем щодо етики штучного інтелекту та законодавства щодо штучного інтелекту. Ці види технологічних досягнень, передбачених штучним інтелектом, зазвичай об’єднуються на суто технологічній основі задовго до того, як з’явиться усвідомлення того, що це також може мати значні наслідки для етики штучного інтелекту та законодавства щодо штучного інтелекту. У певному сенсі, як правило, кіт уже з мішка, або кінь з хліва, до пробудження, що AI Ethics і AI Law повинні взяти належну участь.

Що ж, давайте розірвемо цей запізнілий цикл думок і почнемо це на першому поверсі.

Для тих із вас, хто загалом цікавиться останніми ідеями, що лежать в основі етики штучного інтелекту та законодавства щодо штучного інтелекту, ви можете знайти інформативний і надихаючий мій постійний і широкий висвітлення на посилання тут та посилання тут, просто назвемо декілька.

Я збираюся спочатку розглянути вищезазначений пункт про зв’язування апаратного та програмного забезпечення. Обговорення та розбір теми відбуватиметься рука об руку. Далі я торкнуся питання копіювання або дехто каже вигонка ключові елементи системи машинного навчання ШІ від одного ШІ до нещодавно розробленого ШІ як цілі.

Давайте розпочнемо.

Об’єднання обладнання та програмного забезпечення для ШІ

Ви, мабуть, знаєте, що загалом конструкція комп’ютерів така, що є апаратна сторона речей і окремо є програмна сторона речей. Коли ви купуєте щоденний ноутбук або настільний комп’ютер, він розглядається як обчислювальний пристрій загального призначення. Усередині комп’ютера є мікропроцесори, які використовуються для запуску та виконання програмного забезпечення, яке ви можете придбати або написати самостійно.

Без будь-якого програмного забезпечення для вашого комп’ютера, це шматок металу та пластику, який, в основному, не принесе вам особливої ​​користі, окрім виконання ролі прес-пап’є. Дехто сказав би, що програмне забезпечення є королем і править світом. Звичайно, якщо у вас немає апаратного забезпечення, на якому можна запускати програмне забезпечення, програмне забезпечення не принесе великої користі. Ви можете написати стільки рядків коду, скільки забажаєте, але поки програмне забезпечення не буде використано через комп’ютер, сформульований вихідний код буде таким же тендітним і непомітним, як прекрасний поетичний твір чи гострий детективний роман.

Дозвольте мені на мить переключитися на іншу вулицю, яка може здатися далекою (так не буде).

Ми часто намагаємося провести аналогії між тим, як працюють комп’ютери, і тим, як працює людський мозок. Ця спроба провести концептуальні паралелі є зручною. Зважаючи на це, ви повинні бути обережними, не перестараючись із цими аналогіями, оскільки порівняння, як правило, руйнуються, коли ви наближаєтеся до дрібних деталей.

У будь-якому випадку, для обговорення, ось аналогія, яку часто використовують.

Сам мозок неофіційно іноді називають мокрий посуд. Це привабливий спосіб сформулювати речі. Ми знаємо, що комп’ютери складаються з апаратного та програмного забезпечення, тому для опису того, що таке мозок, було б розумно використати частину висловлювання «обладнання». Міцний і таємничий мозок, розташований у наших ногах, плаває навколо, подумки прораховуючи всі наші вчинки (деякі хороші, тоді як деякі наші думки явно не наповнені добром).

При середній вазі всього лише три фунти мозок є чудовим органом. Якимось чином, і ми ще не знаємо як, мозок може використовувати близько 100 мільярдів нейронів і, можливо, від 100 до 1,000 трильйонів взаємозв’язків або синапсів, щоб думати за нас. Як біологічні та хімічні властивості мозку дають початок інтелекту? Ніхто не може сказати точно. Це квест віків.

Я запитую вас, чи мозок нібито лише апаратний, чи він об’єднаний апаратним і програмним забезпеченням?

Нудл на тій головоломці.

У вас може виникнути спокуса стверджувати, що мозок — це просто апаратне забезпечення (у загальному розумінні). Це орган тіла. Подібним чином можна сказати, що серце є апаратним, сечовий міхур є апаратним і так далі. Усі вони є механізмами, схожими на те, коли ми говоримо про артефакти, які мають фізичну форму та виконують фізично пов’язані дії.

Де ж тоді програмне забезпечення, яке керує людьми?

Я б насмілився припустити, що ми всі майже погоджуємося з тим, що «програмне забезпечення» людства якимось чином знаходиться в мозку. Кроки, необхідні, щоб зварити яйце або полагодити спущену шину, — це інструкції, втілені в нашому мозку. Користуючись згаданою раніше комп’ютерною аналогією апаратного та програмного забезпечення, наш мозок — це як би апаратне забезпечення, за допомогою якого ми дізнаємося про світ, а інструкції щодо того, що робити, «запускаються» та «зберігаються» в нашому мозку.

На комп’ютері ми можемо легко вказати на апаратне забезпечення та сказати, що це апаратне забезпечення. Ми можемо мати список вихідного коду та вказувати на список як на програмне забезпечення. Зараз ми завантажуємо програмне забезпечення в електронному режимі онлайн і встановлюємо його на наші ноутбуки та смартфони. У давні часи ми використовували дискети та перфокарти для зберігання програмного забезпечення для завантаження на апаратне забезпечення комп’ютера.

Я втягую вас у важливу загадку.

Після того як ви чогось навчилися і знання з’явилися у вашому мозку, чи можете ви все ще відрізнити «апаратне забезпечення» вашого мозку від передбачуваного «програмного забезпечення» вашого мозку?

Одна аргументована позиція полягає в тому, що знання у вашому мозку не зовсім відокремлюються від концепцій апаратного та програмного забезпечення. Таким чином, аналогія з природою комп’ютерів руйнується, дехто палко заперечив би. Знання в мозку переплетені та невіддільні від апаратного забезпечення вашого мозку. Біологічні та хімічні властивості переплітають знання, якими ви володієте розумово.

Потушкуйте це, щоб трохи поміркувати.

Якщо ми сподіваємося колись розробити комп’ютери, які будуть рівнятися людському інтелекту або навіть перевищувати людський інтелект, можливо, ми зможемо використовувати структури мозку та його внутрішню роботу як керівництво до того, що нам потрібно робити, щоб досягти такої високої мети. Дехто в галузі штучного інтелекту вважає, що чим більше ми знаємо про те, як працює мозок, тим вищі наші шанси розробити справжній штучний інтелект, який іноді називають загальним штучним інтелектом (AGI).

Інші в штучному інтелекті менше закохані в те, щоб знати, як працює мозок. Вони наголошують, що ми можемо швидко продовжувати створювати штучний інтелект, незалежно від того, чи зможемо ми розблокувати секретну внутрішню роботу мозку. Не дозволяйте таємницям мозку перешкоджати нашим зусиллям ШІ. Звичайно, продовжуйте намагатися декодувати та розшифровувати людський мозок, але ми не можемо сидіти й чекати, поки мозок буде перероблено. Якщо колись це можливо, чудова новина, хоча, можливо, це неможливо або станеться через багато років.

Тепер я готовий поділитися з вами суперечкою між смертним і безсмертним комп’ютером. Будь ласка, переконайтеся, що ви сідаєте та готові до великого відкриття.

Комп’ютер із чітким розподілом апаратного та програмного забезпечення можна назвати «безсмертним» у тому сенсі, що апаратне забезпечення може зберігатися вічно (звичайно, у певних межах), тоді як програмне забезпечення можна писати й переписувати знову й знову. Ви можете підтримувати звичайний комп’ютер у робочому стані стільки, скільки зможете відремонтувати апаратне забезпечення та забезпечити здатність пристрою працювати. Сьогодні ви все ще можете використовувати грубі домашні комп’ютери 1970-х років, які поставлялися в комплектах для збирання, незважаючи на те, що їм близько п’ятдесяти років (довгий час у комп'ютерні роки).

Припустімо, однак, що ми вирішили створити комп’ютери, у яких апаратне та програмне забезпечення працювали нерозривно (я розповім про це трохи пізніше). Розглянемо це на тій самій основі, що я вже згадував раніше, що мозок, можливо, має невід’ємний склад апаратного та програмного забезпечення. Якби це було так, можна було б припустити, що подібний комп’ютер більше не був би безсмертним. Натомість це було б інтерпретовано як «смертне».

Відповідно до зауважень, зроблених на конференції NeurIPS запрошеним основним доповідачем і відомим гуру штучного інтелекту Джеффрі Хінтоном, і як зазначено в його супровідній дослідницькій статті:

• «Цифрові комп’ютери загального призначення були розроблені для точного виконання інструкцій, оскільки вважалося, що єдиний спосіб змусити комп’ютер загального призначення виконувати конкретне завдання — це написати програму, яка вказує, що саме потрібно робити, у нестерпних деталях. Це вже не так, але дослідницьке співтовариство повільно усвідомлювало довгострокові наслідки глибокого навчання для способу створення комп’ютерів. Зокрема, спільнота дотримувалася ідеї, що програмне забезпечення має бути відокремленим від апаратного забезпечення, щоб ту саму програму чи той самий набір ваг можна було запускати на іншій фізичній копії апаратного забезпечення. Це робить знання, що містяться в програмі, вмираючими, або ваги безсмертними: знання не вмирають, коли вмирає апаратне забезпечення» (як міститься та цитується в його дослідницькій статті «The Forward-Forward Algorithm: Some Preliminary Investigations», препринт, доступний онлайн) .

Зауважте, що конкретний тип обчислень, який обговорюється в цьому типі ШІ, використовує штучні нейронні мережі (ШНМ).

Давайте роз’яснимо це питання.

У нашому мозку є реальні біологічні нейрони. Ви використовуєте їх весь час. Вони біологічно та хімічно пов’язані між собою в мережу у вашому носі. Таким чином, ми можемо посилатися на це як a нейронної мережі.

В іншому місці існують, скажімо так, підроблені «нейрони», які ми обчислювально представляємо в комп’ютерах з метою розробки ШІ. Багато людей у ​​сфері штучного інтелекту також називають це нейронними мережами. Я вважаю, що це дещо збентежує. Розумієте, я вважаю за краще називати їх так штучний нейронні мережі. Це допомагає відразу розрізняти посилання на in-your-head нейронні мережі (начебто справжні), і комп'ютерні (штучний нейронні мережі).

Не всі займають таку позицію. Багато людей в ШІ просто припускають, що всі інші в ШІ «знають», що, посилаючись на нейронні мережі, вони майже завжди говорять про ШНМ — якщо тільки не виникає ситуація, коли з якоїсь причини вони хочуть обговорити реальні нейрони та реальні нейронні мережі в мозок.

Я вірю, що ви розумієте мою думку. У більшості випадків люди, які працюють зі штучним інтелектом, говорять «нейронні мережі», що є потенційно неоднозначним, оскільки ви не знаєте, чи мають на увазі справжні мережі в наших головах, чи обчислювальні, які ми програмуємо в комп’ютери. Але оскільки люди зі штучного інтелекту загалом мають справу з комп’ютерними примірниками, вони за замовчуванням припускають, що ви маєте на увазі штучні нейронні мережі. Мені подобається додати слово «штучний» до початку формулювання, щоб було зрозуміліше про наміри.

Рухаючись далі, ви можете певною мірою розглядати ці обчислювальні штучні нейрони як математичну або обчислювальну симуляцію того, що, на нашу думку, роблять фактичні біохімічні фізичні нейрони, наприклад, використання числових значень як вагових факторів, які інакше відбуваються біохімічно в мозку. Сьогодні ці симуляції не такі складні, як реальні нейрони. Сучасні ШНМ є надзвичайно грубим математичним та обчислювальним представленням.

Як правило, ШНМ часто є основним елементом машинного навчання (ML) і глибокого навчання (DL). Майте на увазі, що це набагато більше деталей, і я закликаю вас поглянути на мій широкий огляд ML/DL. в посилання тут та посилання тут, Наприклад.

Повертаючись до безсмертних проти смертних типів комп’ютерів, ось ще про що можна поміркувати на думку дослідника:

• «Відділення програмного забезпечення від апаратного забезпечення є однією з основ комп’ютерних наук і має багато переваг. Це дає змогу вивчати властивості програм, не турбуючись про електротехніку. Він дає змогу написати програму один раз і скопіювати її на мільйони комп’ютерів. Проте, якщо ми хочемо відмовитися від безсмертя, можна буде досягти величезної економії енергії, необхідної для виконання обчислень, і вартості виготовлення апаратного забезпечення, яке виконує обчислення. Ми можемо дозволити великі та невідомі варіації зв’язності та нелінійності різних екземплярів апаратного забезпечення, які призначені для виконання того самого завдання, і покладатися на процедуру навчання для виявлення значень параметрів, які дозволяють ефективно використовувати невідомі властивості кожного конкретного екземпляра обладнання. Ці значення параметрів корисні лише для конкретного екземпляра апаратного забезпечення, тому обчислення, які вони виконують, смертельні: воно вмирає разом із апаратним забезпеченням» (там само).

Тепер ви познайомилися з тим, як безсмертний і смертний використовуються в цьому контексті.

Дозвольте пояснити.

Пропозиція полягає в тому, що комп’ютер, спеціально створений на основі ШНМ, може бути розроблений таким чином, що апаратне та програмне забезпечення вважаються нероздільними. Як тільки апаратне забезпечення одного дня перестане працювати (що, звісно, ​​ми говоримо, що пов’язане з програмним забезпеченням), цей тип комп’ютера, здавалося б, більше не стане в нагоді та більше не працюватиме. Кажуть, що воно смертне. Ви також можете поховати комп’ютер на основі ШНМ, оскільки відтепер він не принесе вам особливої ​​користі після того, як нероздільні апаратне та програмне забезпечення перестануть життєздатно працювати як одна команда.

Якби ви захотіли спробувати пов’язати це з аналогією з людським мозком, ви могли б уявити сумну ситуацію людського мозку, який повністю руйнується або якимось чином непоправно пошкоджений. Ми приймаємо уявлення про те, що людина смертна, і її мозок остаточно і неминуче перестане працювати. Знання, які вони містили у своєму мозку, більше недоступні. Якщо вони випадково не спробували розповісти іншим або записати те, що знали, їхні знання підуть у світ загалом.

Ви, безсумнівно, чули або бачили звіти про спроби зберегти мозок, наприклад, перевести його в заморожений стан, згідно з теорією про те, що, можливо, люди колись стануть безсмертними або принаймні подовжаться після свого звичайного життя. Ваш мозок може продовжувати жити, навіть якщо не у вашому тілі. У багатьох науково-фантастичних фільмах і оповіданнях спекулюють на таких ідеях.

Тепер ми готові до детального ознайомлення зі смертним комп’ютером і безсмертним комп’ютером як концепцією та тим, що вона передвіщає.

Уважне обговорення та виважений аналіз

Перш ніж зануритися в суть цього аналізу постульованого підходу, варто згадати кілька важливих застережень і додаткових моментів.

Дослідник підкреслив, що карб смертні комп'ютери не буде особливо замінювати або виштовхувати з існування безсмертні комп'ютери які ми сьогодні називаємо звичайними цифровими комп’ютерами. Має місце співіснування обох типів комп’ютерів. Я кажу це тому, що реакція деяких була такою, що заклик до порядку був загальним твердженням всі комп’ютери за необхідністю прямують або прямуватимуть до смертного типу.

Це не була заява.

Під час виступу він зазначив, що ці спеціалізовані нейроморфно-орієнтований комп’ютери виконуватимуть обчислювальну роботу, відому як смертні обчислення: «Ми збираємося робити те, що я називаю обчисленнями для смертних, де знання, отримані системою, і апаратне забезпечення нероздільні» (як цитує Тірнан Рей у статті ZDNET 1 грудня 2022 р.).

І особливо: «Цифрові комп’ютери не замінять» (там же).

Крім того, ці нові типи комп’ютерів однозначно не скоро з’являться у вашому місцевому комп’ютерному магазині чи доступні для покупки онлайн, як було зазначено під час його презентації: «Я думаю, що ми побачимо зовсім інший тип комп’ютер, не на кілька років, але є всі підстави для дослідження цього зовсім іншого типу комп’ютера». Застосування також відрізнятиметься: «Це не комп’ютер керує вашим банківським рахунком і точно знає, скільки у вас грошей».

Додатковим поворотом є те, що смертні комп’ютери, здавалося б, вирощували, а не виготовляли, як ми це робимо сьогодні, для виробництва комп’ютерних процесорів і обчислювальних мікросхем.

У процесі зростання смертний комп’ютер збільшувався б у можливостях у стилі обчислювальної зрілості. Таким чином, даний смертний комп’ютер може початися майже без будь-яких можливостей і досягти того, чим він мав стати. Наприклад, припустімо, що ми хочемо створити мобільні телефони за допомогою комп’ютерів смертних. Ви б почали з простого варіанту смертного комп’ютера, який спочатку був сформований або засаджений для цієї мети. Потім він перетвориться на вдосконалену версію, яку ви шукали. Коротко кажучи: «Ви б замінили це на кожен із цих мобільних телефонів, який мав би почати як дитячий мобільний телефон, і він мав би навчитися бути мобільним телефоном».

На одному з його основоположних слайдів про обчислення смертних переваги були описані так: «Якщо ми відмовимося від безсмертя та визнаємо, що знання невід’ємні від точних фізичних деталей конкретної частини обладнання, ми отримаємо дві великі переваги: ​​(1) Ми можемо використовувати аналогові обчислення з дуже низьким енергоспоживанням, (2) Ми можемо вирощувати апаратне забезпечення, точне підключення та аналогова поведінка якого невідомі».

Частина цієї розмови, а також те, що міститься в його дослідницькій статті препринтів, є запропонованою технікою, як краще розробити ШНМ, яку він називає використанням вперед-вперед мережевий підхід. Дехто з вас, хто розбирається в ШНМ, безсумнівно, вже добре обізнаний про використання зворотного поширення або зворотної підтримки. Можливо, ви захочете поглянути на запропоновану ним техніку вперед-вперед. Я розповім про цей захоплюючий підхід у наступній публікації в колонці, тому слідкуйте за моїм майбутнім висвітленням про це.

Перемикаючи передачі, давайте подумаємо про те, що говорять у коридорах і на кулуарах спільноти ШІ про цю нахабну смертний комп'ютер махінація.

Ми почнемо з того, що дехто назвав би не початківцем у цій темі.

Чи готові ви?

Перестаньте називати цю річ а смертний комп'ютер.

Так само перестаньте проголошувати, що сьогоднішні звичайні комп’ютери є такими безсмертний.

Скептики закликають обидва способи використання просто неправильні та вводять в оману.

Повсякденне словникове визначення того, що безсмертне, складається з того, що не може померти. Воно живе вічно. Щоб не померти, ви, мабуть, повинні сказати, що сама річ жива. Ви ступаєте хибним шляхом, коли стверджуєте, що сучасні комп’ютери живі. Жодна розумна людина не стане приписувати сучасним комп’ютерам добросовісні «живі» властивості. Вони машини. Вони речі. Вони не є ні людьми, ні тваринами, ні життєвими умовами.

Якщо ви хочете розширити визначення безсмертного, щоб дозволити, що ми також маємо на увазі неживі істоти, у цьому випадку нежива істота, здавалося б, ніколи не повинна розпадатися і не може неминуче розпадатися на порох. Чи можете ви сказати таке про сучасні комп’ютери? Це здається розширеним (примітка: ми, звичайно, могли б потрапити у грандіозну філософську дискусію про природу матерії та існування, але не будемо вдаватися туди в цьому випадку).

Суть полягає в тому, що використання або дехто сказав би неправильне використання слів «смертний» і «безсмертний» є дивовижним і невиправданим. Взяти загальновживану народну мову та повторно використовувати її для інших цілей заплутано та створює каламутну воду. Ви повинні бути готові, очевидно, переосмислити, що означають смертний і безсмертний у цьому конкретному контексті. Це стає проблематичним.

Ще більше бентежить те, що цей вибір слів має тенденцію антропоморфізувати комп’ютерні аспекти.

Проблем, пов’язаних із антропоморфізацією штучного інтелекту, вже більш ніж достатньо, тому нам, звичайно, не потрібно вигадувати більше таких можливостей. Як я вже детально обговорював у своїй статті «Етика штучного інтелекту» та «Етичний штучний інтелект», існують різноманітні способи, за допомогою яких люди приписують комп’ютерам здатність розуму. У свою чергу, це змушує людей помилково вірити, що комп’ютери на основі штучного інтелекту можуть думати та діяти так само, як люди. Коли суспільство занурюється у віру в те, що сьогоднішній ШІ та комп’ютерна техніка відповідають інтелекту та здоровому глузду людства, це слизький шлях загрози, дивіться, наприклад, мій аналіз на посилання тут та посилання тут.

Гаразд, ми можемо відхилити або зневажливо ставитися до незручних формулювань, але чи означає це, що ми повинні викинути дитину разом із водою для ванни (старий вислів, який, ймовірно, скоро виходить на пенсію)?

Деякі стверджують, що, можливо, ми можемо знайти краще формулювання для цього загального підходу чи концепції. Відмовтеся від використання «смертний» і «безсмертний», щоб решта ідей не були заплямовані неналежним або неправильним використанням. У той же час є контраргументи, що цілком прийнятно використовувати такі варіанти слів або тому, що вони доречні, або тому, що ми не повинні бути негнучкими щодо того, як ми вибираємо повторне використання слів. Троянда - це троянда під будь-якою іншою назвою, заявляють вони.

Щоб уникнути подальших гострих дискусій, я збираюся надалі уникати використання слів «смертний» і «безсмертний» і лише заявляю, що у нас є два основних типи комп’ютерів, які об’єднані навколо: один, який є звичайним цифровим комп’ютером сьогодні, і інше є запропонованим нейроморфний комп'ютер.

Здавалося б, не потрібно втягувати в це головоломку смертності. Тримайте небо чистим, щоб побачити, що ще ми можемо зробити з цього питання.

У такому разі дехто заперечить, що запропонована ідея нейроморфного комп’ютера не є чимось новим.

Ви можете відстежити ранні дні штучного інтелекту, особливо коли спочатку досліджували ШНМ, і побачити, що точилися розмови про розробку спеціалізованих комп’ютерів для виконання роботи штучних нейронних мереж. Були запропоновані всі види нового обладнання. Це відбувається й досі. Звичайно, ви можете заперечити, що більшість сучасних досліджень спеціалізованого апаратного забезпечення для ШНМ і машинного навчання все ще базується на традиційному підході до обчислень. У цьому сенсі ця аналогова нероздільність апаратного та програмного забезпечення дещо розсуває межі, і пропозиція «розростання» комп’ютера також, принаймні щодо виходу за межі основного потоку.

Коротше кажучи, є деякі, які повністю заглиблені в ці питання, які здивовані тим, що хтось інший може бути здивований висунутими пропозиціями. Ці поняття або такі ж, як і раніше, або повторюють те, що вже досліджується в різних дослідницьких лабораторіях.

Кажуть, що не чіпляйте волосся.

Це приводить нас до іншого аспекту, який викликає у багатьох набридливість.

Одним словом: Передбачуваність.

Сучасні комп’ютери зазвичай вважаються передбачуваними. Ви можете поглянути на апаратне та програмне забезпечення, щоб зрозуміти, що збирається робити комп’ютер. Так само ви можете простежити, що вже зробив комп’ютер, щоб з’ясувати, чому він зробив те, що зробив. Звичайно, це має певні обмеження, тому я не хочу перебільшувати передбачуваність, але я думаю, що ви все зрозуміли.

Можливо, ви знаєте, що однією з гострих проблем, з якими сьогодні стикається штучний інтелект, є те, що деякі штучні інтелекти створені для саморегулювання. Штучний інтелект, який запровадили розробники, може змінюватися під час використання. У сфері етики штучного інтелекту є численні приклади використання штучного інтелекту, який спочатку не мав зайвих упереджень або дискримінаційних тенденцій, а потім поступово самообчислювально змінювався під час виробництва штучного інтелекту, див. детальні оцінки при посилання тут.

Занепокоєння полягає в тому, що ми вже входимо в середовище, яке передбачає штучний інтелект, який не обов’язково передбачуваний.

Припустімо, що штучний інтелект для систем зброї зазнає саморегулювання, і в результаті штучний інтелект озброює та запускає смертоносну зброю по цілях і в неочікуваний час. Люди можуть бути не в змозі зупинити ШІ. Люди, які знаходяться в циклі, можуть бути не в змозі відреагувати достатньо швидко, щоб випередити дії ШІ. Щоб отримати додаткові жахливі приклади, перегляньте мій аналіз на сторінці посилання тут.

Для нейроморфних комп’ютерів занепокоєння полягає в тому, що ми накладаємо непередбачуваність на стероїди. З самого початку суть нейроморфного комп’ютера могла полягати в тому, що він працює таким чином, що не піддається прогнозам. Ми хизуємось непередбачуваністю. Це стає знаком пошани.

Існує два табори.

Одні з таборів стверджують, що ми можемо жити з неприємними побоюваннями щодо непередбачуваності, роблячи це, встановлюючи огорожі, щоб не дати штучному інтелекту зайти надто далеко. Інший табір стверджує, що ви ведете світ небезпечним шляхом. Настане день, коли заявлені огорожі або вийдуть з ладу, або вони недостатньо жорсткі, або випадково чи зі злим умислом огорожі будуть видалені або з ними поламано.

Чи варто нам відкидати сумніви щодо нейроморфних комп’ютерів і передбачуваності?

За словами дослідника: «Серед людей, які цікавляться аналоговими обчисленнями, ще дуже мало тих, хто готовий відмовитися від безсмертя». Більше того: «Якщо ви хочете, щоб ваше аналогове обладнання щоразу робило те саме… у вас справжня проблема з усіма цими блукаючими електричними речами та іншим».

Я підтягну це.

Загрозлива й дещо похмура перспектива полягає в тому, що так звана передбачуваність, пов’язана з сучасними цифровими комп’ютерами, все одно рухається в напрямку непередбачуваності. Як уже згадувалося, це особливо може статися для ШІ, який самоналаштовується на звичайних комп’ютерних платформах. Те, що нейроморфні комп’ютери можуть здаватися непередбачуваними, не є ознакою того, що звичайні цифрові комп’ютери насправді передбачувані.

Непередбачуваний каток насувається на нас повним ходом, незалежно від того, яку обчислювальну платформу ви хочете вибрати. Мою оцінку останніх зусиль, спрямованих на досягнення безпеки ШІ в цьому світлі, див посилання тут.

Цей поворот щодо передбачуваності мав би змусити ваш розум подумати про щось нерозкопане, начебто. Ті з вас, хто займається етикою штучного інтелекту та законодавством щодо штучного інтелекту, можуть НЕ розглядали розгалуження нейроморфні комп'ютери.

Ймовірно, ви націлювалися на звичайні цифрові комп’ютери, на яких працює ШІ. Ну, здогадайтеся, у вас є абсолютно додатковий і новий сегмент обчислень зі штучним інтелектом, про який ви можете не спати, турбуватися вночі. Так, нейроморфні комп’ютери. Внесіть це у свій список справ.

Вибачте, побільше вам безсонних ночей.

Давайте коротко розглянемо, що Етика штучного інтелекту та Закон про штучний інтелект роблять щодо звичайних цифрових обчислень та ШІ.

У попередніх колонках я розповідав про різні національні та міжнародні спроби розробити та прийняти закони, що регулюють ШІ, див. посилання тут, наприклад. Я також розглянув різні принципи та настанови етики штучного інтелекту, які визначили та прийняли різні країни, включаючи, наприклад, зусилля Організації Об’єднаних Націй, такі як набір етики штучного інтелекту ЮНЕСКО, який прийняли майже 200 країн, див. посилання тут.

Ось корисний ключовий список етичних критеріїв або характеристик систем штучного інтелекту, які я раніше детально досліджував:

• прозорість
• Справедливість і справедливість
• Незлочинність
• Відповідальність
• Конфіденційність
• Вигода
• Свобода і автономія
• Довіряйте
• Sustainability
• Гідність
• Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту.

Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в межах дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Як наголошувалося вище, для розробки та впровадження штучного інтелекту потрібне село, і для цього все село має знати та дотримуватися правил етики штучного інтелекту.

Частина цього, про яку ви, можливо, раніше не замислювалися, полягає в тому, як ті самі принципи етики штучного інтелекту та зростаючий список нових законів ШІ застосовуватимуться до нейроморфних комп’ютерів. Щоб уточнити, Етика штучного інтелекту та Закон про штучний інтелект справді мають це чітко враховувати. Я зазначаю, що мало хто так робить, і майте на увазі, що існує невелика ймовірність того, що поява нейроморфних комп’ютерів кине багатьох у петлю з точки зору нового виміру для спроб царювати в ШІ.

Нам потрібно розглядати етичний штучний інтелект і закони щодо штучного інтелекту досить широко, щоб охопити будь-який новий штучний інтелект, включаючи нейроморфні комп’ютери.

Альтернативою гойдалці є класичний гамбіт кішки-мишки. Ось як це відбувається. Розробляються та створюються нові способи створення ШІ. Існуюча етика штучного інтелекту та закони про штучний інтелект застали зненацька й не повністю охоплюють останні махінації щодо штучного інтелекту. Докладено поспішних зусиль, щоб оновити правила етики штучного інтелекту та змінити ці нещодавно прийняті закони про штучний інтелект.

Намийте піну, промийте, повторіть.

Було б краще для нас усіх залишатися попереду гри, а не бути спійманими за вісімкою.

Висновок

Я взяв вас у невелику подорож.

На початку я запропонував, що буде дві основні теми для вивчення:

1) Інтегральне об’єднання апаратного та програмного забезпечення для механізації штучного інтелекту замість того, щоб мати їх як окремих і окремих союзників

2) Передача або дистиляція формулювань машинного навчання з однієї моделі штучного інтелекту в іншу, яка робить це без потреби та обов’язкового бажання (або навіть можливо іншим чином) прямого повного чистокровного копіювання

Перша тема, пов’язана з об’єднанням апаратного та програмного забезпечення, була основною частиною цієї подорожі. Це привело нас у протистояння смертних і безсмертних обчислювальних болот. З-поміж них були деякі важливі міркування щодо етики штучного інтелекту та законодавства щодо штучного інтелекту, які в іншому випадку зазвичай не розглядалися б, оскільки дехто зазвичай розглядає такі теми, пов’язані з комп’ютерами, як суто технологічні, а не як такі, що спричиняють занепокоєння щодо впливу на суспільство.

Я кажу, що найрозумніше бути швидше та безпечніше, а не пізніше та гірше, коли мова заходить про етичний штучний інтелект та закон про штучний інтелект.

Друга тема, яку я ще не сформулював тут, істотно пов’язана з першою темою.

Ось така угода.

Припустімо, що у нас є «смертний комп’ютер», і ми хочемо зберегти можливості, щоб мати резервну копію або нібито копії того, що містить ШІ. Ми можемо хвилюватися, що конкретний смертний комп’ютер наближається до кінця. Ой, ми від цього залежні. Що нам робити? Одна відповідь полягає в тому, що ми повинні скопіювати прокляту річ.

Але скопіювати нейроморфний комп’ютер такого типу, як намальований, буде складніше, ніж може здатися на перший погляд. Справи можуть стати складними.

Можливо, нам слід придумати хід копіювання, який можна було б узагальнити та застосувати до обставин, пов’язаних із машинним навчанням і штучними нейронними мережами. Ми хочемо, щоб це працювало у великих і надзвичайно великих випадках. Ми також хотіли б, щоб копія не була точною копією, а натомість могла бути по суті еквівалентною або, можливо, навіть кращою, розробленою в результаті дії копіювання.

Техніка, відома як перегонка було запропоновано.

Мені не вистачило місця для сьогоднішньої колонки, тому я розгляну цю другу тему в наступній колонці. Я подумав, що ви захочете відразу дізнатися про зв’язок між цією другою темою та першою темою, яка тут детально висвітлена. Сприймайте це як додаткову примітку, яка служить тизером або трейлером того, що буде далі.

Залишайтеся на краю свого місця, оскільки тема дистиляції є досить хорошою.

Як казав Бетмен, схрестіть крила й будьте готові до того ж самого часу та каналу кажанів, щоб розгадати хвилююче питання про те, як скопіювати ШНМ, модель машинного навчання чи нейроморфний комп’ютер на інший.

Наразі останнє зауваження. У фільмі є відома фраза Повертається Темний лицар у якому наш хрестоносець у плащі каже: «Світ має сенс лише тоді, коли ти його змусиш». Я намагатимуся дотримуватися цього ідеалу, коли розглядатиму другу тему про дистиляцію, пов’язану зі штучним інтелектом.

Чекайте на другу частину цього захоплюючого та захоплюючого подвійного фільму.