Причини регулювання алгоритмів ШІ простіші, ніж ви думаєте

Ви переживаєте, що штучний інтелект заволодіє світом? Багато хто так. Від Ілона Маска, який хвилює DeepMind перемагає людей у ​​розширеній грі Go у 2017 році членам Конгресу, європейським політикам (див Європейський підхід до штучного інтелекту), і науковці, є відчуття, що це десятиліття, щоб серйозно ставитися до ШІ, і він набирає силу. Хоча, не з тих причин, які ви могли б подумати, а не через будь-яку зараз загрозу.

Ви можете запитати, що таке алгоритм? Найпростіший спосіб уявити це як набір інструкцій, які машини можуть розуміти та навчатися. Ми вже можемо доручити машині обчислювати, обробляти дані та міркувати структурованим, автоматизованим способом. Однак проблема в тому, що після того, як зазначені інструкції дано, машина буде виконувати їх. Поки що справа в цьому. На відміну від людей, машини слідують інструкціям. Вони цього погано вчаться. Але як тільки вони це зроблять, вони можуть викликати проблеми.

Я не хочу робити сенсаційний аргумент про ідею того, що комп’ютери одного дня перевершать людський інтелект, більш відомий як аргумент сингулярності (див. філософа Нью-Йоркського університету Девіда Чалмерса). роздуми на тему.) Швидше, виробництво може бути найкращим прикладом того, чому алгоритми ШІ починають мати більше значення для широкої громадськості. Боїться, що машини значно прискорять свою майстерність за наш рахунок. Не обов’язково через якісь передові міркування, а через оптимізацію в межах того, що говорить алгоритм.

Виробництво – це створення речей. Але коли машини виготовляють речі, ми повинні звернути увагу. Навіть якщо те, що виготовляють машини, є простим. Я поясню чому.

Від дощовик до мобільних телефонів і назад

Скажімо, фабрика виготовляє дощовики. Я люблю чоботи від дощу, тому що я виріс у районі Норвегії, де багато дощів; Я люблю бути на вулиці, підкоряючись багатьом елементам природи. Nokia виготовила чоботи від дощу, в яких я виріс. Так, компанія Nokia, яку ми сьогодні знаємо як електронну компанію, колись виготовляла гумові чоботи. Чому цей ключ? Тому що коли ви щось робите, вам судилося захотіти вдосконалюватись. Що має сенс. Можна сказати, що це людська природа.

Те, що сталося з Nokia, добре відомо і виглядає приблизно так: спочатку паперова фабрика, коли я був дитиною, виробництво гумових чобіт (і шин) було особливо успішним для компанії. Проте вони побачили нові можливості. Тому в якийсь момент у 1980-х роках вони перейшли на електроніку та швидко змінили фабрики навколо, створивши велику структуру місцевих постачальників, коли почали виготовляти мобільні телефони. Це поклало початок революції мобільного зв’язку, яка почалася в Скандинавії і поширилася на решту світу. Зрозуміло, багато хто написали історію Nokia в 1990-х (див Секрети фінського дива: зростання Nokia).

Мій приклад простий. Можливо, занадто просто. Але подумайте про це так. Якщо велика компанія може швидко перейти від виробництва паперу до письма до чобіт, які полегшують перебування під дощем, то, нарешті, до мобільних телефонів, які змінюють спосіб спілкування людей: наскільки легким буде наступний крок? Припустимо, що компанія, яка виробляє мобільні телефони, вирішує виробляти наноботів, і, можливо, вони злетять через десятиліття, змінюючи людство за допомогою мініатюрних машин, які автономно бігають скрізь, здатні повторно складати та змінювати людський досвід. Що, якщо це станеться без урахування того, як ми хочемо, щоб це відбувалося, ким ми хочемо бути головним і кінцеві цілі?

Припустити, що роботи свідомо допомогли Nokia вирішити виробляти мобільні телефони, було б натяжкою. Але важливу роль відіграє визнання того, що технології відігравали роль у тому, щоб фінські сільські райони на північному березі думали, що вони можуть отримати світове панування в новій галузі.

Історія Nokia не була настільки райдужною за останнє десятиліття, з огляду на те, що вони не врахували появу програмних операційних систем iOS та Android. Тепер, як результат, Nokia більше не виробляє телефони. Тепер вони створюють мережеву та телекомунікаційну інфраструктуру, рішення для безпеки мережі, маршрутизатори Wi-Fi, розумне освітлення та смарт-телевізори (див. Історія повернення Nokia). Nokia все ще робить щось, це правда. Єдине зауваження, яке слід зробити, це те, що Nokia завжди любить змішувати речі, які вони виготовляють. Навіть виробничі рішення людей часом важко зрозуміти.

Виробництво означає створення речей, і речі розвиваються. Загалом, те, що ми робимо сьогодні, змінилося лише десять років тому. 3D-принтери децентралізовано виробництво багатьох передових продуктів, як у промисловості, так і вдома. Наслідки, що змінюють життя 3D-друку, ще не відбулися. Ми не знаємо, чи це триватиме, але ми знаємо, що FDA зосереджується на регулюванні виробництва продукції (див. тут), як-от надруковані таблетки чи медичні пристрої, які виникають, очевидні проблеми інтелектуальної власності та відповідальності чи проблеми, пов’язані з можливістю друку вогнепальної зброї. Зрештою, обговорення політики щодо негативних наслідків 3D-друку, крім цього, не існує, і мало хто з нас замислювався над цим.

Я не припускаю, що 3D-друк сам по собі небезпечний. Можливо, це поганий приклад. Проте речі, які спочатку виглядають буденними, можуть змінити світ. Прикладів багато: наконечник стріли мисливця/збирача, виготовлений з металу, який розпочинає війни, ритуальні маски, які захищають нас від COVID-19, цвяхи, з яких будують хмарочоси, друкарські верстати, які (досі) наповнюють наші фабрики друкованим папером і дають потужність видавничий бізнес, лампочки, які дозволяють бачити і працювати всередині вночі, я міг би продовжувати. Наприкінці 1800-х років ніхто з тих, кого я знаю, не передбачав, що Nokia переведе своє виробництво з паперу на гуму до електроніки, а потім відмовиться від мобільних телефонів. Можливо, вони повинні були.

Люди є поганими провісниками крокових змін, процесу, коли одна зміна призводить до нових змін, і раптом все кардинально інакше. Ми ще не розуміємо цього процесу, тому що маємо мало практичних знань про експоненційні зміни; ми не можемо це уявити, обчислити чи зрозуміти. Однак раз за разом це вдаряє нас. Пандемії, зростання населення, технологічні інновації від книгодрукування до робототехніки — це зазвичай вражає нас без попередження.

Трюк із футуризмом не в тому, якщо, а в тому, коли. Насправді можна передбачити зміни, просто вибравши нові методи виробництва та заявивши, що вони стануть більш поширеними в майбутньому. Це досить просто. Складна частина полягає в тому, щоб зрозуміти, коли саме і особливо як.

Скріпки не проблема

Знову розглянемо мій заводський приклад, але цього разу уявіть, що машини відповідають за численні рішення, не всі рішення, а виробничі рішення, як-от оптимізація. У своїй книзі Суперінтелект, гуманіст-антиутопій Оксфордського університету Нік Бостром уявив собі алгоритм оптимізації ШІ, який запускає фабрику скріпок. У якийсь момент, каже він, уявіть собі, що машина вважає, що навчання відвертати постійно зростаючі ресурси на виконання завдання є раціональним, в кінцевому підсумку поступово перетворюючи наш світ на скріпки і чинить опір нашим спробам вимкнути його.

Незважаючи на те, що він розумний хлопець, приклад Бострома досить тупий і вводить в оману (втім, запам’ятовується). По-перше, він не враховує той факт, що люди і роботи більше не є окремими сутностями. Ми взаємодіємо. Більшість розумних роботів еволюціонують у коботів або роботів для співпраці. У людей буде багато шансів виправити машину. Незважаючи на це, його основна думка залишається. У певний момент може відбутися поетапна зміна, і якщо ця зміна станеться досить швидко і без достатнього контролю, контроль може бути втрачено. Але такий екстремальний результат здається трохи надуманим. У будь-якому випадку, я згоден, ми повинні регулювати людей, які керують цими машинами, і зобов’язати, щоб працівники завжди були в курсі, належним чином навчаючи їх. Такий тип навчання не йде добре. Зараз це займає занадто багато часу, і потрібні спеціальні навички як для навчання, так і для навчання. Я знаю одну річ. У майбутньому всі види людей будуть працювати з роботами. Ті, хто цього не зробить, будуть досить безсилі.

Збільшення людей краще, ніж бездумна автоматизація, незалежно від того, чи ми ніколи повністю не з’єднаємося з машинами. Ці два поняття логічно відмінні. І люди, і роботи можуть застрягти в автоматизації заради автоматизації. Це завдало б великої шкоди виробництву в майбутньому. Навіть якщо він не виробляє роботів-вбивць. Я вважаю, що до злиття залишиться сотні років, але суть не в цьому. Навіть якщо до цього всього тридцять років, а самохідні машини, що працюють за спрощеними алгоритмами, які втрачають контроль, такий сценарій вже відбувається в цеху. Деяким із цих машин тридцять років і вони працюють на старих запатентованих системах керування. Їх головна проблема не в тому, що вони просунуті, а навпаки. Вони занадто спрощені, щоб мати можливість спілкуватися. Це не проблема завтрашнього дня. Це вже існуюча проблема. Ми повинні відкрити на це очі. Подумайте про це наступного разу, коли взуєтеся в гумові чоботи.

У мене досі є черевики Nokia 1980-х років. У них є дірка, але я зберігаю їх, щоб нагадувати собі, звідки я і як далеко пройшов. Дощ також продовжує падати, і поки він досить чистий, я не хочу, щоб це було краще, ніж ці чоботи. Знову ж таки, я людина. Імовірно, робот би вже рухався далі. Цікаво, яка версія rainboot із штучним інтелектом. Це не мобільний телефон. Це не датчик дощу. Це пригнічує розум.

Цифрові чоботи сьогодні означають, що ви можете персоналізувати їх, оскільки вони мають 3D-друкований дизайн. Існують віртуальні черевики, які існують лише як NFT (невзаємозамінні токени), які можна продавати та торгувати. Сьогодні найкращі віртуальні кросівки коштують 10,000 XNUMX доларів (див Що таке кросівки NFT і чому вони коштують 10,000 XNUMX доларів?). Я не боюся їх, але чи варто мені боятися? Якщо віртуальний світ буде цінуватися більше, ніж фізичний, можливо, я це зроблю. Або мені варто почекати, щоб хвилюватися, поки власний аватар AI не придбає власне завантаження NFT, щоб подолати «дощ»? Якщо ми створюємо алгоритми за власним образом, швидше за все, ШІ був би добрим у речах, у яких ми хотіли б, щоб ми були гарними, але зазвичай ні, наприклад, купівля акцій, налагодження лояльних дружніх стосунків (можливо, як з машинами, так і з людьми) та запам’ятовування. речі. Індустріальний метавсесвіт може бути напрочуд складним – сповнений цифрових близнюків, які імітують наш світ і перевершують його в плідних способах – або ж він може бути приголомшливо простим. Можливо, обидва. Просто ми ще не знаємо.

Нам потрібно регулювати алгоритми ШІ, тому що ми не знаємо, що нас чекає. Це достатньо підстав, але як ми це робимо, це довша історія. Дозвольте мені ще одне швидке спостереження, можливо, всі фундаментальні алгоритми мають бути загальнодоступними. Причина в тому, що якщо ні, неможливо дізнатися, до чого вони можуть призвести. Перші з них досить добре відомі (див 10 найкращих алгоритмів машинного навчання), але в усьому світі немає огляду того, де і як вони будуть використовуватися. Особливо слід уважно стежити за неконтрольованими алгоритмами (див Шість потужних прикладів використання машинного навчання у виробництві), чи використовуються вони для прогнозування технічного обслуговування чи якості, для моделювання виробничого середовища (наприклад, цифрових близнюків) чи для створення нових проектів, про які людина ніколи б не подумала. У сучасному ландшафті ці неконтрольовані алгоритми, як правило, є так званими штучними нейронними мережами, які намагаються імітувати людський мозок.

Я почав хвилюватися про нейронні мережі лише тому, що мені важко зрозуміти їхню логіку. Проблема в тому, що більшість експертів, навіть ті, хто їх розгортає, не розуміють, як ці алгоритми переходять від кроку до кроку або від рівня до рівня. Я не думаю, що метафора «прихованих шарів», яку часто використовують, не дуже влучна чи дуже смішна. Для початку не повинно бути ніяких прихованих шарів у виробництві, в автоматизованому зборі податків, у рішеннях про найм або вступі до коледжу. Можливо, вам теж варто потурбуватися? Одне можна сказати напевно: люди та машини, які створюють речі разом, змінять світ. Це вже було багато разів. Від паперу до дощовик і шарів сучасного штучного мозку — ніщо не повинно залишатися недослідженим. Ми не повинні приховувати того простого факту, що з багатьох дрібних змін раптом може виникнути більша зміна.