Етика штучного інтелекту та геополітична боротьба за те, хто виграє змагання за отримання справжнього ШІ

Світ у шаленій гонці.

Геополітичні сили стверджують, що переможець так би мовити забере додому все сало.

Яка гонка люто ведеться і наполегливо переслідується?

Це гонка ШІ.

Можливо, ви могли б більш влучно назвати це змаганням за досягнення правда Штучний інтелект (ШІ), який зараз більш повно називається загальним штучним інтелектом (AGI). Ми хочемо якимось чином досягти, здавалося б, найкращого штучного інтелекту, відомого як AGI, який можна порівняти з людським інтелектом. Ми ще не там. Дійсно, незважаючи на всі види диких і нахабно проголошуваних заголовків, ми не знаємо, коли і чи досягнемо цієї високої планки. Сучасний штучний інтелект має набагато менші можливості, ніж всеохоплюючий людський інтелект, хоча, звичайно, є багато більш вузьких шляхів, якими штучний інтелект зробив вражаючі набіги, як-от можливість грати в першокласні шахи світового класу або виконувати інші відносно обмежені завдання.

Однак золоте кільце — це поява штучного інтелекту, який демонструє людський інтелект побожної природи та глибину, подібну до людської. Це священний Грааль для дослідників і практиків ШІ. Час від часу з’являються підозрілі заяви про те, що він уже перетнув фінішну пряму перегонів зі штучним інтелектом, які я розвінчав у своїй колонці на посилання тут. Ті, хто намагається сперечатися про перетин фінішної лінії, спантеличують широку громадськість і часом роблять це через ревну невинність, а іноді мають у своєму розпорядженні серйозно сумнівні мотиви. Загалом, це викликає досить важливі та життєво важливі міркування щодо етики ШІ. Щоб дізнатися про постійне та широке висвітлення етики ШІ та етики ШІ, див посилання тут та посилання тут, просто назвемо декілька.

У будь-якому випадку, немає жодних сумнівів, що всесвітня спринтерська гонка штучного інтелекту активно триває. Вам було б важко стверджувати інакше.

Подумайте про це таким чином. Якби нам уже вдалося досягти справжнього штучного інтелекту чи інтелектуального інтелекту, велика ймовірність того, що змагання штучного інтелекту було б офіційно та глобально оголошено успішно завершеними. Я запевняю вас, що увагу всього світу буде прикуто до такого гучного та карколомного прориву. Ви б про це знали. Ми всі б. Таким чином, AI Madcap dash фактично більше не існуватиме, хоча, можливо, може виникнути вторинна версія, в якій будуть брати участь ті, хто не досяг справжнього AI, гарячково працюючи, щоб наздогнати згаяне. Існує також тривожне питання про те, як ми в кінцевому підсумку будемо контролювати або керувати AGI, якщо або коли ми досягнемо цього.

Жодна фізична чи юридична особа чи нація ще не може належним чином претендувати на корону створення справжнього ШІ чи AGI.

Тим часом точаться величезні й невблаганні суперечки щодо того, яка нація (чи нації) очолює зграю, а хто йде позаду. Припущення полягає в тому, що якщо ви не перший, ви залишитеся в бруді. Ви будете їсти залишки переможців ШІ. Потенційно ви назавжди будете підкорені нації або націям, які зроблять проголошений стрибок у справжньому ШІ або AGI.

Коротко, щоб полегшити формулювання цієї дискусії, я збираюся використовувати «AGI» щоразу, коли хочу викликати ауру справжнього ШІ. Використання дещо новішої фрази «AGI» іноді дратує тих, хто не звик до її використання. Ми всі знайомі зі словом «AI», і вас може збентежити використання акроніму «AGI». Дозвольте мені пояснити, чому це поступово стає тенденцією багатослів’я.

Однією з причин того, що AGI піднявся на арені штучного інтелекту, є те, що просте зазначення «ШІ» тепер стало, на жаль, розбавленим словосполученням. Ніхто не знає, чи штучний інтелект, про який ви згадуєте, є лише варіантом штучного інтелекту чи якимось квазікращим прогресуючим штучним інтелектом, чи він може натякати на футуристичний штучний інтелект, повністю прирівняний до людини. Щоб впоратися з перевантаженням «ШІ» як крилатої фрази, псевдонім AGI набирає перевагу серед тих інсайдерів у сфері ШІ, які хочуть конкретно та конкретно натякати на справжній ШІ.

Коротше кажучи, вважайте мою згадку про AGI тим самим, що сказати «справжній ШІ» надійного калібру, схожого на людський інтелект, дякую.

Давайте глибоко вдихнемо та уважно розглянемо деякі аспекти змагання за досягнення AGI. Є навіть мета-аспект, який потрібно викласти спочатку. Майте на увазі, що використання алегорії нібито пішохідного забігу чи будь-якого іншого виду перегонів як метафори гонки AGI викликає трохи печії. Чому так? Я миттєво розповім вам про складнощі та складності того, чому (дехто каже) біг або його еквівалент є цілковито оманливим і підступним простодушним поглядом.

Ось ключові моменти, які я розгляну з вами в цій промові:

• Якщо це гонка, фінішна лінія AGI здається досить погано визначеною
• Гонка AGI може дістатися людині, організації або нації
• Показники та те, як країни порівнюються в гонці AGI
• Геополітичне маневрування та вирівнювання для гонки AGI
• Міжнародні закони щодо штучного інтелекту та етика штучного інтелекту як судді в гонці AGI

Можливо, ви захочете пристебнути ремінь безпеки, коли я розглядаю пішохідний забіг AGI (так, я насмілюсь назвати це пішохідним забігом), у якому майже всі рухаються на шаленій швидкості та, здається, стрімко злітають у цьому палаючому квесті. Хтось може сказати, що це гонка за покращення людства, тоді як інші попереджають, що ця гонка може призвести до повної загибелі для всіх нас.

Час покаже.

Якщо це гонка, фінішна лінія AGI здається досить погано визначеною

Фінішна лінія зазвичай є досить чіткою демаркацією. Ви або дійшли до фінішу, або ще ні. Недостатність, здається, не принесе вам великої користі. Уявіть собі біг на 400 метрів на Олімпійських іграх і чи запам’ятаєте ви бігунів, які взагалі не закінчили забіг (ніколи не перетнули фінішну пряму), чи зарахуєте їх похвалою? Малоймовірно.

Чи дізнаємося ми, коли ми досягли AGI, щоб всі погодилися, що фінішну пряму досягнуто?

Існують гострі розбіжності щодо розмежування АГІ.

Наприклад, припустімо, що ми розробляємо штучний інтелект, який, здається, цілком здатний демонструвати людський інтелект, але в ньому немає жодної видимості чуттєвості як такої (див. моє висвітлення аргументів щодо чуття ШІ на посилання тут). Штучний інтелект обчислювально здатний імітувати або іншим чином працювати так, як це робить людський інтелект. Однак немає жодної іскри живості чи чуттєвості, яку ми асоціюємо з людьми та іншими живими істотами. Чи вважається цей AGI досягненням цілі, яку ми думали?

Дехто заперечив би, що це не мало б значення, якби відчуття як таке було загорнуте в цей AGI. Поки він може демонструвати людський інтелект, включення чуття є чимось різним різновидом, який ми можемо бажати або не бажаємо бачити. Чуття в цьому сенсі речей є додатком.

Інші рішуче стверджують, що єдиним засобом досягнення людського інтелекту в AGI буде повне втілення чуття. AGI та відчуття або вважаються одним і тим же, або вони є сумішшю незвідного нероздільного подвійного втілення. Щоб отримати AGI, ви повинні мати розум, стверджували б вони.

Залишаючи в стороні цей кут дебатів, інша точка зору полягає в тому, що ми могли б використовувати знаменитий тест Тьюринга, щоб оцінити, чи досягнуто AGI. Я детально розглянув тест Тюрінга на посилання тут. Коротше кажучи, поняття полягає в тому, щоб людина задала запитання AGI, і якщо людина не може відрізнити відповіді, створені AGI, від відповідей людства, тоді ми б оголосили, що AGI здатний демонструвати людський інтелект.

З тестом Тьюринга часто пов'язано багато проблем або недоліків.

Припустімо, що людина, яка запитує, погано виконує свою роботу і не ставить навідних запитань. Одна з проблем полягає в тому, що багато сучасних, здавалося б, потужних великих мовних моделей (LLM) можуть повертати людині вміст, на якому навчався LLM (тобто текст і цифрові медіа, часто отримані через масштабне сканування Інтернету). Таким чином, спеціально відібрана людина, яка задає звичайні питання, на які вже отримали відповіді та існують в Інтернеті, потенційно може отримати готову «відповідь» від LLM, але це, мабуть, не пов’язано з будь-яким втіленням людського інтелекту калібру AGI.

Виникає багато інших сумнівів. Припустимо, що людина не в змозі зрозуміти відповіді. Або припустімо, що люди вводять себе в оману, вірячи, що всі відповіді свідчать про людський інтелект. Деякими я навіть висвітлював застарілу ідею про те, що все, що нам потрібно зробити, це запитати ШІ, чи він AGI чи розумний, що, як я пояснюю, є не дуже переконливою формою доказу AGI, див. посилання тут.

Нарешті, як одна додаткова думка, чи потрібно нам повністю досягти фінішу, щоб вважати, що AGI досягнуто?

Раніше я згадував, що ми зазвичай забуваємо про тих, хто не доходить до фінішу. Це може бути не дуже схожим на гонку AGI. Я вважаю, що можна навести переконливі аргументи, що якщо ми зможемо досягти значного шляху до AGI, ми вже опинимося в стані подиву та або великої вигоди, або великих проблем. Розумієте, багато важливих і дуже корисних результатів може виникнути через майже готовий AGI. Недосягти результатів не буде такою проблематично, як не завершити 400-метровий пробіг, особливо тому, що це може бути життєво необхідною основою для нашого шляху до більш повної версії AGI (можливо, для порівняння з марафоном).

Метафора досягнення AGI як типу бігу або його еквівалента іноді є незадовільною та неадекватною.

Гонка AGI може дістатися людині, організації чи нації

Дехто виношує мрійливу думку, що AGI буде досягнутий якимось майстром, який працює в гаражі в піжамі, і це буде результат божевільно винахідливих експериментів з комп’ютеризації, над якими вони працювали роками. Це класичний високотехнологічний образ самотнього вовка.

На жаль, це пропозиція з надзвичайно низькими шансами.

Більша ймовірність того, що така організація, як бізнес або якась дослідницька група, стане лідером AGI. Поширене переконання полягає в тому, що для досягнення AGI знадобиться ціле село. Самотній вовк не матиме ні ресурсів, ні знань, щоб досягти AGI. Вони можуть сприяти квесту. Вони можуть надати необхідні елементи для головоломки. Їм не вдасться зібрати цілий набір і кувалду.

Говорячи про села, ще одна твердо поширена точка зору полягає в тому, що лише нації зможуть досягти AGI. Завдяки об’єднанню людей, компаній, науковців та всіх інших суб’єктів у межах національної держави, AGI з’явиться в результаті спільної роботи національної сукупності. Одиничний рівень уваги для переможця в цій гонці приділяється національно-державній основі, а не чомусь більш розпорошеному, вільному чи індивідуалістичному.

Коротше кажучи, якщо для цього береться село, то село буде національного масштабу, тому національна держава буде визначеним бігуном, який перетне фінішну лінію в гонці AGI.

Показники та те, як країни порівнюються в гонці AGI

Візьміть як даність, що досягнення AGI базуватимуться на рівні національної держави.

Повторюємо, ми не знаємо цього напевно, але це здається обґрунтованим припущенням.

Розглянемо розгалуження основи національної держави. Припустімо, самотній вовк справді встигає першим дістатися до AGI і вважає, що його робота виходить за межі національної держави, членом якої він є. Ця особа заявляє, що не належить до жодної національної держави з точки зору створеного AGI. Чи будемо ми все ще віддавати належне цій національній державі і чи буде AGI під контролем і сферою компетенції цієї нації?

Уявіть іншу альтернативу: великий міжнаціональний конгломерат прибуває до AGI першим. Яка нація може сказати, що AGI — це їхня «річ» для використання та розгортання (чи буде вона тлумачитись як власність чи як варіант юридичної особи)? Можливо, всі країни, в яких існує компанія, мають отримати однакові кредити. Або, можливо, лише там, де географічно розташована офіційна штаб-квартира. Це може бути складний розподіл справжнього золотого горщика.

У будь-якому випадку, загальна поширена думка полягає в тому, що національна держава буде вирішальним фактором досягнення AGI. Країна, яка заохочує дослідження та розробки штучного інтелекту в рамках своїх національних зусиль, імовірно, досягне AGI раніше, ніж інші країни, які не роблять цього.

Переважає думка, що раса ШІ є національною.

Проблема, яка дряпає голову, полягає в тому, як ми можемо визначити, чи одна нація випереджає чи відстає від іншої в гонці AGI.

У звичайних забігах ми можемо легко визначити показники, за якими можна визначити, хто з бігунів працює добре, а хто ні. Швидкість бігуна можна легко розрахувати. Це не гарантує, що вони фінішують першими, але принаймні багатообіцяюче. Фізична відстань між бігунами та відстань, що залишилася до фінішу, очевидно, є життєво важливими критеріями, які ми можемо легко виміряти.

Гонка AGI не має таких надійних форм показників чи вимірювань.

Ми використовуємо всілякі сурогатні вимірювання, оскільки немає остаточного способу обчислити, де знаходиться кінцева лінія та як далеко ми від неї.

Давайте розглянемо типи метрик, які зазвичай розглядаються. Особливо зручне джерело глобальних вимірювань, пов’язаних зі штучним інтелектом, щороку збирає та публікує Стенфордський інститут людського штучного інтелекту (HAI) Стенфордського університету. Звіт доступний в Інтернеті безкоштовно, а останній випуск має назву Річний звіт The AI ​​Index 2022 (на основі даних, зібраних за 2020-2021 рр.). За мить я поділюся з вами деякими основними моментами національних порівнянь, згаданих у їхній останній збірці.

Метрики, які використовуються для вимірювання національного та міжнародного прогресу в області штучного інтелекту, як правило, включають усе потроху, часом навіть на межі включення справжньої кухонної мийки.

Типи заходів, які зазвичай досліджуються, включають:

• Кількість статей про дослідження штучного інтелекту, пов’язаних з певною нацією
• Кількість цитованих посилань на статті ШІ певної нації
• Кількість журналів ШІ в певній країні
• Кількість конференцій штучного інтелекту, що відбуваються в певній країні
• Кількість конференцій штучного інтелекту, спонсорованих певною країною
• Кількість патентів на штучний інтелект, виданих у певній країні
• Кількість стартапів AI-компаній у певній країні
• Кількість вакансій ШІ в певній країні
• Кількість нових вакансій або прийому на роботу в певній країні
• Кількість законів щодо штучного інтелекту або законодавчих актів, прийнятих у певній країні
• Кількість законів про штучний інтелект, прийнятих або прийнятих у певній країні
• Інше

Розглянемо ці сучасні показники з індексу HAI AI 2022:

• AI Publication Citations: “За кількістю цитувань публікацій зі сховищ штучного інтелекту Сполучені Штати лідирують у списку з 38.6% загального числа цитувань у 2021 році, встановивши домінуюче лідерство над Європейським Союзом, а також Сполученим Королівством (20.1%) і Китаєм (16.4%)».
• Журнали/конференції AI: «У 2021 році Китай продовжував лідирувати у світі за кількістю публікацій у журналах, конференціях і репозиторіях штучного інтелекту — на 63.2% більше, ніж у Сполучених Штатах, з усіма трьома типами публікацій разом. Тим часом Сполучені Штати займали провідне місце серед великих держав ШІ за кількістю цитувань на конференціях і репозиторіях».
• Патенти ШІ: «Зараз Китай подає більше половини патентів на штучний інтелект у світі, і йому надається близько 6%, приблизно стільки ж, скільки в Європейському Союзі та Сполученому Королівстві. Сполучені Штати, які подають майже всі патенти в Північній Америці, роблять це на третину швидше, ніж Китай. Порівняно зі збільшенням кількості поданих і виданих патентів на штучний інтелект, Китай має набагато більшу кількість заявок на патенти (87,343 2021 у 1,407 році), ніж виданих (2021 у XNUMX році)».
• Нещодавно профінансовані компанії ШІ: «Інвестиційні дані за кількістю нещодавно профінансованих компаній ШІ в кожному регіоні. У 2021 році Сполучені Штати лідирували з 299 компаніями, за ними йшов Китай зі 119, Сполучене Королівство з 49 та Ізраїль з 28. Розрив між ними значний».
• Темпи найму ШІ: "Нова Зеландія, Гонконг, Ірландія, Люксембург і Швеція є країнами чи регіонами з найвищим зростанням найму ШІ з 2016 по 2021 рік».
• Оголошення про роботу AI: «У 2021 році Каліфорнія, Техас, Нью-Йорк і Вірджинія були штатами з найбільшою кількістю оголошень про роботу з штучним інтелектом у Сполучених Штатах, причому Каліфорнія мала більш ніж у 2.35 рази більше, ніж Техас, другий за величиною. Вашингтон, округ Колумбія, мав найбільший відсоток оголошень про роботу зі штучним інтелектом порівняно із загальною кількістю оголошень про роботу
• Законодавча дія AI: «Аналіз законодавчих записів щодо штучного інтелекту в 25 країнах за індексом штучного інтелекту показує, що кількість законопроектів, які містять «штучний інтелект», які були прийняті як закон, зросла лише з 1 у 2016 році до 18 у 2021 році. Іспанія, Великобританія та Сполучені Штати прийняла найбільшу кількість законопроектів, пов’язаних зі штучним інтелектом, у 2021 році – по три».

Ми можемо надзвичайно захоплюватися та цінувати важку роботу, пов’язану зі складанням цієї статистики бігунів національних держав для перегонів AGI.

Хоча скептики чимало сперечаються щодо використання будь-яких типів показників у перегонах AGI.

Гострий питання полягає в тому, чи можна провести будь-яку пряму лінію від кількості статей про штучний інтелект або конференцій щодо штучного інтелекту в конкретній країні до кінцевого досягнення AGI. Те ж саме можна сказати про кількість вакансій зі штучним інтелектом, кількість компаній зі штучним інтелектом та низку інших показників. Цілком можливо, що ці показники мають мало спільного з досягненням AGI. Аргумент полягає в тому, що ці заходи більше тепла, ніж світла.

Контраргумент полягає в тому, що ми повинні спробувати визначити, де ми є і куди ми йдемо. Занурення голови в пісок не здається життєздатним способом оцінити, чи рухаємося ми до AGI, чи, можливо, далі від AGI. Є надія та загальне припущення, що чим більше енергії та уваги буде спрямовано на розвиток штучного інтелекту, тим ближче ми наблизимося до AGI. Ці показники є найкращим, що ми можемо зробити, щоб зібрати, скільки енергії та уваги виділяється та споживається в перегонах AGI.

По кругу, що йде.

Кожна з метрик сама по собі також може бити по голові.

Наприклад, розглянемо кількість законодавчих законів або законопроектів про ШІ.

Ви можете стверджувати, що якщо законодавці зосереджуються на законах, пов’язаних зі штучним інтелектом, це хороший знак того, що нація досить тверезо сприймає важливість ШІ та суспільні наслідки того, куди прямує ШІ. Можна стверджувати, що це демонструє, що в цій конкретній країні докладається багато зусиль щодо розвитку ШІ. Навіщо вам докладати зусиль, щоб прийняти закони про штучний інтелект, якщо штучний інтелект не процвітає й не з’являється як демонстративний елемент вашої нації?

Таким чином, ті країни, які ухвалюють нові закони щодо штучного інтелекту, тлумачаться як ознака або сигналізація прогресу AGI у цій країні.

Деякі критики стверджують, що запропоновані нові закони про штучний інтелект придушать зусилля щодо штучного інтелекту в кожній конкретній країні. Законодавці та політичні лідери збираються стріляти собі в ноги. Закони передчасно покладуть похмуру тінь на зусилля ШІ, які здійснюються в цій конкретній країні. Кран розвитку штучного інтелекту буде забитий юридичними проблемами, а темп прогресу AGI сповільниться до краплі в цій країні, яка проголошує закон про штучний інтелект. Тим часом інші країни, які не приймають подібні закони про штучний інтелект, продовжуватимуть безупинно діяти. Це ніби ви вирішили надіти свинцеві тягарці на бігуна, який уже на 400-метровій доріжці. Якщо ви мали на меті допомогти їм і прискорити їх, ви зробили з точністю до навпаки.

Ого, звучить репліка, прийняття законів про штучний інтелект більше схоже на те, щоб переконатися, що попереду бігуна немає непотрібних перешкод. Закони надають вказівки тим самим, що смуги на іподромі існують для того, щоб бігун плавно рухався в правильному напрямку. Без цих намальованих ліній бігуни могли б шаленіти. Нові закони щодо штучного інтелекту змусять їх узгоджено крокувати до бажаного результату. Країни, які не роблять подібного з точки зору нових законів щодо штучного інтелекту, побачать, що їхні бігуни йдуть у будь-якому дикому напрямку, у тому числі, можливо, повністю збігають з траси та завдають шкоди тим, хто є невинним за межами самої гонки AGI.

Існують також «приховані» закони, пов’язані зі штучним інтелектом, які одні враховують, а інші не враховують як частину цих показників (що створює плутанину при спробі порівняти кількість).

Наприклад, якщо країна прийме закон щодо автономних транспортних засобів, таких як безпілотні автомобілі, ви вважаєте це законом про ШІ? Щоб уточнити, автономний транспортний засіб, такий як повністю автономний самокерований автомобіль, матиме систему водіння ШІ, яка є основою для можливостей без водія (див. моє висвітлення на посилання тут). Завдяки залученому штучному інтелекту будь-які закони про автономні транспортні засоби можна розумно вважати законами штучного інтелекту. З іншого боку, ви можете переконливо стверджувати, що закон стосується автономних транспортних засобів, а не сам по собі ШІ, тому це не враховується під час підрахунку законів, що стосуються ШІ.

Це безладно.

Весь цей жах щодо показників може змусити вас знизати плечима на тлі протилежних поглядів на ці вагомі міркування. Як може бути очевидно, метрики майже завжди підлягають різним інтерпретаціям щодо того, що вони означають і як належним чином аналізується статус нації щодо AGI.

Геополітичне маневрування та вирівнювання для гонки AGI

Які країни попереду в гонці AGI?

Які нації відстають?

Вищезазначені показники намагаються показати, де зараз перебуває кожен із учасників. Основне припущення полягає в тому, що якщо показники справді відображають влучну вказівку на те, що AGI шукає позиціонування, ці різні найкращі позиції можуть залишатися незмінними з часом. Звичайно, реальність така, що національний інтерес і увага можуть зростати або зменшуватися під час вибоїстого шляху до AGI. Можливо, найрозумніше очікувати змін у позиціонуванні.

Одним із важливих міркувань є те, що нації насправді не беруть участь у цій гонці самі по собі.

Країни, швидше за все, будуть передавати естафету одна одній. У расі AGI часом одна або кілька націй із задоволенням працюють пліч-о-пліч. Іноді це робиться насторожено, а не з дружньою радістю. В інших випадках нації можуть утримуватися одна від одної. У будь-який момент часу перегонова поза може бути зовсім іншою, ніж вона була на кілька кроків назад, плюс може бути зовсім іншою на кілька кроків у майбутнє.

Зверніть увагу на те, що зроблено у звіті HAI AI Index 2022 про співробітництво між країнами: «Незважаючи на зростання геополітичної напруженості, Сполучені Штати та Китай мали найбільшу кількість співробітництва між країнами в публікаціях AI з 2010 по 2021 рік, збільшившись у п’ять разів з 2010 року. .. Співпраця між двома країнами випустила в 2.7 рази більше публікацій, ніж між Сполученим Королівством і Китаєм — другим за значенням у списку».

Циніки сказали б, що, можливо, використання перехресного співробітництва іноді використовується як хитрість. Нація може відверто стверджувати, що вони співпрацюють між собою, здавалося б, що вони так роблять, у той час як у глибині душі вони зберігають свій найкращий прогрес AGI в прихованій національній таємниці. Можливо, це зроблено для того, щоб притупити прогрес нації, що співпрацює між собою. Можливо, це робиться для того, щоб ненавмисно не роздали секретний соус. Можливі всілякі причини.

У сучасному сучасному цифровому інтернет-світі онлайн спроба тримати статистику AGI в таємниці може бути важкою роботою. Велике бажання розкрити або винайти AGI є переконливою привабливістю, яка може спонукати окремих розробників і дослідників AGI відкрито ділитися своїми останніми роботами. Країни можуть виявити, що спробувати обмежити такий обмін набагато важче, ніж може здатися, і, ймовірно, набагато важче, ніж у ті часи, коли все було паперовим і вимагало фізичного переміщення документів по всьому світу.

Рух до відкритого вихідного коду, безсумнівно, є сучасним акцентом для більшості останніх досліджень штучного інтелекту та AGI, як зазначено у звіті HAI AI Index 2022: «Щороку тисячі й тисячі публікацій штучного інтелекту виходять із відкритим вихідним кодом, будь то на на конференціях або на веб-сайтах обміну файлами. Дослідники відкрито ділитимуться своїми висновками на конференціях; державні установи фінансуватимуть дослідження штучного інтелекту, які потраплять у відкритий код; а розробники використовують відкриті бібліотеки програмного забезпечення, які є у вільному доступі, для створення найсучасніших програм ШІ. Ця відкритість також сприяє глобальному взаємозалежному та взаємопов’язаному характеру сучасних досліджень і розробок ШІ».

Загалом, нації загалом діляться, але, можливо, демонструють лише частину своєї сторони. Інші країни можуть не ділитися або лише робити вигляд, що роблять це. Деяким націям важко визначити, що люди в їхній нації віддають, а не тримаються. І так далі.

Я охарактеризував природу цих національних кроків таким чином:

• AI Go-it-one Nation (намагається продовжити самостійно)
• AI Одностороння нація (бере, не віддає)
• AI Leftover Nation (отримує те, що може від інших)
• AI Open-sharing Nation (пишається тим, що ділиться)
• AI Hollow-Sharing Nation (брехня в обміні)
• AI Альянси нації (намагаючись укласти якомога більше альянсів)
• AI No-in-the-game Nation (пошук AGI не є національним пріоритетом)
• AI Cheating Nation (зворотне проектування або підступне викрадення в інших націй)
• Інше

Нація може бути в кількох із цих відер одночасно.

Нація може деякий час перебувати в одному з цих відер, вийти з цього відра і, можливо, пізніше повернутися туди.

Бажання національних держав і увага, пов’язані з пошуком AGI, є динамічними припливами та відпливами, які, безсумнівно, триватимуть і будуть рухомою мішенню щодо того, яка нація де знаходиться в перегонах, і для з’ясування знадобиться постійне спостереження. де всі гравці розташовані в певний момент часу.

Міжнародні закони про штучний інтелект та етика штучного інтелекту як судді в перегонах AGI

У попередніх колонках я розповідав про різні національні та міжнародні спроби розробити та прийняти закони, що регулюють ШІ, див. посилання тут та посилання тут, наприклад. Я також розглянув різні принципи та настанови етики штучного інтелекту, які визначили та прийняли різні країни, включаючи, наприклад, зусилля Організації Об’єднаних Націй, такі як набір етики штучного інтелекту ЮНЕСКО, який прийняли майже 200 країн, див. посилання тут.

Ось корисний ключовий список етичних критеріїв або характеристик систем штучного інтелекту, які я раніше детально досліджував:

• прозорість
• Справедливість і справедливість
• Незлочинність
• Відповідальність
• Конфіденційність
• Вигода
• Свобода і автономія
• Довіряйте
• Sustainability
• Гідність
• Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту.

Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в межах дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Як наголошувалося вище, для розробки та впровадження штучного інтелекту потрібне село, і для цього все село має знати та дотримуватися правил етики штучного інтелекту.

Давайте розглянемо вплив і життєво важливий характер міжнародних законів щодо штучного інтелекту та міжнародних проголошень правил етики штучного інтелекту на гонку AGI.

Країни, які прагнуть до AGI, можуть зробити це безрезультатно та виявити, що схиляються до деяких із часто популяризованих екзистенціальних ризиків AGI. Сподіваємося, що запровадження міжнародних законів щодо штучного інтелекту та міжнародних принципів етики штучного інтелекту дозволить націям керуватись ШІ для добра і тримайтеся подалі від ШІ для поганого.

Відповідно до нашої аналогії з іподромом, ці закони штучного інтелекту та міркування етики штучного інтелекту схожі на спробу утримати бігунів від виходу за межі траси. Є величезні спокуси скоротити шляхи в AGI гонці. Ці швидкі шляхи можуть привести націю до фінішної прямої, здавалося б, швидше, хоча водночас піддадуть цю націю та інші нації невиправданому ризику. Тонкий, але промовистий приклад — це штучний інтелект подвійного призначення, який я досліджував посилання тут, за допомогою якого прогрес штучного інтелекту легко перемикається з незначними зусиллями з спрямованості на добро на створення катастрофічного зла.

Ви можете стверджувати, що міжнародні закони щодо штучного інтелекту та міжнародна етика штучного інтелекту схожі на арбітрів або суддів.

Є припущення, що ці міжнародно розроблені правові та етичні механізми будуть підтримувати гонку AGI на більш рівному рівні. Річ у тім, що конкретні країни прислухаються до рефері чи ампайрів – це інше питання. Подібним чином виникає неприємне питання про те, як ці органи влади можуть застосовувати штрафи чи стимули, щоб утримувати бігунів на правильному шляху. Цілком імовірно, що нації будуть робити так, як вони хочуть, для чого іншим націям, можливо, доведеться змінити свою вагу, щоб посилити підтримку нестандартного порушення правил, яке деякі нації зобов’язані робити.

Висновок

Луї Пастер, легендарний хімік і мікробіолог, сказав таке: «Наука не знає жодної країни, тому що знання належать людству і є факелом, який освітлює світ. Наука є найвищим уособленням нації, тому що ця нація залишиться першою, яка несе найдальші твори думки та розуму».

Чи можна сказати, що досягнення AGI не знає жодна країна і що AGI належатиме всьому людству?

Або нація, яка першою прибуде до AGI, заволодіє нею, сп’яніє жахливою владою та зійде з розуму?

Для тих із вас, хто хоче трохи покрутити цю конкретну головоломку, подумайте, що AGI сам по собі може бути типом досягнення, яке є загальновідомою змією в траві. Відкривач змії може бути першим, кого вкусить змія. Бути першим має свої ризики.

Перетин фінішу на AGI не обов’язково буде таким святковим і безтурботним, як дехто може подумати. Використовувати AGI також не буде легко. Дехто може стверджувати, що впоратися з AGI може бути майже неможливо, оскільки AGI, здавалося б, матиме порівнянну хитрість і винахідливість, якими володіє людство. Країни повинні пам’ятати про те, чого вони намагаються досягти і яким буде результат, роблячи це заздалегідь і не залишаючись зненацька. У їхній національній скарбниці може бути осине гніздо.

Як казав Пастер: «Доля сприяє підготовленому розуму».