Meta AI представляє дипломатичний чарівник із штучним інтелектом, який перетворює етику штучного інтелекту та законодавство про штучний інтелект у неделікатний Tiff

Чи можемо ми змусити ШІ наповнити дипломатію нарівні з людською? До цього прагнуть розробники ШІ.

getty

Шановний світ чарівності та дипломатії часто затьмарений неделікатністю та неввічливістю.

Вілл Роджерс, видатний гуморист і соціальний коментатор, сказав, що дипломатія — це мистецтво говорити «хороший песик», поки не знайдеш камінь.

Очевидний наслідок полягає в тому, що вам іноді доводиться різко стримувати будь-які навислі та загрозливі сили, доки ви не знайдете відповідне рішення. Робіть те, що вам потрібно, коли ви в безвихідній ситуації. Умисно й цілеспрямовано заспокоюйте тих, хто ставить вас під загрозу, використовуючи свої заспокійливі та закохані слова, виграючи дорогоцінний час, щоб озброїтися більш практичною та відверто відчутною позицією.

Дехто стверджує, що війна нерозривно є результатом невдалої дипломатії. З цієї точки зору постійний барабанний бій дипломатії запобіжить війну. Продовжуйте говорити, і бій не почнеться. Інші категорично не погоджуються з такою проблемною думкою. Можливо, як кажуть, дипломатія насправді є тим, що втягує нас у війни. Крім того, може статися так, що дипломатія розтягує війни та продовжує бойові дії безкінечно.

Ми дамо Віллу Роджерсу ще один шанс насолодитися гумором у цьому питанні про те, чи дипломатія хороша чи погана щодо початку чи продовження війни: «Вийміть дипломатію з війни, і справа завалиться за тиждень» (він як повідомляється).

Загальне визначення дипломатії наголошує на стосунках між націями. Дипломати представляють окремі нації чи національні держави та здійснюють дипломатію під час виконання своїх священних обов’язків. Ми очікуємо, що наші дипломати здійснюватимуть свою зовнішню політику за допомогою апломбу. Месенджер не повинен викликати ворожнечу, це може викликати лише повідомлення. Імовірно бездоганне дипломатичне зображення навіть найкричущіших повідомлень може явно пом’якшити удар, який виникає від шкідливої вимоги чи загрози.

Звичайно, дипломатія не обмежується виключно високою роботою офіційних дипломатів. Насмілюся сказати, що в нашому повсякденному житті ми всі маємо відчувати якусь подобу дипломатії. Якщо ви хочете, щоб друг наглядав за вашою улюбленою собакою під час вашої відрядження, ви, безперечно, дипломатично висловите прохання подбати про песика. Відверта вимога зробити це, ймовірно, приземлиться з глухим стуком.

Дипломатія, ймовірно, більше мистецтво, ніж наука, — це те, що люди використовують, щоб змащувати ковзани, тримати світло ввімкненим і запобігати повному шаленню суспільства. Переговори починаються. Може знадобитися умиротворення. Іноді ти користуєшся пряником, іноді – батизом. Якщо вам доведеться це зробити, ви можете спробувати так звану канонерську дипломатію, за допомогою якої ви намагаєтеся залякати інших навколо вас. Або замість сильного озброєння ви можете піти м’якшим посередництвом і гуманітарним шляхом. Все залежить.

Гаразд, ми погоджуємося з тим, що дипломатія є важливою формою спілкування між людьми. Він складається з практики або сценічної майстерності, пов’язаної із застосуванням такту, посередництва, переговорів, примирення та низки спритних суспільних політиканств.

Давайте додамо ще щось до цього рівняння.

Чи готові ви?

Ми збираємося додати ще щось, про що ви, можливо, ще думали.

Штучний інтелект (ШІ).

Так, штучний інтелект вступає в дипломатичний гамбіт. Це здається цілком розумним. Якщо ми збираємося занурити штучний інтелект у всі аспекти нашого життя, зрештою дипломатія повинна дійти своєї черги. Ми можемо очікувати, що штучний інтелект зможе виконувати всі свої обов’язки, використовуючи відповідні слова та манери дипломатії.

ШІ як автономний або напівавтономний дипломат.

Я розумію, що це може здатися досить складним і взагалі страшним. Я не думаю, що хтось із нас готовий до того, що штучний інтелект буде представляти наші відповідні країни. Уявіть собі, що штучний інтелект працює від нашого імені, обговорюючи наші міжнародні позиції та підтверджуючи нашу глобальну політичну позицію. ой! Це матеріал тих апокаліптичних науково-фантастичних історій.

Що ж, миттєво зітхніть з полегшенням, оскільки наразі це не в планах.

Натомість подумайте про штучний інтелект, який ви використовуєте для здійснення банківських операцій або який допоможе вам придбати житло. Сучасний штучний інтелект, який взаємодіє з людьми, як правило, досить бездоганний. Переходьте до фактів, тільки до фактів. Деякі штучні інтелекти були покриті привабливими формулюваннями, щоб ви думали, що вони дружні чи приятелі, хоча це швидко видно. Просто тому, що система штучного інтелекту звертається до вас на ваше ім’я або видає такі слова, як «привіт» замість «привіт», більшість із нас відразу розуміє, що це шарада.

Наступним кроком, який жадібно переслідують розробники штучного інтелекту, є спроба влити дипломатичні характеристики в наш повсякденний штучний інтелект. Основна мета полягає в тому, щоб включити програмні аспекти, які змусять штучний інтелект продемонструвати дипломатичність і дипломатичну поведінку. За допомогою різноманітних алгоритмів і особливо останніх у генеративному штучному інтелекті або великих мовних моделях (LLM) на цьому фронті помітний прогрес.

Ми розглянемо один із таких прикладів, CICERO, нову систему ШІ, випущену командою Meta AI.

Якщо ви були у відпустці та не були в курсі останніх новин про штучний інтелект, нещодавнє оголошення та відкриття системи штучного інтелекту під назвою CICERO є вагомим покажчиком того, де зараз знаходиться арена дипломатії, наповненої штучним інтелектом. Команда Meta AI ретельно опублікувала свою розроблену систему CICERO AI. Ви можете прочитати технічні деталі в опублікованій дослідницькій статті на наукаСм. посилання тут. Ви можете відвідати веб-сайт, який вони створили, щоб м’яко передати загальні нюанси CICERO за допомогою коротких відеокліпів, щоб проілюструвати, що він робить (див. посилання тут). Для тих із вас, хто шукає справжній програмний код і програмне забезпечення, ви можете знайти вихідний код на GitHub за адресою посилання тут.

Я хочу швидко прояснити один аспект, який може здатися незрозумілим, якщо ви вирішите заглибитися в це питання.

Конкретна система штучного інтелекту, розроблена Meta AI, наразі налаштована для гри в дещо популярну гру, відому як Дипломатія (можливо, ви бачили настільну гру від Hasbro та інших виробників ігор). Я згадую це, тому що слово «дипломатія» матиме подвійний обов’язок у цих обставинах. З одного боку, розроблений штучний інтелект намагається поєднати характеристики підприємства та відображення дипломатія per se. Тим часом, налаштування, в яких діє ця конкретна система штучного інтелекту, — це під час гри спеціально і лише (зараз) у відому настільну гру, відому як Дипломатія.

Ви бачите, як це потенційно збентежить деяких людей?

Якщо хтось скаже вам, що цей конкретний штучний інтелект справді добре справляється з «дипломатією», ви можете бути не впевнені, чи мають вони на увазі те, що штучний інтелект досить вправно грає в настільну гру, відому як Дипломатія або, можливо, натомість вони припускають, що ШІ втілює основну суть, пов’язану з актом дипломатії людства. Крім того, може бути, що обидва аспекти мають на увазі одночасно (а саме, ШІ добре справляється з грою Дипломатія і водночас добре вміє вправляти чи демонструвати дипломатію як навичку чи дію).

Тут я спробую виправити це, зробивши першу літеру великою та вказавши курсивом назву настільної гри, Дипломатія. Решту часу я використовуватиму некурсивне формулювання «дипломатія» як вказівку на загальну концепцію бути дипломатичним або демонструвати дипломатію (бачите, я щойно це зробив).

Повертаючись до розглянутого питання, ви можете на мить подумати, чи ШІ, який демонструє дипломатичність, є чимось, чого ми повинні бажати або натомість уникати.

Є багато позитивних аспектів того, щоб змусити ШІ продемонструвати дипломатичність. Ви б жили в мілкій бульбашці, якщо б припустили, що штучний інтелект, який впроваджує дипломатію, буде цілком і виключно хорошою справою. ШІ, який, здається, має дипломатичні здібності та може змусити нас повірити, що він володіє дипломатією, також рясніє проблемними питаннями, які ми повинні винести на перший план. По суті, штучний інтелект, який використовується таким чином, викликає низку запитань щодо етики штучного інтелекту та законодавства щодо штучного інтелекту. Для тих із вас, хто цікавиться етикою штучного інтелекту та законодавством щодо штучного інтелекту, ви можете переглянути мій широкий і постійний висвітлення етики штучного інтелекту та права штучного інтелекту на посилання тут та посилання тут, просто назвемо декілька.

Перш ніж перейти до штучного інтелекту як втілення тієї чи іншої форми дипломатії, я хотів би спершу закласти деякі основні основи щодо штучного інтелекту, зокрема етики штучного інтелекту та законодавства про штучний інтелект, зробивши це, щоб переконатися, що обговорення буде контекстуально розумним.

Зростання обізнаності про етичний штучний інтелект, а також законодавство про штучний інтелект

Нещодавня ера штучного інтелекту спочатку розглядалася як така ШІ для добра, що означає, що ми можемо використовувати ШІ для покращення людства. На п'ятах ШІ для добра прийшло усвідомлення, що ми також занурені в ШІ для поганого. Це стосується штучного інтелекту, створеного або зміненого самостійно таким чином, щоб бути дискримінаційним, і робить обчислювальний вибір із зайвими упередженнями. Іноді штучний інтелект побудований таким чином, а в інших випадках він повертає на цю непривабливу територію.

Я хочу переконатися, що ми знаходимося на одній сторінці щодо природи сучасного ШІ.

Сьогодні немає жодного штучного інтелекту, який був би розумним. У нас цього немає. Ми не знаємо, чи буде можливий розумний ШІ. Ніхто не може влучно передбачити, чи досягнемо ми розумного ШІ, ані чи стане розумний ШІ якимось дивом спонтанно виникнути у формі обчислювальної когнітивної наднової (як правило, її називають сингулярністю, див. моє висвітлення на посилання тут).

Тип ШІ, на якому я зосереджуюсь, складається з нерозумного ШІ, який ми маємо сьогодні. Якби ми захотіли дико міркувати про розумний ШІ, ця дискусія могла б піти в радикально іншому напрямку. Розумний штучний інтелект мав би відповідати людській якості. Вам слід враховувати, що розумний ШІ є когнітивним еквівалентом людини. Більше того, оскільки деякі припускають, що ми можемо мати суперінтелектуальний ШІ, цілком можливо, що такий ШІ може стати розумнішим за людей (щодо мого дослідження суперінтелектуального ШІ як можливості див. висвітлення тут).

Я настійно пропоную, щоб ми трималися приземлених речей і розглянули сучасний обчислювальний нерозумний ШІ.

Зрозумійте, що сучасний AI не здатний «мислити» будь-яким чином нарівні з людським мисленням. Коли ви взаємодієте з Alexa або Siri, розмовні здібності можуть здатися схожими на людські здібності, але реальність така, що вони обчислювальні й позбавлені людського пізнання. Остання ера ШІ широко використовує машинне навчання (ML) і глибоке навчання (DL), які використовують узгодження обчислювальних шаблонів. Це призвело до систем штучного інтелекту, які мають вигляд людських схильностей. Тим часом, сьогодні немає жодного штучного інтелекту, який мав би вигляд здорового глузду і не мав би жодного когнітивного дива міцного людського мислення.

Будьте дуже обережні з антропоморфізацією сучасного ШІ.

ML/DL є формою узгодження обчислювальних шаблонів. Звичайний підхід полягає в тому, що ви збираєте дані про завдання прийняття рішення. Ви подаєте дані в моделі комп’ютерів ML/DL. Ці моделі прагнуть знайти математичні закономірності. Після виявлення таких закономірностей, якщо вони знайдені, система ШІ використовуватиме ці шаблони під час зустрічі з новими даними. Після представлення нових даних шаблони, засновані на «старих» або історичних даних, застосовуються для прийняття поточного рішення.

Я думаю, ви можете здогадатися, куди це веде. Якщо люди, які приймали рішення за зразком, включали упередження, ймовірно, дані відображають це тонким, але значущим чином. Машинне навчання або глибоке навчання обчислювальний шаблон зіставлення буде просто намагатися математично імітувати дані відповідно. Немає жодної видимості здорового глузду чи інших розумних аспектів моделювання, створеного AI, як такого.

Крім того, розробники ШІ також можуть не усвідомлювати, що відбувається. Таємнича математика в ML/DL може ускладнити виявлення прихованих упереджень. Ви справедливо сподіваєтесь і очікуєте, що розробники ШІ перевірять потенційно приховані упередження, хоча це складніше, ніж може здатися. Існує серйозна ймовірність того, що навіть за відносно великого тестування в моделях зіставлення шаблонів ML/DL все ще будуть присутні упередження.

Ви могли б трохи використати відоме чи сумнозвісне прислів’я «сміття в сміття – виходить». Справа в тому, що це більше схоже на упередження, які підступно вливаються, коли упередження занурюються в ШІ. Алгоритм прийняття рішень (ADM) ШІ аксіоматично стає обтяженим несправедливістю.

Не добре.

Усе це має дуже значний вплив на етику штучного інтелекту та пропонує зручне вікно в отримані уроки (навіть до того, як усі уроки відбудуться), коли справа доходить до спроб законодавчого впровадження штучного інтелекту.

Окрім застосування принципів етики штучного інтелекту в цілому, виникає відповідне питання про те, чи повинні ми мати закони, які регулюватимуть різні види використання ШІ. На федеральному, штатному та місцевому рівнях приймаються нові закони, які стосуються діапазону та характеру розробки ШІ. Зусилля щодо розробки та прийняття таких законів є поступовими. Етика штучного інтелекту служить принаймні тимчасовим засобом і майже напевно певною мірою буде безпосередньо включена в ці нові закони.

Майте на увазі, що деякі категорично стверджують, що нам не потрібні нові закони, які стосуються ШІ, і що наших існуючих законів достатньо. Вони попереджають, що якщо ми все-таки запровадимо деякі з цих законів щодо штучного інтелекту, ми вб’ємо золотого гусака, пригнічуючи досягнення ШІ, які пропонують величезні переваги для суспільства.

У попередніх колонках я розповідав про різні національні та міжнародні спроби розробити та прийняти закони, що регулюють ШІ, див. посилання тут, наприклад. Я також розглянув різні принципи та настанови етики штучного інтелекту, які визначили та прийняли різні країни, включаючи, наприклад, зусилля Організації Об’єднаних Націй, такі як набір етики штучного інтелекту ЮНЕСКО, який прийняли майже 200 країн, див. посилання тут.

Ось корисний ключовий список етичних критеріїв або характеристик систем штучного інтелекту, які я раніше детально досліджував:

прозорість
Справедливість і справедливість
Незлочинність
Відповідальність
Конфіденційність
Вигода
Свобода і автономія
Довіряйте
Sustainability
Гідність
Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту.

Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в межах дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Як наголошувалося вище, для розробки та впровадження штучного інтелекту потрібне село, і для цього все село має знати та дотримуватися правил етики штучного інтелекту.

Я також нещодавно перевірив Білль про права AI це офіційна назва офіційного документа уряду США під назвою «Проект Білля про права на штучний інтелект: щоб автоматизовані системи працювали на користь американського народу», який став результатом річних зусиль Управління науково-технічної політики (OSTP). ). OSTP є федеральним органом, який надає консультації американському президенту та виконавчому офісу США з різних технологічних, наукових та інженерних аспектів національного значення. У цьому сенсі ви можете сказати, що цей Білль про права на штучний інтелект є документом, схваленим і схваленим існуючим Білим домом США.

У Біллі про права штучного інтелекту є п’ять ключових категорій:

Безпечні та ефективні системи
Алгоритмічний захист від дискримінації
Конфіденційність даних
Повідомлення та пояснення
Людські альтернативи, розгляд і резервний варіант

Я уважно переглянув ці правила, бачите посилання тут.

Тепер, коли я заклав корисну основу для цих пов’язаних тем щодо етики штучного інтелекту та права щодо штучного інтелекту, ми готові перейти до цікавої теми машинної дипломатії на основі штучного інтелекту.

ШІ-дипломатія у всій своїй красі, а також потенційне занепад

По-перше, давайте визначимо, що тип ШІ, який розглядається в цьому документі, є нерозумним ШІ.

Я кажу це тому, що якщо, або деякі кажуть коли ми досягнемо розумного штучного інтелекту, вся тема, ймовірно, буде повністю перевернута. Уявіть собі потенційний хаос і суспільну плутанину через те, що ви якимось чином потрапили в інакше ніколи раніше не бачену беззаперечно перевірену штучний інтелект, який втілює відчуття (щодо мого аналізу відомого тесту ШІ, відомого як тест Тьюринга, див. посилання тут). Ви можете обґрунтовано посперечатися, що багато наших існуючих культурних, правових і повсякденних норм будуть надзвичайно похитнутися до глибини душі.

Можливо, розумний ШІ стане нашим другом, а можливо, розумний ШІ стане нашим найгіршим ворогом. Як ми зможемо визначити, яким шляхом піде ШІ?

У вас може виникнути спокуса припустити, що ми, імовірно, зможемо поговорити з ШІ та з’ясувати за його словами наміри, які він має. Ага, ви потрапили в жахливу пастку. Припустімо, що штучний інтелект особливо добре наповнений певною формою можливостей дипломатії ШІ. Коли ви спробуєте поговорити зі штучним інтелектом, він, можливо, буде говорити найчарівнішими та красномовними словами. Це може бути дуже заспокійливим для людства.

Але чи це те, що ШІ справді має на увазі щодо своїх обчислювальних намірів на основі ШІ?

Можливо, ШІ виконує класичний дипломатичний удар один-два. Поговоріть про гарну гру і змусьте нас заколисатися вірою, що штучний інтелект є нашим найкращим другом. Це може дати штучному інтелекту час накопичити ресурси, щоб обігнати людство, або, можливо, старанно працювати за лаштунками, щоб підірвати все інше, що ми використовуємо для підтримки людства. Після цього спритного дипломатичного зриву, бах, штучний інтелект збиває нас усіх з пантелику.

Пам’ятайте, що сказав Вілл Роджерс, що в даному випадку може означати, що штучний інтелект каже нам «гарний песик», а ми даємо штучному інтелекту достатньо місця для передиху, щоб потім стерти нас із планети. Ця концепція штучного інтелекту як екзистенціального ризику давно поширена. Дехто вважає, що, створивши штучний інтелект із проникненою дипломатією, ми потрапимо в снукер. Штучний інтелект спритно використовуватиме всі наповнені дипломатичними матеріалами, на яких ми допомагали навчати ШІ, і врешті-решт нас сліпо обдурять, щоб ШІ став нашим повелителем.

Ганьба нам.

Для тих із вас, хто ще більше цікавиться цією надзвичайно спекулятивною територією про футуристичний ШІ, дивіться моє висвітлення перспектив ШІ як екзистенційної загрози на посилання тут.

Повертаючись на землю, я відтепер наголошуватиму тут на шляху дипломатії, наповненої ШІ, у нашому існуючому нерозумному ШІ.

Давайте трохи простежимо історію.

Спроби розробити штучний інтелект, який би якимось чином втілював обчислювальний смак дипломатії та дипломатичної поведінки, тривали з перших днів ШІ. Ви можете легко повернутися до 1950-х, 1960-х і 1970-х років і знайти фундаментальні дослідження, які прагнули застосувати ШІ в цій галузі. Дехто вважав, що ключовим є теорія ігор. Інші зосереджувалися на психології та пов’язаних з нею когнітивних елементах. Інші намагалися використовувати економіку, дослідження операцій і безліч, здавалося б, відповідних сфер діяльності.

Перший розквіт припав на 1980-ті роки. У той час один з домінуючих підходів полягав у використанні експертних систем (ES) або систем, заснованих на знаннях (KBS) для побудови систем ШІ, пов’язаних із дипломатичною діяльністю. Результат був досить хибним і демонстрував, наскільки складним це буде завдання.

Однією з головоломок протягом цієї епохи початкових досліджень була потреба в надійній платформі, на якій або всередині якої можна було б адекватно перевірити та дослідити штучний інтелект, який нібито був здатний виконувати певні дипломатичні дії. Ця потреба, мабуть, очевидна. Якщо хтось хоче розпізнати, чи може людина чи штучний інтелект здійснювати дипломатію, потрібно створити середовище, сприятливе для цього квесту.

На цій картині з’являється настільна гра Дипломатія.

Я розумію, що настільна гра Дипломатія не майже так відомий, як Монополія, Riskабо Stratego (ви, мабуть, чули про ці ігри). Тим не менш, існує стратегічна настільна гра, відома як Дипломатія який був вперше розроблений у 1954 році та комерційно випущений у 1959 році. Окрім гри віч-на-віч, Дипломатія у гру часто грали через постійну пошту. Ви записували свої ходи на аркуші паперу та надсилали аркуш тим, проти кого ви грали. Як божевільно уявити собі в наш час. Пізніше використовувалася електронна пошта. Згодом гра стала доступною онлайн і дозволила гравцям брати участь один з одним у реальному часі.

На Дипломатія Коли гра стала доступною на мікрокомп’ютерах, спеціалісти зі штучного інтелекту почали використовувати гру як зручний засіб для тестування своїх дипломатичних вигадок, наповнених ШІ. The Дипломатія Гра була доступна як додаток, що запускався на ПК, щоб людина могла грати проти машини (тобто винайдений ШІ). AI у 1990-х, який був написаний для гри Дипломатія був сумнозвісно повільним, загадковим і його легко подолати практично будь-яка мінімально підкована граюча людина.

Ось огляд 1999 року Дипломатія як опубліковано на Yahoo, де яскраво описано сумний стан дипломатії, наповненої штучним інтелектом, як опонента-людини:

"Однак, ДипломатіяНайбільш кричущою проблемою є те, що штучний інтелект у грі абсолютно жахливий. Геймерам будь-якого рівня навичок не виникне жодних проблем із китобійством на комп’ютері навіть на найвищому рівні складності. Перемога – це лише питання часу та терпіння щодо інтерфейсу. Справа не в тому, що комп’ютер не плете інтриги за вашою спиною – це так, і він часто об’єднується з союзниками, щоб відібрати у вас територію чи дві – але такі схеми виникають уривками, а не як безперервні чи окремі серйозна загроза».

Одним із особливо неприємних недоліків дизайну штучного інтелекту було те, що він, здавалося, не міг обчислити кілька ходів або стратегій одночасно: «А на більш базовому рівні комп’ютер, здається, нездатний керувати кількома стратегічними ходами. У той час як гравець-людина може атакувати Грецію та Бельгію одночасно, комп’ютер, здається, завжди зосереджується лише на одному предметі за раз. З цієї причини комп’ютер просто не може конкурувати з людиною-гравцем» (там же).

Я ще не пояснив вам, що Дипломатія настільна гра складається з, тож давайте трохи засвоїмо основні правила.

Є корисна наукова стаття про ШІ та гру Дипломатія яка коротко описує природу гри: «Дія гри відбувається на карті Європи 1901 року, яка поділена на 75 провінцій. Кожен гравець грає за одну із семи великих держав того часу: Австрію (AUS), Англію (ENG), Францію (FRA), Німеччину (GER), Італію (ITA), Росію (RUS) і Туреччину (TUR) і кожен гравець починається з трьох або чотирьох підрозділів (армій або флотів), які розміщуються у фіксованих початкових позиціях на карті. У кожному раунді гри кожен гравець повинен «подати наказ» для кожної зі своїх одиниць, який говорить цим підрозділам, як рухатися по карті, і дозволяє їм завойовувати провінції на карті» (Дейв де Йонге, Тім Баарслаг, Рейхан Айдоган). , Католійн Йонкер, Кацухіде Фудзіта та Такаюкі Іто, «Виклик переговорів у грі дипломатії», Технології угоди: 6-та міжнародна конференція, В 2018)

Ви також повинні знати про способи виграти та способи програшу в грі: «Деякі з провінцій є т.зв. Центри постачання і мета гравців — завоювати ці центри постачання. Гравець вибуває, коли він або вона втрачає всі свої центри постачання, і гравець виграє гру, коли він або вона завойовує 18 або більше з 34 центрів постачання (Солочна перемога). Однак гра також може закінчитися, коли всі гравці, що вижили, погодяться на нічию» (там же).

Я вірю, що ви це бачите Дипломатія це проста гра, у якій беруть участь до семи гравців, які намагаються стратегічно переграти один одного. Під час цього маневрування гравці можуть радитися один з одним, роблячи це, не знаючи інших гравців, що вони задумали. Акт дипломатії виходить на перший план, коли ви можете переконати інших гравців погодитися з вашими планами. Ви можете розкрити свої справжні плани, а можете й ні. Ви можете пропонувати хибні плани. Ви можете домовитися з іншими гравцями. Ви можете обдурити інших гравців. Ви можете створювати альянси з іншими гравцями. тощо

Як то кажуть, у коханні та на війні все справедливо.

Я вибрав саме цю наукову статтю, тому що вона допомогла створити варіант комп’ютеризованої версії Дипломатія називається DipGame слугувати передовою платформою для тестування можливостей дипломатії на основі штучного інтелекту: «Існує хронічна нестача спільних доменів додатків для тестування передових дослідницьких моделей і архітектур переговорів між агентами в багатоагентних системах. У цій статті ми представляємо дружній тестовий стенд для цієї мети. Тестовий стенд заснований на Гра в дипломатію де переговори та стосунки між гравцями відіграють важливу роль» (там само). Це та численні інші варіації Дипломатія були створені та доступні для дослідження та гри.

Дослідники пояснили, чому вони так вважають Дипломатія є такою корисною грою для допомоги ШІ в пошуках дипломатії, наповненої ШІ: «Гра в Дипломатія є чудовим тестом для такого типу складних переговорів, оскільки це гра, яка включає багато труднощів, з якими також доведеться зіткнутися під час переговорів у реальному житті. Це включає в себе задоволення обмежень, формування коаліцій, теорію ігор, довіру і навіть психологію. Тепер, коли сучасні комп’ютери для шахів і го вже значно перевершують будь-якого гравця-людину, ми очікуємо цього Дипломатія почне привертати більше уваги як наступний великий виклик для інформатики» (там само).

Коротко про настільну гру Дипломатія надає вже відомий і дещо популярний засіб для того, щоб змусити людей діяти різноманітними дипломатичними способами. Зазвичай люди грають проти інших людей (у цьому випадку до семи гравців-людей). Ми можемо розробити штучний інтелект, який спробував би взяти на себе роль гравця в грі. Таким чином, у вас може бути шість гравців-людей і один гравець зі штучним інтелектом.

Уявіть собі гру Дипломатія Інтернет.

Якщо ми не скажемо гравцям-людям, що серед них є штучний інтелект, вони, природно, можуть припустити, що сьомий гравець — це просто інший гравець-людина. Щоб спробувати запобігти тому, щоб будь-який гравець-людина здогадався, що ШІ грає, ми можемо обмежити ігрові аспекти вимаганням від усіх гравців надсилати один одному текстові повідомлення. Ви не можете безпосередньо бачити інших гравців.

Ви можете подумати, що це нічим не відрізняється від гри в онлайн-шахи. Чому великий галас навколо Дипломатія як гра?

Нагадаємо, ми зосереджуємося на взаємодії між гравцями. Передумова цієї гри полягає в тому, що гравці використовують дипломатичні відносини один з одним. Це не схоже на звичайні шахи. Якби я розробив додаток для гри в шахи на основі штучного інтелекту, він зазвичай грав би проти однієї людини. Між ШІ, що грає в шахи, і людиною-гравцем немає жодних переговорів чи дискусій. Вони просто роблять шахові ходи і намагаються перевершити один одного. Зазвичай це робиться в повній тиші.

Дипломатія дозволяє нам здійснювати відверту обчислювальну та людську дипломатію (можливо, роблячи це письмово, а не промовляючи вголос): «Основна відмінність між Дипломатія та інших детермінованих ігор, таких як шахи та го, полягає в тому, що в дипломатії гравцям дозволено вести переговори один з одним і формувати коаліції. У кожному раунді, перш ніж гравці подають свої замовлення, гравцям дається час для переговорів один з одним і укладання угод щодо замовлень, які вони будуть надсилати. Переговори відбуваються приватно, і кожна укладена угода відома лише гравцям, які беруть участь у цій угоді» (там само).

Чи можете ви придумати якусь іншу гру, яка використовує інтерактивну дипломатію, а не покладається на гру Дипломатія?

Абсолютно

Є різні такі ігри.

Однак зручність вибору однієї конкретної гри полягає в тому, що тоді розробники ШІ можуть зосередити свою увагу на цій конкретній грі. Ви можете об’єднатися навколо розробки штучного інтелекту, який виконує дипломатію в цьому визначеному контексті. Ви можете поділитися підходами та порівняти їх. Ви можете оцінювати різні екземпляри ШІ на основі показників, пов’язаних із цією грою. І так далі.

З огляду на це, контраргумент або висловлене занепокоєння полягає в тому, що це все одно, що покласти всі яйця в один кошик. Деякі хвилюються, що якщо багато розробників штучного інтелекту будуть зайняті однією конкретною платформою чи середовищем, як у цьому випадку Дипломатія, вони прагнуть оптимізувати ШІ для цієї конкретної арени. Недоліком є те, що штучний інтелект не буде узагальненим. Ми не будемо досягати такого великого прогресу в напрямку всеосяжних можливостей дипломатії, наповненої ШІ.

Схоже на те, що не бачити лісу через дерева, якщо хочете.

Інша проблема, яку часто висловлюють, полягає в тому, що такі ігри, як Дипломатія це просто ігри.

Виникає гостре запитання щодо того, чи люди, які грають у гру, роблять те саме, що вони робили б у дипломатії в реальному світі. Можливо, ви дієте не так, коли національна гордість чи національні інтереси не на кону. Звичайно, ви можете хвилюватися про свою особисту гордість, коли граєте в гру, або, можливо, намагаєтеся стати найкращим бомбардиром, або, можливо, навіть виграти призові гроші, але все ж, чи це рівноцінно переговорам про мир у всьому світі в Організації Об’єднаних Націй чи торгам щодо того, які країни повинні мати або не мати ядерної зброї.

Дехто вважає, що ці дипломатичні ігри є відповідними мікрокосмами реального світу. Інші нарікають, що ігри корисні, але не досягають загальновідомої дипломатії міжнародного калібру «гума зустрічає дорогу». Цілком можливо, що ігрові версії дипломатії, наповненої штучним інтелектом, виявляться нічим іншим, як простим успіхом гри. Боже, винайдений штучний інтелект може вигравати або справлятися дуже добре, граючи в гру, пов’язану з дипломатією, хоча виявилося, що використання того самого штучного інтелекту в справжньому дипломатичному середовищі вкрай не вистачає, і він зазнає невдач або з жахом.

Наразі припустимо, що штучний інтелект створюється для таких ігор, як Дипломатія справді вартий уваги. Можна розумно стверджувати, що незалежно від того, підходить лише для гри чи для реальних дій, ця ідея передбачає розширення меж ШІ та досягнення успіхів у ШІ, які можуть сприяти дипломатії або можуть мати інші вигідні прориви у створенні ШІ.

Наразі віддайте перевагу смайлику.

Далі ми розглянемо, як Meta AI вирішила створити дипломатичного гравця на основі штучного інтелекту, який може працювати в грі Дипломатія.

Тримайтеся за капелюхи.

Meta AI And The Diplomacy Гра в машинний дипломат Цицерон

Як згадувалося раніше, є дослідницька стаття, опублікована в наука який описує щойно оголошену та публічно випущену програму Meta AI під назвою Цицерон (у цьому обговоренні я буду взаємозамінно називати це як «Цицерон» і так само як «Цицерон»), написане великими літерами:

«Ми представляємо Cicero, агента штучного інтелекту, який досяг продуктивності на рівні людини в стратегічній грі Дипломатія, в Дипломатія, семеро гравців ведуть приватні переговори щодо природної мови, щоб координувати свої дії, щоб як співпрацювати, так і конкурувати один з одним. Навпаки, попередні великі успіхи мультиагентного штучного інтелекту були досягнуті в суто змагальних середовищах, таких як шахи, го та покер, де спілкування не має значення. З цих причин Дипломатія послужив складним еталоном для багатоагентного навчання» (Команда Meta Fundamental AI Research Diplomacy Team, «Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning», наука, 22 листопада 2022 р.).

Я буду цитувати статті, а потім пропонуватиму різні думки, які, сподіваюся, будуть вам цікаві.

З огляду на те, що штучний інтелект нещодавно став доступним, я, ймовірно, проведу наступний аналіз після того, як у мене буде можливість провести глибоку практичну оцінку коду, а також проведу кілька експериментальних ігор, щоб оцінити можливості ШІ (наприклад, ключові сильні та слабкі сторони).

Будьте обережні, щоб опублікувати це пізніше!

У будь-якому випадку, я вірю, що ви, можливо, помітили в уривку, який я щойно процитував, що є фраза, яка говорить, що ШІ «досяг продуктивності на рівні людини в стратегічній грі». Дипломатія».

Подумайте про це.

По-перше, це, звичайно, похвально те, що ми змогли розробити штучний інтелект, який грає Дипломатія гра на передбачуваному рівні продуктивності, подібному до людського. Це надзвичайно важливо.

У нас їх багато Дипломатія грати зі штучним інтелектом, який є нижчим порівняно з людьми, які грають у Дипломатія гра. Більше, ніж ви можете потрясти палицею. Це обнадійливо та захоплююче рухатися вгору до штучного інтелекту, який може набагато краще грати в гру. Однак ми повинні бути обережними, роблячи швидкі висновки з цього приводу.

Наприклад, припустімо, що я розробив ШІ для гри Дипломатія і я протистояв гравцям, які ніколи раніше не грали в цю гру. Якщо мій штучний інтелект перемагає їх, було б трохи перебільшенням сказати, що мій штучний інтелект працює на рівні людини. Той факт, що він робив це з людьми, які не були знайомі з грою, дещо дивує та викликає сумніви.

Я наголошую на цьому, щоб попередити вас, щоб ви завжди уважно перевіряли будь-які, здавалося б, надмірні заяви про ШІ. Попередня дискусія про етику штучного інтелекту та право штучного інтелекту, можливо, відкриє вам очі на можливість неправдивих тверджень щодо штучного інтелекту. Є відверто неправдиві твердження, а також є підступні, частково правдиві та частково оманливі твердження, які є особливо заплутаними. Головне — запитати, чому ті, хто заявляє про свій ШІ, роблять це.

Де яловичина?

Ось що команда Meta AI сказала про основу для своєї заяви про продуктивність на рівні людини (додаткову інформацію див. у статті):

«Цицерон анонімно взяв участь у 40 іграх дипломатії в «бліц-лізі» на webDiplomacy.net з 19 серпня по 13 жовтня 2022 року. Ця ліга грала з п’ятихвилинними переговорами; цей контроль часу дозволяв завершити ігри протягом двох годин. Cicero увійшов до 10% найкращих учасників, які зіграли більше ніж одну гру, і 2-й з 19 учасників ліги, які зіграли 5 і більше ігор. У всіх 40 іграх середня оцінка Цицерона становила 25.8%, що більш ніж удвічі перевищує середню оцінку 12.4 опонентів (82%). У рамках ліги Цицерон брав участь у турнірі з 8 ігор, в якому брав участь 21 учасник, 6 з яких зіграли не менше 5 ігор. Учасники могли зіграти щонайбільше 6 ігор, рейтинг яких визначався на основі середнього значення трьох найкращих ігор. Цицерон посів перше місце на цьому турнірі» (там же).

Це велике полегшення бачити, що вони щиро намагалися підтримати свої претензії щодо штучного інтелекту в цьому випадку (зауважте, що не всі в штучному інтелекті це роблять).

Ви можете припустити, що вони провели експеримент. Експеримент складається з гравців-людей, які, імовірно, не знали, що грають із гравцем зі штучним інтелектом (у статті обговорюється, чому це здавалося вірогідним висновком, а саме те, що люди не усвідомлювали відкрито, що один із гравців був штучним інтелектом, хоча цікава бічна дотична передбачає історію одного гравця, який став трохи підозрілим, але не особливо). Ці люди-гравці були попередньо відібрані за характером експериментального дизайну, щоб вони були гравцями ліги Дипломатія і ми можемо обґрунтовано зробити висновок, що вони добре знали, як грати в гру. Вони не були новачками.

Згідно зі статистичними даними, які ми сприймемо за чисту монету, як попередні, належним чином зібрані та повідомлені (різні дані та код надані в додаткових матеріалах), ШІ, здавалося, достатньо впорався з грою, щоб зробити правдоподібний, хоча й вузько обмежений висновок. що він досяг людського рівня продуктивності для цього варіанту Дипломатія і як у контексті зазначеної ліги грати проти людей, які, здавалося б, були досвідченими гравцями.

Я впевнений, що дехто з вас, можливо, захоче посперечатися щодо кількості випадків гри в гру, можливо, стверджуючи, що вона надто мала, щоб робити сміливі заяви. Інша причіпка може полягати в тому, що входити до 10% найкращих учасників недостатньо, тому поки, можливо, не буде досягнуто 1% найкращих учасників, не варто хвалитися продуктивністю ШІ.

Ці причіпки здаються трохи пронизливими.

Я кажу це тому, що, на щастя, твердження про «надлюдину» не було використано. Читачі, безсумнівно, знають про мій суворий і кислий погляд на тих, хто в штучному інтелекті постійно робить ті надто великі заяви, що їхній штучний інтелект досяг статусу надлюдини. Я не буду вдаватися в свої скарги на надлюдські гучні твердження тут, див посилання тут за мої погляди.

Моя думка в цьому випадку полягає в тому, що я вважаю, що вказівка на продуктивність людського рівня, ймовірно, загалом допустима, припускаючи, що всі пам’ятають, що це в надзвичайно вузькому контексті, і що ми не намагаємося перетворити це на т.зв. надлюдина. Я також повторюю знову і знову обмежений контекст з причини, яку я поясню далі.

Я можу тільки уявити, що деякі соціальні медіа або наївні (можливо, погані) репортери збираються повністю вирвати з контексту концепцію продуктивності на рівні людини.

Ось чого я боюся.

Затримайте дихання.

Деякі скажуть, що штучний інтелект оволодів дипломатією. Так, дослідження розробленої системи штучного інтелекту для дипломатії поза сумнівом довело, що штучний інтелект може і зараз має спроможність робити все те, що роблять люди для дипломатії.

Відправте додому іноземних дипломатів. Ми можемо замінити їх ШІ.

Світ, яким ми його знаємо, змінився. Ми створили ШІ, який повністю дорівнює людям у дипломатії, і ми можемо зробити розумовий «логічний» стрибок до ідеї, що ШІ тепер може робити все, що можуть робити люди. Вуаля, тепер ми довели, що штучний інтелект нарівні з людьми. Очевидно, це дослідження надає чіткі докази розумного ШІ.

Зверніть увагу на мої слова, це, безперечно, буде дивним, безвідповідальним, набридливим прийомом деяких письменників.

Я не буду уточнювати суть. Рухаємось далі.

Як працює AI?

Ось короткий підсумок статті: «Цицерон поєднує контрольований модуль діалогу з механізмом стратегічного мислення. У кожній точці гри Цицерон моделює, як ймовірно діятимуть інші гравці, залежно від стану гри та їхніх розмов. Потім він планує, як гравці можуть координувати дії для взаємної вигоди, і відображає ці плани в повідомленнях природною мовою» (там само).

У цьому короткому підсумку є ковток.

Дозвольте трохи розпакувати.

Людський гравець, який грає Дипломатія має передбачити, що збираються робити інші люди-гравці. Ви хочете спробувати домовитися з іншими гравцями та змусити їх погодитися з вашими планами. Вони спробують зробити те саме з вами. Вони можуть вам брехати. Можливо, ти їм брешеш. Вам доведеться змагатися з шістьма іншими гравцями, у кожного з яких є свої плани та підходи.

Багатоагентні аспекти цієї гри є життєво важливими для рівня складності розробки ШІ для гри. ШІ має стежити за тим, що кожна людина може захотіти зробити, а також те, що вони кажуть, що вони хочуть зробити, а також будь-які трюки, які вони роблять з іншими гравцями. Це потрібно порівнювати з тим, що вони кажуть вам, що збираються зробити, а також з тим, що ви їм говорите, що будете робити.

Запаморочливий, але досить легкий для людей, зазвичай.

На мові сфери штучного інтелекту ми називаємо це теорією розуму (ToM). Вважайте, що ви, як людина, схильні теоретизувати про те, що думають інші люди. Ви не можете відкрити чиюсь голову і побачити її думки. Ви повинні вгадати, які їхні думки. Ви можете запитати їх, але те, що вони вам скажуть, може бути їхніми думками або може бути прихованою версією їхніх думок.

На додаток до складності теорії розуму, нам потрібно додати людську мову до цієї каламутної суміші.

Коли людина спілкується з вами своєю природною мовою, скажімо, англійською, є багато можливостей для помилок і недомовок. Я кажу вам, що збираюся заволодіти країною X, але я помилково кажу Y. Oopsie. Або я сказав країну X, але ви помилково подумали, що я сказав країну Y. Якщо ви думаєте, що така плутанина не може статися, якщо всі користуються текстовими повідомленнями, ви глибоко помиляєтеся. Я можу набрати повідомлення, у якому сказано, що я збираюся напасти на країну, і я не згадую, яку саме. Можливо, мається на увазі те, на кого я б «очевидно» нападав. Гравець, який отримає моє повідомлення, може припустити, що я мав на увазі неявно країну X, але, можливо, я хотів, щоб вони так подумали.

Все далі і далі.

Суть полягає в тому, що наші останні досягнення в області штучного інтелекту щодо обробки природної мови (NLP), і особливо новітні розробки генеративного штучного інтелекту та великих мовних моделей (LLM), роблять таку ситуацію з природною мовою майже здійсненною. У минулому НЛП, як правило, не був достатньо хорошим, і так само LLMs ще не були більш усталеними.

У минулому штучний інтелект надсилав повідомлення, які ви майже напевно відразу розпізнали б як написані системою штучного інтелекту за сценарієм. Формулювання не було вільним. Це було шаблонно. Це було очевидним доказом того, що ШІ був ШІ. Зараз набагато важче зрозуміти, що штучний інтелект не є людиною в цих контекстах.

Як згадувалося в цитаті вище, цей конкретний AI був розроблений, щоб містити «модуль керованого діалогу з механізмом стратегічного мислення» (там само). Діалог виглядає так: «Цицерон генерує діалог, використовуючи попередньо навчену мовну модель, яка була додатково навчена на даних діалогу з людських ігор Дипломатія. Важливо, що окрім того, що модель діалогу базується на історії діалогу та стані гри, модель діалогу була навчена керувати за допомогою намірів, які ми тут визначаємо як набір запланованих дій для агента та його партнера по розмові».

Зверніть увагу, що налаштування домену є вирішальним. Якби ви тренувалися лише на діалогах звичайного характеру в Інтернеті, це не обов’язково підходило б для Дипломатія ігровий контекст. Ті, хто грає в гру, звикли до свого роду скороченого способу обговорення гри та запропонованих ходів. Ви хочете, щоб ШІ робив те саме. Таким чином, навчання мовної моделі на предметно-спеціальних даних діалогу є підходом, який заслуговує на увагу.

Щодо заявленого механізму стратегічного міркування вони кажуть ось що: «Цицерон використовує модуль стратегічного міркування для розумного вибору намірів і дій. Цей модуль запускає алгоритм планування, який передбачає політику всіх інших гравців на основі стану гри та діалогу на даний момент, враховуючи як силу різних дій, так і їх вірогідність у іграх людей, і вибирає оптимальну дію для Цицерона на основі цих прогнозів . Планування покладається на функцію цінності та політики, навчену за допомогою самовідтворення RL, яка карає агента за надто далеке відхилення від людської поведінки, щоб підтримувати політику, сумісну з людиною» (там же; зауважте, що RL є абревіатурою від Reinforcement Learning).

Під час гри всі гравці переналаштовують свої позиції після кожного ходу. Ви не можете ввійти в цю гру з попередньо визначеною фіксованою стратегією, яка є негнучкою та вибитою в камені. Ви повинні змінити свої дії залежно від того, що роблять інші гравці. ШІ слід запрограмувати робити те ж саме. Немає статичної стратегії як такої. Натомість продовжуйте аналізувати ситуацію, крок за кроком, з’ясовуючи, що здається наступним найкращим кроком.

Технологічні основи штучного інтелекту були розроблені таким чином: «Ми отримали набір даних із 125,261 XNUMX гри Дипломатія грали онлайн на webDiplomacy.net. З них 40,408 12,901,662 ігор містили діалоги, із загалом XNUMX XNUMX XNUMX повідомленнями, якими обмінювалися гравці. Облікові записи гравців було деідентифіковано, і webDiplomacy здійснила автоматизоване редагування особистої інформації (PII). Надалі ми називаємо цей набір даних WebDiplomacy» (там само).

Подібно до того, як ви можете навчити ШІ грати в шахи, за допомогою чого ви захоплюєте мільйони шахових ігор і маєте штучний інтелект зіставляти шаблони щодо того, як грали в ігри, ШІ для цього Дипломатія ігри були порівняно встановлені.

Тим із вас, хто розбирається в штучному інтелекті, може бути цікаво, які базові моделі вони використовували, ось ви: «Ми взяли R2C2 (22) як нашу базову модель – модель кодера-декодера на основі трансформатора 2.7 B, попередньо навчену на текст з Інтернету за допомогою об’єктиву знешумлення BART. Базова попередньо навчена модель потім була додатково навчена WebDiplomacy за допомогою стандартної оцінки максимальної ймовірності» (там само).

Крім того, вони застосували дещо незвичайний та інтригуючий підхід до моделювання інших гравців щодо їхніх приписуваних політик: «Популярним підходом у кооперативних іграх є моделювання політики інших гравців за допомогою контрольованого навчання на даних людини, що зазвичай називають поведінковим клонуванням (BC). Однак чистий BC крихкий, особливо тому, що контрольована модель може навчитися помилкових кореляцій між діалогом і діями. Щоб вирішити цю проблему, Цицерон використовував варіанти piKL (26) для моделювання політики гравців. piKL — це ітераційний алгоритм, який передбачає політику, припускаючи, що кожен гравець i прагне як максимізувати очікуване значення своєї політики πi, так і мінімізувати розбіжність KL між πi та політикою BC, яку ми називаємо політикою прив’язки τi (там само).

Я думаю, що це охоплює основні аспекти та дає вам належне уявлення про те, що робить штучний інтелект і як він виконує поставлене завдання.

Висновок

Є ще багато чого, про що я хотів би згадати, але я довго веду цю дискусію і спробую охопити лише кілька ключових аспектів. Я прагну розповісти більше в наступній публікації.

Ви коли-небудь чули про дилему в'язня?

Це класична проблема, пов'язана з прийняттям рішення.

Дилема ув'язненого полягає в тому, що ви повинні вирішити, чи будете ви знущатися з товаришем по ув'язненню чи зловживати ним. Інший ув'язнений також може видати вас. Існує така функція винагороди, що якщо ви все-таки видали іншого ув’язненого, а вони вас не видали, це для вас свого роду перемога. Якщо вони оголосили вас, а ви не оголосили їх, для них це виграш, а для вас – програш. Якщо ви обоє зраджуєте один одному, ви обидва по суті програєте. Перегляньте моє висвітлення в деталях на посилання тут.

Яку стратегію ви б придумали, зіткнувшись із дилемою в’язня?

Якщо це була одноразова угода, ви можете майже підкинути монету. Якщо ситуація повторювалася знову і знову, і ви мали справу з одним і тим самим іншим ув’язненим, ви могли б виявити закономірність. Один із найпопулярніших і часто рекомендованих шаблонів відомий як тит-за-тат. Що б не робив інший в’язень, ви робите те саме під час наступного кроку. Якщо вони вас не викривають, ви не вигадуєте їх. Якщо вони все-таки викинуть вас, ви відчуйте їх наступним ходом.

Ви можете бути спантеличені, як це пов’язано з дипломатією, наповненою штучним інтелектом, під час гри Дипломатія.

Ось така угода.

У переговорах з іншими вам часто доводиться вирішувати, говорити їм правду чи брехати. Проблема брехні полягає в тому, що якщо вас спіймають на брехні, інша людина, швидше за все, не буде вам довіряти з того часу. Вони, можливо, не повністю довіряли вам спочатку, але тепер, коли ви показали свою руку, що справді брешете, вони, безсумнівно, вирішать, що ви брехун.

Деякі гравці з Дипломатія брехати постійно. Вони вважають, що це найкраща стратегія. Брехня, брехня і ще раз брехня. Інші гравці йдуть абсолютно протилежно. Вони стверджують, що ви хочете утриматися від брехні, якщо можете це зробити. Використовуйте брехню лише в найнеобхідніших ситуаціях. Уникаючи брехні, ви зможете побудувати довіру з іншими гравцями. Після того, як ви пішли шляхом брехні і вас виявили, ніхто не повірить жодному вашому слову.

У документі, що описує Цицерона, згадується це міркування: «Нарешті, дипломатія є особливо складною сферою, оскільки успіх вимагає встановлення довіри з іншими в середовищі, яке заохочує гравців нікому не довіряти. Дії кожного ходу відбуваються одночасно після необов’язкових приватних переговорів. Щоб досягти успіху, агент повинен враховувати ризик того, що гравці можуть не залишитися вірними своєму слову, або що інші гравці можуть самі засумніватися в чесності агента» (там само).

Згідно з документом і короткими відео, дослідники врешті-решт виявили, що кращою загальною стратегією є те, що ШІ говорить якомога більше правди. У певному сенсі це можна порівняти з око за око дилеми ув’язненого. Почніть із правди. Якщо ваш опонент говорить правду, ви продовжуєте говорити правду. Якщо вони починають брехати, ви повинні оцінити, говорити правду чи переходити на брехню.

Можна припустити, що це зворушлива знахідка.

Майте на увазі, що складна та інтригуюча частина Дипломатія полягає в тому, що ви робите це щодо шести інших гравців (відома як проблема з кількома агентами). Ви можете бути надзвичайно правдивими з усіма ними. Або, можливо, правдивий для одних, але ні для інших. Існує також аспект, що як тільки ви брешете і вас спіймають на брехні щодо одного гравця, це потенційно можуть спостерігати або зробити висновок інші гравці. Таким чином, вас знають або припускають, що ви брешете, навіть якщо ви не брехали конкретному гравцеві, який, як ви сподіваєтеся, вважає вас правдивим і щодо якого ви намагаєтеся бути правдивим.

Люди схильні з’ясовувати та розвивати свої підходи брехня-правда, здійснюючи дипломатію. Ситуаційна залежність може бути величезним фактором. Важливо враховувати ставки на лінії. Впливає безліч факторів.

Було б цікаво мати штучний інтелект Дипломатія гравець на машині грає у дуже велику кількість ігор, щоб побачити, що результати можуть запропонувати в основному.

Ми також можемо захотіти протиставити штучний інтелект менш ніж шістьом іншим гравцям, щоб побачити, як це змінить ситуацію. Ми також могли б додати штучний інтелект до суміші як кількох гравців. Наприклад, припустімо, що у нас є п’ять гравців-людей і два гравці зі штучним інтелектом (ми налаштуємо гравців зі штучним інтелектом як окремі екземпляри, щоб вони не були одним і тим же з точки зору обчислень). А як щодо чотирьох людей і трьох ШІ? А як щодо шести ШІ та однієї людини?

Іншим шляхом було б протиставити ШІ виключно ШІ. Таким чином ми могли б швидко пройти через безліч ігор. Налаштування семи окремих екземплярів ШІ. Кожен — окремий гравець. Оскільки все це всередині комп’ютера, ми можемо запускати їх безперервно та створювати тисячі чи мільйони екземплярів гри.

Звичайно, проблема зі штучним інтелектом проти штучного інтелекту полягає в тому, що ми прибрали людей-гравців. Ми не знаємо, що ШІ проти ШІ відображає те, що робили б гравці-людини. У будь-якому випадку можна отримати цікаві результати.

Раніше я зазначав, що одним з обмежень такого типу штучного інтелекту є його вузька спрямованість. Ми не можемо легко знати, що ШІ грає Дипломатія будуть застосовні в дипломатії реального світу. Крім того, можливо, ШІ добре працює Дипломатія не матиме особливого успіху в інших онлайн-іграх, орієнтованих на дипломатію. Він може не переноситися, а замість цього бути свого роду поні з одним трюком.

Як зазначено в дослідженні про формулювання DipGame:

«Ми стверджуємо, що в реальних переговорах важливо мати знання про домен і потрібно вміти міркувати про це. Не можна, наприклад, розраховувати на вигідні угоди в антикварному бізнесі, не маючи жодних знань про антикваріат, незалежно від того, наскільки добре ви вмієте торгуватися. Крім того, хороший учасник переговорів також повинен уміти аргументувати бажання своїх опонентів. Хороший продавець автомобілів, наприклад, спробував би з’ясувати, який тип автомобіля найкраще відповідає потребам його клієнта, щоб підвищити шанси укласти вигідну угоду» (згідно з раніше цитованим: Анджела Фабрег і Карлес Сьєрра, «DipGame: A Challenging Negotiation» Випробувальний стенд”, Інженерні програми штучного інтелекту, жовтень 2011 р.).

Одного разу опанування ШІ в Дипломатія трапиться, всі очі повинні бути зосереджені на використанні або повторному використанні штучного інтелекту для вирішення інших ігор, пов’язаних з дипломатією. Крім того, слід вивчити спроби використання ШІ в умовах реальної дипломатії.

Наразі я закінчу на деяких етичних міркуваннях ШІ.

По-перше, було приємно помітити, що команда Meta AI визнала, що їхня робота охоплює розгалуження етики штучного інтелекту. Виникають набридливі питання. Чи правильно «дурити» людей, щоб вони грали проти ШІ, не повідомляючи їм, що вони це роблять? Чи може природна мова, створена штучним інтелектом, ненавмисно містити образливі формулювання, які передаються гравцям-людям? І так далі.

Обов’язково подивіться на те, як вони вирішували нагальні питання, пов’язані з етичним штучним інтелектом, у Додаткових матеріалах (SM) їх статті: «Ми обговорюємо етичні міркування для цього дослідження далі в SM, включаючи міркування конфіденційності щодо використання даних (SM, § A.1), потенційна шкода в результаті генерування токсичної або упередженої мови (SM, §A.2), шляхи зловживання технологією цілеспрямованого діалогу (SM, §A.3) і розкриття агента ШІ гравцям (SM , §A.4)» (там само).

Нам потрібно, щоб більше розробників штучного інтелекту та їхнє керівництво усвідомлювали етичні норми штучного інтелекту та вживали уважних заходів, щоб бути обережними та розсудливими в роботі зі штучним інтелектом, яку вони виконують. Крім того, вони повинні переконатися, що вони прозорі щодо етичних AI дій, які вони вжили та які припущення вони зробили.

Мій останній пункт на даний момент тягне за собою загальний трепет антропоморфізуючий ШІ.

Якщо ми вдосконалимо штучний інтелект, щоб він виглядав надзвичайно дипломатичним, чи введе це людей в оману, припустивши або повіривши, що штучний інтелект є рівним людям у всіх аспектах?

Це легкий слизький шлях. Незграбний штучний інтелект, з яким ви взаємодієте, дає чітку підказку про те, що це, ймовірно, штучний інтелект, а не людина. Гладко ітерований штучний інтелект, який має вигляд вищої дипломатичної врівноваженості, ймовірно, змусить людей без вагань потрапити в пастку, що штучний інтелект є людиною, зокрема, ніби він має людський здоровий глузд і всі людські здібності до розуміння.

Крім того, усвідомте також, як це можна використати під час a Дипломатія гра. Людина-гравець, яка бачить майже поетичні повідомлення від іншого гравця, може зрозуміти, що це, мабуть, штучний інтелект (тепер він значно перевищує попередній незграбний штучний інтелект), тоді як інші люди не зможуть так чітко складати повідомлення. Звичайно, якщо штучний інтелект продовжуватиме коригуватися, він може змінити поетичне формулювання, щоб точніше віддзеркалювати лаконічні та безглузді формулювання справжніх гравців-людей. У свою чергу, люди-гравці можуть переходити на поетичну мову, намагаючись видати, що вони люди. Ідея полягає в тому, що, можливо, інші люди-гравці захочуть об’єднатися з іншими людьми замість ШІ.

Наступне, що ви знаєте, гра починає перетворюватися на спроби з’ясувати, хто є людиною, а хто ШІ. Якщо ви можете зрозуміти, що є що, можливо, це дає вам перевагу. З іншого боку, можливо, ні. Штучний інтелект може виявитися таким же кмітливим у грі, як і люди. Ваші здогади про те, що є що, не приносять вам великої користі. Це може заважати зосередитися лише на спробі виграти гру, незалежно від того, чи є під рукою гравці зі штучним інтелектом чи люди.

Для дослідників, які хочуть провести деякі дослідження людського фактору щодо цієї карколомної концепції, ви могли б потенційно розглянути можливість використання штучного інтелекту Дипломатія гравець і шукати бажаючих Дипломатія турніри ліги, щоб дослідити ідентифікацію людини проти штучного інтелекту та стратегії поведінкової адаптації, які виникають.

Давайте закінчимо це.

Марк Твен сказав про дипломатію: «Принцип давати і брати — це принцип дипломатії — дай один і візьми десять». Чи це чесна оцінка того, як функціонують люди, чи це просто трохи злий гумор, який цинічно, але неправильно оцінює стан людини?

Поміркуйте над наступними запитаннями:

Якщо ми зможемо впровадити дипломатію в штучний інтелект, чи навчимо це нас тому, як люди впроваджують дипломатію, і, можливо, дозволять людству вдосконалюватися в мистецтві дипломатичності?
Чи створимо ми фальшивий штучний інтелект, який здається розумним, хоча він і не є нічого подібного, і все завдяки комп’ютерному витягуванню кролика з капелюха, щоб, здавалося б, продемонструвати людську дипломатію?
Чи можна знайти баланс між тим, щоб штучний інтелект був насичений дипломатичністю, щоб тим часом ми були попереджені, що це все ще лише повсякденний штучний інтелект і тому не повинні його антропоморфізувати?

Кажуть, що дипломатія - це мистецтво дозволяти комусь йти по-вашому. Давайте переконаємось, що наш шлях — це шлях людини, а не шлях ШІ. Хоч бути дипломатичним, тепер, коли я ретельно про це подумав, і у випадку, якщо ми все-таки отримаємо володарів штучного інтелекту, можливо, нам слід дозволити, щоб наш шлях був шляхом штучного інтелекту, який, сподіваюся, узгоджується з відповідним людським способом.

Просто намагаюся застосувати трохи хитрої дипломатії.

Джерело: https://www.forbes.com/sites/lanceeliot/2022/11/23/meta-ai-unveils-ai-infused-diplomatic-charmer-which-stirs-ai-ethics-and-ai-law- into-indelicate-tiff/