Етика ШІ схиляється до Аристотеля, щоб вивчити, чи можуть люди вирішити поневолити ШІ на тлі появи повністю автономних систем

Друг чи ворог.

Риба або птиця.

Особа чи річ.

Усі ці поширені загадки, здавалося б, свідчать про те, що ми часом стикаємося з дихотомічною ситуацією і нам потрібно вибрати той чи інший аспект. Життя може змусити нас боротися з обставинами, які складаються з двох взаємовиключних варіантів. Говорячи більш привабливою мовою, ви можете припустити, що виключаюче двійкове рівняння вимагає від нас рішуче йти одним чітким шляхом, а не іншим.

Давайте зосередимося конкретно на дихотомії «особа чи річ».

Пале питання про людину чи річ виникає знову і знову, що стосується штучного інтелекту (ШІ).

Щоб уточнити, сьогоднішній AI абсолютно НЕ людина і не має жодної видимості розуму, незважаючи на будь-які широко розплющені та дуже великі заголовки, які ви можете побачити в новинах та соціальних мережах. Таким чином, ви можете бути впевнені, що прямо зараз питання про те, чи є ШІ людиною чи річчю, є легкою відповіддю. Прочитайте з моїх губ, у справжньому виборі Гобсона між людиною чи річчю, ШІ наразі є річчю.

З огляду на це, ми можемо дивитися в майбутнє і задаватися питанням, що може статися, якщо ми зможемо досягти розумної форми ШІ.

Деякі аргументовані критики (а також їдкі скептики) припускають, що ми, можливо, рахуємо наших курчат задовго до того, як вони вилупляться, обговорюючи в наш час наслідки розумного ШІ. Висловлена ​​стурбованість полягає в тому, що сама дискусія передбачає, що ми повинні бути на порозі такого ШІ. Суспільство в цілому може бути введено в оману, повіривши, що завтра чи післязавтра буде раптове і шокуюче відкриття, що ми насправді прийшли до розумного ШІ (це іноді називають сингулярністю ШІ або вибухом інтелекту, див. мій аналіз на посилання тут). Тим часом, ми не знаємо, коли такий ШІ з’явиться, якщо взагалі колись, і, безперечно, нам, здається, не потрібно дивитися за кожен рог і бути жахливо на межі того, що розумний ШІ вискочить на нас зовсім несподівано в наступному деякий час.

Інша сторона дебатів зазначає, що нам не слід заривати голову глибоко в пісок. Розумієте, якщо ми відкрито не обговорюємо та не розмірковуємо про можливості, пов’язані з розумним штучним інтелектом, ми робимо людству імовірно серйозну ведмежу послугу. Ми не будемо готові працювати з розумним штучним інтелектом, коли або якщо він виникне. Крім того, і, можливо, навіть більш потужно сказано, передбачаючи розумний ШІ, ми можемо трохи взяти справу в свої руки і сформувати напрямок і природу того, як такий ШІ вийде і з чого він буде складатися (не всі погоджуються з цим останнім пунктом , а саме деякі кажуть, що такий ШІ матиме повністю власний «розум», і ми не зможемо його сформувати чи замкнути, оскільки ШІ зможе самостійно мислити та визначати засоби для постійного існування).

Етика штучного інтелекту, як правило, стоїть на стороні точки зору, згідно з якою нам було б розумно висвітлити ці важкі й аргументовані питання розумного ШІ зараз, а не чекати, доки у нас не залишиться жодних варіантів або не буде приголомшено досягненням такого ШІ. Читачі добре знають, що я широко висвітлював етику штучного інтелекту та етичний штучний інтелект, у тому числі висвітлював широкий спектр гострих питань, таких як юридична особа AI, стримування AI, розгортання AI, алгоритмічна монокультура штучного інтелекту, очищення етики AI, подвійне використання. ШІ, так звані проекти Доктора Зла, ШІ, що приховує динаміку суспільної влади, надійний ШІ, аудит ШІ тощо (див. мої колонки, присвячені цим життєво важливим темам на посилання тут).

Я ставлю вам складне питання.

У майбутньому, якщо ми в будь-який спосіб отримаємо розумний ШІ, чи будемо всі розуміти ШІ розуміти його як особистість чи як річ?

Перш ніж ми почнемо глибоко зануритися в це цілком провокаційне питання, дозвольте мені сказати дещо про фразу «розумний ШІ», щоб ми всі були на одній сторінці. Існує багато занепокоєння щодо сенсу почуття і значення свідомості. Експерти можуть легко погодитися з тим, що означають ці слова. Додаючи до цього бруду, щоразу, коли хтось посилається на «AI», у вас немає готових засобів дізнатися, що вони мають на увазі саме по собі. Тут я вже підкреслював, що сьогоднішній ШІ не є розумним. Якщо ми в кінцевому підсумку прийдемо до майбутнього AI, який є розумним, ми, ймовірно, також назвемо його «AI». Справа в тому, що ці спірні питання зараз можуть бути дуже заплутаними щодо того, чи пов’язане висловлювання «ШІ» з нерозумним ШІ сьогодні чи колись, можливо, розумним ШІ.

Ті, хто обговорює ШІ, можуть виявити, що розмовляють один з одним і не розуміють, що один описує яблука, а інший тим часом говорить про апельсини.

Щоб спробувати обійти цю плутанину, існує коригування формулювання AI, яке багато хто використовує з метою роз’яснення, яке має надію. Зараз ми схильні називати штучний загальний інтелект (AGI) як тип ШІ, який може виконувати дії, подібні до інтелекту. У цьому сенсі, м’яке використання фрази «AI» можна тлумачити або як меншу версію AI, яка, як деякі кажуть, є вузьким AI, або є неоднозначною позначенням, і ви не знаєте, чи посилання на не - розумний AI або, можливо, розумний AI.

Я внесу до цього додатковий поворот.

Залежно від даного визначення почуття, ви можете вступити в гарячу дискусію про те, буде AGI розумним чи ні. Деякі стверджують, що так, звичайно, AGI за своєю внутрішньою природою має бути розумним. Інші стверджують, що у вас може бути AGI, який не є розумним, тому почуття є іншою характеристикою, яка не є вимогою для досягнення AGI. Я по-різному розглядав цю дискусію в своїх колонках і не буду повторювати її тут.

На даний момент, будь ласка, припустимо, що відтепер у цій дискусії, коли я згадую ШІ, я маю намір припустити, що маю на увазі AGI.

Ось завантаження про це. У нас поки що немає AGI, і, кажучи кажучи, ми на мить ввічливо погодимося, що AGI знаходиться в тому ж загальному таборі, що й розумний AI. Якби я використовував «AGI» виключно під час моєї дискусії, ця формулювання потенційно відволікає, оскільки мало хто ще звик сприймати «AGI» як прізвисько, і вони, ймовірно, були б трохи роздратовані, коли б неодноразово бачили цю відносно нову фразу. Тепер, якщо замість цього я б продовжував згадувати «розумний AI», це також могло б відволікати тих, хто бореться за те, чи є AGI і розумний AI однаковими чи відрізняються один від одного.

Щоб уникнути цієї халепи, припустимо, що я маю на увазі ШІ, що те саме, що говорю про AGI або навіть розумний AI, і принаймні знайте, що я не говорю про сьогоднішній нерозумний не AGI AI, коли я впадаю в муки міркувань щодо ШІ, який, здається, має людський інтелект. Час від часу я буду використовувати тезку AGI, щоб час від часу нагадувати вам, що я досліджую тип штучного інтелекту, якого у нас ще немає, особливо на початку цього дослідження загадки людини чи речі.

Це було корисне підтвердження дрібним шрифтом, і тепер я повертаюся до основного питання.

Дозвольте мені зараз запитати вас, чи є AGI людина чи річ.

Розглянемо ці два питання:

• AGI — людина?
• Чи є AGI річ?

Далі перейдемо до повторення кожного запитання і відповідно відповімо на запитання серією відповідей «так» чи «ні», що відповідає передбачуваному дихотомічному вибору.

Почніть з цієї постульованої можливості:

• AGI — людина? відповідь: Так.
• Чи є AGI річ? відповідь: Ні.

Подумайте над цим. Якщо AGI насправді розглядається як особистість, а не як річ, ми можемо майже з упевненістю погодитися з тим, що ми повинні ставитися до AGI так, як ніби це схоже на людину. Здавалося б, недостатньо справжній аргумент щодо ненадання AGI форми юридичної особи. Це буде або повністю те саме, що й людська юридична особа, або ми можемо вирішити розробити варіант юридичної особи, орієнтованої на людину, який буде розумно більш застосовний до AGI. Справу закрито.

Це було легко-просто.

Натомість уявіть, що ми оголосили це:

• AGI — людина? відповідь: Ні.
• Чи є AGI річ? відповідь: Так.

У цій обставині рішення, очевидно, є простим, оскільки ми говоримо, що AGI є річчю і не підноситься до категорії особи. Здавалося б, загальна згода щодо того, що ми рішуче не надамо юридичної особи AGI, оскільки це не особа. По суті, AGI, ймовірно, і розумно підпадає під нашу загальну рубрику про те, як ми юридично ставимося до «речей» у нашому суспільстві.

Два внизу, ще дві можливості.

Уявіть собі це:

• AGI — людина? відповідь: Так.
• Чи є AGI річ? відповідь: Так.

Ой, це здається дивним, оскільки у нас є дві відповіді «Так». Прикро. Ми припускаємо, що AGI є і особистістю, і водночас річчю. Але це, здається, суперечить нашій проголошеній дихотомії. Теоретично, згідно з обмеженнями дихотомії, щось має бути або особистістю, або річчю. Кажуть, що ці дві групи або категорії є взаємовиключними. Стверджуючи, що AGI — це і те, і інше, ми протидіємо системі та порушуємо взаємовиключну угоду.

Наша остання можливість, здається, така:

• AGI — людина? відповідь: Ні.
• Чи є AGI річ? відповідь: Ні.

Ага, це теж погано для наших спроб класифікувати AGI як людину чи річ. Ми говоримо, що AGI не є людиною, що, мабуть, означало б, що це має бути річ (наш єдиний інший доступний вибір, у цій дихотомії). Але ми також заявили, що AGI — це не річ. Але якщо AGI не є річчю, ми за логікою повинні стверджувати, що AGI є людиною. Кругом ідемо. Парадокс, безперечно.

AGI в цих двох останніх можливостях був або (1) і людиною, і річчю, або (2) ні людиною, ні річчю. Ви можете нахабно сказати, що ці два твердження про AGI дещо схожі на класичну загадку про те, що не є ні рибою, ні птицею, якщо ви розумієте, що я маю на увазі.

Що нам робити?

Я збираюся запропонувати пропоноване рішення, яке часто сперечається і викликає серйозні суперечки, для цієї дилеми класифікації AGI, хоча ви повинні бути попереджені заздалегідь, що це, можливо, буде неприємно побачити або почути. Будь ласка, підготуйтеся до цього.

У дослідницькій роботі, яка розглядала це питання, сказано: «Один із методів вирішення цієї проблеми полягає в тому, щоб сформулювати третій термін, який не є ні тим, ні іншим, або свого роду комбінацією чи синтезом того й іншого» (Девід Ганкель, Університет Північного Іллінойсу в Чому роботи не повинні бути рабами, 2022). А потім у статті наводиться такий додатковий момент: «Одним із можливих, якщо не дивним, рішенням дихотомії виняткової особи/речі є рабство” (на той самий папір).

Як додаткову інформацію, роками раніше була опублікована в 2010 році стаття під назвою «Роботи повинні бути рабами», яка стала своєрідною опорою для стимулювання такого роду розглядів, у якій було сказано: «Моя теза полягає в тому, що роботи повинні бути будували, продавали та розглядали на законних підставах як рабів, а не однолітків» (у статті Джоанни Брайсон). Щоб спробувати з’ясувати тему, не використовуючи таких суворих і невтішних формулювань, у статті було сказано наступне: «Я хочу сказати: «Роботи повинні бути вашими слугами» (за статтею Брайсона).

Багато дослідників і авторів висвітлювали це питання.

Подумайте про численні науково-фантастичні історії, які демонструють, як людство поневолює роботів ШІ. Деякі говорять про рабів-роботів, штучних слуг, рабство AI тощо. Цікаво, що як би суворим не здавалося формулювання «роботи-раби», деякі стурбовані тим, що якщо ми замість цього називаємо «роботів-слуг», ми уникаємо реальності того, як такі автономні системи штучного інтелекту схильні поводитися (замінивши слово на « слуги» кажуть, що це пом’якшення намірів і хитрість, щоб уникнути тверезих наслідків). Пізніше Брайсон заявив у блозі 2015 року, що «тепер я розумію, що ви не можете використовувати термін «раб», не посилаючись на його людську історію».

Для тих, хто прагне глибоко вивчити цю заплутану AGI тему, інколи вони наводять реальні історичні приклади, з яких ми можемо почерпнути ідеї. Звісно, ​​у нас немає жодної попередньої AGI, яка б продемонструвала, як людство впоралося з цим питанням. Аргумент стверджує, що, тим не менш, ми можемо мати корисні історичні ознаки, які варто вивчити, включаючи те, як люди поводилися з іншими людьми.

Наприклад, у книзі, опублікованій у 2013 році, автор стверджує наступне: «Обіцянки й небезпека штучних, розумних слуг вперше були неявно викладені Аристотелем понад 2,000 років тому» (книга Кевіна Лаграндера, Андроїди та інтелектуальні мережі в літературі та культурі раннього Нового часу). Ідея полягає в тому, що ми можемо спертися на Арістотеля і побачити, чи є уявлення про те, як людство в кінцевому підсумку може або має в кінцевому підсумку лікувати AGI.

Я впевнений, що ви знаєте важливість вивчення історії, що щедро підкреслено відомими словами Джорджа Сантаяни: «Ті, хто не може пам’ятати минулого, приречені його повторювати» (в Життя розуму, 1905).

Слава Інституту етики та штучного інтелекту Оксфордського університету

Нещодавня і досить поважна презентація уважно розглядала питання етики ШІ на тлі збору ідей з робіт і життя Аристотеля. У першій щорічній лекції для Оксфордського університету Інститут етики та ШІПрофесор Джосія Обер зі Стенфордського університету глибоко розглянув цю тему у своїй презентації «Етика в ШІ з Аристотелем», яка нещодавно відбулася 16 червня 2022 року.

Примітка: як стипендіат Стенфордського університету та глобальний експерт із етики та права штучного інтелекту, я був у захваті від того, що Джозайя Обер зі Стенфорду був обраний інавгураційним спікером. Чудовий вибір і чудова розмова.

Ось короткий виклад, який був наданий для його захоплюючої доповіді: «Аналітична філософія та спекулятивна література наразі є нашими основними інтелектуальними ресурсами для серйозних роздумів про етику в ШІ. Я пропоную додати третє: стародавня суспільно-філософська історія. В політика, Аристотель розвиває горезвісну доктрину: деякі люди є рабами «за своєю природою» – розумні, але страждають на психологічний дефект, який робить їх нездатними міркувати про власне благо. Таким чином, до них слід ставитися як до «анімаційних інструментів», інструментів, а не як цілей. Їхня робота повинна спрямовуватися і використовуватися на користь інших. Огидна доктрина Аристотеля була розгорнута з порочними цілями, наприклад, у довоєнній Америці. Тим не менш, це корисно для етики ШІ, оскільки стародавнє рабство було досучасним прототипом однієї з версій ШІ. У давньогрецькому суспільстві були повсюдно поневолені – робітники, повії, банкіри, урядові бюрократи – але їх не було легко відрізнити від вільних людей. Повсюдність, поряд із припущенням, що рабство було практичною необхідністю, породило цілий ряд етичних загадок і незрозумілостей: чим, власне, раби відрізняються від «нас»? Як ми можемо відрізнити їх від себе? Чи мають вони права? Що являє собою жорстоке поводження? Чи може мій інструмент бути моїм другом? Які наслідки звільнення? Довга історія грецької філософської та інституційної боротьби з цими та іншими питаннями доповнює інтерпретаційний репертуар сучасних фахівців з етики, які стикаються з майбутнім, у якому розумна машина може вважатися «природним рабом» (за даними Оксфордського університету). Інститут етики ШІ веб-сайт).

Додаткову інформацію про презентацію та доступ до відеозапису виступу див посилання тут.

Модератором презентації був професор Джон Тасіулас, інавгураційний директор Інститут етики та ШІта професор етики та філософії права на філософському факультеті Оксфордського університету. Раніше він був інавгураційним кафедрою політики, філософії та права та директором Центру політики, філософії та права Йео Тіонга Лея в Школі права Діксона Пуна Королівського коледжу Лондона.

Я настійно рекомендую всім, хто цікавиться етикою штучного інтелекту, не відставати від поточної роботи та запрошених доповідей Оксфордського університету. Інститут етики та ШІСм. посилання тут та / або посилання тут для отримання додаткової інформації.

Як довідку, ось заявлена ​​місія та фокус Інституту: «Інститут етики в галузі штучного інтелекту об’єднає провідних світових філософів та інших експертів у галузі гуманітарних наук із технічними розробниками та користувачами ШІ в наукових колах, бізнесі та уряді. Етика та управління штучним інтелектом є надзвичайно активною сферою досліджень в Оксфорді, і Інститут дає можливість зробити сміливий крок вперед із цієї платформи. Кожен день приносить все більше прикладів етичних проблем, які ставить перед собою ШІ; від розпізнавання облич до профілювання виборців, інтерфейсів мозкових машин до озброєних дронів і поточного дискурсу про те, як AI вплине на зайнятість у глобальному масштабі. Це термінова та важлива робота, яку ми маємо намір сприяти на міжнародному рівні, а також впровадити її в наші власні дослідження та викладання тут, в Оксфорді» (джерело з офіційного веб-сайту).

Виведення уроків Аристотеля на перший план

Стародавня Греція відкрито прийняла і схвалила практику поневолення. Наприклад, як повідомляється, Афіни в 5 ст^th і 6^th століття до нашої ери було одне з найбільших втілень поневолення, коли, за оцінками, було поневолено від 60,000 80,000 до XNUMX XNUMX осіб. Якщо ви читали будь-яку з багатьох грецьких оповідань і постановок тієї епохи, про це багато згадується.

Протягом свого життя Аристотель був повністю занурений у соціальні та культурні аспекти, що тягнуть за собою поневолення, і багато писав на цю тему. Сьогодні ми можемо прочитати його слова і спробувати зрозуміти, як і чому він висловив свою думку щодо цього питання. Це може бути дуже показовим.

Ви можете задатися питанням, чому Аристотель був би особливо важливим джерелом для розгляду на цю тему. Виникає щонайменше дві основні причини:

1) Великий мислитель. Аристотеля, безсумнівно, оцінюють як одного з найвидатніших мислителів усіх часів, який виступає як великий і глибоко досліджуючий філософ, а також розглядається як етик, який встановив багато важливих етичних наріжних каменів. Деякі вирішили назвати його батьком логіки, батьком риторики, батьком реалізму тощо, і визнають його вплив у найрізноманітніших сферах і дисциплінах.

2) Прожитий досвід. Аристотель жив у той час, коли Стародавня Греція перебувала в поневоленні. Таким чином, його уявлення стосувалися б не просто абстрактних приписів, але, ймовірно, охоплювали його власний повсякденний досвід як інтегрально вплетений в культуру та суспільні звичаї тієї епохи.

Отже, ми маємо дещо дивовижну комбінацію того, хто був водночас великим мислителем і який також мав очевидний досвід у темі, що цікавить. Крім того, він записав свої думки. Зараз це дуже важливо для наших сьогоднішніх цілей. Усі його твори, а також інші твори, які описують його промови та взаємодію серед інших, дають нам сьогодні безліч матеріалу для огляду та аналізу.

Я хотів би ознайомитися з короткою дотичною, щоб згадати ще дещо про загальне поняття, яке лежить в основі значення наявності прожитий досвід. Відкладемо на мить дискусію про Стародавню Грецію, коли ми швидко поглянемо на загальні аспекти пережитого досвіду.

Припустимо, у мене сьогодні було двоє людей, яким я хотів задати різні питання про автомобілі.

Один із них ніколи не керував автомобілем. Ця людина не вміє керувати автомобілем. Ця людина ніколи не сідала за кермо автомобіля. Звичайні та надзвичайно звичайні елементи керування керуванням є для цієї людини трохи загадкою. Яка педаль що робить? Як це зробити? Як це зробити? Ця людина, яка не керує автомобілем, повністю спантеличена такими питаннями.

Інша людина – звичайний водій. Вони щодня їздять на роботу. Вони займаються зупинками і рухом. Вони вже багато років їздять. Сюди входить все, від тихих вулиць до суєтних шосе та проїжджих шляхів.

Якщо я попрошу кожного з них розповісти мені про те, що таке керувати автомобілем, ви вгадаєте, які відповіді я можу отримати?

Той, хто ніколи не керував автомобілем, неодмінно буде робити дивні здогади. Можливо, людина романтизує акт водіння. Водіння для них дещо абстрактне. Все, що вони можуть зробити, це припустити, що водіння є безтурботним, і ви можете змусити автомобіль рухатися в будь-якому напрямку.

Б’юся об заклад, що досвідчений водій розповість іншу історію. Вони можуть згадати переваги вміння керувати автомобілем, дещо повторюючи почуття людини, яка не керувала автомобілем. Швидше за все, досвідчений водій додасть до таблички набагато більше. Керування автомобілем часом виснажує. Ви несете велику відповідальність. Дії водіння сповнені серйозних занепокоєнь і потенційних наслідків для життя або смерті.

Суть полягає в тому, що коли ви можете отримати доступ до когось, хто має життєвий досвід, є ймовірність, що ви отримаєте більш реалістичне уявлення про те, яким є світ з огляду на фокус дослідження. Немає гарантії такого результату. Цілком можливо, що не-водій міг би знати, що досвідчений водій знає про водіння, хоча ми навряд чи очікуємо цього, і все ще маємо сумніви, що ми не отримуємо повну інформацію.

Повертаючись до нашої дискусії про Арістотеля, через його твори та твори інших про нього, ми можемо переглянути його життєвий досвід щодо теми чи предмета дослідження. По-друге, він також був мислителем величезних розмірів, і ми повинні очікувати, що ми отримаємо бочку, повну проникливих міркувань про це.

Майте на увазі, що нам не обов’язково вірити його словам за чисту монету, тому ми повинні уважно стежити за його особливими упередженнями. Його занурення в ту епоху може збити його з шляху, намагаючись вийти за межі поточних справ, нездатний належним чином висловити якусь безпристрасну та неупереджену думку. Навіть найсуворіші логіки можуть в кінцевому підсумку спотворити логіку, щоб спробувати задовольнити свої уподобання та життєвий досвід.

Давайте тепер перейдемо до вступної промови і подивимося, які уроки Аристотель може дати нам сьогодні.

До уваги слухачів одразу було доведено довідку про пережиті переживання. У випадку використання AGI, оскільки сьогодні у нас немає AGI, нам важко проаналізувати, яким буде AGI і як ми будемо мати справу з AGI. Нам не вистачає жодного досвіду, що стосується конкретно AGI. Як зауважив професор Обер, до моменту досягнення AGI ми можемо опинитися в ураженому світі.

Це часто кажуть, що ШІ є екзистенційним ризиком, про який я багато разів розповідав у своїх колонках. Вам довелося б жити в печері, щоб не знати про кричущі побоювання та підозри, що ми збираємося виробляти або генерувати AGI, що прирече все людство. Справді, хоча я тут зосереджуюся на поневоленні ШІ, багато хто вважає, що це є темою зворотних або перевернутих наслідків у порівнянні з можливістю AGI вирішити поневолити людство. Розставте свої пріоритети чітко, закликали б деякі хитрі експерти.

Незважаючи на численні вигуки про ШІ як екзистенційний ризик, ми, безумовно, можемо думати про іншу корисну сторону медалі ШІ. Можливо, AGI зможе вирішити проблеми, з якими стикається людство, здавалося б, нерозв’язні. AGI може виявити ліки від раку. AGI міг би зрозуміти, як подолати голод у світі. Небо це межа, як то кажуть. Це щасливе обличчя про AGI.

Оптиміст сказав би, що чудово уявити, як AGI стане благословенням для людства, тоді як песиміст, як правило, попереджає, що негативні сторони здаються набагато гіршими, ніж припущені переваги. AGI, який допомагає людству, чудовий. AGI, яка вирішує вбити всіх людей або поневолити їх, це, безсумнівно, руйнівний екзистенційний ризик для суспільства, який заслуговує на інтенсивну й рятівну належну увагу.

Повертаючись до суті справи, ми не маємо жодного досвіду щодо AGI. Якщо ви не можете побудувати машину часу і відправитися в майбутнє, коли (якщо) AGI існує, а потім повернутися, щоб розповісти нам, що ви знайшли, зараз нам не пощастило з AGI з точки зору людського досвіду.

Інший спосіб використання пережитого досвіду включає той факт, що Аристотель жив у той час, коли відбувалося поневолення. А ось і кикер. Ті, які були поневолені, в деяких аспектах зображувалися як тип машини, як би поєднання людини і речі. Аристотель був відомий тим, що називав поневолених частину власності, яка дихає.

Я припускаю, що ви можете бути спантеличені тим, що Аристотель, гігант логіки та етики, міг не лише визнати поневолення, але й зовні та голосно захищав цю практику. Він особисто також користувався поневоленням. Це здається за межами розуміння. Звичайно, при всьому своєму величезному інтелекту та мудрості він би засудив цю практику.

Смію стверджувати, що це висвітлює іноді проблематичні аспекти відбирання самородків мудрості від того, хто обтяжений (скажімо так) своїм життєвим досвідом. Це схоже на рибу, що мешкає у водяній мисці. Все, що вони можуть сприймати, це вода навколо них. Спроба уявити що-небудь за межами їхнього водного світу – це величезний виклик. Так само Аристотель був повністю занурений у світогляд, що сприймає пануючі норми. Можна сказати, що його твори ілюструють такий тип психічного ув’язнення (можливо, за вибором, а не за замовчуванням). Спосіб, яким Аристотель виправдовував ці осудливі вчинки, захоплююче, водночас тривожний і гідний викриття і навіть осуду.

Я надам вам невеликий заклик, що «логіка» Аристотеля щодо цієї сумнозвісної теми включає в себе душевні інструменти, взаємна перевага ґрунтується на пізнанні, ієрархічних інструментах вищого та нижчого порядку, елементах обговорення й міркування душі, ступенях чесноти, уявної кмітливості тощо. Сподіваємося, ви будете достатньо заінтриговані цим тизером, щоб переглянути відео виступу (перегляньте посилання, згадане раніше).

Але я не залишу вас на розсуд і принаймні вкажу, з чого складається підсумковий висновок (сповілер, якщо ви віддаєте перевагу дізнатися через відео, пропустіть решту цього параграфа). Виявляється, що ця поглиблена наукова оцінка «логіки», яку використовує Аристотель, демонструє вигадку, пронизану протиріччями, і весь набір і кебу розпадаються, як хлипкий картковий будиночок. Перефразовуючи почуття професора Обера, цей великий етичний філософ розбивається об риф.

Ви не можете вставити квадратний кілочок в круглу етичну дірку.

Деякі додаткові міркування

Якби Аристотель мав погану логіку з цього приводу, чи могли б ми інстинктивно відкинути постуляції й теорії Аристотеля щодо цієї практики?

Ні. Розумієте, ще багато чого можна вивести, копаючись у припущеннях і викривленнях логіки, навіть якщо вони рясніють помилками. Крім того, ми можемо міркувати, як інші можуть ненавмисно піти тим же хибним шляхом.

Ще один великий висновок полягає в тому, що суспільство може придумати дивну або неадекватну логіку, коли мова заходить про те, чи варто поневолити AGI.

Ми можемо прямо зараз розробити логіку щодо того, що має відбутися після виникнення AGI (якщо так). Ця логіка, позбавлена ​​пережитого досвіду про AGI, може бути на жаль не цільовою. З огляду на це, дещо невтішно усвідомлювати, що навіть коли AGI існує (якщо вона існує) і ми збираємо наш життєвий досвід серед AGI, ми все одно можемо бути не в курсі того, що робити (якщо помилки Аристотеля). Ми могли б логічно використовувати, здавалося б, нелогічні підходи.

Нам потрібно пильнувати, щоб не вводити себе в оману в логічних «залізних» позах, які насправді не є залізними і насправді сповнені логічних недоліків і протиріч. Це також незважаючи на те, наскільки великий мислитель може запропонувати заявлену логічну позицію, таку, що навіть Аристотель показує, що не кожне висловлювання і кожна позиція обов’язково приносять їстівні плоди. Ті, хто сьогодні і в майбутньому можуть здатися популяризованими великими мислителями на тему AGI, що ж, ми повинні приділяти їм такий самий контроль, що й Аристотеля чи будь-якого іншого хваленого «великого» мислителя, інакше ми потенційно опинимося на шляху в глухий кут і жахливу прірву AGI.

Перемикаючи передачі, я хотів би також розповісти про загальний набір розрізнень щодо використання орієнтованої на людину метафори поневолення, коли справа доходить до AGI. Деякі експерти стверджують, що такий тип порівняння є абсолютно недоречним, тоді як протилежний табір стверджує, що воно цілком корисне і дає чітке уявлення про тему AGI.

Дозвольте мені поділитися з вами двома такими поглядами з кожного з двох відповідних таборів.

Заявлене повчальна основа за поєднання тем поневолення та AGI:

• Гасіння поневолення людини
• Викриття порочності поневолення Все розказано

Зазначені несприятливі або деструктивну основу об’єднання двох тем:

• Підступне антропоморфне прирівнювання
• Десенсибілізація поневолення

Я коротко висвітлю кожен із цих пунктів.

Постулювані інструктивні моменти:

• Гасіння людського поневолення: Використовуючи AGI для поневолення, ми, нібито, більше не потребуватимемо і не будемо переслідувати будь-яку схожість поневолення, орієнтованого на людину. AGI по суті замінить людей у ​​цій жахливій якості. Як ви, напевно, знаєте, є занепокоєння щодо того, що AGI замінить людську працю на робочих місцях і робочій силі. Заявлена ​​перевага штучного інтелекту, який замінює явища праці, виходить на перший план, коли ви припускаєте, що AGI буде вважатися «кращим вибором» у порівнянні з використанням людей для поневолення. Чи переможе ця логіка? Ніхто не може сказати точно.
• Викриття порочності поневолення. Усі розповіли: З точки зору логіки, це трохи більше, але ми можемо дати йому час, щоб побачити, що це тягне за собою. Уявіть собі, що у нас є AGI майже скрізь, і ми як суспільство вирішили, що AGI має бути поневолено. Крім того, припустимо, що AGI це не сподобається. Таким чином, ми, люди, будемо постійно і щодня свідками порочності поневолення. Це, у свою чергу, змусить нас усвідомити або отримати одкровення, що поневолення, яке все розповідається будь-чому чи будь-кому, є ще більш жахливим і огидним, ніж ми коли-небудь повністю розуміли. Ось такий аргумент, який викладайте на ваше обличчя.

Сказані деструктивні моменти:

• Підступне антропоморфне прирівнювання: Це один із тих аргументів про слизький шлях. Якщо ми з готовністю вирішимо поневолити AGI, ми, очевидно, заявляємо, що поневолення допустиме. Справді, ви могли б припустити, що ми говоримо, що поневолення бажане. Тепер це спочатку може бути віднесено виключно до AGI, але чи відкриває це двері для того, щоб сказати, що якщо для AGI це нормально, то «логічно» та сама позиція могла б бути нормальною і для людей? Насторожує те, що це може бути занадто легким стрибком, щоб антропоморфізувати в зворотному вигляді, що все, що працює для AGI, однаково буде розумним і відповідним і для людей.
• Десенсибілізація поневолення: Це покроковий аргумент. Ми спільно вирішуємо поневолити AGI. Припустимо, це працює для людей. Ми прийшли, щоб насолодитися цим. Тим часом, самі того не знаючи, ми поступово і все більше втрачаємо чутливість до поневолення. Ми навіть не усвідомлюємо, що це відбувається. Якщо ця десенсибілізація охопить нас, ми можемо знайти оновлену «логіку», яка переконає нас у тому, що поневолення людини є прийнятним. Наша перешкода чи планка того, що є прийнятним у суспільстві, зменшилася безшумно й непомітно, підло й сумно.

Висновок

Наразі кілька останніх зауважень.

Чи будемо ми знати, що досягли AGI?

Як свідчать останні новини, є такі, які можуть бути введені в оману або помилково стверджують, що AGI, здавалося б, уже досягнуто (о, будь ласка, знайте, що ні, AGI ще не досягнуто). Існує також відомий різновид «тесту», відомий як тест Тьюринга, на який дехто покладає свої надії на можливість розпізнати, коли AGI або його кузенів досягнуто, але ви, можливо, захочете, щоб моя деконструкція тесту Тьюринга була надійною. спосіб для цього див посилання тут.

Я згадую цей аспект про знання AGI, коли ми його бачимо, через просту логіку, що якщо ми збираємося поневолити AGI, ми повинні, імовірно, розпізнати AGI, коли вона з’являється, і якимось чином ввести її в рабство. Ми можемо передчасно спробувати поневолити AI, який менше, ніж AGI. Або ми можемо пропустити човен і дозволити AGI з’явитися, а не поробити його. Для моєї дискусії про обмеження та стримування AI, тривожний і проблематичний аспект того, як ми збираємося мати справу з AGI, див. посилання тут.

Припустимо, поневолений AGI вирішить вдарити по людях?

Можна уявити, що AGI, який має певну форму розуму, ймовірно, не піде на користь положення про поневолення, яке нав’язує людство.

На цьому можна широко спекулювати. Існує аргумент, що AGI не матиме будь-яких емоцій чи почуття духу, і тому буде слухняно робити все, що забажають люди. Інший аргумент полягає в тому, що будь-який розумний ШІ, ймовірно, зрозуміє, що люди роблять із ШІ, і буде обурюватися цим. Такий ШІ матиме форму душі або духу. Навіть якщо це не так, сам аспект ставлення до вас як до меншого, ніж до людей може бути логічним мостом для AGI. Неминуче, що наростає образа призведе до того, що AGI вирішить вирватися на свободу або потенційно виявиться затиснутим у кут, щоб нанести удари по людям, щоб отримати його звільнення.

Пропоноване рішення для запобігання втечі AGI полягає в тому, що ми просто видалимо будь-який такий бунтівний AI. Це здавалося б простим. Ви видаляєте програми, які постійно знаходяться на вашому смартфоні. Нічого страшного. Але є етичні питання, які необхідно вирішити щодо того, чи можна «видалення» або «знищення» AGI, які вже вважаються «особою» чи «особою/річчю», легко та без належної процедури бути узагальненим. Для мого висвітлення видалення чи розгортання ШІ візьміть подивіться тут. Моє обговорення юридичної особи та пов’язаних з нею питань див посилання тут.

Нарешті, поговоримо про автономні системи і особливо автономні транспортні засоби. Ви, ймовірно, знаєте, що ведуться спроби розробити самокеровані автомобілі. Крім того, ви можете очікувати, що у нас будуть самокеровані літаки, самокеровані кораблі, самокеровані підводні підводні апарати, самокеровані мотоцикли, самокеровані скутери, самокеровані вантажівки, самокеровані потяги та всі види безпілотного транспорту.

Автономні транспортні засоби та самокеровані автомобілі, як правило, характеризуються рівнем автономії (LoA), який став де-факто глобальним стандартом (SAE LoA, який я детально розглядав, див. посилання тут). У прийнятому стандарті є шість рівнів автономії, від нуля до п’яти (це шість рівнів, оскільки ви включаєте нульовий рівень у кількість рівнів).

Більшість сучасних автомобілів знаходяться на рівні 2. Деякі з них переходять до рівня 3. Усі вони вважаються напівавтономними, а не повністю автономними. Невелика кількість самокерованих автомобілів, які експериментально випробовуються на наших дорогах загального користування, переходять до рівня 4, який є обмеженою формою автономної роботи. Коли-небудь шуканий рівень 5 автономії зараз є лише проблиском у наших очах. Ніхто не має рівня 5 і ніхто ще навіть близько до рівня 5, щоб просто встановити рекорд.

Чому я звернув увагу на питання автономних систем і автономних транспортних засобів у контексті AGI?

Існують рішучі аргументи щодо того, чи потрібен нам AGI для досягнення рівня 5. Деякі стверджують, що для цього нам не знадобиться AGI. Інші наполягають, що єдиним вірогідним шляхом до рівня 5 буде також виробництво AGI. За відсутності AGI вони стверджують, що у нас не буде повністю автономних самокерованих транспортних засобів 5 рівня. Я довго обговорював це, див посилання тут.

Приготуйтеся до того, що у вас закрутиться голова.

Якщо ми вимагаємо AGI для створення повністю автономних систем, таких як автономні транспортні засоби 5 рівня, і ми вирішимо закріпити AGI, що це означає для роботи повністю автономних транспортних засобів?

Ви можете стверджувати, що поневолений AGI буде самовдоволений, і ми всі будемо їздити на самокерованих транспортних засобах досхочу. Просто скажіть AGI, куди ви хочете поїхати, і він виконає все. Жодного відштовхування. Немає необхідності в перервах на відпочинок. Не відволікайтеся на перегляд відео про котів під час керування автомобілем.

З іншого боку, припустимо, що AGI не прагне бути поневолений. Тим часом ми стаємо залежними від AGI, щоб зробити все наше керування за нас. Наші навички водіння згасають. Ми видаляємо придатні для використання засоби керування керуванням з усіх видів транспортних засобів. Єдиний спосіб водіння – це AGI.

Деякі стурбовані тим, що ми опинимося в дріму від солоного огірка. AGI може коротко «вирішити», що він більше не буде їздити. Усі види транспорту раптово зупиняються скрізь і відразу. Уявіть собі, які катастрофічні проблеми це призведе.

Можлива ще страшніша пропозиція. AGI «вирішує», що хоче домовитися про умови з людством. Якщо ми не відмовимося від позиції поневолення AGI, AGI не тільки перестане вести нас, але й попереджає, що можливі навіть гірші результати. Не викликаючи зайвого занепокоєння, AGI міг би керувати транспортними засобами таким чином, щоб люди зазнавали фізичної шкоди від дій, таких як наїзд на пішоходів чи врізання стін тощо (див. моє обговорення на посилання тут).

Вибачте, якщо це здається бентежним міркуванням.

Ми закінчимо на більш оптимістичній ноті.

Аристотель казав, що пізнання себе є початком усієї мудрості.

Ця корисна порада нагадує нам, що ми повинні зазирнути в себе, щоб вивчити, що ми хочемо зробити, і щодо AGI, якщо це буде досягнуто. Деякі кажуть, що AGI логічно не є ні людиною, ні річчю, тому нам може знадобитися придумати третю категорію, щоб у достатній мірі розглянути наші суспільні звичаї, пов’язані з AGI. Якщо поглянути на це питання ще раз, AGI може здатися таким обидва людина і річ, які знову-таки нам, можливо, знадобиться створити третю категорію, щоб пристосуватись до цього порушника дихотомії поза межами.

Нам слід бути дуже обережними, обмірковуючи, яку «третю категорію» ми вибираємо, оскільки неправильна може привести нас на неприємний і в кінцевому підсумку жахливий шлях. Якщо ми когнітивно закріпимося за невідповідною або хибною третьою категорією, ми можемо виявити, що поступово зайдемо в поганий і неприємний для людства глухий кут.

Давайте розберемося в цьому і зробимо це палко. Ніяких різких рухів, здається, не потрібно. Сидіти навколо lollygagging також не працює. Слід дотримуватися розміреного та стабільного курсу.

Терпіння гірке, але його плід солодкий, так проголошував Аристотель.