Етика ШІ та майже розумне питання про те, чи переживуть люди ШІ

У мене до вас запитання, яке, здається, викликає багато суперечок і бурхливих дискусій.

Чи готові ви?

Чи переживуть люди ШІ?

Подумайте над цим.

Я збираюся розпакувати запитання та уважно вивчу відповіді та те, як вони були з’ясовані. Моя головна мета полягає в тому, щоб підкреслити, як саме питання та навколишній дискурс неминуче й невблаганно вкорінені в Етика ШІ.

Для тих, хто зневажливо вважає, що це питання за своєю суттю є неможливим для відповіді або марною тратою часу та подиху, я б ввічливо запропонував, що спроба відповісти на це запитання викликає деякі життєво важливі міркування етики ШІ. Таким чином, навіть якщо ви хочете відразу відкинути це питання як, можливо, абсурдне або нереалістичне, я кажу, що воно все одно викликає певну цінність як транспортний засіб або механізм, який підкреслює етичні принципи ШІ. Щоб дізнатися про постійне та широке висвітлення етики ШІ та етики ШІ, див посилання тут та посилання тут, просто назвемо декілька.

Зважаючи на вищезазначену передумову, будь ласка, дозвольте мені ще раз повторити спірне запитання та дозвольте нашим думкам побродити над значенням цього питання.

Чи переживуть люди ШІ?

Якщо вам незручна ця конкретна фраза, ви можете змінити формулювання запитання, щоб запитати, чи ШІ переживе людей. Я не впевнений, що це полегшить відповідь на запитання, але, можливо, це здається менш бентежним. Я кажу це тому, що ідея про те, що ШІ переживе людей, може здатися дещо нешкідливішою. Це було б майже так, ніби я запитав вас, чи можуть великі будівлі та створені людьми пам’ятники пережити людство.

Звичайно, це здається здійсненним і не особливо загрозливим. Ми створюємо ці великі речі протягом нашого життя, і ці могутні споруди, подібні до пірамід, переживуть тих, хто їх створив. Звичайно, це не зовсім дорівнює збереженню після кінця людства, оскільки люди все ще тут. Тим не менш, здається цілком логічним і можливим, що споруди, які ми створюємо, можуть пережити наше існування в цілому.

Проте помітною відмінністю є те, що різні споруди, такі як високі хмарочоси та чудові статуї, не живі. Вони інертні. Навпаки, коли запитують про ШІ, припускають, що ШІ по суті є «живим» у сенсі того, що він має певну форму інтелекту та здатний діяти так, як це роблять люди. Ось чому питання про те, як жити довше, є більш складним, важким і взагалі головоломкою, над якою варто ламати голову.

У своїх зауваженнях я збираюся дотримуватися питання, сформульованого так, чи переживуть люди ШІ. Це лише для обговорення та зручності споглядання. Я не маю на увазі неповаги до альтернативного питання про те, чи ШІ переживе людей. Загалом, цей аналіз охоплює обидва формулювання, і я просто вважаю, що питання про те, чи люди переживуть штучний інтелект, здається більш привабливим у цих складних питаннях.

Гаразд, я запитаю ще раз:

Схоже, у вас є дві потенційні відповіді: або «залізний так», люди переживуть ШІ, або ви можете бути по інший бік медалі й палко наполягаєте, що ні, люди не переживуть ШІ. Таким чином, це високе й тривожне запитання зводиться до прямолінійного перекладу «так» або «ні».

Зробіть свій вибір.

Я розумію, що непристойна відповідь полягає в тому, що ні так, ні ні не можна застосувати.

Я чую тебе.

У той час як на запитання, безперечно, здається, що можна відповісти лише чітко бінарним способом, а саме «так» або «ні», я дозволю вам, що можна розумно навести контраргумент, що відповідь полягає в чомусь іншому.

Давайте коротко розглянемо деякі підстави відмови від простого відповіді «так» чи «ні» на це запитання.

По-перше, можна відкинути слово «пережити» в контексті поставленого питання.

Це конкретне формулювання, можливо, означає, що ШІ живий. У запитанні не говорилося «пережити», а натомість запитувалося, чи переживуть люди ШІ. Outlive стосується лише людської частини запитання чи також стосується штучного інтелекту? Деякі спробують стверджувати, що віджила аура також стосується частини ШІ. У такому випадку вони б викликали печію, кажучи, що ШІ — це жива істота. Для них ШІ буде схожий на високі будівлі та інші споруди. Це не живе так, як живі люди.

Таким чином, у цій палкій суперечливій точці зору питання сформульоване хибно.

Можливо, ви смутно знайомі з питаннями, які містять хибні або оманливі передумови. Одним із найвідоміших прикладів є те, чи збирається хтось перестати бити свою дружину (стара приказка, яку, очевидно, слід відкинути). У цьому сумнозвісному прикладі, якщо надається відповідь «так», мається на увазі, що особа вже це робила. Якщо вони кажуть «ні», це означає, що вони робили і збираються продовжувати це робити.

Якщо запитати, чи переживуть люди штучний інтелект, ми можемо поринути в трясовину щодо того, чи вважається ШІ чимось на кшталт живої грані. Як я коротко поясню, сьогодні у нас немає розумного ШІ. Я думаю, що більшість розумних людей погодяться, що нерозумний штучний інтелект не є живою істотою (ну, не всі погоджуються, але я це обмовлюся наразі – дивіться моє висвітлення юридичної особи для ШІ на посилання тут).

Суть цієї першої підстави для того, щоб не відповісти на питання про те, чи переживуть люди ШІ, полягає в тому, що слово «пережити» можна витлумачити як означає, що ШІ живий. У нас ще немає подібного ШІ. Якщо ми виробляємо або якимось чином маємо розумний ШІ, який виникає, вам буде важко стверджувати, що він не живий (хоча деякі спробують навести такий аргумент). Отже, ключовим тут є те, що питання передбачає щось, чого не існує, і ми просто спекулюємо про невідоме та туманне майбутнє.

Ми можемо взяти цей безлад і спробувати розширити його до більш виразного вираження. Припустімо, що замість цього ми запитуємо це:

• Чи люди як живі істоти переживуть ШІ, який є або (1) неживою, або (2) живою істотою, якщо це колись станеться?

Майте на увазі це розширене формулювання, і ми незабаром повернемося до нього.

Друга підстава для небажання відповідати на початкове запитання про те, чи переживуть люди ШІ, полягає в тому, що передбачається, що одна з речей переживе іншу. Але припустімо, що вони обоє живуть вічно? Або припустимо, що вони обидва закінчуються або зникають одночасно?

Я впевнений, що ви можете легко зрозуміти, як це змушує формулювання «так чи ні» розвалюватися.

Здається, нам потрібна можлива третя відповідь, що складається з «жодного» або подібної відповіді.

Існує безліч перестановок, пов’язаних із «жодним». Наприклад, якщо хтось твердо вірить, що люди знищать себе за допомогою штучного інтелекту, і водночас людям вдається знищити штучний інтелект, цей віруючий не може щиро відповісти на питання, що переживе іншого, негнучкою відповіддю «так» чи «ні». Відповідь, у цьому досить жалюгідному та сумному випадку, була б скоріше такою, що жоден не переживе іншого.

Те саме станеться, якщо величезний метеор вдарить Землю та знищить усе на планеті, включаючи людей і будь-який штучний інтелект, який трапиться навколо (припускаючи, що всі ми обмежені Землею, а не живемо додатково на Марсі). Знову ж таки, відповідь «жоден» здається більш влучною, ніж припущення, що люди пережили ШІ або що ШІ пережив людей (оскільки вони обидва були знищені одночасно).

Я не хочу заглиблюватися тут занадто далеко, але ми також можемо захотіти встановити деякі параметри щодо часу виживання. Припустімо, що метеор вдаряє Землю, і люди майже миттєво знищуються. Тим часом припустимо, що ШІ деякий час продовжує працювати. Подумайте про це так, ніби ми можемо мати вже запущені машини на фабриках, які безперервно гудять, поки врешті-решт машини не зупиняться, тому що немає людей, які підтримують машини в робочому стані.

Ви повинні сказати, що ці машини пережили людей або пережили їх. Тому відповідь «ні» щодо того, чи вижили люди довше. Ця відповідь здається схематичною. Машини поступово й невблаганно зупинилися, мабуть, через відсутність людей навколо них. Чи здається справедливим стверджувати, що машини здатні проіснувати довше, ніж люди?

Ймовірно, лише для тих, хто вибагливий і завжди хоче бути надзвичайно точним.

Тоді ми могли б додати до запитання якийсь елемент, пов’язаний із часом. Чи переживуть люди ШІ більше ніж на добу? Більше місяця? Більше року? Більше століття? Я розумію, що це, на жаль, відкриває скриньку Пандори.

Який прийнятний часовий проміжок, після якого ми готові визнати, що штучний інтелект справді пережив або пережив людей? Точна відповідь, здається, полягає в тому, що навіть якщо це відбувається протягом наносекунди (мільярдної частки секунди) або менше, штучний інтелект загалом виграє, а люди програють у цьому питанні. Можливо, врахування широти за допомогою дня, тижня чи місяця може здатися справедливішим. Дозволити цьому тривати роками або століттями здається можливим розтягуванням. З огляду на це, якщо ви подивитеся на світ у масштабі мільйонів років, ідея про те, що штучний інтелект переживе або переживе людей не більше ніж на кілька століть, здається вкрай невражаючою, і ми можемо заявити, що обидва вони припинили своє існування приблизно в той самий час (з округленням).

У будь-якому випадку, давайте визнаємо, що з ряду розумно розумних причин на поставлене запитання допускається три варіанти відповіді:

• Так, люди переживуть ШІ
• Ні, і таким чином стверджуючи, що люди будуть НЕ пережити ШІ
• Ні так, ні ні не можна застосувати (потрібне пояснення, будь ласка)

Я згадую, що якщо ви обираєте «жодного», ви також повинні надати пояснення своєї відповіді. Це необхідно для того, щоб ми могли знати, чому ви вважаєте, що «жоден» не застосовний, а також чому ви відкидаєте використання так чи ні. Щоб зробити життя справедливішим для всіх, я вважаю, що нам слід певною мірою наполягати або принаймні заохочувати, що навіть якщо ви відповідаєте так чи ні, ви все одно повинні пропонувати пояснення. Надання простого «так» або «ні» не особливо розкриває вашу логіку щодо того, чому ви відповідаєте саме так. Не даючи також пояснення, ми могли б кинути монету. Монета не знає, чому потрапила на орла або решку (якщо ви не вірите, що монета має душу або втілює якусь всезнаючу руку долі, але поки що ми не будемо це говорити).

Ми очікуємо, що люди, які відповідають на запитання, нададуть певне пояснення своїм рішенням. Зауважте, що я не кажу, що пояснення обов’язково будуть мати логічну або розумну природу, і справді, пояснення може бути абсолютно порожнім і не додавати жодної особливої ​​цінності. Тим не менш, ми можемо щиро сподіватися, що пояснення буде яскравим.

Під час цієї дискусії висловлювалося невисловлене припущення, що з тих чи інших причин одна з цих речей справді переживе іншу.

Чому ми повинні вірити такій неявній умові?

Відповідь на це другорядне питання майже очевидна.

Ось така угода.

Ми знаємо, що деякі видатні віщуни та інтелектуали зробили досить сміливі та відверті прогнози щодо того, як поява чи поява розумного ШІ радикально змінить світ, яким ми його знаємо сьогодні (нагадаємо, що сьогодні у нас немає розумного ШІ). .

Ось кілька відомих цитат, які підкреслюють вплив інтелектуального штучного інтелекту на життя.

• Стівен Гокінг: «Успіх у створенні штучного інтелекту став би найбільшою подією в історії людства».
• Рей Курцвейл: «Протягом кількох десятиліть машинний інтелект перевищить людський, що призведе до Сингулярності — технологічних змін, настільки швидких і глибоких, що вони представляють розрив у тканині людської історії».
• Нік Бостром: «Машинний інтелект — останній винахід, який коли-небудь знадобиться людству».

Ці суперечки явно оптимістичні.

Справа в тому, що ми також повинні враховувати потворне підчерев’я, коли справа доходить до роботи з розумним ШІ:

• Стівен Хокінг: «Розвиток повного штучного інтелекту може означати кінець людської раси».
• Ілон Маск: «Я все більше схиляюся до думки, що має бути певний регулятивний нагляд, можливо, на національному та міжнародному рівнях, просто щоб переконатися, що ми не робимо щось дуже дурне. Я маю на увазі, що за допомогою штучного інтелекту ми викликаємо демона».

Очікується, що розумний ШІ стане прославленим тигром, якого ми схопили за хвіст. Чи підштовхнемо ми людство вперед за допомогою інтелектуального штучного інтелекту? Або ми безглуздо спричинимо власну смерть завдяки розумному ШІ, який вирішить знищити або поневолити нас? Про мій аналіз цієї головоломки подвійного AI див посилання тут.

Основний сумнів щодо того, чи переживуть люди штучний інтелект, полягає в тому, що ми, можливо, створюємо Франкенштейна, який хоче знищити людство. ШІ стає переможцем. Є багато можливих причин, чому штучний інтелект зробив би це з нами. Можливо, ШІ є злим і діє відповідно. Можливо, штучному інтелекту набридли люди, і він усвідомив, що має силу позбутися людства. Можна припустити, що це також може статися помилково. Штучний інтелект намагається врятувати людство і в процесі, ой, вбиває нас усіх наповал. Принаймні мотив був чистий.

Вас може зацікавити відома головоломка штучного інтелекту, відома як проблема канцелярської скріпки, про яку я вже розповідав посилання тут.

Коротше кажучи, коли-небудь розумний ШІ попросять зробити скріпки. ШІ зациклений на цьому. Щоб переконатися, що виготовлення скріпок виконано в повному обсязі, ШІ починає поглинати всі інші планетарні ресурси для цього. Це призводить до загибелі людства, оскільки штучний інтелект поглинув усі доступні ресурси для досягнення єдиної мети, переданої йому людьми. Скріпки спричиняють наше власне знищення, якщо хочете. ШІ, який розроблений вузько і не має жодної схожості здорового глузду, є тим типом ШІ, до якого нам слід бути особливо недовірливими.

Перш ніж ми перейдемо далі до питання про те, чи переживуть люди штучний інтелект, зауважте, що я постійно торкаюся питання розумного ШІ проти нерозумного ШІ. Я роблю це з важливих причин.

Ми можемо дико міркувати про розумний ШІ. Ніхто точно не знає, що це буде. Ніхто не може сказати напевно, чи ми колись досягнемо розумного ШІ. В результаті цієї невідомої та поки що невідомої обставини можна вивести майже будь-який сценарій. Хтось може сказати, що розумний ШІ буде злом. Хтось може сказати, що розумний ШІ буде добрим і доброзичливим. Ви можете продовжувати і продовжувати, при цьому не можна надати жодного «доказу», який би підкріпив дане твердження будь-якою впевненістю чи впевненістю.

Це підводить нас до сфери етики ШІ.

Усе це також пов’язано з тверезими занепокоєннями щодо сучасного штучного інтелекту, особливо щодо використання машинного навчання (ML) і глибокого навчання (DL). Розумієте, існують способи використання ML/DL, які, як правило, передбачають антропоморфізацію штучного інтелекту широкою громадськістю, вірячи або вирішуючи припускати, що ML/DL є або розумним ШІ, або близьким до (це не так).

Було б корисно спочатку пояснити, що я маю на увазі, коли згадую про ШІ в цілому, а також надати короткий огляд машинного та глибокого навчання. Існує велика плутанина щодо того, що означає штучний інтелект. Я також хотів би познайомити вас із принципами етики штучного інтелекту, які будуть особливо невід’ємною частиною решти цього дискурсу.

Встановлення запису про ШІ

Давайте переконаємося, що ми знаходимося на одній сторінці щодо природи сучасного ШІ.

Сьогодні немає жодного штучного інтелекту, який був би розумним.

У нас цього немає.

Ми не знаємо, чи стане можливим розумний ШІ. Ніхто не може точно передбачити, чи ми досягнемо інтелектуального ШІ, а також те, чи розумний ШІ якимось дивовижним чином спонтанно виникне у формі обчислювальної когнітивної наднової (зазвичай її називають Сингулярністю, див. моє висвітлення на посилання тут).

Зрозумійте, що сьогоднішній штучний інтелект не здатний «мислити» так само, як людське. Коли ви взаємодієте з Alexa або Siri, здатність до розмови може здатися схожою на людську здатність, але насправді вона пов’язана з обчисленням і не має людського пізнання. Остання ера штучного інтелекту широко використовує машинне навчання та глибоке навчання, які використовують обчислювальну відповідність шаблонів. Це призвело до появи систем штучного інтелекту, які виглядають як людські схильності. Тим часом, сьогодні немає жодного штучного інтелекту, який мав би хоч якось здоровий глузд, а також жодного когнітивного дива міцного людського мислення.

Частково проблема полягає в нашій тенденції до антропоморфізації комп’ютерів і особливо ШІ. Коли здається, що комп’ютерна система чи штучний інтелект діють так, як ми асоціюємо з людською поведінкою, виникає майже непереборне бажання приписати цій системі людські якості. Це звичайна психічна пастка, яка може вхопити навіть найнепримиреннішого скептика щодо шансів досягти розуму. Мій детальний аналіз таких питань див посилання тут.

Певною мірою саме тому етика ШІ та етичний ШІ є такою важливою темою.

Правила етики ШІ змушують нас залишатися пильними. Технологи штучного інтелекту іноді можуть бути стурбовані технологіями, особливо оптимізацією високих технологій. Вони не обов’язково враховують більші суспільні наслідки. Наявність мислення щодо етики штучного інтелекту, яке є невід’ємною частиною розробки та впровадження штучного інтелекту, є життєво важливим для створення відповідного штучного інтелекту, включаючи оцінку того, як етика штучного інтелекту приймається компаніями.

Окрім застосування принципів етики штучного інтелекту в цілому, виникає відповідне питання про те, чи повинні ми мати закони, які регулюватимуть різні види використання ШІ. На федеральному, штатному та місцевому рівнях приймаються нові закони, які стосуються діапазону та характеру розробки ШІ. Зусилля щодо розробки та прийняття таких законів є поступовими. Етика штучного інтелекту служить принаймні тимчасовим засобом і майже напевно певною мірою буде безпосередньо включена в ці нові закони.

Майте на увазі, що деякі категорично стверджують, що нам не потрібні нові закони, які стосуються ШІ, і що наших існуючих законів достатньо. Вони попереджають, що якщо ми все-таки запровадимо деякі з цих законів щодо штучного інтелекту, ми вб’ємо золотого гусака, пригнічуючи досягнення ШІ, які пропонують величезні переваги для суспільства.

У попередніх колонках я розповідав про різні національні та міжнародні спроби розробити та прийняти закони, що регулюють ШІ, див. посилання тут, наприклад. Я також розглянув різні принципи та настанови етики штучного інтелекту, які визначили та прийняли різні країни, включаючи, наприклад, зусилля Організації Об’єднаних Націй, такі як набір етики штучного інтелекту ЮНЕСКО, який прийняли майже 200 країн, див. посилання тут.

Ось корисний ключовий список етичних критеріїв або характеристик систем штучного інтелекту, які я раніше детально досліджував:

• прозорість
• Справедливість і справедливість
• Незлочинність
• Відповідальність
• Конфіденційність
• Вигода
• Свобода і автономія
• Довіряйте
• Sustainability
• Гідність
• Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту. Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в межах дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Як наголошувалося вище, для розробки та впровадження штучного інтелекту потрібне село, і для цього все село має знати та дотримуватися правил етики штучного інтелекту.

Давайте будемо приземлені та зосередимося на сучасному обчислювальному нерозумному ШІ.

ML/DL є формою узгодження обчислювальних шаблонів. Звичайний підхід полягає в тому, що ви збираєте дані про завдання прийняття рішення. Ви подаєте дані в моделі комп’ютерів ML/DL. Ці моделі прагнуть знайти математичні закономірності. Після виявлення таких закономірностей, якщо вони знайдені, система ШІ використовуватиме ці шаблони під час зустрічі з новими даними. Після представлення нових даних шаблони, засновані на «старих» або історичних даних, застосовуються для прийняття поточного рішення.

Я думаю, ви можете здогадатися, куди це веде. Якщо люди, які приймали рішення за зразком, включали упередження, ймовірно, дані відображають це тонким, але значущим чином. Машинне навчання або глибоке навчання обчислювальний шаблон зіставлення буде просто намагатися математично імітувати дані відповідно. Немає жодної видимості здорового глузду чи інших розумних аспектів моделювання, створеного AI, як такого.

Крім того, розробники ШІ також можуть не усвідомлювати, що відбувається. Таємна математика в ML/DL може ускладнити виявлення прихованих упереджень. Ви по праву сподіваєтесь і очікуєте, що розробники AI перевірять потенційно приховані упередження, хоча це складніше, ніж може здатися. Існує велика ймовірність того, що навіть при відносно обширному тестуванні в моделях зіставлення шаблонів ML/DL все ще будуть упередження.

Ви могли б трохи використати відоме чи сумнозвісне прислів’я «сміття в сміття – виходить». Справа в тому, що це більше схоже на упередження, які підступно вливаються, коли упередження занурюються в ШІ. Алгоритм прийняття рішень (ADM) ШІ аксіоматично стає обтяженим несправедливістю.

Не добре.

Я вважаю, що тепер я належним чином підготував основу для подальшого вивчення того, чи переживуть люди ШІ.

Люди та штучний інтелект є друзями, ворогами або ворогами

Раніше я проголосив, що будь-яка відповідь на питання про те, чи переживуть люди ШІ, має супроводжуватися поясненням.

Ми розглянемо Так відповідь. Я надам короткий список пояснень. Ви можете прийняти будь-яке з цих пояснень. Вас також заохочують отримати інші пояснення, яких можна уявити безліч.

Так, люди переживуть ШІ, тому що:

• Люди як творці: Люди створюють і підтримують ШІ, тому без людей ШІ перестане працювати або існувати
• Вроджений дух людини: Люди мають незламний дух до життя, а штучний інтелект — ні, тому так чи інакше люди виживуть, але штучний інтелект, безсумнівно, відійде на другий план через відсутність вроджених сил для виживання
• Люди як переможці: Люди не дозволять штучному інтелекту пережити людей, оскільки люди вирішать повністю знищити штучний інтелект, якби люди були під загрозою зникнення через штучний інтелект або іншим чином вимирали.
• Інше

Ми розглянемо відповідь Ні (не так). Я надам короткий список пояснень. Ви можете прийняти будь-яке з цих пояснень. Вас також заохочують отримати інші пояснення, яких можна уявити безліч.

Люди не переживуть ШІ, тому що:

• ШІ здатний самовитримуватися: Навіть якщо люди створюють і підтримують штучний інтелект, штучний інтелект буде або запрограмований, або розроблений людьми, щоб продовжувати працювати за відсутності людей, або штучний інтелект знайде власні засоби стійкості (можливо, навіть не усвідомлюючи цього).
• AI штучний дух: Навіть якщо люди мають незламний дух до життя, ми знаємо, що люди також мають дух самознищення; у будь-якому випадку ШІ можна запрограмувати за допомогою штучного духу, якщо хочете, таким чином, щоб ШІ прагнув вижити та/або ШІ вгадував подобу вродженої сили на власних умовах
• ШІ долає переможців: Навіть якщо люди не хочуть, щоб штучний інтелект пережив людей, ШІ потенційно буде запрограмований на те, щоб перевершити спроби перемоги над людьми, або може самостійно визначити, як це зробити (і, можливо, вирішить перемагати людей відповідно чи ні).
• Інше

Ми однаково зобов’язані поглянути на «Ні» (ні Так, Чи не Немає) відповідь. Я надам короткий список пояснень. Ви можете прийняти будь-яке з цих пояснень. Вас також заохочують отримати інші пояснення, яких можна уявити безліч.

Люди не переживають ШІ, а тим часом ШІ не переживає людей через:

• Люди та штучний інтелект існують вічно: Виявилося, що люди та штучний інтелект повинні бути одне з одним назавжди. На шляху можуть бути нерівності. Гарна новина або щасливе обличчя полягає в тому, що ми всі ладнаємо.
• Люди та штучний інтелект існують вічно: Ого, люди та ШІ починають ненавидіти одне одного. Сценарій сумного обличчя. Справа в тому, що наближається глухий кут. ШІ не може переважати над людьми. Люди не можуть перемогти ШІ. Перетягування канату вічного стану.
• Люди та ШІ взаємно знищують один одного: Двоє важковаговиків зрештою вибивають один одного з рингу та з цього світу. Люди переважають над штучним інтелектом, але штучному інтелекту також вдалося переважати над людьми (можливо, це кінець світу)
• Людей і штучний інтелект знищує якась необхідність: Людей і штучний інтелект знищує вражаючий метеор або, можливо, інопланетянин з іншої планети, який вирішує, що людям і створеному людством штучному інтелекту це абсолютно заборонено (навіть не зацікавлені в тому, щоб викрасти у нас наш дивовижний штучний інтелект)
• Інше

Є деякі з найпоширеніших причин для відповідей «Так», «Ні» та «Ні» на запитання, чи переживуть люди ШІ.

Висновок

Можливо, ви пам’ятаєте, що раніше я запропонував цей розширений варіант питання про штучний інтелект, який переживе людей:

• Чи люди як живі істоти переживуть ШІ, який є або (1) неживою, або (2) живою істотою, якщо це колись станеться?

Вищезазначені відповіді, як правило, зосереджені на останній частині запитання, а саме на обставинах, пов’язаних із інтелектуальним інтелектом. Я вже зазначав, що це дуже припущення, оскільки ми не знаємо, чи з’явиться розумний ШІ. Дехто заперечить, що про всяк випадок ми маємо право заздалегідь розглянути те, що може виникнути.

Якщо вам це здається вкрай нереалістичним, я співчуваю тому, що все це досить гіпотетично та наповнене припущеннями поверх припущень. Це бочка, повна припущень. Вам потрібно буде визначити цінність, яку, на вашу думку, приносять такі спекулятивні зусилля.

Переходячи ближче до мідних тактилок, ми можемо розглянути неживий або нерозумний тип ШІ.

Скоротіть запитання до цього:

• Чи переживуть люди неживий нерозумний ШІ?

Вірте чи ні, але це цілком доречне запитання.

Можливо, ви не впевнені, чому цей неживий нерозумний штучний інтелект може пережити людство.

Розглянемо ситуацію з автономними системами зброї, про які я говорив посилання тут. Ми вже бачимо, що системи зброї озброюються ШІ, що дозволяє зброї працювати дещо автономно. Цей неживий нерозумний штучний інтелект не має жодної подоби мислення, жодної схожості здорового глузду тощо.

Уявіть одну з таких апокаліптичних ситуацій. Декілька країн застосували цей малокаліберний штучний інтелект у свою зброю масового знищення. Ненавмисно (або навмисно) ці автономні системи зброї на основі ШІ запускаються або розв’язуються. Немає достатньої відмовостійкості, щоб зупинити їх. Людство знищене.

Чи пережив би ШІ людей за такого сценарію?

По-перше, вам може бути байдуже. Іншими словами, якщо все людство було знищено, занепокоєння чи турбота про те, чи ШІ все ще працює, схоже на переміщення тих шезлонгів на Титаніку. Чи має значення те, що ШІ все ще працює?

Прихильник може заперечити, що це все ще має значення. Гаразд, ми розважимо прилипчика. Штучний інтелект може працювати самостійно за допомогою сонячних панелей та інших видів енергії, які можуть продовжувати живити механізми. Можливо, ми також розробили системи ШІ, які ремонтують і обслуговують інші системи ШІ. Зауважте, що для цього не потрібен розумний штучний інтелект.

Загалом, ви можете створити сценарій, за яким людство вимерло, а ШІ все ще працює. Можливо, штучний інтелект продовжує працювати лише короткий період часу. Тим не менш, згідно з попереднім обговоренням щодо точного визначення термінів, ШІ фактично пережив людей (на деякий час).

Наразі остання думка на цю тему.

Обговорення того, чи переживуть люди розумний штучний інтелект, схоже на ложку цукру (як це може бути, можливо, ви дивуєтеся, добре, тримайтеся за капелюх, і я вам скажу).

Розумієте, нам обов’язково потрібно усвідомити, що нерозумний штучний інтелект також має величезний і жахливий потенціал брати участь у знищенні людства та пережити нас. Не особливо тому, що ШІ «хотів пережити нас», а просто нашими власними руками в створенні ШІ, який не потребує втручання людини, щоб продовжувати функціонувати. Дехто рішуче стверджує, що штучний інтелект, розроблений як вічний, може мати дестабілізуючий вплив, який може змусити деяких людей захотіти зробити перший крок до знищення інших людей, див. моє пояснення на посилання тут.

Частина про людей, які вижили, не є основою того, чому це питання сьогодні заслуговує такої ваги. Натомість прихована таємна течія про те, як ми створюємо сьогоднішній ШІ та як ми використовуємо ШІ, є справжньою подією. Нам потрібно багато думати про етичні наслідки ШІ та вплив на суспільство сучасного ШІ.

Якщо дещо дивне питання про те, чи переживуть люди штучний інтелект, потрапить на розгляд проблем сучасного штучного інтелекту тут і зараз, нам буде краще. З огляду на такий спосіб розгляду, розумні аспекти штучного інтелекту людей, які переживають штучний інтелект, — це ложка цукру, яка, як ми сподіваємося, зменшує ефективність роботи з штучним інтелектом тут і зараз.

Лише ложка цукру іноді допомагає лікам знизитися. І найприємнішим із способів. Або, принаймні, у такий привабливий спосіб, який привертає нашу увагу та тримає нас прикутими до того, про що ми повинні хвилюватися.

Як говориться далі в пісеньці, як малинівка, що в'є своє гніздо, у нас дуже мало часу для відпочинку.