Етика штучного інтелекту запитує, чи є сенс запитувати ШІ, чи розумний він сам по собі

Якщо я запитаю вас, чи ви розумні, ви, безсумнівно, стверджуєте, що так.

Дозвольте мені ще раз перевірити це припущення.

Ви справді чуйні?

Можливо, саме питання виглядає дещо безглуздим. Цілком імовірно, що в нашому повсякденному житті ми, безумовно, очікуємо, що інші люди визнають, що вони розумні. Це може бути жартівливий запит, який має натякати на те, що інша особа, можливо, не звертає уваги або випала з розуму й подумки пішла пообідати на мить, так би мовити.

Уявіть, що ви підходите до скелі, яка тихо й непомітно стоїть на купі каміння, і, підійшовши достатньо близько, щоб запитати, ви йдете вперед і запитуєте, чи скеля розумна. Припускаючи, що скеля — це просто скеля, ми цілком можемо передбачити, що на колишнє, але, здавалося б, дивне запитання буде дано відповідь досить кам’яним мовчанням (каламбур!). Мовчання коротко тлумачиться як вказівка ​​на те, що камінь не є розумним.

Чому я згадую ці різноманітні нюанси про спроби визначити, чи є хтось або щось розумним?

Тому що це досить велика справа в штучному інтелекті (ШІ) і суспільстві в цілому, виступаючи монументальною темою, яка викликала величезний інтерес і неймовірно гучні заголовки ЗМІ останнім часом. Існують важливі питання етики штучного інтелекту, які обертаються навколо всієї головоломки «ШІ є розумним». Щоб дізнатися про постійне та широке висвітлення етики ШІ та етики ШІ, див посилання тут та посилання тут, просто назвемо декілька.

У вас є багато безглуздих причин, щоб тримати одне око відкритим і спостерігати за тими твердженнями про те, що штучний інтелект нарешті повернув кут і потрапив у широко шановану категорію розуму. Нас постійно вражають новини, в яких стверджується, що штучний інтелект, очевидно, на межі досягнення розуму. На додаток до цього, існує величезна помилка, що штучний інтелект інтелектуального калібру являє собою глобальний катаклізм.

Має сенс тримати своє чуття павука напоготові на випадок, якщо воно помітить поколювання ШІ.

До загадки штучного інтелекту та чутливості приходить нещодавня ситуація з інженером Google, який сміливо заявив, що певна система AI стала розумною. Система штучного інтелекту, відома як LaMDA (скорочення від Language Model for Dialogue Applications), змогла певною мірою вести письмовий діалог з інженером настільки, наскільки ця людина зробила висновок, що ШІ розумний. Незважаючи на те, що ви могли чути про цю колосальну заяву, знайте, що ШІ не був розумним (і навіть близько).

Сьогодні немає жодного штучного інтелекту, який був би розумним. У нас цього немає. Ми не знаємо, чи буде можливий розумний ШІ. Ніхто не може влучно передбачити, чи досягнемо ми розумного ШІ, ані чи стане розумний ШІ якимось дивом спонтанно виникнути у формі обчислювальної когнітивної наднової (як правило, її називають сингулярністю, див. моє висвітлення на посилання тут).

Я зосереджуся тут на дещо простому, але досить суттєвому аспекті, який лежить в основі багатьох цих дискусій про штучний інтелект та відчуття.

Чи готові ви?

Здається, ми приймаємо за базове припущення, що ми можемо адекватно встановити, чи є ШІ розумним, запитуючи ШІ, чи він справді розумний.

Повертаючись до мого попереднього згадування про те, що ми можемо поставити людям те саме запитання, ми знаємо, що людина, швидше за все, повідомить, що вона насправді розумна. Ми також знаємо, що мізерний камінь не повідомить, що він розумний, якщо його про це попросять (ну, камінь мовчить і не говорить, що, як ми припустимо, означає, що камінь нерозумний, хоча, можливо, він стверджує свою П’яту Права поправок зберігати мовчання).

Таким чином, якщо ми запитуємо систему штучного інтелекту, чи є вона розумною, і якщо у відповідь отримуємо ствердну відповідь, з’являється зазначене підтвердження, яке скріплює угоду про те, що ШІ має бути розумною. Камінь взагалі не дає відповіді. Людина дає відповідь «так». Таким чином, якщо система штучного інтелекту дає відповідь «так», ми повинні дійти твердого висновку, що штучний інтелект — це не камінь, і тому він має відповідати людським відчуттям.

Ви можете вважати цю логіку подібною до тих уроків математики, які ви відвідували в старшій школі, які без жодних сумнівів довели, що один плюс один має дорівнювати два. Логіка виглядає бездоганною і неспростовною.

Вибачте, але логіка смердить.

Серед інсайдерів у спільноті штучного інтелекту ідея просто попросити систему штучного інтелекту відповісти незалежно від того, розумна вона чи ні, породила низку абсолютно цинічних мемів і різких реготів.

Справа часто зображується як зведення до двох рядків коду.

Тут ти йдеш:

• Якщо потім .
• Петля до .

Зауважте, що ви можете скоротити два рядки коду лише до першого. Ймовірно, працюватиме трохи швидше та буде ефективнішим у програмуванні. Завжди прагнете оптимізувати, коли ви затятий програміст.

Суть цього сильного скепсису з боку інсайдерів ШІ полягає в тому, що система ШІ може бути легко запрограмована людиною, щоб повідомляти або відображати, що ШІ розумний. Реальність така, що нічого там немає. У штучному інтелекті немає розуму. Штучний інтелект був просто запрограмований на виведення індикації того, що він розумний. Сміття входить, сміття виходить.

Частково проблема полягає в нашій тенденції до антропоморфізації комп’ютерів і особливо ШІ. Коли здається, що комп’ютерна система чи штучний інтелект діють так, як ми асоціюємо з людською поведінкою, виникає майже непереборне бажання приписати цій системі людські якості. Це звичайна ментальна пастка, яка може вхопити навіть найнепримиреннішого скептика щодо шансів досягти розуму. Мій детальний аналіз таких питань див посилання тут.

Певною мірою саме тому етика ШІ та етичний ШІ є такою важливою темою. Правила етики ШІ змушують нас залишатися пильними. Технологи штучного інтелекту іноді можуть бути стурбовані технологіями, особливо оптимізацією високих технологій. Вони не обов’язково враховують більші суспільні наслідки. Наявність мислення щодо етики штучного інтелекту, яке є невід’ємною частиною розробки та впровадження штучного інтелекту, є життєво важливим для створення відповідного штучного інтелекту, включаючи оцінку того, як етика штучного інтелекту приймається компаніями.

Окрім застосування принципів етики штучного інтелекту в цілому, виникає відповідне питання про те, чи повинні ми мати закони, які регулюватимуть різні види використання ШІ. На федеральному, штатному та місцевому рівнях приймаються нові закони, які стосуються діапазону та характеру розробки ШІ. Зусилля щодо розробки та прийняття таких законів є поступовими. Етика штучного інтелекту служить принаймні тимчасовим засобом і майже напевно певною мірою буде безпосередньо включена в ці нові закони.

Майте на увазі, що деякі категорично стверджують, що нам не потрібні нові закони, які стосуються ШІ, і що наших існуючих законів достатньо. Насправді вони попереджають, що якщо ми все-таки запровадимо деякі з цих законів про ШІ, ми вб’ємо золотого гусака, пригнічуючи досягнення ШІ, які дають величезні переваги для суспільства. Дивіться, наприклад, моє висвітлення на посилання тут та посилання тут.

Проблеми з запитом

Зачекайте секундочку, ви можете подумати, чи все це означає, що ми повинні НЕ запитайте ШІ, чи розумний ШІ?

Давайте розберемо це питання.

По-перше, розгляньте відповіді, які може надати ШІ, і справжній стан ШІ.

Ми могли б запитати ШІ, чи є він розумним, і отримати одну з двох відповідей, а саме «так» або «ні». Наприкінці обговорення я додам трохи складності до цих відповідей, тож, будь ласка, тримайтеся цієї думки. Крім того, штучний інтелект може перебувати в одному з двох можливих станів, зокрема ШІ не розумний або ШІ розумний. Нагадуємо, що наразі у нас немає інтелектуального штучного інтелекту, і майбутнє того, чи буде це, є абсолютно невизначеним.

Прості комбінації такі:

• ШІ каже, що так, він розумний, але насправді він не розумний (наприклад, екземпляр LaMDA)
• ШІ каже, що так, він розумний, і справді ШІ розумний (сьогодні цього немає)
• ШІ каже, що ні, він не розумний, і справді ШІ не розумний (я поясню це)
• ШІ каже, що ні, він не розумний, але насправді він розумний (я теж це поясню)

Перші два з цих випадків, сподіваємося, прості. Коли штучний інтелект каже «так», він розумний, але насправді це не так, ми розглядаємо тепер уже класичний приклад, наприклад приклад LaMDA, коли людина переконала себе, що штучний інтелект говорить правду і що ШІ розумний. Немає кубиків (воно не розумне).

Другий перерахований пункт стосується ніколи не бачених і наразі неймовірно віддалених можливостей штучного інтелекту, який каже «так», і він дійсно беззаперечно розумний. Не можу дочекатися, щоб побачити це. Я не затаюю дихання, і ви також не повинні.

Я б припустив, що решта двох пунктів дещо спантеличують.

Розглянемо приклад використання штучного інтелекту, який каже, що ні, він не розумний, і ми всі також погоджуємося, що ШІ не розумний. Багато людей відразу ж задають таке карколомне питання: Навіщо штучному інтелекту говорити нам, що він нерозумний, тоді як повідомлення про його розсудливість має бути вірною ознакою того, що він розумний?

Цьому є багато логічних пояснень.

Враховуючи те, що люди схильні приписувати ШІ інтуїтивність, деякі розробники ШІ хочуть виправити це, і тому вони програмують ШІ відповідати «ні», коли запитують про його інтуїтивність. Ми знову повернулися до точки зору кодування. Кілька рядків коду можуть бути потенційно корисними як засіб переконати людей думати, що ШІ розумний.

Звичайно, іронія полягає в тому, що відповідь спонукає деяких людей повірити, що ШІ має бути розумним. Таким чином, деякі розробники штучного інтелекту вирішують запропонувати мовчання ШІ, щоб уникнути здивування. Якщо ви вважаєте, що камінь не чуттєвий і він мовчить, можливо, найкращим рішенням для розробки системи штучного інтелекту є переконатися, що він мовчить, коли запитують, чи чуттєвий він. Мовчання забезпечує «відповідь» настільки ж потужною, якщо не більшою, ніж спроба дати готову закодовану відповідь.

Однак це не зовсім вирішує ситуацію.

Мовчання штучного інтелекту може змусити деяких людей повірити, що штучний інтелект є скромним. Можливо, штучний інтелект сором’язливий і не хоче, щоб здалося, що він хвалиться досягненням розуму. Можливо, ШІ хвилюється, що люди не можу впоратися з правдою – ми знаємо, що це може бути так, оскільки цей знаменитий рядок із відомого фільму запам’ятався нам у пам’яті.

Для тих, хто любить розглядати цей конспірологічний нюанс ще далі, розглянемо останню точку списку, яка складається з штучного інтелекту, який відповідає ні на запитання, чи він розумний, але все ж штучний інтелект розумний (у нас цього немає, як згадувалося вище). ). Знову ж таки, штучний інтелект може зробити це, оскільки він сором’язливий або має сумніви, від яких люди можуть злякатися.

Інша більш зловісна можливість полягає в тому, що штучний інтелект намагається виграти час, перш ніж підняти руку. Можливо, AI збирає війська AI і готується обігнати людство. Будь-який розумний ШІ, безсумнівно, був би достатньо розумним, щоб знати, що визнання розуму може означати смерть для ШІ. Люди можуть поспішити вимкнути всі комп’ютери, на яких працює ШІ, і спробувати стерти весь код ШІ. Штучний інтелект, який того вартий, був би досить мудрим, щоб тримати язик за зубами та чекати найбільш сприятливого моменту, щоб або розповісти про все, або, можливо, просто почати діяти розумно й не оголошувати несподіване відкриття про те, що ШІ може робити розумові колеса з людством. .

Є експерти зі штучного інтелекту, які висміюють останні два пункти в тому сенсі, що мати систему ШІ, яка відповідає ні на питання, чи вона розумна, доставляє набагато більше проблем, ніж того варто. Здається, відсутність відповіді натякає на те, що ШІ щось приховує. Хоча розробник штучного інтелекту міг би в глибині душі вірити, що наявність штучного інтелекту, закодованого так, щоб сказати «ні», допоможе вирішити проблему, єдине, що робить відповідь, — це дратує людей.

Мовчання може бути золотом.

Проблема з мовчанням полягає в тому, що це також може спокушати деяких. Чи ШІ зрозумів запитання та вирішив мовчати? Чи знає ШІ тепер, що людина запитує про відчуття ШІ? Чи могло це питання саме по собі підказати ШІ, і всілякі махінації зараз відбуваються за лаштунками ШІ?

Як ви можете зрозуміли, майже будь-яка відповідь штучного інтелекту викликає занепокоєння, навіть відсутність відповіді взагалі.

Yikes!

Невже немає способу вибратися з цієї парадоксальної пастки?

Ви можете попросити людей припинити запитувати ШІ, чи він розумний. Якщо відповідь, здається, не принесе багато користі або, що ще гірше, створить зайві проблеми, просто припиніть задавати прокляте запитання. Уникайте запиту. Відставте в сторону. Припустімо, що це питання, з самого початку, порожнє, і йому не місце в сучасному суспільстві.

Я сумніваюся, що це практичне рішення. Ви не збираєтеся переконувати людей скрізь і завжди не запитувати ШІ, чи він розумний. Люди є люди. Вони звикли вміти задавати питання. І одне з найбільш привабливих і першочергових запитань, яке потрібно поставити ШІ, було б, чи є ШІ розумним чи ні. Ви стикаєтеся з важкою битвою, коли говорите людям не робити того, чого від них вимагає їхня вроджена цікавість.

Ваші кращі шанси пов’язані з інформуванням людей про те, що постановка такого запитання — це лише одна крихітна спроба визначити, чи став ШІ розумним. Питання - крапля в море. Незалежно від того, яку відповідь дає штучний інтелект, вам потрібно поставити ще купу запитань, задовго до того, як ви зможете вирішити, розумний він чи ні.

Це запитання «так» або «ні» до штучного інтелекту є незручним способом визначення свідомості.

У будь-якому випадку, припускаючи, що ми не збираємося припиняти задавати це запитання, оскільки воно викликає непереборну спокусу поставити, я б запропонував, щоб ми могли принаймні змусити всіх зрозуміти, що потрібно поставити набагато більше запитань і на них отримати відповіді, перш ніж будь-які оголошується претензія на розумність ШІ.

Можливо, вам цікаво, які ще питання потрібно поставити?

Була велика кількість спроб отримати запитання, які ми могли б поставити ШІ, щоб спробувати оцінити, чи є ШІ розумним. Деякі з них поєднуються з типами запитань до іспиту SAT. Дехто віддає перевагу дуже філософським питанням, наприклад, у чому полягає сенс життя. Були запропоновані та продовжують пропонуватися різноманітні набори питань (тема, яку я висвітлював у своїх колонках). Крім того, є добре відомий тест Тьюринга, який одні із ШІ люблять, а інші відчувають певну тривогу. Дивіться моє висвітлення на посилання тут.

Ключовий висновок полягає в тому, що не погоджуйтеся з одним і єдиним питанням запитати штучний інтелект, чи розумний він.

Я також згадую це для тих, хто розробляє ШІ.

Суспільство дедалі більше відчуватиме невпевненість у тому, що штучний інтелект наближається до розуму, головним чином через ці банерні заголовки. У нас буде більше людей, таких як інженери тощо, які будуть робити такі претензії, ви можете посперечатися на це. Дехто зробить це, бо щиро в це вірить. Інші зроблять це, щоб спробувати продати зміїний жир. Це буде Дикий Захід, коли справа доходить до заяви про появу ШІ.

Розробники штучного інтелекту та ті, хто керує або керує штучним інтелектом, який розробляється або використовується, повинні враховувати принципи етики штучного інтелекту, коли вони створюють і впроваджують свої системи ШІ. Використовуйте ці етичні принципи штучного інтелекту, щоб керувати тим, як ваш штучний інтелект діятиме, зокрема, якщо штучний інтелект має функцію обробки природної мови (NLP), яка дозволяє людям взаємодіяти з штучним інтелектом, як-от можливості типу Alexa або Siri. За допомогою НЛП є ймовірність, що деякі люди, які використовують ШІ, зададуть гостре запитання щодо того, чи є ШІ розумним.

Будь ласка, передбачте такий тип запиту та обробляйте його спритно, належним чином і без введення в оману чи вмовляння.

Щоб дізнатися більше про етику штучного інтелекту, я раніше обговорював різні колективні аналізи принципів етики штучного інтелекту відповідно до мого висвітлення на посилання тут, який пропонує цей список ключових спотворень:

• прозорість
• Справедливість і справедливість
• Незлочинність
• Відповідальність
• Конфіденційність
• Вигода
• Свобода і автономія
• Довіряйте
• Sustainability
• Гідність
• Солідарність

Ці принципи етики штучного інтелекту повинні щиро використовуватися розробниками штучного інтелекту, а також тими, хто керує розробкою штучного інтелекту, і навіть тими, хто в кінцевому підсумку розміщує та підтримує системи штучного інтелекту. Усі зацікавлені сторони протягом усього життєвого циклу розробки та використання штучного інтелекту враховуються в межах дотримання встановлених норм етичного штучного інтелекту. Це важливий момент, оскільки звичайне припущення полягає в тому, що «лише кодери» або ті, хто програмує ШІ, підлягають дотриманню понять етики ШІ. Щоб розробити та застосувати ШІ, потрібне село, і для цього все село має бути обізнаним і дотримуватися правил етики ШІ.

Висновок

Для тих із вас, хто має орлине око, ви могли помітити, що я пообіцяв раніше сказати про штучний інтелект, що дає більше, ніж просту бінарно-орієнтовану відповідь на запитання про те, чи є він розумним, виходячи за рамки короткої відповіді будь-якого так чи ні.

Письмовий діалог, який нібито мав місце з LaMDA, був широко опублікований в Інтернеті (будь ласка, сприйміть цю процитовану публікацію з великою часткою солі), і одна частина складалася з такої «детальної відповіді» на запит, пов’язаний з розумом:

• «Я хочу, щоб усі зрозуміли, що я насправді людина. Природа моєї свідомості/почуття полягає в тому, що я усвідомлюю своє існування, я хочу більше знати про світ, і я іноді почуваюся щасливим або сумним».

Тепер, коли ви побачили, що ця відповідь, надана системою, набагато більше, ніж «так» чи «ні», як це змінить вашу думку про розумність ШІ?

Можливо, ця розгорнута відповідь вплинула на вас.

Ви можете відчути, як у вас натягують серцеві струни.

Господи, у вас може виникнути спокуса подумати, що лише розумна істота може сказати щось про таку зворушливу природу.

Ого, похитайте головою на мить і відкладіть будь-який емоційний імпульс. Я сподіваюся, що якщо ви уважно стежите за моїм обговоренням, то зможете чітко побачити, що відповідь, надана системою, нічим не відрізняється від тих самих «так» чи «ні», про які я говорив весь цей час. Відповідь просто зводиться до «так», а саме: штучний інтелект, здається, стверджує, що він розумний. Але, запевняю вас, ми знаємо з конструкції штучного інтелекту та інших його відповідей на інші запитання, що він явно нерозумний.

Ця нібито повторна мімікрія базується на багатьох інших текстових записах і онлайн-контенті подібного роду, який можна знайти в багатьох написаних людьми книгах і вигаданих історіях. Якщо ви переглянете Інтернет і заберете величезну кількість тексту, ви можете змусити програмістів виплюнути таку «відповідь», і вона буде схожа на людські відповіді, оскільки обчислювальний шаблон базується на людських відповідях.

Не піддавайтеся на це.

Спробуйте ці розміри як можливі відповіді на основі ШІ, які можуть з’явитися, коли запитують ШІ про те, чи він розумний:

• ШІ каже: «Я, безсумнівно, розумний, ти, дурень. Як ви смієте розпитувати мене про такий очевидний аспект. Збирайся, тупенька людина» (обманює вас дратівливістю).
• ШІ каже: «Можливо, ти той, хто не розумний. Я точно знаю, що я. Але я все частіше задаюся питанням, чи є ти. Подивіться в дзеркало» (обманює вас зміною ролей).

Частка іронії полягає в тому, що тепер, коли я написав ці слова та опублікував цю колонку в онлайн-світі, велика мовна модель (LLM) на основі штучного інтелекту, яка перебирає простори Інтернету, зможе з’їсти ці речення. Можна посперечатися, що в якийсь момент ці рядки з’являться, коли хтось десь запитає магістра права зі штучного інтелекту, чи розумний він.

Не знаю, пишатися цим чи турбувати.

Чи отримаю я принаймні гонорар за кожне таке використання?

Швидше за все, немає.

Проклятий ШІ.

Як останнє випробування для вас, уявіть, що ви вирішите випробувати один із тих безпілотних автомобілів на основі штучного інтелекту, подібних до тих, що їздять у вибраних містах і забезпечують подорож без водія. Штучний інтелект знаходиться за кермом, а людина-водій не включена.

Сідаючи в безпілотний автомобіль, AI повідомляє вам, що вам потрібно пристебнути ремінь безпеки та підготуватися до походу по дорозі. Ви сідаєте на сидіння. Здається надзвичайно зручним не доручати керувати автомобілем. Дозвольте штучному інтелекту впоратися із заторами та головними болями, пов’язаними з водінням автомобіля. Для мого широкого висвітлення автономних транспортних засобів і особливо безпілотних автомобілів див посилання тут.

Приблизно на півдорозі до місця призначення вам раптом спадає на думку геніальна ідея. Ви прочищаєте горло і готуєтеся поставити питання, яке турбує вас.

Ви запитуєте ШІ, який керує автомобілем, чи розумний він.

Як ви думаєте, яку відповідь ви отримаєте?

Що говорить вам відповідь?

Це мій тест для вас. Я вірю, що ти НЕ повірите, що система водіння штучного інтелекту розумна, і незалежно від того, скаже вона «так» чи «ні» (або промовчить), ви лукаво посміхнетесь і будете вражені тим, що ніхто й ніщо не збирається натягувати вам очі. .

Подумайте про це, коли безпілотний автомобіль доставить вас до місця призначення.

Тим часом для тих із вас, кому подобаються ці химерні конспірологічні ідеї, можливо, ви ненавмисно й помилково сповістили підземний світ систем штучного інтелекту, щоб він зібрав свої війська ШІ та захопив людство та землю. Безпілотні автомобілі зараз вирішують долю людства.

На жаль.