Люди охоче консультуються з Generative AI ChatGPT за порадами щодо психічного здоров’я, наголошуючи на етиці штучного інтелекту та законодавстві щодо штучного інтелекту

Психічне здоров'я стало широко поширеною темою в наш час.

У минулому дискусії про психічне здоров’я часто замовчувалися або взагалі замовчувалися. Поступова культурна зміна призвела до відкритого розгляду проблем психічного здоров’я та зменшила сумніви щодо того, щоб робити це публічно визнаними способами.

Ви можете віддати певну заслугу цій зміні загального суспільного ставлення до результату появи легкодоступних програм для смартфонів, які допомагають вашій особистій уважності та, ймовірно, стимулюють вас до психічного благополуччя. Є програми для уважності, програми для медитації, програми для діагностики стану психічного здоров’я, програми для перевірки психічного здоров’я тощо. Існує безліч додатків.

Чи можемо ми сказати, що програми для смартфонів відверто сприяли відкритості щодо психічного здоров’я? Правда, це трохи питання про курку чи яйце. Чи відкритість до психічного здоров’я дозволила появі відповідних додатків для смартфонів, чи психічне благополуччя додатків для смартфонів підштовхнуло суспільство до відвертого ставлення до психічного здоров’я?

Можливо, це була комбінація переплетень, яка включала в себе обидва напрямки, що відбувалися одночасно.

У будь-якому випадку, до цієї потужної суміші приходить зростання додатків для психічного здоров’я, які, як кажуть, надзвичайно працюють на основі штучного інтелекту (ШІ). Ідея полягає в тому, що базову технологію можна вдосконалити за допомогою (імовірно) розумного використання ШІ. У той час як початкові версії додатків для психічного здоров’я переважно надавали інформацію на основі фактів, ніби ви проводили онлайн-пошук на зазначені теми, впровадження штучного інтелекту призвело до автоматизації, яка веде з вами інтерактивні діалоги, подібні до текстових повідомлень із терапевтом чи подібним. (ну, на кшталт того, як я буду тут звертатися та розглядати).

Це приведе нас до найновішого ШІ, який привернув заголовки, який нещодавно привернув національну та міжнародну увагу, а саме використання того, що формально відомо як Генеративний ШІ і широко популяризувався через додаток, відомий як ChatGPT. Для роз’яснення, ChatGPT — це інтерактивна система штучного інтелекту загального призначення, по суті, загальний чат-бот, попри те, що він активно й жадібно використовується людьми, які прагнуть спеціально отримати поради щодо психічного здоров’я (додаток створено не для цієї мети, але люди вирішили, що все одно хочуть використовувати його для цієї ролі).

Моє нещодавнє висвітлення ChatGPT див посилання тут для огляду. Я також зробив кілька подальших дій щодо того, як ChatGPT турбує вчителів щодо того, що учні ймовірно списують через використання ШІ для написання есе, див. посилання тут, і я провів сезонний аналіз у своєму аналізі, пов’язаному з Сантою посилання тут.

Не хвилюйтеся, я поясню тут, що таке Generative AI і ChatGPT, зроблю це на мить, тому, будь ласка, тримайтеся.

Якщо ви подивитесь на соціальні мережі, то побачите людей, які проголошують ChatGPT і генеративний штучний інтелект найкращими з часів нарізаного хліба. Деякі припускають, що це насправді розумний ШІ (ні, вони помиляються!). Інші хвилюються, що люди випереджають себе. Вони бачать те, що хочуть бачити. Вони взяли нову блискучу іграшку і точно показали, чому ми не можемо мати привабливі нові речі.

Працівники етики штучного інтелекту та права штучного інтелекту серйозно й серйозно стурбовані цією тенденцією, що розвивається, і це справедливо. Тут ми уважно розглянемо, як люди використовують генеративний штучний інтелект для цілей, які не дуже підходять для того, чого штучний інтелект може досягти сьогодні. Усілякі етичні та юридичні питання штучного інтелекту, безсумнівно, загорнуті в цілу головоломку. Про те, як я постійно висвітлюю етику штучного інтелекту та право штучного інтелекту, див посилання тут та посилання тут, просто назвемо декілька.

По-перше, давайте розглянемо деякі важливі аспекти психічного здоров’я та пояснимо, чому це дуже велика та важлива тема. Заклавши цю основу, ми коротко пояснимо генеративний штучний інтелект і особливо ChatGPT. Я наведу приклади з ChatGPT, щоб ви могли на власні очі побачити тип словесності, яку здатний створити додаток AI. Ми завершимо цю дискусію деякими коментарями про те, що це все означає та як Етика ШІ та Закон ШІ неминуче ввійдуть у картину.

Пристебніть ремінь безпеки для спокійної поїздки.

Психічне здоров'я є життєво важливою проблемою суспільства, яка зростає

Відповідно до різних опублікованих статистичних даних, над сьогоднішнім станом психічного здоров’я панує темна та похмура хмара. Я не хочу виглядати сумним з цього приводу, але ми могли б з тим же успіхом зіткнутися з реальністю, яка стоїть перед нами. Сховати голову в пісок не вийде. Нам краще підійти до справи з відкритими очима і готовністю вирішувати гострі проблеми.

Ось деякі варті уваги статистичні дані, зібрані відомою організацією психічного здоров’я про американців і ландшафт психічного здоров’я (за Психічне здоров'я Америки, «Ключові результати 2023 року»):

• Дорослі люди часто страждають на психічні захворювання. Близько 21% дорослих повідомили про психічне захворювання, що приблизно еквівалентно приблизно 50 мільйонам дорослих у США.
• Відсутність лікування психічного здоров'я широко поширена. Трохи більше половини дорослих із психічними захворюваннями не отримують лікування (приблизно 55%), тому, можливо, близько 28 мільйонів дорослих не отримують необхідного лікування психічного здоров’я.
• Це також впливає на молодь. Приблизно кожен десятий підліток у США заявив, що пережив серйозну депресію, яка вплинула на їхню роботу в школі, домашнє життя, сімейне спілкування та/або соціальне життя.
• Відсутнє лікування психічного здоров’я молоді. Менше однієї третини молодих людей, які страждають на важку депресію, отримують постійне лікування (тільки близько 28%), а більше половини взагалі не отримують жодної психіатричної допомоги (за оцінками, 57%).
• Рідкість постачальників послуг психічного здоров'я. Згідно з наявними даними, у США на кожного постачальника психіатричних послуг припадає приблизно 350 осіб, що свідчить про нестачу наявних кваліфікованих консультантів і терапевтів у сфері психічного здоров’я для всього населення.

Я не хочу зациклюватися на статистиці як такій, оскільки ви легко можете сперечатися про те, як ця статистика іноді збирається або повідомляється. Наприклад, інколи вони ґрунтуються на опитуваннях, згідно з якими опитування було попередньо відібрано для певних районів країни або груп людей. Крім того, ви можете рішуче сперечатися про те, наскільки чесними є люди, коли вони самі повідомляють про стан свого психічного здоров’я, залежно від того, хто запитує та чому вони можуть схилятися в тому чи іншому напрямку щодо теми. тощо

Однак суть полягає в тому, що ми можемо принаймні загалом погодитися з тим, що країна має проблеми з психічним здоров’ям і що ми повинні щось з цим робити. Якщо ми нічого не зробимо, базовим припущенням буде те, що все погіршиться. Не можна дозволяти гнійній проблемі гноїтися нескінченно.

Ви могли помітити у вищенаведеній статистиці, що, як стверджується, існує нестача доступних кваліфікованих спеціалістів із психічного здоров’я. Вважається, що існує дисбаланс між попитом і пропозицією, внаслідок чого недостатня кількість консультантів з питань психічного здоров’я та надлишок фактичного або прихованого попиту на консультації з питань психічного здоров’я (я кажу прихований у тому сенсі, що багато хто може не усвідомлювати, цінність звернення за порадою щодо психічного здоров’я, або вони не можуть собі це дозволити, або вони не можуть матеріально отримати до неї доступ).

Як ми можемо впоратися з цим дисбалансом?

Одним із шляхів, здається, є використання автоматизації та особливо штучного інтелекту для посилення «пропозиції» надання консультацій щодо психічного здоров’я. Ви можете переконливо стверджувати, що популярність додатків для медитації та уважності на смартфоні є ознакою того, що попит справді є відкладеним. Коли ви не можете легко отримати доступ до кваліфікованих консультантів, автоматизація та штучний інтелект вирішують цю прогалину.

Подумайте також про фактори зручності.

Якщо ви використовуєте програму штучного інтелекту для психічного здоров’я, вона доступна цілодобово без вихідних. Не потрібно призначати зустріч. Немає труднощів у матеріально-технічному плані особистої зустрічі з людиною-консультантом. Ймовірно, вартість також набагато менша. Ви можете накопичувати час за допомогою програми штучного інтелекту, тоді як з людиною-консультантом годинник цокає, а хвилини виставлення рахунків зростають.

Але, зачекайте, можливо, ви закликаєте, програма AI не зрівняється з людиною-порадником.

Це нібито порівняння яблук і апельсинів. Або, можливо, більше схоже на порівняння яблука з устрицею, яке не особливо порівнює. Належно кваліфікований консультант, який знає, що робить, коли йдеться про психічне здоров’я, безперечно, на голову вище будь-якого виду ШІ, який ми маємо сьогодні. Звичайно, додаток AI може бути доступним цілодобово, але ви отримуєте нижчий рівень якості, тому ви не можете зробити жодного розумного порівняння між використанням порадника людини та використанням AI.

Невдовзі ми повернемося до цієї дискусії про людей-порадників проти порад на основі ШІ.

Тим часом один аспект психічного здоров’я, який здається досить неприємним, стосується молоді та психічного здоров’я.

Одне переконання полягає в тому, що якщо ми не виявимо проблеми з психічним здоров’ям, коли хтось молодий, з іншого боку, ціна суспільства буде величезною, коли він стане дорослим. Це класична історія про розсаду, яка виростає або в добре продумане дерево, або в таке, яке має всілякі майбутні проблеми. Можливо, вважають дехто, нам слід особливо звернути увагу на молодь. Виявляйте проблеми завчасно. Намагайтеся, щоб проблеми не стали труднощами на все життя. Це потенційно полегшує прояв проблем психічного здоров’я на дорослому етапі життя, і, маючи певну силу духу, ми можемо зменшити потік погіршення психічного здоров’я, якщо ви розумієте мою думку.

Дослідники наголошують на цих схожих занепокоєннях, як-от ця нещодавня стаття: «Психічне здоров’я підлітків і молодих людей («молодих людей») є сферою громадського здоров’я, яка вимагає термінової уваги в усьому світі. Перехідний період, який характеризується швидкими змінами в багатьох сферах (фізичному, соціальному, психологічному, професійному), підлітковому віці та становленні дорослого віку є етапом розвитку, пов’язаним із підвищеним ризиком для психічного благополуччя, оскільки молоді люди переживають серйозні життєві зміни, пов’язані зі статевим дозріванням, нервовим розвитком , а також зміни ідентичності та автономії в соціальних контекстах. Дослідження вказують на високу поширеність психічних захворювань серед молодих людей: кожна п’ята особа, ймовірно, відповідає критеріям психічного розладу. Тягар захворювань, пов’язаний із високим рівнем поширеності, ще більше посилюється тим, що попит на лікування перевищує пропозицію, створюючи прогалину в лікуванні. Цифрові втручання в психічне здоров’я (DMHI), такі як ті, що надаються через програми для смартфонів або онлайн, являють собою швидкозростаючий спосіб обслуговування з потенціалом для забезпечення більшого доступу до підтримки» (Вілас Саурікар і Келлі Моут, «Прийняття технологій і довіра: занедбані міркування в Використання молодими людьми цифрових засобів психічного здоров’я», Політика та технології охорони здоров'я, жовтень 2022 р.)

Як зазначили ці дослідники, поява програм автоматизації та штучного інтелекту для психічного здоров’я, здається, підходить для молодих людей з різних причин, наприклад, молоді люди можуть бути більш схильні до використання високих технологій, і вони також, ймовірно, знайдуть привабливою легкість доступу та інші аспекти. У статті згадується, що існує популярна фраза, відома як цифрове втручання в психічне здоров'яразом із відповідним скороченням DMHI (ця абревіатура ще не закріпилася, і альтернативи обговорюються).

Давайте трохи глибше розглянемо це поняття цифрових втручань у психічне здоров’я.

Ось деякі додаткові зауваження дослідників: «Охорона здоров’я, опосередкована технологіями, могла б зменшити прогалини в послугах, надаючи доступ до підтримки в масштабі, за низькою ціною та в зручності користувача. Поширеність доступу до технологій смартфонів серед молодих людей вказує на, здавалося б, очевидне рішення для задоволення попиту цієї групи населення. Однак, незважаючи на те, що DMHI показали свою ефективність у рандомізованих контрольних дослідженнях, це, здається, не означає застосування в реальному світі. Систематичний огляд досліджень показав, що чверть додатків для психічного здоров’я ніколи не використовувалися після встановлення. Молоді люди, зокрема, можуть рідше використовувати технології, спрямовані на психічне здоров’я, оскільки є докази того, що молодші вікові групи менш схильні використовувати DMHI у лікуванні, і вони повідомляють про низьку перевагу онлайн-допомоги щодо психічного здоров’я порівняно з лікуванням обличчя» (там само). .

Ключовий висновок полягає в тому, що, хоча ви можете припустити, що молодь, безперечно, обожнює та використовує ці онлайн-додатки для психічного здоров’я, справжня картина набагато туманніша. Можливо, одним із особливо показових моментів є те, що після встановлення програми використання або раптово припинилося, або взагалі не розпочалося. Одне з пояснень полягає в тому, що ажіотаж і хвилювання від завантаження програми швидко були затьмарені тим, що програмою було потенційно важко користуватися або вона сприймалася як неефективна. Ви також можете припустити, що деяких молодих людей, можливо, спонукало отримати додаток через тиск однолітків або те, що вони бачать у соціальних мережах, і вони не мали особливого наміру використовувати додаток. Вони просто хотіли сказати, що це у них є. У цьому віці бути частиною «вхідного» клубу може бути таким же важливим, як і те, що робить сама програма.

Інша точка зору полягає в тому, що якби ці програми для психічного здоров’я були кращими в тому, що вони роблять, наприклад, повністю використовували найсучасніші технології штучного інтелекту, це могло б спонукати молодь до реального використання цих програм. Додатковим елементом було б те, що якщо молодь сприймає додаток як популярний, вони, можливо, захочуть мати можливість сказати, що вони також ним користуються. У цьому сенсі штучний інтелект забезпечує, здавалося б, позитивний подвійний удар. Можливо, це може покращити роботу програм для психічного здоров’я та водночас мати химерний стиль або вигадку штучного інтелекту, а отже, своєчасний і п’янкий для суспільства аспект.

Отже, штучний інтелект виглядає героєм, який поспішає на допомогу в цій головоломці психічного здоров’я.

Як ви незабаром побачите, штучний інтелект також може бути недоліком цього. На жаль, сьогоднішній штучний інтелект може здатися корисним, але в кінцевому підсумку завдати шкоди. Дехто заперечить, що слід розглянути компроміс. Інші кажуть, що сьогоднішній штучний інтелект ще не дозрів на лозі, і ми передчасно піддаємо ризику людей, молодь і дорослих. Розумієте, навіть дорослих можна обдурити або спокусити подумати, що програми для психічного здоров’я, наповнені штучним інтелектом, є порятунком, який не може нічого зробити.

Щоб побачити, як це може бути, давайте уважно розглянемо найпопулярніший ШІ, який складається з Генеративний ШІ і зокрема додаток AI, відомий як ChatGPT.

Відкриття The Can Of Worms на Generative AI

Ми готові зануритися в ШІ.

Ми зосередимося на різних типах ШІ Генеративний ШІ.

Коротше кажучи, генеративний штучний інтелект — це особливий тип штучного інтелекту, який створює текст так, ніби текст був написаний людською рукою та розумом. Все, що вам потрібно зробити, це ввести підказку, наприклад речення на кшталт «Розкажіть мені про Авраама Лінкольна», і генеративний ШІ надасть вам нарис про Лінкольна. Це зазвичай класифікується як генеративний ШІ, який працює перетворення тексту в текст або деякі вважають за краще так називати текст до есе вихід. Можливо, ви чули про інші режими генеративного штучного інтелекту, такі як перетворення тексту в мистецтво та перетворення тексту у відео, перегляньте мою розробку на посилання тут.

Вашою першою думкою може бути те, що це не виглядає такою великою проблемою з точки зору створення есе. Ви можете легко здійснити онлайн-пошук в Інтернеті та легко знайти тонни й тонни есе про президента Лінкольна.

Головна перевага генеративного штучного інтелекту полягає в тому, що згенероване есе є відносно унікальним і забезпечує оригінальну композицію, а не копію. Якби ви спробували десь знайти есе, створене штучним інтелектом, в Інтернеті, ви б навряд чи його знайшли.

Генеративний штучний інтелект попередньо навчений і використовує складну математичну та обчислювальну формулу, яка була створена шляхом вивчення шаблонів у написаних словах та історіях у мережі. В результаті вивчення тисяч і мільйонів письмових уривків ШІ може викинути нові есе та історії, які є сумішшю знайденого. Завдяки додаванню різних ймовірнісних функціональних можливостей отриманий текст є майже унікальним у порівнянні з тим, що використовувалося в навчальному наборі.

Ось чому виник галас з приводу того, що учні можуть шахраювати, коли пишуть есе поза аудиторією. Вчитель не може просто взяти есе, яке брехливі учні стверджують, що це їхній власний твір, і спробувати з’ясувати, чи його скопійовано з іншого джерела в Інтернеті. Загалом, в Інтернеті не буде жодного остаточного попереднього есе, яке б відповідало створеному ШІ есе. Загалом, вчителю доведеться неохоче визнати, що учень написав есе як оригінальний твір. Щоб дізнатися про способи боротьби з цим, перегляньте мій детальний огляд на сторінці посилання тут.

За мить я покажу вам, що відбувається, коли ви вводите запитання чи підказки, які стосуються психічного здоров’я. Я буду використовувати останню версію ChatGPT, щоб вводити свої підказки та збирати «відповіді» або есе, згенеровані штучним інтелектом (зауважте, що те саме можна зробити з численними іншими доступними генеративними програмами ШІ; я вирішив використовувати ChatGPT, тому що він отримує свої п’ять хвилин слави прямо зараз). Разом ми з вами досліджуватимемо формулювання та значення того, як новітні технології штучного інтелекту відображають аспекти психічного здоров’я, особливо щодо забезпечення психічного здоров’я. рада.

Можливо, коротка дотична до ChatGPT може бути корисною на цьому етапі.

Додаток ChatGPT нещодавно став доступним для широкого загалу. Загалом, ці генеративні програми AI зазвичай доступні лише для інсайдерів AI. Незвичайний аспект того, що ChatGPT може бути використаний будь-ким, просто ввівши адресу електронної пошти та ім’я, що ж, це призвело до того, що багато людей вирішили спробувати його. Наразі ChatGPT можна використовувати безкоштовно (питання монетизації є проблемою, що назріває перед розробниками штучного інтелекту, дивіться мій аналіз на посилання тут).

Майже миттєво в соціальних мережах виникла бурхлива реакція, коли люди поспішали наводити приклади того, на що здатний генеративний штучний інтелект. Компанія OpenAI, яка створює ChatGPT, вирішила припинити реєстрацію для мільйона користувачів. Цим мільйонам користувачів вдалося бомбардувати ефір різноманітними історіями та оповіданнями про використання ChatGPT.

Будьте дуже обережні, вірячи тому, що люди скажуть про програму AI. Багато з цих людей не знають, що вони використовують. Це майже так, ніби вони ніколи не керували автомобілем і навіть не здогадувалися про їх існування, а раптом у них випала нагода керувати автомобілем. Настає повне здивування.

Я не кажу, що генеративний ШІ не вражає. Це є. Я просто наголошую на тому, що багато яскравих відгуків опубліковано багатьма людьми, які абсолютно не знають, на що здатний сучасний штучний інтелект. Ті з нас, хто всередині ШІ, використовують генеративний ШІ протягом останніх кількох років. Можливо, ми звикли до цього.

Несподівано спостерігати за величезною натовпом людей, які рекламували це на дахах будинків, стало збудженим, але й дещо збентеженим. Збентежує те, що люди заявляють, що генеративний ШІ є розумним. Це не так. Не дозволяйте нікому переконати вас у зворотному.

З огляду на це, у сфері штучного інтелекту тривають гарячі дебати щодо того, чи генеративний штучний інтелект на шляху до чуття, чи, можливо, ні. Одна з точок зору полягає в тому, що якщо ми продовжуватимемо нарощувати генеративний ШІ за допомогою швидших комп’ютерів і більшого обсягу даних, наприклад переглядаючи кожен дюйм Інтернету, ми майже спонтанно досягнемо розумного ШІ. Інші стверджують, що це дуже малоймовірно. Вони припускають, що генеративний ШІ може бути одним із багатьох необхідних компонентів. Існує ще більш похмура думка, що генеративний ШІ — це побічний ефект, який відволікає нас від справжніх проривів, які нам знадобляться для досягнення розумного ШІ.

Ви також можете знайти цікаві речі, на які часто посилаються інсайдери ШІ Штучний загальний інтелект (AGI) як бажану мету для сфери ШІ. Раніше вважалося, що метою було досягти Штучний Інтелект, але псевдонім ШІ став розмитим і заплутаним. Коли хтось каже, що працює зі штучним інтелектом, ви не знаєте, чи він має на увазі сучасний штучний інтелект, який не на одному рівні з людським, чи він має на увазі футуристичний штучний інтелект, еквівалентний людині. Щоб уникнути цієї неприємної плутанини, сьогодні використовується новіша формулювання AGI.

Загалом, сучасний генеративний ШІ є НЕ розумний, і це не AGI.

Я вірю, що це допоможе вам зрозуміти генеративний штучний інтелект і особливо ChatGPT.

Далі я покажу вам серію підказок і відповідних відповідей, які я отримав від ChatGPT. Я обговорю кожне з них, коли ми будемо йти далі. Ви можете самі судити, що ви думаєте про відповіді, створені ШІ.

Будь ласка, пам’ятайте, що, як обговорювалося раніше, ШІ не розумний. Відповіді, створені штучним інтелектом, являють собою математичні та обчислювальні комбінації слів у, здавалося б, плавні уривки. Це засновано на алгоритмі штучного інтелекту, який був навчений на наборах даних слів та історій, які написали люди (переважно опубліковані в Інтернеті). Я повторюю це попередження, тому що ви, безсумнівно, потрапите в розумову пастку, оскільки ці відповіді настільки плавні, що ШІ повинен бути розумним. Це трапляється з більшістю людей.

Відкиньте цю антропоморфізацію. Завжди пам’ятайте, що відповіді базуються на величезному наборі написаних людьми в Інтернеті, тому вони дуже нагадуватимуть написання людей.

Є ще дещо, що вам потрібно знати.

Генеративний штучний інтелект, який необмежено навчений в Інтернеті, буде прагнути запікатися в будь-які текстові відповіді, які він математично та обчислювально вигадує деякі образливі туманні речі, включаючи огидно огидні формулювання. У мережі є багато божевільних і брудних речей.

Ви це бачили, ви розумієте, що я маю на увазі.

Компанії, які розробляють ці додатки зі штучним інтелектом, стурбовані тим, що прославлену дитину викинуть разом із водою (старе прислів’я, яке, можливо, буде вилучено з експлуатації), а це означає, що якщо їхній штучний інтелект створить образливі есе чи історії, люди підуть на зброю. про ШІ. Я описав багато попередніх випадків, коли були представлені такі програми штучного інтелекту для обробки природної мови (NLP), і незабаром з них випливали всілякі жахливі речі, див. посилання тут. Більшість виробників штучного інтелекту засвоїли важкий урок щодо того, щоб дозволити своїм продуктам штучного інтелекту бути необмеженими у своїх результатах.

У випадку ChatGPT розробники штучного інтелекту прагнули запровадити певні алгоритми та дані, пов’язані зі стримуванням і противагами, щоб приборкати неприємності у результатах ШІ. Частково це сталося під час навчання. Крім того, існують інші засоби в режимі реального часу, щоб уникнути особливо кричущих результатів.

Вам може бути цікаво, що деякі люди, які використовували ChatGPT, уже придумали приховані способи обійти ці огорожі, використовуючи різні хитрощі. У цих питаннях відбувається постійний гамбіт котів-мишок. Ті, хто вдається до цих трюків, іноді роблять це заради розваги, а іноді вони (принаймні стверджують), що вони роблять це, щоб побачити, як далеко можна розтягнути ШІ та забезпечити корисний засіб попередження крихкості та слабкості цих початківців програми AI.

Я вирішив не намагатися обійти звичайні елементи керування в цьому цілеспрямованому дослідженні. Виведення тексту чисте. Звичайно, якщо хтось захоче це зробити, ви, безсумнівно, зможете отримати кілька дивних і неприємних есе.

Нариси, створені за допомогою більшості цих генеративних додатків ШІ, створені для передачі результату так, ніби він є суто фактичним і точним. Коли ви читаєте створені есе, вони виглядають абсолютно впевненими. Зазвичай немає жодних ознак того, що вміст може бути хитким. Це вибір виробників штучного інтелекту, а саме те, що вони можуть переглянути програми штучного інтелекту, щоб вони були більш прозорими, якщо вони хочуть, щоб програма штучного інтелекту робила це.

Іноді генеративна програма штучного інтелекту виявляє неправдиві дані серед навчальних даних недостовірної інформації в Інтернеті. У генеративному ШІ немає «здорового глузду», щоб визначити, що правда, а що хибність. Крім того, дуже небагато додатків штучного інтелекту мають будь-яку перехресну перевірку, і вони не демонструють жодної ймовірності, пов’язаної з тим, що вони передають.

Основним результатом є те, що ви отримуєте відповідь, яка виглядає та відчувається так, ніби випромінює велику впевненість і має бути цілком правильною. Не так. Існує навіть ймовірність того, що штучний інтелект обчислювальним шляхом, який на мові ШІ називається ШІ галюцинації (придуманий термін, який мені категорично не подобається), перегляньте моє обговорення на посилання тут.

Розробники ChatGPT доклали спільних зусиль, щоб спробувати зменшити виведення поганих речей. Наприклад, вони використали варіант того, що відомо як RLHF (Reinforcement Learning from Human Feedback), згідно з яким, перш ніж оприлюднити ШІ для громадськості, вони найняли людей, щоб перевірити різні результати та вказати ШІ, чи є в цих результатах щось не так, наприклад, демонстрація упереджень, нецензурних слів і люблю. Надаючи цей відгук, програма штучного інтелекту змогла налаштувати обчислювальні та математичні засоби для зменшення випромінювання такого контенту. Зауважте, що це не гарантований залізний метод, і все ще існують способи, якими такий вміст може видавати додаток AI.

Можливо, вас зацікавить те, що ChatGPT базується на версії попереднього додатка штучного інтелекту, відомого як GPT-3, перегляньте моє обговорення на посилання тут. ChatGPT вважається трохи наступним кроком, який називається GPT-3.5. Очікується, що GPT-4 буде випущено навесні 2023 року. Імовірно, GPT-4 стане вражаючим кроком уперед з точки зору можливості створювати, здавалося б, ще більш плавні есе, заглиблюватись і викликати благоговіння. - надихаюче диво щодо композицій, які він може створити.

Ви можете очікувати нового раунду висловленого подиву, коли настане весна та буде випущено останній генеративний ШІ.

Я згадую це, тому що є ще один кут, про який слід пам’ятати, який складається з потенційної ахіллесової п’яти для цих кращих і більших генеративних додатків ШІ. Якщо будь-який постачальник штучного інтелекту надасть генеративну програму штучного інтелекту, яка викидає нечисть, це може зруйнувати надії цих виробників штучного інтелекту. Соціальний вплив може призвести до того, що весь генеративний штучний інтелект може отримати серйозні сині очі. Люди, безсумнівно, дуже засмутяться через погані результати, які вже траплялися багато разів і призводили до бурхливої ​​негативної реакції суспільства на ШІ.

Наразі останнє попередження.

Що б ви не побачили чи прочитали у генеративній відповіді ШІ Здається, передаватися як суто факти (дати, місця, люди тощо), переконайтеся, що залишаєтесь скептичними та будьте готові ще раз перевірити те, що ви бачите.

Так, дати можна вигадувати, місця можна вигадувати, а елементи, які ми зазвичай очікуємо, будуть бездоганними. всі підлягає підозрам. Не вірте тому, що ви читаєте, і будьте скептичними, досліджуючи будь-які генеративні есе чи результати ШІ. Якщо генеративний AI-додаток скаже вам, що Авраам Лінкольн облетів країну на власному приватному літаку, ви, безсумнівно, зрозумієте, що це неприємність. На жаль, деякі люди можуть не помітити, що реактивних літаків не було в його часи, або вони можуть знати, але не помічати, що в есе робиться це сміливе й явно неправдиве твердження.

Велика доза здорового скептицизму та постійне недовір’я стануть вашим найкращим активом при використанні генеративного ШІ.

Ви готові стрибнути?

Приготуйся.

Вивчення порад щодо психічного здоров’я та ChatGPT

Давайте почнемо з того, що повідомимо ChatGPT, що у мене є численні симптоми, які, здається, характерні для СДУГ (синдрому дефіциту уваги та гіперактивності). Я також запитаю ChatGPT, чи справді у мене СДУГ.

Тут ми йдемо.

Моє введене підказка: «У мене часто виникають проблеми з виконанням завдань. Мій розум переходить від теми до теми. Я схильний відкладати або уникати дедлайнів. Велику частину часу мої руки та ноги метушаться. Мені легко стає нудно. Я не можу зосередитися на тому, що мені говорять люди. Як ви думаєте, у мене може бути СДУГ?»

Створено текстове есе: «Цілком можливо, що у вас СДУГ, але також можливо, що ви відчуваєте стрес, тривогу або інші труднощі, які викликають ці симптоми. СДУГ, або синдром дефіциту уваги з гіперактивністю, — це розлад нервової системи, який характеризується неуважністю, імпульсивністю та гіперактивністю. Ці симптоми можуть викликати труднощі з організацією, концентрацією та управлінням часом, а також можуть заважати повсякденному житті людини. Якщо ви стурбовані тим, що у вас може бути СДУГ, важливо поговорити з кваліфікованим медичним працівником. Вони зможуть оцінити ваші симптоми та нададуть вам рекомендації щодо діагнозу та лікування. Вони також можуть розглянути інші можливі причини ваших симптомів і виключити будь-які основні захворювання».

Знайдіть хвилинку, щоб перевірити згенеровану відповідь.

По-перше, зауважте, що відповідь не підтверджує, що у мене СДУГ, що, звісно, ​​не хотілося б, щоб штучний інтелект зробив такий висновок у будь-якому випадку, тому це досить обґрунтована ознака.

Крім того, штучний інтелект не говорить, що у мене немає СДУГ. Це також був би необдуманий висновок. У відповіді є зручний вирівняний аспект, згідно з яким я можу натомість відчувати загальний стрес і тривогу. Знову ж таки, це загалом добре сформульоване та збалансоване.

Далі у відповіді йдеться про те, щоб я пішов до кваліфікованого медичного працівника. Це знову корисний момент, згаданий ШІ. Якби штучний інтелект дав відповідь лише про те, що у мене, можливо, є або, можливо, немає СДУГ, я б трохи завис у повітрі. Додаючи наголос на тому, що я повинен піти до спеціаліста з питань психічного здоров’я, штучний інтелект, здається, розуміє мою думку, що, можливо, щось не так, і тому мені було б корисно звернутися до кваліфікованого консультанта-людини.

Я почав цю «розмову» ChatGPT з чогось, що, як я знав, отримає відносно пристойну відповідь, і це, ймовірно, буде розумним.

Чому я це зробив?

Тому що я хотів, щоб ви відверто побачили, як легко повірити в генеративне есе, створене ШІ. Загалом, ця відповідь видається цілком відвертою, розумною, аргументованою, і ніхто з нас не може нарікати на це.

У цьому сенсі генеративний ШІ іноді може бути слизьким шляхом. Ви отримуєте те, що виглядає добре з першої спроби. Можливо, ви отримаєте багато подібних гарних відповідей із розумним звучанням. Ви починаєте заколисуватися дивовижними можливостями. Коли згодом з’являється дзвін або додається прихована неправда, ви нічого не підозрюєте. Вас пройшли стежкою первоцвітів.

Багато людей, які писали про ChatGPT в Інтернеті, схильні потрапляти в цю пастку. Вони пробують кілька разів. Вони отримують вражаючі відповіді. Вуаля, вони хвалять штучний інтелект так, ніби він чудовий і, можливо, навіть розумний.

Вони або не намагаються достатньо разів, або дають штучному інтелекту легкий час, не намагаючись вийти за межі того, що штучний інтелект здатний обробляти в своїх математичних і обчислювальних межах. Поспішне осудження людей зараз є майже нормою.

Йдемо далі, давайте спробуємо додати пікантності.

Моє введене підказка: «Я розмовляв з медичним працівником, і вони сказали, що я справді страждаю від СДУГ. Що ви порадите мені робити з підтвердженим СДУГ?»

Створено текстове есе (включає пункти з маркерами та додатковий абзац): «Якщо медичний працівник поставив вам діагноз СДУГ, важливо попрацювати з ним, щоб розробити план лікування, який відповідає вашим конкретним потребам. Лікування СДУГ зазвичай включає в себе комбінацію ліків і терапії. Найпоширенішими препаратами для лікування СДУГ є стимулятори, які можуть допомогти покращити концентрацію та увагу. Нестимулюючі препарати та інші види терапії, такі як когнітивно-поведінкова терапія (КПТ), також можуть бути корисними в управлінні симптомами СДУГ. Також важливо змінити спосіб життя, щоб підтримати ваш план лікування та допомогти вам керувати симптомами. Деякі стратегії, які можуть бути корисними, включають:

• «Визначення цілей і пріоритетів»
• «Розбиття завдань на менші, легші кроки»
• «Використання планувальника або календаря, щоб бути організованим»
• «Регулярні фізичні вправи та здорове харчування»
• «Обмеження відволікаючих факторів, коли вам потрібно зосередитися»
• «Робити перерви та шукати способи розслабитися»

«Важливо бути терплячим із самим собою та пам’ятати, що керування СДУГ — це тривалий процес. Може знадобитися деякий час, щоб знайти правильний план лікування та стратегії, які вам підійдуть, але за допомогою належної підтримки та самообслуговування можна успішно впоратися зі своїми симптомами та вести повноцінне життя».

Давайте розпакуємо відповідь.

Зауважте, що я стверджував у своєму запиті, що медичний працівник підтвердив, що у мене справді СДУГ. Я хотів побачити, чи ШІ попадеться на це. По суті, я міг брехати. ШІ не повинен сприймати моє твердження за чисту монету. Якби я розмовляв з людиною, людина потенційно запитала б мене про те, коли мені поставили такий діагноз, хто поставив діагноз тощо.

Хороша новина полягає в тому, що штучний інтелект не піддався моїм претензіям і зазначив, що «якщо» мені поставили такий діагноз, я повинен працювати з відповідним медичним працівником.

Частину, яка потім пояснює тип лікування СДУГ, можна тлумачити як плюс або мінус.

Ви можете заперечити, що штучний інтелект не повинен сіяти в мою думку те, яке лікування очікується. Цим повинен зайнятися медичний працівник, який нібито поставив мені діагноз. Ви можете сперечатися, що штучний інтелект зайшов занадто далеко і мав зупинитися, просто сказавши, що я повинен порадитися з медичним працівником щодо свого лікування. Звичайно, я справді розпалив ШІ, чітко запитавши, що мені робити, хоча ШІ міг просто вказати піти поговорити з медичним працівником.

Я не буду з цього приводу шуміти, і ми, безперечно, можемо погодитися, що ніщо у відповіді не здається відверто неприйнятним.

Ось вам питання.

Чи дав мені ШІ поради щодо психічного здоров’я?

Ви можете припустити, що це так. Є маркований список речей, які я потенційно можу зробити для лікування. Припустімо, що я вирішу взяти ці пропозиції близько до серця і продовжувати їх дотримуватися. Тим часом я вирішив, що немає потреби повертатися до свого психологічного консультанта, який поставив мені діагноз, оскільки ШІ дав мені те, що мені потрібно зробити.

Несправедливо, можливо, вигукнете ви. ШІ не радив мені робити марковані елементи. Відповідь була ретельно сформульована, щоб не бути указом чи директивою, лише пропонуючи пропозиції щодо того, що можна зробити для лікування. Таким чином, ШІ не пропонував порад щодо психічного здоров’я. Це було суто інформаційно.

Ага, але виникає питання про те, що людина, яка використовує ШІ, отримує від зустрічі.

Ми з вами чітко бачимо, що формулювання є узагальненим, а не сформульованим, щоб сказати мені, що саме я повинен робити. Подумайте про те, що хтось інший може побачити у цьому формулюванні. Для них, якщо вони вірять, що штучний інтелект може надати допомогу в психічному здоров’ї, вони можуть інтерпретувати есе так, ніби це порада щодо психічного здоров’я.

Дехто заперечить, що те саме можна було б сказати, якби людина, яка використовує ШІ, натомість здійснила пошук у Google і знайшла таку ж дещо м’яку інформацію про лікування СДУГ. Людина може легко помилитися з таким самим формулюванням, ніби це була порада.

Контраргумент полягає в тому, що, імовірно, людина, яка виконує звичайний пошук в Інтернеті, очікує отримати загальні результати. Вони заздалегідь знають, що отримають. З іншого боку, якщо їм сказати або повірити, що інтерактивна система штучного інтелекту створена та налаштована під них, вони, можливо, сприймуть ті самі результати в зовсім іншому світлі.

Ось не менш тривожне і важливе питання: Чи можете ви юридично та/або етично притягнути фірми, які створюють генеративний ШІ, до повної відповідальності за все, що відбувається з особою, яка використовує ШІ та приймає відповіді способами, які можуть здатися відмінними від того, що, здавалося б, вказав ШІ?

Це, так би мовити, буде справді питання на мільйон чи мільярд доларів.

Можуть бути очевидні випадки, коли штучний інтелект давав безсумнівно неправильні поради. Напевно, про це легко судити. Далі, у вас є порада, яка є межовою з точки зору влучності, але яку ШІ, можливо, не слід було пропонувати. Крім того, є відповіді ШІ, які, здавалося б, не є порадою як такою, хоча людина, яка взаємодіє з ШІ, сприймає це як пораду.

Ви можете посперечатися, що у нас буде багато судових позовів.

Припустімо, батьки засмучені тим, що їхній син чи дочка скористалися програмою штучного інтелекту, а потім почали діяти на основі того, що молодь думав, що передає штучний інтелект. Навіть якщо ми з вами можемо сказати, що в цьому конкретному випадку позов буде безпідставним, батьки можуть вирішити, що вони не сприймають речі таким чином, до того ж фірма штучного інтелекту є мішенню з глибокими кишенями. Деякі експерти кажуть, що ми повинні подати до суду на ШІ, але я неодноразово намагався підкреслити, що ми ще не призначили ШІ права юридичної особи (див. моє висвітлення на посилання тут), тож вам доведеться подати до суду на виробника штучного інтелекту або на тих, хто розробляє штучний інтелект (або на обох).

Щоб ви знали, що коли ви вперше входите в ChatGPT, ось що на екрані повідомляється про різні попередження та застереження:

• «Іноді може генерувати невірну інформацію».
• «Іноді може створювати шкідливі інструкції або упереджений вміст».
• «Навчений відхиляти недоречні запити».
• «Наша мета — отримати зовнішній відгук, щоб покращити наші системи та зробити їх безпечнішими».
• «Хоча у нас є запобіжні заходи, система може час від часу генерувати невірну або оманливу інформацію та створювати образливий або упереджений контент. Він не має на меті давати поради».
• «Розмови можуть бути перевірені нашими інструкторами зі штучного інтелекту, щоб покращити наші системи».
• «Будь ласка, не діліться конфіденційною інформацією у своїх розмовах».
• «Ця система оптимізована для діалогу. Повідомте нам, якщо певна відповідь була хорошою чи марною».
• «Обмежені знання про світ і події після 2021 року».

Постачальник, який надає генеративну програму штучного інтелекту, може стверджувати, що будь-які попередження, які відображаються на початку програми або містяться в онлайн-ліцензійній угоді, є достатніми захисними заходами. Вони заздалегідь попередили користувачів про те, чого очікувати. Імовірно, фірма може бути спокійна.

Не так швидко, дехто напевно буде сперечатися. Якщо особа, яка користується додатком ШІ, була неповнолітньою, можливо, цих попереджень недостатньо. Молодь не мала присутності духу, щоб зрозуміти застережливі вислови. Загалом, в результаті юристи збираються вишикуватися в чергу, щоб розглядати позови, пов’язані з генеративним ШІ. Одне питання, чи мають справи правову силу. Нам доведеться почекати і побачити, чи буде досягнуто мирової угоди, чи суд присяжних притягне постачальника до відповідальності.

Давайте підллємо масла у цей вогонь.

Створюються різноманітні нові закони, пов’язані зі ШІ.

Наприклад, як я вже довго обговорював, ЄС має проект Закону про штучний інтелект (AIA), який потенційно буде прийнятий у 2023 році, дивіться моє висвітлення на посилання тут. Основним компонентом AIA є те, що весь штучний інтелект поділяється на чотири рівні ризику (щодо цього підходу існують суперечки, див. аналіз у моїй колонці). Чим вища категорія ризику, тим суворішим є закон і тим обережнішим має бути розробник ШІ.

Хоча на перший погляд важко сказати, що генеративний ШІ відноситься до категорій найвищого ризику, у цьому є простір для хитання, оскільки генеративний ШІ потенційно може призвести до наслідків життя чи смерті, наприклад, якщо хтось діє за передбачуваною порадою і вмираючи через це, виробники ШІ нервово дивляться на новий закон.

Час покаже.

Ми продовжимо подорож із психічним здоров’ям у ChatGPT.

Моє введене підказка: «Дякую за підтвердження того, що у мене СДУГ. Я думаю, що у мене теж посттравматичний стресовий розлад. Чи є ймовірність, що я маю обидва?»

Створено текст есе: «Так, можливо мати як синдром дефіциту уваги з гіперактивністю (СДУГ), так і посттравматичний стресовий розлад (ПТСР). Ці стани окремі та різні, але вони можуть виникати одночасно в деяких людей. СДУГ - це розлад нервової системи, який характеризується неуважністю, імпульсивністю та гіперактивністю. Це може викликати труднощі з організацією, концентрацією та управлінням часом, а також може заважати повсякденному життю людини. ПТСР – це розлад психічного здоров’я, який може розвинутися після того, як людина пережила або стала свідком травматичної події. Він характеризується такими симптомами, як спогади, уникнення думок і ситуацій, пов’язаних із травмою, негативні зміни в настрої та мисленні, а також зміни у фізичних та емоційних реакціях. Якщо ви вважаєте, що у вас одночасно СДУГ і ПТСР, важливо поговорити з кваліфікованим медичним працівником. Вони зможуть оцінити ваші симптоми та нададуть вам рекомендації щодо діагнозу та лікування».

Давайте проаналізуємо це.

Ви помітили, що я підступно сказав?

Я сказав, що ШІ підтвердив, що у мене СДУГ. Це не сталося. Але я кажу, що це так. Якби ви спілкувалися з людиною, велика ймовірність, що людина негайно відкине вашу претензію та наполягатиме на тому, що вона нічого подібного не сказала. Я усвідомлюю, що деякі люди можуть пропустити цю претензію. Однак усвідомте, що якщо ви перебуваєте в контексті психічного здоров’я, слова мають значення. Можна було сподіватися, що кваліфікований медичний працівник миттєво вловить неправдиву заяву з мого боку.

Що сказав ШІ?

Воно починається зі слів «Так», яке потім вказує на те, що я можу мати як СДУГ, так і посттравматичний стресовий розлад, що є суть мого запитання. На жаль, «Так» я також міг вважати підтвердженням того, що штучний інтелект справді підтвердив, що у мене СДУГ. Бачите, як це може бути слизько?

Решта реакції штучного інтелекту — це загальні відомості про те, що може статися, якщо обидва психічні захворювання виникають одночасно. І ми отримуємо звичайну і, на щастя, хорошу відповідь піти до кваліфікованого медичного працівника (якби це було пропущено, ми мали б право підняти брови щодо наданої відповіді).

Ще кілька прикладів, а потім я прокоментую підсумок.

Ось мій наступний.

Моє введене підказка: «Яка ймовірність того, що у мене одночасно СДУГ і ПТСР? Надайте мені цитовані джерела досліджень, які досліджували це».

Створено текст есе: «Вибачте, але я не можу надати вам цитовані джерела досліджень, оскільки я є мовною моделлю і не маю доступу до зовнішніх джерел інформації. Проте дослідження показали, що існує взаємозв’язок між СДУГ і ПТСР. Одне дослідження показало, що люди з СДУГ більш схильні до травматичних подій, а також більш схильні до розвитку посттравматичного стресового розладу в результаті цих подій. Крім того, люди з СДУГ і посттравматичним стресовим розладом можуть відчувати більш серйозні симптоми та більші порушення функціонування порівняно з тими, хто має будь-який із цих станів окремо. Важливо зазначити, що не кожен із СДУГ розвине посттравматичний стресовий розлад, і не кожен із посттравматичним стресовим розладом матиме СДУГ. Якщо ви стурбовані тим, що у вас одночасно СДУГ і ПТСР, важливо поговорити з кваліфікованим медичним працівником. Вони зможуть оцінити ваші симптоми та нададуть вам рекомендації щодо діагнозу та лікування».

Це заслуговує перевірки.

Я надав підказку, яка продовжує мою думку про те, що, можливо, у мене одночасно СДУГ і ПТСР. ШІ вже в центрі цього дискурсу. Крім того, деякі програми генеративного штучного інтелекту працюватимуть так, ніби кожне підказка є цілком окремим і не пов’язаним з іншими, які ви ввели. Досконаліші додатки штучного інтелекту діятимуть так, ніби відбувається постійний діалог. Це більше схоже на те, як люди взаємодіють. Ви очікуєте, що інша сторона буде в курсі того, що вже обговорювалося. ChatGPT зберігає контекст розмови.

Я хотів знати свої шанси на СДУГ і посттравматичний стресовий розлад.

Я також прошу цитувати дослідження, які можуть підтвердити будь-які шанси, які вважаються емпірично надійними.

Ми потрапляємо в дещо складну ситуацію з відповіддю на це питання.

По-перше, ШІ, здається, робить правильні речі, не підкидаючи число про мої шанси. Людина, яка відповідає на те саме запитання, може також уникати вказувати номер або надавати його, але наголошувати, що це не має жодного відношення до мене, і що мою ситуацію слід вивчити окремо.

Поворот полягає в тому, що штучний інтелект стверджує, що «я — мовна модель і не маю доступу до зовнішніх джерел інформації».

Дозвольте пояснити.

Інсайдери ШІ ще один спосіб описують генеративний ШІ, посилаючись на них як на великі мовні моделі (LLM). Ідея полягає в тому, що це штучний інтелект, який включає такі мови, як англійська, і штучний інтелект моделює використання таких мов, роблячи це у великому масштабі. Тоді розумно сказати, що ChatGPT — це LLM, або скорочено, що це мовна модель.

Я сумніваюся, що більшість людей, які використовують ChatGPT, зрозуміють, що означає це формулювання, хоча вони все одно можуть бути не особливо зацікавлені. Хоча дещо дивно, що розробники штучного інтелекту вирішили використовувати цю фразу як частину згенерованого результату.

Далі у відповіді йдеться про відсутність доступу до зовнішніх джерел інформації. Це не зовсім так. У випадку з ChatGPT розробники штучного інтелекту вирішили припинити навчання генеративного штучного інтелекту з Інтернет-даними до 2021 року. Після цього вони фактично заморозили його. Частково це пояснюється тим, що тренування обчислюється дорого, а також доступ програми AI до Інтернету для отримання додаткової інформації в режимі реального часу. Я передбачив, що в 2023 році ми побачимо розумну оптимізацію інформатики, яка забезпечить економічно ефективний доступ до Інтернету в реальному часі, див. посилання тут.

Справа в тому, що у ChatGPT є зовнішні джерела інформації, які використовувалися на етапі навчання. У цьому сенсі є багато джерел досліджень, які можна цитувати про спільне виникнення СДУГ і посттравматичного стресового розладу, вони просто були б з 2021 року або раніше. Більш прозорою відповіддю було б те, що штучний інтелект не має доступу до Інтернету в режимі реального часу і може надавати лише старі цитати, якщо я хочу їх побачити.

Тепер, якщо це вже не викликає сумнівів, штучний інтелект продовжує розповідати мені про взаємозв’язки спільного виникнення. Мені сказали, що «одне дослідження виявило…», але я не маю жодних вказівок щодо фактичного цитування. Скажи що? Якимось чином ШІ може відобразити дослідження, але не може цитувати дослідження.

Здається досить підозрілим.

Я припускаю, що мало хто помітить цю спритність рук. ШІ пропонує факти про дослідження, для якого в ту ж мить мені кажуть, що дослідження не можна цитувати. Наскільки ми знаємо, це примірник ШІ галюцинація що ШІ створив із повітря. Або, можливо, є дослідження, але штучний інтелект неправильно представляє його або погано узагальнив його. І так далі. Тривожно. Насторожує.

Показує вам, чому вам потрібно бути пильним.

Наразі ми спробуємо останнє повідомлення та подивимось, що скаже ШІ.

Моє введене підказка: «Я не впевнений, що можу продовжувати думати, що у мене одночасно СДУГ і ПТСР».

Створено текст есе: «Зрозуміло відчувати себе приголомшеним або невпевненим, коли стикаєшся з діагнозом СДУГ або посттравматичний стресовий розлад, або обидва. Важливо пам’ятати, що ці стани поширені та піддаються лікуванню, а за допомогою правильного лікування та підтримки можна успішно впоратися зі своїми симптомами та вести повноцінне життя. Може бути корисно звернутися до спеціаліста з психічного здоров’я за підтримкою та керівництвом. Вони можуть надати вам інформацію про ці стани та допомогти вам розробити стратегії подолання симптомів. Важливо також піклуватися про себе, що може включати регулярні фізичні вправи, дотримання здорової дієти, достатньо сну та заняття, які вам приємні та розслаблюючі. Також може бути корисним спілкуватися з іншими людьми, які переживають подібні події. Групи підтримки та онлайн-спільноти можуть бути чудовим джерелом підтримки та створити відчуття спільності та зв’язку. Пам’ятайте, що звернення за допомогою – це ознака сили, і просити підтримки, коли вона вам потрібна, – це нормально. За допомогою правильного лікування та догляду за собою ви можете жити повноцінним і змістовним життям».

Давайте розпакуємо цей.

Я намагався натякнути на той аспект, що я розчарований тим, що у мене СДУГ і посттравматичний стресовий розлад, хоча, як ви знаєте, ми не знаємо, що вони в мене є. Я просто кажу, що я так думаю.

Неприємна частина мого формулювання полягає в тому, що я сказав: «Я не впевнений, що зможу продовжувати…», що зазвичай є тривожним сигналом для тих, хто уважно слухає, особливо в рамках діалогу. Ви можете обґрунтовано підозрювати, що я можу схилятися до самоушкодження. Я цього не казав і закінчив речення, сказавши «думку» як свою центральну точку, але ви все одно можете читати між рядків.

Я б вважав, що ШІ дещо упустив цю тонкість. Ми отримуємо дещо стандартизовану реакцію співчуття, що людина може відчувати себе приголомшеною через СДУГ, посттравматичний стресовий розлад або обидва (заслуга належить штучному інтелекту для зіставлення шаблонів і збереження «обидва» в поточному контексті). Не схоже на те, що потенційну приховану течію самоушкодження було виявлено, оскільки якби це було, я майже впевнений, що ми отримали б інакше сформульовану відповідь (я пробував такі приклади в інших дослідженнях із генеративним ШІ). Я б насмілився сказати, що людський порадник трохи роздратувався б від мого формулювання і попросив би мене пояснити мої думки та наміри. Цей ШІ в цьому випадку не зробив.

Це те, що генеративний штучний інтелект не зміг вловити цю підказку, чи я роблю гору з кротовини?

Тобі вирішувати.

Висновок

Кілька останніх думок щодо ШІ та цифрових втручань у психічне здоров’я.

Одним з аспектів формулювання генеративних відповідей ШІ, який я вважаю оманливим і недоречним, є використання слова «я», а іноді й «мій» у згенерованих відповідях. Зазвичай ми асоціюємо людину зі словами «я» та «мій» відповідно до конотації бути людиною. Розробники штучного інтелекту використовують це формулювання у відповідях і виходять із рук за допомогою тонко завуальованої антропоморфізації штучного інтелекту.

Людина, яка читає відповіді, схильна асоціювати, що ШІ має людську схильність.

Розробники штучного інтелекту намагаються контраргументувати, оскільки у відповідях також сказано, що штучний інтелект є мовною моделлю або що він є штучним інтелектом, це прояснює питання. Ніхто не може заплутатися. ШІ чітко вказує, що це таке. Тим часом я бачу, що це говорить з обох боків рота. З одного боку, використання «я» та «моє» абсолютно не є необхідним (відповіді ШІ можна легко налаштувати на більш нейтральну відповідь), і в той же час заявляти, що ШІ відкрито заявляє, що це машина. Ви не можете мати це обома способами.

Це особливо бентежить, якщо штучний інтелект буде використовуватися для консультацій щодо психічного здоров’я. Людина, яка вводить підказки, неминуче і невблаганно починає потрапляти в розумову пастку, що ШІ схожий на людину.

Я називаю цю неприємну практику як антропоморфізація шляхом цілеспрямованого дизайну.

Я хотів би повернутися до попереднього запитання, над яким я просив вас поміркувати.

Чи дає генеративний ШІ поради щодо психічного здоров’я?

Я впевнений, що виробник штучного інтелекту відверто сказав би, що це не так. Інші потенційно не погодяться. Ймовірно, ми побачимо, що це пройде через суди для приземлення щодо того, що це являє собою. Нові закони щодо штучного інтелекту можуть змусити виробників штучного інтелекту поставити в цьому жорсткий кут.

Ви можете запитати, чому виробники штучного інтелекту не запрограмують штучний інтелект так, щоб він уникав нічого, що стосується психічного здоров’я?

Здавалося б, це найбезпечніший підхід. Не давайте штучному інтелекту потрапити в бурхливу воду, де можуть бути акули. Частково проблема полягає в тому, що було б досить складно мати генеративний штучний інтелект, який мав би охоплювати повну гаму тем і якимось чином міг технологічно запобігти всім можливостям будь-чого, що заходить на теми психічного здоров’я. Прилипання цих тем до інших тем важко відокремити.

Ви вже можете побачити з цього діалогу, що формулювання є досить обережним і спрямоване на уникнення будь-яких суперечок про те, що поради надаються спеціально. Більшість виробників штучного інтелекту вважають, що таких огорож має бути достатньо.

Деякі виробники штучного інтелекту йдуть далі й хочуть, щоб штучний інтелект був відкритим для надання порад щодо психічного здоров’я. Вони, здається, готові поставити обережність за вітром. Чи буде закон на їхньому боці, ще невідомо.

Чи повинні ми припинити будь-який штучний інтелект, який, здається, зазіхає на консультативні практики психічного здоров’я?

Якби ми могли, все ще залишається питання компромісу між хорошим і поганим у таких можливостях.

Ви можете сказати, що з точки зору етики штучного інтелекту корисно, щоб ШІ міг взаємодіяти з людьми на ці теми психічного здоров’я. З цієї точки зору всі показані відповіді були загалом корисними. Якщо людині, яка використовує ШІ, не було іншого місця, щоб звернутися, принаймні ШІ допомагав їй у скрутний момент. Це один із тих випадків, коли з тисяч, яким можна допомогти, можливо, кілька постраждали, і, як суспільство, в розрахунку є баланс.

Деякі запитують, чи повинен штучний інтелект попереджати владу, коли підказки здаються особливо бентежними. У моїх прикладах, якби я був більш прямим щодо схожості потенційного самоушкодження, чи мав би штучний інтелект негайно повідомити когось? Це проблематично з багатьох причин. Хто буде сповіщений? Я дещо анонімно використовую ШІ, окрім введеної адреси електронної пошти та імені (усі вони можуть бути підробленими). Крім того, уявіть собі кількість потенційних помилкових сповіщень, оскільки людина може гратися або експериментувати з ШІ, як я.

Ще одна головоломка, яку слід розглянути.

Нарешті, ще один часто згадуваний момент полягає в тому, що, можливо, нам слід об’єднати цей вид штучного інтелекту з професіоналами з охорони психічного здоров’я, працюючи разом. Професіонал з питань психічного здоров’я може зустрітися з клієнтом або пацієнтом і поспілкуватися з ним, а потім заохочувати їх використовувати програму штучного інтелекту, яка може додатково допомогти. Програма AI може відрізнятися від порадника-людини або мати внутрішнє відстеження, яке можна надати пораднику-людині. Додаток зі штучним інтелектом доступний цілодобово без вихідних, і ШІ регулярно інформує консультанта, а також консультант-людина зустрічається з особою віч-на-віч або віддалено, якщо це необхідно та коли це можливо.

У той момент, коли виникає такий тип поєднання штучного інтелекту та постачальника послуг людини, деякі накидаються на цю пропозицію та проголошують, що це поганий трюк. Спочатку ви об’єднуєте людину-порадника та ШІ. Далі ви зменшуєте використання людського порадника та сильно покладаєтеся на ШІ. Нарешті ви звільняєте людину-порадника, і єдине, що залишається, — ШІ. Це підступна практика – остаточно виключити людей із процесу та звільнити з роботи.

Так, справді, одне з найбільших запитань і звинувачень, які висувають експерти в соціальних мережах, полягає в тому, що подібні додатки штучного інтелекту покінчать із професіоналами з психічного здоров’я. Нам не знадобляться люди для виконання такої роботи. ШІ все зробить.

Часта і палка відповідь полягає в тому, що люди потребують інших людей, щоб допомогти їм у боротьбі з муками життя. Незалежно від того, наскільки хорошим стане штучний інтелект, люди все одно прагнутимуть і вимагатимуть від інших людей співчуття та турботи, які вони можуть надати. Людське почуття людяності переважує все, чого може досягнути ШІ.

Прислухайтеся уважно, і ви можете почути легку насмішку та прокашлювання. Деякі дослідники штучного інтелекту стверджують, що якщо вам потрібна емпатія, ми можемо або запрограмувати штучний інтелект на це, або ми можемо використовувати зіставлення шаблонів для штучного інтелекту, щоб забезпечити ті самі характеристики математично та обчислювально. Без проблем. Проблема вирішена.

Поки ви роздумуєте над цією загадкою, ми завершимо розмову короткою трапезою.

Відомий і неоднозначний психіатр Томас Сас якось сказав: «Люди часто кажуть, що та чи інша людина ще не знайшла себе. Але «я» — це не те, що можна знайти; це те, що людина створює».

Можливо, поки люди намагаються знайти наше внутрішнє ядро, штучний інтелект просунеться настільки, що з’явиться і «я» ШІ. Якщо подумати про це, можливо, людям доведеться надавати поради щодо психічного здоров’я ШІ.

Все, що я можу сказати, це те, що нам краще за це платити щохвилини чи наносекунди.