Розлючене занепокоєння тим, що Generative AI ChatGPT спонукає студентів до значного обману під час написання есе, викликає зачаровану увагу до етики та законодавства щодо штучного інтелекту

Письмове есе сучасними учнями – це ніколи?

Сповнена страху студентська курсова робота гарячково вилітає у вікно?

Ось така хаос нещодавно виросла у повний галас. Розумієте, поява програми зі штучним інтелектом, відомої як ChatGPT, привернула багато уваги та водночас викликала багато гніву. Для мого повного висвітлення ChatGPT див посилання тут. Про те, як я постійно висвітлюю етику штучного інтелекту та право штучного інтелекту, див посилання тут та посилання тут, просто назвемо декілька.

Суть криків і ревів полягає в тому, що цей вид штучного інтелекту, який зазвичай називають генеративний ШІ, стане посмертним дзвоном для того, щоб попросити студентів виконати завдання у стилі есе.

Чому так?

Оскільки найновіший генеративний штучний інтелект здатний створювати, здавалося б, плавні есе, просто ввівши просту підказку. Якщо ви введете такий рядок, як «Розкажіть мені про Авраама Лінкольна», штучний інтелект згенерує есе про життя та часи Лінкольна, яке часто є достатньо хорошим, щоб його помилково сприйняли як написане повністю і виключно руками людини. Крім того, і ось справжня головна перевага, есе не буде дублікатом або помітною копією чогось іншого, що вже було написано на ту саму тему. Виготовлення есе буде, по суті, «оригіналом», наскільки це може переконатися в будь-якій випадковій перевірці.

Студент, який стикається з письмовим завданням, може просто викликати одну з цих генеративних програм штучного інтелекту, ввести підказку, і вуаля, все есе було написано для нього. Їм потрібно лише вирізати та вставити автоматично згенерований текст у порожній документ, таємно вставити на нього своє ім’я та інформацію про клас, і з трохи відважною бравадою йти вперед і відтворювати це як власну роботу.

Імовірність того, що вчитель зможе визначити, що есе було написано ШІ, а не студентом, майже дорівнює нулю.

Скандально!

Заголовки поспішно проголошували, що ми дійшли до гіркого кінця, змушуючи студентів писати реферати або, по суті, виконувати будь-які позакласні письмові завдання. Здавалося б, єдиним засобом впоратися з ситуацією є написання есе в класі. Коли учні перебувають у контрольованому середовищі, наприклад у класі, і припускають, що у них немає доступу до ноутбуків чи смартфонів, вони будуть змушені писати есе старомодним способом.

Щоб уточнити, старомодний спосіб означає, що вони повинні будуть писати виключно за допомогою власних ножиць.

Будь-яке есе, виконане поза аудиторією, буде одразу викликано підозру. Учень написав есе чи це зробив додаток зі штучним інтелектом? Як уже згадувалося, есе буде настільки добре написане, що ви не зможете легко визначити, що воно написано машиною. Правопис буде бездоганним. Синтаксис буде приголомшливим. Лінія дискурсу та потенційні аргументи будуть переконливими.

До біса, можна припустити, що генеративний штучний інтелект схилить свою славну руку, написавши есе, яке виходить за межі можливостей студента, який вирішив піти цим мерзенним шляхом. Учитель може запідозрити просто через те, що есе надто гарне. У кмітливого вчителя виникла б спокуса здогадатися, що учень не міг написати такої витонченої та герметичної прози. Починають дзвонити внутрішні дзвінки.

Звичайно, оскаржувати учня щодо його есе буде негарно та матиме негативні наслідки.

Припустімо, що студент ретельно написав твір сам. Можливо, вони двічі чи потрійно перевіряли це. Також існує ймовірність того, що, можливо, вони попросили друга чи знайомого оглянути щось, що потребує додаткового полірування. Загалом, це все ще їхній нарис, написаний ними самими. Уявіть собі вчителя, який ставить цьому серйозному та старанному учневі гострі запитання щодо есе. Збентеження й прикрость від того, що його фактично звинувачують у списуванні, відчутні, навіть якщо вчитель не робить про це вголос. Самої простої конфронтації достатньо, щоб підірвати повагу студента та змусити його відчути себе фальшивим наклепом.

Дехто наполягає на тому, що будь-який викладач, який має підозри щодо авторства есе, повинен попросити студента пояснити, що він написав. Імовірно, якщо есе було написано учнем, конкретний учень може його адекватно пояснити. Вчителі проводили подібні дослідження протягом багатьох років. Студент міг залучити іншого студента, щоб він написав за нього есе. Учень, можливо, запросив батьків написати його есе. У сучасному світі студент може заплатити комусь через Інтернет, щоб той таємно написав його есе від його імені.

Таким чином, попросити студента підтвердити авторство за допомогою запиту в аудиторії є звичайним і неважливим.

Я радий, що ви це згадали.

Спроба м’яко чи демонстративно розкритикувати учня — не такий простий лакмусовий папірець, як вам може здатися. Студент міг би уважно вивчити есе, створене ШІ, і підготуватися до можливого допиту.

Подумайте про це таким чином. Студент спочатку створює есе, просто натиснувши кнопку. Тоді студент витрачає багато часу, який він присвятив би написанню есе, замість того, щоб прискіпливо перевіряти та вивчати есе. Через деякий час слова майже повністю запам'ятовуються. Студент ледь не вводить себе в оману, вважаючи, що він справді написав есе. Така схожість впевненості та обізнаності могла легко отримати їх через ретельну перевірку з боку вчителів.

Ага, деякі кажуть, трохи протиставляючи побоюванням генеративних додатків штучного інтелекту, зауважте, що студент справді чогось «навчився», створивши есе. Звичайно, студенти не працювали над дослідженням теми та не складали есе, але, тим не менш, якщо вони уважно вивчили есе, здається, що вони дізналися про призначену тему. Учень, який зобов’язується вивчити напам’ять твір про Лінкольна, імовірно, дізнався щось істотне про Лінкольна.

Навчання відбулося.

Ого, репліка йде, завдання, ймовірно, було подвійним процесом. Дізнатися про Лінкольна могло бути відносно другорядним. Справжня мета полягала в тому, щоб учень навчився писати. Ця суттєва частина завдання була повністю підірвана. Викладачі часто призначають відкриті теми й насправді лише прагнуть, щоб учень отримав досвід письма. Вам потрібно скласти те, що ви хочете написати, ви повинні визначити слова, які ви будете використовувати, ви повинні помістити слова в розумний набір речень та абзаців і так далі. Просте читання есе, створеного штучним інтелектом, зовсім не відповідає цьому фундаментальному аспекту есе.

Протидією цьому є твердження, що учень потенційно вивчає письмо, уважно вивчаючи написане ШІ. Хіба ми всі не вивчаємо великих майстрів письма, щоб побачити, як вони пишуть? Наші твори є спробою досягти Шекспіра та інших великих письменників. Вивчення письмового слова є дійсним засобом дізнатися, як писати.

Подібно до запеклого тенісного матчу, м’яч переходить на інший бік сітки. Хоча вчитися гарному письму – це добре, ви, зрештою, повинні написати, якщо хочете вміти писати. Ви не можете просто нескінченно читати, а потім порожньо вважати, що учень тепер знає, як писати. Вони повинні писати, писати і продовжувати писати, поки не зможуть відчутно продемонструвати та вдосконалити свої письменницькі здібності.

Ви бачите, що це все справжня головоломка?

Майте на увазі, що у всьому цьому є мільйон чи більше поворотів.

Я розповім про деякі з більш геніальних і цікавих поворотів.

Налаштування есе за допомогою штучного інтелекту

Щойно згадавши Шекспіра, ось аспект генеративного ШІ, який може вас здивувати. У багатьох додатках генеративного штучного інтелекту ви можете сказати щось на зразок цього: «Напишіть есе про Лінкольна так, ніби це есе написав Шекспір». ШІ спробує створити есе, яке, здається, було б написано мовою, якою Шекспір ​​зазвичай користувався у своїх творах. Побачити це досить весело та захоплююче, і багато хто отримує від цього справжнє задоволення.

Як це пов’язано зі студентом, який «шахраює», використовуючи генеративний ШІ для написання есе?

У багатьох генеративних програмах штучного інтелекту ви можете наказати штучному інтелекту писати менш ніж зірковим способом. ШІ намагатиметься створити есе, яке буде дещо грубим. Є синтаксичні проблеми тут чи там. Логіка есе може бути різкою або трохи розрізненою.

Це була б хитра хитрість. Учень бере отриманий твір і здає його. Твір достатньо хороший, щоб отримати високу оцінку, але водночас не настільки ідеальний, щоб викликати гнів у вчителя. Знову ж таки, штучний інтелект виконав всю роботу за студента, зокрема зробив есе дещо недосконалим.

Крім того, більшість програм генеративного штучного інтелекту дозволяють вам використовувати програму скільки завгодно. Ось як це відбувається. Студент пише, що додаток AI має написати дещо недосконале есе про Лінкольна. Есе виготовлено. Студент дивиться на твір і розуміє, що воно все ще надто ідеальне. Учень вводить іншу підказку, яка наказує ШІ зробити недоліки більш виразними.

Намийте піну, промийте, повторіть.

Студент продовжує вводити підказки та перевіряти створені есе. Це відбувається знову і знову. Згодом учень наводить ШІ на потрібний рівень недосконалості есе. Версія золотоволосої була досягнута. Він настільки ідеальний, щоб отримати високу оцінку, і настільки недосконалий, щоб не викликати підозр.

Я впевнений, що дехто з вас хитро каже, що якби студент просто вирішив написати прокляте есе, він, можливо, витратив би менше часу або принаймні стільки ж часу на написання самого есе. Усе це енергопоглинаюче використання програми ШІ могло бути спрямоване на те, щоб просто продовжити написання есе.

Ну, запам'ятайте, студент не має цього на увазі. Простота введення підказок і повторюваного перегляду та вибору потрібного есе неодмінно буде набагато легшою для студента. Година виконання цього є набагато менш важкою, ніж написання безпосередньо есе. Кмітливість у цьому випадку потрібно порівняти з реальністю.

Що трапиться, якщо інші учні зроблять те саме

Б’юся об заклад, що ви мали на увазі цю розумну думку, коли читали попередній аналіз про есе та генеративні програми штучного інтелекту, а саме, що студента, безсумнівно, спіймають, якщо багато інших студентів роблять те саме.

Дозвольте пояснити.

Учитель доручає всьому класу написати твір про Лінкольна. Припустімо, що 90% студентів вирішать використовувати генеративний додаток ШІ для цього завдання. Якщо 90% здається надто гнітючим, сміливо використовуйте 10%. Просто майте на увазі, що коли студенти дізнаються про корисність генеративних програм штучного інтелекту, спокуса використовувати їх буде рости як гриб.

Гаразд, значний відсоток класу використовує генеративний додаток ШІ. Можна припустити, що, отже, всі студенти складатимуть приблизно одне й те саме есе про Лінкольна. Учитель помітить, коли оцінить третій чи четвертий твір, що всі есе майже однакові. Це буде величезною підказкою, що щось не так.

Вибачте, але навряд чи вам так пощастить.

Більшість генеративних додатків AI дуже чутливі до того, як конкретно складається підказка. Якщо я напишу «Розкажи мені про Лінкольна» проти «Розкажи мені про життя Лінкольна», вірогідність того, що есе будуть суттєво різними. По-перше, можливо, нарис, створений ШІ, зосереджується на президенті Лінкольні під час його перебування на посаді в Білому домі та не згадує нічого про його дитинство. Інша підказка може створити нарис про його народження до смерті.

Ймовірно, учні не будуть вводити саме те, що вчитель дав їм як підказку для есе. Здавалося б, розумно, як шахраю, спробувати варіації. Але навіть якщо всі студенти введуть однакову підказку, велика ймовірність того, що кожне есе дещо відрізнятиметься від інших.

Ці додатки зі штучним інтелектом використовують величезну внутрішньо створену математичну та обчислювальну мережу, яка в основному має широке зіставлення шаблонів тексту, знайденого в Інтернеті. У процес створення есе входить ймовірнісний фактор. Вибрані слова навряд чи будуть у тому самому порядку та з однаковим формулюванням. Кожне створене есе, як правило, буде різним.

Однак у цьому є одна заковика. Якщо обрана тема досить незрозуміла, є ймовірність, що деякі написані есе будуть схожі одне на одне. Частково це було тому, що шаблон у корені тексту спочатку був тонким. З огляду на це, спосіб написання есе може бути зовсім іншим. Все, що я кажу, це те, що суть контенту сама по собі потенційно може бути приблизно однаковою.

Не хочу здаватися похмурим, але потенційно ви могли б зробити те ж саме про таку загальну тему, як життя Лінкольна. Скількома різними способами ви можете описати загальні аспекти його життя? Якби ви якимось чином дозволили студентам писати про Лінкольна в зачиненому класі та дали їм онлайн-доступ для дослідження його життя, я смію сказати, що ймовірність того, що есе будуть чимось схожими, все одно може статися.

Безкоштовність і легкість є суттєвою

Якщо сьогодні студент хоче обдурити, заплативши комусь в Інтернеті за написання його есе, зробити це дуже просто (сподіваюся, це вас не шокує, можливо, я мав запропонувати попередження про тригер заздалегідь).

Однак проблема полягає в тому, що вам потрібно платити за есе. Крім того, є невеликий шанс, що вас можуть згодом спіймати. Чи використовували ви кредитну картку для оплати есе? Можливо, краще використовувати певну форму підпільної обробки платежів, щоб спробувати зберегти ваші сліди чистими.

Краса чи, можливо, роздратування генеративного ШІ полягає в тому, що зараз більшість із них доступні безкоштовно. Оплата не потрібна. Немає особливої ​​історії вашого використання (ну, щоб було зрозуміло, додаток AI може стежити за вашим використанням, особливо тому, що багато додатків AI вимагають, щоб ви зареєструвалися за допомогою адреси електронної пошти, але, звичайно, ви можете підробити це також ).

Деякі люди природно припускають, що вам потрібно бути майстром штучного інтелекту, щоб використовувати генеративну програму ШІ.

Не так.

Загалом, генеративні додатки штучного інтелекту напрочуд прості у використанні. Ви запускаєте програму AI. Він представляє вам відкрите текстове поле, у яке ви можете ввести свій запит. Ви вводите запит і натискаєте «Надіслати». Додаток AI генерує текст.

Ось про це.

Спеціалізовані комп'ютерні мови не потрібні. Не знаю баз даних або науки про дані. Я запевняю вас, що будь-яка дитина в школі може легко використовувати генеративний додаток ШІ. Якщо дитина вміє друкувати, вона може використовувати ці програми.

Деякі стверджують, що компанії, які надають генеративні програми ШІ, повинні спочатку перевірити вік користувача, мабуть, щоб запобігти неповнолітнім використовувати ШІ для цілей шахрайства під час написання есе. Якщо користувач вкаже, що він не дорослий, не дозволяйте йому використовувати програму AI. Відверто кажучи, це малоймовірний сценарій запобігання, якщо якимось чином не були прийняті закони, пов’язані зі штучним інтелектом, які намагаються встановити такі обмеження. Навіть якщо такі закони будуть прийняті, ви, ймовірно, зможете обійти це, використовуючи генеративний додаток AI, який розміщено в іншій країні тощо.

Ще одна заборонена точка зору – використання генеративних додатків штучного інтелекту коштуватиме грошей. Припустімо, що була комісія за транзакцію або плата за підписку. Це поставило б програму генеративного штучного інтелекту в один ряд із тими людьми в Інтернеті, які напишуть для вас есе та платять за це. Праця буде протистояти штучному інтелекту (якщо осторонь, усе це свідчить про те, що люди, які заробляють на життя пишучи реферати для студентів, будуть замінені штучним інтелектом, який робить те саме; питання в тому, засмучуватися чи радіти нам). що ті люди, які заробляють на життя, більше не зможуть робити це таким чином).

Компанії, які створюють генеративні додатки зі штучним інтелектом, безумовно, хочуть заробляти на цих додатках, хоча як це зробити, поки що невідомо. Стягнення комісії за транзакцію, плати за підписку або, можливо, стягнення плати за згенероване слово — все це на столі. Замість того, щоб стягувати плату з людей, монетизацію можна здійснювати за допомогою реклами. Можливо, кожного разу, коли ви користуєтеся певним генеративним додатком ШІ, вам спочатку потрібно побачити рекламу. Це може бути джерелом грошей.

Я не хочу розливати на це молоко, але як засіб подолання списування студентів, це не буде жодною срібною кулею. Навіть близько не.

Існують версії генеративного ШІ з відкритим кодом. Люди розміщують їх, а інші готові зробити програму безкоштовною. Так чи інакше, навіть якщо деякі компанії стягують комісію, ви зможете знайти варіанти, якими можна користуватися безкоштовно, хоча вам може знадобитися переглянути рекламу або, можливо, зареєструватися та надати певну інформацію про себе в маркетингових цілях.

Чи допомагає цьому багатоетапний режим

Студент вирішує використовувати генеративний додаток AI для створення свого есе.

Замість того, щоб відразу здати есе, студент вирішує відредагувати есе. Тут розважливо виривають кілька слів. Напишіть туди кілька слів. Перенести речення вгору. Перемістіть речення нижче. Після невеликого редагування та доопрацювання тепер у них є есе, яке вони готові здати.

Це есе – робота студента чи ні?

Я привів вас до великого невирішеного питання без відповіді на мільйон доларів.

Давайте коротко ознайомимося з законними правами та їх порушеннями. Це тема, яку я досить багато висвітлював, наприклад посилання тут та посилання тут, Наприклад.

Ймовірно, ви вже щось знаєте про авторські права та так звану інтелектуальну власність (ІВ). Хтось, хто має історію, захищену авторським правом, має зберігати різні юридичні права, пов’язані з цією історією. Вони не мають абсолютно залізної всеохоплюючої подоби законних прав. Є виключення та винятки.

Одним із найскладніших питань щодо порушення чийогось захищеного авторським правом матеріалу є близькість того, що ви можете мати, порівняно з першоджерелом. Можливо, ви читали або бачили новини про відомих співаків та їхні тексти, де хтось інший написав пісню зі, здавалося б, схожими словами, і чи було це законно чи ні.

Раніше я згадував, що зазвичай програма генеративного штучного інтелекту не створює есе, яке є копією інших матеріалів, на яких вона раніше навчалася, вивчаючи вміст в Інтернеті. Цілком імовірно, що матеріал узагальнений і змішаний так, що він більше не схожий на те, з чого складався вихідний вміст.

Нам доведеться почекати і подивитися, як це врегулює судовий процес. Якщо програма генеративного штучного інтелекту створить твір мистецтва, який візуально явно схожий на якийсь твір мистецтва з джерела, ми, ймовірно, схилятимемося до звинувачень ШІ та розробників ШІ в порушенні авторських прав, пов’язаних з оригінальною роботою. Ми бачимо це на власні очі.

Коли справа доходить до есе, це може бути складніше. Очевидні випадки, коли цілі речення та абзаци слово в слово збігаються. Ми всі це бачимо. Але коли формулювання відрізняються невеликими відмінностями, ми потрапляємо в сірі зони.

Наскільки далеко має бути нещодавно створений матеріал від оригінального джерела, щоб оголосити, що він є добросовісним оригіналом сам по собі?

Це вагоме питання.

Давайте прив’яжемо це до учня, який використовує програму generative AI для свого есе.

Уявіть на мить, що конкретне есе, згенероване додатком AI, буде витлумачено як «оригінальне» есе. Я кажу, що припустимо, що це жодним очевидним чином не порушує жодного іншого існуючого есе чи текстового оповідання будь-де на землі.

Потім студент починає з оригінального джерела матеріалу. Як уже зазначалося, студент редагує та допрацьовує цей матеріал. Справа досягає точки, коли оригінал, створений додатком AI, тепер відрізняється від вдосконаленої версії, яку придумав студент.

Це обман?

Можливо, так, можливо, ні.

Можна заперечити, що так. Студент почав із штучного інтелекту, який написав для нього есе. Усе, що зробив учень, механічно обігрується есе. Ми очікуємо, що учень напише есе з повітря та застосує для цього власну підказку. Використовувати програму штучного інтелекту для генерації базової лінії — це явно обман. Поставте студенту оцінку «F».

Не так швидко. Ви можете стверджувати, що це не обман. Учень переробив вихідний матеріал. Якщо порівняння есе, створеного програмою штучного інтелекту, і удосконаленої студентами версії є досить великою різницею, ми б сказали, що студент написав есе. Правда, при цьому вони використовували інший матеріал, але хіба ви не можете сказати те саме, якщо вони використовували енциклопедію чи інше джерело? Цей учень заслуговує на оцінку «А» за те, що написав есе власною дотепністю (незважаючи на те, що для цього він посилався на інші матеріали).

Вчителі опиняться в центрі цього і без того неприємного питання.

Один із підходів полягає в тому, що вчитель може категорично заявити, що студенти повинні перерахувати всі довідкові матеріали, включно з тим, чи використовувався генеративний додаток ШІ. Якщо учень не вказує напряму генеративний ШІ як еталон, і якщо вчитель дізнається, що він не вказав його, учень отримує оцінку «F» за завдання. Або, можливо, деякі школи вважатимуть це актом шахрайства, через який учень отримує автоматичну оцінку. А може, вигнали. Нам потрібно буде побачити, наскільки далеко школи зайдуть у цих питаннях.

Загалом, ми прямуємо до перевернутого світу інтелектуальної власності та законної власності на такі роботи, як есе (текст), мистецтво (зображення) та відео, зокрема:

• Дехто буде шукати правового захисту від виробників генеративного штучного інтелекту щодо джерел вмісту, який використовувався штучним інтелектом для створення результату.
• Деякі візьмуть результат генеративного штучного інтелекту та вважатимуть результат їхніми власними роботами, а потім спробують вимагати правового захисту від будь-кого, хто порушує їхню «оригінальну» роботу.
• Це може відбуватися циклічно, так що хтось виробляє результат генеративного ШІ, який публікується в Інтернеті, а потім з’являється якийсь інший генеративний ШІ і використовує це для навчання створенню подібних робіт.

Перетворення негативу на позитив

Усі ці розмови про шкідливість генеративного штучного інтелекту, коли справа доходить до списування студентів, можливо, затьмарюють наші розуми, закликають дехто.

Зверніть увагу на це в іншому напрямку.

Ви сидите?

Можливо, вчителям слід навмисно запропонувати студентам використовувати генеративний ШІ як частину процесу навчання написанню есе.

Раніше я писав про т. зв подвійне використання ІІ див посилання тут. Ідея полягає в тому, що інколи систему штучного інтелекту можна використовувати на зло, а іноді її можна перемикати й використовувати на користь. Тривожний аспект полягає в тому, що хтось пише штучний інтелект назавжди і абсолютно не підозрює, як легко його штучний інтелект можна перетворити на примару зла. Частина Етичний ШІ це усвідомлення того, що штучний інтелект слід розробити так, щоб його не можна було відразу перетворити на прокляття. Це постійне занепокоєння.

Повернемося до генеративного ШІ для створення есе.

Раніше я висунув концепцію про те, що студент може дізнатися про письменство, переглядаючи письмові роботи, які вже існують. Це має великий сенс. По суті, чим більше ви читаєте, тим більше шансів, що ви розширюєте свою розумову схожість у напрямку вміння писати. Як було сказано раніше, вам все одно потрібно писати, оскільки все читання у світі не обов’язково зробить вас хорошим письменником, якщо ви не будете практикувати акт письма.

Ми могли б використовувати генеративний штучний інтелект, щоб сприяти цьому зв’язку читання та запису. Нехай учень навмисно використовує генеративний ШІ. ШІ створює есе. Студент отримує завдання критикувати есе, створене ШІ. Потім учневі доручають написати новий твір, можливо, на іншу тему, але він може використовувати структуру та інші загальні елементи попереднього есе, створеного ШІ.

Дехто припускає, що це може бути навіть більш продуктивним для студентів, ніж просто читання книг чи інших текстів письменників, з якими студенти не можуть «взаємодіяти». Завдяки додатку зі штучним інтелектом учень міг спробувати повторити та створити початкове есе, використовуючи безліч підказок одна за одною. Студент може сказати штучному інтелекту написати есе про Лінкольна. Далі студент просить розлогий твір про Лінкольна, написаний неформальним голосом. Переглянувши це, студент вказує додатку зі штучним інтелектом створити дуже формалізовану версію есе про Лінкольна. тощо

Стверджується, що це могло б матеріально допомогти учневі дізнатися про письмо та про те, як воно може відбуватися.

Недавня дослідницька стаття пропонує саме цю тезу: «Автори цієї статті вважають, що штучний інтелект можна використовувати для подолання трьох перешкод для навчання в класі: покращення передачі, руйнування ілюзії глибини пояснення та навчання студентів критично оцінювати пояснення» ( у статті під назвою «Нові режими навчання за допомогою чат-ботів штучного інтелекту: три методи та завдання», д-р Етан Моллік і д-р Лілах Моллік, Wharton School of University of Pennsylvania & Wharton Interactive, 12 грудня 2022 р.)

Наприклад, вони зазначають, що покращення передачі навчання може відбутися таким чином: «ШІ — це дешевий спосіб надати учням багато прикладів, деякі з яких можуть бути неточними, або потребувати додаткових пояснень, або можуть бути просто вигаданими. Для студентів із базовими знаннями з теми ви можете використовувати ШІ, щоб допомогти їм перевірити своє розуміння та чітко спонукати їх називати та пояснювати неточності, прогалини та відсутні аспекти теми. ШІ може надавати нескінченну серію прикладів концепцій і застосувань цих концепцій, і ви можете спонукати студентів до: порівнювати приклади в різних контекстах, пояснювати суть концепції та вказувати на невідповідності та відсутню інформацію в тому, як ШІ застосовує концепції до нових ситуацій» (там само).

Це схоже на старий приспів, якщо ви не можете перемогти їх, приєднайтеся до них.

Перетворіть генеративний ШІ на навчальний інструмент.

Ой, швидка відповідь.

Заселяєш лисицю в курник. Учням, які не мали жодного уявлення про те, що таке генеративний ШІ, тепер відкрито покажуть це відкритими діями вчителя та їхніх шкіл. Якщо учні не знали про можливості списування, ви вставляєте це прямо в їхні обличчя та руки.

Здається абсолютно огидним, що влада знайомить студентів із засобом шахрайства. Таким чином, ви назавжди помістите найчесніших студентів у царство спокус шахрайства. Кожен матиме доступ до шахрайської машини. Їм наказано так робити. Не потрібно це приховувати. Не потрібно вдавати, що ви не використовуєте генеративний ШІ. Школа і вчитель змусили вас використовувати його.

Відповідь на це полягає в тому, що ви повинні сліпо і через незнання тримати голову в піску, щоб думати, що студенти не збираються знайомитися з генеративним ШІ. Поки ви безглуздо робите вигляд, що вони не знають про це, вони снують поза школою, щоб скористатися нею. Ваш кращий вибір — представити їм цю річ, обговорити, для чого її можна, а для чого не можна використовувати, і прояснити всю головоломку.

Це досить туго.

Для тих із вас, хто досліджує освітні інновації технологій, ви можете поглянути на генеративний ШІ та на те, як він може змінити природу освітніх підходів і вплинути на навчання студентів. Це настане досить скоро.

Використання виявлення, щоб врятувати нас від руїни

Поміняємо головні убори й давайте на мить розглянемо цифрове мистецтво.

Якщо ви створюєте твір цифрового мистецтва, можливо, ви захочете позначити його якимось чином, щоб пізніше ви могли визначити, чи хтось вирішив використати чи повторно використати вашу майстерність. Простий спосіб зробити це полягає у зміні деяких пікселів або точок у вашій цифровій ілюстрації. Якщо ви зробите кілька тут чи там, вигляд твору мистецтва все одно буде виглядати таким самим для очей людей. Вони не помітять тих пікселів, які є крихітними та мають якийсь особливий колір, який можна побачити лише після уважного розгляду за допомогою цифрових інструментів.

Можливо, ви знаєте про ці методи як про форму водяних знаків. Подібно до того, як у минулі часи були спроби поставити водяні знаки на паперові матеріали та інший нецифрований вміст, ми поступово спостерігаємо зростання цифрових водяних знаків.

Цифровий водяний знак може бути прихований у зображенні цифрової ілюстрації. Якщо це може здатися нав’язливим для зображення, ви можете спробувати вставити водяний знак у файл, який містить цифрову ілюстрацію (так звані «мета-дані» цифрової роботи).

Може виникнути гра в кішки-мишки.

Приходить якийсь лиходій і виявляє ваш цифровий водяний знак. Вони видаляють його. Тепер вони, здавалося б, можуть вільно використовувати ваш цифровий твір, не турбуючись про те, що ви зможете згодом зазирнути в нього й продемонструвати, що це безсумнівно є результатом ваших зусиль. Ті мерзотники!

Нам потрібно посилити цифровий водяний знак, що ми можемо зробити за допомогою криптографічних методів і технологій. Подумайте про секретні повідомлення та кодування.

Ідея полягає в тому, що ми кодуємо цифровий водяний знак, щоб його було важко знайти. Його також потенційно важко видалити. Ми могли б навіть спробувати переконатися, що програмне забезпечення, яке відображатиме або дозволятиме використання цифрового твору мистецтва, повинно спочатку перевірити та переконатися, що у творі існує дійсний закодований цифровий водяний знак, інакше воно вважатиметься неналежною копією. Зловили вас на гарячому.

Чи можемо ми зробити те саме для генеративного ШІ, який виробляє текст?

Покладено рукавичку. Проблема, однак, може бути певною мірою складнішою, ніж при розгляді цифрових водяних знаків для ілюстрації.

Ось чому.

Припустімо, що водяний знак можна розмістити лише в самому тексті. Я кажу це тому, що згенерований текст не обов’язково входить у файл. Текст просто текст. Ви можете вирізати та вставити його з генеративного інструменту AI. У цьому сенсі зазвичай не існує метаданих або файлів, у які можна вставити водяний знак.

Ви повинні зосередитися виключно на тексті. Чистий текст.

Одним із шляхів було б змусити генеративний ШІ створювати текст таким чином, щоб його можна було відстежити. Як грубий, але непрактичний приклад, уявіть, що ми вирішили починати кожне третє речення зі слова «І» на початку речення. Ми все одно створили б, здавалося б, цілком вільний есе. Єдина хитрість полягає в тому, що кожне третє речення починається з обраного нами магічного слова. Більше ніхто не знає, що ми задумали.

Студент використовує генеративний штучний інтелект для створення есе про Лінкольна. Учень бере його безпосередньо з додатка ШІ та надсилає електронною поштою вчителю. Виявилося, що студент чекав до останнього моменту і не встиг опублікований термін. Немає часу переглядати твір. Просто надішліть і сподівайтеся на краще.

Учитель переглядає твір. Припустімо, ми сказали їй, що наш водяний знак складається з магічного слова, яке використовується на початку кожного третього речення. Учитель виявляє, що це так у цьому поданому есе. Хоча існує неймовірно мала ймовірність того, що студент написав твір і, можливо, любить використовувати це конкретне слово на початку кожного третього речення, я думаю, ми можемо погодитися, що це дуже малоймовірно, і замість цього студент, ймовірно, використовував генеративний ШІ для створення есе.

Ви бачите, як це працює?

Я вірю, що ви так.

Тепер проблема полягає в тому, як придумати водяний знак, який не є таким очевидним. Студент може помітити, що в реченнях дивним чином використовується певне слово. Вони можуть здогадатися, що відбувається. У свою чергу, учень може рухатися по реченнях і переформулювати їх. Тоді це значною мірою поглинає цей водяний знак, оскільки есе більше не легко помітити як написане генеративним ШІ.

Гра в кішки-мишки знову набирає обертів.

Нам потрібно створювати плавний текст, який якимось чином містить «водяний знак» у спосіб, який неможливо легко розпізнати. Крім того, якщо це можливо, водяний знак має залишатися, навіть якщо твір трохи переглянуто. Повний перегляд, ймовірно, не дозволить водяному знаку вижити. Але нам потрібна певна надлишковість і відмовостійкість, щоб водяний знак можна було виявити, навіть якщо в текстову область внесено деякі зміни.

Дослідник, який виконує певну роботу для компанії, що виробляє ChatGPT (додаток AI від OpenAI), вивчає деякі цікаві криптографічні зусилля, враховуючи ці міркування водяних знаків. Скотт Ааронсон є професором комп’ютерних наук Техаського університету в Остіні, і він нещодавно виступив із доповіддю про деякі роботи, що проводяться (стенограму опубліковано в його блозі).

Розглянемо цей уривок, у якому він коротко пояснює існуючий підхід: «Як це працює? Для GPT кожен вхід і вихід — це рядок токенів, які можуть бути словами, а також знаками пунктуації, частинами слів тощо — загалом близько 100,000 XNUMX токенів. За своєю суттю GPT постійно генерує розподіл ймовірностей для наступного токена, який потрібно створити, залежно від рядка попередніх токенів. Після того, як нейронна мережа генерує розповсюдження, сервер OpenAI фактично відбирає маркер відповідно до цього розповсюдження або деяку модифіковану версію розповсюдження, залежно від параметра під назвою «температура». Проте, поки температура не дорівнює нулю, у виборі наступного маркера зазвичай буде деяка випадковість: ви можете запускати знову і знову з одним і тим же запитом і кожного разу отримувати інше завершення (тобто рядок вихідних маркерів). .”

Як зазначалося, існує визначений рівень випадковості щодо того, які слова будуть розміщені наступними в есе, яке отримує програма ChatGPT. Це також пояснює висловлену раніше тезу про те, що кожне есе, ймовірно, дещо відрізняється, навіть якщо на ту саму тему. Цілеспрямоване використання підходу випадкового відбору, який знаходиться в певних межах, працює під капотом під час створення есе.

Тепер ми переходимо до пікантної частини, криптографічного змішування: «Тож, щоб водяний знак, замість випадкового вибору наступного токена, ідея полягатиме в тому, щоб вибрати його псевдовипадковим чином, використовуючи криптографічну псевдовипадкову функцію, ключ якої відомий лише OpenAI . Це не матиме жодної помітної різниці для кінцевого користувача, припускаючи, що кінцевий користувач не може відрізнити псевдовипадкові числа від справді випадкових. Але тепер ви можете вибрати псевдовипадкову функцію, яка таємно зміщує певну оцінку — суму над певною функцією g, обчислену для кожного n-граму (послідовність n послідовних токенів), для деяких маленьких n — яку оцінку ви також можете обчислити, якщо знаєте ключ для цієї псевдовипадкової функції».

Я розумію, що це може здатися дещо технологічно забитим.

Суть полягає в тому, що створене есе буде здаватися вільним, і ви не зможете легко розрізнити, читаючи есе, що воно містить цифровий водяний знак. Щоб з’ясувати, чи містить дане есе водяний знак, вам потрібно буде подати есе в спеціально розроблений детектор. Програма, яка виконує виявлення, обчислить значення на основі тексту та зможе порівняти його зі збереженим ключем. У підході, який описується, ключі будуть у постачальника і не будуть доступні в інших випадках, отже, припускаючи, що ключі зберігаються в таємниці, лише помазана програма виявлення може обчислити, чи ймовірно есе походить від ChatGPT у цьому випадку.

Далі він визнає, що це не надійно: «Тепер усе це можна перемогти, доклавши достатніх зусиль. Наприклад, якщо ви використали інший штучний інтелект, щоб перефразувати результат GPT, добре, ми не зможемо це виявити. З іншого боку, якщо ви просто вставите або видалите кілька слів тут і там, або переставите порядок деяких речень, сигнал водяного знака все одно залишиться. Оскільки він залежить лише від суми в n-грамах, він стійкий до такого роду втручань».

Вчителю може бути надано доступ до програми-детектора, яка перевіряла б есе учнів. Припустімо, що справа відносно проста, оскільки вчитель змушує учнів надсилати свої есе вчителю та автоматичному детектору електронною поштою. Потім додаток-детектор інформує вчителя про ймовірність того, що твір у цьому випадку створено ChatGPT.

Тепер, якщо детектор відкрито доступний будь-кому, у вас будуть «надмірні» студенти-шахраї, які просто запустять свої есе в детектор і внесуть ряд змін, доки детектор не вкаже на низьку ймовірність того, що есе було отримано генеративним ШІ. Більше котів-мишок. Імовірно, детектор має бути надійно захищений за допомогою пароля, або потрібні інші засоби чи методи роботи з криптографічними підходами (можна використовувати різноманітні методи, орієнтовані на ключ і без ключа).

Вчитель може зіткнутися з можливістю наявності десятків або сотень генеративних програм ШІ, доступних для використання в Інтернеті. У такому випадку спроба змусити всіх використати цифрові водяні знаки та необхідність вставляти есе в усі з них, ну, це стає ще більш спокусливим і логістично складнішим.

Більше ніяких есе поза класною кімнатою

Певна перспектива полягає в тому, що вчителям, можливо, доведеться відмовитися від використання зовнішніх есе. Усі есе мають бути написані лише в контрольованому середовищі класу.

Це має багато-багато проблем.

Припустімо, що студенту зазвичай потрібно десять годин, щоб написати конкретний повномасштабний твір, який є класним проектом. Як це можна зробити в класі? Чи збираєтеся ви розбити це на частини, а учень напише невеликий фрагмент есе протягом кількох днів? Подумайте про труднощі, які це створює.

Дехто стверджує, що, можливо, справу роздувають.

Викладачі повинні робити те, що вони завжди робили щодо плагіату студентів. Наперед вчитель заявляє, що плагіат є серйозною проблемою шахрайства. Підкресліть, що будь-яким способом використання генеративного ШІ вважатиметься шахрайством.

Встановіть покарання, які мають значну вагу, наприклад, низьку оцінку, залишений клас або виключення зі школи, якщо справа зайде настільки далеко. Вимагайте від студентів письмового підтвердження для кожного зовнішнього есе, що те, що вони здали, є їхньою роботою (зроблено це без допоміжних засобів, таких як генеративний ШІ, копіювання з Інтернету, залучення однокурсників, залучення батьків, оплата за виконання та так далі). Крім того, вимагайте, щоб студенти перерахували будь-які онлайн-інструменти, які використовувалися під час підготовки роботи, у тому числі особливо звернувши увагу на будь-яке генеративне використання ШІ.

Викладач може або не може використовувати програму-детектор, щоб спробувати визначити, чи подане есе ймовірно є програмою генеративного штучного інтелекту. Це потенційно обтяжливий крок, залежно від того, наскільки легко використовувати детектори та отримати доступ.

Імовірно, вчителі повинні вже вживати заходів щодо визначення того, чи здаються зовнішні письмові есе законними. Виконуючи написання есе на уроці, є шанс порівняти та зіставляти, усвідомлюючи, що часу на написання в класі менше, а також може бути ускладнено обмеженням доступу до онлайн-довідкових матеріалів.

Суть полягає в тому, що ми не повинні йти шляхом різкої відмови від використання зовнішніх есе. Дехто визнає це необдуманим вчинком, який, здається, нагадує викидання дитини разом із водою (стара приказка, можливо, варто відмовитися).

Якщо зовнішнє письмо повністю припинено як навчальну діяльність, ймовірно, вилучення цієї, здавалося б, повсякденної навчальної діяльності з навчальної програми матиме серйозні та тривалі недоліки. Існує компроміс. Скільки студентів будуть обманювати, незважаючи на всі вищезазначені стримування та противаги? Скільки студентів не будуть шахраювати і, отже, продовжуватимуть використовувати корисний навчальний підхід, щоб розвивати свої письменницькі здібності?

Теоретично, сподіваємося, відсоток шахраїв буде досить малим, щоб зовнішнє письмо все ще було заслугою для переваги студентів.

Висновок

ШІ може бути головним болем.

Для вчителів ШІ може бути як благословенням, так і прокляттям. У будь-якому випадку це означає, що вчителі повинні знати про ШІ, а також про те, як боротися з поворотами ШІ, пов’язаними з їх викладацькою діяльністю, що є ще одним додатковим тягарем для їхніх і без того надмірно розтягнутих спин і плечей. Вітання вчителям скрізь.

Можливо, ми можемо побажати, щоб ШІ пішов.

Ні.

Розумієте, ми не збираємося повертати годинник назад і викреслювати генеративний ШІ. Хто закликає до цього, той мрійник. І, осторонь, я використовую слово «І» як перше слово третього речення цього абзацу (на жаль, віддаю ключ!), генеративний ШІ тут залишиться.

Ось суфлер, щоб розгорнути гарячі дискусії: Генеративний штучний інтелект стане все більш поширеним і матиме ще більше вражаючих і тривожних можливостей.

Падіння мікрофона.

Наразі остання думка.

Шекспір ​​знаменито писав: «Бути чи не бути: ось у чому питання».

Я запевняю вас, що генеративний ШІ буде. Це вже є.

Ми маємо зрозуміти, як ми хочемо, щоб генеративний ШІ увійшов у наше життя, і як суспільство вирішить формувати та спрямовувати таке використання. Якщо вам коли-небудь знадобилася причина задуматися про етику штучного інтелекту та право штучного інтелекту, можливо, генеративний штучний інтелект підштовхне вас до пошуку того, ким ми є, навіть якщо ми не знаємо, ким ми можемо бути (приховане посилання на Шекспіра).