Чи може блокчейн забезпечити огорожу, щоб ШІ продовжував курс?

Штучний інтелект (ШІ) і блокчейн — нові цифрові технології, які захоплюють уяву громадськості, але також викликають серйозне занепокоєння.

Тож варто запитати: чи можна інтегрувати штучний інтелект і блокчейн таким чином, щоб принести користь людству?

Є підстави так думати. Ще в 2016 році Віталік Бутерін писав, що спільноти криптоекономіки та безпеки штучного інтелекту «намагаються впоратися з фундаментально однаковою проблемою» щодо того, як регулювати складні та розумні системи з «непередбачуваними властивостями».

Обидва вони покладаються на керування фактично «тупими» системами, «чиї властивості після створення є негнучкими». Наприклад, коли смарт-контракт реалізовано, його неможливо змінити. Обидві громади «повинні більше прислухатися одна до одної», підсумував він.

Минулого року з появою ChatGPT та інших генеративних інструментів ШІ зростає занепокоєння, що ШІ може вийти з-під контролю. Люди можуть втратити контроль над автономними системами зброї в одному кошмарному сценарії.

Таким чином, думка про те, що блокчейни та смарт-контракти можуть якимось чином служити огорожею, щоб запобігти відхиленню моделей штучного інтелекту від курсу, набирає популярності.

«Кожен, хто працює в криптографії, відіграє особливу роль у тому, щоб AGI працював добре», — сказала Еллісон Дуетманн, президент Інституту прогнозування, на нещодавній конференції SmartCon 2023. Це особливо актуально, враховуючи прогнози про те, що штучний загальний інтелект, або AGI, де машини досягають людського рівня інтелекту, може з’явитися раніше, ніж пізніше.

Про це потенційне злиття штучного інтелекту та технології блокчейн також думали керівники ІТ, які брали участь у нещодавно опублікованому опитуванні, проведеному на замовлення Casper Labs. Майже половина (48%) з 608 ІТ-лідерів, опитаних у Сполучених Штатах, Європі та Китаї, погодилися, що «інтеграція штучного інтелекту та технології блокчейн має потенціал для революції в нашій галузі, забезпечуючи покращену безпеку даних, прозорість та ефективність».

Додаткові технології, зростаючий імпульс

Основна ідея полягає в тому, що незмінні реєстри блокчейнів, які не піддаються підробці, разом зі смарт-контрактами можуть стати огорожею для впровадження ШІ, забезпечуючи відповідальний штучний інтелект. Дехто вважає, що блокчейн може навіть служити своєрідним «вимикачем» для моделей ШІ, які вийшли з-під контролю. 

В опитуванні Zogby Analytics, проведеному на замовлення Casper Labs, 71% ІТ-лідерів сказали, що вони «розглядають блокчейн і ШІ як додаткові технології». Крім того, на запитання, як їхні організації зараз використовують блокчейн, «найпопулярнішою відповіддю в цілому була ефективна робота зі ШІ (51%)».

Крім того, 1 листопада президент США Джо Байден видав указ про встановлення нових стандартів безпеки та захисту ШІ. Наказ спрямований на захист громадськості від широкого спектру ризиків, включаючи небезпечні біологічні матеріали, створені штучним інтелектом, шахрайство та обман за допомогою штучного інтелекту.

Цей наказ «створив великий імпульс», — сказав в інтерв’ю Cointelegraph Мрінал Манохар, генеральний директор і співзасновник Casper Labs, яка має блокчейн рівня 1, орієнтований на бізнес. Управління штучним інтелектом сьогодні привертає увагу багатьох ІТ-спеціалістів підприємств.

Чи бачить він більше компаній, які запускають справжні проекти ШІ/блокчейну? «Ми очікуємо, що 2024 рік стане роком великих POC [доказів концепції] та MVP [мінімально життєздатних продуктів]. І після цього я очікую, що з’являться реальні варіанти використання», — сказав Манохар.

Але, звичайно, тут є перешкоди, включно з масштабуванням. Швидка перевірка транзакцій у децентралізованих блокчейнах великого обсягу залишається проблемою, незважаючи на те, що нещодавно було досягнуто прогресу.

У часто цитованій статті 2021 року Бен Гарфінкель, директор Центру управління штучним інтелектом, написав, що «встановлені блокчейни без дозволу, включаючи Ethereum, надто неефективні, щоб запускати щось, окрім досить простих програм». Навіть програма, «яка перевіряє, хто виграв партію в шахи, суперечить поточним обмеженням Ethereum».

Журнал: Вторгнення в Ліберленд: ухилення від охоронців із камерами, приманками та дипломатами

Проте, якщо смарт-контракти «коли-небудь стануть достатньо надійними», сказав Гарфінкель, вони можуть бути корисними як механізми перевірки для міжнародних угод, спрямованих на управління системами ШІ.

Casper Labs явно оптимістичніші. «У змаганні за вирішення проблеми «чорної скриньки» штучного інтелекту блокчейн стає універсальним рішенням, на яке ми чекали, щоб включити вкрай необхідну прозорість», — написав Манохар у звіті. Внутрішня робота систем штучного інтелекту в основному невидима для користувачів, отже аналогія з «чорним ящиком».

Гібридне блокчейн рішення

І все-таки, як технологію блокчейн можна розглядати як рішення проблеми «чорної скриньки» ШІ, якщо вона навіть не може масштабуватися?

«Проблему масштабування можна вирішити за допомогою гібридних блокчейнів», — сказав Манохар Cointelegraph. Сьогодні ніхто не говорить про розміщення величезних наборів даних в Ethereum або у власному блокчейні рівня 1 Casper Labs. Рішення Casper Labs передбачає використання як дозволених (приватних) блокчейнів, так і публічних (недозволених).

«Люди змусили себе думати, коли вам потрібно бути повністю дозволеним або повністю відкритим», — сказав Манохар, далі пояснюючи:

«У гібридному блокчейні у вас є власний приватний блокчейн, який належить вам. Ви керуєте цим, ви налаштовуєте його та можете зробити так, щоб він працював так швидко, як вам заманеться, оскільки у вас обмежений набір валідаторів».

А громадський ланцюг? Це більше для контролю версій і ведення записів. Наприклад, ви можете зареєструвати нову версію ШІ в публічному ланцюжку. «Краса цієї гібридної моделі полягає в тому, що ви вибираєте, коли вам потрібна незмінність від публічного ланцюга, і коли ви просто керуєте своєю інфраструктурою самостійно», — сказав Манохар.

Поки ви належним чином зберігаєте посилання в загальнодоступному блокчейні, «ви завжди можете переконатися, що ці дані не були підроблені, оскільки якщо вони були підроблені, хеші не збігатимуться».

Крім того, все, що ви хочете перевірити, ви можете розмістити в загальнодоступному блокчейні, оскільки це захищено від втручання. Тож «кожного разу, коли я змінюю штучний інтелект або щоразу, коли використовую новий набір даних, я надсилаю пінг до загальнодоступного блокчейну», — сказав Манохар.

Велика проблема штучного інтелекту сьогодні полягає в тому, що людина не знає, коли щось йде не так. Але блокчейни надають спосіб, так би мовити, відкотити стрічку назад, тому що вони дуже серіалізовані та з міткою часу.

Таким чином, якщо модель штучного інтелекту «почне виявляти ознаки галюцинацій або властивих упереджень, ви можете просто повернути систему штучного інтелекту назад до останньої ітерації, у якій ці проблеми були відсутні, і згодом діагностувати, звідки надійшли дані про проблему», — зазначає Casper Labs у своєму веб-сайт.

Але інші не впевнені, що блокчейн може вирішити проблему «чорної скриньки» ШІ.

«Описувати «прозорість» блокчейну як протиотруту від проблеми «чорної скриньки» штучного інтелекту вводить в оману», — сказав Cointelegraph Самір Равашдех, доцент і директор Дослідницького центру штучного інтелекту в Дірборні при Університеті штату Дірборн.

Це не робить внутрішню роботу моделі машинного навчання більш зрозумілою та не пояснює, «яким чином певний результат відстежує вихідні дані навчання».

Те, що Casper Labs насправді пропонує, припустив Равашде, це «система контролю версій» — хоч і з деякими приємними функціями — яку можна використовувати «для відстеження розробки та розгортання моделі ШІ».

Тим не менш, блокчейн може опосередковано вирішити проблему «чорної скриньки», додав Равашде, запропонувавши аудиторський слід, який допомагає забезпечити цілісність даних, походження та прозорість у наборах даних, які використовуються для навчання моделей ШІ. Але це не робить фактичний процес прийняття рішення більш тлумачним.

Коли машини вступають у змову проти людей

Забігаючи наперед, виникає занепокоєння навколо штучного загального інтелекту: чи може блокчейн допомогти уникнути тих поганих сценаріїв, коли моделі AGI скасовують вибори або навіть переслідують війни? 

«Насправді це може дуже допомогти», — відповів Манохар. Блокчейн «був би найкращим аварійним перемикачем» для моделі штучного інтелекту, якщо її електроенергія «проходить через повністю децентралізований блокчейн».

Тобто блокчейн і його люди-валідатори вирішують, чи отримує модель ШІ живлення чи ні. «Завжди є сигнал аварійного перемикання, коли, якщо всі валідатори згодні, вони можуть просто вимкнути мережу, закрити ШІ доступ до живлення», — сказав Манохар, додавши:

«Насправді це може діяти як неймовірно потужний вимикач для цих кошмарних сценаріїв».

Підозри залишаються

Існують інші потенційні перешкоди цій інтеграції блокчейну та ШІ. З одного боку, «у спільноті штучного інтелекту є просто багато підозр щодо криптовалюти», — сказав Дуеттманн. Крипто і блокчейн все ще викликають у багатьох пам’ять про шахрайство з незамінними токенами та іншу неприємну поведінку.

Тим не менш, коли його запитали, чи бачить у Foresight більше пропозицій щодо фінансування проектів штучного інтелекту/блокчейну, Дуеттманн відповів: «Зараз у космосі багато чого схоже на рух». Вона бачить, у середньому, близько п’яти пропозицій щодо фінансування на тиждень, які поєднують блокчейн і технології ШІ. Звичайно, Інститут може профінансувати лише незначну частину з них, але «це точно зібрано багато».

Що стосується двох спільнот, то «зрештою, їм є чому навчитися одна в одної», — сказала вона. У своєму виступі на SmartCon 2023 вона зазначила, що криптоіндустрія дуже добре розбирається в мережевій безпеці, часто використовуючи «червоне об’єднання», коли команди шукають дані, які спричиняють катастрофічну поведінку. «Давайте поширимо «червону команду» на моделі машинного навчання», — запропонувала вона.

Більше визнання в Китаї

Інтеграція штучного інтелекту та технології блокчейн, здається, сприймається особливо прихильно в Китаї. В опитуванні Casper Lab 68% респондентів ІТ-спеціалістів Китаю погодилися з тим, що «інтеграція штучного інтелекту та технології блокчейн має потенціал зробити революцію в нашій галузі, забезпечивши покращену безпеку даних, прозорість та ефективність». Для порівняння, у США ця частка становила 48%, а в Європі – лише 34%.

Нещодавно: посилення впровадження блокчейну завдяки збереженню технологій на серверній частині

Чому так високо в Китаї? За словами Манохара, Китай вороже ставився до криптовалют в останні роки, але залишається позитивним щодо технології блокчейн. Деякі муніципалітети помістили документи на землю в блокчейн. Китай розглядає технологію блокчейн як ефективний механізм сертифікації та відстеження.

Для порівняння, на Заході «всі думають, що блокчейн — це просто криптовалюта», — стверджував Манохар. Але цей освітній розрив, ймовірно, скоротиться. У довгостроковій перспективі «все повертається до середнього».

Це програма-вбивця блокчейну?

Манохара запитали, чи може злиття штучного інтелекту та блокчейну в кінцевому підсумку призвести до довгоочікуваного «додатка-вбивці» блокчейну.

«Це міг бути один із них», — відповів він. Протоколи управління відстеженням і відстеженням блокчейну для секторів ланцюга поставок і фінансових технологій також є кандидатами, але ці дві сфери мали прийнятне управління до появи блокчейнів і смарт-контрактів.

Для порівняння, «в штучному інтелекті немає системи державного управління. Тому є набагато більше простору для інновацій. Тож я справді думаю, що це може стати вбивцею блокчейн-програми», — сказав він Cointelegraph.